边缘人工智能(Edge AI)是指将人工智能算法部署在本地设备上,而不是集中在服务器上。这种设置需要特定类型的硬件,能够在数据生成或使用的地方附近进行数据处理和推理。用于边缘人工智能的主要硬件组件包括边缘设备、专用处理器和传感器。
边缘设备涵盖了各种类型的硬件,如网关、物联网设备和智能手机。例如,智能摄像头可以在本地处理视频流,以检测运动或识别面孔,而无需将所有数据发送到云服务器。另一个常见的例子是工业物联网传感器,它可以实时分析数据,以监控设备健康并预测维护需求。这些设备必须具备足够的计算能力和内存,以高效地处理人工智能任务,同时在移动应用中也要节能,以延长电池寿命。
专用处理器在边缘人工智能中发挥着关键作用,提供所需的计算能力。这些处理器可以包括现场可编程门阵列(FPGAs)、应用特定集成电路(ASICs)和图形处理单元(GPUs)。一种用于边缘人工智能的ASIC的例子是谷歌的Coral Edge TPU,专为快速推理任务而设计。像Xilinx Versal AI Core这样的FPGAs,则提供了定制硬件加速的灵活性。总之,各种边缘设备以及FPGAs和ASICs等专用处理器构成了边缘人工智能的硬件生态,能够在数据生成的源头进行高效和实时的决策。