边缘人工智能（Edge AI）是指将人工智能算法直接部署在网络“边缘”的设备上，而不是依赖中央服务器或云计算。这种方法利用深度学习模型执行诸如图像识别、自然语言处理或异常检测等任务，且不需要持续的互联网连接。通过在智能手机、无人机或物联网传感器等边缘设备上实施这些模型，数据处理发生在离数据源较近的地方，从而减少了延迟并增强了隐私，因为敏感数据无需传输到中央服务器。
深度学习模型是在大数据集上训练的，以识别模式并做出决策。在边缘人工智能的背景下，这些训练好的模型通常经过优化，以便在计算能力有限的设备上运行。这种优化过程可能涉及量化技术，减少模型权重所需的位数，或剪枝技术，去除模型中不太重要的部分。例如，图像分类的深度学习模型可以通过简化架构而保留足够的准确性，以便在智能手机上使用。
边缘人工智能与深度学习模型之间的互动不仅仅是效率问题，还涉及功能性。例如，配备边缘人工智能的智能摄像头可以实时识别威胁，而无需将视频流发送到云端进行分析。这一能力在需要即时反应的场景中尤为重要，例如在自动驾驶汽车中，汽车必须即时处理来自摄像头和传感器的数据，以做出安全驾驶决策。通过在边缘设备上利用深度学习模型，开发人员可以创建独立于持续云访问的复杂应用程序，从而确保更快的响应和整体用户体验的改善。