站内导读

中文

定位 英特尔开源的 AI 推理优化与部署工具包:把深度学习模型加速后部署到从边缘到云端的各类硬件上,覆盖从边缘设备到云端推理的完整场景。 核心能力

  • 优化计算机视觉、语音识别、生成式 AI 与自然语言处理等任务的推理性能。
  • 支持 PyTorch、TensorFlow、ONNX、Keras 等框架训练的模型,可直接转换部署。
  • 覆盖 CPU、英特尔集成与独立 GPU、AI 加速器 NPU 等多种推理硬件。
  • 提供教程与示例笔记本,含 LLM 聊天机器人、YOLOv11 与 Whisper 语音识别。

适用人群 需要在英特尔硬件上跑模型推理的开发者,以及做边缘 AI 与端侧部署的工程团队。 注意 安装只需 pip install openvino 一条命令;系统要求与支持设备清单以官方文档为准,部署前先核对。

相关项目 · GitHub 热门

查看全部「GitHub 热门」项目 →