基于项目需求确定国产 AI
平台的总体架构设计，完成硬件单元的选择和搭建以及开发工具链的配置工作。
4.1 国产 AI 平台总体架构
本文设计了一套灵活高效的国产 AI 平台总体架构，设计方法是在嵌入式平
台上使用串行总线（ Peripheral Component Interconnect express ， PCIe ）或者 RJ45
以太网口，采集 1080P 大小的图像数据流，再通过相关硬件单元和软件环境的协
同工作，实现对目标检测算法的前向推理和检测效果的实时显示。因此设计了如
图 4-1 所示的处理流程架构。
从上图可以看出处理的主要流程为：
（ 1 ）通过上位机完成算法开发工作，将程序烧写至计算处理模块上；
（ 2 ）视频采集模块通过摄像头获取实时检测画面。通过基于 FPGA 的图像
采集设备将数据经过 PCIe 接口传送至计算处理模块，或者通过网络摄像头直接
传送至计算处理模块中的视频处理芯片；
（ 3 ）计算处理模块中的 CPU 控制视频处理芯片的编解码实现，将满足模型
格式需求的像素值传送至 NPU 进行前向计算，将推理完成的结果送至 CPU 进行
后处理，在 GPU 上进行图像界面和相应功能的显示；
（ 4 ）完成图像检测结果的存储并在结果显示模块上实时输出。
4.2 国产 AI 平台硬件方案
在完成国产 AI 平台的总体架构设计后，需要进行计算平台、采集卡和摄像
头的选型工作。选择合适的硬件设备可以确保国产化、实时检测以及性能稳定性。
首先，计算处理模块的选型需要结合平台的实时检测需求和性能要求，它负
责对采集到的视频数据进行实时的目标检测和分析，因此需要选择性能稳定、计
算能力强大的设备，以确保平台能够实时响应并准确识别目标。
其次，采集卡的性能直接影响到视频数据的传输速度和稳定性，因此需要根
据平台的需求选择适当的采集卡，确保其能够满足高速数据采集和稳定传输的要
求。
最后，对于摄像头的选型，需要考虑到拍摄画质、视野范围、光线条件以及
防护等因素。选择适合的摄像头可以确保平台获得高质量的视频输入，从而有利
于后续的目标检测和分析。
4.2.1 国产 AI 芯片选型
根据在网络中的位置， AI 芯片可以分为云端、边缘和终端三大类 [63] 。云端
AI 芯片主要用于数据中心或云计算平台，用于处理大规模的数据和复杂的计算
任务。边缘 AI 芯片在接近数据源的地方进行实时数据处理和分析，通常具有较
低的功耗和较小的尺寸，能够在资源有限的环境中执行深度学习推理任务。终端
AI 芯片是专门为物联网设备和嵌入式系统设计的，以实现本地的智能感知和决
策，通常具有极低的功耗和极小的尺寸，能够在资源极其有限的设备上运行轻量
级的深度学习模型。
目前，结合特定场景的应用已经成为推动 AI 产业发展的主要动力，因此国
内厂商纷纷投入到 AI 芯片的研发与生产中。表 4-1 对一些具有代表性的国产 AI
芯片进行了介绍，图 4-2 重点从功耗和性能上对这些芯片进行了对比。
从表 4-1 和图 4-2 可以看出，在综合考虑功耗与算力后，只有海思 Hi3559A
V100 和瑞芯微 RK3588 能够满足课题需求。前者的 AI 框架支持较少，后者的功
耗略高。除此之外，两者在算力和图像处理能力等多方面性能接近，都适合作为
目标检测算法的部署平台。
4.3 国产 AI 平台软件方案
由于 RK3588 硬件资源有限，在国产 AI 平台上进行整个深度学习应用流程
是不可行的。本文结合多方资源，将深度学习开发过程进行了细分，形成了如图
4-7 所示的开发模式。
