ISO/PAS 8800:2024《道路车辆—安全和人工智能》简介：
ISO/PAS 8800:2024《道路车辆—安全和人工智能》背景与意义
随着汽车智能化发展，自动驾驶和智能座舱等技术快速进步，但人工智能在汽车领域应用面临安全性、数据质量与管理、技术标准规范缺失、公众认知和接受度等挑战。该标准旨在规范汽车领域人工智能技术应用，提高系统安全性、可靠性和兼容性，推动汽车智能化健康发展。
ISO/PAS 8800:2024《道路车辆—安全和人工智能》适用范围
适用于量产道路车辆中使用人工智能技术的安全相关电气和/或电子系统，不包括轻便摩托车及为残疾驾驶员设计的特殊车辆中的独特电子电气系统。
ISO/PAS 8800:2024《道路车辆—安全和人工智能》核心内容
- AI安全生命周期：
- 需求分析与定义：明确人工智能系统的功能需求和安全目标，确定系统的预期用途和操作环境。
- 系统架构设计：基于需求分析，设计人工智能系统的架构，包括选择合适的人工智能技术、确定数据需求和接口规范。
- 数据收集与处理：收集和处理用于训练和验证人工智能模型的数据，确保数据的质量和多样性。
- 安全评估与验证：对人工智能系统进行安全评估，验证其是否满足已定义的安全需求。
- 安全性保证论据的评估：评估类似于ISO 26262中安全档案的安全性保证论据，支持AI系统针对其安全要求和属性的符合性。
- 部署与持续监控：将系统部署到实际环境中，并进行持续监控，以发现潜在的安全风险，并进行必要的维护和优化。
- 故障类型及示例：
- 系统性失效：包括过拟合、概念漂移、数据偏差、存在安全漏洞等。
- 随机硬件故障：如传感器读数错误、内存损坏、供电系统不稳定、电磁干扰和温度过高等。
- 功能不足：训练数据不足或分布偏差导致模型泛化能力不足、模型训练过程中存在偏差、性能指标不足等。
- 操作不当：错误配置、错误使用、恶意操作等。
- 数据质量控制：强调数据对AI系统的重要性，建议采取相应的数据质量控制措施，在数据处理和分析过程中考虑数据对安全性的潜在影响。
- 安全运维措施：提出在AI系统部署后，要持续监控其性能和输出，确保系统稳健运行，可收集现场数据分析和优化AI模型，根据现场数据和反馈更新或重新训练AI模型。
ISO/PAS 8800:2024《道路车辆—安全和人工智能》作用
为汽车行业内的人工智能应用提供了一套系统的安全框架，围绕AI的安全生命周期、系统要求和设计等方面提供了清晰规范，有助于汽车制造商和供应商构建可靠的汽车人工智能系统，提升智能汽车整体安全性。