数据成本激增
极端场景覆盖:训练数据需包含暴雨、夜间低光等罕见场景,且需避免隐含偏见(如行人检测需覆盖不同肤色、体型)。某车企通过数据清洗将误判率降低72%,但数据获取成本高昂,单一场景数据采集成本可达数百万美元。
合规数据治理:需建立数据可追溯性机制(记录数据来源、采集条件及标注过程),并满足《数据安全法》等法规要求,数据本地化存储和跨境传输限制进一步推高成本。
解决方案:采用联邦学习技术(如吉利与腾讯、华为合作开发多模态感知数据集),通过合成数据技术生成极端场景数据,降低数据获取成本;利用数据质量控制工具(如Google Cloud Data Fusion)清洗数据,提升数据利用率。
硬件与软件协同成本
冗余设计需求:为满足安全要求,AI芯片需采用双SoC、备用电源等冗余设计,硬件成本增加30%-50%。例如,蔚来汽车的NOP+系统通过双激光雷达+三摄像头方案,结合冗余算法,将系统失效概率从0.1%降至0.01%,但硬件成本显著上升。
算力与安全平衡:芯片算力提升可能伴随安全风险增加,需通过安全岛隔离机制(如地平线征程6系列计算方案的双芯片冗余设计)确保算力提升与风险可控。
解决方案:采用轻量化冗余模块(在关键场景下触发冗余机制,而非全场景冗余),降低硬件成本;推动芯片供应商在设计阶段定义安全岛隔离机制,减少后期改造成本。
认证与合规成本
重复认证风险:各国监管对AI安全的具体量化指标(如可接受的事故率、模型更新频率)尚未统一,导致企业需进行多次认证。例如,某车企在欧盟建立测试团队,满足DCAS认证中“至少在一个运行国家交通情况下评估系统”的要求,认证成本增加20%-40%。
长期维护成本:部署后需通过OTA更新迭代优化模型,并投入资源维护实时监控系统。吉利汽车通过建立云端安全运营中心(SOC),将系统干预响应时间缩短至0.3秒,但长期运维成本高昂。
解决方案:推动ISO/PAS 8800与欧盟GSR、UN R171-DCAS等法规衔接,避免重复认证;成立“技术管理委员会”,整合研发、市场、法务等部门资源,降低合规成本。
与现有标准的协同
功能安全(ISO 26262):ISO 26262关注硬件和软件的可靠性,而ISO/PAS 8800扩展到AI算法的鲁棒性和数据质量。例如,AI系统随机硬件故障由ISO 26262硬件安全机制管理,功能不足或操作不当则结合ISO 21448的场景库开发与风险评估方法处理。
预期功能安全(ISO 21448):ISO 21448主要关注场景风险,但落地性不足、AI相关描述模糊。ISO/PAS 8800通过量化与定性相结合的安全需求分解方法(如要求自动驾驶系统在99%的场景下实现安全决策,并明确剩余1%场景的降级处理策略),弥补ISO 21448的短板。
网络安全(ISO 21434):ISO/PAS 8800填补了ISO 21434未涉及的AI特定网络攻击防护空白。例如,腾讯科研实验室曾披露的篡改物理场景攻击特斯拉算法,传统加密手段无法应对,而ISO/PAS 8800通过引入对抗样本防御机制(如防御性训练、传感器干扰检测),将对抗攻击成功率从行业平均的15%降至≤1%。
系统集成复杂性
硬件与软件不匹配:硬件和软件在设计、开发和测试过程中可能存在不匹配或冲突的问题,增加系统的不确定性和风险。例如,传统工具链(如Simulink)无法支持神经网络模型的可追溯性管理,需额外采购AI合规平台(如Ansys SCADE AI)。
端到端模型验证难题:端到端AI模型凭借大规模数据集和高效运行能力,性能对传统模块化模型形成碾压,但无法进行小颗粒度验证,整体验证难度极大。例如,Waymo基于谷歌Gemini开发的EMMA多模态模型,虽融入思维链功能(输出决策时同步呈现推理过程),但验证成本高昂。
解决方案:采用模块化设计规范,提高零部件复用率(如某装备制造企业通过ISO/PAS 8800认证将通用件比例从30%提升至65%,降低研发成本18%);借鉴行业前沿实践(如Waymo的思维链功能),优先选择透明化架构(如DNN生成和优化边界框的过程、YOLO算法的S×S网格切分逻辑),纳入安全管控。
数据隐私与商业机密限制
数据共享壁垒:AI芯片安全设计需跨企业协作(如车企、芯片供应商、科技公司),但数据隐私与商业机密限制数据共享。例如,某车企与科技公司合作开发数据集时,需通过联邦学习或差分隐私技术实现数据“可用不可见”,但技术实施成本高昂。
解决方案:建立安全数据共享平台(如吉利与腾讯、华为合作开发数据集),通过联邦学习或差分隐私技术实现数据共享;引入第三方服务机构(如上海秒尼科技术服务有限公司)提供安全认证服务,填补国内空白。
供应链权力重构
芯片厂商角色转变:芯片厂商(如高通、英伟达)需提供预认证AI套件,否则无法进入车企采购清单。例如,地平线基于ISO/PAS 8800建立的AI安全流程体系通过美国权威认证机构exida的认证,成为全球首张且唯一的ISO/PAS 8800认证证书的获得者,为其芯片产品进入全球市场提供了“安全信任护照”。
车企与供应商关系变化:头部车企通过合规前置化降低边际成本(如大众集团投资8亿欧元建立中央AI安全平台,兼容双标验证流程,使单车认证成本下降40%),而中小车企被迫放弃高阶自动驾驶,聚焦L2以下功能规避标准适用范围。
解决方案:推动车企、芯片供应商、科技公司共建自动驾驶场景库联盟,提升全行业安全水平;车企通过参与国际标准制定(如WP.29等国际法规制定),推动中国场景(如复杂城区路口)纳入全球测试标准。
长期生态演进
标准迭代压力:ISO/PAS 8800当前处于DIS阶段,预计2025年发布最终版,后续将纳入AI伦理、人机交互安全等新增条款。企业需关注标准动态,避免技术合规风险。
伦理与安全融合:需建立AI安全伦理委员会,应对欧盟对算法偏见、决策透明度的潜在审查。例如,吉利汽车通过构建模型决策日志,实现关键场景下的决策路径回溯,满足标准对安全决策可追溯性的要求。
解决方案:企业需持续迭代安全体系(如地平线科技通过“软硬协同”技术,将认证标准转化为可量产的解决方案,降低主机厂开发成本),并参与国际标准制定,推动中国场景纳入全球测试标准。
推荐阅读:
亚远景-ASPICE与ISO 26262:汽车软件安全与质量的双标
亚远景-ISO 26262与ISO 21434:汽车安全标准的双基石
亚远景-从标准到文化:ISO/PAS 8800能否定义“可信AI”的全球伦理?
亚远景-软件定义汽车背景下,ASPICE评估如何量化“可升级性”与“可维护性”
亚远景-避免踩坑!ISO/PAS 8800认证中的常见问题与解决方案
推荐服务:
点击查看亚远景ASPICE、ISO26262实施工具-APMS研发过程管理平台
