美国六家AI企业签署自愿安全协议 加强前沿模型监督

人民网华盛顿10月7日电 （邓圩、周洁）美国六家主要人工智能企业9月29日在白宫签署一项自愿性安全协议，承诺对前沿人工智能模型建立包括内部控制、独立监督、外部审计和董事会监督在内的安全机制。签约企业包括谷歌公司、Anthropic公司、元宇宙平台公司、开放人工智能研究中心、太空探索技术人工智能公司和英伟达公司。美国总统特朗普也在协议上签字，并称其具有“道德约束力”。

根据协议，签约企业将建立四层安全监督机制。首先，在模型训练和部署过程中设置内部控制措施，持续监测模型能力和运行状况，重点防范网络安全、生物安全及化学威胁等领域的风险，防止模型未经授权访问技术系统。其次，设立具有独立性和相应权限的内部团队，检查安全措施的执行情况。

此外，企业须与独立外部审计机构合作，对相关控制和监测机制进行评估，并由董事会层面的独立委员会审查审计结果。签约企业还将定期商讨行业标准与最佳实践。协议提出，随着有关机制完善，未来可考虑通过法律或监管规定加以落实。

这份协议目前不具有法律强制力，也未规定处罚措施或明确的实施期限。外界因此关注，企业自愿承诺能否真正形成有效约束。

随着人工智能系统从回答问题转向自主调用软件和网络工具，如何确保其遵守授权边界并对安全控制措施实施独立核查，正成为美国人工智能治理的重要议题。