美议员拟提AI监管法案 禁止递归自我改进

驱动中国9月30日消息，据CNBC报道，当地时间28日，代表硅谷选区的美国民主党联邦众议员罗·康纳准备提出一项AI监管法案，拟在政府建立安全防护机制并获得监管机构批准前，禁止AI模型进行递归式自我改进。

该法案名为《人类控制AI法案》。法案提出引入严格责任标准，并规定AI模型不得在缺乏政府安全防护机制的情况下递归式自我改进，也不得自主修改自身核心目标、遏制机制或关停控制。

康纳表示，AI存在文明灭绝风险，失控安全风险与滥用风险均需认真对待。法案设计主要源自他与多家独立非营利AI安全组织的交流，而非大型AI公司高管提出的诉求。

法案计划设立新的联邦机构，负责制定AI安全监管规定，通过许可制度审批模型训练和部署，对前沿AI模型开展审计，并制定安全标准，确保模型持续接受测试并处于有效人类控制之下。

每家前沿AI实验室须配备独立审计人员，由审计人员直接向新机构报告。新机构还将制定多项标准，包括沙盒测试环境、使测试环境与互联网断开的物理隔离、紧急关闭开关，以及防止模型脱离实验室环境后在互联网上自行运行的控制措施。

前沿AI实验室使用的先进芯片也将纳入监管，包括建立监测或控制芯片使用的机制。

法案还为AI出现问题的情形增设法律处罚。部署AI模型如果导致平民群体遭到毁灭，将被列为“危害人类罪”并追究刑事责任。AI公司员工如果停用防护措施、紧急关闭开关、日志记录功能或遏制系统，或者明知某套系统未经授权仍予以部署，同样面临刑事处罚。

此外，AI公司必须持有覆盖范围广泛的责任保险，才能发布模型。

康纳称，该法案是迄今提出的全面AI安全立法，希望其成为范本，让AI安全界拥有发声渠道。他认为，AI安全界一直被不公平地当成只是在谈科幻，没有得到足够重视，应由AI安全界而非前沿AI实验室高管主导讨论。