美国参议院拟议新法案：AI 企业需证明自身已拿出防范风险的措施

9 月 15 日消息，据路透社今天（15 日）报道，美国参议院一名助理和一名熟悉磋商情况的游说人士透露，美国参议院谈判各方就一项 AI 监管法案展开讨论。法案拟要求 AI 企业证明自身已采取合理预防措施，防止旗下工具造成伤害。

上周，Anthropic 研究员雅各布 · 考克森宣布辞职，提到部分原因是：“开发 AI 的人真心相信，这项技术可能在本世纪 20 年代结束前杀死我们所有人。”

这番表态加剧了外界对 AI 潜在危险的担忧。几家 AI 巨头的负责人随后呼吁放缓技术发展，全球 AI 概念股在当地时间 14 日纷纷迎来下跌。

上述两名知情人士透露，议员们考虑赋予美国商务部长权力，要求 AI 开发者拿出证据，证明履行了“注意义务”，即采取合理措施防止伤害。商务部长还可派政府审计人员直接测试企业产品。不过，法案仍处于磋商阶段，即便国会通过，成为法律的希望也不大。

上周五的消息称，谈判各方还考虑让联邦法院参与处理另一种情况：美国政府认为某些 AI 模型不安全，希望阻止发布。企业可以向联邦法院提出异议，挑战政府的决定。美国政府究竟能获得多大权力、具体如何安排，仍有待磋商。

获悉，另一名游说人士和一名参议院助理透露，涉及联邦法院的条款还拟禁止各州执行本州法律中针对 AI 模型某些风险的规定。