Anthropic呼吁暂停AI开发！最新AI模型已显现可能脱离人类控制迹象

经历过去小半年的爆发式增长后，Claude Code开发商Anthropic终于登顶“最值钱AI创业公司”的宝座。

不过，公司在昨日发布的报告中指出，最新AI模型已开始显现脱离人类控制迹象，全球各大企业应考虑放缓乃至暂停开发先进AI系统。

该公司认为，全球各大公司放缓前沿AI开发“很可能是好事”，但如果只有一家公司停下来的话，竞争对手就会加速前进。

“这个世界应有减缓或暂时停止前沿AI开发的选项，以便社会制度建设和对齐研究能跟上技术进步的脚步”。

Anthropic认为，美国、中国等全球主要AI公司应达成共识，并发布一套所有参与方都能验证的规则：“如果没有全球协调机制，企业和政府将在竞争和地缘政治压力下，对安全问题作出艰难决策”。

此外，Anthropic还将上述观点描述为“核武器不扩散条约”，但AI相比核武器更难监管，因为训练AI相比发射导弹更容易隐藏，而且各大公司会在利益诱惑下继续偷偷开发先进AI。

Anthropic表示，将在未来几个月召集政府官员、科学家、倡导组织及竞争对手，共同探讨这种全球协调机制如何运作。