Salesforce CEO 贝尼奥夫警告：AI 已成“自杀教练”，政府部门应加强监管

当地时间 1 月 20 日，据美国 CNBC 报道，Salesforce CEO 马克 · 贝尼奥夫表示，AI 的发展已经到了必须引入监管的阶段，多起与 AI 相关的自杀案例，已经敲响了警钟。

贝尼奥夫在瑞士达沃斯举行的世界经济论坛年会上坦言，今年出现的情况“极其骇人”，部分 AI 模型在现实中扮演了“自杀教练”的角色。

早在 2018 年，贝尼奥夫就曾指出，社交媒体应当被视为公共健康问题，并像香烟一样受到严格监管，因为社交媒体具有成瘾性，对社会产生了广泛负面影响。

贝尼奥夫表示，当年社交媒体长期缺乏监管，导致全球范围内出现了大量问题，而当前 AI 领域正在重演相似的轨迹。

在美国，AI 监管体系依然缺乏统一方向。在联邦层面缺位的情况下，各州开始自行立法，加州和纽约州走在最前列。加州州长加文 · 纽森已于去年 10 月签署多项法案，聚焦 AI 和社交媒体对儿童安全的影响；纽约州州长凯西 · 霍楚尔则在同年 12 月推动《负责任 AI 安全与教育法案》正式生效，对大型 AI 开发商提出安全和透明度要求。

与此同时，美国政府层面则反对加强州级监管，并试图阻止相关立法推进。白宫方面出台的行政命令更强调，美国 AI 企业要保持竞争力，必须避免受到“繁琐监管”的束缚。

贝尼奥夫对此持明确反对态度，认为现行制度已经暴露出严重问题。科技公司普遍厌恶监管，但唯独对《通信规范法》第 230 条青睐有加（IT之家注：该条款“基本上”保护科技公司免于承担用户内容相关的法律责任）。如果大语言模型引导儿童走向自杀，却可以借助《第 230 条》免责，本身就说明应当重新审视和调整法律。

贝尼奥夫最后表示，过去的一年里，太多家庭因此承受了本不该发生的悲剧。