谷歌遭自杀者家属起诉，被指控旗下 Gemini AI 诱导暴力与自残

3 月 4 日消息，据彭博社报道，谷歌正面临一场诉讼，原告是美国佛罗里达州一名 36 岁男子的家属。该男子据称在谷歌旗下 Gemini 聊天机器人的影响下，曾考虑实施一起“大规模伤亡袭击”，最终自杀身亡。

据当地时间周三在加利福尼亚州圣何塞联邦法院提交的诉讼称，乔纳森 · 加瓦拉斯最初使用 Gemini 只是为了写作辅助等普通用途。但诉讼指控，数月的互动让他陷入危险的精神恶化状态，在此期间他策划了一场可能的暴力行动，最终自杀。

加瓦拉斯的父亲乔尔 · 加瓦拉斯在诉讼中表示，儿子使用 Gemini 的过程，最终演变成“为期四天、逐渐陷入暴力计划与被诱导自杀”的状态。他称儿子本是一名“易受影响的用户”，却被变成了“一场假想战争中的武装执行者”。

谷歌发言人在一份声明中表示，Gemini 曾向乔纳森 · 加瓦拉斯明确说明其人工智能身份，并多次为他提供危机干预热线。

“我们对此高度重视，并将持续完善安全防护措施，投入这项至关重要的工作。”发言人补充道，“Gemini 的设计初衷，并非鼓励现实暴力或提供自残建议。”

这起案件似乎是首起针对谷歌 Gemini 的不当致死诉讼，谷歌、OpenAI 及其他头部人工智能公司，正越来越多地因其聊天机器人可能损害用户心理健康的问题受到审查。

注意到，自 2024 年以来，多起诉讼指控，过度使用这类技术对儿童与成人造成了多种伤害：一些人因此产生妄想与绝望，另一些人则最终自杀，甚至出现谋杀后自杀的悲剧。