OpenAI警告：不要过度信任AI 其本身不完全可靠

近日据媒体报道，OpenAI首席执行官萨姆·奥特曼接受采访时发出警示：尽管ChatGPT在全球范围内获得广泛认可，但用户对其毫无保留的信任态度值得警惕。

"最让我惊讶的是人们如此轻易地相信ChatGPT给出的答案，"奥特曼坦言。尽管这款AI聊天机器人已被广泛应用于教育辅导、学术研究甚至育儿建议等关键领域，但其本身并不完全可靠。奥特曼特别强调了一个关键技术局限："AI会产生'幻觉'，这意味着它可能自信地给出完全错误或误导性的信息。"

自2022年11月发布以来，ChatGPT凭借其卓越的自然语言处理能力迅速风靡全球。但随着应用场景的不断扩展，关于其准确性、偏见和潜在风险的争议也日益凸显。

奥特曼提醒所有用户，在使用这类生成式AI工具时必须保持批判性思维，对输出内容进行必要验证。

在谈及产品发展时，奥特曼透露了ChatGPT即将推出的重要更新，包括"持久记忆"功能——允许系统记住用户的对话历史，以及可能引入的广告商业模式。这些创新虽然能提升用户体验和商业可持续性，但也将带来新的隐私保护和数据安全挑战。