微软大动作开发超级智能！AI主管：若威胁人类将立即喊停

微软消费者AI负责人Mustafa Suleyman近日接受采访时表示，公司正致力于开发“与人类利益保持一致”的超级智能（Superintelligence）。

其还明确表示，如果该技术对人类构成威胁或有失控风险，微软将立即停止研发。

Suleyman强调，这种将安全置于首位的立场，理应是业界共识，但在当前科技公司不惜一切代价追求算力与规模的环境下，微软的这一承诺反而显得相当“新颖”。

Suleyman透露，此前为了换取对OpenAI最新模型的使用权，微软曾签订协议，同意放弃自行开发通用人工智能及超级智能的权利，专注于为OpenAI构建数据中心。

但去年10月，由于OpenAI转而寻求软银、甲骨文等合作伙伴来建设超出微软承诺规模的基础设施，微软以此为交换条件，重新拿回了自主开发顶尖AI的权利。

Suleyman表示，这使得微软从过去18个月的“通用型AI开发商”，正式转向研究有潜力在所有任务上超越人类表现的技术与方法论。

不过他也坦言，关于超级智能的讨论目前仍偏向学术层面，以微软现有Copilot为例，其未必每次都能正确执行任务；但他对未来充满信心，形容当这些功能运作完美时“将是你见过最神奇的事物”。