强制对AI内容打标识！网信办发布《人工智能生成合成内容标识办法（征求意见稿）》

文|山茶茶

几年前网络上流行过一句话，说“开局一张图，内容全靠编”。

网友们多用它来吐槽某些营销号，它们对一些无关紧要的事情添油加醋地进行内容编造，为了博关注毫无底线地制造虚假信息。

然而生成式AI问世后，骗子们连图都不用找了。

最近总能看到一些驴唇不对马嘴的所谓科普资讯，哪怕明眼人一眼就能看穿那是AI生成的假图，但若是被不了解AI的人看到，指不定就会被带偏。

另外，网络上的AI视频也层出不穷，先不提AI换脸，就连各大影视动画IP的假预告都时常出现在我的首页。

他们利用诸如“爱死机”第四季、《冰雪奇缘3》等极具吸引力的标题，再加上一张貌似正式的AI海报就能骗到不少点击量，而等人们发现那是假视频、随即点开评论区后，一条条骗赞、不明站外链接又在等着你了。

在虚假内容如此猖獗的背景下，很多网友也在积极反馈，希望国家动手治理。

而近日，国家网信办发布了《人工智能生成合成内容标识办法（征求意见稿）》

其中要求所有的AI生成内容都要打上标识，包括文字、图像、视频、音频…

该草案也面向全社会公开征求意见，从网友评论中不难看出，大家苦AI久矣。

接下来我们节选一些《人工智能生成合成内容标识办法（征求意见稿）》的关键内容来一起讨论。

该征求意见稿的第三条先是对AI生成合成内容进行了定义，范围包括文本、图片、音频、视频等。

针对大众群体来看，这条规则首先直指的是各类自媒体，其次应该也包括了影视/游戏/动画等公司对于生成式AI的商业化应用。

条例要求符合定义的AI内容打上显著的标识，例如文本内容要插入标识符，音频内容要插入提示音等等，来提醒读者/观众此为AI生成内容。

而对于隐式标识，我们可以参考2023年全国信息安全标准化技术委员会秘书处发布的《网络安全标准实践指南》中的定义。

隐式水印标识是通过修改图片、音频、视频内容添加的，人类无法直接感知、但可通过技术手段从内容中提取的标识。

它至少包含服务提供者名称，也可包含内容 ID 等其他内容。

显然，如果该策略可以落实下来，虚假内容的传播就可以追根溯源，对于造成不良影响的团队或个人也能够更容易地被找到并追责。

而征求意见稿的第四条则更详细地规定了显式标识的位置及应用场景。

对比以往视频网站中允许用户上传内容时“自愿”选择勾选AI提示的做法，网信办要求用户必须自发在内容里面打上标识。

对于文本内容，强制要求在开头、中间、结尾打上显著标识。而音频、视频、虚拟场景则只要求在开头打标识，持续过程中则遵循自愿原则。

然而在这条规则里，目前对于添加标识的位置、字形和表达并未做出具体要求，各类企业和自媒体凭借主观想法去落实，很容易出现标识不明显、难校验等问题，对于后续监管仍然是个问题。

第六条的受众是网络平台的服务商，征求意见稿要求其加强审核，根据隐性标识分辨AI内容后，主动在内容页面上再次提醒用户此为AI生成合成内容，与前文中规定的显性标识形成双重提醒。

第十三条明确了AI虚假内容若对社会造成严重后果，官方将予以问责，但征求意见稿中暂未提及具体的处罚内容。

目前意见征集稿仍处于完善的过程中，如有相关意见，公众可通过以下途径和方式进行反馈：

1.通过电子邮件方式发送至：biaoshi@cac.gov.cn。

2.通过信函方式将意见寄至：北京市西城区车公庄大街11号国家互联网信息办公室网络管理技术局，邮编100044，并在信封上注明“人工智能生成合成内容标识办法征求意见”。

意见反馈截止时间为2024年10月14日。

征求意见稿全文

END