| 全球媒体和科技公司正积极联合,为AI生成内容建立标注规范,核心目标是应对生成式AI技术普及带来的虚假信息挑战,重塑数字时代的信任机制。以下表格梳理了此次联合行动的核心维度:
维度 | 核心内容 | 关键进展/案例 |
|---|
🤝 联合行动驱动力 | AI生成虚假信息泛滥,威胁信息生态 | 假新闻网站7个月内从49个激增至600多个 | 🛡️ 规范核心框架 | 强制标识(显式+隐式)+全链条责任划分 | 中国《标识办法》于2025年9月1日生效,欧盟《人工智能法案》等同步推进 | 🔧 技术落地路径 | 平台部署“显式提示+隐式溯源”双系统 | 抖音、今日头条等平台上线AI内容标识与元数据读写功能 | 🚧 挑战与未来方向 | 跨国标准互认、恶意规避标识、技术迭代 | 探索与“一带一路”国家共建互认标识体系 |
💡 为何全球媒体要联合制定规范?
全球媒体与科技公司之所以联合行动,核心在于应对AI生成内容带来的两大挑战:
虚假信息规模与逼真度空前:生成式AI技术大幅降低了制作逼真虚假内容的门槛。美国新闻可信度评估与研究机构的报告显示,利用AI代理创建的假新闻网站数量在短短7个月内从49个激增至600多个,这种规模化的虚假信息生产对社会信任和舆论环境构成了直接威胁。
信息真实性基石被动摇:当声音、图像、视频都可以被轻易伪造且难以分辨时,公众对媒体内容的信任基础就会受到侵蚀。联合国发展系统驻华协调员常启德指出,需要在应对虚假信息中增强信息可信度。因此,通过标注帮助公众辨别内容来源,成为维护信息真实性的关键举措。
🔬 规范如何落地?
全球范围内的规范落地,主要体现在明确的标识要求和清晰的责任划分上。
双重标识体系:规范普遍要求采用“显式+隐式”双重标识。显式标识是用户能直接感知的提示,如在AI生成文章的开头或结尾标注“AI生成”,或在音视频中加入语音提示或水印。隐式标识则是在文件元数据中嵌入如服务提供方、唯一编号等“数字指纹”,用于技术溯源和责任认定。
全链条责任分配:规范明确了从内容生成到传播各环节的责任。服务提供者需确保生成的内容自带标识;内容传播平台需核验标识并在发布时添加提示;应用分发平台则需在上架审核时核验相关功能。这种设计旨在形成管理闭环,在传播端阻断虚假信息扩散。
🛠️ 平台如何具体执行?
各大平台是规范的具体执行者,它们通过技术升级来履行责任。
功能部署:以抖音为例,平台上线了“AI内容标识功能”和“AI内容元数据标识读写功能”。前者协助创作者主动为内容打标,后者则能识别并写入溯源信息。对于站内发现的疑似AI内容或元数据中已包含标识的作品,平台会补充添加显式标识。
生态协同:更深层次的合作如“内容来源和真实性联盟”(CAI),其成员包括英国广播公司、微软、谷歌等。该联盟致力于建立一套数字内容来源认证的开放标准,确保内容从创建到传播的全流程可追溯。
🚧 面临哪些挑战与未来方向?
尽管规范已经起步,但真正构建起稳固的“真实性防线”仍面临挑战,未来发展有几个关键方向。
技术对抗与规避:显式标识可能被恶意删除,隐式标识也可能通过技术手段被抹去。因此,需要持续发展更具鲁棒性的隐式标识技术,并配合监测和溯源能力。
全球标准协同:AI生成内容跨国界传播是常态,但各国目前的标识标准、技术方案存在差异。推动国际标准协调与跨境执法互助,例如与“一带一路”国家共建互认的标识体系,是未来的重要方向。
从“是否AI生成”到“是否可靠”:目前的标识主要解决“是否由AI生成”的问题。长远看,标识体系或许能进化到对内容的真实性、可信度进行认证,实现从形式判断到质量判断的飞跃。
希望以上信息能帮助您全面了解全球媒体在AI生成内容标注规范方面的最新进展。如果您对特定国家的具体政策或某项技术细节有更深入的兴趣,我们可以继续探讨。
|