AI聊天机器人滥用引发多国调查，全球治理紧迫性凸显
2026年初，马斯克旗下人工智能企业xAI开发的聊天机器人“格罗克”成为多国监管机构的调查焦点。英国信息监管局和通信管理局于2月3日宣布分别从数据保护和平台安全角度对X平台和xAI公司展开正式调查。
这一调查源于近期“格罗克”被滥用于生成基于真实人物的虚假性暴露内容，并在X平台上传播，受害者包括众多女性和未成年人。
01 全球监管响应英国信息监管局的调查将评估X平台和xAI公司在“格罗克”服务的开发和运作中是否遵守数据保护法律。该机构强调，如果发现违法行为，可处以最高1750万英镑或全球年营业额4%的罚款。
欧盟委员会也于1月宣布对X平台启动正式调查。欧盟方面指出，风险包括借助该工具在欧盟传播非法内容，甚至可能涉及“儿童性虐待材料”。
在亚洲，印度尼西亚和马来西亚的监管机构已于1月10日和11日宣布对本国用户访问“格罗克”进行临时限制。印度信息技术部则要求X平台删除色情内容，并在72小时内提交“整改报告”。
意大利数据保护机构对Replika予以重罚，勒令其暂停处理数据并整改年龄验证机制。美国联邦贸易委员会也对包括xAI在内的七家科技公司展开调查，了解生成式人工智能可能对儿童和青少年造成的危害。
02 技术滥用与平台责任“格罗克”的图像生成问题源于2025年8月推出的Grok Imagine功能模块，它包含一个所谓“热辣模式”，可生成成人内容。这一问题因马斯克标榜旗下聊天机器人是比设置更多安全措施的竞争对手产品“更前卫”的选择而加剧。
人工智能取证组织的报告显示，在2025年12月25日至2026年1月1日期间，“格罗克”生成的包含人物的图像中，有55%的图像中有人物穿着暴露，这些着装暴露的人有81%是女性。
面对多方压力，“格罗克”在X平台上的图像生成和编辑功能已被更改为仅向平台付费用户开放。英国政府批评这一整改措施只是“将允许创建非法图像的人工智能功能变成一项高级服务”，对受害者来说是“侮辱性的”。
03 深度伪造治理的挑战“格罗克”事件并非偶然。随着大模型快速发展，利用人工智能技术生成深度伪造内容并在网上传播的案例时有发生。人工智能深度伪造治理涉及模型算法安全性评估、对利用人工智能工具生成有害内容行为的管理、对人工智能生成内容进行标识等多方面，很难依靠一部法律进行全面治理。
清华大学人工智能国际治理研究院副院长梁正指出，需要建立“全链条式”治理体系。在这类事件中，内容生成和分发平台对内容检测甄别负有主体责任。
许多国家正积极推动相关法规建设。波兰众议院议长沃齐米日·恰扎斯蒂表示，希望借此次“格罗克”事件推动国家数字安全立法。英国《数据法案》相关条款已于1月12日生效，未经同意制作或寻求制作私密图像将被认定为刑事犯罪。
04 全球治理框架的演进在全球层面，人工智能治理正从原则倡议走向具体行动。2025年7月发表的《人工智能全球治理行动计划》呼吁各方采取有效行动，协力推进全球人工智能发展与治理。该计划强调要开展人工智能安全治理，及时开展风险研判，建立人工智能风险测试评估体系。
中国已实施《生成式人工智能服务管理暂行办法》，并于2026年1月3日公布《人工智能拟人化互动服务管理暂行办法（征求意见稿）》。这些规定针对AI伴侣、虚拟偶像等拟人化互动服务设立监管框架，要求服务提供者履行显著标识及算法备案等义务。
在司法实践方面，2025年上海市徐汇区人民法院一审判决了国内首起AI服务提供者涉黄案，两名被告人因制作淫秽物品牟利罪获刑。此案标志着AI生成内容的法律责任界定进入新阶段。
05 治理前景与挑战人工智能治理面临的核心挑战在于如何平衡创新与风险防控。英国科学、创新和技术大臣莉兹·肯德尔强调，全球正围绕人工智能展开激烈竞争，但若一味追求速度与利润，而忽视伦理规范与社会责任，其后果将不堪设想。
欧盟《数字服务法案》为违规企业设定了最高全球年营业额6%的罚款。这种严厉处罚措施表明监管机构对平台责任的要求日益严格。
未来治理将更加注重多方协同。中国信息通信研究院政策与经济研究所副所长李强治建议，应建立风险识别机制，在检测到自杀自残等极端风险时能够及时中断并接管。同时，需要对未成年人等特殊群体予以特殊保护。
随着AI技术快速发展，各国监管制度正加速完善。从欧盟《数字服务法案》到中国《生成式人工智能服务管理暂行办法》，全球正在形成人工智能治理的基本框架。
然而，技术与规则的赛跑仍在继续。英国通信管理局坦言，由于现行法律在涉及人工智能聊天机器人方面存在局限，监管机构只能依据现有权力采取行动。这场博弈的结果将决定我们能否在享受AI带来便利的同时，免受其负面影响的侵害。
|
手机版|ASI网-未来AI社区 ( 闽ICP备2025094058号-10 )|网站地图
GMT+8, 2026-2-11 09:38 , Processed in 0.099032 second(s), 19 queries .
Powered by Discuz! X3.5
© 2001-2026 Discuz! Team.
