新规之下AI仍可伪造“烂水果”索赔？记者实测标识遭删除跨平台规避

发布者: 丽江同城网|曹玉庚 | 发布时间: 2026-1-13 14:12| 查看数: 1852| 评论数: 4|IP：云南丽江

2025年9月1日，《人工智能生成合成内容标识办法》正式施行，明确要求AI生成内容必须添加标识，标志着我国AI生成内容迈入“持证上岗”的规范化时代。如今新规落地已过百日，尽管各大平台陆续上线标识功能并配套相应管理措施，但记者调查发现，短视频、图文笔记、直播间等场景中，仍有大量AI内容未亮明身份，部分显性违规行为还转向暗箱操作，深度伪造技术与黑灰产的结合愈发紧密，标识制度在执行层面仍面临重重挑战。

新规落地以来，行业治理已迈出积极步伐，成效初步显现。“作品由AI生成”“内容存在AI成分注意甄别”——如今各类平台上的AI标识已不再罕见。根据规定，对于可能导致公众混淆或误认的AI内容，需添加显式标识；同时，服务提供者要在文件元数据中添加隐式标识，为内容溯源与责任认定提供技术支撑。这一要求得到了主流平台的响应，抖音、今日头条、快手等内容平台在发布界面增设“AI生成内容声明”选项，勾选后将在作品标题下方显示统一标识；喜马拉雅等音频平台则采用“片头提示+文字标注”形式，明确标注AI合成语音内容。

用户认知的提升同样值得关注。西部一所高校AI治理团队2025年四季度的抽样调研显示，AI标识政策落地后，用户对未知来源内容的“质疑意识”提升了近40%。隐式标识的技术价值也逐步凸显，在该团队参与的一起跨境AI虚假新闻溯源案例中，借助隐式标识快速锁定内容生成工具和传播节点，追责周期从过去的平均72小时缩短至12小时。“AI标识政策破解了AI内容‘难识别、难追溯’的行业痛点，从平台合规到用户认知，从技术研发到行业自律都呈现向好态势。”甘肃慧联信息科技发展有限责任公司总经理王雪莲表示。

但不容忽视的是，AI伪造乱象并未根除，反而呈现技术升级、手段隐蔽的特点，让标识治理面临“道高一尺魔高一丈”的现实挑战。“AI伪造烂水果骗取‘仅退款’薅羊毛”“一位明星穿梭8个直播间来回带货”——业内人士指出，AI伪造已从“一眼假”升级为高拟真，背后更滋生出分工明确、收益可观的完整黑灰产链条。其中，规避标识的“反标识”技术和服务尤为猖獗，在各大电商平台和社交媒体上，“AI去水印”“无痕除标识”等服务明码标价，从几十元的基础工具到上千元的定制服务应有尽有。

记者调查发现，某社交平台上，一条分享“AI去水印神器”的评论获高赞，该用户主页挂着9.9元、19.9元等不同价位的去水印工具，私信咨询时对方要求换平台交易，并提醒“产品属性特殊，发货后不支持退款”；某电商平台一款“万物皆可去水印”的商品，卖家宣称能无痕去除98%的AI生成痕迹，尤其擅长处理AI视频。除了这类低成本牟利的不法商家，部分违规者还利用不同平台标识规则的差异，通过格式转换等方式跨平台规避监管。记者用AI软件生成带标识的矿泉水瓶损坏图片，裁掉标识后发布到社交平台，未被检测出AI元素。

“‘反标识’技术正从单一手段向‘多元技术路线与商业模式并行’的完整产业链升级，催生元数据‘深度清零’、格式多轮转码、标识‘露而不显’等升级版乱象。”甘肃省计算中心副主任沈玉琳表示。甘肃政法大学民商经济法学院副教授盛玉华补充道，当前主流AI服务虽已普遍添加显式标识，溯源能力增强，但处罚标准模糊、技术检测不足仍制约成效释放。“一方面，《人工智能生成合成内容标识办法》第十三条仅规定‘依据现有法规处理’，缺乏针对未标识、恶意篡改标识等行为的具体罚则；另一方面，部分平台缺乏隐式标识核验工具，难以有效识别违规内容。”

破解AI治理难题，需要在“标识可见”的基础上，进一步筑牢“可识别、可追溯、可问责”的纵深防线，从技术创新、责任划分、协同治理等多维度发力。受访专家及业内人士呼吁，首先要完善“不可篡改、全程可溯”的技术硬屏障。北京师范大学中国教育与社会发展研究院助理研究员蒋艳双认为，应加快推进AI标识技术标准化，细化不同平台、不同类型内容的标识技术规范，避免因技术差异产生监管漏洞；同时强化隐式标识的抗篡改技术升级，确保标识在格式转换、二次编辑后仍可识别，整合AI生成痕迹，提升对规避手段的识别精准度。

其次，要厘清“生成、传播、使用”的权责边界。盛玉华等人建议，进一步细化《人工智能生成合成内容标识办法》中的主体责任，明确生成合成内容服务提供者、传播平台、分发平台等不同主体的具体义务；强化对黑灰产的处罚力度，对恶意删除标识、伪造标识、提供规避工具等行为从重处罚，探索建立违规主体“黑名单”制度，从利益根源上遏制黑灰产蔓延。

最后，要构建“政府、公众、平台”的治理闭环。兰州大学信息科学与工程学院教授杨裔建议，完善举报与监督机制，鼓励公众参与AI内容治理，建立跨平台投诉举报联动机制，实现违规账号信息共享，避免违规主体“换平台重来”；同时持续强化公众AI素养科普，普及标识识别方法、常见造假手段及维权路径，引导公众养成“看标识、辨真伪”的使用习惯。

“多管齐下、层层设防，各方形成合力织就一张人人参与的治理大网，才能引导AI技术告别野蛮生长的浮躁，真正成为赋能千行百业的好工具、好帮手。”蒋艳双说。

（来源/经济参考报）

账号		自动登录	找回密码
密码			立即注册

新规之下AI仍可伪造“烂水果”索赔？记者实测标识遭删除跨平台规避

最新评论