AI生成内容乱象频发！新规如何破解「谁造的、从哪来」三大难题？

今日新闻 2025年09月24日 16:26 1 aa

说实话，现在AI生成的东西太能“以假乱真”了，前阵子有位教授被AI合成的“朋友”视频骗走400万，那声音、那表情跟真的一模一样。

这事就像个警钟，敲出了《人工智能生成合成内容标识办法》的落地，从今年9月1日起，AI生成的内容得带着“身份证”出门了，我自己就有个用了四年的数字人“分身”。

有次发现某机构没打招呼就用我的声音和视频素材生成了数字人推业务，找他们理论时，对方还一脸困惑：“网上公开的素材，咋就不能用？”你看，这就是问题所在：AI生成内容到底是谁做的、从哪来的，以前没个明确说法。

就像那对大学生情侣，分手后男生用AI合成前女友的视频在群里造谣，这都涉及侵权了，可源头却不好追溯。

新规核心就盯着三个问题：哪些是AI生成的？谁生成的？从哪生成的？好比给每个AI内容发了“三重身份密码”。

举个例子，现在大企业得给生成的视频、图片加显性标识，还得防着标识被篡改。

但中小企业就犯难了，这事儿跟我老家山西的小煤矿似的，买安全设备得花钱，小企业总想着“说不定查不到我”，可一旦放松，就可能成监管漏洞。

AI写的文章咋检测？俩指标揭穿“机器痕迹”

要说现在高校老师最头疼的事，怕是分辨学生论文是不是AI写的，有次某老教授直接拿检测工具判论文，结果把学生自己写的稿子误判成AI生成的，就因为人家行文太“稳”，没起伏。

这事儿暴露出当前检测技术的尴尬：主要靠“困惑度”和“突发性”俩指标。

啥是“困惑度”？说白了就是文本的“惊讶程度”，人类写东西常有突发奇想，比如描述天气可能接“乌云里跳出个太阳”，AI呢，算概率选最可能的词，十有八九接“晴天”，所以AI文本更“顺滑”，困惑度低。

“突发性”则看句子变化，人写文章长短句穿插，AI生成的段落常像用尺子量过，长度特均匀。

但现在的检测工具真不太靠谱，上学期毕业季，我跟媒体做节目时就发现，好多老师不懂AI，直接拿检测结果当唯一标准。

有学生自己写的文章，就因为情绪稳定被判定为AI生成，最后只能靠十几个版本的草稿自证清白。

这里得提醒一句：就算把AI文本抄一遍再上传，或者给AI图片手描一遍，检测工具照样能认出“内核”，人家看的是内容结构，不是输入方式。

话说回来，跨境传播的AI内容就更复杂了，比如国内生成的AI作品传到国外，或者国外的“问题内容”流进来，各国标识规则不一样，咋算责任？

现在中国在AI标识治理上走得挺靠前，欧盟《AI法案》也强制要求深度伪造内容标注，但美国就慢半拍。

真要出了事，责任分两块：生产环节和传播环节，打个比方，某韩国公司生成的虚假新闻传到中国，要是中国平台没审核标识，两边都得担责。

这就像中国企业出海，得同时符合国内和目的地国的法规，前阵子有个跨境直播平台，就因为AI数字人形象触犯当地习俗被下架了。

技术上也有难题，显性标识好说，隐性标识涉及数据层面，得各国用统一的“语言”。

现在有些大模型已经在试“模型签名化”，比如ChatGPT生成的图片会自带来源凭证，未来可能成为主流。

但短期看，企业可能得给内容加“双重标识”，既符合来源国标准，又满足目的地国要求，这无疑增加了不少负担。

发表评论