“清朗”行动整治AI滥用乱象亟待完善监督机制

今日快讯 2025年11月06日 13:47 3 aa

（图片来源：摄图网）

(记者林婉玲）从中央网信办获悉，按照2025年“清朗”系列专项行动计划安排，为进一步加强网络直播打赏管理，中央网信办近日决定在全国范围内开展为期2个月的“清朗·整治网络直播打赏乱象”专项行动，从严打击低俗团播引诱打赏、虚假人设诱骗打赏、诱导未成年人打赏和刺激用户非理性打赏等4方面突出问题。其中提到使用AI技术生成虚假内容，诱骗用户打赏等问题。

AI技术让“无中生有”变为可能

AI生成技术的突破，使“无中生有”从科幻想象变为现实场景，但技术赋能的背后，滥用风险正加速蔓延，形成多维度的权益侵害链条。

历史与公众人物成为AI滥用的重灾区。2024年上半年，AI“复活”历史名人的热潮曾引发创意讨论：李时珍戴着老花镜详解草药配伍原理，唐伯虎挥毫间畅谈书画创作心得，苏轼伫立西湖边吟诵“AI新作”，这类内容一度以“文化传承”的名义获得流量追捧。但创意很快滑向侵权深渊，2025年以来，乔任梁、李玟等已故艺人的AI形象被频繁用于美妆、餐饮等领域的短视频营销，其家属多次公开发声反对，直指“技术滥用践踏逝者尊严”。更令人警惕的是，在世公众人物的形象与声音正成为诈骗工具：北京查处的李梓萌AI代言案中，不法分子通过深度学习央视主播影像资料，合成虚拟形象在直播间推荐“深海多烯鱼油”，宣称可治疗头晕、手麻等病症，实则为普通糖果，88万粉丝陷入骗局；奥运冠军全红婵的AI克隆声音被用于“帮老家卖土鸡蛋”的直播话术，4.7万件商品售出后才被其家人辟谣；演员靳东的磁性嗓音被复刻为24小时语音直播，专门诱导中老年粉丝打赏，有受害者甚至刷光退休金。

直播打赏场景的AI滥用更具隐蔽性与危害性。部分主播利用AI生成虚假直播背景，将普通农田包装成“有机种植基地”，通过算法合成“万人抢购”的虚假弹幕刺激消费；更有平台开发“AI陪聊打赏系统”，用生成式虚拟美女形象与用户互动，通过情感诱导实现日均数十万元的打赏流水。这类行为的技术门槛正持续降低，重庆网信办查处的“灵象智问AI”等平台，未经安全测评备案即可提供生成式服务，为直播诈骗提供了“技术温床”。而AI技术的“低成本高收益”特性更放大了乱象：制作一条虚假名人带货视频成本仅数百元，却能带来数十倍利润，这种失衡使得滥用行为屡禁不止。

当技术先行，监管已在加速跟进

面对AI滥用的蔓延态势，我国监管体系正从“被动应对”转向“主动防控”，形成“法律法规+专项行动+地方创新”的立体化治理格局。

国家层面的制度基石逐步夯实。2023年8月施行的《生成式人工智能服务管理暂行办法》首次确立核心规则，明确要求AI服务不得侵害他人肖像权、名誉权，生成内容必须按规定标识，为技术应用划定基本底线。2025年9月《人工智能生成合成内容标识办法》的正式施行，进一步细化操作标准，要求视频类内容在角落标注“AI生成”，音频中嵌入特殊数字水印，从技术层面实现“可识别、可追溯”。与此同时，专项行动形成强大震慑：2025年上半年启动的“清朗・整治AI技术滥用”专项行动分两阶段推进，第一阶段即处置违规AI产品3500余款，清理违法信息96万余条，处置账号3700余个，覆盖违规产品、缺陷语料、虚假信息等12类突出问题。

地方监管创新实现“精准破题”。浙江省出台的《网络直播营销行为规范指引》，首次针对AI数字人直播作出专项规范，明确禁止“通过AI伪造他人声音肖像制作引流广告”，填补了直播场景的监管空白。北京市在李梓萌AI代言案中的执法实践更具里程碑意义，监管部门开创性地将AI虚假宣传纳入《广告法》监管框架，对涉事企业处以行政处罚，相关责任人被纳入失信名单，3年内禁止进入直播行业，成为AI侵权执法的典型案例。此外，地方执法部门还针对技术漏洞强化监管：上海网信办对3家擅自恢复违规AI功能的企业立案查处，重庆关停“开山猴AI写作大师”等未履行审核义务的平台，浙江公安对未保障政务数据安全的软件公司处以罚款，形成“发现即处置”的高压态势。

跨领域协同治理机制逐步成型。北京构建“用户标记—平台核查—联合处置”的闭环流程，江苏联合通信管理部门排查AI相关风险域名163个，上海市场监管局与卫健部门联动整治“AI开处方”乱象——某药店利用互联网医院AI生成虚假处方，套取350瓶人血白蛋白违规销售，执法部门不仅处罚涉事药店，更督促完善AI处方审核机制。这种跨部门协作打破了监管壁垒，实现了从技术源头到内容传播的全链条管控。

守住AI的底线，需构建多层级的约束体系

AI技术的治理难题，本质是技术创新与权利保护的平衡问题。

首先，监管层面应细化标准，对“商业性AI合成内容”实行分类备案，根据应用场景实施差异化管理；针对敏感主体应用，应明确刚性底线，例如使用名人形象需提供书面授权，使用逝者形象需经直系亲属同意，未成年人相关AI应用实行“企业+监护人”双备案制。同时需完善技术标准，统一AI生成内容的标识规范，对未按要求标注的行为设定明确罚则，参考江西公安对未阻截违法信息的AI聊天机器人运营者的处罚模式，实现“标识即责任”。

其次，平台需承担起技术把关责任，开发AI合成内容的溯源工具，让用户能一键验证内容真实性。同时建立“AI滥用黑名单”制度，将多次违规的企业与个人纳入信用惩戒，限制其参与AI技术研发与商业合作，形成“一处违法、处处受限”的监管效应。

最后，公众也需建立理性认知。既要避免因噎废食否定AI的积极意义，如AI在文化传承、医疗诊断等领域的创新应用，也要警惕“AI生成=绝对真实”的认知误区。

当监管标准明确了“不能做什么”，平台技术守住了“必须防什么”，公众认知清晰了“该警惕什么”，AI技术将回归向善本质。