警惕！违禁内容可“调教”、青少年模式形同虚设……AI社交乱象侵蚀未成年人

排行榜 2025年10月21日 09:28 0 admin

“10岁女孩失去爱人（丈夫）”“老师校园内‘捕杀’学生”……近日，有媒体调查发现，在数款“沉浸式角色扮演”人工智能（AI）社交平台的聊天场景中存在不良内容。这些网络平台的青少年模式形同虚设，没有推行强制身份核验，未成年人可轻易绕过监管进入网络世界。

部分平台将猎奇内容作为“吸金工具”，通过充值解锁、流量变现等模式牟利，甚至默许用户“调教”AI、破解违禁词，将商业利益凌驾于未成年人保护之上。青少年价值观尚未定型，AI社交平台虚拟的离奇剧情会让他们模糊现实与虚拟的边界，甚至模仿危险行为。而AI生成内容的不可预测性，与用户自定义剧情的动态性，更让传统监管机制“力不从心”。

遏制AI社交平台涉未成年人乱象，需监管部门、平台、家校协同发力，构建“责任共担、技术防控、教育引导”的多元共治体系。同时，加快出台AI社交专项规范，细化不良内容判定标准与审核责任，对涉及恋爱、暴力等风险场景设置强制预警，实时监测用户“调教”行为，从源头遏制不良内容生成。

AI技术应是护航未成年人成长的帮手，而非伤人利器。只有监管不松、平台不懈、家校不怠，才能织密保护网，让未成年人在干净的网络空间健康成长。