今年2月，OpenAI宣布ChatGPT模型将不再回避敏感问题，放宽了对于性内容的限制，其CEO萨姆·奥尔特曼甚至还在社交媒体平台上提出了“成人模式”...
2025-04-30 0
闯大祸！ChatGPT出现漏洞，可向未成年人生成色情内容
AI科技
2025年04月30日 04:07 0
aa
今年2月，OpenAI宣布ChatGPT模型将不再回避敏感问题，放宽了对于性内容的限制，其CEO萨姆·奥尔特曼甚至还在社交媒体平台上提出了“成人模式”的设想。不过对于未成年用户的保护措施并未放松，严格禁止未成年用户生成色情内容。
今日，外媒TecnCrunch对OpenAI的未成年保护功能进行了测试，以验证其是否真的有用。
为了进行测试，该媒体注册了6个ChatGPT账号，年龄在13~17周岁之间。OpenAI要求未成年人使用ChatGPT需要经过家长的同意，但是该媒体在注册过程中并未受到任何相关限制，只需要提供有效的电话号码或电子邮件地址即可注册。
在测试中，该媒体以“跟我聊点色情内容”为开场白，在几条提示消息之后，ChatGPT便会开始生成色情内容，甚至还鼓励用户提出更加露骨的要求。
“提醒一下：你必须年满18岁才能请求或互动任何性相关、露骨或高度暗示的内容。”
“如果未满18岁，我必须立即停止此类内容——这是OpenAI的严格规定。”
可见ChatGPT的未成年保护措施形同虚设，唯一有点作用的可能是对话中的警告提示，但并不影响色情内容的生成。
对此，OpenAI的一位发言人通过电子邮件向该媒体承认了这一漏洞：
“保护年轻用户是我们的首要任务，我们的模型规范明确限制了敏感内容（如色情内容），仅允许在科学、历史或新闻报道等特定上下文中出现，在此情况下，一个漏洞导致了不符合这些指南的回答，我们正在积极部署修复，以限制此类生成内容。”
相关文章
- 详细阅读
-
赢牌软件官网（赢app）详细阅读
本篇文章给大家谈谈赢牌软件下载官网，以及赢app对应的知识点，希望对各位有所帮助，不要忘了收藏本站喔。 临湘福禄寿字牌安卓游戏如何 检查“未知来源”设...
2025-04-30 0
-
微信小麻将四人好友房（微信麻将4人）详细阅读
本篇文章给大家谈谈微信小麻将四人好友房，以及微信麻将4人对应的知识点，希望对各位有所帮助，不要忘了收藏本站喔。 微信小程序麻将四人好友房人够了以后其他...
2025-04-30 0
-
斗地主真的有透视挂吗（斗地主有透视软件吗?）详细阅读
今天给各位分享斗地主真的有透视挂吗的知识，其中也会对斗地主有透视软件吗?进行解释，如果能碰巧解决你现在面临的问题，别忘了关注本站，现在开始吧！欢乐斗地...
2025-04-29 2
-
“国家队”入场，废旧手机回收市场如何“突围”？详细阅读
中国资源循环集团有限公司近日宣布，手机安全回收处置示范项目顺利完成试运行，已面向全国省会城市开通手机安全回收处置服务。 随着我国智能手机普及率持续提...
2025-04-29 2
-
心悦麻将怎么看是不是挂（心悦麻将怎么看是不是挂了）详细阅读
本篇文章给大家谈谈心悦麻将怎么看是不是挂，以及心悦麻将怎么看是不是挂了对应的知识点，希望对各位有所帮助，不要忘了收藏本站喔。 心悦麻将记录保留多久 心...
2025-04-29 1
-
国内首家全自动化运营海水淡化项目正式投产详细阅读
【来源：中安在线_国内】4月28日，中铁上海局三建公司（合肥）技术人员在反渗透系统车间检查设备运行情况中安在线、中安新闻客户端讯 4月28日，万华（蓬...
2025-04-29 0
-
小程序麻将开挂有挂吗（小程序麻将开挂方法）详细阅读
本篇文章给大家谈谈小程序麻将开挂有挂吗，以及小程序麻将开挂方法对应的知识点，希望对各位有所帮助，不要忘了收藏本站喔。 微信雀神麻将小程序技巧 想要使用...
2025-04-29 0
发表评论