OpenAI：平衡青少年安全、自由与隐私，将建年龄预测系统

排行榜 2025年09月17日 15:23 0 admin

【当地时间周二，OpenAI的萨姆·奥特曼发布博客文章，表明公司正试图在青少年安全、自由和隐私间寻找平衡，且承认这些原则相互冲突】奥特曼发布文章当天，美国参议院犯罪和反恐小组委员会举行了一场听证会，重点审查AI聊天机器人的危害。一些孩子在与聊天机器人交谈后自杀身亡，这些孩子的父母出席了此次听证会。奥特曼在帖子中称：“我们必须将未满18岁的用户与非未满18岁的用户区分开来。”他还表示，公司正在建立一个“年龄预测系统”，依据人们使用ChatGPT的方式来估计年龄。若存在疑问，会谨慎行事，默认提供未满18岁的使用体验。在某些情况或国家，可能还会要求用户提供身份证。奥特曼进一步表示，公司计划对青少年用户实施不同规定，包括避免调情式对话，不参与有关自杀或自残的对话，“即使是在创意写作环境中”。“如果18岁以下的用户有自杀念头，我们将尝试联系用户的父母，若无法联系，我们会联系当局，以防发生迫在眉睫的伤害。”奥特曼在社交平台X上公布了博客全文，并表示“我不指望每个人都会同意这些权衡，但考虑到原则间的冲突，解释我们的决策很重要”。以下为奥特曼博客文章全文：我们的一些原则存在冲突，我们想解释一下围绕青少年安全、自由和隐私之间的紧张关系所做的决定。保护使用AI的隐私权对我们和社会极为重要。人们与人工智能谈论的事情越来越私人化，它与前几代技术不同，我们认为它们可能是用户拥有的最敏感的个人账号之一。就像和医生谈论病史、和律师谈论法律情况一样，我们认为对这些信息保密并提供更高水平的保护符合社会的最大利益。由于人们越来越多地就敏感问题和私人担忧求助于AI，我们认为与AI的对话需要同样程度的保护，并且正在与政策制定者一起为此倡导。我们正在开发先进的安全功能，以确保用户数据的私密性，即使是对OpenAI员工也是如此。不过，就像其他特权类别一样，也会有一些例外情况：例如，自动化系统将监控潜在的严重滥用行为，而最关键的风险——对某人生命的威胁、伤害他人的计划或潜在的大规模网络安全事件等社会规模的危害——可能会升级到人工审核。第二个原则关乎自由。我们希望用户能在广泛的安全范围内，以他们想要的方式使用我们的工具。随着模型变得更易操控，我们一直在努力增加用户的自由度。例如，模型的默认行为不会引发很多调情谈话，但如果成年用户有此要求，就应满足。再如，默认情况下，模型不应提供关于如何自杀的说明，但如果成年用户要求帮助编写一个描述自杀的虚构故事，模型应该提供帮助。“像对待成年人一样对待我们的成年用户”是我们内部的说法，即在不造成伤害或损害他人自由的情况下尽可能扩展自由。第三个原则是保护青少年。我们将青少年的安全置于隐私和自由之上，因为这是一项强大的新技术，我们认为未成年人需要得到严格保护。首先，我们必须区分未满18岁的用户和非未满18岁的用户。我们正在建立一个年龄预测系统，根据人们使用ChatGPT的方式来估计年龄。若有疑问，我们会谨慎行事，默认提供未满18岁的使用体验。在某些情况或国家，我们也可能要求提供身份证件，我们知道这是对成年人隐私的妥协，但我们认为这是值得的。我们将对使用我们服务的青少年适用不同规则。例如，ChatGPT将接受训练，被要求时不进行上述调情谈话，也不参与有关自杀或自残的讨论，即使是在创意写作环境中。如果未满18岁的用户有自杀念头，我们将尝试联系用户的父母，若无法联系，会联系当局，以防发生迫在眉睫的伤害。今天我们分享了更多关于如何建立年龄预测系统和新的家长控制措施来实现这一切的内容。我们意识到这些原则相互冲突，并非每个人都会同意我们解决冲突的方式。这些都是艰难的决定，但在与专家交谈后，我们认为这是最好的做法，并希望保持意图的透明度。

本文由 AI 算法生成，仅作参考，不涉投资建议，使用风险自担

本文来自和讯财经，更多精彩资讯请下载“和讯财经”APP