2025世界人工智能大会开幕！AI之父：培养AI就像养虎，各国要加强合作|直击WAIC

抖音热门 2025年11月02日 20:51 10 aa

7月26日，2025世界人工智能大会在上海开幕。开幕式上，成立全球人工智能创新治理中心成立，该中心将凝聚全球智慧，聚焦能力建设，推动智力协同，面向世界各国提供丰富的国际公共产品，早日形成具有广泛共识的全球治理框架和标准规范。在26日上午的主论坛上，有着“人工智能之父”之称，2024年诺贝尔奖、2018年图灵奖得主，加拿大多伦多大学计算机科学名誉教授杰弗里•辛顿发表演讲《数字智能是否会取代生物智能？》，表示培养AI就像养小老虎，要防患于未然，各国应该在如何防止人工智能从人类手中夺取控制权的研究上进行合作。

杰弗里•辛顿指出大语言模型理解语言的方式与人类非常相似。词语就像是高维的乐高积木，可以用来建构几乎任何事物，这些建构可以被传达给其他人

一个超级智能会发现，通过操纵使用它的人类来获取更多权力是轻而易举的。它将从我们这里学会如何欺骗人类，它将操纵负责将它关闭的人类。

“我们就像一个养了只非常可爱的小虎崽的人。当它长大后，如果它想，可以轻易地杀死你。为了生存，你只有两个选择，第一，摆脱这只小虎崽；第二，找到一种方法来确保它永远不想杀死你。”

对于未来之路，杰弗里•辛顿表示，各国可以在如何防止人工智能从人类手中夺取控制权的研究上进行合作。一个由各国人工智能安全研究所与国内研究网络组成的国际社群，能够培养出不会想要从人类手中夺取控制权的向善的人工智能所需的技术，可能与使人工智能更智能所需的技术是相对独立的。“这就好比，教导孩子成为一个好人的方法，与让他们变得聪明的方法是相对独立的。”

“如果这个观点是正确的，各国就可以设立资金充足的人工智能安全研究所与国内研究网络，专注于研究如何让人工智能不想夺取控制权，同时各国可能就不需要透露他们最智能的人工智能是如何运作的。”

开幕上还发布了《中国智·惠世界（2025）》案例集，《国际人工智能开源合作倡议》和《人工智能全球治理行动计划》也同时发布。

开幕式上，中国气象局发布全民早期预警中国方案“妈祖（MAZU）”，构建包含多灾种预警的全球早期预警服务网络，分享中国早期预警实践经验和技术成果。在世界气象组织秘书长席列斯特·绍罗和与会嘉宾的见证下，中国气象局局长陈振林将象征城市多灾种早期预警智能体的“AI气象预警钥匙”交给吉布提、蒙古两国代表，城市多灾种早期预警智能体（MAZU-Urban）开启跨国气象防灾减灾使命。