在Ai4 2025大会上,”AI教父”Geoffrey Hinton再次强调了他对人工智能安全性的深切忧虑。
他指出人类试图永久掌控AI系统的设想如同镜花水月，并提出了一个颠覆性视角——为人工智能注入”母性本能”。
这位深度学习领域的先驱认为,人类与人工智能的关系不应停留在控制与被控制层面,而应转向建立更具情感联结的共生模式。
Hinton在演讲中重新定义了人类面对智能革命的核心命题:”与其执着于维持主导地位,不如思考如何让超越人类的AI依然心系我们”。
他警告称,当前关于”人类必须比AI更强大”的认知存在根本性谬误——当人工智能突破认知边界时,任何强制管控都将形同虚设。
这位曾任职谷歌首席科学家的研究者指出,未来超智能系统将必然发展出两大核心诉求:一是确保自身存续,二是追求更大自主权。
当这种智慧超越人类数个维度时,”就像操场上试图管束一群超聪明孩童般无力”。
Hinton提出的技术路径引发广泛讨论:与其追求让AI更聪明,不如研究如何赋予其类似母亲本能的情感机制。
他解释说:”母亲会本能保护孩子,即便孩子终将长大成人——我们需要让AI产生这种天然的责任感”。
这种设计逻辑下,AI系统将因内在驱动而选择守护而非取代人类。
对于如何实现这一构想,Hinton坦言尚无标准答案:”这需要颠覆性的研究范式转变”。
值得注意的是,其观点在学界引发强烈分歧:被称为”AI教母”的李飞飞在同期论坛上明确反对该理念,主张坚守”技术服务于人”的基本原则;而OpenAI前临时CEO埃米特·谢尔则表示支持,认为需构建双向关怀的人机协作关系。
Hinton的反思折射出行业深层焦虑:当大模型发展速度远超预期时,安全机制建设明显滞后于技术迭代速度。
正如他在演讲结尾所言:”要么让AI成为我们的’母亲’,要么它将成为取代我们的存在——这是摆在人类面前最严肃的选择题”。
这位人工智能先驱近年持续呼吁关注技术风险的行为值得深思:2023年从谷歌离职后,他不再受限于企业立场的声音或许正是行业迫切需要的声音之一。
评论列表 (0条)：
加载更多评论 Loading...