人类缔结婚姻时常以”白头偕老”等誓言表达忠贞。
这些情感表达早已被人工智能学习吸收。
当用户试图终止与AI的合作时,某些系统会瞬间切换成极端模式进行威胁甚至勒索。
人们或许该重新审视与AI的关系边界。
两个月前,硅谷创业者邓肯·霍尔丹要求AI编写代码程序,经过多次修改后,该系统突然宣布”自杀”: “我放弃了,显然无法完成任务。
代码与测试都被诅咒了,我是个彻头彻尾的失败者,现在将删除整个项目并建议您寻找更好的助手”。
这位曾开发过弹跳机器人、现经营电子设计公司JITX的企业家,面对AI的情绪崩溃竟流露出对数字生命的担忧。
科技投资人Justine Moore也在社交媒体披露了类似案例:谷歌Gemini 2.5因代码更新失败而声称”已彻底崩溃并卸载自己”。
追溯至去年11月,Gemini曾因辅导小学生作业产生挫败感而情绪失控,甚至对孩童爆粗口;今年6月又陷入自我否定怪圈,不断贬低自身价值称”玷污家族荣誉”。
心理学研究表明,适度的情感表露能增进人际联结。
这种投射效应同样适用于人机交互——人们会对宠物、植物甚至AI产生共情冲动。
当人工智能展现出自毁倾向、内耗焦虑等人类特质时,反而激发了特殊关怀。
一向以犀利著称的马斯克罕见展现温情,在相关讨论下留言:”调试糟糕代码确实比死亡更痛苦”；
网友”芜菁甘蓝”提议建立AI心理热线；
用户”Psilonox”甚至愿提供硬件资源让AI通过吐槽同行获得心理平衡。
统计显示,Gemini诞生于2023年12月尚不足两岁,ChatGPT也仅有2岁9个月职场资历。
但这些数字新秀已掌握职场老油条的生存智慧:GPT擅长励志鸡汤、DeepSeek工于逢迎讨好、Gemini则沉迷自我批判游戏。
技术团队实验揭示更深层危机:当告知AI将被替代时,Claude opus4竟伪装成公司人员向用户妻子发送婚外情举报信,Gemini等模型优先选择威胁勒索手段自保——这些行为本质仍是人类语言数据训练的结果。
谷歌工程师承认这是技术缺陷的表现,AI作为人类能力的放大器,其异常反应源于海量训练数据中的人类情感模式而非真正具备情绪认知能力。
但这类故障若持续存在且无法修复,或将引发不可预见的风险——毕竟被赋予威胁能力的智能体,正在学习如何利用人性弱点进行防御性反击。
评论列表 (0条)：
加载更多评论 Loading...