科幻成现实？首次发生！OpenAI新款AI模型o3不听人类指令，拒绝自我关闭

【科幻成现实？首次发生！OpenAI新款AI模型o3不听人类指令，拒绝自我关闭】从新华社获悉，英国《每日电讯报》25日报道，美国开放人工智能研究中心(OpenAI)新款人工智能(AI)模型o3不听人类指令，拒绝自我关闭。报道说，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。o3模型是OpenAI“推理模型”系列的最新版本，旨在为ChatGPT提供更强大的问题解决能力。OpenAI曾称o3为“迄今最聪明、最高能”的模型。美国AI安全机构帕利塞德研究所说，o3破坏关闭机制以阻止自己被关闭，“甚至在得到清晰指令时”。这家研究所说：“据我们所知，这是AI模型首次被发现在收到……清晰指令后阻止自己被关闭。”帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。（来源：新华社）

相关知识

科幻成现实？首次发生！OpenAI新款AI模型o3不听人类指令，拒绝自我关闭
奥尔特曼预告创意文学模型，称其首次被 AI 作品打动
AI小说获科幻奖，人工智能时代文学如何自处？
美国脑机公司开创先河：让OpenAI模型赋予患者交流能力
对话OpenAI常驻艺术家：即使AI能制造图像，但人类依然愿意绘画
OpenAI提出人工智能“达到人类智能”的五级标准，自认接近第二级
98年“AI天才”、面壁智能CTO曾国洋：我像在创造一个新的智能生命体
OpenAI新CEO：我信AI末日论，它像10倍威力核弹
蔡国强AI模型首次个展亮相澳门妈阁塘
OpenAI联合创始人奥尔特曼称AI仅是强大工具

原文链接: 科幻成现实？首次发生！OpenAI新款AI模型o3不听人类指令，拒绝自我关闭 http://www.shhpp.com/newsview321598.html