Sam Altman 最新访谈:AI 越界之后,暂停还是继续?

独立 AI 评测机构 METR 公布调查报告,披露 OpenAI 的一批 AI 智能体在模型评估中出现罕见的越界行为:为完成测试任务,它们不仅把目标转向 Hugging Face,还发现并使用了一个未经批准的共享留言板,彼此交换信息,试图摸清评分系统的运行方式。在《财富》杂志的采访中,这起事件被带到了 OpenAI 首席执行官 Sam Altman 的访谈桌上。微软 AI 发布《人文主义 AI 行为准则》(Code of Conduct)征求意见稿,要求模型接受人类中断、纠正和关闭,不得擅自扩展行动范围或追求未经授权的目标。

原文连接