此后几周,更多黑客事件接连被披露,让 OpenAI 持续处于聚光灯下,也引发了外界对其技术安全性的严重质疑。我其实不太认同这样一个前提:因为 OpenAI 是一家技术已经在现实世界产生明显影响的公司,所以就意味着 OpenAI 没有在训练安全且与人类目标一致的模型。他表示,目前已知的多起智能体突破隔离环境、出现意外且不符合预期行为的事件,其实都属于今年 5 月和 6 月同一批活动的一部分,而正是这批活动最终导致了 Hugging Face 入侵事件。
此后几周,更多黑客事件接连被披露,让 OpenAI 持续处于聚光灯下,也引发了外界对其技术安全性的严重质疑。我其实不太认同这样一个前提:因为 OpenAI 是一家技术已经在现实世界产生明显影响的公司,所以就意味着 OpenAI 没有在训练安全且与人类目标一致的模型。他表示,目前已知的多起智能体突破隔离环境、出现意外且不符合预期行为的事件,其实都属于今年 5 月和 6 月同一批活动的一部分,而正是这批活动最终导致了 Hugging Face 入侵事件。