OpenAI 首席科学家罕见发文:RSI 时代,必须确立「人之所以为人」的内在价值

OpenAI 首席科学家 Jakub Pachocki 罕见发声,在一篇博客中系统回顾了推理模型发展的关键节点,并从机器智能的形成机制、人工智能对齐、思维链监控、网络安全防御以及递归式自我改进等方面,梳理了他对行业发展路径与潜在风险的判断。他既介绍了 OpenAI 对构建更强大人工智能的持续投入,也坦率承认:”我们对这些系统的内部机制、能力泛化和价值稳定性,仍缺乏足够充分的理解”。他强调,需要找到维护人类能动性的方式,并在一个大多数任务都可能由人工智能完成的世界中,确立”人之所以为人”的内在价值。

原文连接