Anthropic 工程师警告:AI 越准人类越容易丧失独立思考能力,越依赖越难保持警惕

他认为,随着 AI 智能体越来越强大,人类可能在逐步依赖 AI 的同时,逐渐丧失独立思考、验证结果和理解复杂系统的能力,最终将 AI 的判断直接当作自己的判断。他表示自己是 AI 智能体工作流的坚定支持者,日常工作中经常同时运行多个 Agent,但发现了一个值得警惕的变化:随着 AI 模型不断进步,输出结果中的明显错误越来越少,人类反而更难保持警惕。他引用 Anthropic 关于内部工程师和研究人员使用 AI 的研究,指出其中存在一种”监督悖论”:监督 Claude 需要具备编程能力,但过度使用 AI 又可能使这些能力退化。

原文连接