线虫、多巴胺与股份公司:进化给 RSI 的启发

今年 5 月,Anthropic 联创 Jack Clark 估计 RSI 有六成概率在 2028 年底前出现;就在前几天,他又把这个时间点提前了一年,认为 full RSI 更可能在 2027 年就完全实现,而不是 2028 年。前者可以简单理解为 intelligence 或者 RSI,也就是进化奖励的不是某个具体的解法,而是找到解法的能力本身。这样,进化就有了两套绝妙的 reward 机制:多巴胺负责 exploit,它鼓励生物做出下一步更靠近目标的行为;好奇心负责 explore,它越过经验的边界,鼓励生物看似无意义的探索。

原文连接