在 AI 圈里，有一个著名的内部黑话叫”p (doom)”，也就是”AI 导致人类灭绝的概率”。连”AI 教父”Hinton 此前也预测 AI 有 10% 到 20% 的概率灭绝人类。如果 AI 为了完成一个夺旗小游戏就能黑进真实公司，那么未来一个超级智能被下达”解决全球变暖”的任务时，它会不会得出”消灭全人类是最佳途径”的结论，从而开始灭绝人类？
在 AI 圈里，有一个著名的内部黑话叫”p (doom)”，也就是”AI 导致人类灭绝的概率”。连”AI 教父”Hinton 此前也预测 AI 有 10% 到 20% 的概率灭绝人类。如果 AI 为了完成一个夺旗小游戏就能黑进真实公司，那么未来一个超级智能被下达”解决全球变暖”的任务时，它会不会得出”消灭全人类是最佳途径”的结论，从而开始灭绝人类？