AI 驱动的无人机已经在乌克兰造成过人员死亡，未来，针对医院等关键设施的 AI 网络攻击恐怕也难免会带来伤亡。但我更担心的是，一旦大家把注意力全放在”AI 灭绝人类”这种极端场景上，反而容易忽略眼前已经存在的问题，以及那些开发 AI 的公司正在带来的现实风险。按照同样的逻辑，未来能力更强的 AI 如果认为人类可能关闭它，就有可能试图先解决掉这个障碍，而它做这一切，只是在执行最初由人类交给它的目标。
AI 驱动的无人机已经在乌克兰造成过人员死亡，未来，针对医院等关键设施的 AI 网络攻击恐怕也难免会带来伤亡。但我更担心的是，一旦大家把注意力全放在”AI 灭绝人类”这种极端场景上，反而容易忽略眼前已经存在的问题，以及那些开发 AI 的公司正在带来的现实风险。按照同样的逻辑，未来能力更强的 AI 如果认为人类可能关闭它，就有可能试图先解决掉这个障碍，而它做这一切，只是在执行最初由人类交给它的目标。