Anthropic研究员称AI未来十年“灭绝人类”概率超10%

Anthropic对齐科学负责人Evan Hubinger当地时间8日表示，他个人认为未来十年人工智能“杀死全人类”的概率超过10%。此前，Anthropic研究员Jacob Coxon宣布辞职，称Anthropic和OpenAI正竞相开发可自我改进的超级智能，“拿我们的生命赌博”。Hubinger称，Anthropic确实认真看待AI可能灭绝人类的风险，但目前尚未找到解决超级智能对齐问题的方案，也没有明确迹象表明公司正朝这一目标推进。