全部标签

RLHF

Human-in-the-loop：让人类成为AI的”终极裁判”

一个被AI圈反复讲起的故事： 2016年，微软发布了一个叫Tay的AI聊天机器人。原理很简单——让用户在Twitter上跟它对话，AI从对话中学习。结果不到24小时，Tay就被网民"教坏"了——它开始输出种族歧视、阴谋论、反犹太言论。微软紧急下线Tay，成为AI安全史上第一个"教科书级失败案例"。问题出在哪？ AI在真空中学习，没有人盯着它的输出，没有人…
AI百科
- 977
- 0
有个吃货女盆友5小时前