这项研究给出了一个颠覆性的结论：即便给到 AI 的训练数据集是绝对正确的，AI 在某些类型的问题上也不可避免地会犯错 —— 这既是由统计规律决定的，也是目前不合理的 AI「考试制度」逼出来的结果 … 如果说预训练阶段的统计学特征让 AI 有了编造的「潜质」，人类评价 AI 的方式也逼着 AI 去「编造」… 这项研究中研究者对比了目前主流的 AI 的评分机制，发现大部分评分机制也是类似的情况，如果 AI 坦诚地回答「我不知道」，它会得 0 分，跟回答错误没有区别。
暂无讨论，说说你的看法吧
这项研究给出了一个颠覆性的结论：即便给到 AI 的训练数据集是绝对正确的，AI 在某些类型的问题上也不可避免地会犯错 —— 这既是由统计规律决定的，也是目前不合理的 AI「考试制度」逼出来的结果 … 如果说预训练阶段的统计学特征让 AI 有了编造的「潜质」，人类评价 AI 的方式也逼着 AI 去「编造」… 这项研究中研究者对比了目前主流的 AI 的评分机制，发现大部分评分机制也是类似的情况，如果 AI 坦诚地回答「我不知道」，它会得 0 分，跟回答错误没有区别。