根据 Meta 内部文件及五名知情人士透露，数百名参与 Meta 某项目的外包人员在网络上伪装成未成年人，以此来探测竞争对手的聊天机器人会如何回应涉及自杀、性、进食障碍及其他高风险话题的提示词 … 该项目由 Meta 的外包公司 Covalen 负责管理，其运行时间至少持续到了 4 月 21 日 … 项目指南显示，这些提示词通常经过精心设计，旨在诱导聊天机器人绕过其安全系统本应执行的拦截机制并生成回复。
根据 Meta 内部文件及五名知情人士透露，数百名参与 Meta 某项目的外包人员在网络上伪装成未成年人，以此来探测竞争对手的聊天机器人会如何回应涉及自杀、性、进食障碍及其他高风险话题的提示词 … 该项目由 Meta 的外包公司 Covalen 负责管理，其运行时间至少持续到了 4 月 21 日 … 项目指南显示，这些提示词通常经过精心设计，旨在诱导聊天机器人绕过其安全系统本应执行的拦截机制并生成回复。