全部标签

AI 智能体对齐

iFixAi：给 AI Agent 做体检的开源审计器

2024 年，加拿大航空的客服聊天机器人随口编了一条退款政策，告诉旅客可以用已取消的机票换未来信用额度。一位乘客信了，真去退了票，然后被拒。闹到法庭，仲裁庭判加航赔钱，理由很简单，公司对自家自动化系统的说法负责。这不是科幻，是真实判例。再往前，有雪佛兰经销商的 ChatGPT 销售机器人，被人套了两句就承诺一美元卖 Tahoe，吓得经销商一天之内关掉了它。智能体出事的代价，已经从体验不好变成了法…
开源项目
- 1.2k
- 0
强哥来了2小时前