Meta 开发 AI 模型路由工具 Switchboard,旨在降低推理成本

Meta 内部 AI 孵化器 AAI Labs 正在开发一款名为”Switchboard”的 AI 模型路由工具,其核心逻辑与 OpenRouter 的 Auto Router 产品高度相似 —— 通过对任务难度评分,将简单请求分流至更廉价的小模型,从而降低整体推理成本。Meta 团队已明确提出两条潜在路径:一是在公司内部部署以压缩成本,二是面向大规模运行 AI 编程智能体的外部组织公开发布。Meta 今年 6 月曾通知员工,将在鼓励全公司更广泛采用 AI 工具仅数周后,开始对 AI token 用量设置上限,同时构建内部平台以追踪 AI 支出并执行 token 预算。

原文连接