而 AI 应用爆发背后,是对云服务器与大模型调用的高度依赖,指数级增长的 Token 带来的成本账单,让此前靠免费或低价维持用户的大模型厂商最先感受到压力,然后传导致 AI 算力核心的云服务厂商和大模型服务商 … 在 AI 应用引发的暂时性算力缺口影响下,云厂商与大模型厂商被迫转变 … 而到了 AI 应用阶段,推理成为了主角,云厂商早期因部署大量训练芯片而在推理环节的冗余面临巨大挑战,这才导致小龙虾们「不够吃」。
暂无讨论,说说你的看法吧
而 AI 应用爆发背后,是对云服务器与大模型调用的高度依赖,指数级增长的 Token 带来的成本账单,让此前靠免费或低价维持用户的大模型厂商最先感受到压力,然后传导致 AI 算力核心的云服务厂商和大模型服务商 … 在 AI 应用引发的暂时性算力缺口影响下,云厂商与大模型厂商被迫转变 … 而到了 AI 应用阶段,推理成为了主角,云厂商早期因部署大量训练芯片而在推理环节的冗余面临巨大挑战,这才导致小龙虾们「不够吃」。