美国初创公司 Volantis 宣布获得 8800 万美元 A 轮融资，正在构建一种全新的 AI 推理架构，旨在平衡内存容量与带宽。其首个系统 A-1 被设计用于超过 20 万亿参数的大模型，每个用户可达到 10000 Token/s 的速度，同时推理成本更低。A-1 采用 Volantis 全新研发的架构，大量应用光互连技术，将大量内存连接成统一内存池，单 lane 达到 24 Gb/s/lane，光互联带宽超过 250 TB/s（宣传材料数字，官网为 240TB/s），远高于内存带宽，比 HBM 也高 10 倍以上。公司宣传材料称提升了两个量级，这有些夸张。带宽大幅提升的同时，该技术还可做到体积缩小 2500 倍，能效更高，单 bit 能耗远低于 1 pJ/bit，容量可达 10TB，各项参数均远超当前光互联技术水平。