
如果说大语言模型拉开了本轮人工智能革命的序幕,那么今天人机交互的瓶颈,早已不再是模型的智商,而是人类接收信息的生理带宽。
一个残酷的事实正在发生:人类的阅读极限大约是每秒 5 个 Token,而前沿模型的输出速度正迈向每秒上千 Token。当由数十个 Agent 组成的系统协同运转时,庞大的生成结果沦为“没人能读完的字符废墟”。
正如 Andrej Karpathy 所比喻的那样。今天我们盯着 ChatGPT 的对话框聊天,本质上就像在上世纪 80 年代敲击黑底绿字的终端命令行。属于 AI 时代的“图形用户界面(GUI)”,至今尚未真正诞生。
文字这根狭窄的「吸管」,正在倒逼人机界面发生一场彻底的范式跃迁。
创立于 2025 年末的 SigmaZ AI,正试图给 AI 补上关键的这一课。不同于目前主流的“数字人视频通话”或高成本、低可控的纯像素扩散路线(Pixel Diffusion),这家年轻的初创团队提出了一条极具反共识的技术路径:Coding as Backbone(以代码为骨架)。
他们利用扩散语言模型(Diffusion Language Models, DLM)极高的并发生成速度,让模型直接输出可执行的视觉代码,再交由浏览器完成免费的高效渲染。这种结构性的架构创新,不仅将视频生成的推理成本直接打到了传统像素视频模型的 1/100,更让视频从一次性的静态消费品,变成了“可点击、可提问、实时重塑每一帧”的原生交互界面。
在这期深度对话中,SigmaZ AI 的两位联合创始人——23 岁的连续创业者 William,与曾在亚马逊剑桥实验室及 AGI Lab 亲历语音智能、Generative UI 演进的 CTO Derek,完整拆解了他们从 Chatbot、无限画布一路试错到“实时交互视频”的思考闭环:
- 为什么说聊天框最终会退回 Terminal 的极客角落,而Interactive Video才是终局?
- 为什么在自回归模型上死抠微小延迟是条死胡同,而 DLM 才是打开实时交互大门的真正钥匙?
- 如何通过“代码高维抽象 + 浏览器免费渲染”,实现结构性、数量级维度的降本?
- 一支年轻且高度互补的技术团队,如何在巨头林立的生成式 AI 战场上,构筑起属于自己的审美偏好与 RSI 壁垒?
以下为本次对话实录:

从Chatbot到实时交互视频:一场人机交互界面的范式跃迁
ZF:欢迎来到这期的丫丫,这期节目我们邀请到了 Sigma 的两位联创。首先请两位分别简单介绍一下自己。
William:大家好,我是 William,是 SigmaZ AI 的 Founder and CEO。我们现在主要在做的工作,是用 Coding as Backbone 来做实时交互的视频生成模型。
我自己是连续创业者,今年 23 岁,已经做了三家 Startup,其中有一家公司股权已经卖掉了。现在我跟 Derek 一起做这家 AI Startup,希望重塑人与 AI 的交互形态。我们认为,未来再回头看今天把文字作为 AI 主要交付产物这件事,可能会觉得很奇怪,因为未来 AI 可能默认就是用实时视频的形式跟人类交流。
Derek:我是 Derek,是 SigmaZ AI的 CTO、Founder。接着 William 刚刚讲的,我们在做一种人和 AI 交互的新形态。到目前为止,我的职业生涯已经经历了三代不同的人机交互形态。差不多十年前,我刚毕业进入 Amazon Alexa,那时候是第一代语音智能。语音智能可以理解成文字之后的第二个人机界面,当时我在 Alexa 剑桥实验室做对话生成的头几行代码。
在 Amazon,我带队把 Generative UI做进 Nova 模型,让大模型可以直接输出可视化的 HTML。下一代就是我们现在要做的实时交互视频。
ZF:你们刚开始做这家公司的时候,就已经确定要做今天的实时视频交互了吗?
William:一开始我们很确定的是,AI 时代的整个交互体验一定会被重新做一次。但是具体是不是实时视频这个形态,我们其实经历了一个探索过程。
AI 本质上具备巨大的输出不确定性,很难被困在一个确定性的交互界面里,所以人机交互范式一定会产生很大的变化,这是我们的核心出发点。
最开始我们做了一个 Chatbot,但是用户觉得限制很大,因为全部是文本类的东西,没有那么新。后来我们尝试过无限画布。无限画布当时很火,我们也访谈了几十个用户,但它的问题是边界太宽,用户面对一张白板,很难知道应该怎么使用,所以更适合创意类场景。
当时中国比较火的一家画布公司 Kuse 也放弃了画布形态,转向列表和文件管理。内外部的信息都让我们看到,无限画布可能不是人机交互的最优解。
第三次尝试的时候,我们做了一个功能叫交互视频,可以把用户的课件变成交互式视频课堂。我们发现这个形态很好,用户留存也不错。这里有几个原因。第一,它的理解成本很低,用户天然知道视频是干什么的,对用户来说具备很强的确定性。第二,有了时间轴以后,用户对内容的掌控感更强。第三,它把一个生成式页面降维成了一种内容,用户虽然获得了更强的多模态体验,但理解成本和操作成本都很低。
当时我们还不确定这种做法是否具备泛化性,还是只局限于 AI 教育。我们最早做的是一款 AI 教育产品,上线几周,Alpha Launch 之后在海外获得了千万级别的曝光,用户平均停留时长差不多 11 分钟,是其他 AI 教育产品的三四倍。
但我们后来发现,超过 50% 的用户并不拿它做教学视频,而是在各种通用、高频的场景使用。比如把图书和小说变成交互式视频,把商品变成营销视频,甚至很多人会把 AI 输出的内容复制粘贴过来,再上传到我们这里。有用户直接反馈,他不会为一个 AI 教育产品付费,但觉得这个视频生成能力很好,因为生成速度快、准确性强、成本不高,图表和文本的渲染效果也很好,很适合把任务讲清楚。他们并不追求特别花哨的效果。
所以我们先确认了视频,再确认了交互视频。。再往下一步,我们跟用户交流时,他们希望生成速度能够更快,最好快到实时——资料上传之后马上变成视频,不理解的地方马上就能提问。最后才演变成今天的实时视频形态。
ZF:为什么 Chatbot 一定不是终极的 Interface?你们怎么思考这个问题?
Derek:我做 AI 的这十年里,经历了三代人机交互界面。最开始是语音智能,也就是我刚进 Amazon Alexa 时做的东西;第二代是今天的 Generative UI,让大模型直接输出可视化的 HTML Artifacts,但它本质上还只是一个漂亮一点的文字;我们要做的下一代,就是实时交互视频。
为什么要一代一代往前走?因为每一代界面最后都会成为人与 AI 之间的瓶颈。
今天这个瓶颈其实特别容易量化。一个成年人的阅读速度大概是每分钟 240 个词,拆成 Token 大概是每秒 5 个 Token 左右。但模型的输出速度已经可以达到每秒 80 到 240 个 Token,如果再加上即将出现的专用推理芯片,可能会达到每秒几千个 Token。
再想想,如果未来使用的是 Agent 团队,一个人有 10 个 Agent 同时工作,那么输入输出之间的差距就是几百倍甚至几千倍。所以今天 Agent 很大一部分输出,其实是在写没有人会读完的东西。
算力不再是天花板,人才是。Karpathy 在 2025 年 5 月的时候在 X 上说过,跟大语言模型聊天,感觉就像在使用上世纪 80 年代的 Terminal。聊天框就是一个 Terminal,而属于 AI 的图形界面还没有被发明出来。GUI 的出现并没有让电脑的处理器变得更聪明,它只是让电脑的智能变得看得见、摸得着、可以操控。有了 GUI,电脑才真正走向每个人的桌面。我们现在做的事情,就是给 AI 补上这一课。
Karpathy 发那条 Tweet 的时候,我们的 Generative UI 其实已经在 Amazon Nova 上进入生产环境。2026 年 5 月他又发了一条,说 HTML 是当下大模型最理想的模态,而终点是交互式视频,是 “neural video”。那个时候我们也已经做第一代视频生成几个月了,几个月以后,它逐渐变成行业共识。当你站在一个正确的方向上,会发现最聪明的人都在往同一个方向走。所以聊天框不会消失,但是它会变回今天 Terminal 所处的位置,留给一小部分极客。
ZF:你过去在 Amazon,包括过去十年的经历,给你对于真正的交互型或者入口型产品最直接的感知是什么?怎么判断一个 Interface 是 Work 的?
Derek:我觉得一个入口型产品,首先应该是人使用起来最不费劲的模态。Alexa 做的是用一种无处不在的方式,让交互尽可能不费劲。我们现在想做的是一种你随时可以问、随时可以看的交互视频,降低人和 AI 的沟通成本。
ZF:回头看每一代 Interface 的演进,你觉得其中有什么规律?
Derek:我从以前的经验里学到很重要的一课:并不是一种能力“能用”的那一天,就会真正解锁一个新的交互范式。比如语音助手,并不是语音识别能用的那一天开始赢,而是在延迟降低到能够自然对话的那一天开始赢。因为人对于对话和交互有生理上的预期,超过某一个延迟以后,模型再聪明,也没有人想跟它聊。
所以如果总结成一个框架,交互范式迁移的开关从来不是“能不能”,而是“快不快、贵不贵”。当现场生成一个界面,变得比预先做好的界面更快、更便宜的时候,范式就翻页了。GUI 等的是便宜的图形内存,语音等的是识别和合成跨过阈值,视觉交互等的就是实时生成。再往深一层看,每一次范式改变背后,都需要供需两端同时到位,缺一不可。需求端是算力和信息的过剩。模型每秒产生的信息量已经远远超过人能消化的量,这种过剩本身就在逼着界面升级带宽,因为文字这根“吸管”太细了。
供应端则是智能本身要提升。AI 终于有能力驾驭一个更高带宽的界面,也就是视觉界面。它需要有能力写出承载这些信息的视觉代码,撑起一个实时生成的视觉世界。需求在推,供应在拉,中间缺的那一层,就是我们今天想补的。

实时交互视频的定义:一个状态公式,而不是一次生成
ZF:现在实时交互视频确实很火,做这个方向的团队也很多。为什么你们选择这个时间点创业?
Derek:如果把最近三年摊开来看,我觉得每一年行业解决的主要问题都不一样。2024 年的时候,用户问的大部分都是简单问题。那个时候并不缺带宽,缺的是智能,行业的问题是怎么让 LM 变得有用。如果在那一年做高带宽界面,就像给一台不存在的发动机造跑车。
到 2025 年,是 Agent 的爆炸,Sub-agent、多 Agent 协作,到处都是 Agent。智能和信息一下子过剩了,问题从“怎么让 LM 有用”,变成怎么把它规模化到所有人、所有场景。
同一年还发生了两件关键的事。第一,功能性的编程基本已经成为一个相对解决的问题,所以包括我们在内的一批人开始做视觉编程,开始教 AI 使用视觉编程这种更高带宽的界面。第二,DLM,也就是扩散语言模型的研究开始起步,为实时交互寻找足够快的计算范式。
所以到 2026 年,这两条线同时开始成熟。DLM 的商用落地,包括 Google 的 Gemini Diffusion、Inception 的 Mercury 2、字节的 Seed Diffusion,代码生成已经可以跑到每秒一两千个 Token,比自回归 LM 快一个数量级。视觉 RSI 也 Ready 了。我的论文在 ICLR 2026 的 RSI Workshop 发表,是第一个在视觉代码领域的递归自迭代框架。
所以总结来说,2024 年的问题是怎么让 AI 有用,2025 年的问题是怎么让 AI 大规模落地,2026 年的问题变成了怎么让人类不要再成为 AI 发展的瓶颈。
为什么前两年不行?因为如果前两年做这件事情,钱会烧在一个注定被淘汰的解码范式上,也就是自回归 AR 大模型。我们当时的判断是,延迟问题不值得在自回归模型上面一点一点抠,它注定会被一次范式转移整个解决掉。所以我们把工程精力先放在无论换什么方式以后依然值钱的东西上,包括视觉质量、评测体系、自我改进迭代的基础设施。
我们把延迟问题留给了一个我们判断一定会来的模型,像 DLM 这样的模型架构。这属于大厂 Researcher 有非常充足的算力去做的研究。我们的思路是,DLM 一旦落地,我们不是从头开始,而只是把最后一块拼图放进一张已经拼好的版图。
ZF:你们怎么定义“实时视频交互”?它和过去的视频生成,本质区别是什么?
Derek:我们内部对实时视频交互有一个非常具体的定义。把它写成一个状态公式:下一个画面,等于当前画面,加上你的动作,再加上上下文,一起进入模型以后算出来的结果。
直白一点,你点击了屏幕上的一个东西,这个动作会重新进入模型。模型会根据你点的是什么、你之前看了什么、你在关心什么,重新生成这个世界里的下一帧。每一次交互,都在重塑媒介本身。这和其他视频生成最大的区别在于,传统视频生成是一次性的。视频生成出来以后,本身就不具备继续交互的能力。
我们的不同不只是在交互上,因为我们是通过视觉代码生成,再把它渲染成视频,所以在视频生成方式上也不一样。
ZF:怎么理解视觉代码渲染?
William:A16Z 前两天发过一篇文章,现在的 Visual AI 生成主要可以分成两个主流路线。一种是 Pixel Diffusion,也就是像素扩散渲染,在连续的像素空间里进行计算和渲染。这种路线的好处,是可以得到非常真实、电影级的视觉体验。但问题是可控性比较低、成本很高,而且整体能够传递的信息量不高。比如你看一分钟短剧和看 30 秒新闻,它们的信息量完全不是一个维度。
我们的做法是第二种,通过 Visual Code,以代码为核心来进行视频或者视觉生成。好处是成本低、高可控、准确性更强。过去这种方式没有办法拿来做实时交互视频模型。它能够生成视频,但由于自回归大模型生成速度比较慢,没有办法形成一种 Prompt 一输入,视觉多模态内容马上回来的体感。
到了今年,基于 Diffusion 扩散语言模型的技术路线,无论工程架构还是训练范式都获得了很大进步,才使得我们能够用代码作为实时交互视频的 Substrate。所以我们和其他产品的共性是都支持实时交互,区别是我们的结果更加可控,能够承载更多信息量,同时成本更低。比如新闻场景,我们可以用一个明确的 3D 内容告诉你,地球上的某一个地方发生了什么事情,也可以用图表告诉你过去一天的天气走势。这些是过去扩散模型很难精准做到的。
ZF:对于普通用户来说,你们和其他实时视频交互产品会有明显的体感区别吗?
William:输入方式上,我们同样支持全模态输入,可以用语音、视频、图像实时交流。但输出端消费者会感受到很大的区别。
至少早期,我们不会有一个数字人,所以它不是一个纯娱乐场景。其他一些实时交互视频产品,更像是跟 AI 打一个视频电话:你可以看到 AI 的脸,跟 AI 交流,给它换装、换人,以类似直播的方式聊天。我们的实时交互视频模型虽然同样是全模态输入,但输出结果更像是 AI 开了一个共享屏幕。你可以看到 AI 正在做什么,把 AI 干活的过程呈现在你面前,实时生成具有一定信息量的内容。比如你在健身的时候,它会告诉你这个动作做得不太好,下一个动作应该怎么做,并且直接把正确动作实时生成在画面里。或者你在解一道数学题,它先告诉你一个公式,你可以马上问它:“这个公式我没听懂,在现实生活里有什么作用?”它就会实时生成一个更深入的讲解,把这个问题讲清楚。
我们把它叫做“好用又好玩的实时交互视频”。
ZF:如果做一个类比,它更像什么样的产品?
William:有点像一个 AI 原生、实时交互版本的 YouTube。过去的 YouTube 是某一个博主把自己的经验制作成视频,视频本身是死的。你有什么问题,只能去评论区问,然后等别人或者博主回复。
实时交互版的 YouTube,是别人发布了一个视频以后,你可以实时对这个视频本身提问。比如一个做饭博主发了一条菜谱视频,你可以问:“我没有白胡椒粉,只有黑胡椒粉,可不可以?”它会直接用视频的方式回复你。
ZF:现在我也理解为什么你们最早是从教育产品延伸出来的,这种形态确实很适合自适应教育。
William:最早的时候,我们的界面左边是视频,右边有一个 Chatbot,用户可以一边看视频一边提问。当时我们并不支持通过这个 Chatbot 直接操纵视频,因为还没有找到一条技术路线,可以让视频根据用户的问题实时生成新的回复。但我们发现很多用户会自发地默认这个 Chatbot 就应该可以控制、调整视频,而且应该跟视频本身产生关系。这是一个很大的 Aha Moment。用户面对 AI 生成的结果时,默认觉得这个东西应该支持实时交互。因为他已经习惯 ChatGPT 是文字进去、文字马上出来。很多用户会反复问:“为什么我问了一个问题,这个视频没有发生改变?”
所以我们最早意识到,交互视频是一个真实需求。随后又发现它具备很强的泛化性。用户不只是拿我们做学习,个性化教育当然是其中一个场景,但很多用户真正追求的是怎样更好地理解 AI 的输出。有人会把 ChatGPT 输出的内容复制粘贴到我们平台,让我们再通过视频给他讲一遍;有人把小说、图书拍照上传,然后变成视频去看;也有人把产品照片上传,生成商品介绍视频。

Code负责真实,Diffusion负责“好看”,双轨技术架构
ZF:从用户输入指令开始,你们完整的技术链路是什么?
Derek:假设你正在看一个讲降噪耳机原理的视频,你点了一下画面里正在震动发声的耳机。第一步,我们会做一个“意图反演”。系统会结合你点击的元素、当前看到的画面、之前问过什么,判断这个手势到底是什么意思:你是想放大,还是没有听懂,或者想岔开去问一个新问题。真正需要新事实的问题,比如“这个技术是谁发明的”“跟别家的技术相比怎么样”,交互层会派出一个子查询,交给后面的推理层,异步进行检索和工具调用。
这时前面的画面不会被冻结。推理层在后面工作的时候,前面的交互层会继续进行视觉演化,接收你的下一个手势,或者拿之前已经准备好的内容继续维持当前场景,但它不会为了填空去编造一个事实。
当后面的推理层返回新信息以后,才进入流程最核心的一步。模型会先推理出视频的下一个状态,也就是 T+1 的状态应该长什么样:哪些元素要保留,哪些展开,哪些新元素应该进场。它不会从零开始重新写一份代码,而是把当前场景的代码 Template 演化成 T+1 的代码。这是继承式编辑,而不是推倒重来。所以场景是连续的、风格是一致的,你刚刚点击过、拖过的滑块,也仍然会停在你放手的位置。
然后我们用 DLM,也就是扩散语言模型,以并行方式起草代码,在几秒内完成,浏览器执行新的场景,它就会在你面前展开。最后,每一次探索都会成为你个人 Exploration Graph,也就是探索图上的一个新节点。
这里有一个反直觉的设计:模型本身是 Stateless 的,它本身并不保存你所有 Interaction 的状态。真正的状态被显式地存储在每个用户自己的探索图上。所以无论明天还是后天,用户回来以后,环境都可以从他离开的地方继续,被探索过或者跳过的内容都还在那里。在你点击的那一刻,模型不是在检索一个答案,而是在生成这个世界的下一帧,只不过这一帧是代码。
ZF:所以你们的模型本质上可以理解为一个代码模型?
Derek:对,我们的模型可以理解为一个“写代码的模型”,写的是可以被渲染成视觉内容的代码。如果拆开来看,它更像一个写网页的模型。网页本身就是大家很容易理解的、可以通过代码渲染出很好视觉效果的状态。我们的交互式视频,也可以理解为一个不断自迭代、不断更新、不断运动,视觉效果和动画效果叠加到极致的网页。它还带自动播放,也能够即时理解你的交互。
ZF:代码渲染提高了可控性,但会不会限制视觉表现力?
Derek:今天确实会,这一点要先承认。即使在我们自己发布的 Benchmark 里,在审美偏好这一项,我们的排名也是比较靠后的,这个数字在我们自己的报告里也很诚实地体现了。
但第一,代码的表现力上限其实比大家想象得高很多。代码里有 WebGL、Shader、粒子系统、实时 3D。通过非常短的代码,本身就有能力渲染整个世界。所以问题从来不是代码不能表达,而是模型还没有学会把代码写得那么美。这是训练问题,不是表示问题,而训练问题是我们能够解决的。
第二,Diffusion Language Model 的速度恰好可以直接解决这个轴。如果把 RSI,也就是 Recursive Self-Improvement 自迭代系统理解成我们的 Engine,那么 DLM 的速度就是加速燃料。我们渲染一次,用一个 VLM 打分,再进行精修。在 DLM 下可以跑非常多轮,因为它很快、很便宜。我们可以在线实时地跑,用速度直接兑换成不断迭代的美感。
第三,我们计划的终局本来就不是纯代码。代码是一种载体,但代码里可以放图片、放视频,也可以在代码上面叠一层图层。我们的目标架构里,会有一个连续扩散的像素头,专门负责开放世界内容里的氛围、光感、质感。那些只需要好看、不需要承载事实的部分,我们会用像素来做。
这个分工原则非常简单:用 Code Token 负责真实,用 Diffusion 负责好看。所以代码限制的从来不是表现力,它限制的是模型撒谎的能力。方程写在代码层,就永远不会被渲染错,而这个限制恰恰是我们需要的。
ZF:代码生成的视频,和传统图生视频模型一帧一帧生成画面的逻辑有什么区别?
Derek:我觉得代码生成画面,相比像素生成画面,是一个高好几个维度的抽象。我最喜欢举的例子是一个篮球弹跳。如果用代码表达,我只需要写这个球以某一个速度、某一个方向飞向地面,然后落地、弹起。Import 一个现成的物理库,设置初始速度和方向就结束了。重力、碰撞、反弹,渲染引擎会免费送给我,而且保证符合物理规律。如果用像素模型表达同一件事,每秒 30 帧,需要一帧一帧把球和背景全部算出来。球每一帧移动到哪里,每一个像素的背景有没有变化,都要重新推理。算了这么多以后,它还不保证这个球一定符合物理规律。
ZF:为什么代码天然能做到这些物理规律?
Derek:这些是硬规律,本身就可以写进代码的物理库里。不管是各种物理库,还是游戏的物理库,很多代码已经存在了几十年。对于代码引擎来说,很多现成组件可能就是一行 Import,就可以直接使用。这也是代码非常强大的地方——可复用性。代码里的组件和规则都可以缓存、复用、自由 Remix。上个场景的坐标、常用物理套件、公司统一的视觉风格,只要生成过一次,就不需要每次重新生成。在像素世界里没有组件的概念,没有 Import,也没有这种明确的规则和逻辑,每一次都需要从头算。
ZF:所以你们很早就决定不能选择自回归路线?
William:这个方向 Derek 已经研究很多年了。Derek 在 Amazon AGI Lab 的时候就在做基于代码的多模态生成。当时做基于代码的多模态就有两个问题,一个是延迟,一个是质量。如果想解决延迟问题,自回归模型的上限其实是硬件上限,是 Memory Bound,也就是我们经常讲的显存墙问题。它的计算速度实际上受到显存带宽限制。对于一家软件或者模型层公司来说,如果上限来自硬件,我们不可能重新设计一块 GPU。更 Practical 的做法,是选择一个能够突破硬件限制的模型,把计算单元利用率打上去。
所以我们对这个问题的思考比较第一性:直接去掉硬件限制。要解决这个问题,可能就必须换一个解码架构。
Derek:从一开始做交互视频,我们就知道交互需要非常低的延迟。到今天,我们系统的其他部分基本已经建完了,视觉质量做到了 SOTA,评测系统在跑,RSI Loop 在转,剩下的一道门就是时钟。自回归模型写代码大概是 100 个 Token 一秒。一个信息量丰富的场景可能需要几分钟。在离线渲染里这足够用,但对于实时交互来说就是死刑。所以当时摆在我们面前有两条路。
一条是在自回归上不断抠那百分之几的延迟优化;另一条是等待一个可以一次性把延迟砍掉一个数量级的新范式。我们选择了后者。从做这个方向的第一天起,我们就决定先解决质量、评测这些即使模型范式发生变化也仍然有价值的问题,把速度问题留给 DLM 或扩散模型。
因为一个慢但是好看的系统,至少还是一个产品;一个很快但根本没法看的系统,什么都不是。我们一直相信,像 DLM 这种通用模型架构和能力,大厂最终会解决。我们真正需要关注的,是视觉代码领域的后训练机制和 RSI Loop。
从 2025 年年初,我在 Lab 做这个方向的时候,我们就已经意识到 DLM 的研发开始了。我后来一个很好的同事也去了 Gemini Diffusion 那边做 DLM,所以我一直知道这个方向大概什么时候大厂会给出答案。今年我们已经等到了答案。DLM 还有一个经常被忽略的性质。它的解码不受内存带宽限制,所以在消费级 GPU 上也可以跑出高吞吐量。我们不需要一台八卡服务器去跑 DLM。
第二,它也不需要依靠巨大的 Batch 才能有经济性。自回归模型的经济学需要“拼单拼车”,但 DLM 单人单卡就已经可以达到经济性。这对于真正交付产品非常重要,因为实际交付的请求往往是零散、突发的,而不是一直可以拼车。
ZF:如果从工程优化曲线来看,为什么你们更看好 DLM?
Derek:如果把它想象成一条非常标准的工程优化曲线,自回归已经到了下半场,而 DLM 才刚刚进入上半场。自回归这几年已经被全世界最聪明的人翻来覆去优化过了,KV Cache、Speculative Decoding、各种蒸馏、Quantization。今天再改进,可能已经更多是百分之几十、百分之几十的提升。它还没有完全进入平台期,但已经是一条比较稳健的优化曲线。
DLM 刚刚经过学术阶段最艰难的起步,现在正在指数增长的早期,一个优化可能就是几倍的提升。所以我们押的不是今天的 DLM,而是这条曲线增长的斜率。
ZF:你们觉得 DLM 有可能挑战自回归模型今天的地位吗?
William:我觉得它和 Auto-Regressive 模型不一定是挑战关系,而是在不同场景下各自发挥作用。LLM 的生态位是处理长程、复杂、需要多种工具调用的场景,对实时性的要求可能没有那么强。DLM 是为了实时 AI 出现的一种模型。它也很符合人的第一性需求。一开始我们先想要质量,质量上来之后,我们就会想要快,不想再等。所以它会更好地作用在实时 AI 场景上。两个模型会有各自的生态位。
ZF:目前行业对 DLM 的讨论,你们觉得还属于非共识吗?
Derek:我觉得它正在从一个非共识逐渐走向共识,有可能今年之内就会成为一部分人的共识。
这个共识有一个相对温和的版本。也就是 William 刚才讲的,DLM 和传统自回归模型并不会打仗,也不是谁一定要取代谁,而是分层。自回归在深度串行推理上确实很强,那就继续让它攻克难题。DLM 在结构化生成上又快又稳,那就让它负责生成所有给人看的东西。未来技术分层会更加精细,并相应逐步涌现各个方向的专家。
我们设计的双层架构,就是这个判断的一个实际生产实例。前面是一个 DLM 驱动的扩散渲染器,后面的 Interaction Model 里有一个自回归的传统推理器,分别在自己的优势领域发挥作用。
我还有一个更激进一点的版本。今天大家觉得自回归是主流,可能只是因为它是我们先得到的模型。今天自回归的经济学建立在可以并非常大的 Batch 上。假设一个 Batch 同时服务 10 个人,每个人需要 30 秒才能拿到答案;DLM 每个人只需要 3 秒,同样 30 秒时间里也服务了 10 个人。经济学其实可能是一样的,真正的区别只有一个:你的用户等了 3 秒,还是等了 30 秒。批量处理今天优化的是吞吐量,却没有真正优化延迟。但用户感受到的只有延迟。没有人会为了你的服务器调度效率,心甘情愿多等几分钟。自回归已经吃了两三年的优化红利,DLM 的工程优化才刚刚开始。
也许有一天,DLM 的调度效率再提高几倍,它在吞吐量上也会和自回归来到同一个量级,到那个时候,大家可能自然会选择更快的模型。

1/100成本不是优化结果,是结构优势
ZF:除了实时 AI,DLM 对 RSI 有什么作用?
William:DLM 的生态位,我觉得至少有两个。一个就是实时 AI,也就是需要快的地方,我们现在先把它用在实时交互视频生成。
另外一个跟我们非常相关,就是 RSI。我们现在做 RSI,本身存在一个“渲染—评价—反馈—改进”的过程。传统做 One Shot 的自我进化,模型确实能够针对出问题的地方进行编辑和改进,但整个过程会变得很慢。本来一次生成就结束,现在你要求模型再看一遍自己做得怎么样,然后自己迭代,找到 Reward,再根据 Reward 调整,整个过程就被拉长了。但 DLM 非常擅长快速做 Token 生成,所以可以把它应用在 RSI 场景里,加速 AI 递归自进化的过程。这也是一个很大的 Bet,对我们通过 RSI 走向 AGI 的过程非常重要。
我们自己的应用场景,是把它用在基于视觉的 RSI。首先,我们定义了一套在视频生成领域能够比较好反映人类对视频质量、准确性和审美判断的 Benchmark。基于这个 Benchmark,让一个 VLM 作为奖励信号,再让一个 Coding Model,也就是 DLM 作为 Improver,去修改它生成的 Artifacts。过去这样做,整个生成会非常慢。但使用 DLM 以后,Latency 并不会增加太多。更长期来看,我们的模型本身可以自我进化。每一次生成过程产生的 Editing Trace,也就是编辑轨迹,都可以长期通过知识蒸馏和强化学习的方式,蒸馏进模型权重。
ZF:你们资料里提到,相比直接生成视频的 DiT 模型,可以做到 1/100 的推理成本,这个数据是准确的吗?
Derek:这是我们实测得到的结果。1/100 的推理成本,主要来自四个结构性变化。
第一是表示层级。代码比像素是高很多维度的抽象。还是刚才弹跳篮球的例子,用代码表达这个球怎么弹,只需要 Import 一个现成物理库,设置初始速度和方向,渲染引擎会免费完成后面的 Physics,并保证合理。而像素模型需要一帧一帧推理。所以 Code 本身就是一种高维抽象,可以非常精简地表达世界状态。
第二是渲染的外包。DiT 是模型自己去算每一个像素,而我们生成的是几百行或者一千行代码,真正的渲染工作交给用户设备上的浏览器。DiT 在用算力算每一个像素,我们相当于让用户的浏览器免费工作。浏览器是人类过去 30 年优化得最好的免费渲染引擎。我们利用的就是代码和浏览器。
第三是零编辑帧。代码一旦生成以后,动画本身就可以自己运行。模型只在用户发生一次新交互的时候被调用一次。但是像素模型每播放一秒,都在消耗推理。像 Genie 3 这样的 World Model 是非常了不起的,是实时可玩的模型,我非常尊敬这类研究和研发。但它每一帧都在消耗前沿算力,这条路线里生成成本本身很难完全消失。代码只需要生成一遍,就可以自己一直跑,直到用户再次交互时才重新调用模型,而不是每一帧都在烧。
第四是代码的复用能力。代码可复用、可重组,组件可以被缓存、复用和自由 Remix。目前无论像素视频生成模型还是 World Model,都没有这种可以直接缓存、直接 Import 的能力。像素世界里,常用组件、常用逻辑和统一风格很多时候都需要重新生成。但代码世界有“组件”这个概念,所以规模越大,就有越多缓存和复用空间。这四个结构性变化加在一起,至少可以做到 1/100 的推理成本。这个数字我们已经说得比较保守。
ZF:总结来看,你们最核心的技术壁垒是什么?
Derek:我觉得最核心的壁垒,并不是某一个底模。大厂会一直发布新的底模,我们真正的壁垒,是模型在视觉代码领域的后训练架构。其中最重要的一部分就是 RSI Loop,也就是自迭代系统。这里最核心的又是 Evaluator,也就是视觉模型的 Judge。视觉内容渲染出来以后,怎么判断它是好还是坏?这一版和那一版哪个更好看?怎么让模型理解用户偏好、理解人类审美和人类喜欢怎样的表达,让一个模型真正拥有 Expressiveness 和 Taste?这是我们很大的壁垒。
因为无论底模多强,我们最终都需要从用户和人的打分偏好中,学习出一套视觉偏好模型和 Evaluator。这套后训练系统可以继续用于任何一个新的底模,把它往这个方向优化。
另一方面,视觉代码生成的训练和其他代码生成也不一样。传统代码生成以后,通常只有“对”和“错”。我们生成以后,要先渲染;渲染以后要截图;截图以后,再交给视觉模型进行评分和反馈。这个过程本身耗时比较长。比如生成一个 8 秒或者 10 秒的场景,渲染本身可能也需要几十秒甚至一分钟。在这一分钟里,整个模型训练不能停。但这一条数据又需要进行异步处理。
所以怎么样让整体训练架构中的 GPU 不要闲置,继续做下一个任务,等上一个任务的渲染和打分回来,这套异步训练系统也是我们的壁垒之一。
还有视觉代码渲染沙盒的稳定性。特别是在 RL 训练 Rollout 的时候,会探索一些比较危险、Low Probability 的 Path,希望看看有没有惊喜。但找惊喜的过程中,经常也会遇到惊吓,有些代码一渲染,可能直接让整台机器挂掉。所以我们需要通过沙盒和稳定性机制,保证不会因为某一个 Rollout 的尝试,把整个模型训练 Iteration 拉垮或者直接宕机。这也是我们在模型训练基础设施上的一些创新和优化。
ZF:目前产品进展到什么阶段?
William:现在主要在推进几个方向。
第一是建立 Benchmark。这个方向还比较新,行业里缺少一套成熟的、针对交互视频的评价标准。所以我们花了不少时间定义什么是好的基于代码的多模态交互内容,以及应该如何系统地衡量模型在 coding-based video 上的能力。这套 Benchmark 也会成为后续模型训练和产品迭代的基础。
第二是围绕模型和产品做基础能力建设。模型侧主要包括数据体系建设、训练流程验证,以及针对具体能力进行后训练和推理时优化;产品侧也在同步推进,包括产品形态验证,以及围绕代码视频生成所需要的生成管道、系统架构和基础工程能力建设。
与此同时,我们也已经开始和一些早期合作用户做试点,初步交付基于代码生成的视频内容。一方面验证技术在真实业务环境中的表现,另一方面也在观察哪些场景的需求最明确、商业价值最高,为后续产品和商业化方向提供反馈。
目前一些阶段性的 Benchmark、Research Preview 和 Demo 已经在 X 上发布,也获得了不错的反馈。
整体来说,我们已经完成了产品形态和模型训练路线的可行性验证,也搭建了初步的产品和技术框架,并开始进入真实场景验证。接下来会继续围绕数据、训练、评测、产品工程和场景验证推进,逐步把这些能力整合到更完整、稳定的 production-ready 环境中。
ZF:你们目前收到过哪些比较有意思的用户反馈?
William:从开始做这件事的时候,我们其实就已经有大量数据,相对更理解用户场景。我们知道用户喜欢什么样的交互,在交互过程中可能会提出什么问题,以及一个视频需要有哪些特点。这些数据从我们的第一款 C 端消费产品 Cuflow 阶段就开始积累。差不多 10 万多条这样的数据集,构成了 RSI 数据飞轮规模化的重要证据,用来帮助模型训练。
一个比较意外的反馈来自硬件厂商。过去我们以为生成式视频主要应用在软件里,但现在不少桌面智能硬件、机器人公司会主动找我们,希望把实时交互视频变成物理世界 Agent 的动态界面。比如智能健身镜可以根据用户状态实时调整内容,AI 缝纫机也可以按照设定的 UI/UX 原则生成个性化界面。
硬件本身需要规模化量产,很难做到千人千面,但界面可以。这个方向是我们过去没有重点考虑的,现在已经看到了一些真实需求。
ZF:你们现在有没有想清楚最终产品是网页、App,还是其他形态?
William:现阶段最重要的事情还是优化模型,让它足够快,也足够会表达。从产品路径上,我们会先做 C 端平台,因为实时交互视频首先需要被用户看见、体验和理解。
C 端对我们不只是一个订阅产品,更重要的是流量入口、内容场和模型训练场。用户每一次点击、停留、追问、重做和分享,都会形成真实的偏好数据,帮助模型持续优化交互能力、生成质量和个性化水平。很多实时交互能力很难只靠离线数据训练,必须来自真实用户反馈。
所以我们的逻辑是先通过 C 端建立用户认知和数据飞轮,再逐步向 B 端延伸,把实时交互视频变成可以规模化的商业基础设施。商业模式上,早期会尽量降低使用门槛,提供免费体验和生成额度,再探索 Premium 订阅和原生广告等方式。

招聘第一标准:好奇心,不是履历
ZF:聊聊融资。我看到一个细节,有投资人在两个小时内就决定投你们。当时他给你们的反馈是什么?
William:这是一个挺有意思的故事。
我们最早的第一个投资人是小小基金,它是一个很有特点的小基金,是一个 Solo GP,主要投一些小黑马团队。我们是在 WeWork 见面的。当时我刚刚回国,她是我见的前几个投资人之一,她并不是在两个小时里了解了公司所有细节,而是在两个小时内做了几个最关键的判断:这个方向怎么样,团队有没有能力做出来,以及我们是不是拿到了一些别人还没有的早期信号。
在沟通过程中,她看到一个非常直观的东西——一个新的产品形态正在被我们 Build 出来,而且这种产品形态有可能成为下一代人机交互的最优解。那个时候的样子还比较模糊,并不是今天这样,但我们那时已经提出模型非常重要,未来需要用模型的方式解决这个问题,同时新的交互形态也非常重要。我觉得大家看到一种新的产品形态时,本身就会很感兴趣。
ZF:像你们这样的技术路线,向投资人解释的时候会不会有比较高的理解门槛?
William:解释一个新品类,重要的不是先发明复杂的新名词,而是让投资人先理解现有产品还缺什么。我们通常会从 YouTube、TikTok 和 Chatbot 这些大家熟悉的产品讲起。今天大部分 AI 产品依然以文本为主要交互方式,假设人与同事之间只能靠打字交流,效率一定很低。所以实时交互视频这个产品价值,其实并不难理解。
真正有解释成本的是技术路线。我们不是沿着传统像素生成视频,而是把 Diffusion 用在文本空间,通过代码生成视频。尤其是 DLM,虽然名字里有 Diffusion,但本质仍然是 Language Model,为什么它更快、成本更低,需要一定解释。
不过这个方向正在逐渐从非共识走向共识。比如孔令鹏教授也在做商业化 DLM,并获得了红杉、顺为、高瓴的投资。我们更聚焦 DLM 的后训练和 RSI 框架,和这类底模公司更像上下游或互补关系。今天它可能还不是完全共识,但关注这个方向的人已经越来越多。
ZF:你们现在团队的招聘原则是什么?怎么吸引已经在大厂里很有经验的人加入一家早期公司?
William:我们最看重的特质是好奇心。一个人愿不愿意去做没有人做过的事情,去探索技术边界,本质上取决于他有没有足够强的内在驱动力。在 AI 时代,只要有足够的好奇心和 Agency,很多能力都可以继续学习。所以除了编码、算法和相关经验之外,好奇心是我们一个很重要的 Go or No Go 标准。
至于怎么吸引资深人才,我觉得他们加入早期公司通常不是因为钱,而是因为这里能让他们解决一个足够重要、足够有挑战的问题。实时交互视频涉及模型、推理、交互和设计多个层面的重新定义,本身没有标准答案。
另外,创始团队也要有清晰、自洽的技术路线。优秀的 Researcher 和工程师其实比 VC 更严格,他们会反复判断团队是不是真的理解问题、关键假设有没有得到验证。所以我们会把真实数据、技术判断和阶段性路线坦诚地展示给他们。
最后,早期团队要给人才足够大的 Scope。很多人在大公司里只能优化一个模块,但在这里可以自己定义问题、寻找解决方案。对我们来说,真正吸引人才的是三个东西:足够重要的问题、足够清晰的路线,以及足够大的责任和创造空间。
ZF:你们现在团队有多少人?主要在哪里?
William:现在差不多 20 个人,基本都在中国。杭州的人才密度很高,阿里、字节、钉钉都在旁边。经常有人白天上班,下班以后过来面试。所以在团队招募上,我们也确实吸引到了一些很好的人才。
ZF:接下来公司发展的关键里程碑是什么?
William:接下来比较关键的是两个节点。
第一个是模型完成训练。目前我们的判断是模型还需要更多 RL,我们也正在募资,希望帮助我们更好地完成模型训练。模型上线以后,它会是一款目前很强的、基于代码做视频生成的模型,让开发者或者 B 端基于它构建一些可能连我们之前都没有想象过的应用。
第二个大的里程碑,是模型上线以后,我们会很快推出自己的 C 端平台。我们希望让大家看到,视频可以从一个静态的东西,变成一种大家共同参与的体验。我们希望在明年 Q1 之前把这款 C 端产品推出去,让大家真正看到,实时交互视频不是跟数字人聊天。现在我们也在大量招募早期创作者加入平台,提前建立一些好的内容供给管线。同时我们也在展开新一轮融资。

快问快答
ZF:最后几个快问快答。你最喜欢的创业者是谁?
William:Steve Jobs。
ZF:你现在 23 岁,因为太年轻,创业这件事受到过质疑吗?
William:我长得比较老,所以大家质疑我的时候,往往是在质疑我的年龄是不是真的,怀疑我是不是已经 30 岁了。
ZF:你的 MBTI 是什么?
William:ENTJ。
ZF:推荐一本你喜欢的书或者一部电影。
William:我推荐大家读一读 Why Nations Fail,这是一本经济学的书,讲国家为什么会失败。
它可以帮助你以一种建模的方式去理解人生和社会中发生的很多事情。我觉得这是一本很好的书,对于创业、理解技术演变也都有很大的帮助。
ZF:你最喜欢的一款 AI 产品是什么?
William:Claude Code。
ZF:未来五到十年,你希望 SigmaZ AI 成为一家什么样的公司?
William:我希望它是一家实时交互技术的核心提供方。
希望大家提到这家公司,会知道它在实时交互领域产生过很大的影响。
哪怕最后我们没有成功,大家也可以说,这是一家最早在这个领域做出核心贡献的公司。
希望它能对“人类未来应该怎么跟 AI 交流”这件事情,做出自己独特的,而且 Hopefully 是很大的贡献。
本文由作者@Z Finance,授权发布于平台,未经许可禁止转载。

