继何恺明之后,字节也给出了同样的回答:NO。而字节这次带来的Cola DLM(Continuous Latent Diffusion Language Model),则进一步佐证了这一趋势。他们同样选择跳出离散token的束缚,把生成过程交给连续空间,结果是: 在~2B参数、约2000 EFLOPs的严格对照实验下,Cola DLM展现出了比自回归模型和主流离散DLM更稳定的scaling趋势。字节:Token≠语义,表征才是真正的主角 事实上,真正的主角藏在这句话的后半段: Cola DLM的motivation从来不是diffusion,而是representation(表征)。
字节会师何恺明!开源连续扩散语言模型Cola DLM
隐藏内容,支付积分阅读
已有90人购买此隐藏内容
隐藏内容,支付费用阅读
¥
已有86人购买此隐藏内容
隐藏内容,仅限以下用户组阅读
隐藏内容,登录后阅读
登录之后方可阅读隐藏内容
隐藏内容,评论后阅读
请在下面参与讨论之后,方可阅读隐藏内容
隐藏内容,加入AI圈子后阅读
您需要加入AI圈子之后才能查看帖子内容
您猜对了答案,下面是向您展示的隐藏信息:
[]
[¥]
向
提问:
隐藏内容,猜对答案后阅读
猜错啦:您选中的是「」,正确答案是:「」
多选人参与投票
单选人参与投票
PK人参与PK
·已选
已选·
投票后查看结果,您的选择是?
思想因碰撞产生火花,真理因辩论获得升华
热门评论
:
请先登录!
图片审查中...
登录之后回答问题,请先登录!
编辑答案:
我的回答:
最多上传一张图片和一个附件
x


