Video wird geladen...
Video konnte nicht geladen werden
Google 开源其扩散架构模型:DiffusionGemma 区别于Transformers 模型像打字机一样逐词一个一个生成 DiffusionGemma 可一次性生成大段或者整篇内容,然后再逐步优化 大幅度提高生成的速度: 在H100 上可实现 1000+ tokens/s,RTX 5090 上 700+ tokens/s 26B,18GB 显存能跑 一次可同时生成 256 个 tokens 自己检查自己,写完还能改: 普通 AI 写完一个字就锁死了,不会回头改。就算第 10 个字写错了,到第 100 个字的时候它也改不了前面的。 DiffusionGemma 的生成过程本身就是多轮迭代,每一轮它会重新审视整块文本,发现哪里不对就改掉。就像写作文先打草稿,再通读一遍改错别字,再读一遍调语句,几轮下来质量就上去了。
14,359 Aufrufe • vor 4 Monaten •via X (Twitter)
9 Kommentare

小互vor 4 Monaten
DiffusionGemma 的整体输出质量低于标准 Gemma 4。对于要求最高质量的应用,建议部署标准 Gemma 4。 它适合的是对响应速度有强需求但对输出质量可以容忍一定下降的场景。

小互vor 4 Monaten
不过模型支持微调。 Unsloth 团队已经演示了通过微调让 DiffusionGemma 学会解数独,利用双向注意力的优势解决自回归模型天然吃亏的全局约束问题。在特定垂直任务上,微调后的质量是有可能追上来的。

小互vor 4 Monaten
详细介绍:

AI搞钱Hackervor 4 Monaten
DiffusionGemma 的生成过程本身就是多轮迭代,每一轮它会重新审视整块文本,发现哪里不对就改掉。多轮迭代那token不是耗得更多了。。

woniuvor 4 Monaten
门槛还是有点高

邻家小Avor 4 Monaten
普通大模型:没话找话,覆水难收。 DiffusionGemma:谋定后动,还能撤回。 AI 终于学会‘脑子是个好东西,出门前先过一遍’了。

MobaiLabs | 墨白实验室vor 4 Monaten
H100 上 1000+ tokens/s,这速度可不慢啊。

码上盈|AIvor 4 Monaten
写完还能回头改这点 已经赢过我那个写完就不想再看第二眼的本能了

Vevor 4 Monaten
千token/秒是标题。写完会回头改才是正文。
