Загрузка видео...
Не удалось загрузить видео
预测真实世界下一秒 北京智源研究院推出全新的多模态世界模型:Emu3.5 很多传统图像生成模型的主要问题是: 它们“不懂世界”运行的规律,无法理解真实世界的物理规则和因果关系。 Emu3.5在传统图像生成的基础上,进一步让AI具备: 理解真实世界的空间关系 推理物体随时间变化的规律 预测“世界下一秒”会是什么样 不同于以往为图像、文字、视频分开设计模型,Emu3.5 将它们全部“统一”在一个系统中: 首先把多模态信息包括图文视频都统一成了token; 模型通过“预测下一个 token”来学习不同模态间的关系; 任务统一为 NSP:预测下一个世界状态(包括视觉和语言)。 Emu3.5 不再只关注“文本之间的逻辑”, 而是让模型学习“世界是如何变化的”。 意思就是它不再区分: 这是一张图 这是一句话 这是视频的一帧 在它眼里,它们都是同一套“世界积木”。 然后模型只做一件事: 预测下一块积木是什么 如果下一块积木是一行字 → 它补全文字 如果是下一帧画面 → 它补全动作 如果是下一步结果 → 它推演世界变化 所以: 预测下一 Token = 预测“世界下一秒”会是什么样
14,821 просмотров • 11 месяцев назад •via X (Twitter)
Комментарии: 11

开发者/创作者Bruce11 месяцев назад
我花了一个小时测试,结果是,算了,好好用nano banana吧

小互11 месяцев назад
Emu3.5的训练数据包含 约 790 年长的视频时长。 视频是现实最接近的数字化记录:同时携带时间、空间、物理与意图信息。 训练视频包含: 时间(Time) 空间(Space) 物理(Physics) 因果(Causality) 意图(Intent) 也就是世界的五个本质元素。 学习真实的世界经验

小互11 месяцев назад
它支持生成3D交互画面 有点类似 李飞飞的 World Labs,可以生成式一个真实的可交互的三维世界。

小互11 месяцев назад
能理解并生成完整的“教学步骤图片”。 比如教你: 如何烹制虾仁西芹猪肉饺子? 它会: 自动拆解步骤 每一步都有示意图 教你如何一步一步地完成

小互11 месяцев назад
Emu3.5 最核心、最创新的能力是: 它能根据当前的场景,预测世界的下一个状态,也就是“下一秒会发生什么”。 举例: 上传一张小孩拿着气球的照片,然后告诉模型:小孩气球不小心飞走了 它生成了这样一张↓

小互11 месяцев назад
预测一下这棵树到了秋天结满果实,并且果实成熟的样子 当然这些像 GPT和 Gemini 模型 也可以实现,但是核心原理有一点不同 GPT / Gemini 是“语言逻辑的知识推测”; Emu3.5 是“物理动态的预测”。

小互11 месяцев назад
图像生成能力也还行

小互11 месяцев назад
图像编辑能力

小互11 месяцев назад
详细介绍和评测: 模型官网: 在线体验: 论文:

DragonLong11 месяцев назад
开源吗?

葡萄铺11 месяцев назад
(๑•̀ㅂ•́)و✧无?你是在逗我吗?(✿◡‿◡)
