Loading video...

Video Failed to Load

Go Home

我用 TypeSafe AI JEV 模型做了一个实时 3D 场景生成器。 这个速度实在太夸张了! 从预制的几十上百种 3D 模型里,根据输入的文案,进行并发几百次的判断。 同时对这些素材的着色、光照、位置以及状态进行处理,一秒完成符合要求的室内场景搭建。

147,832 views • 1 day ago •via X (Twitter)

18 Comments

Kobin's profile picture
Kobin1 day ago

@typesafeai 可用场景好广啊,别的不说了,就拿交互来说,感觉以后可以拿来做实时的游戏关卡设计调整,UI 页面的个性化及时渲染等等

歸藏(guizang.ai)'s profile picture
歸藏(guizang.ai)1 day ago

那些做游戏的厂商,他们的素材库非常丰富,用这种思路来做的话。 就可以直接从素材库里快速生成各种游戏环境和地图场景,用来做 demo 和演示非常有用。

Yanhua's profile picture
Yanhua1 day ago

@typesafeai 牛逼 归藏老师

阿宁造点东西's profile picture
阿宁造点东西1 day ago

@typesafeai 真大神。跟我想到一块了!但我想的是用户界面

wellback000's profile picture
wellback0001 day ago

@typesafeai 这个模型不是用来 浏览web的吗?

Jackie-Y's profile picture
Jackie-Y1 day ago

@typesafeai 这种类型产品实际上还是只是一个AI应用案例 而不是是一个3D建模的案例 这个看起来更像是调用的库 3d效果相比于其他已有的Saas还是差的太多 小白玩一下可以的 但是实用性不高

锦鲤's profile picture
锦鲤1 day ago

@typesafeai 这是我看到为数不多有实际应用场景的实测,赞一个

wellback000's profile picture
wellback0001 day ago

@typesafeai 如何实现的?

Beatiful AI's profile picture
Beatiful AI1 day ago

@typesafeai choice怎么问的?

马德里西语霸王's profile picture
马德里西语霸王1 day ago

@typesafeai 还是需要先预设好输出空间,如果用户有想不到的case,还是会输出错误。演示视频里的赛博空间主题 就不是很像赛博风格

Gabrielle's profile picture
Gabrielle1 day ago

@typesafeai 说明很多东西其实本来就不需要生成,只需要快速调用,生成实际上很大程度上是一种资源浪费。

歸藏(guizang.ai)'s profile picture
歸藏(guizang.ai)1 day ago

@typesafeai 对,它现在还没有多模态,后面要是有多模态了,感觉使用场景更广了

陈铁树's profile picture
陈铁树1 day ago

@typesafeai 调配预制体

白's profile picture
1 day ago

@typesafeai 那是不是用来剪口播也很快

歸藏(guizang.ai)'s profile picture
歸藏(guizang.ai)1 day ago

@typesafeai 是很快,每一个词和每一句话都输入进去,然后跟对应的时间轴一起,让他判断这个东西是不是应该保留,但是视频如果短的话,其实让 LLM 也还行,长视频这个确实有优势

calixte's profile picture
calixte1 day ago

@typesafeai 你让他自己建模试一试

Sainese's profile picture
Sainese1 day ago

@typesafeai 随便微调个分类模型都比这效果好

eLongZ's profile picture
eLongZ1 day ago

@typesafeai 不太明白,它是怎么判断模型的,它是不能识别图片 3D 的,jev 如何理解光照、模型等?

Related Videos

使用AI生成3D模型,最终利用comfyUI渲染输出成片的工作流全过程 以下是GPT4总结的制作流程: 1. 文本到3D生成 在LumaLabs使用Gini文本到3D:访问LumaLabs网站,选择Gini文本到3D功能,输入如“Naruto T-pose”的描述性文本提示生成3D模型。 预览和调整:预览生成的3D模型,根据需要调整文本提示或使用提供的选项重新生成以获得满意的结果。 2. 导入和编辑模型 导入模型到Blender:将生成的3D模型(如身体、头部和手部)导入到Blender中。 调整模型位置和比例:在Blender中调整各个部分的位置和比例,确保模型的整体协调。 组合和调整细节:将不同的部件(头部、手部等)组合成一个完整的模型,对模型的姿态、细节进行必要的调整。 模型优化:对模型进行必要的优化,包括调整网格和重新拓扑(如果需要),以便于动画处理。 3. 动画和导出 应用骨骼和动画:将调整好的3D模型导出为FBX文件,然后在Mixamo网站上应用自动骨骼绑定和选择动画。 导入动画到Blender:将带有动画的模型重新导入到Blender中进行进一步的编辑和调整。 4. 进一步编辑 动画循环设置:在Blender中设置动画循环,确保动画可以平滑地循环播放。 相机和光照设置:调整相机角度和光照设置,以改善动画的视觉效果和氛围。 渲染设置:调整渲染设置,包括分辨率和渲染引擎设置,以获得高质量的动画输出。 5. 最终渲染和后处理 渲染动画:在Blender中渲染完成的动画,导出为视频文件。 后处理:可选地,将渲染完成的视频导入到Comfy UI或其他视频编辑软件中进行后处理,添加背景、特效和其他视觉元素,以完成最终的动画作品。 通过这些具体的小步骤,从文本描述到完成的3D动画的整个制作过程被详细地概述和解释,为想要学习这一流程的人提供了一份详细的指南。

Yangyi

25,554 views • 2 years ago

发现一个讲的很细的大语言模型微调教程,详细介绍了整个流程,包括数据准备、参数设置、资源监控等关键步骤。 基本没有技术能力也可以完成微调。想要了解 LLM 原理的可以按这个实践一下。 时间轴: 0:00 概念概览 3:02 自定义数据的准备 8:17 微调操作演示(T4 版本) 16:52 微调操作演示(A100 版本) 19:13 在 Hugging Face 上的保存与使用方法 文字版整理: ✲ 如何使用自己的数据对大语言模型进行微调(fine-tuning): 对大语言模型进行微调并不一定非常困难和昂贵。通过使用自己的数据集对预训练模型进行微调,可以让模型更好地适应特定的任务需求。微调过程能够在保留原模型语言理解能力的基础上,进一步提升其在特定领域或任务上的表现。 ✲ 使用Hugging Face模型库和Unslaw工具进行模型微调: Hugging Face提供了丰富的预训练语言模型资源,用户可以根据任务需求选择合适的模型作为基础进行微调。而Unslaw工具则提供了一套简单高效的微调流程,其优点包括出色的内存使用效率以及对扩展上下文窗口的支持。通过Unslaw,用户能够以较低的资源开销完成模型微调。 ✲ 在Google Colab上使用免费/付费GPU资源进行微调: Google Colab提供了免费和付费的GPU资源,用户可以根据任务的复杂程度选择使用T4或A100。对于大多数微调任务而言,免费的T4资源已经足够。但如果数据集较大或模型较为复杂,升级到A100可以获得更充裕的算力支持。Colab为用户提供了一个易于上手的模型微调环境。 ✲ 准备自定义的微调数据集: 准备微调数据的过程并不复杂。用户可以直接使用纯文本文件作为数据来源,而无需进行额外的预处理。为了获得理想的微调效果,建议至少准备100-200个样本。在示例中,为了快速演示,仅使用了几个样本。通过一个简单的Python脚本,可以方便地将原始文本数据转换为微调所需的JSON格式。 ✲ 修改Colab笔记本中的参数设置: 在Colab笔记本中,需要根据实际情况调整一些参数。例如,可以根据数据集的token数量来设置max_sequence_length参数,借助rope scaling技术,模型能够支持任意长度的上下文。此外,还可以选择使用Instruct系列模型作为base model,直接在其基础上进行指令微调。为了节省资源,可以启用4-bit量化。同时,参考Q-Lora论文的建议,调整R值和alpha值,以在资源占用和模型质量之间取得平衡。 ✲ 训练过程中的资源使用监控: 在模型训练过程中,用户可以通过Colab的资源监控选项卡实时观察GPU、内存和硬盘的使用情况。如果发现资源不足,可以考虑从T4升级到A100。通过监控资源占用,用户能够及时调整配置,确保微调任务稳定高效地进行。 ✲ 模型训练的loss变化和最佳checkpoint的选择: 通过记录不同训练步数下的loss值,可以判断模型的收敛情况。理想的做法是选择loss下降曲线趋于平缓的点作为最佳checkpoint,这样既能充分训练模型,又能避免过拟合。为了事后方便筛选,可以设置每隔一定步数保存一次checkpoint。 ✲ 模型微调完成后的保存与使用: 微调完成后,可以选择只保存adapter layers以加快保存速度。但更推荐的做法是保存完整模型,并使用float16精度,这样可以得到一个更通用和标准的模型格式,方便后续的部署和使用。 ✲ 在Hugging Face上公开或私有发布微调后的模型: 用户可以选择在Hugging Face的模型库中公开或私有地发布自己微调后的模型。发布之前,需要在Hugging Face账号中创建一个访问令牌,并在发布时提供相应的用户名和令牌信息。通过在Hugging Face上发布模型,用户可以方便地与他人分享自己的微调成果。 ✲ 使用微调后的模型进行推理(inference): 在使用微调后的模型进行推理时,首先需要加载保存的模型。接着,使用tokenizer对输入的文本进行处理,并将其传入模型。进行推理时,max_length参数需要与训练时保持一致,以确保生成的结果不会被截断。完成以上步骤后,就可以利用微调后的模型进行各种实际应用了。

歸藏(guizang.ai)

61,931 views • 2 years ago