Загрузка видео...

Не удалось загрузить видео

На главную

Opencodex v1.1.0 MacOS ⬆️ 现在，你可以在 Codex 中使用极致性价比的模型组合。 让任何模型都能成为你的子代理：你只需发出指令，让每个模型都在最擅长的位置发挥最大价值。 让整个模型团队为你工作。🚀

Youngxxxxu's profile picture

Ryanxlll2

1,108 subscribers

53,349 просмотров • 2 месяцев назад •via X (Twitter)

LIVE

Anya Rossi• Live Now

Private livecam show

Комментарии: 23

Фото профиля Rayan洪
Rayan洪2 месяцев назад

怎么WIN没有 路由功能

Фото профиля Ryanxlll2
Ryanxlll22 месяцев назад

还没有同步更新😅

Фото профиля W.Y.
W.Y.2 месяцев назад

有意思，今天更新看看

Фото профиля Ryanxlll2
Ryanxlll22 месяцев назад

👀👀

Фото профиля Miguo
Miguo2 месяцев назад

win版本打不开

Фото профиля Ryanxlll2
Ryanxlll22 месяцев назад

子代理吗？win还没更新

Фото профиля Miguo
Miguo2 месяцев назад

好吧😮‍💨

Фото профиля 星星之火可以燎原
星星之火可以燎原2 месяцев назад

我之前应该是试用了一下，另外一个同名仓库体验不是特别好，试一下这个看看

Фото профиля Ryanxlll2
Ryanxlll22 месяцев назад

试试，名气大星星多不一定站在用户的角度开发👀

Фото профиля Mr.🐔（jimmy）#mrchicken.eth
Mr.🐔（jimmy）#mrchicken.eth2 месяцев назад

这个思路太对了啊 不是堆最贵模型，是把每个模型用在刀刃上哈

Фото профиля Ryanxlll2
Ryanxlll22 месяцев назад

对，模型总有擅长的一面

Фото профиля AI Mastery Guide
AI Mastery Guide2 месяцев назад

Turning any model into a sub agent, that's a clean way to build a team

Фото профиля Ryanxlll2
Ryanxlll22 месяцев назад

😎

Фото профиля AI Mastery Guide
AI Mastery Guide2 месяцев назад

🤝

Фото профиля elliott
elliott2 месяцев назад

I've been trying to figure this out... So... I can be in Codex Desktop - using Luna High - and I can tell Luna "do XYZ task and have Deepseek do the work and report back to you" - is that correct?

Фото профиля Ryanxlll2
Ryanxlll22 месяцев назад

Yes, you can specify to create a sub-agent.

Фото профиля Gaownye
Gaownye2 месяцев назад

用grokbuild 不同模型api gpt 5.6 sol 添加技能 让他分配工作 终端调用不同模型 win可以用

Фото профиля Ryanxlll2
Ryanxlll22 месяцев назад

codex版本的win在路上，grokbuild没研究过👀

Фото профиля David Alex
David Alex2 месяцев назад

用强模型（5.6sol）做规划，再用便宜模型（Deepseek-V4-flash）执行，目前是个很好的方案。

Фото профиля DeDi
DeDi2 месяцев назад

这还有2个仓库？

Фото профиля Ryanxlll2
Ryanxlll22 месяцев назад

一个，win只提供exe

Фото профиля DeDi
DeDi2 месяцев назад

额，我的意思是我还看到一个opencodex~

Фото профиля Ryanxlll2
Ryanxlll22 месяцев назад

那是另一个同名的😅

Похожие видео

当别人还在研究优化“如何把第三方模型接入 Codex”时，OpenCodex 已经开始教你“如何真正用好 Codex”🤖 让不同模型各司其职、并行处理不同任务：电脑操作、代码编写、深度分析、内容整理、复杂流程……都可以同时推进 ⚡ 你还可以按照自己的需求，把多个模型组合成专属工作流，真正实现多模型协作 🚀 成本： •Gemini 3.6 Flash ≈ 0 •MiniMax-M3 ≈ 0 •DeepSeek V4 Flash ≈ 0 OpenCodex：不只是接入第三方模型，而是让它们一起把事情做好。 #OpenCodex #Codex #AIAgent
2:16

当别人还在研究优化“如何把第三方模型接入 Codex”时，OpenCodex 已经开始教你“如何真正用好 Codex”🤖 让不同模型各司其职、并行处理不同任务：电脑操作、代码编写、深度分析、内容整理、复杂流程……都可以同时推进 ⚡ 你还可以按照自己的需求，把多个模型组合成专属工作流，真正实现多模型协作 🚀 成本： •Gemini 3.6 Flash ≈ 0 •MiniMax-M3 ≈ 0 •DeepSeek V4 Flash ≈ 0 OpenCodex：不只是接入第三方模型，而是让它们一起把事情做好。 #OpenCodex #Codex #AIAgent

Ryanxlll2

30,419 просмотров • 2 месяцев назад

🎧 现在，无论你在哪里，戴上你的 AirPods，就能通过 GPT Live 自由指定任何模型，包括第三方模型干活。 🗣️ 只需要告诉 GPT Live 用什么模型干活就行了，每个任务之间可以随意切换模型，简单动动嘴就可以了。 👇 以下演示的是基于手机端 ChatGPT 原生远程控制能力，实现的 GPT Live 调用任意第三方模型的效果。 #chatgpt #codex #opencodex #gptlive
3:25

🎧 现在，无论你在哪里，戴上你的 AirPods，就能通过 GPT Live 自由指定任何模型，包括第三方模型干活。 🗣️ 只需要告诉 GPT Live 用什么模型干活就行了，每个任务之间可以随意切换模型，简单动动嘴就可以了。 👇 以下演示的是基于手机端 ChatGPT 原生远程控制能力，实现的 GPT Live 调用任意第三方模型的效果。 #chatgpt #codex #opencodex #gptlive

Ryanxlll2

21,187 просмотров • 2 месяцев назад

最近发现一个实用的开源项目：OpenCodex。 它可以让 Codex 不再局限于 GPT 模型，还能接入 Kimi、Grok、GLM 等其他大模型。配置一次后，原来的 Codex 应用和工作流基本不用变，需要时直接切换模型即可。 开源地址
0:38

最近发现一个实用的开源项目：OpenCodex。 它可以让 Codex 不再局限于 GPT 模型，还能接入 Kimi、Grok、GLM 等其他大模型。配置一次后，原来的 Codex 应用和工作流基本不用变，需要时直接切换模型即可。 开源地址

雪踏乌云

340,936 просмотров • 3 месяцев назад

如何用DeepSeek-R1蒸馏出属于你自己的大模型！ 发现了一个新的fune-tune框架，可以在1小时内让DeepSeek-R1蒸馏出属于你自己的小模型，整个过程是全自动的，不需要编写代码或者手动调节，仅需定义你的数据集即可。 [1/2]
1:59

如何用DeepSeek-R1蒸馏出属于你自己的大模型！ 发现了一个新的fune-tune框架，可以在1小时内让DeepSeek-R1蒸馏出属于你自己的小模型，整个过程是全自动的，不需要编写代码或者手动调节，仅需定义你的数据集即可。 [1/2]

karminski-牙医

181,452 просмотров • 1 год назад

盘古大模型是中国发布的第一个大模型 现在A畜、OpenAI、Grok、谷歌，还有什么Deepseek、GLM还在卷模型能力。 你们统统都是弟弟，比赛已经结束了 因为余承东的字典里没有第二，只有第一。你们卷了半天，最后也是第二梯队。
0:39

盘古大模型是中国发布的第一个大模型 现在A畜、OpenAI、Grok、谷歌，还有什么Deepseek、GLM还在卷模型能力。 你们统统都是弟弟，比赛已经结束了 因为余承东的字典里没有第二，只有第一。你们卷了半天，最后也是第二梯队。

高运通

61,594 просмотров • 28 дней назад

可灵团队开源 UniVideo：一个模型搞定视频理解+生成+编辑 你看到的这个，就是快手可灵团队与滑铁卢大学联合推出的统一视频模型 UniVideo，这个模型首次将视频理解、编辑和生成整合到了一个模型中。 演示中它支持通过输入图片和 prompt 来生成视频，也可以输入视频和图片来修改视频，或者直接使用 prompt 来编辑视频。 技术上这个模型最大的突破是：用 千问 2.5 VL 做理解负责处理图像、视频和文本输入，用混元视频做生成，两个模型联动配合，让 AI 既能"看懂"又能"创作"。 以前这些任务需要好几个模型分别处理，现在一个模型全搞定，而且不同能力之间还能相互增强。 从实际效果来看动作比较小的视频质量是可以的, 不过也有典型的AI问题, 比如火焰效果需要优化, 以及会有一定程度的一致性问题, 比如这个头发的发丝效果. 但瑕不掩瑜, 这个模型的前景非常不错.
1:34

可灵团队开源 UniVideo：一个模型搞定视频理解+生成+编辑 你看到的这个，就是快手可灵团队与滑铁卢大学联合推出的统一视频模型 UniVideo，这个模型首次将视频理解、编辑和生成整合到了一个模型中。 演示中它支持通过输入图片和 prompt 来生成视频，也可以输入视频和图片来修改视频，或者直接使用 prompt 来编辑视频。 技术上这个模型最大的突破是：用 千问 2.5 VL 做理解负责处理图像、视频和文本输入，用混元视频做生成，两个模型联动配合，让 AI 既能"看懂"又能"创作"。 以前这些任务需要好几个模型分别处理，现在一个模型全搞定，而且不同能力之间还能相互增强。 从实际效果来看动作比较小的视频质量是可以的, 不过也有典型的AI问题, 比如火焰效果需要优化, 以及会有一定程度的一致性问题, 比如这个头发的发丝效果. 但瑕不掩瑜, 这个模型的前景非常不错.

karminski-牙医

14,277 просмотров • 9 месяцев назад

Hermes Agent 刚发布 Mixture of Agents 2.0，把多个前沿模型混合成一个虚拟模型使用 原理很直接：GPT-5.5、DeepSeek V4、Sonnet 4.6 作为参考模型同时处理同一个问题，Opus 4.8 作为聚合器综合最终答案 跑分结果比单独用 Opus 4.8 高 8%，比 GPT-5.5 高 11% 最关键的是在 Hermes 里就像普通模型一样调用，/model 命令切换就行，不需要自己搭框架 单个模型都有盲区，混着用反而能互补，开源社区找到了一条弯道超车路线 你觉得 MoA 这种「模型组合拳」会成为主流用法吗？
1:05

Hermes Agent 刚发布 Mixture of Agents 2.0，把多个前沿模型混合成一个虚拟模型使用 原理很直接：GPT-5.5、DeepSeek V4、Sonnet 4.6 作为参考模型同时处理同一个问题，Opus 4.8 作为聚合器综合最终答案 跑分结果比单独用 Opus 4.8 高 8%，比 GPT-5.5 高 11% 最关键的是在 Hermes 里就像普通模型一样调用，/model 命令切换就行，不需要自己搭框架 单个模型都有盲区，混着用反而能互补，开源社区找到了一条弯道超车路线 你觉得 MoA 这种「模型组合拳」会成为主流用法吗？

Jason Zhu

16,630 просмотров • 3 месяцев назад

OpenCodex v0.4.5 🚀 现在，无论使用官方 GPT、第三方模型还是订阅模型，无论处于原生模式、网关代理模式，还是切换不同会话，包括导入的本机会话、网关代理过的会话，以及中途切换模型后的历史记录。都能无缝继承完整上下文。 在 Codex 中，不管你怎么使用，会话都不会丢，随时都能无缝衔接。✨ 目前已完成 macOS 版本适配，macOS 版本现已独立，与 Windows 版本分开维护。 #codex #chatgpt #opencodex
1:48

OpenCodex v0.4.5 🚀 现在，无论使用官方 GPT、第三方模型还是订阅模型，无论处于原生模式、网关代理模式，还是切换不同会话，包括导入的本机会话、网关代理过的会话，以及中途切换模型后的历史记录。都能无缝继承完整上下文。 在 Codex 中，不管你怎么使用，会话都不会丢，随时都能无缝衔接。✨ 目前已完成 macOS 版本适配，macOS 版本现已独立，与 Windows 版本分开维护。 #codex #chatgpt #opencodex

Ryanxlll2

32,193 просмотров • 3 месяцев назад

【肖弘谈Manus的护城河】 当所有人都卷大模型时，Manus创始人肖弘在采访中给出了不一样的解法。 💡核心观点： 1. 合作意识：在底层技术未被垄断前，合作重于竞争。 2. 护城河的两个维度： 一是对用户的深刻理解 ；二是运用Agent能力的深度。 3. 模型选择： 肖弘直言，如果模型谁都能用，反而意味着你的选择权更大。真正的核心不在于自研模型，而在于当模型能力迭代时，你是否有能力及时接住并转化为用户价值。
1:15

【肖弘谈Manus的护城河】 当所有人都卷大模型时，Manus创始人肖弘在采访中给出了不一样的解法。 💡核心观点： 1. 合作意识：在底层技术未被垄断前，合作重于竞争。 2. 护城河的两个维度： 一是对用户的深刻理解 ；二是运用Agent能力的深度。 3. 模型选择： 肖弘直言，如果模型谁都能用，反而意味着你的选择权更大。真正的核心不在于自研模型，而在于当模型能力迭代时，你是否有能力及时接住并转化为用户价值。

傅盛

58,874 просмотров • 9 месяцев назад

我觉得大家遇到最多的问题会是: 旗舰大模型太贵了, 日常任务是不是能用 flash 模型跑? 但是又觉得 Flash 模型可能效果不好, 甚至用 FLash 模型写代码很忐忑, 担心写出屎山. 本期给大家带来7款Flash模型横评! 让你用着放心! 快来看看你正在用的FLash模型, 能抗住压力吗? #flash模型 #ling31flash #deepseekflash #mimov26flash #蚂蚁百灵
8:07

我觉得大家遇到最多的问题会是: 旗舰大模型太贵了, 日常任务是不是能用 flash 模型跑? 但是又觉得 Flash 模型可能效果不好, 甚至用 FLash 模型写代码很忐忑, 担心写出屎山. 本期给大家带来7款Flash模型横评! 让你用着放心! 快来看看你正在用的FLash模型, 能抗住压力吗? #flash模型 #ling31flash #deepseekflash #mimov26flash #蚂蚁百灵

karminski-牙医

13,355 просмотров • 13 дней назад

一个全平台的本地 LLM 聊天软件Jan，支持自动下载模型以及非常详细的设置。懒得配置 Ollama 的可以试试。 除了支持本地模型以外，在线的模型可以使用 API 接入，All in one 的模型管理。交互和 UI 也都很合理。 同时支持在系统的任何可以输入的地方调取模型能力。
0:26

一个全平台的本地 LLM 聊天软件Jan，支持自动下载模型以及非常详细的设置。懒得配置 Ollama 的可以试试。 除了支持本地模型以外，在线的模型可以使用 API 接入，All in one 的模型管理。交互和 UI 也都很合理。 同时支持在系统的任何可以输入的地方调取模型能力。

歸藏(guizang.ai)

47,533 просмотров • 2 лет назад

Gemini 3 Pro 是迄今为止最强大的多模态模型。 现在你可以将单张图片转换成近乎完美的网站。 这简直令人难以置信。
0:27

Gemini 3 Pro 是迄今为止最强大的多模态模型。 现在你可以将单张图片转换成近乎完美的网站。 这简直令人难以置信。

工具兔🐰

16,331 просмотров • 11 месяцев назад

随着GPT 6 Astra的发布，建模能力和速度更上一层楼，我非常建议aigc创作在有复杂运镜、特定动作、长镜头的情况下使用白模辅助来生成 但是，值得注意的是，白模的精细度最好不要太精致，否则会大大约束了模型的发挥空间，那就会导致两种结果 1.模型会1:1完全复刻你的白模视频，但是你的白模又是一个“粗模”的预演参考，最后生成出来就会四不像 2.要么你就非常细致的完成这个白模的细节，只留下材质让ai模型完成，这就有点悖论了，你建模都弄得这么完美还要ai生成干啥？ 所以除了你必须要求的一些特定动作或者运镜，其他一律生成粗模，连丧尸或者某个物体都可以用圆柱代替，然后提示词补强，这才是最佳用法
0:37

随着GPT 6 Astra的发布，建模能力和速度更上一层楼，我非常建议aigc创作在有复杂运镜、特定动作、长镜头的情况下使用白模辅助来生成 但是，值得注意的是，白模的精细度最好不要太精致，否则会大大约束了模型的发挥空间，那就会导致两种结果 1.模型会1:1完全复刻你的白模视频，但是你的白模又是一个“粗模”的预演参考，最后生成出来就会四不像 2.要么你就非常细致的完成这个白模的细节，只留下材质让ai模型完成，这就有点悖论了，你建模都弄得这么完美还要ai生成干啥？ 所以除了你必须要求的一些特定动作或者运镜，其他一律生成粗模，连丧尸或者某个物体都可以用圆柱代替，然后提示词补强，这才是最佳用法

Foyege

33,424 просмотров • 1 месяц назад

前 OpenAI CTO Mira 的公司 Thinking Machines 发了一个非常创新的模型，他们叫交互模型。 这个模型能够持续接收音频、视频、文本等原生的多模态内容，并且实时进行思考、响应和行动。 它不像之前那种 Agent 脚手架，把多个模型、多个模态的模型通过 Agent 串起来，而是所有模态都在一整个模型里。 这样就可以让用户和 AI 在任意模态下实时进行交互： 你可以随时打断它，随时进行补充，AI 会实时关注你的状态，输出结果，不会像之前一样，必须等一句话结束了才能跟模型交互。 核心思路就是把交互部分训练到了模型里。他们从零训练的这个交互模型主要包括两部分： 前台交互模型： (a) 一直在线，一直在听、看和读用户提供的内容 (b) 每 200 毫秒作为一个节点，同时处理输入并产出一小段输出 (c) 负责照顾用户的在场感，支持用户打断、插话，并能对屏幕和视频内容做出反应 后台推理模型： (a) 用来处理需要持续推理、工具调用以及长上下文、长规划的任务 (b) 交互模型会在合适的时候，将推理模型的结果放回到对话里，不会插入突兀的内容 用户最终看到的结果，就是一个既能实时交互，又能够处理重度任务的界面。
2:15

前 OpenAI CTO Mira 的公司 Thinking Machines 发了一个非常创新的模型，他们叫交互模型。 这个模型能够持续接收音频、视频、文本等原生的多模态内容，并且实时进行思考、响应和行动。 它不像之前那种 Agent 脚手架，把多个模型、多个模态的模型通过 Agent 串起来，而是所有模态都在一整个模型里。 这样就可以让用户和 AI 在任意模态下实时进行交互： 你可以随时打断它，随时进行补充，AI 会实时关注你的状态，输出结果，不会像之前一样，必须等一句话结束了才能跟模型交互。 核心思路就是把交互部分训练到了模型里。他们从零训练的这个交互模型主要包括两部分： 前台交互模型： (a) 一直在线，一直在听、看和读用户提供的内容 (b) 每 200 毫秒作为一个节点，同时处理输入并产出一小段输出 (c) 负责照顾用户的在场感，支持用户打断、插话，并能对屏幕和视频内容做出反应 后台推理模型： (a) 用来处理需要持续推理、工具调用以及长上下文、长规划的任务 (b) 交互模型会在合适的时候，将推理模型的结果放回到对话里，不会插入突兀的内容 用户最终看到的结果，就是一个既能实时交互，又能够处理重度任务的界面。

歸藏(guizang.ai)

47,074 просмотров • 5 месяцев назад

Codex 本身不绑定 OpenAI——真正卡住你的，是默认的 API 密钥。 大多数开发者以为 Codex 必须搭配 OpenAI 账号，其实它的核心是一个 agent loop：接收自然语言指令 → 调用模型生成代码 → 返回结果。只要替换模型接入点，这个 loop 就能跑在任何国产模型上。绕过限制不是 hack，而是理解 agent 架构的杠杆。 视频里演示了如何用 DeepSeek 的 API Key 替代 OpenAI，让 Codex 在 90 秒内完成首次对话。
1:29

Codex 本身不绑定 OpenAI——真正卡住你的，是默认的 API 密钥。 大多数开发者以为 Codex 必须搭配 OpenAI 账号，其实它的核心是一个 agent loop：接收自然语言指令 → 调用模型生成代码 → 返回结果。只要替换模型接入点，这个 loop 就能跑在任何国产模型上。绕过限制不是 hack，而是理解 agent 架构的杠杆。 视频里演示了如何用 DeepSeek 的 API Key 替代 OpenAI，让 Codex 在 90 秒内完成首次对话。

Martin

52,006 просмотров • 3 месяцев назад

OpenAI 的大神 Andrej Karpathy 前几天在他的 YouTube 频道讲了一堂课，系统的介绍了大语言模型，内容深入浅出，非常赞，抽空将它翻译成了双语，由于内容较长，我将分批上传，以下是第一部分精校后的双语视频，字幕文稿如下： Intro: Large Language Model (LLM) talk 大家好。最近，我进行了一场关于大语言模型的 30 分钟入门讲座。遗憾的是，这次讲座没有被录制下来，但许多人在讲座后找到我，他们告诉我非常喜欢那次讲座。因此，我决定重新录制并上传到 YouTube，那么，让我们开始吧，为大家带来“忙碌人士的大语言模型入门”系列，主讲人 Scott。好的，那我们开始吧。 LLM Inference 首先，什么是大语言模型 (Large Language Model) 呢？其实，一个大语言模型就是由两个文件组成的。在这个假设的目录中会有两个文件。 以 Llama 2 70B 模型为例，这是一个由 Meta AI 发布的大语言模型。这是 Llama 系列语言模型的第二代，也是该系列中参数最多的模型，达到了 700 亿。LAMA2 系列包括了多个不同规模的模型，70 亿，130 亿，340 亿，700 亿是最大的一个。 现在很多人喜欢这个模型，因为它可能是目前公开权重最强大的模型。Meta 发布了这款模型的权重、架构和相关论文，所以任何人都可以很轻松地使用这个模型。这与其他一些你可能熟悉的语言模型不同，例如，如果你正在使用 ChatGPT 或类似的东西，其架构并未公开，是 OpenAI 的产权，你只能通过网页界面使用，但你实际上没有访问那个模型的权限。 在这种情况下，Llama 2 70B 模型实际上就是你电脑上的两个文件：一个是存储参数的文件，另一个是运行这些参数的代码。这些参数是神经网络（即语言模型）的权重或参数。我们稍后会详细解释。因为这是一个拥有 700 亿参数的模型，每个参数占用两个字节，因此参数文件的大小为 140 GB，之所以是两个字节，是因为这是 float 16 类型的数据。 除了这些参数，还有一大堆神经网络的参数。你还需要一些能运行神经网络的代码，这些代码被包含在我们所说的运行文件中。这个运行文件可以是 C 语言或 Python，或任何其他编程语言编写的。它可以用任何语言编写，但 C 语言是一种非常简单的语言，只是举个例子。只需大约 500 行 C 语言代码，无需任何其他依赖，就能构建起神经网络架构，并且主要依靠一些参数来运行模型。所以只需要这两个文件。 你只需带上这两个文件和你的 MacBook，就拥有了一个完整的工具包。你不需要连接互联网或其他任何设备。你可以拿着这两个文件，编译你的 C 语言代码。你将得到一个可针对参数运行并与语言模型交互的二进制文件。 比如，你可以让它写一首关于 Scale AI 公司的诗，语言模型就会开始生成文本。在这种情况下，它会按照指示为你创作一首关于 Scale AI 的诗。之所以选用 Scale AI 作为例子，你会在整个演讲中看到，是因为我最初在 Scale AI 举办的活动上介绍过这个话题，所以演讲中会多次提到它，以便内容更具体。这就是我们如何运行模型的方式。只需要两个文件和一台 MacBook。 我在这里稍微有点作弊，因为这并不是在运行一个有 700 亿参数的模型，而是在运行一个有 70 亿参数的模型。一个有 700 亿参数的模型运行速度大约会慢 10 倍。但我想给你们展示一下文本生成的过程，让你们了解它是什么样子。所以运行模型并不需要很多东西。这是一个非常小的程序包，但是当我们需要获取那些参数时，计算的复杂性就真正显现出来了。 那么，这些参数从何而来，我们如何获得它们？因为无论 run.c 文件中的内容是什么，神经网络的架构和前向传播都是算法上明确且公开的。
4:15

OpenAI 的大神 Andrej Karpathy 前几天在他的 YouTube 频道讲了一堂课，系统的介绍了大语言模型，内容深入浅出，非常赞，抽空将它翻译成了双语，由于内容较长，我将分批上传，以下是第一部分精校后的双语视频，字幕文稿如下： Intro: Large Language Model (LLM) talk 大家好。最近，我进行了一场关于大语言模型的 30 分钟入门讲座。遗憾的是，这次讲座没有被录制下来，但许多人在讲座后找到我，他们告诉我非常喜欢那次讲座。因此，我决定重新录制并上传到 YouTube，那么，让我们开始吧，为大家带来“忙碌人士的大语言模型入门”系列，主讲人 Scott。好的，那我们开始吧。 LLM Inference 首先，什么是大语言模型 (Large Language Model) 呢？其实，一个大语言模型就是由两个文件组成的。在这个假设的目录中会有两个文件。 以 Llama 2 70B 模型为例，这是一个由 Meta AI 发布的大语言模型。这是 Llama 系列语言模型的第二代，也是该系列中参数最多的模型，达到了 700 亿。LAMA2 系列包括了多个不同规模的模型，70 亿，130 亿，340 亿，700 亿是最大的一个。 现在很多人喜欢这个模型，因为它可能是目前公开权重最强大的模型。Meta 发布了这款模型的权重、架构和相关论文，所以任何人都可以很轻松地使用这个模型。这与其他一些你可能熟悉的语言模型不同，例如，如果你正在使用 ChatGPT 或类似的东西，其架构并未公开，是 OpenAI 的产权，你只能通过网页界面使用，但你实际上没有访问那个模型的权限。 在这种情况下，Llama 2 70B 模型实际上就是你电脑上的两个文件：一个是存储参数的文件，另一个是运行这些参数的代码。这些参数是神经网络（即语言模型）的权重或参数。我们稍后会详细解释。因为这是一个拥有 700 亿参数的模型，每个参数占用两个字节，因此参数文件的大小为 140 GB，之所以是两个字节，是因为这是 float 16 类型的数据。 除了这些参数，还有一大堆神经网络的参数。你还需要一些能运行神经网络的代码，这些代码被包含在我们所说的运行文件中。这个运行文件可以是 C 语言或 Python，或任何其他编程语言编写的。它可以用任何语言编写，但 C 语言是一种非常简单的语言，只是举个例子。只需大约 500 行 C 语言代码，无需任何其他依赖，就能构建起神经网络架构，并且主要依靠一些参数来运行模型。所以只需要这两个文件。 你只需带上这两个文件和你的 MacBook，就拥有了一个完整的工具包。你不需要连接互联网或其他任何设备。你可以拿着这两个文件，编译你的 C 语言代码。你将得到一个可针对参数运行并与语言模型交互的二进制文件。 比如，你可以让它写一首关于 Scale AI 公司的诗，语言模型就会开始生成文本。在这种情况下，它会按照指示为你创作一首关于 Scale AI 的诗。之所以选用 Scale AI 作为例子，你会在整个演讲中看到，是因为我最初在 Scale AI 举办的活动上介绍过这个话题，所以演讲中会多次提到它，以便内容更具体。这就是我们如何运行模型的方式。只需要两个文件和一台 MacBook。 我在这里稍微有点作弊，因为这并不是在运行一个有 700 亿参数的模型，而是在运行一个有 70 亿参数的模型。一个有 700 亿参数的模型运行速度大约会慢 10 倍。但我想给你们展示一下文本生成的过程，让你们了解它是什么样子。所以运行模型并不需要很多东西。这是一个非常小的程序包，但是当我们需要获取那些参数时，计算的复杂性就真正显现出来了。 那么，这些参数从何而来，我们如何获得它们？因为无论 run.c 文件中的内容是什么，神经网络的架构和前向传播都是算法上明确且公开的。

宝玉

1,125,599 просмотров • 2 лет назад

【Manus季逸超：六个月后，基本每一家头部的应用公司都有做模型的能力】 最近看了Manus联合创始人季逸超的访谈，很多人诟病 Manus 早期没有自己的模型、只是个套壳，但看完视频就会发现，Manus的逻辑是有道理的。一般的思维模式是先练模型（鸡），再顺便出个产品（蛋），这叫“沿途下蛋”。但这种方式是以模型为中心的，它的风险在于，蛋的形状取决于鸡能生出什么。模型能做到哪，产品才能做到哪，产品只能迁就技术。 Manus的路子是以产品为中心“借鸡生蛋”：早期直接用现成的模型。别管鸡是谁的，先让产品跑起来，看用户愿不愿意买单，找到PMF。等产品逻辑通了、用户量大了，发现现有的模型太贵、太慢、或者不够适配，再反过来去倒逼技术，优化出一种特定的模型。 以Cursor为例，它一开始就是个代码编辑器，接入的是别人的接口。但等到它成为程序员的刚需后，为了追求极致的速度和更准的代码逻辑，它才跳出来做了自研模型。说到底是应用先于模型，需求定义底座。
1:53

【Manus季逸超：六个月后，基本每一家头部的应用公司都有做模型的能力】 最近看了Manus联合创始人季逸超的访谈，很多人诟病 Manus 早期没有自己的模型、只是个套壳，但看完视频就会发现，Manus的逻辑是有道理的。一般的思维模式是先练模型（鸡），再顺便出个产品（蛋），这叫“沿途下蛋”。但这种方式是以模型为中心的，它的风险在于，蛋的形状取决于鸡能生出什么。模型能做到哪，产品才能做到哪，产品只能迁就技术。 Manus的路子是以产品为中心“借鸡生蛋”：早期直接用现成的模型。别管鸡是谁的，先让产品跑起来，看用户愿不愿意买单，找到PMF。等产品逻辑通了、用户量大了，发现现有的模型太贵、太慢、或者不够适配，再反过来去倒逼技术，优化出一种特定的模型。 以Cursor为例，它一开始就是个代码编辑器，接入的是别人的接口。但等到它成为程序员的刚需后，为了追求极致的速度和更准的代码逻辑，它才跳出来做了自研模型。说到底是应用先于模型，需求定义底座。

傅盛

89,395 просмотров • 9 месяцев назад

DeepSeek V4 Flash 正式版上线了，官方说比deepseek v4 pro预览版的agent能力还要强。 文档更新为 DeepSeek V4 Flash 0731，我第一时间把 Hermes 主模型和所有 Persona / Prompt 环境切了过去。 视觉模型我还保留了 Kimi K2.6,因为 DeepSeek 不支持多模态,让 Kimi 当“眼睛”,DeepSeek 负责推理,组合起来跑 Agent 和自动化很顺,还顺便省不少 Token 成本。 全程不到一分钟,如果你现在就是调用的deepseek的API，直接告诉你的大模型更换最新的 DeepSeek V4 Flash 0731即可。 如果你现在还在用旧模型,这波真的建议升级。你现在主力用哪个模型?评论区见。 #DeepSeek #Hermes #AIAgent #OpenCode #LLM
1:17

DeepSeek V4 Flash 正式版上线了，官方说比deepseek v4 pro预览版的agent能力还要强。 文档更新为 DeepSeek V4 Flash 0731，我第一时间把 Hermes 主模型和所有 Persona / Prompt 环境切了过去。 视觉模型我还保留了 Kimi K2.6,因为 DeepSeek 不支持多模态,让 Kimi 当“眼睛”,DeepSeek 负责推理,组合起来跑 Agent 和自动化很顺,还顺便省不少 Token 成本。 全程不到一分钟,如果你现在就是调用的deepseek的API，直接告诉你的大模型更换最新的 DeepSeek V4 Flash 0731即可。 如果你现在还在用旧模型,这波真的建议升级。你现在主力用哪个模型?评论区见。 #DeepSeek #Hermes #AIAgent #OpenCode #LLM

DeFi狙击手 | Ai🕊️｜Gate美股0费率

23,899 просмотров • 2 месяцев назад

黄仁勋提到：优秀的AI开源模型对整个行业都是好事，无论它来自哪里... 在和 axios 的最新访谈中，Jensen已经聊到了中国的开源模型和美国闭源模型的看法，今天又特意注册X发文说明为什么开源模型很重要..... 他说：“这些中国模型非常优秀，优秀的开源模型就应该被使用” “我认为优秀的AI开源模型对整个行业都是好事，显然，只要有优秀的AI，即使是开源的，无论它来自哪里，都会带来更多的使用” “优秀的模型带来大量使用，大量使用带来巨大增长。而这只是个开始” “DeepSeek当时就是这样，Kimi也会是这样” “还有一个误解是，开源模型会对闭源模型构成对抗，这也是错的”
1:13

黄仁勋提到：优秀的AI开源模型对整个行业都是好事，无论它来自哪里... 在和 axios 的最新访谈中，Jensen已经聊到了中国的开源模型和美国闭源模型的看法，今天又特意注册X发文说明为什么开源模型很重要..... 他说：“这些中国模型非常优秀，优秀的开源模型就应该被使用” “我认为优秀的AI开源模型对整个行业都是好事，显然，只要有优秀的AI，即使是开源的，无论它来自哪里，都会带来更多的使用” “优秀的模型带来大量使用，大量使用带来巨大增长。而这只是个开始” “DeepSeek当时就是这样，Kimi也会是这样” “还有一个误解是，开源模型会对闭源模型构成对抗，这也是错的”

梭哈.AI

51,188 просмотров • 3 месяцев назад