Loading video...

Video Failed to Load

Go Home

OpenCodex v1.0.8 本次为一次小幅优化与修复更新 🛠️ 模型推理强度自动识别:根据厂商实际返回的能力,动态显示模型支持的推理档位。 上下文长度自动读取:优先使用厂商接口或模型注册表返回的上下文窗口;若未能获取,则默认按 200K 处理。 第三方模型 Computer Use 回归:恢复桌面操作能力,继续使用完整的智能体工作流 🖥️ 📦 macOS 版本现已发布,Windows 版本仍在持续更新中

24,146 views • 3 months ago •via X (Twitter)

4 Comments

Li hi's profile picture
Li hi3 months ago

内核是用的 codex cli 吗?

vechen's profile picture
vechen3 months ago

嗨,你能看看我的仓库吗 它也把模型添加到代码库里面,使用它的原始 harness,但这是 GPT 网页模型

Han's profile picture
Han3 months ago

请问,对比Codex,它在哪些方面更优秀呢?

AI Mastery Guide's profile picture
AI Mastery Guide3 months ago

Small update but auto context detection is genuinely useful, nice work.

Related Videos

发现一个讲的很细的大语言模型微调教程,详细介绍了整个流程,包括数据准备、参数设置、资源监控等关键步骤。 基本没有技术能力也可以完成微调。想要了解 LLM 原理的可以按这个实践一下。 时间轴: 0:00 概念概览 3:02 自定义数据的准备 8:17 微调操作演示(T4 版本) 16:52 微调操作演示(A100 版本) 19:13 在 Hugging Face 上的保存与使用方法 文字版整理: ✲ 如何使用自己的数据对大语言模型进行微调(fine-tuning): 对大语言模型进行微调并不一定非常困难和昂贵。通过使用自己的数据集对预训练模型进行微调,可以让模型更好地适应特定的任务需求。微调过程能够在保留原模型语言理解能力的基础上,进一步提升其在特定领域或任务上的表现。 ✲ 使用Hugging Face模型库和Unslaw工具进行模型微调: Hugging Face提供了丰富的预训练语言模型资源,用户可以根据任务需求选择合适的模型作为基础进行微调。而Unslaw工具则提供了一套简单高效的微调流程,其优点包括出色的内存使用效率以及对扩展上下文窗口的支持。通过Unslaw,用户能够以较低的资源开销完成模型微调。 ✲ 在Google Colab上使用免费/付费GPU资源进行微调: Google Colab提供了免费和付费的GPU资源,用户可以根据任务的复杂程度选择使用T4或A100。对于大多数微调任务而言,免费的T4资源已经足够。但如果数据集较大或模型较为复杂,升级到A100可以获得更充裕的算力支持。Colab为用户提供了一个易于上手的模型微调环境。 ✲ 准备自定义的微调数据集: 准备微调数据的过程并不复杂。用户可以直接使用纯文本文件作为数据来源,而无需进行额外的预处理。为了获得理想的微调效果,建议至少准备100-200个样本。在示例中,为了快速演示,仅使用了几个样本。通过一个简单的Python脚本,可以方便地将原始文本数据转换为微调所需的JSON格式。 ✲ 修改Colab笔记本中的参数设置: 在Colab笔记本中,需要根据实际情况调整一些参数。例如,可以根据数据集的token数量来设置max_sequence_length参数,借助rope scaling技术,模型能够支持任意长度的上下文。此外,还可以选择使用Instruct系列模型作为base model,直接在其基础上进行指令微调。为了节省资源,可以启用4-bit量化。同时,参考Q-Lora论文的建议,调整R值和alpha值,以在资源占用和模型质量之间取得平衡。 ✲ 训练过程中的资源使用监控: 在模型训练过程中,用户可以通过Colab的资源监控选项卡实时观察GPU、内存和硬盘的使用情况。如果发现资源不足,可以考虑从T4升级到A100。通过监控资源占用,用户能够及时调整配置,确保微调任务稳定高效地进行。 ✲ 模型训练的loss变化和最佳checkpoint的选择: 通过记录不同训练步数下的loss值,可以判断模型的收敛情况。理想的做法是选择loss下降曲线趋于平缓的点作为最佳checkpoint,这样既能充分训练模型,又能避免过拟合。为了事后方便筛选,可以设置每隔一定步数保存一次checkpoint。 ✲ 模型微调完成后的保存与使用: 微调完成后,可以选择只保存adapter layers以加快保存速度。但更推荐的做法是保存完整模型,并使用float16精度,这样可以得到一个更通用和标准的模型格式,方便后续的部署和使用。 ✲ 在Hugging Face上公开或私有发布微调后的模型: 用户可以选择在Hugging Face的模型库中公开或私有地发布自己微调后的模型。发布之前,需要在Hugging Face账号中创建一个访问令牌,并在发布时提供相应的用户名和令牌信息。通过在Hugging Face上发布模型,用户可以方便地与他人分享自己的微调成果。 ✲ 使用微调后的模型进行推理(inference): 在使用微调后的模型进行推理时,首先需要加载保存的模型。接着,使用tokenizer对输入的文本进行处理,并将其传入模型。进行推理时,max_length参数需要与训练时保持一致,以确保生成的结果不会被截断。完成以上步骤后,就可以利用微调后的模型进行各种实际应用了。

歸藏(guizang.ai)

62,210 views • 2 years ago

🚀 OpenCodex 1.2.0 框架彻底重构完成! 这一次,我们重构了底层模型路由,并加入了「Provider Split Bridge 智能分流桥」,区别于市面上几乎所有的第三方网关代理方式⚡ 过去的 OpenCodex 和其他第三方网关一样,采用全局代理模式:所有模型都经过网关。一旦网关崩溃,原生 GPT 和第三方模型会一起失效,只能还原原生模式才能恢复使用。 现在,模型路由彻底分离: 🟢 原生 GPT 永远直连 OpenAI 无论网关开启、关闭、崩溃,还是第三方模型异常,都不会影响 GPT。除非 OpenAI 官方服务本身发生故障,否则 GPT 始终正常运行。 🔵 第三方模型按需接入网关 网关开启时,第三方模型正常运行;网关关闭或崩溃时,第三方模型停止服务,但不会牵连原生 GPT。 🌉 Provider Split Bridge 智能分流桥 网关启动时自动接入,自动识别官方模型与第三方模型,并将它们分别送往正确的服务通道。 🤖 Native Subagent Bridge 子智能体接力桥 当主会话通过 spawn_agent 派发任务时,子智能体请求会通过独立桥接通道进入网关,再由网关按照任务指定的模型和推理档位进行智能分流。主会话仍然保持原生直连,不会变成全局代理,也不会影响 GPT 的正常会话。 🔄 会话完全互通 会话列表、聊天记录和上下文完整继承。同一会话中可以自由切换 GPT、Gemini、DeepSeek 等模型,互不影响,也不会丢失上下文。 OpenCodex,从「全局代理」进化为「官方直连 + 第三方隔离」的双通道智能架构。 官方模型永远稳定,第三方模型按需接入。🛡️✨

Ryanxlll2

57,640 views • 3 months ago

最近看到一堂斯坦福公开课,用大约两小时,系统梳理了大语言模型从文本输入到训练、推理和生成结果的完整链路。 它不会让你两小时造出一个 Claude 或 ChatGPT,但能帮你建立一张非常重要的“大模型知识地图”。 课程重点: 00:00|LLM分词机制 文本进入模型前,为什么必须先被拆成 token?不同分词方式又会怎样影响训练效率与模型表现? 25:44|模型如何解码提示词 大模型并不是一次“理解”完整句话,而是根据上下文计算概率,逐个预测接下来最可能出现的 token。 35:40|大模型训练流程 从训练数据、预训练到参数更新,了解模型能力究竟是怎样一步步形成的。 1:16:47|从零理解LLM架构 拆解嵌入层、注意力机制、Transformer 模块和输出层,看清语言模型内部的数据流动方式。 我最大的感受是: 很多人每天都在研究提示词和新工具,却没有真正理解模型底层是怎样工作的。 当你理解了 token、注意力、训练和推理之后,很多原本模糊的概念都会连起来: 为什么上下文长度有限? 为什么模型会产生幻觉? 为什么推理速度如此重要? 为什么训练一个大模型这么昂贵? 建议先完整看一遍建立框架,再根据时间点回看不懂的部分。两小时不能让你成为大模型工程师,但足以帮你判断下一步应该学什么。

Dobby

119,282 views • 15 days ago