Loading video...

Video Failed to Load

Go Home

来啦,OpenAI 传说中的 strawberry 终于来了 o1 通过复杂的任务推理,解决比以前的科学、编码和数学模型更难的问题。 模型在物理、化学和生物学方面表现与博士生类似。 一共两个模型 OpenAI o1-mini 和 o1-preview。 从今天开放使用,1-preview 每周30 条,o1-mini 每周 50 条。 演示视频已翻译

77,845 views • 1 year ago •via X (Twitter)

5 Comments

歸藏(guizang.ai)'s profile picture
歸藏(guizang.ai)1 year ago

Jim Fan 的评价 你并不需要一个巨大的模型来进行推理。大量的模型参数用于存储和记忆事实,从而在类似 Trivia QA 这样的基准测试中表现出色。 大量的计算资源正在从前/后训练转移到推理服务。大语言模型本质上是基于文本的模拟器。通过在模拟器中模拟多种策略和场景,模型最终将收敛到有效的解决方案。 OpenAI 很可能早已发现推理扩展的规律,而学术界最近才开始深入研究。上个月有两篇论文相隔一周在 Arxiv 上发表: 《Large Language Monkeys: Scaling Inference Compute with Repeated Sampling》。 Brown 等人发现,DeepSeek-Coder 在 SWE-Bench 基准测试中的准确率从单次采样的 15.9% 提升至 250 次采样的 56%,超越了 Sonnet-3.5。 《Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters》。Snell 等人指出,PaLM 2-S 在数学问题上的表现,通过测试时的搜索策略,击败了一个大 14 倍的模型。 将 o1 投入生产要比在学术基准测试中取得成功更具挑战性。对于现实世界中的推理问题,如何判断何时停止搜索?奖励函数应该如何定义?成功的标准是什么?何时应该在循环中调用像代码解释器这样的工具?如何权衡这些 CPU 过程的计算成本?他们的研究报告并没有透露太多细节。 Strawberry 可能会迅速演变为一个数据驱动的良性循环。如果搜索得到正确答案,那么整个搜索过程就会成为一个微型的训练数据集,其中包含正负奖励信号。 这将反过来增强未来版本 GPT 的推理核心,类似于 AlphaGo 的价值网络——用于评估每个棋盘位置的优劣——随着蒙特卡洛树搜索生成越来越多精细的训练数据而不断优化

SimbaLee's profile picture
SimbaLee1 year ago

终于来了! 那……按照惯例是不是又要宫斗一次了_(:з」∠)_

歸藏(guizang.ai)'s profile picture
歸藏(guizang.ai)1 year ago

没得斗了,人都换一遍了

linear uncle's profile picture
linear uncle1 year ago

要冲 2 个账号的会员了。

歸藏(guizang.ai)'s profile picture
歸藏(guizang.ai)1 year ago

@feng_zuan2621 我觉得我没有能力测试新的模型,除了代码问题我甚至都不知道问什么问题。 所以不敢瞎说,先看看大佬们怎么用吧。

Related Videos

Google的教学视频《Introduction to Large Language Models | 大语言模型介绍》(中英双语字幕) 这个视频介绍了大型语言模型(Large Language Models,LLMs)的概念、使用场景、提示调整以及Google的Gen AI开发工具。 大型语言模型是深度学习的一个子集,可以预训练并进行特定目的的微调。这些模型经过训练,可以解决诸如文本分类、问题回答、文档摘要、跨行业的文本生成等常见语言问题。然后,可以利用相对较小的领域数据集对这些模型进行定制,以解决零售、金融、娱乐等不同领域的特定问题。 大型语言模型的三个主要特征是:大型、通用性和预训练微调。"大型"既指训练数据集的巨大规模,也指参数的数量。"通用性"意味着这些模型足够解决常见问题。"预训练和微调"是指用大型数据集对大型语言模型进行一般性的预训练,然后用较小的数据集对其进行特定目的的微调。 使用大型语言模型的好处包括:一种模型可用于不同的任务;微调大型语言模型需要的领域训练数据较少;随着数据和参数的增加,大型语言模型的性能也在持续增长。 此外,视频还解释了传统编程、神经网络和生成模型的不同,以及预训练模型的LLM开发与传统的ML开发的区别。 在自然语言处理中,提示设计和提示工程是两个密切相关的概念,这两者都涉及创建清晰、简洁、富有信息的提示。视频中还提到了三种类型的大型语言模型:通用语言模型、指令调整模型和对话调整模型。每种模型都需要以不同的方式进行提示。 原始视频链接:

宝玉

114,632 views • 3 years ago

OpenAI 连续 12 天 AI 发布会:第十二天 —— 最新一代推理模型 o3 和 o3-mini 发布介绍 本视频是 OpenAI 12 天活动的最后一期,主要介绍了新一代推理模型 o3 和 o3-mini。主讲人包括 Sam Altman、Mark Chen、Hongyu Ren 以及特邀嘉宾 ARC Prize Foundation 主席 Greg Kamradt。 主要亮点 1. 新模型发布 - 发布两个新模型:o3 和 o3-mini - o3 是高性能推理模型,o3-mini 则在保持智能的同时优化了性能和成本 - 目前仅开放用于公共安全测试,预计一月底推出 o3-mini,随后推出 o3 2. o3 模型性能突破 - 在软件测试基准 SWE-bench Verified 上准确率达 71.7%,比 o1 提升 20% - 在 CodeForce 竞赛编程上达到 2727 ELO 分数 - AIME 数学竞赛准确率达 96.7%(o1 为 83.3%) - 在博士级科学问题基准 GPQA Diamond 上达到 87.7% - 在 ARC-AGI 测试上首次突破人类水平阈值(85%),达到 87.5% 3. o3-mini 特点与优势 - 支持三种推理努力级别:低、中、高 - 性能方面:中等推理时间下性能超过 o1 - 成本效益:以极小成本实现比 o1 更好的表现 - 支持功能调用、结构化输出等开发者功能 - 在 GPQA Diamond 上达到 62% 的分数 4. 安全策略创新 - 推出"审慎对齐"(Prudent Alignment)新技术 - 利用模型推理能力提升安全边界判断 - 显著改善了拒绝基准和过度拒绝指标 - 开放外部安全测试申请(截止至 1 月 10 日) 重要时间节点 - 安全测试申请截止:2024 年 1 月 10 日 - o3-mini 预计发布:2024 年 1 月底 - o3 完整版:将在 o3-mini 之后推出

宝玉

55,134 views • 1 year ago