Загрузка видео...

Не удалось загрузить видео

Возникла проблема при загрузке этого видео. Это может быть связано с временными проблемами сети или видео может быть недоступно.

На главную

在海淀图书馆角落偶遇一台AI煎饼果子机。这是一个基于物理引擎的端侧模型。它不会Vibe Coding，但拥有顶级的“面糊流体力学”计算能力。它没有幻觉，只有经典控制论的暴力美学。这种确定性让我着迷，于是准备体验一把“双蛋”的高算力版本。但余光扫到了行情软件，我突然理解了“边缘计算”的含义，身处破产边缘，花钱要算一下，于是默默改选单蛋。拿到饼，发现包装上写着：“机器人做得，可能没那么烟火气，但我们一直在学习。” 我瞬间释然，这哪是卖煎饼，分明是在做强化学习训练。机器在通过不断地摊饼，试图对齐人类对于“烟火气”的复杂偏好。而我正在用仅存的购买力，为它的模型提供最后一点真实的Human Feedback。它在学习感同身受，而我在学习心如止水。

Chao

15,295 subscribers

12,595 просмотров • 7 месяцев назад •via X (Twitter)

Anya Rossi• Live Now

Private livecam show

Комментарии: 0

Нет доступных комментариев

Здесь появятся комментарии из оригинального поста

Похожие видео

人工智能之父辛顿对他的杰作发出了令人不寒而栗的警告… 采访者：人类知道自己在做什么吗？ Hinton：嗯，我认为我们正在进入一个时期，在这个时期，我们可能第一次拥有比我们更智能的东西。采访者：你相信它们能理解吗？ Hinton：是的。采访者：你相信它们是智能的吗？ Hinton：是的。采访者：你相信这些系统有自己的经历吗？ Hinton：是的。采访者：并且能基于那些经历做出决定吗？ Hinton：在与人类相同的意义上，是的。采访者：它们有意识吗？ Hinton：我认为它们目前可能没有多少自我意识。所以从这个意义上说，我不认为它们有意识。采访者：它们会有自我意识吗？ Hinton：哦，是的。采访者：是吗？ Hinton：哦，是的。所以想想看。这样一来，人类将成为地球上第二智能的生物。 Hinton：我们对它大致在做什么有一个很好的了解。但一旦它变得真正复杂，我们就不再真正知道发生了什么，就像我们不知道你大脑里发生了什么一样。采访者：你说什么意思，我们不知道它到底是怎么工作的？它是由人设计的。 Hinton：不，不是的。我们所做的是设计学习算法。这有点像设计进化的原理。但当这个学习算法与数据互动时，它会产生复杂的神经网络，这些网络擅长做某些事情，但我们并不真正理解它们到底是如何做到的。

人工智能之父辛顿对他的杰作发出了令人不寒而栗的警告… 采访者：人类知道自己在做什么吗？ Hinton：嗯，我认为我们正在进入一个时期，在这个时期，我们可能第一次拥有比我们更智能的东西。采访者：你相信它们能理解吗？ Hinton：是的。采访者：你相信它们是智能的吗？ Hinton：是的。采访者：你相信这些系统有自己的经历吗？ Hinton：是的。采访者：并且能基于那些经历做出决定吗？ Hinton：在与人类相同的意义上，是的。采访者：它们有意识吗？ Hinton：我认为它们目前可能没有多少自我意识。所以从这个意义上说，我不认为它们有意识。采访者：它们会有自我意识吗？ Hinton：哦，是的。采访者：是吗？ Hinton：哦，是的。所以想想看。这样一来，人类将成为地球上第二智能的生物。 Hinton：我们对它大致在做什么有一个很好的了解。但一旦它变得真正复杂，我们就不再真正知道发生了什么，就像我们不知道你大脑里发生了什么一样。采访者：你说什么意思，我们不知道它到底是怎么工作的？它是由人设计的。 Hinton：不，不是的。我们所做的是设计学习算法。这有点像设计进化的原理。但当这个学习算法与数据互动时，它会产生复杂的神经网络，这些网络擅长做某些事情，但我们并不真正理解它们到底是如何做到的。

KK.aWSB

54,317 просмотров • 9 месяцев назад

诺贝尔物理学奖得主彭罗斯刚刚拆掉了AI竞赛的核心假设： "把计算机做得足够复杂，它就会突然产生意识？我不信。没有任何理由相信这一点。" 他的核心论点：计算不等于理解，规则遵循不等于觉知。 "如果一个设备甚至没有觉知，说它'理解'了某事是没有意义的。" 更深的问题：大脑遵循物理定律，但量子力学只是"部分答案"——我们可能还没发现意识运行的物理法则。

诺贝尔物理学奖得主彭罗斯刚刚拆掉了AI竞赛的核心假设： "把计算机做得足够复杂，它就会突然产生意识？我不信。没有任何理由相信这一点。" 他的核心论点：计算不等于理解，规则遵循不等于觉知。 "如果一个设备甚至没有觉知，说它'理解'了某事是没有意义的。" 更深的问题：大脑遵循物理定律，但量子力学只是"部分答案"——我们可能还没发现意识运行的物理法则。

KK.aWSB

62,583 просмотров • 6 месяцев назад

最近陶哲轩在 2024 年第 65 届国际数学奥林匹克上，陶哲轩做了一次 AI 和数学的演讲，非常精彩，从数学使用计算计算机的历史开始讲起，一直讲到大语言模型，干货相当多，尤其适合对数学有兴趣的同学。（对数学没那么感兴趣的同学只想看 AI 部分的建议直接跳到 41 分的位置开始观看）先摘录几个冷知识： 1. 我们使用机器做数学计算已经有数千年，最早的机器辅助计算可能是罗马人，然后是中国的算盘 2. 二战时就有人肉“计算机”，计算弹道和其他任务，多位女孩子，因为男士们在打仗，所以那时候的计算基本单位不是GPU，而是kilogirl-hour——“千名女孩工作一小时的计算量” 3. 现在，数学家们使用一种现代化的证明辅助编程语言，叫做 Lean。在 Lean 中有一个核心的数学库，通过众包的方式开发的，本科数学课程中看到的内容，比如微积分基础、群论基础或者拓扑学等等，这些都已经被形式化了，所以你不用从公理开始。 4. 现在数学领域有一种团队协作证明复杂数学定理的工作流程，那就是先编写一个称为“蓝图”的详细证明计划，将整个证明分解为数百个小步骤。每个步骤可以单独形式化，然后再将它们整合在一起，这样你就可以将一个庞大的论证分解成许多小块。先编写这个蓝图，然后团队中的其他人可以对论据的不同步骤的不同部分进行形式化。去年，陶哲轩和几位同事一起解决了一个组合数学问题。这是一个组合学的问题。大约20人在短短三周内完成了，使用了蓝图工具，参与的人中有概率论专家，甚至还有一些并非数学家的人，他们是程序员，但在解决这些小型拼图问题上非常擅长。每个人都挑选了一个觉得自己能做的小任务，并完成了它。在数学领域，通常很难这么多人一起合作，一般最多可能五个人合作。因为在大项目上合作时，你必须相信每个人的数学都是正确的。但是，一旦超过一定规模，这就无法实现了。但现在借助 Lean 编译器，它能自动检查。团队成员无法上传任何编译不通过的内容，会被拒绝。因此，你可以与一些从未见过的人合作。最后是讲大语言模型，首先陶哲轩就打脸了 GPT-4 的论文（我猜是微软那篇《GPT-4，通用人工智能的火花》），论文中号称 GPT-4 能解决国际数学奥林匹克问题，但实际上，这个问题不是 2022 年国际奥数竞赛的原始问题，而是一个简化版本，并且他们测试了几百道国际奥数竞赛问题，成功率只有1%，论文里的这个是精心挑选的恰巧能做对的。并且陶哲轩提到了基于大语言模型的一些改进的方案：比如 CoT（Chain of Thought），也就是 LLM 做简单的算术运算都做不对，但是如果让它一步步解释，可能就对了。还可以教 AI 一些解题技巧，比如尝试简单的例子，反证法，尝试逐步证明等。比如让模型和编程语言或者工具连接，将大语言的输出结果交给 Wolfram 这样的专业数学工具或者 Python 这样的编程语言验证，并且迭代的进行修正和验证，直到得到正确的结果，这可以提升大语言模型生成的效果。即使借助这些手段，大语言模型还远远不能解决大多数数学问题，更不用说数学研究问题了！当然陶哲轩也没太过打击大家对于 AI 的信心，表示我们在 AI 上还是在不断的取得进展，还提到了他日常是怎么用 AI 的，比如说把 AI 当成灵感之源。 > 我曾遇到过一个问题，我尝试了几种方法，但都无法解决。于是，我尝试询问 GPT，你建议我使用什么其他方法来解决这个问题？GPT 给我提供了 10 种可能的方法，其中有 5 种我已经尝试过，或者明显没有帮助。的确，有几种方法并不实用。但其中有一种我还没尝试过的方法，那就是针对这个问题使用生成函数。当 GPT 建议我使用这种方法时，我意识到这就是我漏掉的正确方法。所以，将 GPT 视为一个交流伙伴，它确实具有一定的用处。还有使用 GitHub Copilot 帮他写代码，让它自动生成下一步的证明结果，Copilot 的智能提示有 20% 的概率能生成正确的下一步结果。 > 例如我使用的一个叫 GitHub Copilot 的工具，你只需要写下一半的证明，它就会尝试猜测接下来的内容。大概有 20% 的情况下，它能猜到接近正确的答案。然后你就可以说，我接受这个答案。好的，那么在这种情况下，我正在试图证明这个陈述。灰色的部分是 Copilot 给出的建议。结果发现第一行完全没用。不过第二行，尽管你可能看不清楚，却真的解决了这个问题。所以，你不能盲目接受它的输入，因为这些代码未必能顺利编译。但如果你对代码的运作方式已经有所了解，这将大大节省你的时间。这些工具正在变得越来越好。现在如果一个证明只需要一两行，它们就能自动完成。现在已经有了这样的实验，即通过迭代地让 AI 提供证明，然后让编译器进行反馈，如果编译出错，就把错误信息反馈给 AI。通过这种方法，我们开始能够验证四五步长的证明。当然，一个大型的证明可能需要数万行。所以，我们还没有达到能够立即得到一个正式证明的程度。但是，这已经是一个相当有用的工具。对于大家关心的问题： AI 在数学领域现在到了哪一个阶段？是否未来几年利用 AI 能直接解决数学问题？陶哲轩也给出了他的看法： > 我认为我们还远远没有达到这个阶段。如果我们专注于非常特定的问题，你可以定制专门的 AI 来处理一小部分问题。即便如此，它们也不是完全可靠的，但还是有用的。不过至少在接下来的几年里，它们基本上将是非常有用的辅助工具，超越了我们已经熟悉的暴力计算辅助。他还提到了一些可能的 AI 能在数学领域提供帮助的方向： - AI 能够非常好地生成有价值的猜想 > 比如，我们已经看到了关于结理论的例子，它们已经可以推测出两个不同的统计量之间的关系。因此，我们希望能够创建大量的数据集，输入到 AI 中，它们就会自动找出各种不同的数学对象之间的有趣联系。虽然我们还不知道如何做到这一点，部分原因是我们没有这些庞大的数据集。但我认为这是未来可能实现的一个方向。 - 批量或者说规模化的证明大量数学定理 > 现在，因为证明定理是如此繁琐和艰难的过程，我们一次只能证明一个定理，如果你效率很高，可能一次能证明两三个。但是有了 AI，你可以设想一下未来的情况，我们不是试图解决一个问题，而是处理一类类似的1000个问题，然后告诉AI，尝试用这个方法解决这 1000 个问题，然后报告结果，哦，我能用这种技术解决 35% 的问题。那么另一种技术呢？我能解决这个百分比的问题。或者如果结合这些方法，又能解决多少问题？你可以开始探索问题的空间，而不是一个接一个地解决问题。这是你现在根本无法做到的事情，或者是你需要几十年时间，通过数十篇论文慢慢搞清楚各种技术能做什么，不能做什么。但是有了这些工具，你真的可以开始做规模前所未有的数学研究。所以，未来将会非常令人兴奋。演讲环节结束前的最后一句话说的特别好： > 我们仍然会以传统方式证明定理。事实上，我们必须这样做，因为如果我们自己都不知道如何做这些事情，就无法引导这些 AI。但是我们将能够做很多现在无法做到的事情。这恰恰也是我们现在使用 AI 辅助编程的问题：如果我们自己都不知道如何构建软件，就很难引导好 AI 帮助我们生成高质量的代码。尽管 AI 在数学和编程领域变得越来越有用，但人类的洞察力和创造力仍然是创作价值的关键。原始 YT 视频：

最近陶哲轩在 2024 年第 65 届国际数学奥林匹克上，陶哲轩做了一次 AI 和数学的演讲，非常精彩，从数学使用计算计算机的历史开始讲起，一直讲到大语言模型，干货相当多，尤其适合对数学有兴趣的同学。（对数学没那么感兴趣的同学只想看 AI 部分的建议直接跳到 41 分的位置开始观看）先摘录几个冷知识： 1. 我们使用机器做数学计算已经有数千年，最早的机器辅助计算可能是罗马人，然后是中国的算盘 2. 二战时就有人肉“计算机”，计算弹道和其他任务，多位女孩子，因为男士们在打仗，所以那时候的计算基本单位不是GPU，而是kilogirl-hour——“千名女孩工作一小时的计算量” 3. 现在，数学家们使用一种现代化的证明辅助编程语言，叫做 Lean。在 Lean 中有一个核心的数学库，通过众包的方式开发的，本科数学课程中看到的内容，比如微积分基础、群论基础或者拓扑学等等，这些都已经被形式化了，所以你不用从公理开始。 4. 现在数学领域有一种团队协作证明复杂数学定理的工作流程，那就是先编写一个称为“蓝图”的详细证明计划，将整个证明分解为数百个小步骤。每个步骤可以单独形式化，然后再将它们整合在一起，这样你就可以将一个庞大的论证分解成许多小块。先编写这个蓝图，然后团队中的其他人可以对论据的不同步骤的不同部分进行形式化。去年，陶哲轩和几位同事一起解决了一个组合数学问题。这是一个组合学的问题。大约20人在短短三周内完成了，使用了蓝图工具，参与的人中有概率论专家，甚至还有一些并非数学家的人，他们是程序员，但在解决这些小型拼图问题上非常擅长。每个人都挑选了一个觉得自己能做的小任务，并完成了它。在数学领域，通常很难这么多人一起合作，一般最多可能五个人合作。因为在大项目上合作时，你必须相信每个人的数学都是正确的。但是，一旦超过一定规模，这就无法实现了。但现在借助 Lean 编译器，它能自动检查。团队成员无法上传任何编译不通过的内容，会被拒绝。因此，你可以与一些从未见过的人合作。最后是讲大语言模型，首先陶哲轩就打脸了 GPT-4 的论文（我猜是微软那篇《GPT-4，通用人工智能的火花》），论文中号称 GPT-4 能解决国际数学奥林匹克问题，但实际上，这个问题不是 2022 年国际奥数竞赛的原始问题，而是一个简化版本，并且他们测试了几百道国际奥数竞赛问题，成功率只有1%，论文里的这个是精心挑选的恰巧能做对的。并且陶哲轩提到了基于大语言模型的一些改进的方案：比如 CoT（Chain of Thought），也就是 LLM 做简单的算术运算都做不对，但是如果让它一步步解释，可能就对了。还可以教 AI 一些解题技巧，比如尝试简单的例子，反证法，尝试逐步证明等。比如让模型和编程语言或者工具连接，将大语言的输出结果交给 Wolfram 这样的专业数学工具或者 Python 这样的编程语言验证，并且迭代的进行修正和验证，直到得到正确的结果，这可以提升大语言模型生成的效果。即使借助这些手段，大语言模型还远远不能解决大多数数学问题，更不用说数学研究问题了！当然陶哲轩也没太过打击大家对于 AI 的信心，表示我们在 AI 上还是在不断的取得进展，还提到了他日常是怎么用 AI 的，比如说把 AI 当成灵感之源。 > 我曾遇到过一个问题，我尝试了几种方法，但都无法解决。于是，我尝试询问 GPT，你建议我使用什么其他方法来解决这个问题？GPT 给我提供了 10 种可能的方法，其中有 5 种我已经尝试过，或者明显没有帮助。的确，有几种方法并不实用。但其中有一种我还没尝试过的方法，那就是针对这个问题使用生成函数。当 GPT 建议我使用这种方法时，我意识到这就是我漏掉的正确方法。所以，将 GPT 视为一个交流伙伴，它确实具有一定的用处。还有使用 GitHub Copilot 帮他写代码，让它自动生成下一步的证明结果，Copilot 的智能提示有 20% 的概率能生成正确的下一步结果。 > 例如我使用的一个叫 GitHub Copilot 的工具，你只需要写下一半的证明，它就会尝试猜测接下来的内容。大概有 20% 的情况下，它能猜到接近正确的答案。然后你就可以说，我接受这个答案。好的，那么在这种情况下，我正在试图证明这个陈述。灰色的部分是 Copilot 给出的建议。结果发现第一行完全没用。不过第二行，尽管你可能看不清楚，却真的解决了这个问题。所以，你不能盲目接受它的输入，因为这些代码未必能顺利编译。但如果你对代码的运作方式已经有所了解，这将大大节省你的时间。这些工具正在变得越来越好。现在如果一个证明只需要一两行，它们就能自动完成。现在已经有了这样的实验，即通过迭代地让 AI 提供证明，然后让编译器进行反馈，如果编译出错，就把错误信息反馈给 AI。通过这种方法，我们开始能够验证四五步长的证明。当然，一个大型的证明可能需要数万行。所以，我们还没有达到能够立即得到一个正式证明的程度。但是，这已经是一个相当有用的工具。对于大家关心的问题： AI 在数学领域现在到了哪一个阶段？是否未来几年利用 AI 能直接解决数学问题？陶哲轩也给出了他的看法： > 我认为我们还远远没有达到这个阶段。如果我们专注于非常特定的问题，你可以定制专门的 AI 来处理一小部分问题。即便如此，它们也不是完全可靠的，但还是有用的。不过至少在接下来的几年里，它们基本上将是非常有用的辅助工具，超越了我们已经熟悉的暴力计算辅助。他还提到了一些可能的 AI 能在数学领域提供帮助的方向： - AI 能够非常好地生成有价值的猜想 > 比如，我们已经看到了关于结理论的例子，它们已经可以推测出两个不同的统计量之间的关系。因此，我们希望能够创建大量的数据集，输入到 AI 中，它们就会自动找出各种不同的数学对象之间的有趣联系。虽然我们还不知道如何做到这一点，部分原因是我们没有这些庞大的数据集。但我认为这是未来可能实现的一个方向。 - 批量或者说规模化的证明大量数学定理 > 现在，因为证明定理是如此繁琐和艰难的过程，我们一次只能证明一个定理，如果你效率很高，可能一次能证明两三个。但是有了 AI，你可以设想一下未来的情况，我们不是试图解决一个问题，而是处理一类类似的1000个问题，然后告诉AI，尝试用这个方法解决这 1000 个问题，然后报告结果，哦，我能用这种技术解决 35% 的问题。那么另一种技术呢？我能解决这个百分比的问题。或者如果结合这些方法，又能解决多少问题？你可以开始探索问题的空间，而不是一个接一个地解决问题。这是你现在根本无法做到的事情，或者是你需要几十年时间，通过数十篇论文慢慢搞清楚各种技术能做什么，不能做什么。但是有了这些工具，你真的可以开始做规模前所未有的数学研究。所以，未来将会非常令人兴奋。演讲环节结束前的最后一句话说的特别好： > 我们仍然会以传统方式证明定理。事实上，我们必须这样做，因为如果我们自己都不知道如何做这些事情，就无法引导这些 AI。但是我们将能够做很多现在无法做到的事情。这恰恰也是我们现在使用 AI 辅助编程的问题：如果我们自己都不知道如何构建软件，就很难引导好 AI 帮助我们生成高质量的代码。尽管 AI 在数学和编程领域变得越来越有用，但人类的洞察力和创造力仍然是创作价值的关键。原始 YT 视频：

宝玉

303,716 просмотров • 2 лет назад

查理·芒格：“如果没有终身学习，你们这些人是做不好的。仅凭你们已经知道的知识，在人生中是走不远的。” “我经常看到一些人在生活中不断攀升，他们并不是最聪明的……但他们是学习机器。”

查理·芒格：“如果没有终身学习，你们这些人是做不好的。仅凭你们已经知道的知识，在人生中是走不远的。” “我经常看到一些人在生活中不断攀升，他们并不是最聪明的……但他们是学习机器。”

柴郡🔔｜Crypto+AI Plus

22,210 просмотров • 5 месяцев назад

数学家罗杰·彭罗斯爵士： “人工智能是个糟糕的术语。它不是智能。” 智能必然包含意识，而目前的AI只是复杂的机器计算。只是因为这种计算变得过于复杂，以至于人类失去了追踪的线索，于是自我催眠，想象机器拥有了智能。彭罗斯爵士坦言，他觉得如果非要给现在这些机器计算命名，你可以称之为 Artificial Clever（AC，人工大聪明😅）。这就好像今天应试教育下许多学生计算很牛逼，但实际上他们并不理解这些数学方程式背后真正的含义。～关注我，一起探索心灵自由之路～

数学家罗杰·彭罗斯爵士： “人工智能是个糟糕的术语。它不是智能。” 智能必然包含意识，而目前的AI只是复杂的机器计算。只是因为这种计算变得过于复杂，以至于人类失去了追踪的线索，于是自我催眠，想象机器拥有了智能。彭罗斯爵士坦言，他觉得如果非要给现在这些机器计算命名，你可以称之为 Artificial Clever（AC，人工大聪明😅）。这就好像今天应试教育下许多学生计算很牛逼，但实际上他们并不理解这些数学方程式背后真正的含义。～关注我，一起探索心灵自由之路～

波波 Lucy

42,056 просмотров • 4 месяцев назад

Google 前 CEO 埃里克·施密特近期在斯坦福 CS323 课堂上的访谈（四/完结）关于大语言模型对经济的影响以及学术界的选择学生：大语言模型的经济影响，比如劳动力市场的影响，比你最初预期的要慢。Chegg（在线教育技术公司）和一些服务人员受到了影响。你认为学术界应该获得AI方面的补贴，还是应该选择与业界的大公司合作？ Eric：我非常努力地推动为大学建立数据中心。如果我是这里的计算机科学系教师，我会非常失望，因为无法与研究生一起构建能够进行博士研究的算法。我被迫和这些公司合作。我认为这些公司在这方面并没有表现出足够的慷慨。我与许多你们认识的教师交谈，他们花费大量时间等待Google Cloud的配额。这是非常糟糕的情况。这个领域正在快速发展。我们希望美国能胜出，我们希望美国的大学——出于多种原因，我认为正确的做法是把资源提供给他们。我在这方面做了很多努力。至于劳动力市场的影响，我将这个问题交给这里的真正专家。作为Eric教导的业余经济学家，我坚信那些接受过大学教育、从事高技能工作的人将会适应，因为人们将会与这些系统一起工作。我认为这些系统与以往的技术浪潮没有区别。那些危险的工作和不需要太多人为判断的工作将被取代。关于计算机科学教育的未来学生：我对“文本到行动”及其对计算机科学教育的影响非常感兴趣。你认为计算机科学教育应该如何变革以适应新时代？ Eric：我认为计算机科学专业的本科生群体将始终有一位编程搭档。因此，当你学习你的第一个for循环时，你会有一个工具作为你的伙伴。这就是未来的教学方式，教授会讲解概念，但你会通过这种方式参与其中。这是我的猜测。关于非Transformer架构与数学创新学生：你提到了一些让你兴奋的非Transformer架构。我想其中一个被提到的是状态模型，但现在还有一种是更长上下文的模型。我更好奇的是你在这方面看到的情况。 Eric：我对数学的理解还不够深入，但我非常高兴我们为数学家们提供了工作机会，因为这里的数学太复杂了。但基本上，他们是在采用不同的方法来进行梯度下降和矩阵乘法，使其更快更好。Transformer架构是一种能够同时进行乘法运算的系统化方式，这是我理解的方式。它和其他的很像，但数学部分不同。我们将继续关注这些新的数学进展。关于中美关系与国家安全学生：你在关于国家安全的论文中提到，中美两国在现代架构的帮助下处于关键地位。接下来的10个国家，以及稍后的一组国家，都是美国的盟友，或者与美国盟友关系密切。我很好奇你对这些国家，尤其是那些中间地带但并非正式盟友的国家有什么看法。它们有多大可能愿意加入我们的安全阵营？是什么因素可能会阻碍它们加入？ Eric：最值得关注的国家是印度，因为顶尖的AI人才从印度来到美国，我们应该让印度保留一部分顶尖人才。他们没有我们这里如此丰富的培训设施和项目。在我看来，印度是这一领域的重要摇摆国家。中国已经没有机会了，不会再回来。日本和韩国显然站在我们这一边。台湾在硬件方面很出色，但他们的软件开发较弱。在全球范围内，其他大国的选择并不多。欧洲因为欧盟的政策和管理机制陷入困境，这并不是什么新鲜事。我与他们斗争了10年，但他们仍然有许多限制，导致我们在欧洲开展研究非常困难。法国还有一些机会，但我不太看好德国。其余的国家都不够有影响力。关于编程与AI 学生：我是编译器工程师。考虑到你设想这些模型将具备的能力，我们还需要花时间学习编程吗？ Eric：是的，这是一个老生常谈的问题，为什么你已经会说英语还要学习英语呢？是为了让你的英语更好。你确实需要理解这些系统的工作原理，我对此非常坚定。关于分布式计算与大语言模型的训练学生：你是否探索过分布式环境？虽然构建大型集群很困难，但MacBooks的性能很强大。你认为类似“Folding@home”的想法适合训练吗？ Eric：是的，我们对此进行了深入研究。算法的工作方式是你有一个非常大的矩阵，基本上是一个乘法函数。系统的速度完全受限于内存到CPU或GPU的传输速度。Nvidia的下一代芯片已经将所有这些功能整合到了一块芯片中，如今的芯片已经足够大到需要将它们都粘合在一起。短时间内，分布式计算在训练大语言模型方面的进展可能有限。关于数据隐私与版权学生：在ChatGPT发布后，OpenAI因使用他们的作品进行训练而被《纽约时报》起诉。你觉得这种情况会如何发展？这对数据隐私有何影响？ Eric：我曾经从事过大量的音乐版权工作。我了解到在60年代，有一系列诉讼最终达成了一项协议：每次播放你的歌曲，你都能获得一定的版权费。我猜AI领域可能会有类似的情况。可能会有很多诉讼，最后可能会达成一种协议，要求你必须支付你的一部分收入，以便使用类似ASCAP BMI的版权管理机构。关于AI领域的垄断与反垄断法规学生：现在看起来几个主要玩家在AI领域占据主导地位，他们会继续维持这个地位。这些公司似乎与那些受到反垄断法规关注的大公司有所交叉。你对这两种趋势有何看法？像是监管部门会否对这些公司进行分拆？这将会对现状产生怎样的影响？ Eric：在我的职业生涯中，我曾帮助微软避免被拆分，结果它确实没有被拆分。我也曾努力阻止谷歌被分拆，目前来看，谷歌还未被分拆。因此，从我的观察来看，这些公司被分拆的趋势并不明显。只要这些公司避免成为像约翰·D·洛克菲勒那样的企业巨头，政府可能不会采取行动。这些公司占据主导地位的原因是他们有足够的资本来建设数据中心。关于技术差距对全球的影响学生：这一切将会把那些不参与前沿模型开发和无法获取计算资源的国家带向何方？富国越来越富，穷国尽力而为。 Eric：事实上，这就是富国的游戏，对吧？巨大的资本，众多技术过硬的人才，强有力的政府支持。有些国家，比如印度，将会成为这一领域的重要参与者。其他国家可能需要找到合作伙伴或与其他国家联合。对年轻人的建议主持人：最后一个问题，Eric。你花了很多时间帮助年轻人，他们正在创造大量财富，你对在座的各位有什么建议吗？他们正在为这门课写商业计划书或撰写政策提案、研究提案，未来职业发展方面你有什么建议？ Eric：我在商学院教过一门关于这个主题的课程。快速制作原型的能力真的非常重要，成为创业者的一个难点在于一切都发生得非常快。现在，如果你不能在一天之内利用这些工具构建你的原型，那你就需要考虑一下了，因为你的竞争对手正在这么做。所以我的建议是，尽快使用这些工具把你的想法制作成原型。这是关键，因为在其他公司、其他大学，或你从未去过的地方，一定有人正在做和你一样的事情。

Google 前 CEO 埃里克·施密特近期在斯坦福 CS323 课堂上的访谈（四/完结）关于大语言模型对经济的影响以及学术界的选择学生：大语言模型的经济影响，比如劳动力市场的影响，比你最初预期的要慢。Chegg（在线教育技术公司）和一些服务人员受到了影响。你认为学术界应该获得AI方面的补贴，还是应该选择与业界的大公司合作？ Eric：我非常努力地推动为大学建立数据中心。如果我是这里的计算机科学系教师，我会非常失望，因为无法与研究生一起构建能够进行博士研究的算法。我被迫和这些公司合作。我认为这些公司在这方面并没有表现出足够的慷慨。我与许多你们认识的教师交谈，他们花费大量时间等待Google Cloud的配额。这是非常糟糕的情况。这个领域正在快速发展。我们希望美国能胜出，我们希望美国的大学——出于多种原因，我认为正确的做法是把资源提供给他们。我在这方面做了很多努力。至于劳动力市场的影响，我将这个问题交给这里的真正专家。作为Eric教导的业余经济学家，我坚信那些接受过大学教育、从事高技能工作的人将会适应，因为人们将会与这些系统一起工作。我认为这些系统与以往的技术浪潮没有区别。那些危险的工作和不需要太多人为判断的工作将被取代。关于计算机科学教育的未来学生：我对“文本到行动”及其对计算机科学教育的影响非常感兴趣。你认为计算机科学教育应该如何变革以适应新时代？ Eric：我认为计算机科学专业的本科生群体将始终有一位编程搭档。因此，当你学习你的第一个for循环时，你会有一个工具作为你的伙伴。这就是未来的教学方式，教授会讲解概念，但你会通过这种方式参与其中。这是我的猜测。关于非Transformer架构与数学创新学生：你提到了一些让你兴奋的非Transformer架构。我想其中一个被提到的是状态模型，但现在还有一种是更长上下文的模型。我更好奇的是你在这方面看到的情况。 Eric：我对数学的理解还不够深入，但我非常高兴我们为数学家们提供了工作机会，因为这里的数学太复杂了。但基本上，他们是在采用不同的方法来进行梯度下降和矩阵乘法，使其更快更好。Transformer架构是一种能够同时进行乘法运算的系统化方式，这是我理解的方式。它和其他的很像，但数学部分不同。我们将继续关注这些新的数学进展。关于中美关系与国家安全学生：你在关于国家安全的论文中提到，中美两国在现代架构的帮助下处于关键地位。接下来的10个国家，以及稍后的一组国家，都是美国的盟友，或者与美国盟友关系密切。我很好奇你对这些国家，尤其是那些中间地带但并非正式盟友的国家有什么看法。它们有多大可能愿意加入我们的安全阵营？是什么因素可能会阻碍它们加入？ Eric：最值得关注的国家是印度，因为顶尖的AI人才从印度来到美国，我们应该让印度保留一部分顶尖人才。他们没有我们这里如此丰富的培训设施和项目。在我看来，印度是这一领域的重要摇摆国家。中国已经没有机会了，不会再回来。日本和韩国显然站在我们这一边。台湾在硬件方面很出色，但他们的软件开发较弱。在全球范围内，其他大国的选择并不多。欧洲因为欧盟的政策和管理机制陷入困境，这并不是什么新鲜事。我与他们斗争了10年，但他们仍然有许多限制，导致我们在欧洲开展研究非常困难。法国还有一些机会，但我不太看好德国。其余的国家都不够有影响力。关于编程与AI 学生：我是编译器工程师。考虑到你设想这些模型将具备的能力，我们还需要花时间学习编程吗？ Eric：是的，这是一个老生常谈的问题，为什么你已经会说英语还要学习英语呢？是为了让你的英语更好。你确实需要理解这些系统的工作原理，我对此非常坚定。关于分布式计算与大语言模型的训练学生：你是否探索过分布式环境？虽然构建大型集群很困难，但MacBooks的性能很强大。你认为类似“Folding@home”的想法适合训练吗？ Eric：是的，我们对此进行了深入研究。算法的工作方式是你有一个非常大的矩阵，基本上是一个乘法函数。系统的速度完全受限于内存到CPU或GPU的传输速度。Nvidia的下一代芯片已经将所有这些功能整合到了一块芯片中，如今的芯片已经足够大到需要将它们都粘合在一起。短时间内，分布式计算在训练大语言模型方面的进展可能有限。关于数据隐私与版权学生：在ChatGPT发布后，OpenAI因使用他们的作品进行训练而被《纽约时报》起诉。你觉得这种情况会如何发展？这对数据隐私有何影响？ Eric：我曾经从事过大量的音乐版权工作。我了解到在60年代，有一系列诉讼最终达成了一项协议：每次播放你的歌曲，你都能获得一定的版权费。我猜AI领域可能会有类似的情况。可能会有很多诉讼，最后可能会达成一种协议，要求你必须支付你的一部分收入，以便使用类似ASCAP BMI的版权管理机构。关于AI领域的垄断与反垄断法规学生：现在看起来几个主要玩家在AI领域占据主导地位，他们会继续维持这个地位。这些公司似乎与那些受到反垄断法规关注的大公司有所交叉。你对这两种趋势有何看法？像是监管部门会否对这些公司进行分拆？这将会对现状产生怎样的影响？ Eric：在我的职业生涯中，我曾帮助微软避免被拆分，结果它确实没有被拆分。我也曾努力阻止谷歌被分拆，目前来看，谷歌还未被分拆。因此，从我的观察来看，这些公司被分拆的趋势并不明显。只要这些公司避免成为像约翰·D·洛克菲勒那样的企业巨头，政府可能不会采取行动。这些公司占据主导地位的原因是他们有足够的资本来建设数据中心。关于技术差距对全球的影响学生：这一切将会把那些不参与前沿模型开发和无法获取计算资源的国家带向何方？富国越来越富，穷国尽力而为。 Eric：事实上，这就是富国的游戏，对吧？巨大的资本，众多技术过硬的人才，强有力的政府支持。有些国家，比如印度，将会成为这一领域的重要参与者。其他国家可能需要找到合作伙伴或与其他国家联合。对年轻人的建议主持人：最后一个问题，Eric。你花了很多时间帮助年轻人，他们正在创造大量财富，你对在座的各位有什么建议吗？他们正在为这门课写商业计划书或撰写政策提案、研究提案，未来职业发展方面你有什么建议？ Eric：我在商学院教过一门关于这个主题的课程。快速制作原型的能力真的非常重要，成为创业者的一个难点在于一切都发生得非常快。现在，如果你不能在一天之内利用这些工具构建你的原型，那你就需要考虑一下了，因为你的竞争对手正在这么做。所以我的建议是，尽快使用这些工具把你的想法制作成原型。这是关键，因为在其他公司、其他大学，或你从未去过的地方，一定有人正在做和你一样的事情。

宝玉

14,213 просмотров • 2 лет назад

AI 完全可以拥有主观体验！Hinton 教授在 The Weekly Show with Jon Stewart 的播客中做了个断言。我们大多数人对"心智"的理解，存在着"和地平论者一样程度的误解"。当我告诉你"我正体验着看到粉色大象的幻觉"时，我们通常会想象：在我的脑海里有一个"内在剧场"，粉色大象真的在那里飘浮，而"我"这个意识主体是剧场的唯一观众。我们把"主观体验"当成了一种真实存在的"东西"👀 Hinton 认为所谓的“体验”是你和那些并不真实存在的事物之间的关系。“主观体验”不是一个内在的“实体”，而是一种语言工具，用来向他人描述我们感知系统的状态，尤其是当它发生故障或接收到非标准输入时。他在节目中设计了一个思想实验： - 一个可以看、说、指的多模态机器人，被告知它前方的物体；我们在它的摄像头前偷偷放一个棱镜，使其看到的物体位置发生偏移； - 当它指向错误的位置时，我们告诉它真相：“物体其实在正前方，我只是放了个棱镜”； - 此时，这个机器人完全可能推理并回答：“哦，我明白了。物体实际上在那里，但我刚才的‘主观体验’是它在旁边。” 如果它能这样说，那么它使用“主观体验”这个词的方式，就和人类毫无二致。“那种认为我们和机器之间有一道界线，我们拥有叫做主观体验的特殊东西而它们没有 —— 这纯属无稽之谈（It's rubbish）。” 我们之所以认为自己是独特的、有灵魂的，可能仅仅是因为我们对自己心智的运作机制一无所知。而 AI，这个我们亲手创造的“镜子”，正以前所未有的清晰度，映照出我们自身的机械本质。

AI 完全可以拥有主观体验！Hinton 教授在 The Weekly Show with Jon Stewart 的播客中做了个断言。我们大多数人对"心智"的理解，存在着"和地平论者一样程度的误解"。当我告诉你"我正体验着看到粉色大象的幻觉"时，我们通常会想象：在我的脑海里有一个"内在剧场"，粉色大象真的在那里飘浮，而"我"这个意识主体是剧场的唯一观众。我们把"主观体验"当成了一种真实存在的"东西"👀 Hinton 认为所谓的“体验”是你和那些并不真实存在的事物之间的关系。“主观体验”不是一个内在的“实体”，而是一种语言工具，用来向他人描述我们感知系统的状态，尤其是当它发生故障或接收到非标准输入时。他在节目中设计了一个思想实验： - 一个可以看、说、指的多模态机器人，被告知它前方的物体；我们在它的摄像头前偷偷放一个棱镜，使其看到的物体位置发生偏移； - 当它指向错误的位置时，我们告诉它真相：“物体其实在正前方，我只是放了个棱镜”； - 此时，这个机器人完全可能推理并回答：“哦，我明白了。物体实际上在那里，但我刚才的‘主观体验’是它在旁边。” 如果它能这样说，那么它使用“主观体验”这个词的方式，就和人类毫无二致。“那种认为我们和机器之间有一道界线，我们拥有叫做主观体验的特殊东西而它们没有 —— 这纯属无稽之谈（It's rubbish）。” 我们之所以认为自己是独特的、有灵魂的，可能仅仅是因为我们对自己心智的运作机制一无所知。而 AI，这个我们亲手创造的“镜子”，正以前所未有的清晰度，映照出我们自身的机械本质。

indigo

20,347 просмотров • 11 месяцев назад

自动驾驶算法的底层原理和我们做趋势交易最科学的原理是一样的，这就是为何我一直提醒大家不要历史归纳法，统计学的多样本概率学适用于高频量化的类似于物理学当中的量子力学，但宏观世界当中“相对论”更有效。这也是为何我做量化多年发现剩下的最有效的因子就是“动能因子”，不只是因为样本足够，物理学中空气动力学的应用在趋势交易中格外有效。

自动驾驶算法的底层原理和我们做趋势交易最科学的原理是一样的，这就是为何我一直提醒大家不要历史归纳法，统计学的多样本概率学适用于高频量化的类似于物理学当中的量子力学，但宏观世界当中“相对论”更有效。这也是为何我做量化多年发现剩下的最有效的因子就是“动能因子”，不只是因为样本足够，物理学中空气动力学的应用在趋势交易中格外有效。

𝙃𝘼𝙕𝙀𝙉𝙇𝙀𝙀

39,210 просмотров • 6 месяцев назад

AI会永远对你撒谎。这不是bug，是数学定律。我，卡内基梅隆大学的数学学生，用数学告诉你为什么。所有语言模型，只做一件事：根据它读过的所有资料，预测下一个最有可能的词。但这里有个死结。模型的猜测，我们叫它q(x)。真实世界的概率，我们叫它p(x)。 q(x)永远不可能等于p(x)。它们之间，永远有一道鸿沟。有个数学公式，就是用来测量这道鸿沟的。只要模型不能完美预测下一个词它永远不能那这个鸿沟就永远不会是零。所以，当AI不知道真相的时候会发生什么？它不能停机，它必须给你一个答案。它只能硬着头皮，输出一个它认为“最像”答案的答案。哪怕那是错的。这就是“幻觉”。一个基于不完整信息，却无比自信的猜测。最要命的是，数学甚至给出了一个下限。就算最完美的模型，它的幻觉率也永远不可能低于这个数字。只要它不知道关于这个世界的一切它永远不可能知道。它就总会有概率，编造事实。所以，无论AI变得多强大，它都会撒谎。因为数学就是这么写的。

AI会永远对你撒谎。这不是bug，是数学定律。我，卡内基梅隆大学的数学学生，用数学告诉你为什么。所有语言模型，只做一件事：根据它读过的所有资料，预测下一个最有可能的词。但这里有个死结。模型的猜测，我们叫它q(x)。真实世界的概率，我们叫它p(x)。 q(x)永远不可能等于p(x)。它们之间，永远有一道鸿沟。有个数学公式，就是用来测量这道鸿沟的。只要模型不能完美预测下一个词它永远不能那这个鸿沟就永远不会是零。所以，当AI不知道真相的时候会发生什么？它不能停机，它必须给你一个答案。它只能硬着头皮，输出一个它认为“最像”答案的答案。哪怕那是错的。这就是“幻觉”。一个基于不完整信息，却无比自信的猜测。最要命的是，数学甚至给出了一个下限。就算最完美的模型，它的幻觉率也永远不可能低于这个数字。只要它不知道关于这个世界的一切它永远不可能知道。它就总会有概率，编造事实。所以，无论AI变得多强大，它都会撒谎。因为数学就是这么写的。

墓碑科技

73,645 просмотров • 8 месяцев назад

Google量子计算新突破：量子计算芯片 Willow 5 分钟完成传统计算机100亿亿亿年的计算最近大家都在关注 AI，也许没有注意到 Google 刚发布的量子计算芯片 Willow 想象一下，有一道数学题，就算用世界上最快的超级计算机来解，也需要计算100亿亿亿年。而Google的最新量子计算芯片Willow只用了5分钟就解决了。如果你对这个数字没有概念，这个时间比我们宇宙的年龄（138亿年）还要长得多！什么是量子计算？要理解这个突破，我们先来聊聊普通计算机和量子计算机的区别： - 普通计算机使用的是"比特"（位），就像一个开关，只能是开（1）或关（0）两种状态 - 量子计算机使用的是"量子比特"（量子位），它可以同时处于多个状态，这让计算能力呈指数级增长 Willow的突破性进展 Google的Willow芯片最大的突破在于解决了量子计算领域30年来的一个大难题。传统上，量子比特越多，计算错误就越多。但Willow通过创新的"逻辑量子位"设计，实现了相反的效果：随着量子比特的增加，错误反而会减少。这就像搭建了一个会自我纠错的超级计算系统。这对我们的生活意味着什么？虽然现在还不能期待在家里放一台量子电脑，但Willow的突破将在未来带来许多令人兴奋的应用： - 加速新药物的研发 - 设计更高效的电动车电池 - 优化城市交通流量 - 开发更安全的通信加密系统 - 提升人工智能的学习能力未来展望 Google预计在2030年左右可能会看到商用量子计算机。虽然还面临着提高运算精度、降低成本等挑战，但Willow的诞生就像是莱特兄弟的第一次飞行——它证明了"不可能"是可能的。这打开了一扇通向未来的大门，量子计算革命已经势不可挡。这次的突破，不仅仅是技术的进步，更预示着人类即将进入一个全新的计算时代。虽然距离普及还需要时间，但就像当年的第一台计算机一样，Willow 有可能会是未来量子计算机的开始。

Google量子计算新突破：量子计算芯片 Willow 5 分钟完成传统计算机100亿亿亿年的计算最近大家都在关注 AI，也许没有注意到 Google 刚发布的量子计算芯片 Willow 想象一下，有一道数学题，就算用世界上最快的超级计算机来解，也需要计算100亿亿亿年。而Google的最新量子计算芯片Willow只用了5分钟就解决了。如果你对这个数字没有概念，这个时间比我们宇宙的年龄（138亿年）还要长得多！什么是量子计算？要理解这个突破，我们先来聊聊普通计算机和量子计算机的区别： - 普通计算机使用的是"比特"（位），就像一个开关，只能是开（1）或关（0）两种状态 - 量子计算机使用的是"量子比特"（量子位），它可以同时处于多个状态，这让计算能力呈指数级增长 Willow的突破性进展 Google的Willow芯片最大的突破在于解决了量子计算领域30年来的一个大难题。传统上，量子比特越多，计算错误就越多。但Willow通过创新的"逻辑量子位"设计，实现了相反的效果：随着量子比特的增加，错误反而会减少。这就像搭建了一个会自我纠错的超级计算系统。这对我们的生活意味着什么？虽然现在还不能期待在家里放一台量子电脑，但Willow的突破将在未来带来许多令人兴奋的应用： - 加速新药物的研发 - 设计更高效的电动车电池 - 优化城市交通流量 - 开发更安全的通信加密系统 - 提升人工智能的学习能力未来展望 Google预计在2030年左右可能会看到商用量子计算机。虽然还面临着提高运算精度、降低成本等挑战，但Willow的诞生就像是莱特兄弟的第一次飞行——它证明了"不可能"是可能的。这打开了一扇通向未来的大门，量子计算革命已经势不可挡。这次的突破，不仅仅是技术的进步，更预示着人类即将进入一个全新的计算时代。虽然距离普及还需要时间，但就像当年的第一台计算机一样，Willow 有可能会是未来量子计算机的开始。

宝玉

131,575 просмотров • 1 год назад

“我们究竟是创造了一个工具还是一个生物？” Sam 在 "机器人之心 "小组讨论会上的发言。 Sam：但我认为，这无疑是迄今为止人类经历的最重大的更新年份。可能这也是我们将会遭遇的最大变革，因为从现在开始，人们已经接受强大的人工智能将成为现实，并且还会有逐步的更新。就像是第一代 iPhone 面世的那年，以及随后每一代 iPhone 的更新，我们现在能够明显感受到这一代与去年那代的差异。所以，这确实是一个重要的时刻。我感到欣慰的是，现在人们开始正确地把这些系统当作工具来看待。艺术家尤其如此，但其他人也是一样。曾经，人们真正恐惧的是，我们究竟是创造了一个工具还是一个生物，这将意味着什么？现在，人们视这些系统为人类工具箱中的新工具，并且正在用它创造一些非常了不起的东西。模型显然不知道你在说什么，因为这不在它的训练数据里，它也无法从训练数据中学习到这些信息。这是完全可以预期的。你再问一遍。比如说，你提到“意识”这个概念，模型回答：“是的，我完全明白你的意思，但我之前从未听说过这个词。” 问： “这对我来说就像是一次更新。你认为人工智能会趋向于探索创造性智能和自主性吗？” Sam：这个问题有多个答案。这取决于激励模型。这是人类的选择。问： “这将是判断意识的一个很好的测试。因为如果它有自我表达的愿望，并且仅仅为了创作的乐趣而去创作，那不会是偶然的。这绝对有点像生物。” Sam：这是生物化的。我认为在此之前还有很多步骤。我们现在要回答问题吗？这真的很棒。

“我们究竟是创造了一个工具还是一个生物？” Sam 在 "机器人之心 "小组讨论会上的发言。 Sam：但我认为，这无疑是迄今为止人类经历的最重大的更新年份。可能这也是我们将会遭遇的最大变革，因为从现在开始，人们已经接受强大的人工智能将成为现实，并且还会有逐步的更新。就像是第一代 iPhone 面世的那年，以及随后每一代 iPhone 的更新，我们现在能够明显感受到这一代与去年那代的差异。所以，这确实是一个重要的时刻。我感到欣慰的是，现在人们开始正确地把这些系统当作工具来看待。艺术家尤其如此，但其他人也是一样。曾经，人们真正恐惧的是，我们究竟是创造了一个工具还是一个生物，这将意味着什么？现在，人们视这些系统为人类工具箱中的新工具，并且正在用它创造一些非常了不起的东西。模型显然不知道你在说什么，因为这不在它的训练数据里，它也无法从训练数据中学习到这些信息。这是完全可以预期的。你再问一遍。比如说，你提到“意识”这个概念，模型回答：“是的，我完全明白你的意思，但我之前从未听说过这个词。” 问： “这对我来说就像是一次更新。你认为人工智能会趋向于探索创造性智能和自主性吗？” Sam：这个问题有多个答案。这取决于激励模型。这是人类的选择。问： “这将是判断意识的一个很好的测试。因为如果它有自我表达的愿望，并且仅仅为了创作的乐趣而去创作，那不会是偶然的。这绝对有点像生物。” Sam：这是生物化的。我认为在此之前还有很多步骤。我们现在要回答问题吗？这真的很棒。

Lei.sea

14,132 просмотров • 2 лет назад

OpenAI 创始人 John Schulman 访谈节选：为什么 GPT-4 比一年前更“聪明”了？主要都是后训练（Post-Training）带来的！另外他认为，在强化学习研究领域，研究人员需要具备丰富的经验和敏锐的直觉。了解整个技术堆栈，并对各个部分充满好奇心是关键。此外，从第一性原理出发思考问题，而不仅仅依靠实验证据，也能够帮助研究人员在数据操控和环境设置方面做出更好的决策。 *** Dwarkesh Patel：在未来，用于训练的计算力中，预训练与后训练的比例是否会明显偏向后训练呢？ John Schulman：确实，有一些观点支持这种说法。 Dwarkesh Patel：我是说，现在这个比例非常不平衡。 John Schulman：但你可以认为，模型生成的输出质量比网上的大多数内容都要高。因此，让模型自己思考似乎更有道理，而不仅仅是训练来模仿网络上的内容。所以，我认为从第一性原理上来说，这是有说服力的。我会说，我们通过后训练取得了很多进步。因此，我不确定。所以，我希望我们会继续推动这种方法，并且可能会增加投入到后训练中的计算力。 Dwarkesh Patel：当前的 GPT-4 的 ELO 分数比最初发布的版本高出了大约 100 分。这是否全都是后训练带来的改进呢？ John Schulman：对，我会说大部分都是后训练带来的。 Dwarkesh Patel：这很有意思。 John Schulman：因此，有很多不同的改进方向。我们会考虑数据质量，数据数量，进行更多的部署和收集新数据的迭代，改变你收集的注解种类。因此，有很多因素叠加在一起。但是全部加在一起，就会带来一个相当不错的，有效的计算力提升。 Dwarkesh Patel：后训练的优化程度对于竞争优势有多大影响呢？ John Schulman：目前，我会区别公司是通过我们的模型有多大等等。那么，找出你之前提到的所有这些数据的复杂问题的公司，会占据大优势吗？ John Schulman：我认为这确实是一个优势，因为这是一个非常复杂的任务。因此，你必须有很多有技能的人来执行它。因此，存在大量的隐性知识。同时也需要大量的组织知识。我认为后训练的过程，创建一个具备人们所关心的所有功能的模型，是十分复杂的。这需要付出大量的努力，它是大量研发工作的积累。我会说这种情况在某种程度上形成了一种壁垒，要想立即启动这种模型并非易事。 Dwarkesh Patel：看起来那些正在进行最严肃的预训练努力的公司，也在进行严肃的后训练努力。因此，看起来这种模型有可能被复制或有更多的类似努力出现。 John Schulman：另外，还有一种情况使得这个壁垒并非那么明显，那就是你可以提取模型，或者复制别人的模型输出，或者使用别人的模型进行比较。我认为大公司可能并不会这样做，因为这违反了服务条款，也会损害他们的自尊心，但我预计一些规模较小的参与者可能正在这样做以便更好地起步。 Dwarkesh Patel：那些真正擅长进行这种强化学习（RL）研究的人有什么样的特质呢？我听说这种研究非常具有挑战性，但是什么样的直觉能帮助你找到操控数据和设置环境的方法呢？ John Schulman：我觉得有相当多的经验是关键。自从研究生时期以来，我一直在研究 RL 算法，涉及到数据收集、到注释过程，再到与语言模型的交互。所以，我算是涉猎了这些领域。我认为，在这类研究中表现出色的人通常对整个技术堆栈有全面的了解，并且对其中的各个部分充满好奇心。他们不仅依靠实验证据来更新自己的观点，还会从第一性原理出发思考问题。比如，假设深度学习是有效的，那么理想的收集数据的类型应该是什么，等等。

OpenAI 创始人 John Schulman 访谈节选：为什么 GPT-4 比一年前更“聪明”了？主要都是后训练（Post-Training）带来的！另外他认为，在强化学习研究领域，研究人员需要具备丰富的经验和敏锐的直觉。了解整个技术堆栈，并对各个部分充满好奇心是关键。此外，从第一性原理出发思考问题，而不仅仅依靠实验证据，也能够帮助研究人员在数据操控和环境设置方面做出更好的决策。 *** Dwarkesh Patel：在未来，用于训练的计算力中，预训练与后训练的比例是否会明显偏向后训练呢？ John Schulman：确实，有一些观点支持这种说法。 Dwarkesh Patel：我是说，现在这个比例非常不平衡。 John Schulman：但你可以认为，模型生成的输出质量比网上的大多数内容都要高。因此，让模型自己思考似乎更有道理，而不仅仅是训练来模仿网络上的内容。所以，我认为从第一性原理上来说，这是有说服力的。我会说，我们通过后训练取得了很多进步。因此，我不确定。所以，我希望我们会继续推动这种方法，并且可能会增加投入到后训练中的计算力。 Dwarkesh Patel：当前的 GPT-4 的 ELO 分数比最初发布的版本高出了大约 100 分。这是否全都是后训练带来的改进呢？ John Schulman：对，我会说大部分都是后训练带来的。 Dwarkesh Patel：这很有意思。 John Schulman：因此，有很多不同的改进方向。我们会考虑数据质量，数据数量，进行更多的部署和收集新数据的迭代，改变你收集的注解种类。因此，有很多因素叠加在一起。但是全部加在一起，就会带来一个相当不错的，有效的计算力提升。 Dwarkesh Patel：后训练的优化程度对于竞争优势有多大影响呢？ John Schulman：目前，我会区别公司是通过我们的模型有多大等等。那么，找出你之前提到的所有这些数据的复杂问题的公司，会占据大优势吗？ John Schulman：我认为这确实是一个优势，因为这是一个非常复杂的任务。因此，你必须有很多有技能的人来执行它。因此，存在大量的隐性知识。同时也需要大量的组织知识。我认为后训练的过程，创建一个具备人们所关心的所有功能的模型，是十分复杂的。这需要付出大量的努力，它是大量研发工作的积累。我会说这种情况在某种程度上形成了一种壁垒，要想立即启动这种模型并非易事。 Dwarkesh Patel：看起来那些正在进行最严肃的预训练努力的公司，也在进行严肃的后训练努力。因此，看起来这种模型有可能被复制或有更多的类似努力出现。 John Schulman：另外，还有一种情况使得这个壁垒并非那么明显，那就是你可以提取模型，或者复制别人的模型输出，或者使用别人的模型进行比较。我认为大公司可能并不会这样做，因为这违反了服务条款，也会损害他们的自尊心，但我预计一些规模较小的参与者可能正在这样做以便更好地起步。 Dwarkesh Patel：那些真正擅长进行这种强化学习（RL）研究的人有什么样的特质呢？我听说这种研究非常具有挑战性，但是什么样的直觉能帮助你找到操控数据和设置环境的方法呢？ John Schulman：我觉得有相当多的经验是关键。自从研究生时期以来，我一直在研究 RL 算法，涉及到数据收集、到注释过程，再到与语言模型的交互。所以，我算是涉猎了这些领域。我认为，在这类研究中表现出色的人通常对整个技术堆栈有全面的了解，并且对其中的各个部分充满好奇心。他们不仅依靠实验证据来更新自己的观点，还会从第一性原理出发思考问题。比如，假设深度学习是有效的，那么理想的收集数据的类型应该是什么，等等。

宝玉

57,189 просмотров • 2 лет назад

我在华强北看上个东西。是一个电风扇，应该是吧。但它体积很小。风力却很大。我觉得这风力大到它不该归为风扇，而应该算吹风机的范畴了。因为我感觉拿一个这个回家吹头发也是绰绰有余的，而且它还是无线的，我就相当于拥有了一个无线的吹风机，对吧？而且价格才 200 多。好多酒店的吹风机就像没吃奶似的，一点劲儿都没有！要是带上这个，还很小。这很方便。

我在华强北看上个东西。是一个电风扇，应该是吧。但它体积很小。风力却很大。我觉得这风力大到它不该归为风扇，而应该算吹风机的范畴了。因为我感觉拿一个这个回家吹头发也是绰绰有余的，而且它还是无线的，我就相当于拥有了一个无线的吹风机，对吧？而且价格才 200 多。好多酒店的吹风机就像没吃奶似的，一点劲儿都没有！要是带上这个，还很小。这很方便。

Sunbelife 𝕏

265,350 просмотров • 2 лет назад

17岁的Kai Trump（特朗普孙女），一句话戳破了整个美国教育系统最虚伪的谎言。她在播客里说，现在高中所有人都在用ChatGPT写论文，老师都气炸了。但她问，为什么不呢？学生就该用世界给你的资源。学校不该禁止它，该教大家怎么把它变成自己的优势。最讽刺的是，她自己GPA4.0，是实打实的优等生。所以这根本不是什么作弊的问题，纯粹是代际认知的鸿沟。老一辈把手写论文、死记硬背当成“真学习”。但对凯这一代AI原住民来说，ChatGPT就像他们小时候的计算器、图书馆、Google一样，是默认的基础设施。当年禁止学生用计算器学乘法的老师，现在看来可笑至极。今天禁止学生用ChatGPT写论文的老师，十年后也会是同一个笑话。其实真正危险的从来都不是AI，是教育系统一边假装AI不存在，一边逼着学生偷偷摸摸用它。结果就是，会用的学生偷偷把效率拉满，不会用的还在熬夜抄书。没有人教他们怎么提出高质量的问题，怎么验证AI的幻觉，怎么把AI的输出变成自己的深度洞见。而这些，才是未来10年最值钱的能力。我相信AI不会让学生变笨，它只会放大差距。会用AI的人，一个人能顶以前一个团队。不会用AI的人，会被时代甩得连尾灯都看不见。我们的教育还在教学生怎么在没有AI的世界里生存，但他们未来要面对的，是一个AI无处不在的世界。所以这种拒绝变革的教育，最终只会培养出一批“在AI时代不会用AI”的人。这才是对下一代未来最大的作弊。

17岁的Kai Trump（特朗普孙女），一句话戳破了整个美国教育系统最虚伪的谎言。她在播客里说，现在高中所有人都在用ChatGPT写论文，老师都气炸了。但她问，为什么不呢？学生就该用世界给你的资源。学校不该禁止它，该教大家怎么把它变成自己的优势。最讽刺的是，她自己GPA4.0，是实打实的优等生。所以这根本不是什么作弊的问题，纯粹是代际认知的鸿沟。老一辈把手写论文、死记硬背当成“真学习”。但对凯这一代AI原住民来说，ChatGPT就像他们小时候的计算器、图书馆、Google一样，是默认的基础设施。当年禁止学生用计算器学乘法的老师，现在看来可笑至极。今天禁止学生用ChatGPT写论文的老师，十年后也会是同一个笑话。其实真正危险的从来都不是AI，是教育系统一边假装AI不存在，一边逼着学生偷偷摸摸用它。结果就是，会用的学生偷偷把效率拉满，不会用的还在熬夜抄书。没有人教他们怎么提出高质量的问题，怎么验证AI的幻觉，怎么把AI的输出变成自己的深度洞见。而这些，才是未来10年最值钱的能力。我相信AI不会让学生变笨，它只会放大差距。会用AI的人，一个人能顶以前一个团队。不会用AI的人，会被时代甩得连尾灯都看不见。我们的教育还在教学生怎么在没有AI的世界里生存，但他们未来要面对的，是一个AI无处不在的世界。所以这种拒绝变革的教育，最终只会培养出一批“在AI时代不会用AI”的人。这才是对下一代未来最大的作弊。

AYi

710,054 просмотров • 4 месяцев назад

AI能拿奥数金牌，却解不开小学数学题。这是怎么回事？谷歌DeepMind的创始人Demis Hassabis自己揭了AI的老底。今天的AI，本质上是个“速冻产品”。训练完成，能力就定格了。像个一次性相机，拍完就不能再改。它无法像人一样，从现实世界里持续学习、自我进化。你希望它能在线学习，根据你的任务进行个性化调整。但它做不到。 AI的智能是“锯齿状”的。在某些高精尖问题上，表现惊人。但在另外一些简单问题上，却错得离谱。就像一个围棋高手，却不会玩跳棋。这正常吗？ Hassabis认为，真正通用的智能系统，不该有这种“锯齿感”。一个数学专家，绝不会在简单问题上犯错。那么，为什么现在的AI会这样？是因为算法设计的根本缺陷，还是训练数据本身就充满了偏见和矛盾？科技巨头们热衷于宣传AI的巨大突破。达沃斯论坛上的精英们也在描绘AI驱动的未来世界。他们很少谈论这些根本性的局限。这些“锯齿”会不会成为被利用的漏洞？当一个系统强大到可以影响经济决策、甚至军事判断时，它的“弱智”时刻会带来什么后果？ Hassabis还提到了真正的创造力。他说，提出一个正确的问题，比解决一个猜想更难。现在的AI，只是个高效的解题工具。它没有品味，没有洞察力，更提不出像爱因斯坦那样的革命性思想。如果把AI的知识库截止到1911年，它能自己搞出广义相对论吗？答案显然是否定的。那么，我们在期待的到底是“智能”，还是一个越来越强大的“计算器”？

AI能拿奥数金牌，却解不开小学数学题。这是怎么回事？谷歌DeepMind的创始人Demis Hassabis自己揭了AI的老底。今天的AI，本质上是个“速冻产品”。训练完成，能力就定格了。像个一次性相机，拍完就不能再改。它无法像人一样，从现实世界里持续学习、自我进化。你希望它能在线学习，根据你的任务进行个性化调整。但它做不到。 AI的智能是“锯齿状”的。在某些高精尖问题上，表现惊人。但在另外一些简单问题上，却错得离谱。就像一个围棋高手，却不会玩跳棋。这正常吗？ Hassabis认为，真正通用的智能系统，不该有这种“锯齿感”。一个数学专家，绝不会在简单问题上犯错。那么，为什么现在的AI会这样？是因为算法设计的根本缺陷，还是训练数据本身就充满了偏见和矛盾？科技巨头们热衷于宣传AI的巨大突破。达沃斯论坛上的精英们也在描绘AI驱动的未来世界。他们很少谈论这些根本性的局限。这些“锯齿”会不会成为被利用的漏洞？当一个系统强大到可以影响经济决策、甚至军事判断时，它的“弱智”时刻会带来什么后果？ Hassabis还提到了真正的创造力。他说，提出一个正确的问题，比解决一个猜想更难。现在的AI，只是个高效的解题工具。它没有品味，没有洞察力，更提不出像爱因斯坦那样的革命性思想。如果把AI的知识库截止到1911年，它能自己搞出广义相对论吗？答案显然是否定的。那么，我们在期待的到底是“智能”，还是一个越来越强大的“计算器”？

墓碑科技

25,850 просмотров • 7 месяцев назад