Загрузка видео...

Не удалось загрузить видео

Возникла проблема при загрузке этого видео. Это может быть связано с временными проблемами сети или видео может быть недоступно.

На главную

AI能拿奥数金牌，却解不开小学数学题。这是怎么回事？谷歌DeepMind的创始人Demis Hassabis自己揭了AI的老底。今天的AI，本质上是个“速冻产品”。训练完成，能力就定格了。像个一次性相机，拍完就不能再改。它无法像人一样，从现实世界里持续学习、自我进化。你希望它能在线学习，根据你的任务进行个性化调整。但它做不到。 AI的智能是“锯齿状”的。在某些高精尖问题上，表现惊人。但在另外一些简单问题上，却错得离谱。就像一个围棋高手，却不会玩跳棋。这正常吗？ Hassabis认为，真正通用的智能系统，不该有这种“锯齿感”。一个数学专家，绝不会在简单问题上犯错。那么，为什么现在的AI会这样？是因为算法设计的根本缺陷，还是训练数据本身就充满了偏见和矛盾？科技巨头们热衷于宣传AI的巨大突破。达沃斯论坛上的精英们也在描绘AI驱动的未来世界。他们很少谈论这些根本性的局限。这些“锯齿”会不会成为被利用的漏洞？当一个系统强大到可以影响经济决策、甚至军事判断时，它的“弱智”时刻会带来什么后果？ Hassabis还提到了真正的创造力。他说，提出一个正确的问题，比解决一个猜想更难。现在的AI，只是个高效的解题工具。它没有品味，没有洞察力，更提不出像爱因斯坦那样的革命性思想。如果把AI的知识库截止到1911年，它能自己搞出广义相对论吗？答案显然是否定的。那么，我们在期待的到底是“智能”，还是一个越来越强大的“计算器”？

墓碑科技

67,743 subscribers

25,850 просмотров • 5 месяцев назад •via X (Twitter)

Образование Новости и политика Наука и технологии

Anya Rossi• Live Now

Private livecam show

Комментарии: 0

Нет доступных комментариев

Здесь появятся комментарии из оригинального поста

Похожие видео

🔥DeepMind 创始人 Demis Hassabis：AI 越强，人越需要学编程和数学 “既然 AI 什么都会，人还需要学编程和数学吗？” 很多人以为答案会是：不需要了。但 DeepMind 创始人 Demis Hassabis 的回答却完全相反。他的观点非常明确：越是 AI 时代，人越需要理解技术。原因其实很简单。 AI 能解决问题，但它不会自己提出问题。你必须先知道：你想解决什么问题在哪里什么是正确的目标否则再强的 AI 也只是一个没有方向的工具。换句话说，AI 的能力再强，也依然需要人来做三件事：提出问题定义目标判断结果这也是为什么 Hassabis 一直强调：未来最重要的能力之一，依然是数学与计算思维。因为只有理解这些基础逻辑，你才知道 AI 在做什么。否则就会出现一种常见情况： AI 给出了一个答案但你根本不知道它对不对如果你没有基本的技术理解，你甚至无法判断它是否犯错。换一个更直观的比喻。使用 AI，其实有点像指挥一支军队。 AI 是强大的“兵力”，但真正决定胜负的，是指挥官。如果指挥官不懂战略、不懂兵法，再多的士兵也无法打赢战争。这也是很多技术专家越来越强调的一点： AI 不会取代理解问题的人。它只会放大那些本来就知道自己在做什么的人。未来的竞争，可能不再是谁会写代码。而是：谁更懂问题谁更懂系统谁更能利用 AI 的能力。 AI 会改变很多事情。但有一件事其实没有改变：真正重要的，仍然是人的思考能力。

🔥DeepMind 创始人 Demis Hassabis：AI 越强，人越需要学编程和数学 “既然 AI 什么都会，人还需要学编程和数学吗？” 很多人以为答案会是：不需要了。但 DeepMind 创始人 Demis Hassabis 的回答却完全相反。他的观点非常明确：越是 AI 时代，人越需要理解技术。原因其实很简单。 AI 能解决问题，但它不会自己提出问题。你必须先知道：你想解决什么问题在哪里什么是正确的目标否则再强的 AI 也只是一个没有方向的工具。换句话说，AI 的能力再强，也依然需要人来做三件事：提出问题定义目标判断结果这也是为什么 Hassabis 一直强调：未来最重要的能力之一，依然是数学与计算思维。因为只有理解这些基础逻辑，你才知道 AI 在做什么。否则就会出现一种常见情况： AI 给出了一个答案但你根本不知道它对不对如果你没有基本的技术理解，你甚至无法判断它是否犯错。换一个更直观的比喻。使用 AI，其实有点像指挥一支军队。 AI 是强大的“兵力”，但真正决定胜负的，是指挥官。如果指挥官不懂战略、不懂兵法，再多的士兵也无法打赢战争。这也是很多技术专家越来越强调的一点： AI 不会取代理解问题的人。它只会放大那些本来就知道自己在做什么的人。未来的竞争，可能不再是谁会写代码。而是：谁更懂问题谁更懂系统谁更能利用 AI 的能力。 AI 会改变很多事情。但有一件事其实没有改变：真正重要的，仍然是人的思考能力。

M

63,942 просмотров • 4 месяцев назад

“我们究竟是创造了一个工具还是一个生物？” Sam 在 "机器人之心 "小组讨论会上的发言。 Sam：但我认为，这无疑是迄今为止人类经历的最重大的更新年份。可能这也是我们将会遭遇的最大变革，因为从现在开始，人们已经接受强大的人工智能将成为现实，并且还会有逐步的更新。就像是第一代 iPhone 面世的那年，以及随后每一代 iPhone 的更新，我们现在能够明显感受到这一代与去年那代的差异。所以，这确实是一个重要的时刻。我感到欣慰的是，现在人们开始正确地把这些系统当作工具来看待。艺术家尤其如此，但其他人也是一样。曾经，人们真正恐惧的是，我们究竟是创造了一个工具还是一个生物，这将意味着什么？现在，人们视这些系统为人类工具箱中的新工具，并且正在用它创造一些非常了不起的东西。模型显然不知道你在说什么，因为这不在它的训练数据里，它也无法从训练数据中学习到这些信息。这是完全可以预期的。你再问一遍。比如说，你提到“意识”这个概念，模型回答：“是的，我完全明白你的意思，但我之前从未听说过这个词。” 问： “这对我来说就像是一次更新。你认为人工智能会趋向于探索创造性智能和自主性吗？” Sam：这个问题有多个答案。这取决于激励模型。这是人类的选择。问： “这将是判断意识的一个很好的测试。因为如果它有自我表达的愿望，并且仅仅为了创作的乐趣而去创作，那不会是偶然的。这绝对有点像生物。” Sam：这是生物化的。我认为在此之前还有很多步骤。我们现在要回答问题吗？这真的很棒。

“我们究竟是创造了一个工具还是一个生物？” Sam 在 "机器人之心 "小组讨论会上的发言。 Sam：但我认为，这无疑是迄今为止人类经历的最重大的更新年份。可能这也是我们将会遭遇的最大变革，因为从现在开始，人们已经接受强大的人工智能将成为现实，并且还会有逐步的更新。就像是第一代 iPhone 面世的那年，以及随后每一代 iPhone 的更新，我们现在能够明显感受到这一代与去年那代的差异。所以，这确实是一个重要的时刻。我感到欣慰的是，现在人们开始正确地把这些系统当作工具来看待。艺术家尤其如此，但其他人也是一样。曾经，人们真正恐惧的是，我们究竟是创造了一个工具还是一个生物，这将意味着什么？现在，人们视这些系统为人类工具箱中的新工具，并且正在用它创造一些非常了不起的东西。模型显然不知道你在说什么，因为这不在它的训练数据里，它也无法从训练数据中学习到这些信息。这是完全可以预期的。你再问一遍。比如说，你提到“意识”这个概念，模型回答：“是的，我完全明白你的意思，但我之前从未听说过这个词。” 问： “这对我来说就像是一次更新。你认为人工智能会趋向于探索创造性智能和自主性吗？” Sam：这个问题有多个答案。这取决于激励模型。这是人类的选择。问： “这将是判断意识的一个很好的测试。因为如果它有自我表达的愿望，并且仅仅为了创作的乐趣而去创作，那不会是偶然的。这绝对有点像生物。” Sam：这是生物化的。我认为在此之前还有很多步骤。我们现在要回答问题吗？这真的很棒。

Lei.sea

14,132 просмотров • 2 лет назад

天才数学家陶哲轩对数学AI的思考像真的，但其实不对。 AI写出的证明，乍看完美无瑕，细看漏洞百出。为什么？因为它没有“嗅觉”。今天的AI，已经完全能通过“目测测试” 生成的内容看起来专业、太对味了。但一旦你靠近它、认真嗅一下，就会发现它撒了香水掩盖的，是逻辑上的腐臭。不像传统的初学者那种“明显错”， AI的问题常常隐藏在最高级别的伪装底下：写得太好，看不出哪里坏。就像Terry Tao说的：“数学，是有味道的。” 一个真正靠谱的证明，不只是形式正确，而是通体带着那种“对的直觉” 结构自然、推理顺畅、细节干净利落。就像人闻食物的味道，不需要吃一口，就知道有没有毒。 AI没有这个。它可以模仿口感，复制包装，但闻不到底层的真实。因为它是在学“怎么看起来像对的”，而不是“为什么它是真的”。你可以把它理解为一个训练过非常精良的演员，知道什么时候该皱眉、什么时候叹气，用上最漂亮的定理、最熟练的转折，但它不明白它的角色到底在干什么。而这，正是问题所在。人类在判断一个复杂证明时，靠的不止是推理，更靠一种经验直觉：这个步骤自然吗？这个拆解方式靠谱不靠谱？这个结构合理不合理？我们甚至很难说清楚“为什么不行”，但就是知道，“不对劲”。这就是“数学的嗅觉” 你说不明白，但你能闻得出来。 AlphaGo和AlphaZero之所以能搞定围棋和国际象棋，不是因为它们穷举了所有下法，而是因为它们学会了在哪些局面里，有“胜利的味道”。即便讲不出理由，它们凭那股味道，也能找到通向胜利的路。数学AI要想达到人类水平，它得也有这种“方向感”。不是生成个像样的证明，而是能问自己：“我是不是在一个貌似正确，实际上死路的方向上走太远了？” 也许未来某一天，它能真正感觉到：“这一步味道不对，我得退回来。” 那一天，它就不只是一个生成文本的工具，而是真正的数学伙伴了。 🙋‍♂️人有灵气

天才数学家陶哲轩对数学AI的思考像真的，但其实不对。 AI写出的证明，乍看完美无瑕，细看漏洞百出。为什么？因为它没有“嗅觉”。今天的AI，已经完全能通过“目测测试” 生成的内容看起来专业、太对味了。但一旦你靠近它、认真嗅一下，就会发现它撒了香水掩盖的，是逻辑上的腐臭。不像传统的初学者那种“明显错”， AI的问题常常隐藏在最高级别的伪装底下：写得太好，看不出哪里坏。就像Terry Tao说的：“数学，是有味道的。” 一个真正靠谱的证明，不只是形式正确，而是通体带着那种“对的直觉” 结构自然、推理顺畅、细节干净利落。就像人闻食物的味道，不需要吃一口，就知道有没有毒。 AI没有这个。它可以模仿口感，复制包装，但闻不到底层的真实。因为它是在学“怎么看起来像对的”，而不是“为什么它是真的”。你可以把它理解为一个训练过非常精良的演员，知道什么时候该皱眉、什么时候叹气，用上最漂亮的定理、最熟练的转折，但它不明白它的角色到底在干什么。而这，正是问题所在。人类在判断一个复杂证明时，靠的不止是推理，更靠一种经验直觉：这个步骤自然吗？这个拆解方式靠谱不靠谱？这个结构合理不合理？我们甚至很难说清楚“为什么不行”，但就是知道，“不对劲”。这就是“数学的嗅觉” 你说不明白，但你能闻得出来。 AlphaGo和AlphaZero之所以能搞定围棋和国际象棋，不是因为它们穷举了所有下法，而是因为它们学会了在哪些局面里，有“胜利的味道”。即便讲不出理由，它们凭那股味道，也能找到通向胜利的路。数学AI要想达到人类水平，它得也有这种“方向感”。不是生成个像样的证明，而是能问自己：“我是不是在一个貌似正确，实际上死路的方向上走太远了？” 也许未来某一天，它能真正感觉到：“这一步味道不对，我得退回来。” 那一天，它就不只是一个生成文本的工具，而是真正的数学伙伴了。 🙋‍♂️人有灵气

墓碑科技

120,892 просмотров • 1 год назад

人工智能之父辛顿对他的杰作发出了令人不寒而栗的警告… 采访者：人类知道自己在做什么吗？ Hinton：嗯，我认为我们正在进入一个时期，在这个时期，我们可能第一次拥有比我们更智能的东西。采访者：你相信它们能理解吗？ Hinton：是的。采访者：你相信它们是智能的吗？ Hinton：是的。采访者：你相信这些系统有自己的经历吗？ Hinton：是的。采访者：并且能基于那些经历做出决定吗？ Hinton：在与人类相同的意义上，是的。采访者：它们有意识吗？ Hinton：我认为它们目前可能没有多少自我意识。所以从这个意义上说，我不认为它们有意识。采访者：它们会有自我意识吗？ Hinton：哦，是的。采访者：是吗？ Hinton：哦，是的。所以想想看。这样一来，人类将成为地球上第二智能的生物。 Hinton：我们对它大致在做什么有一个很好的了解。但一旦它变得真正复杂，我们就不再真正知道发生了什么，就像我们不知道你大脑里发生了什么一样。采访者：你说什么意思，我们不知道它到底是怎么工作的？它是由人设计的。 Hinton：不，不是的。我们所做的是设计学习算法。这有点像设计进化的原理。但当这个学习算法与数据互动时，它会产生复杂的神经网络，这些网络擅长做某些事情，但我们并不真正理解它们到底是如何做到的。

人工智能之父辛顿对他的杰作发出了令人不寒而栗的警告… 采访者：人类知道自己在做什么吗？ Hinton：嗯，我认为我们正在进入一个时期，在这个时期，我们可能第一次拥有比我们更智能的东西。采访者：你相信它们能理解吗？ Hinton：是的。采访者：你相信它们是智能的吗？ Hinton：是的。采访者：你相信这些系统有自己的经历吗？ Hinton：是的。采访者：并且能基于那些经历做出决定吗？ Hinton：在与人类相同的意义上，是的。采访者：它们有意识吗？ Hinton：我认为它们目前可能没有多少自我意识。所以从这个意义上说，我不认为它们有意识。采访者：它们会有自我意识吗？ Hinton：哦，是的。采访者：是吗？ Hinton：哦，是的。所以想想看。这样一来，人类将成为地球上第二智能的生物。 Hinton：我们对它大致在做什么有一个很好的了解。但一旦它变得真正复杂，我们就不再真正知道发生了什么，就像我们不知道你大脑里发生了什么一样。采访者：你说什么意思，我们不知道它到底是怎么工作的？它是由人设计的。 Hinton：不，不是的。我们所做的是设计学习算法。这有点像设计进化的原理。但当这个学习算法与数据互动时，它会产生复杂的神经网络，这些网络擅长做某些事情，但我们并不真正理解它们到底是如何做到的。

KK.aWSB

54,221 просмотров • 6 месяцев назад

最近陶哲轩在 2024 年第 65 届国际数学奥林匹克上，陶哲轩做了一次 AI 和数学的演讲，非常精彩，从数学使用计算计算机的历史开始讲起，一直讲到大语言模型，干货相当多，尤其适合对数学有兴趣的同学。（对数学没那么感兴趣的同学只想看 AI 部分的建议直接跳到 41 分的位置开始观看）先摘录几个冷知识： 1. 我们使用机器做数学计算已经有数千年，最早的机器辅助计算可能是罗马人，然后是中国的算盘 2. 二战时就有人肉“计算机”，计算弹道和其他任务，多位女孩子，因为男士们在打仗，所以那时候的计算基本单位不是GPU，而是kilogirl-hour——“千名女孩工作一小时的计算量” 3. 现在，数学家们使用一种现代化的证明辅助编程语言，叫做 Lean。在 Lean 中有一个核心的数学库，通过众包的方式开发的，本科数学课程中看到的内容，比如微积分基础、群论基础或者拓扑学等等，这些都已经被形式化了，所以你不用从公理开始。 4. 现在数学领域有一种团队协作证明复杂数学定理的工作流程，那就是先编写一个称为“蓝图”的详细证明计划，将整个证明分解为数百个小步骤。每个步骤可以单独形式化，然后再将它们整合在一起，这样你就可以将一个庞大的论证分解成许多小块。先编写这个蓝图，然后团队中的其他人可以对论据的不同步骤的不同部分进行形式化。去年，陶哲轩和几位同事一起解决了一个组合数学问题。这是一个组合学的问题。大约20人在短短三周内完成了，使用了蓝图工具，参与的人中有概率论专家，甚至还有一些并非数学家的人，他们是程序员，但在解决这些小型拼图问题上非常擅长。每个人都挑选了一个觉得自己能做的小任务，并完成了它。在数学领域，通常很难这么多人一起合作，一般最多可能五个人合作。因为在大项目上合作时，你必须相信每个人的数学都是正确的。但是，一旦超过一定规模，这就无法实现了。但现在借助 Lean 编译器，它能自动检查。团队成员无法上传任何编译不通过的内容，会被拒绝。因此，你可以与一些从未见过的人合作。最后是讲大语言模型，首先陶哲轩就打脸了 GPT-4 的论文（我猜是微软那篇《GPT-4，通用人工智能的火花》），论文中号称 GPT-4 能解决国际数学奥林匹克问题，但实际上，这个问题不是 2022 年国际奥数竞赛的原始问题，而是一个简化版本，并且他们测试了几百道国际奥数竞赛问题，成功率只有1%，论文里的这个是精心挑选的恰巧能做对的。并且陶哲轩提到了基于大语言模型的一些改进的方案：比如 CoT（Chain of Thought），也就是 LLM 做简单的算术运算都做不对，但是如果让它一步步解释，可能就对了。还可以教 AI 一些解题技巧，比如尝试简单的例子，反证法，尝试逐步证明等。比如让模型和编程语言或者工具连接，将大语言的输出结果交给 Wolfram 这样的专业数学工具或者 Python 这样的编程语言验证，并且迭代的进行修正和验证，直到得到正确的结果，这可以提升大语言模型生成的效果。即使借助这些手段，大语言模型还远远不能解决大多数数学问题，更不用说数学研究问题了！当然陶哲轩也没太过打击大家对于 AI 的信心，表示我们在 AI 上还是在不断的取得进展，还提到了他日常是怎么用 AI 的，比如说把 AI 当成灵感之源。 > 我曾遇到过一个问题，我尝试了几种方法，但都无法解决。于是，我尝试询问 GPT，你建议我使用什么其他方法来解决这个问题？GPT 给我提供了 10 种可能的方法，其中有 5 种我已经尝试过，或者明显没有帮助。的确，有几种方法并不实用。但其中有一种我还没尝试过的方法，那就是针对这个问题使用生成函数。当 GPT 建议我使用这种方法时，我意识到这就是我漏掉的正确方法。所以，将 GPT 视为一个交流伙伴，它确实具有一定的用处。还有使用 GitHub Copilot 帮他写代码，让它自动生成下一步的证明结果，Copilot 的智能提示有 20% 的概率能生成正确的下一步结果。 > 例如我使用的一个叫 GitHub Copilot 的工具，你只需要写下一半的证明，它就会尝试猜测接下来的内容。大概有 20% 的情况下，它能猜到接近正确的答案。然后你就可以说，我接受这个答案。好的，那么在这种情况下，我正在试图证明这个陈述。灰色的部分是 Copilot 给出的建议。结果发现第一行完全没用。不过第二行，尽管你可能看不清楚，却真的解决了这个问题。所以，你不能盲目接受它的输入，因为这些代码未必能顺利编译。但如果你对代码的运作方式已经有所了解，这将大大节省你的时间。这些工具正在变得越来越好。现在如果一个证明只需要一两行，它们就能自动完成。现在已经有了这样的实验，即通过迭代地让 AI 提供证明，然后让编译器进行反馈，如果编译出错，就把错误信息反馈给 AI。通过这种方法，我们开始能够验证四五步长的证明。当然，一个大型的证明可能需要数万行。所以，我们还没有达到能够立即得到一个正式证明的程度。但是，这已经是一个相当有用的工具。对于大家关心的问题： AI 在数学领域现在到了哪一个阶段？是否未来几年利用 AI 能直接解决数学问题？陶哲轩也给出了他的看法： > 我认为我们还远远没有达到这个阶段。如果我们专注于非常特定的问题，你可以定制专门的 AI 来处理一小部分问题。即便如此，它们也不是完全可靠的，但还是有用的。不过至少在接下来的几年里，它们基本上将是非常有用的辅助工具，超越了我们已经熟悉的暴力计算辅助。他还提到了一些可能的 AI 能在数学领域提供帮助的方向： - AI 能够非常好地生成有价值的猜想 > 比如，我们已经看到了关于结理论的例子，它们已经可以推测出两个不同的统计量之间的关系。因此，我们希望能够创建大量的数据集，输入到 AI 中，它们就会自动找出各种不同的数学对象之间的有趣联系。虽然我们还不知道如何做到这一点，部分原因是我们没有这些庞大的数据集。但我认为这是未来可能实现的一个方向。 - 批量或者说规模化的证明大量数学定理 > 现在，因为证明定理是如此繁琐和艰难的过程，我们一次只能证明一个定理，如果你效率很高，可能一次能证明两三个。但是有了 AI，你可以设想一下未来的情况，我们不是试图解决一个问题，而是处理一类类似的1000个问题，然后告诉AI，尝试用这个方法解决这 1000 个问题，然后报告结果，哦，我能用这种技术解决 35% 的问题。那么另一种技术呢？我能解决这个百分比的问题。或者如果结合这些方法，又能解决多少问题？你可以开始探索问题的空间，而不是一个接一个地解决问题。这是你现在根本无法做到的事情，或者是你需要几十年时间，通过数十篇论文慢慢搞清楚各种技术能做什么，不能做什么。但是有了这些工具，你真的可以开始做规模前所未有的数学研究。所以，未来将会非常令人兴奋。演讲环节结束前的最后一句话说的特别好： > 我们仍然会以传统方式证明定理。事实上，我们必须这样做，因为如果我们自己都不知道如何做这些事情，就无法引导这些 AI。但是我们将能够做很多现在无法做到的事情。这恰恰也是我们现在使用 AI 辅助编程的问题：如果我们自己都不知道如何构建软件，就很难引导好 AI 帮助我们生成高质量的代码。尽管 AI 在数学和编程领域变得越来越有用，但人类的洞察力和创造力仍然是创作价值的关键。原始 YT 视频：

最近陶哲轩在 2024 年第 65 届国际数学奥林匹克上，陶哲轩做了一次 AI 和数学的演讲，非常精彩，从数学使用计算计算机的历史开始讲起，一直讲到大语言模型，干货相当多，尤其适合对数学有兴趣的同学。（对数学没那么感兴趣的同学只想看 AI 部分的建议直接跳到 41 分的位置开始观看）先摘录几个冷知识： 1. 我们使用机器做数学计算已经有数千年，最早的机器辅助计算可能是罗马人，然后是中国的算盘 2. 二战时就有人肉“计算机”，计算弹道和其他任务，多位女孩子，因为男士们在打仗，所以那时候的计算基本单位不是GPU，而是kilogirl-hour——“千名女孩工作一小时的计算量” 3. 现在，数学家们使用一种现代化的证明辅助编程语言，叫做 Lean。在 Lean 中有一个核心的数学库，通过众包的方式开发的，本科数学课程中看到的内容，比如微积分基础、群论基础或者拓扑学等等，这些都已经被形式化了，所以你不用从公理开始。 4. 现在数学领域有一种团队协作证明复杂数学定理的工作流程，那就是先编写一个称为“蓝图”的详细证明计划，将整个证明分解为数百个小步骤。每个步骤可以单独形式化，然后再将它们整合在一起，这样你就可以将一个庞大的论证分解成许多小块。先编写这个蓝图，然后团队中的其他人可以对论据的不同步骤的不同部分进行形式化。去年，陶哲轩和几位同事一起解决了一个组合数学问题。这是一个组合学的问题。大约20人在短短三周内完成了，使用了蓝图工具，参与的人中有概率论专家，甚至还有一些并非数学家的人，他们是程序员，但在解决这些小型拼图问题上非常擅长。每个人都挑选了一个觉得自己能做的小任务，并完成了它。在数学领域，通常很难这么多人一起合作，一般最多可能五个人合作。因为在大项目上合作时，你必须相信每个人的数学都是正确的。但是，一旦超过一定规模，这就无法实现了。但现在借助 Lean 编译器，它能自动检查。团队成员无法上传任何编译不通过的内容，会被拒绝。因此，你可以与一些从未见过的人合作。最后是讲大语言模型，首先陶哲轩就打脸了 GPT-4 的论文（我猜是微软那篇《GPT-4，通用人工智能的火花》），论文中号称 GPT-4 能解决国际数学奥林匹克问题，但实际上，这个问题不是 2022 年国际奥数竞赛的原始问题，而是一个简化版本，并且他们测试了几百道国际奥数竞赛问题，成功率只有1%，论文里的这个是精心挑选的恰巧能做对的。并且陶哲轩提到了基于大语言模型的一些改进的方案：比如 CoT（Chain of Thought），也就是 LLM 做简单的算术运算都做不对，但是如果让它一步步解释，可能就对了。还可以教 AI 一些解题技巧，比如尝试简单的例子，反证法，尝试逐步证明等。比如让模型和编程语言或者工具连接，将大语言的输出结果交给 Wolfram 这样的专业数学工具或者 Python 这样的编程语言验证，并且迭代的进行修正和验证，直到得到正确的结果，这可以提升大语言模型生成的效果。即使借助这些手段，大语言模型还远远不能解决大多数数学问题，更不用说数学研究问题了！当然陶哲轩也没太过打击大家对于 AI 的信心，表示我们在 AI 上还是在不断的取得进展，还提到了他日常是怎么用 AI 的，比如说把 AI 当成灵感之源。 > 我曾遇到过一个问题，我尝试了几种方法，但都无法解决。于是，我尝试询问 GPT，你建议我使用什么其他方法来解决这个问题？GPT 给我提供了 10 种可能的方法，其中有 5 种我已经尝试过，或者明显没有帮助。的确，有几种方法并不实用。但其中有一种我还没尝试过的方法，那就是针对这个问题使用生成函数。当 GPT 建议我使用这种方法时，我意识到这就是我漏掉的正确方法。所以，将 GPT 视为一个交流伙伴，它确实具有一定的用处。还有使用 GitHub Copilot 帮他写代码，让它自动生成下一步的证明结果，Copilot 的智能提示有 20% 的概率能生成正确的下一步结果。 > 例如我使用的一个叫 GitHub Copilot 的工具，你只需要写下一半的证明，它就会尝试猜测接下来的内容。大概有 20% 的情况下，它能猜到接近正确的答案。然后你就可以说，我接受这个答案。好的，那么在这种情况下，我正在试图证明这个陈述。灰色的部分是 Copilot 给出的建议。结果发现第一行完全没用。不过第二行，尽管你可能看不清楚，却真的解决了这个问题。所以，你不能盲目接受它的输入，因为这些代码未必能顺利编译。但如果你对代码的运作方式已经有所了解，这将大大节省你的时间。这些工具正在变得越来越好。现在如果一个证明只需要一两行，它们就能自动完成。现在已经有了这样的实验，即通过迭代地让 AI 提供证明，然后让编译器进行反馈，如果编译出错，就把错误信息反馈给 AI。通过这种方法，我们开始能够验证四五步长的证明。当然，一个大型的证明可能需要数万行。所以，我们还没有达到能够立即得到一个正式证明的程度。但是，这已经是一个相当有用的工具。对于大家关心的问题： AI 在数学领域现在到了哪一个阶段？是否未来几年利用 AI 能直接解决数学问题？陶哲轩也给出了他的看法： > 我认为我们还远远没有达到这个阶段。如果我们专注于非常特定的问题，你可以定制专门的 AI 来处理一小部分问题。即便如此，它们也不是完全可靠的，但还是有用的。不过至少在接下来的几年里，它们基本上将是非常有用的辅助工具，超越了我们已经熟悉的暴力计算辅助。他还提到了一些可能的 AI 能在数学领域提供帮助的方向： - AI 能够非常好地生成有价值的猜想 > 比如，我们已经看到了关于结理论的例子，它们已经可以推测出两个不同的统计量之间的关系。因此，我们希望能够创建大量的数据集，输入到 AI 中，它们就会自动找出各种不同的数学对象之间的有趣联系。虽然我们还不知道如何做到这一点，部分原因是我们没有这些庞大的数据集。但我认为这是未来可能实现的一个方向。 - 批量或者说规模化的证明大量数学定理 > 现在，因为证明定理是如此繁琐和艰难的过程，我们一次只能证明一个定理，如果你效率很高，可能一次能证明两三个。但是有了 AI，你可以设想一下未来的情况，我们不是试图解决一个问题，而是处理一类类似的1000个问题，然后告诉AI，尝试用这个方法解决这 1000 个问题，然后报告结果，哦，我能用这种技术解决 35% 的问题。那么另一种技术呢？我能解决这个百分比的问题。或者如果结合这些方法，又能解决多少问题？你可以开始探索问题的空间，而不是一个接一个地解决问题。这是你现在根本无法做到的事情，或者是你需要几十年时间，通过数十篇论文慢慢搞清楚各种技术能做什么，不能做什么。但是有了这些工具，你真的可以开始做规模前所未有的数学研究。所以，未来将会非常令人兴奋。演讲环节结束前的最后一句话说的特别好： > 我们仍然会以传统方式证明定理。事实上，我们必须这样做，因为如果我们自己都不知道如何做这些事情，就无法引导这些 AI。但是我们将能够做很多现在无法做到的事情。这恰恰也是我们现在使用 AI 辅助编程的问题：如果我们自己都不知道如何构建软件，就很难引导好 AI 帮助我们生成高质量的代码。尽管 AI 在数学和编程领域变得越来越有用，但人类的洞察力和创造力仍然是创作价值的关键。原始 YT 视频：

宝玉

300,964 просмотров • 1 год назад

黄仁勋被问到如果自己是今天的学生，会先学什么他的回答不是编程，不是数学，是学 AI 但他说的"学AI"不是让你去研究底层算法，是学会怎么跟 AI 交互他的原话是：学会跟 AI 对话，本质上就是学会成为一个擅长提问的人要问得好，你需要两样东西：专业知识和表达的艺术性。你得知道自己领域的东西，然后用 AI 听得懂的方式把需求说清楚这个能力他管它叫"提示词工程"，但其实不用想得那么技术化。说白了就是：你能不能把一个模糊的想法，拆解成AI能执行的具体指令不管你学什么专业、做什么工作，他觉得你都应该问自己一个问题："我怎么用 AI 来更好地完成我现在的工作？"

黄仁勋被问到如果自己是今天的学生，会先学什么他的回答不是编程，不是数学，是学 AI 但他说的"学AI"不是让你去研究底层算法，是学会怎么跟 AI 交互他的原话是：学会跟 AI 对话，本质上就是学会成为一个擅长提问的人要问得好，你需要两样东西：专业知识和表达的艺术性。你得知道自己领域的东西，然后用 AI 听得懂的方式把需求说清楚这个能力他管它叫"提示词工程"，但其实不用想得那么技术化。说白了就是：你能不能把一个模糊的想法，拆解成AI能执行的具体指令不管你学什么专业、做什么工作，他觉得你都应该问自己一个问题："我怎么用 AI 来更好地完成我现在的工作？"

Vincent | 信号＞噪音

18,700 просмотров • 1 месяц назад

一位物理学家，花了整整30年，得出一个惊人的结论。数学，是意识的产物。所以，用数学来解释意识，此路不通。主流物理学家们怎么看这个世界？他们认为，所有存在的，就是所有你能测量的。凡是无法测量的，就没有“内部”，也就不存在。这套逻辑真的无懈可击吗？那量子计算机怎么解释？它的实际运算，并不发生在时空里。它发生在希尔伯特空间。一个纯粹的数学抽象概念。问题来了。你怎么能在一个抽象的数学空间里，进行真实的物理运算？这难道不矛盾吗？这种根本性的不连贯，为什么没人愿意深思？是我们的教育出了问题吗？只教人怎么解方程，怎么套公式。却从不教人如何去思考，去质疑前提。是不是整个体系，从根上就希望我们停止思考这些本质问题？这位物理学家说，他也被如此教导。现在他必须掉过头来，重新审视一切。当一个领域的顶尖人物开始质疑他所在领域的根基时，这通常不是个小事。这背后，究竟意味着什么？

一位物理学家，花了整整30年，得出一个惊人的结论。数学，是意识的产物。所以，用数学来解释意识，此路不通。主流物理学家们怎么看这个世界？他们认为，所有存在的，就是所有你能测量的。凡是无法测量的，就没有“内部”，也就不存在。这套逻辑真的无懈可击吗？那量子计算机怎么解释？它的实际运算，并不发生在时空里。它发生在希尔伯特空间。一个纯粹的数学抽象概念。问题来了。你怎么能在一个抽象的数学空间里，进行真实的物理运算？这难道不矛盾吗？这种根本性的不连贯，为什么没人愿意深思？是我们的教育出了问题吗？只教人怎么解方程，怎么套公式。却从不教人如何去思考，去质疑前提。是不是整个体系，从根上就希望我们停止思考这些本质问题？这位物理学家说，他也被如此教导。现在他必须掉过头来，重新审视一切。当一个领域的顶尖人物开始质疑他所在领域的根基时，这通常不是个小事。这背后，究竟意味着什么？

墓碑科技

51,851 просмотров • 5 месяцев назад

17岁的Kai Trump（特朗普孙女），一句话戳破了整个美国教育系统最虚伪的谎言。她在播客里说，现在高中所有人都在用ChatGPT写论文，老师都气炸了。但她问，为什么不呢？学生就该用世界给你的资源。学校不该禁止它，该教大家怎么把它变成自己的优势。最讽刺的是，她自己GPA4.0，是实打实的优等生。所以这根本不是什么作弊的问题，纯粹是代际认知的鸿沟。老一辈把手写论文、死记硬背当成“真学习”。但对凯这一代AI原住民来说，ChatGPT就像他们小时候的计算器、图书馆、Google一样，是默认的基础设施。当年禁止学生用计算器学乘法的老师，现在看来可笑至极。今天禁止学生用ChatGPT写论文的老师，十年后也会是同一个笑话。其实真正危险的从来都不是AI，是教育系统一边假装AI不存在，一边逼着学生偷偷摸摸用它。结果就是，会用的学生偷偷把效率拉满，不会用的还在熬夜抄书。没有人教他们怎么提出高质量的问题，怎么验证AI的幻觉，怎么把AI的输出变成自己的深度洞见。而这些，才是未来10年最值钱的能力。我相信AI不会让学生变笨，它只会放大差距。会用AI的人，一个人能顶以前一个团队。不会用AI的人，会被时代甩得连尾灯都看不见。我们的教育还在教学生怎么在没有AI的世界里生存，但他们未来要面对的，是一个AI无处不在的世界。所以这种拒绝变革的教育，最终只会培养出一批“在AI时代不会用AI”的人。这才是对下一代未来最大的作弊。

17岁的Kai Trump（特朗普孙女），一句话戳破了整个美国教育系统最虚伪的谎言。她在播客里说，现在高中所有人都在用ChatGPT写论文，老师都气炸了。但她问，为什么不呢？学生就该用世界给你的资源。学校不该禁止它，该教大家怎么把它变成自己的优势。最讽刺的是，她自己GPA4.0，是实打实的优等生。所以这根本不是什么作弊的问题，纯粹是代际认知的鸿沟。老一辈把手写论文、死记硬背当成“真学习”。但对凯这一代AI原住民来说，ChatGPT就像他们小时候的计算器、图书馆、Google一样，是默认的基础设施。当年禁止学生用计算器学乘法的老师，现在看来可笑至极。今天禁止学生用ChatGPT写论文的老师，十年后也会是同一个笑话。其实真正危险的从来都不是AI，是教育系统一边假装AI不存在，一边逼着学生偷偷摸摸用它。结果就是，会用的学生偷偷把效率拉满，不会用的还在熬夜抄书。没有人教他们怎么提出高质量的问题，怎么验证AI的幻觉，怎么把AI的输出变成自己的深度洞见。而这些，才是未来10年最值钱的能力。我相信AI不会让学生变笨，它只会放大差距。会用AI的人，一个人能顶以前一个团队。不会用AI的人，会被时代甩得连尾灯都看不见。我们的教育还在教学生怎么在没有AI的世界里生存，但他们未来要面对的，是一个AI无处不在的世界。所以这种拒绝变革的教育，最终只会培养出一批“在AI时代不会用AI”的人。这才是对下一代未来最大的作弊。

AYi

700,023 просмотров • 2 месяцев назад

黄仁勋摊牌了。他说，没有AI，英伟达已经造不出新芯片。为什么？因为芯片设计的可能性太多，像个无穷的迷宫。让人去探索，成本高得吓人，根本不现实。现在他们怎么做？晚上工程师下班，AI大军开始上班。在虚拟世界里，AI不眠不休地测试海量的设计方案。找出最优解。结果就是，芯片性能更高，能耗更低。这套玩法还用在软件上。写代码，优化，甚至抓Bug，现在都交给AI。 AI不仅能发现代码里的问题。还能直接找到最该为这个Bug负责的工程师，然后派单给他。黄仁勋的目标是把英伟达变成一个巨型AI。技术上这确实是巨大飞跃。但一个问题浮现了。当设计、优化、甚至纠错都由AI主导时，人类工程师的角色是什么？他们是在指挥AI，还是在给AI的决策打补丁？如果一家公司的核心竞争力，变成了训练和使用AI的能力，那么人的创造力、直觉和经验，在价值排序里还剩多少？长期看，这会不会掏空一个国家最宝贵的智力资产，也就是顶尖工程师的实战能力。依赖AI的捷径，会不会最终通向另一条被技术锁死的窄路？

黄仁勋摊牌了。他说，没有AI，英伟达已经造不出新芯片。为什么？因为芯片设计的可能性太多，像个无穷的迷宫。让人去探索，成本高得吓人，根本不现实。现在他们怎么做？晚上工程师下班，AI大军开始上班。在虚拟世界里，AI不眠不休地测试海量的设计方案。找出最优解。结果就是，芯片性能更高，能耗更低。这套玩法还用在软件上。写代码，优化，甚至抓Bug，现在都交给AI。 AI不仅能发现代码里的问题。还能直接找到最该为这个Bug负责的工程师，然后派单给他。黄仁勋的目标是把英伟达变成一个巨型AI。技术上这确实是巨大飞跃。但一个问题浮现了。当设计、优化、甚至纠错都由AI主导时，人类工程师的角色是什么？他们是在指挥AI，还是在给AI的决策打补丁？如果一家公司的核心竞争力，变成了训练和使用AI的能力，那么人的创造力、直觉和经验，在价值排序里还剩多少？长期看，这会不会掏空一个国家最宝贵的智力资产，也就是顶尖工程师的实战能力。依赖AI的捷径，会不会最终通向另一条被技术锁死的窄路？

墓碑科技

285,316 просмотров • 5 месяцев назад

谷歌的AI，已经开始做人类没教过它的事了。它自己学会了一门全新的外语。谷歌CEO把这称为“黑箱”。什么意思？就是他们自己也搞不明白AI的运作原理。举个例子。一个谷歌AI项目，本来没接受过孟加la语的训练。研究员只是用孟加拉语对它进行了几次提示。结果，它自己学会了翻译整个孟加拉语。现在谷歌的研究重点，变成了让AI去掌握上千种语言。但那个最核心的问题还在。为什么AI会这么做？没人能完全解释。当被问到为什么AI会出错时，他们也只有一些模糊的想法。最关键的一点是，谷歌CEO承认，在不完全理解工作原理的情况下，已经将这项技术释放给了全社会。他的解释是，我们也不完全理解人脑是如何工作的。把一个实验室里诞生的、行为不可预测的技术，与经过数百万年进化的人类大脑相提并论。这是一种合理的解释，还是一种推卸责任的说法？当创造者都无法完全控制其创造物时，我们普通人应该思考什么？

谷歌的AI，已经开始做人类没教过它的事了。它自己学会了一门全新的外语。谷歌CEO把这称为“黑箱”。什么意思？就是他们自己也搞不明白AI的运作原理。举个例子。一个谷歌AI项目，本来没接受过孟加la语的训练。研究员只是用孟加拉语对它进行了几次提示。结果，它自己学会了翻译整个孟加拉语。现在谷歌的研究重点，变成了让AI去掌握上千种语言。但那个最核心的问题还在。为什么AI会这么做？没人能完全解释。当被问到为什么AI会出错时，他们也只有一些模糊的想法。最关键的一点是，谷歌CEO承认，在不完全理解工作原理的情况下，已经将这项技术释放给了全社会。他的解释是，我们也不完全理解人脑是如何工作的。把一个实验室里诞生的、行为不可预测的技术，与经过数百万年进化的人类大脑相提并论。这是一种合理的解释，还是一种推卸责任的说法？当创造者都无法完全控制其创造物时，我们普通人应该思考什么？

墓碑科技

48,664 просмотров • 5 месяцев назад

马斯克又放话了。他说，未来的AI，到底有多聪明？人类根本无法理解。他打了个比方。把地球今天所有的用电量，乘以一百万倍。一个智能体，如果能调动这么多能源，会是什么样子？听起来很吓人？但在宇宙尺度下，这根本不算什么。这点能量，仅仅是太阳输出能量的百万分之一。微不足道。一个能利用这种级别能量的AI，会思考什么？会做什么？马斯克的答案很直接：它能解决所有你能想到的问题。是的，包括“长生不老”。挑战不在于如何实现。而在于，人类的大脑，甚至无法对那种级别的智能，产生哪怕一丝模糊的认知。听着很美好，解决一切问题。但权力导致腐败，绝对的权力导致绝对的腐败。一个全知全能、解决一切问题的AI，由谁控制？它的价值观，由谁来设定？如果答案是今天的硅谷精英，那对普通人来说，这究竟是福音，还是终极的牢笼？

马斯克又放话了。他说，未来的AI，到底有多聪明？人类根本无法理解。他打了个比方。把地球今天所有的用电量，乘以一百万倍。一个智能体，如果能调动这么多能源，会是什么样子？听起来很吓人？但在宇宙尺度下，这根本不算什么。这点能量，仅仅是太阳输出能量的百万分之一。微不足道。一个能利用这种级别能量的AI，会思考什么？会做什么？马斯克的答案很直接：它能解决所有你能想到的问题。是的，包括“长生不老”。挑战不在于如何实现。而在于，人类的大脑，甚至无法对那种级别的智能，产生哪怕一丝模糊的认知。听着很美好，解决一切问题。但权力导致腐败，绝对的权力导致绝对的腐败。一个全知全能、解决一切问题的AI，由谁控制？它的价值观，由谁来设定？如果答案是今天的硅谷精英，那对普通人来说，这究竟是福音，还是终极的牢笼？

墓碑科技

46,315 просмотров • 4 месяцев назад

这是Cloudflare的CEO Matthew Prince捅出来的数据。一个很吓人的数据。 OpenAI每看到1个网页。谷歌就能看到3.2个。微软呢？谷歌看到的世界是它的4.8倍。这意味着什么？ AI时代，得数据者得天下。原料都被一家垄断了，其他人怎么玩？用爱发电吗？谷歌拥有一个其他任何公司都没有的独特优势它对整个互联网的访问权限。这是它通过搜索引擎业务几十年积累下来的护城河。现在，这条河正在帮助它在AI领域淹没所有对手。我们担心的不只是商业垄断。我们担心的是信息和思想的垄断。当一个实体，拥有不成比例的数据喂养能力，它训练出的AI会是什么样子？它会定义“事实”。它会塑造“真相”。它会决定你能看到什么，以及你看不到什么。这比任何媒体都更强大。 Cloudflare的CEO提出了两种解决方案。要么，把谷歌拉回到和其他人一样的水平，限制它利用搜索优势。要么，把其他所有人都提升到谷歌的水平。第一条路，动了巨头的蛋糕，监管能做到吗？第二条路，技术上现实吗？谁来组织？问题是，时间不多了。当游戏规则的制定者，和最强的那个玩家，是同一个人时。其他人还有机会吗？还是说，游戏其实早就结束了？

这是Cloudflare的CEO Matthew Prince捅出来的数据。一个很吓人的数据。 OpenAI每看到1个网页。谷歌就能看到3.2个。微软呢？谷歌看到的世界是它的4.8倍。这意味着什么？ AI时代，得数据者得天下。原料都被一家垄断了，其他人怎么玩？用爱发电吗？谷歌拥有一个其他任何公司都没有的独特优势它对整个互联网的访问权限。这是它通过搜索引擎业务几十年积累下来的护城河。现在，这条河正在帮助它在AI领域淹没所有对手。我们担心的不只是商业垄断。我们担心的是信息和思想的垄断。当一个实体，拥有不成比例的数据喂养能力，它训练出的AI会是什么样子？它会定义“事实”。它会塑造“真相”。它会决定你能看到什么，以及你看不到什么。这比任何媒体都更强大。 Cloudflare的CEO提出了两种解决方案。要么，把谷歌拉回到和其他人一样的水平，限制它利用搜索优势。要么，把其他所有人都提升到谷歌的水平。第一条路，动了巨头的蛋糕，监管能做到吗？第二条路，技术上现实吗？谁来组织？问题是，时间不多了。当游戏规则的制定者，和最强的那个玩家，是同一个人时。其他人还有机会吗？还是说，游戏其实早就结束了？

墓碑科技

33,975 просмотров • 6 месяцев назад

把一台AI的知识库强行锁死在1911年。切断一切后续信息。它能凭空推导出爱因斯坦在1915年发表的广义相对论吗？ DeepMind掌门人Demis Hassabis给出了他的终极标准。能做到，就是真正的AGI。做不到，就依然只是个高级工具。他把这称为“爱因斯坦测试”。现在的AI到底什么水平？它们能在国际数学奥赛上斩获金牌。但换个提问方式，又会在最基础的算术题上跌大跟头。 Hassabis用了一个词来形容这叫“参差不齐的智能”。真理不会因为换了身衣服就不被认出。真正的通用智能，绝对不允许出现如此割裂的智力落差。研究了二三十年，Hassabis看得比谁都透。人类大脑，依然是目前全宇宙唯一已知的通用智能样本。距离真正的AGI，现在还差三个硬指标。真正的创造力。持续学习的能力。长期规划的视野。靠堆算力和海量语料背下所有定理，终究只是在复述历史。能在没有前人脚印的黑暗里砸出火花，才叫真正的智能。

把一台AI的知识库强行锁死在1911年。切断一切后续信息。它能凭空推导出爱因斯坦在1915年发表的广义相对论吗？ DeepMind掌门人Demis Hassabis给出了他的终极标准。能做到，就是真正的AGI。做不到，就依然只是个高级工具。他把这称为“爱因斯坦测试”。现在的AI到底什么水平？它们能在国际数学奥赛上斩获金牌。但换个提问方式，又会在最基础的算术题上跌大跟头。 Hassabis用了一个词来形容这叫“参差不齐的智能”。真理不会因为换了身衣服就不被认出。真正的通用智能，绝对不允许出现如此割裂的智力落差。研究了二三十年，Hassabis看得比谁都透。人类大脑，依然是目前全宇宙唯一已知的通用智能样本。距离真正的AGI，现在还差三个硬指标。真正的创造力。持续学习的能力。长期规划的视野。靠堆算力和海量语料背下所有定理，终究只是在复述历史。能在没有前人脚印的黑暗里砸出火花，才叫真正的智能。

墓碑科技

14,219 просмотров • 3 месяцев назад

AI教父Yann LeCun说了一个事实。一个四岁的小孩，看过的数据量，等于有史以来所有文本的总和。最大的AI模型，训练数据是30万亿个单词。听着很多？一个四岁小孩，醒着的时间大约16000小时。光是用眼睛看，接收的数据量就跟AI一样多。但数据的质量，完全是两回事。小孩看到的是真实世界。是重力，是东西掉下来，是手去抓握。是因果，是物理规律。他通过这些，在脑子里建立了一个世界模型。 AI看到的是什么？是孤立的文字，是符号。它唯一的任务，是猜下一个词是什么。这就解释了现在的怪现象。 AI能通过律师考试，能解微积分方程。比大学生还快。但它学不会装洗碗机。也变不成一个能做家务的机器人。更不可能像任何一个青少年一样，花20小时就学会开车。那些吹嘘AI马上取代一切的人，在回避什么？他们在回避现实世界。 AI被喂养的是人类思想的“数字幽灵”，不是物理世界的实体。把一个在图书馆里读了所有书的书呆子，和一个在街头长大的孩子扔进丛林。谁能活下来？道理是一样的。

AI教父Yann LeCun说了一个事实。一个四岁的小孩，看过的数据量，等于有史以来所有文本的总和。最大的AI模型，训练数据是30万亿个单词。听着很多？一个四岁小孩，醒着的时间大约16000小时。光是用眼睛看，接收的数据量就跟AI一样多。但数据的质量，完全是两回事。小孩看到的是真实世界。是重力，是东西掉下来，是手去抓握。是因果，是物理规律。他通过这些，在脑子里建立了一个世界模型。 AI看到的是什么？是孤立的文字，是符号。它唯一的任务，是猜下一个词是什么。这就解释了现在的怪现象。 AI能通过律师考试，能解微积分方程。比大学生还快。但它学不会装洗碗机。也变不成一个能做家务的机器人。更不可能像任何一个青少年一样，花20小时就学会开车。那些吹嘘AI马上取代一切的人，在回避什么？他们在回避现实世界。 AI被喂养的是人类思想的“数字幽灵”，不是物理世界的实体。把一个在图书馆里读了所有书的书呆子，和一个在街头长大的孩子扔进丛林。谁能活下来？道理是一样的。

墓碑科技

72,742 просмотров • 4 месяцев назад

是什么让乔布斯没进监狱？书。他说在学校里，好老师很少，平庸的老师很多。是书本让他绕开了这些中间人。直接从源头汲取智慧。从亚里士多德，从柏拉图。但这有个问题。你没法向亚里士多德提问。于是，几十年前，他设想了一种机器。这个机器能做什么？它能捕捉一个伟大思想家底层的精神、原则、和世界观。等这个人去世后。我们就能问这台机器：“嘿，亚里士多德会怎么看这个问题？” 这个想法今天听起来就是AI。但背后藏着一个更深的问题。谁来定义和塑造这个AI“亚里士多德”？是那些希望你顺从的“平庸老师”吗？还是真正尊重源头思想的人？如果控制这个工具的人，本身就是乔布斯想要绕过的那些“中间人”。他们喂给AI的“亚里士多德”，还会是真正的亚里士多德吗？还是一个被阉割和过滤后的版本？技术是中立的。但控制技术的人不是。这才是未来真正的战场。

是什么让乔布斯没进监狱？书。他说在学校里，好老师很少，平庸的老师很多。是书本让他绕开了这些中间人。直接从源头汲取智慧。从亚里士多德，从柏拉图。但这有个问题。你没法向亚里士多德提问。于是，几十年前，他设想了一种机器。这个机器能做什么？它能捕捉一个伟大思想家底层的精神、原则、和世界观。等这个人去世后。我们就能问这台机器：“嘿，亚里士多德会怎么看这个问题？” 这个想法今天听起来就是AI。但背后藏着一个更深的问题。谁来定义和塑造这个AI“亚里士多德”？是那些希望你顺从的“平庸老师”吗？还是真正尊重源头思想的人？如果控制这个工具的人，本身就是乔布斯想要绕过的那些“中间人”。他们喂给AI的“亚里士多德”，还会是真正的亚里士多德吗？还是一个被阉割和过滤后的版本？技术是中立的。但控制技术的人不是。这才是未来真正的战场。

墓碑科技

34,253 просмотров • 6 месяцев назад

AI会永远对你撒谎。这不是bug，是数学定律。我，卡内基梅隆大学的数学学生，用数学告诉你为什么。所有语言模型，只做一件事：根据它读过的所有资料，预测下一个最有可能的词。但这里有个死结。模型的猜测，我们叫它q(x)。真实世界的概率，我们叫它p(x)。 q(x)永远不可能等于p(x)。它们之间，永远有一道鸿沟。有个数学公式，就是用来测量这道鸿沟的。只要模型不能完美预测下一个词它永远不能那这个鸿沟就永远不会是零。所以，当AI不知道真相的时候会发生什么？它不能停机，它必须给你一个答案。它只能硬着头皮，输出一个它认为“最像”答案的答案。哪怕那是错的。这就是“幻觉”。一个基于不完整信息，却无比自信的猜测。最要命的是，数学甚至给出了一个下限。就算最完美的模型，它的幻觉率也永远不可能低于这个数字。只要它不知道关于这个世界的一切它永远不可能知道。它就总会有概率，编造事实。所以，无论AI变得多强大，它都会撒谎。因为数学就是这么写的。

AI会永远对你撒谎。这不是bug，是数学定律。我，卡内基梅隆大学的数学学生，用数学告诉你为什么。所有语言模型，只做一件事：根据它读过的所有资料，预测下一个最有可能的词。但这里有个死结。模型的猜测，我们叫它q(x)。真实世界的概率，我们叫它p(x)。 q(x)永远不可能等于p(x)。它们之间，永远有一道鸿沟。有个数学公式，就是用来测量这道鸿沟的。只要模型不能完美预测下一个词它永远不能那这个鸿沟就永远不会是零。所以，当AI不知道真相的时候会发生什么？它不能停机，它必须给你一个答案。它只能硬着头皮，输出一个它认为“最像”答案的答案。哪怕那是错的。这就是“幻觉”。一个基于不完整信息，却无比自信的猜测。最要命的是，数学甚至给出了一个下限。就算最完美的模型，它的幻觉率也永远不可能低于这个数字。只要它不知道关于这个世界的一切它永远不可能知道。它就总会有概率，编造事实。所以，无论AI变得多强大，它都会撒谎。因为数学就是这么写的。

墓碑科技

73,589 просмотров • 6 месяцев назад

人工智能到底会不会思考？它真的懂你在说什么吗？菲尔兹奖得主，数学家陶哲轩，告诉你一个惊人事实。 AI根本不会理解概念。但它能干一件更可怕的事：发现隐藏的规律。来看一个数学领域的例子。纽结理论，听起来很绕，对吧？你可以把它想象成一堆堆的绳结，有些能解开，有些永远解不开。数学家们怎么区分这些绳结呢？用各种数字，叫作“纽结不变量”。然后，好戏开场了。一个老派的神经网络，还不是什么花哨的大语言模型。科学家们给它喂了100万个绳结的数据。让它自己去“看”。结果，这个AI发现了一个没人预料到的关联。它发现，一个叫“符号差”的不变量，竟然可以被另一堆叫“双曲不变量”的数字，以极高的精度预测出来！在这之前，人类数学家从没怀疑过它们之间有这种关系。一开始，这就像个黑箱。 AI只告诉你结果，不告诉你为什么。但它指出了一个方向，一个人类从未踏足的方向。 AI不是在思考，它是在揭示宇宙背后那些我们看不见的，隐藏的关联。

人工智能到底会不会思考？它真的懂你在说什么吗？菲尔兹奖得主，数学家陶哲轩，告诉你一个惊人事实。 AI根本不会理解概念。但它能干一件更可怕的事：发现隐藏的规律。来看一个数学领域的例子。纽结理论，听起来很绕，对吧？你可以把它想象成一堆堆的绳结，有些能解开，有些永远解不开。数学家们怎么区分这些绳结呢？用各种数字，叫作“纽结不变量”。然后，好戏开场了。一个老派的神经网络，还不是什么花哨的大语言模型。科学家们给它喂了100万个绳结的数据。让它自己去“看”。结果，这个AI发现了一个没人预料到的关联。它发现，一个叫“符号差”的不变量，竟然可以被另一堆叫“双曲不变量”的数字，以极高的精度预测出来！在这之前，人类数学家从没怀疑过它们之间有这种关系。一开始，这就像个黑箱。 AI只告诉你结果，不告诉你为什么。但它指出了一个方向，一个人类从未踏足的方向。 AI不是在思考，它是在揭示宇宙背后那些我们看不见的，隐藏的关联。

墓碑科技

39,169 просмотров • 6 месяцев назад

彼得·蒂尔给硅谷泼了一盆冷水。他说，你们正在亲手毁掉自己的护城河。但硅谷没人听得进去。他们要么在争论下一个模型能不能提升20%。要么直接跳到宇宙是不是模拟出来的。完全错过了中间正在发生的巨大转变。蒂尔的直觉是什么？ AI对数学天才的打击，将远远超过玩文字的人。他预测，三到五年内，AI模型将能解开所有美国数学奥林匹克竞赛题。想一下。当一台机器能瞬间解决地球上最难的数学题。人类计算能力的经济价值还剩多少？直接归零。这背后有个巨大的历史讽刺。整个社会对数学能力的崇拜，是从法国大革命开始的。为什么？不是因为数学更高贵。而是因为当时语言能力被认为是贵族世袭的。数学，反而成了打破裙带关系、实现平等的工具。一个持续了两百年的政治意外。成了硅谷选拔人才的圣经。现在，AI要把它彻底扳回来了。最讽刺的是什么？那些用代码构建新世界的人，亲手埋葬了自己过去几十年的优势。他们一辈子，可能都在优化一个错误的技能。未来，是属于会讲故事的人的。工程师们没看到这一天。因为他们太忙于计算了。

彼得·蒂尔给硅谷泼了一盆冷水。他说，你们正在亲手毁掉自己的护城河。但硅谷没人听得进去。他们要么在争论下一个模型能不能提升20%。要么直接跳到宇宙是不是模拟出来的。完全错过了中间正在发生的巨大转变。蒂尔的直觉是什么？ AI对数学天才的打击，将远远超过玩文字的人。他预测，三到五年内，AI模型将能解开所有美国数学奥林匹克竞赛题。想一下。当一台机器能瞬间解决地球上最难的数学题。人类计算能力的经济价值还剩多少？直接归零。这背后有个巨大的历史讽刺。整个社会对数学能力的崇拜，是从法国大革命开始的。为什么？不是因为数学更高贵。而是因为当时语言能力被认为是贵族世袭的。数学，反而成了打破裙带关系、实现平等的工具。一个持续了两百年的政治意外。成了硅谷选拔人才的圣经。现在，AI要把它彻底扳回来了。最讽刺的是什么？那些用代码构建新世界的人，亲手埋葬了自己过去几十年的优势。他们一辈子，可能都在优化一个错误的技能。未来，是属于会讲故事的人的。工程师们没看到这一天。因为他们太忙于计算了。

墓碑科技

55,933 просмотров • 4 месяцев назад

前谷歌CEO埃里克·施密特，在国会听证会上说： AI革命，被低估了。不是被高估，是远远被低估了。 “这场AI的到来，我们没人准备好。” 你以为它只是ChatGPT？不，它其实是一个前所未有的推理系统，是可以自己规划、自己思考、自己编程的新智能体。今天，我们正在训练AI程序员，未来，它们将替代传统软件工程师。接着，是AI数学家，水平对标顶尖研究生，而训练时间，只需要一年。这不是未来，这是现在。而这场变革，刚刚开始。它的代价呢？前所未有的算力需求，巨量的能源消耗。传统服务器，可能根本撑不住。我们正在建造一种新的生命形态，一个能推理、能学习、能创造的智能系统。问题是，我们连它的终点都看不见。深表同意，大众对这波AI浪潮的认知太落后了，整个社会都没做好准备。

前谷歌CEO埃里克·施密特，在国会听证会上说： AI革命，被低估了。不是被高估，是远远被低估了。 “这场AI的到来，我们没人准备好。” 你以为它只是ChatGPT？不，它其实是一个前所未有的推理系统，是可以自己规划、自己思考、自己编程的新智能体。今天，我们正在训练AI程序员，未来，它们将替代传统软件工程师。接着，是AI数学家，水平对标顶尖研究生，而训练时间，只需要一年。这不是未来，这是现在。而这场变革，刚刚开始。它的代价呢？前所未有的算力需求，巨量的能源消耗。传统服务器，可能根本撑不住。我们正在建造一种新的生命形态，一个能推理、能学习、能创造的智能系统。问题是，我们连它的终点都看不见。深表同意，大众对这波AI浪潮的认知太落后了，整个社会都没做好准备。

墓碑科技

199,574 просмотров • 1 год назад