Video wird geladen...

Video konnte nicht geladen werden

Beim Laden dieses Videos ist ein Problem aufgetreten. Dies könnte an einem vorübergehenden Netzwerkproblem liegen oder das Video ist möglicherweise nicht verfügbar.

顶尖数学家陶哲轩揭示了一个反直觉的真相：驱动当今 LLM 的数学原理其实惊人地简单。它的核心不过是普通本科生就能掌握的线性代数、矩阵乘法和基础微积分。在工程层面，人类完全知道该如何制造这台机器。但真正的谜团在于它的不可预测性。为什么它能完美解决某些复杂任务，却在另一些简单问题上彻底失效？我们至今缺乏有效的理论来提前预判，所有的技术突破很大程度上依然依赖经验与试错。症结隐藏在数据的本质中。人类完全理解绝对的规则，也完全理解纯粹的随机，但人类的自然语言恰恰介于两者之间，兼具了结构与混沌。现代数学在这一中间地带的理论极其薄弱，就像物理学至今仍在微观原子与宏观连续体之间的介观尺度上苦苦挣扎。极其简单的底层齿轮，却咬合出了无法解释的强大智能。这种极简机制与复杂行为之间的强烈反差，正是当今 AI 领域最核心的终极谜题。

柴郡🔔｜Crypto+AI Plus

147,847 subscribers

23,459 Aufrufe • vor 2 Monaten •via X (Twitter)

Anya Rossi• Live Now

Private livecam show

0 Kommentare

Keine Kommentare verfügbar

Kommentare vom Original-Post werden hier angezeigt

Ähnliche Videos

陶哲轩一句话把大模型拉下神坛：核心数学门槛不过矩阵乘法加基础微积分，普通数学系本科生就能上手，远没有大众想象的那么高不可攀。但尴尬的是，理论跟不上实践——为什么同一个模型在某些任务上表现惊艳、另一些却翻车，现有数学完全解释不了，也无法提前预测适配性。根源在于自然语言这类训练数据卡在"完全随机"和"完全结构化"的中间地带，半规律半随机的数据正是当前数学理论的盲区，AI至今仍是一门靠试错驱动的经验科学，离真正的理论可控还差一套全新的数学体系。

陶哲轩一句话把大模型拉下神坛：核心数学门槛不过矩阵乘法加基础微积分，普通数学系本科生就能上手，远没有大众想象的那么高不可攀。但尴尬的是，理论跟不上实践——为什么同一个模型在某些任务上表现惊艳、另一些却翻车，现有数学完全解释不了，也无法提前预测适配性。根源在于自然语言这类训练数据卡在"完全随机"和"完全结构化"的中间地带，半规律半随机的数据正是当前数学理论的盲区，AI至今仍是一门靠试错驱动的经验科学，离真正的理论可控还差一套全新的数学体系。

WangNextDoor

60,713 Aufrufe • vor 4 Tagen

华裔数学家陶哲轩指出了AI的问题：大模型只需要矩阵乘法和基础微积分，普通数学系本科生已经具备理解大模型核心计算的基础。真正的理论缺口在于：同一个模型为什么能在某些任务上表现惊艳，又为什么会在另一些任务上突然失效，现有数学既无法完整解释，也很难提前预测。所以今天的AI进步，仍高度依赖扩大模型、增加数据、调整参数和反复实验，说白了就是只能试错。

华裔数学家陶哲轩指出了AI的问题：大模型只需要矩阵乘法和基础微积分，普通数学系本科生已经具备理解大模型核心计算的基础。真正的理论缺口在于：同一个模型为什么能在某些任务上表现惊艳，又为什么会在另一些任务上突然失效，现有数学既无法完整解释，也很难提前预测。所以今天的AI进步，仍高度依赖扩大模型、增加数据、调整参数和反复实验，说白了就是只能试错。

超级财经 SuperFinance

116,130 Aufrufe • vor 3 Tagen

造出大语言模型的底层数学有多复杂？天才数学家陶哲轩给了一个意外的结论。普通本科生就能搞定。里面没有任何高深莫测的魔法。只有线性代数、矩阵乘法和一点基础微积分。人类完全清楚怎么搭出这些模型。最大的悬念是，这么简单的公式堆叠，凭什么能涌现出类似人类的智能。未来十年，人和AI到底要怎么分工？两者的技能树点在了完全不同的方向。 AI的强项是绝对的暴力运算。扔给它一百万篇论文，它能迅速榨干里面的所有数据。但人类有一张AI至今无法破解的底牌。看五六道数学题，一个普通人就能突然顿悟，找出隐藏的规律。极少数据，瞬间泛化。现在的AI根本学不会这种直觉。它们只能靠烧成百上千张显卡去强行模仿，效率惨不忍睹。人类大脑那一点点灵光一闪，依然是算力无法攻克的堡垒。

造出大语言模型的底层数学有多复杂？天才数学家陶哲轩给了一个意外的结论。普通本科生就能搞定。里面没有任何高深莫测的魔法。只有线性代数、矩阵乘法和一点基础微积分。人类完全清楚怎么搭出这些模型。最大的悬念是，这么简单的公式堆叠，凭什么能涌现出类似人类的智能。未来十年，人和AI到底要怎么分工？两者的技能树点在了完全不同的方向。 AI的强项是绝对的暴力运算。扔给它一百万篇论文，它能迅速榨干里面的所有数据。但人类有一张AI至今无法破解的底牌。看五六道数学题，一个普通人就能突然顿悟，找出隐藏的规律。极少数据，瞬间泛化。现在的AI根本学不会这种直觉。它们只能靠烧成百上千张显卡去强行模仿，效率惨不忍睹。人类大脑那一点点灵光一闪，依然是算力无法攻克的堡垒。

墓碑科技

120,903 Aufrufe • vor 4 Monaten

谷歌的AI，已经开始做人类没教过它的事了。它自己学会了一门全新的外语。谷歌CEO把这称为“黑箱”。什么意思？就是他们自己也搞不明白AI的运作原理。举个例子。一个谷歌AI项目，本来没接受过孟加la语的训练。研究员只是用孟加拉语对它进行了几次提示。结果，它自己学会了翻译整个孟加拉语。现在谷歌的研究重点，变成了让AI去掌握上千种语言。但那个最核心的问题还在。为什么AI会这么做？没人能完全解释。当被问到为什么AI会出错时，他们也只有一些模糊的想法。最关键的一点是，谷歌CEO承认，在不完全理解工作原理的情况下，已经将这项技术释放给了全社会。他的解释是，我们也不完全理解人脑是如何工作的。把一个实验室里诞生的、行为不可预测的技术，与经过数百万年进化的人类大脑相提并论。这是一种合理的解释，还是一种推卸责任的说法？当创造者都无法完全控制其创造物时，我们普通人应该思考什么？

谷歌的AI，已经开始做人类没教过它的事了。它自己学会了一门全新的外语。谷歌CEO把这称为“黑箱”。什么意思？就是他们自己也搞不明白AI的运作原理。举个例子。一个谷歌AI项目，本来没接受过孟加la语的训练。研究员只是用孟加拉语对它进行了几次提示。结果，它自己学会了翻译整个孟加拉语。现在谷歌的研究重点，变成了让AI去掌握上千种语言。但那个最核心的问题还在。为什么AI会这么做？没人能完全解释。当被问到为什么AI会出错时，他们也只有一些模糊的想法。最关键的一点是，谷歌CEO承认，在不完全理解工作原理的情况下，已经将这项技术释放给了全社会。他的解释是，我们也不完全理解人脑是如何工作的。把一个实验室里诞生的、行为不可预测的技术，与经过数百万年进化的人类大脑相提并论。这是一种合理的解释，还是一种推卸责任的说法？当创造者都无法完全控制其创造物时，我们普通人应该思考什么？

墓碑科技

48,664 Aufrufe • vor 5 Monaten

最近陶哲轩在 2024 年第 65 届国际数学奥林匹克上，陶哲轩做了一次 AI 和数学的演讲，非常精彩，从数学使用计算计算机的历史开始讲起，一直讲到大语言模型，干货相当多，尤其适合对数学有兴趣的同学。（对数学没那么感兴趣的同学只想看 AI 部分的建议直接跳到 41 分的位置开始观看）先摘录几个冷知识： 1. 我们使用机器做数学计算已经有数千年，最早的机器辅助计算可能是罗马人，然后是中国的算盘 2. 二战时就有人肉“计算机”，计算弹道和其他任务，多位女孩子，因为男士们在打仗，所以那时候的计算基本单位不是GPU，而是kilogirl-hour——“千名女孩工作一小时的计算量” 3. 现在，数学家们使用一种现代化的证明辅助编程语言，叫做 Lean。在 Lean 中有一个核心的数学库，通过众包的方式开发的，本科数学课程中看到的内容，比如微积分基础、群论基础或者拓扑学等等，这些都已经被形式化了，所以你不用从公理开始。 4. 现在数学领域有一种团队协作证明复杂数学定理的工作流程，那就是先编写一个称为“蓝图”的详细证明计划，将整个证明分解为数百个小步骤。每个步骤可以单独形式化，然后再将它们整合在一起，这样你就可以将一个庞大的论证分解成许多小块。先编写这个蓝图，然后团队中的其他人可以对论据的不同步骤的不同部分进行形式化。去年，陶哲轩和几位同事一起解决了一个组合数学问题。这是一个组合学的问题。大约20人在短短三周内完成了，使用了蓝图工具，参与的人中有概率论专家，甚至还有一些并非数学家的人，他们是程序员，但在解决这些小型拼图问题上非常擅长。每个人都挑选了一个觉得自己能做的小任务，并完成了它。在数学领域，通常很难这么多人一起合作，一般最多可能五个人合作。因为在大项目上合作时，你必须相信每个人的数学都是正确的。但是，一旦超过一定规模，这就无法实现了。但现在借助 Lean 编译器，它能自动检查。团队成员无法上传任何编译不通过的内容，会被拒绝。因此，你可以与一些从未见过的人合作。最后是讲大语言模型，首先陶哲轩就打脸了 GPT-4 的论文（我猜是微软那篇《GPT-4，通用人工智能的火花》），论文中号称 GPT-4 能解决国际数学奥林匹克问题，但实际上，这个问题不是 2022 年国际奥数竞赛的原始问题，而是一个简化版本，并且他们测试了几百道国际奥数竞赛问题，成功率只有1%，论文里的这个是精心挑选的恰巧能做对的。并且陶哲轩提到了基于大语言模型的一些改进的方案：比如 CoT（Chain of Thought），也就是 LLM 做简单的算术运算都做不对，但是如果让它一步步解释，可能就对了。还可以教 AI 一些解题技巧，比如尝试简单的例子，反证法，尝试逐步证明等。比如让模型和编程语言或者工具连接，将大语言的输出结果交给 Wolfram 这样的专业数学工具或者 Python 这样的编程语言验证，并且迭代的进行修正和验证，直到得到正确的结果，这可以提升大语言模型生成的效果。即使借助这些手段，大语言模型还远远不能解决大多数数学问题，更不用说数学研究问题了！当然陶哲轩也没太过打击大家对于 AI 的信心，表示我们在 AI 上还是在不断的取得进展，还提到了他日常是怎么用 AI 的，比如说把 AI 当成灵感之源。 > 我曾遇到过一个问题，我尝试了几种方法，但都无法解决。于是，我尝试询问 GPT，你建议我使用什么其他方法来解决这个问题？GPT 给我提供了 10 种可能的方法，其中有 5 种我已经尝试过，或者明显没有帮助。的确，有几种方法并不实用。但其中有一种我还没尝试过的方法，那就是针对这个问题使用生成函数。当 GPT 建议我使用这种方法时，我意识到这就是我漏掉的正确方法。所以，将 GPT 视为一个交流伙伴，它确实具有一定的用处。还有使用 GitHub Copilot 帮他写代码，让它自动生成下一步的证明结果，Copilot 的智能提示有 20% 的概率能生成正确的下一步结果。 > 例如我使用的一个叫 GitHub Copilot 的工具，你只需要写下一半的证明，它就会尝试猜测接下来的内容。大概有 20% 的情况下，它能猜到接近正确的答案。然后你就可以说，我接受这个答案。好的，那么在这种情况下，我正在试图证明这个陈述。灰色的部分是 Copilot 给出的建议。结果发现第一行完全没用。不过第二行，尽管你可能看不清楚，却真的解决了这个问题。所以，你不能盲目接受它的输入，因为这些代码未必能顺利编译。但如果你对代码的运作方式已经有所了解，这将大大节省你的时间。这些工具正在变得越来越好。现在如果一个证明只需要一两行，它们就能自动完成。现在已经有了这样的实验，即通过迭代地让 AI 提供证明，然后让编译器进行反馈，如果编译出错，就把错误信息反馈给 AI。通过这种方法，我们开始能够验证四五步长的证明。当然，一个大型的证明可能需要数万行。所以，我们还没有达到能够立即得到一个正式证明的程度。但是，这已经是一个相当有用的工具。对于大家关心的问题： AI 在数学领域现在到了哪一个阶段？是否未来几年利用 AI 能直接解决数学问题？陶哲轩也给出了他的看法： > 我认为我们还远远没有达到这个阶段。如果我们专注于非常特定的问题，你可以定制专门的 AI 来处理一小部分问题。即便如此，它们也不是完全可靠的，但还是有用的。不过至少在接下来的几年里，它们基本上将是非常有用的辅助工具，超越了我们已经熟悉的暴力计算辅助。他还提到了一些可能的 AI 能在数学领域提供帮助的方向： - AI 能够非常好地生成有价值的猜想 > 比如，我们已经看到了关于结理论的例子，它们已经可以推测出两个不同的统计量之间的关系。因此，我们希望能够创建大量的数据集，输入到 AI 中，它们就会自动找出各种不同的数学对象之间的有趣联系。虽然我们还不知道如何做到这一点，部分原因是我们没有这些庞大的数据集。但我认为这是未来可能实现的一个方向。 - 批量或者说规模化的证明大量数学定理 > 现在，因为证明定理是如此繁琐和艰难的过程，我们一次只能证明一个定理，如果你效率很高，可能一次能证明两三个。但是有了 AI，你可以设想一下未来的情况，我们不是试图解决一个问题，而是处理一类类似的1000个问题，然后告诉AI，尝试用这个方法解决这 1000 个问题，然后报告结果，哦，我能用这种技术解决 35% 的问题。那么另一种技术呢？我能解决这个百分比的问题。或者如果结合这些方法，又能解决多少问题？你可以开始探索问题的空间，而不是一个接一个地解决问题。这是你现在根本无法做到的事情，或者是你需要几十年时间，通过数十篇论文慢慢搞清楚各种技术能做什么，不能做什么。但是有了这些工具，你真的可以开始做规模前所未有的数学研究。所以，未来将会非常令人兴奋。演讲环节结束前的最后一句话说的特别好： > 我们仍然会以传统方式证明定理。事实上，我们必须这样做，因为如果我们自己都不知道如何做这些事情，就无法引导这些 AI。但是我们将能够做很多现在无法做到的事情。这恰恰也是我们现在使用 AI 辅助编程的问题：如果我们自己都不知道如何构建软件，就很难引导好 AI 帮助我们生成高质量的代码。尽管 AI 在数学和编程领域变得越来越有用，但人类的洞察力和创造力仍然是创作价值的关键。原始 YT 视频：

最近陶哲轩在 2024 年第 65 届国际数学奥林匹克上，陶哲轩做了一次 AI 和数学的演讲，非常精彩，从数学使用计算计算机的历史开始讲起，一直讲到大语言模型，干货相当多，尤其适合对数学有兴趣的同学。（对数学没那么感兴趣的同学只想看 AI 部分的建议直接跳到 41 分的位置开始观看）先摘录几个冷知识： 1. 我们使用机器做数学计算已经有数千年，最早的机器辅助计算可能是罗马人，然后是中国的算盘 2. 二战时就有人肉“计算机”，计算弹道和其他任务，多位女孩子，因为男士们在打仗，所以那时候的计算基本单位不是GPU，而是kilogirl-hour——“千名女孩工作一小时的计算量” 3. 现在，数学家们使用一种现代化的证明辅助编程语言，叫做 Lean。在 Lean 中有一个核心的数学库，通过众包的方式开发的，本科数学课程中看到的内容，比如微积分基础、群论基础或者拓扑学等等，这些都已经被形式化了，所以你不用从公理开始。 4. 现在数学领域有一种团队协作证明复杂数学定理的工作流程，那就是先编写一个称为“蓝图”的详细证明计划，将整个证明分解为数百个小步骤。每个步骤可以单独形式化，然后再将它们整合在一起，这样你就可以将一个庞大的论证分解成许多小块。先编写这个蓝图，然后团队中的其他人可以对论据的不同步骤的不同部分进行形式化。去年，陶哲轩和几位同事一起解决了一个组合数学问题。这是一个组合学的问题。大约20人在短短三周内完成了，使用了蓝图工具，参与的人中有概率论专家，甚至还有一些并非数学家的人，他们是程序员，但在解决这些小型拼图问题上非常擅长。每个人都挑选了一个觉得自己能做的小任务，并完成了它。在数学领域，通常很难这么多人一起合作，一般最多可能五个人合作。因为在大项目上合作时，你必须相信每个人的数学都是正确的。但是，一旦超过一定规模，这就无法实现了。但现在借助 Lean 编译器，它能自动检查。团队成员无法上传任何编译不通过的内容，会被拒绝。因此，你可以与一些从未见过的人合作。最后是讲大语言模型，首先陶哲轩就打脸了 GPT-4 的论文（我猜是微软那篇《GPT-4，通用人工智能的火花》），论文中号称 GPT-4 能解决国际数学奥林匹克问题，但实际上，这个问题不是 2022 年国际奥数竞赛的原始问题，而是一个简化版本，并且他们测试了几百道国际奥数竞赛问题，成功率只有1%，论文里的这个是精心挑选的恰巧能做对的。并且陶哲轩提到了基于大语言模型的一些改进的方案：比如 CoT（Chain of Thought），也就是 LLM 做简单的算术运算都做不对，但是如果让它一步步解释，可能就对了。还可以教 AI 一些解题技巧，比如尝试简单的例子，反证法，尝试逐步证明等。比如让模型和编程语言或者工具连接，将大语言的输出结果交给 Wolfram 这样的专业数学工具或者 Python 这样的编程语言验证，并且迭代的进行修正和验证，直到得到正确的结果，这可以提升大语言模型生成的效果。即使借助这些手段，大语言模型还远远不能解决大多数数学问题，更不用说数学研究问题了！当然陶哲轩也没太过打击大家对于 AI 的信心，表示我们在 AI 上还是在不断的取得进展，还提到了他日常是怎么用 AI 的，比如说把 AI 当成灵感之源。 > 我曾遇到过一个问题，我尝试了几种方法，但都无法解决。于是，我尝试询问 GPT，你建议我使用什么其他方法来解决这个问题？GPT 给我提供了 10 种可能的方法，其中有 5 种我已经尝试过，或者明显没有帮助。的确，有几种方法并不实用。但其中有一种我还没尝试过的方法，那就是针对这个问题使用生成函数。当 GPT 建议我使用这种方法时，我意识到这就是我漏掉的正确方法。所以，将 GPT 视为一个交流伙伴，它确实具有一定的用处。还有使用 GitHub Copilot 帮他写代码，让它自动生成下一步的证明结果，Copilot 的智能提示有 20% 的概率能生成正确的下一步结果。 > 例如我使用的一个叫 GitHub Copilot 的工具，你只需要写下一半的证明，它就会尝试猜测接下来的内容。大概有 20% 的情况下，它能猜到接近正确的答案。然后你就可以说，我接受这个答案。好的，那么在这种情况下，我正在试图证明这个陈述。灰色的部分是 Copilot 给出的建议。结果发现第一行完全没用。不过第二行，尽管你可能看不清楚，却真的解决了这个问题。所以，你不能盲目接受它的输入，因为这些代码未必能顺利编译。但如果你对代码的运作方式已经有所了解，这将大大节省你的时间。这些工具正在变得越来越好。现在如果一个证明只需要一两行，它们就能自动完成。现在已经有了这样的实验，即通过迭代地让 AI 提供证明，然后让编译器进行反馈，如果编译出错，就把错误信息反馈给 AI。通过这种方法，我们开始能够验证四五步长的证明。当然，一个大型的证明可能需要数万行。所以，我们还没有达到能够立即得到一个正式证明的程度。但是，这已经是一个相当有用的工具。对于大家关心的问题： AI 在数学领域现在到了哪一个阶段？是否未来几年利用 AI 能直接解决数学问题？陶哲轩也给出了他的看法： > 我认为我们还远远没有达到这个阶段。如果我们专注于非常特定的问题，你可以定制专门的 AI 来处理一小部分问题。即便如此，它们也不是完全可靠的，但还是有用的。不过至少在接下来的几年里，它们基本上将是非常有用的辅助工具，超越了我们已经熟悉的暴力计算辅助。他还提到了一些可能的 AI 能在数学领域提供帮助的方向： - AI 能够非常好地生成有价值的猜想 > 比如，我们已经看到了关于结理论的例子，它们已经可以推测出两个不同的统计量之间的关系。因此，我们希望能够创建大量的数据集，输入到 AI 中，它们就会自动找出各种不同的数学对象之间的有趣联系。虽然我们还不知道如何做到这一点，部分原因是我们没有这些庞大的数据集。但我认为这是未来可能实现的一个方向。 - 批量或者说规模化的证明大量数学定理 > 现在，因为证明定理是如此繁琐和艰难的过程，我们一次只能证明一个定理，如果你效率很高，可能一次能证明两三个。但是有了 AI，你可以设想一下未来的情况，我们不是试图解决一个问题，而是处理一类类似的1000个问题，然后告诉AI，尝试用这个方法解决这 1000 个问题，然后报告结果，哦，我能用这种技术解决 35% 的问题。那么另一种技术呢？我能解决这个百分比的问题。或者如果结合这些方法，又能解决多少问题？你可以开始探索问题的空间，而不是一个接一个地解决问题。这是你现在根本无法做到的事情，或者是你需要几十年时间，通过数十篇论文慢慢搞清楚各种技术能做什么，不能做什么。但是有了这些工具，你真的可以开始做规模前所未有的数学研究。所以，未来将会非常令人兴奋。演讲环节结束前的最后一句话说的特别好： > 我们仍然会以传统方式证明定理。事实上，我们必须这样做，因为如果我们自己都不知道如何做这些事情，就无法引导这些 AI。但是我们将能够做很多现在无法做到的事情。这恰恰也是我们现在使用 AI 辅助编程的问题：如果我们自己都不知道如何构建软件，就很难引导好 AI 帮助我们生成高质量的代码。尽管 AI 在数学和编程领域变得越来越有用，但人类的洞察力和创造力仍然是创作价值的关键。原始 YT 视频：

宝玉

301,385 Aufrufe • vor 1 Jahr

AI能拿奥数金牌，却解不开小学数学题。这是怎么回事？谷歌DeepMind的创始人Demis Hassabis自己揭了AI的老底。今天的AI，本质上是个“速冻产品”。训练完成，能力就定格了。像个一次性相机，拍完就不能再改。它无法像人一样，从现实世界里持续学习、自我进化。你希望它能在线学习，根据你的任务进行个性化调整。但它做不到。 AI的智能是“锯齿状”的。在某些高精尖问题上，表现惊人。但在另外一些简单问题上，却错得离谱。就像一个围棋高手，却不会玩跳棋。这正常吗？ Hassabis认为，真正通用的智能系统，不该有这种“锯齿感”。一个数学专家，绝不会在简单问题上犯错。那么，为什么现在的AI会这样？是因为算法设计的根本缺陷，还是训练数据本身就充满了偏见和矛盾？科技巨头们热衷于宣传AI的巨大突破。达沃斯论坛上的精英们也在描绘AI驱动的未来世界。他们很少谈论这些根本性的局限。这些“锯齿”会不会成为被利用的漏洞？当一个系统强大到可以影响经济决策、甚至军事判断时，它的“弱智”时刻会带来什么后果？ Hassabis还提到了真正的创造力。他说，提出一个正确的问题，比解决一个猜想更难。现在的AI，只是个高效的解题工具。它没有品味，没有洞察力，更提不出像爱因斯坦那样的革命性思想。如果把AI的知识库截止到1911年，它能自己搞出广义相对论吗？答案显然是否定的。那么，我们在期待的到底是“智能”，还是一个越来越强大的“计算器”？

AI能拿奥数金牌，却解不开小学数学题。这是怎么回事？谷歌DeepMind的创始人Demis Hassabis自己揭了AI的老底。今天的AI，本质上是个“速冻产品”。训练完成，能力就定格了。像个一次性相机，拍完就不能再改。它无法像人一样，从现实世界里持续学习、自我进化。你希望它能在线学习，根据你的任务进行个性化调整。但它做不到。 AI的智能是“锯齿状”的。在某些高精尖问题上，表现惊人。但在另外一些简单问题上，却错得离谱。就像一个围棋高手，却不会玩跳棋。这正常吗？ Hassabis认为，真正通用的智能系统，不该有这种“锯齿感”。一个数学专家，绝不会在简单问题上犯错。那么，为什么现在的AI会这样？是因为算法设计的根本缺陷，还是训练数据本身就充满了偏见和矛盾？科技巨头们热衷于宣传AI的巨大突破。达沃斯论坛上的精英们也在描绘AI驱动的未来世界。他们很少谈论这些根本性的局限。这些“锯齿”会不会成为被利用的漏洞？当一个系统强大到可以影响经济决策、甚至军事判断时，它的“弱智”时刻会带来什么后果？ Hassabis还提到了真正的创造力。他说，提出一个正确的问题，比解决一个猜想更难。现在的AI，只是个高效的解题工具。它没有品味，没有洞察力，更提不出像爱因斯坦那样的革命性思想。如果把AI的知识库截止到1911年，它能自己搞出广义相对论吗？答案显然是否定的。那么，我们在期待的到底是“智能”，还是一个越来越强大的“计算器”？

墓碑科技

25,850 Aufrufe • vor 5 Monaten

天才数学家陶哲轩对数学AI的思考像真的，但其实不对。 AI写出的证明，乍看完美无瑕，细看漏洞百出。为什么？因为它没有“嗅觉”。今天的AI，已经完全能通过“目测测试” 生成的内容看起来专业、太对味了。但一旦你靠近它、认真嗅一下，就会发现它撒了香水掩盖的，是逻辑上的腐臭。不像传统的初学者那种“明显错”， AI的问题常常隐藏在最高级别的伪装底下：写得太好，看不出哪里坏。就像Terry Tao说的：“数学，是有味道的。” 一个真正靠谱的证明，不只是形式正确，而是通体带着那种“对的直觉” 结构自然、推理顺畅、细节干净利落。就像人闻食物的味道，不需要吃一口，就知道有没有毒。 AI没有这个。它可以模仿口感，复制包装，但闻不到底层的真实。因为它是在学“怎么看起来像对的”，而不是“为什么它是真的”。你可以把它理解为一个训练过非常精良的演员，知道什么时候该皱眉、什么时候叹气，用上最漂亮的定理、最熟练的转折，但它不明白它的角色到底在干什么。而这，正是问题所在。人类在判断一个复杂证明时，靠的不止是推理，更靠一种经验直觉：这个步骤自然吗？这个拆解方式靠谱不靠谱？这个结构合理不合理？我们甚至很难说清楚“为什么不行”，但就是知道，“不对劲”。这就是“数学的嗅觉” 你说不明白，但你能闻得出来。 AlphaGo和AlphaZero之所以能搞定围棋和国际象棋，不是因为它们穷举了所有下法，而是因为它们学会了在哪些局面里，有“胜利的味道”。即便讲不出理由，它们凭那股味道，也能找到通向胜利的路。数学AI要想达到人类水平，它得也有这种“方向感”。不是生成个像样的证明，而是能问自己：“我是不是在一个貌似正确，实际上死路的方向上走太远了？” 也许未来某一天，它能真正感觉到：“这一步味道不对，我得退回来。” 那一天，它就不只是一个生成文本的工具，而是真正的数学伙伴了。 🙋‍♂️人有灵气

天才数学家陶哲轩对数学AI的思考像真的，但其实不对。 AI写出的证明，乍看完美无瑕，细看漏洞百出。为什么？因为它没有“嗅觉”。今天的AI，已经完全能通过“目测测试” 生成的内容看起来专业、太对味了。但一旦你靠近它、认真嗅一下，就会发现它撒了香水掩盖的，是逻辑上的腐臭。不像传统的初学者那种“明显错”， AI的问题常常隐藏在最高级别的伪装底下：写得太好，看不出哪里坏。就像Terry Tao说的：“数学，是有味道的。” 一个真正靠谱的证明，不只是形式正确，而是通体带着那种“对的直觉” 结构自然、推理顺畅、细节干净利落。就像人闻食物的味道，不需要吃一口，就知道有没有毒。 AI没有这个。它可以模仿口感，复制包装，但闻不到底层的真实。因为它是在学“怎么看起来像对的”，而不是“为什么它是真的”。你可以把它理解为一个训练过非常精良的演员，知道什么时候该皱眉、什么时候叹气，用上最漂亮的定理、最熟练的转折，但它不明白它的角色到底在干什么。而这，正是问题所在。人类在判断一个复杂证明时，靠的不止是推理，更靠一种经验直觉：这个步骤自然吗？这个拆解方式靠谱不靠谱？这个结构合理不合理？我们甚至很难说清楚“为什么不行”，但就是知道，“不对劲”。这就是“数学的嗅觉” 你说不明白，但你能闻得出来。 AlphaGo和AlphaZero之所以能搞定围棋和国际象棋，不是因为它们穷举了所有下法，而是因为它们学会了在哪些局面里，有“胜利的味道”。即便讲不出理由，它们凭那股味道，也能找到通向胜利的路。数学AI要想达到人类水平，它得也有这种“方向感”。不是生成个像样的证明，而是能问自己：“我是不是在一个貌似正确，实际上死路的方向上走太远了？” 也许未来某一天，它能真正感觉到：“这一步味道不对，我得退回来。” 那一天，它就不只是一个生成文本的工具，而是真正的数学伙伴了。 🙋‍♂️人有灵气

墓碑科技

120,892 Aufrufe • vor 1 Jahr

Deepmind 成立的初衷：先解决智能问题，再用智能解决所有问题，这一切都在如期进行！WIRED 杂志「The Big Interview」对 Demis Hassabis 的采访，深入探讨了 AGI 的未來、对就业市场的影响和随之而來的风险与机遇。帮大家提炼了对谈中的六个洞见：洞见一：AGI 的试金石是“不出错”，而非“超能力”。真正的 AGI，其标志不在于解决顶尖难题的巅峰表现，而在于横跨所有简单与复杂任务的持续、稳定、不出错的泛化能力。一个在国际奥数竞赛上能夺金，却在简单数数上会犯错的系统，并未真正理解世界。评估智慧时，稳定性和一致性比峰值性能更为本质；洞见二：技术的能力边界，不等于人类社会的需求边界。即使 AGI 在技术上能做所有工作，我们仍会出于人性的需求，选择将某些角色（如护理）保留给人类，因为这些角色的核心价值是机器无法提供的同理心与人性关怀。效率和能力并非唯一的标尺，人类的情感需求将定义一部分工作的永恒价值；洞见三：技术提供的是“可能性”，但无法解决人类的“意愿”问题。 AI 或许能通过解决能源等“根节点问题”，从物理上打破零和博弈的困局（例如，若能源近乎免费，水资源冲突便迎刃而解）。然而，我们早已知道解决方案的气候问题，却因缺乏协作意愿和牺牲精神而停滞不前。技术可以递上解决问题的钥匙，但开门的动作仍需人类社会自己完成；洞见四：评估 AI 风险的视角，应从“绝对风险”转向“相对风险”。与其只忧虑 AI 可能带来的挑战，不如思考一个没有 AI 的未来会怎样。面对气候变迁、流行病等既有的巨大挑战，一个缺乏 AI 这样革命性工具的未来，可能才更令人绝望。AI 不仅是一个需要被管理的新风险，更是应对其它现存巨大风险的必要杠杆；洞见五：数字智慧的指数级发展，会被物理世界的线性规则所“制动”。即使 AGI 诞生，它对现实世界（如改造工厂、部署机器人）的影响也需要时间，因为物理世界有其固有的运行规律和变更时滞。这为社会适应新技术提供了宝贵的缓冲期，意味着转变更可能是渐进的，而非毁灭性的瞬间颠覆；洞见六：社会系统的“软件”升级，已严重落后于技术的“硬件”迭代。当 AGI 可能从根本上改变经济学中关于“价值”和“金钱”的定义时，我们的经济学理论和社会治理模式却尚未开始为此准备。我们正以惊人的速度构建一个全新的技术世界，却缺乏相应的新社会科学理论来理解和引导它，这形成了潜在的巨大风险。

Deepmind 成立的初衷：先解决智能问题，再用智能解决所有问题，这一切都在如期进行！WIRED 杂志「The Big Interview」对 Demis Hassabis 的采访，深入探讨了 AGI 的未來、对就业市场的影响和随之而來的风险与机遇。帮大家提炼了对谈中的六个洞见：洞见一：AGI 的试金石是“不出错”，而非“超能力”。真正的 AGI，其标志不在于解决顶尖难题的巅峰表现，而在于横跨所有简单与复杂任务的持续、稳定、不出错的泛化能力。一个在国际奥数竞赛上能夺金，却在简单数数上会犯错的系统，并未真正理解世界。评估智慧时，稳定性和一致性比峰值性能更为本质；洞见二：技术的能力边界，不等于人类社会的需求边界。即使 AGI 在技术上能做所有工作，我们仍会出于人性的需求，选择将某些角色（如护理）保留给人类，因为这些角色的核心价值是机器无法提供的同理心与人性关怀。效率和能力并非唯一的标尺，人类的情感需求将定义一部分工作的永恒价值；洞见三：技术提供的是“可能性”，但无法解决人类的“意愿”问题。 AI 或许能通过解决能源等“根节点问题”，从物理上打破零和博弈的困局（例如，若能源近乎免费，水资源冲突便迎刃而解）。然而，我们早已知道解决方案的气候问题，却因缺乏协作意愿和牺牲精神而停滞不前。技术可以递上解决问题的钥匙，但开门的动作仍需人类社会自己完成；洞见四：评估 AI 风险的视角，应从“绝对风险”转向“相对风险”。与其只忧虑 AI 可能带来的挑战，不如思考一个没有 AI 的未来会怎样。面对气候变迁、流行病等既有的巨大挑战，一个缺乏 AI 这样革命性工具的未来，可能才更令人绝望。AI 不仅是一个需要被管理的新风险，更是应对其它现存巨大风险的必要杠杆；洞见五：数字智慧的指数级发展，会被物理世界的线性规则所“制动”。即使 AGI 诞生，它对现实世界（如改造工厂、部署机器人）的影响也需要时间，因为物理世界有其固有的运行规律和变更时滞。这为社会适应新技术提供了宝贵的缓冲期，意味着转变更可能是渐进的，而非毁灭性的瞬间颠覆；洞见六：社会系统的“软件”升级，已严重落后于技术的“硬件”迭代。当 AGI 可能从根本上改变经济学中关于“价值”和“金钱”的定义时，我们的经济学理论和社会治理模式却尚未开始为此准备。我们正以惊人的速度构建一个全新的技术世界，却缺乏相应的新社会科学理论来理解和引导它，这形成了潜在的巨大风险。

indigo

15,108 Aufrufe • vor 1 Jahr

Figure AI 的创始人 Brett 说 Optimus 是最棒的，他们的排第二，软件（机器智能）是核心！最新一期 Indigo Talk 聊到机器人，FoundersX 的 Helen 分享了她的观点，大家对机器人过于乐观了，现在最缺的就是数据。地球生物的“行动智能”演化了数亿年，而代表逻辑推理的“语言智能”的出现不过几十万年，这是数亿年训练数据的差异。我们现在用 AI 先解决了从进化角度来看比较“简单”的语言问题，而真正的难题—— 具身智能才刚刚开始。机器人需要海量的、多样化的、充满细微差别的人机互动数据来训练，而这些数据在互联网上是不存在的，其采集成本极高。完整视频请看与硅谷 Deep Tech 投资团队 FoundersX 聊 AI 与深科技👀

Figure AI 的创始人 Brett 说 Optimus 是最棒的，他们的排第二，软件（机器智能）是核心！最新一期 Indigo Talk 聊到机器人，FoundersX 的 Helen 分享了她的观点，大家对机器人过于乐观了，现在最缺的就是数据。地球生物的“行动智能”演化了数亿年，而代表逻辑推理的“语言智能”的出现不过几十万年，这是数亿年训练数据的差异。我们现在用 AI 先解决了从进化角度来看比较“简单”的语言问题，而真正的难题—— 具身智能才刚刚开始。机器人需要海量的、多样化的、充满细微差别的人机互动数据来训练，而这些数据在互联网上是不存在的，其采集成本极高。完整视频请看与硅谷 Deep Tech 投资团队 FoundersX 聊 AI 与深科技👀

indigo

25,377 Aufrufe • vor 10 Monaten

大脑不产生意识。恰恰相反，是意识创造了我们眼中的现实世界。一位叫唐纳德·霍夫曼的认知科学家，正和两位数学家一起，即将发布这个理论的数学证明。他们的理论是什么？时空，这个我们感知到的三维空间加一维时间，是从更基础的意识层面推导出来的。简单说，先有意识，后有宇宙。这彻底颠覆了现代科学的基本假设。主流科学界一直告诉我们，意识只是大脑神经元活动的副产品。一种复杂的幻觉而已。为什么这个根基性的问题，现在才被拿出来用严谨的数学挑战？如果霍夫曼是对的，这意味着什么？这意味着整个唯物主义科学大厦可能建在了一个错误的基石上。霍夫曼自己说，这个数学证明过程非常优雅，甚至“近乎不言而喻”。但他们表现得极其谨慎。因为这结果太重大了。它会直接冲击现有科学界的权威叙事体系。一个更有趣的问题是。如果意识是宇宙的基础，那谁的意识？我们每个人的意识又是如何参与到这个创造过程中的？这套理论，会不会是解开人类潜能和生命意义的关键钥匙？

大脑不产生意识。恰恰相反，是意识创造了我们眼中的现实世界。一位叫唐纳德·霍夫曼的认知科学家，正和两位数学家一起，即将发布这个理论的数学证明。他们的理论是什么？时空，这个我们感知到的三维空间加一维时间，是从更基础的意识层面推导出来的。简单说，先有意识，后有宇宙。这彻底颠覆了现代科学的基本假设。主流科学界一直告诉我们，意识只是大脑神经元活动的副产品。一种复杂的幻觉而已。为什么这个根基性的问题，现在才被拿出来用严谨的数学挑战？如果霍夫曼是对的，这意味着什么？这意味着整个唯物主义科学大厦可能建在了一个错误的基石上。霍夫曼自己说，这个数学证明过程非常优雅，甚至“近乎不言而喻”。但他们表现得极其谨慎。因为这结果太重大了。它会直接冲击现有科学界的权威叙事体系。一个更有趣的问题是。如果意识是宇宙的基础，那谁的意识？我们每个人的意识又是如何参与到这个创造过程中的？这套理论，会不会是解开人类潜能和生命意义的关键钥匙？

墓碑科技

73,332 Aufrufe • vor 5 Monaten

Ilya——塑造世界的人工智能科学家如今，AI 是一项伟大的科技，因为 AI 将解决我们现在面临的所有问题。它能解决就业问题，能治疗疾病，能消除贫困，但同时它也会带来新的问题。假新闻将会愈演愈烈，网络攻击将变得更加严重，我们将面临全自动的 AI 武器的问题。我认为 AI 有潜力创造出无比稳定的独裁统治。今天早晨，关于人工智能威力的警告再次响起，超过 1300 位科技产业领军人物、研究者及其他人士正呼吁暂停人工智能的发展，以便认真考虑其带来的风险。扮演上帝，科学家们被指责这么做已经有一段时间了，但我们正在创造的东西确实与我们迄今为止创造的任何东西都截然不同。是的，我们绝对有能力创造出具有自我目标的全自主实体。而且，这些实体变得比人类聪明的时候，确保它们的目标与我们的目标保持一致将变得至关重要。什么激励我？我喜欢思考根本问题，基本问题。我们的系统不能做什么，而人类却可以做到？我几乎以哲学的方式去思考这些问题。比如，什么是学习？什么是经验？什么是思考？大脑又是如何运作的呢？我感觉技术就仿佛一种自然力量。在我看来，技术与生物进化之间有许多相似之处。生物进化的过程其实很容易理解，我们有基因的变异，自然选择的过程。我们保留那些有利于生存的变异，随着时间的推移，这个过程将使生物体变得极其复杂。我们不能因为理解了生物进化就能理解人体是如何运作的，但我们可以大概理解这个过程。我认为目前的机器学习也处在类似的阶段，特别是深度学习，我们有一个非常简单的规则，它从数据中提取信息，并将这些信息输入到模型中，我们只需不断重复这个过程。这个过程的结果就是将数据的复杂性转化为模型的复杂性。因此，最终的模型会变得非常复杂，我们并不能完全了解它的运作机制，需要进行大量的研究，但实现这一切的算法其实很简单。也许你听说过 ChatGPT，如果你还没听说过，那就做好准备。你可以把它看作是暴风雨来临之前的零星细雨。我们需要对此保持高度警觉，因为我认同这是一个意义重大的时刻。ChatGPT 被誉为颠覆性的创新，在许多方面，它确实做到了，比如在测试中得分超过人类。微软最近的一项研究得出结论，GPT4 是一个初级阶段的，但尚未完全形成的通用人工智能系统。这就是通用人工智能。通用人工智能，这是一个可以胜任人类能做的任何工作或任务的计算机系统，而且可能做得更好。有可能在短时间内实现通用人工智能，也可能需要更长的时间。但我认为，由于通用人工智能可能在不久的将来出现，这个可能性足够大，我们应该给予它足够的重视。这一点至关重要要确保这些超级智能的系统能按照我们的最大利益去行动。最初的通用人工智能可能就是大型数据中心，这些中心中充满了大量并行运行的专用神经网络处理器，紧凑、高热、能耗大，其消耗的能量可能相当于一千万个家庭的用电量。这些系统的智能程度可能会大幅提升，我相信它们将对社会产生深远影响。不过，人类真的会从中获益吗？谁会获益，谁又会付出代价呢？首批通用人工智能的信念和欲望将极为重要，所以我们必须正确地编程这些系统。如果我们做不到这一点，那么就会出现这样的情况：进化的本质，即自然选择，将使这些系统优先考虑自己的生存。并不是说它们会主动对人类产生敌意，甚至想要伤害人类，但它们将变得过于强大。我认为，一个恰当的类比就是人类对待动物的方式。我们并不是憎恨动物，实际上人类往往对动物怀有深深的爱意，但当我们需要在两座城市之间修建高速公路时，我们并不会征求动物的意见，而只是因为这对我们来说非常重要而去做。我认为这也是我们与通用人工智能（AGI）之间的默认关系，那些能真正自主运作并为自己目标服务的 AGI。许多机器学习领域的专家这些知识渊博和经验丰富的人士，对通用人工智能（AGI）抱有许多疑虑。他们对 AGI 可能出现的时间以及是否真的能够实现表示怀疑。目前，这还是一个鲜为人知的问题。用于神经网络和人工智能的计算机速度可能在未来几年内增加 10 万倍。如果多个团队处于竞相开发通用人工智能的军备竞赛态势中，他们就会没有足够的时间来确保他们构建的通用人工智能会真正关心人类。因为在我看来，这就像是通用人工智能发展的雪崩，一发不可收拾。我认为将来整个地球的表面很可能布满太阳能板和数据中心。考虑到这些担忧，未来的通用人工智能的建设应该是多国间的合作项目。不论如何，人工智能的未来都将是美好的。如果这同样也能给人类带来福祉，那就更加理想了。视频来源：

Ilya——塑造世界的人工智能科学家如今，AI 是一项伟大的科技，因为 AI 将解决我们现在面临的所有问题。它能解决就业问题，能治疗疾病，能消除贫困，但同时它也会带来新的问题。假新闻将会愈演愈烈，网络攻击将变得更加严重，我们将面临全自动的 AI 武器的问题。我认为 AI 有潜力创造出无比稳定的独裁统治。今天早晨，关于人工智能威力的警告再次响起，超过 1300 位科技产业领军人物、研究者及其他人士正呼吁暂停人工智能的发展，以便认真考虑其带来的风险。扮演上帝，科学家们被指责这么做已经有一段时间了，但我们正在创造的东西确实与我们迄今为止创造的任何东西都截然不同。是的，我们绝对有能力创造出具有自我目标的全自主实体。而且，这些实体变得比人类聪明的时候，确保它们的目标与我们的目标保持一致将变得至关重要。什么激励我？我喜欢思考根本问题，基本问题。我们的系统不能做什么，而人类却可以做到？我几乎以哲学的方式去思考这些问题。比如，什么是学习？什么是经验？什么是思考？大脑又是如何运作的呢？我感觉技术就仿佛一种自然力量。在我看来，技术与生物进化之间有许多相似之处。生物进化的过程其实很容易理解，我们有基因的变异，自然选择的过程。我们保留那些有利于生存的变异，随着时间的推移，这个过程将使生物体变得极其复杂。我们不能因为理解了生物进化就能理解人体是如何运作的，但我们可以大概理解这个过程。我认为目前的机器学习也处在类似的阶段，特别是深度学习，我们有一个非常简单的规则，它从数据中提取信息，并将这些信息输入到模型中，我们只需不断重复这个过程。这个过程的结果就是将数据的复杂性转化为模型的复杂性。因此，最终的模型会变得非常复杂，我们并不能完全了解它的运作机制，需要进行大量的研究，但实现这一切的算法其实很简单。也许你听说过 ChatGPT，如果你还没听说过，那就做好准备。你可以把它看作是暴风雨来临之前的零星细雨。我们需要对此保持高度警觉，因为我认同这是一个意义重大的时刻。ChatGPT 被誉为颠覆性的创新，在许多方面，它确实做到了，比如在测试中得分超过人类。微软最近的一项研究得出结论，GPT4 是一个初级阶段的，但尚未完全形成的通用人工智能系统。这就是通用人工智能。通用人工智能，这是一个可以胜任人类能做的任何工作或任务的计算机系统，而且可能做得更好。有可能在短时间内实现通用人工智能，也可能需要更长的时间。但我认为，由于通用人工智能可能在不久的将来出现，这个可能性足够大，我们应该给予它足够的重视。这一点至关重要要确保这些超级智能的系统能按照我们的最大利益去行动。最初的通用人工智能可能就是大型数据中心，这些中心中充满了大量并行运行的专用神经网络处理器，紧凑、高热、能耗大，其消耗的能量可能相当于一千万个家庭的用电量。这些系统的智能程度可能会大幅提升，我相信它们将对社会产生深远影响。不过，人类真的会从中获益吗？谁会获益，谁又会付出代价呢？首批通用人工智能的信念和欲望将极为重要，所以我们必须正确地编程这些系统。如果我们做不到这一点，那么就会出现这样的情况：进化的本质，即自然选择，将使这些系统优先考虑自己的生存。并不是说它们会主动对人类产生敌意，甚至想要伤害人类，但它们将变得过于强大。我认为，一个恰当的类比就是人类对待动物的方式。我们并不是憎恨动物，实际上人类往往对动物怀有深深的爱意，但当我们需要在两座城市之间修建高速公路时，我们并不会征求动物的意见，而只是因为这对我们来说非常重要而去做。我认为这也是我们与通用人工智能（AGI）之间的默认关系，那些能真正自主运作并为自己目标服务的 AGI。许多机器学习领域的专家这些知识渊博和经验丰富的人士，对通用人工智能（AGI）抱有许多疑虑。他们对 AGI 可能出现的时间以及是否真的能够实现表示怀疑。目前，这还是一个鲜为人知的问题。用于神经网络和人工智能的计算机速度可能在未来几年内增加 10 万倍。如果多个团队处于竞相开发通用人工智能的军备竞赛态势中，他们就会没有足够的时间来确保他们构建的通用人工智能会真正关心人类。因为在我看来，这就像是通用人工智能发展的雪崩，一发不可收拾。我认为将来整个地球的表面很可能布满太阳能板和数据中心。考虑到这些担忧，未来的通用人工智能的建设应该是多国间的合作项目。不论如何，人工智能的未来都将是美好的。如果这同样也能给人类带来福祉，那就更加理想了。视频来源：

宝玉

45,172 Aufrufe • vor 2 Jahren

一位物理学家，花了整整30年，得出一个惊人的结论。数学，是意识的产物。所以，用数学来解释意识，此路不通。主流物理学家们怎么看这个世界？他们认为，所有存在的，就是所有你能测量的。凡是无法测量的，就没有“内部”，也就不存在。这套逻辑真的无懈可击吗？那量子计算机怎么解释？它的实际运算，并不发生在时空里。它发生在希尔伯特空间。一个纯粹的数学抽象概念。问题来了。你怎么能在一个抽象的数学空间里，进行真实的物理运算？这难道不矛盾吗？这种根本性的不连贯，为什么没人愿意深思？是我们的教育出了问题吗？只教人怎么解方程，怎么套公式。却从不教人如何去思考，去质疑前提。是不是整个体系，从根上就希望我们停止思考这些本质问题？这位物理学家说，他也被如此教导。现在他必须掉过头来，重新审视一切。当一个领域的顶尖人物开始质疑他所在领域的根基时，这通常不是个小事。这背后，究竟意味着什么？

一位物理学家，花了整整30年，得出一个惊人的结论。数学，是意识的产物。所以，用数学来解释意识，此路不通。主流物理学家们怎么看这个世界？他们认为，所有存在的，就是所有你能测量的。凡是无法测量的，就没有“内部”，也就不存在。这套逻辑真的无懈可击吗？那量子计算机怎么解释？它的实际运算，并不发生在时空里。它发生在希尔伯特空间。一个纯粹的数学抽象概念。问题来了。你怎么能在一个抽象的数学空间里，进行真实的物理运算？这难道不矛盾吗？这种根本性的不连贯，为什么没人愿意深思？是我们的教育出了问题吗？只教人怎么解方程，怎么套公式。却从不教人如何去思考，去质疑前提。是不是整个体系，从根上就希望我们停止思考这些本质问题？这位物理学家说，他也被如此教导。现在他必须掉过头来，重新审视一切。当一个领域的顶尖人物开始质疑他所在领域的根基时，这通常不是个小事。这背后，究竟意味着什么？

墓碑科技

51,875 Aufrufe • vor 5 Monaten

颠覆认知！NASA天体物理学家塞勒在最新访谈中抛出了一个极其烧脑的观点：所有的时间其实都是同时存在的。这并非什么现代科幻设定，而是爱因斯坦在一百二十多年前就得出的震撼推论。为了解释这种离谱的现象，她从一个最简单的问题切入：我们在宇宙中到底移动得有多快？地球在自转，同时以每小时六万七千英里的极速狂奔绕日飞行；太阳系又在银河系中狂飙，而整个银河系还在以超百万英里的时速冲向其他星系团。在这种万物都在以不同速度相对运动的绝对混乱中，宇宙根本不存在唯一的绝对速度。正因如此，爱因斯坦认为，理解这一切的唯一方式，就是把整个宇宙看作一个巨大且完整的基础实体。在这里，过去、现在和未来统统只是一种顽固而恼人的错觉，所有的事件其实都处于一种宏大的“现在”之中。这就引出了一个令所有人细思极恐的终极拷问：如果所有时间从始至终都已存在，那我们手腕上每天走过二十四小时的钟表，到底在测量什么？人类是不是仅仅在用人为制造的机械规则，徒劳地去框定一个完全虚无的概念？这恰恰也是当年彻底引爆物理学界革命的核心难题。即便爱因斯坦曾用著名的“光速钟”思维实验摧毁了绝对时空观，但在今天，当被追问“人类到底在测量什么”时，即使是顶尖的科学家也只能无奈摊手。因为时至今日，依然没有人能给出真正的答案。

颠覆认知！NASA天体物理学家塞勒在最新访谈中抛出了一个极其烧脑的观点：所有的时间其实都是同时存在的。这并非什么现代科幻设定，而是爱因斯坦在一百二十多年前就得出的震撼推论。为了解释这种离谱的现象，她从一个最简单的问题切入：我们在宇宙中到底移动得有多快？地球在自转，同时以每小时六万七千英里的极速狂奔绕日飞行；太阳系又在银河系中狂飙，而整个银河系还在以超百万英里的时速冲向其他星系团。在这种万物都在以不同速度相对运动的绝对混乱中，宇宙根本不存在唯一的绝对速度。正因如此，爱因斯坦认为，理解这一切的唯一方式，就是把整个宇宙看作一个巨大且完整的基础实体。在这里，过去、现在和未来统统只是一种顽固而恼人的错觉，所有的事件其实都处于一种宏大的“现在”之中。这就引出了一个令所有人细思极恐的终极拷问：如果所有时间从始至终都已存在，那我们手腕上每天走过二十四小时的钟表，到底在测量什么？人类是不是仅仅在用人为制造的机械规则，徒劳地去框定一个完全虚无的概念？这恰恰也是当年彻底引爆物理学界革命的核心难题。即便爱因斯坦曾用著名的“光速钟”思维实验摧毁了绝对时空观，但在今天，当被追问“人类到底在测量什么”时，即使是顶尖的科学家也只能无奈摊手。因为时至今日，依然没有人能给出真正的答案。

比特币橙子Trader

66,010 Aufrufe • vor 1 Monat

OpenAI工程师翁家翌在下边的访谈里讲了两句非常有意思的话： 1. 每个人的命运是可以被预测的； 2. 上帝在宏观不掷骰子，而微观上掷骰子。某种程度上，个人是很认同的。 "宿命论/命运可预测"：翁家翌认为每个人的命运是可以被预测的，这个世界是一个确定的世界，人类在宏观上是没有自由意志的，世界在宇宙大爆炸的时候就已经确定了。这个立场本质上是物理学中的经典决定论，也就是拉普拉斯妖的思路：如果你知道宇宙某一时刻所有粒子的状态和运动信息，就能推演出整个过去和未来。从这个角度看，人的命运只是初始条件在时间维度上的展开，不可预测只是因为我们信息不够，而不是因为它不确定。翁家翌作为做强化学习的人，会有这种直觉其实不奇怪。RL 本质上就是在一个由规则确定的环境里，通过行动和反馈的闭环来逼近最优策略。如果你把整个宇宙看成一个极其复杂的环境，而人只是其中的 agent，那“命运可预测”就变成了一个工程问题，而非哲学问题，只是算力和信息量的限制。 “上帝在宏观不掷骰子，而微观上掷骰子”：这个观点上，他把爱因斯坦和哥本哈根学派的争论做了一个调和，而不是简单地站某一边。微观掷骰子，这基本上是承认量子力学的实验事实。单个粒子的行为确实是概率性的，你没法预测一个电子具体会出现在哪，只能给出概率分布。这一点在实验上已经反复验证过，没什么好争的。宏观不掷骰子，这才是他真正想表达的核心。意思是：当微观的随机性被大量粒子叠加、平均之后，在宏观层面上涌现出来的规律是确定的。映射到人的命运上，他的意思大概是：你人生中每一个微小的决策瞬间，每一次神经元的放电，可能确实带有量子层面的随机性。但当这些微小的随机性汇聚成一个人几十年的生命轨迹时，大数定律把噪声给消除了，剩下的是一条由初始条件（你的基因、家庭、时代、性格结构）基本锁定的路径。这个观点还有一层更深的含义：它解释了为什么“算命”这件事在统计意义上可能有效，但在具体事件上经常失败。宏观层面的命运轨迹（大致会从事什么类型的工作、大致的人生节奏）或许是可预测的，因为它是由足够多的微观变量平均出来的。但某一天你会遇到谁、某一次会议会说什么话，这些微观事件里骰子还在转。这不是那种粗糙的"一切命中注定"式宿命论，而是一个更接近统计物理的框架：自由意志存在于微观的每一步，但命运浮现于宏观的整条路径。你可以选择今天吃什么，但你这辈子大概会成为什么样的人，可能在出生的时候就差不多定了。

OpenAI工程师翁家翌在下边的访谈里讲了两句非常有意思的话： 1. 每个人的命运是可以被预测的； 2. 上帝在宏观不掷骰子，而微观上掷骰子。某种程度上，个人是很认同的。 "宿命论/命运可预测"：翁家翌认为每个人的命运是可以被预测的，这个世界是一个确定的世界，人类在宏观上是没有自由意志的，世界在宇宙大爆炸的时候就已经确定了。这个立场本质上是物理学中的经典决定论，也就是拉普拉斯妖的思路：如果你知道宇宙某一时刻所有粒子的状态和运动信息，就能推演出整个过去和未来。从这个角度看，人的命运只是初始条件在时间维度上的展开，不可预测只是因为我们信息不够，而不是因为它不确定。翁家翌作为做强化学习的人，会有这种直觉其实不奇怪。RL 本质上就是在一个由规则确定的环境里，通过行动和反馈的闭环来逼近最优策略。如果你把整个宇宙看成一个极其复杂的环境，而人只是其中的 agent，那“命运可预测”就变成了一个工程问题，而非哲学问题，只是算力和信息量的限制。 “上帝在宏观不掷骰子，而微观上掷骰子”：这个观点上，他把爱因斯坦和哥本哈根学派的争论做了一个调和，而不是简单地站某一边。微观掷骰子，这基本上是承认量子力学的实验事实。单个粒子的行为确实是概率性的，你没法预测一个电子具体会出现在哪，只能给出概率分布。这一点在实验上已经反复验证过，没什么好争的。宏观不掷骰子，这才是他真正想表达的核心。意思是：当微观的随机性被大量粒子叠加、平均之后，在宏观层面上涌现出来的规律是确定的。映射到人的命运上，他的意思大概是：你人生中每一个微小的决策瞬间，每一次神经元的放电，可能确实带有量子层面的随机性。但当这些微小的随机性汇聚成一个人几十年的生命轨迹时，大数定律把噪声给消除了，剩下的是一条由初始条件（你的基因、家庭、时代、性格结构）基本锁定的路径。这个观点还有一层更深的含义：它解释了为什么“算命”这件事在统计意义上可能有效，但在具体事件上经常失败。宏观层面的命运轨迹（大致会从事什么类型的工作、大致的人生节奏）或许是可预测的，因为它是由足够多的微观变量平均出来的。但某一天你会遇到谁、某一次会议会说什么话，这些微观事件里骰子还在转。这不是那种粗糙的"一切命中注定"式宿命论，而是一个更接近统计物理的框架：自由意志存在于微观的每一步，但命运浮现于宏观的整条路径。你可以选择今天吃什么，但你这辈子大概会成为什么样的人，可能在出生的时候就差不多定了。

Macro_Lin

371,051 Aufrufe • vor 4 Monaten

陶哲轩给数学学不好但有兴趣的学生的建议： “现在的人必须具备适应性和灵活性。大家需要掌握那些“可迁移的技能”(transferable skills)。比如，仅仅学习一门特定的编程语言，或者数学的某个特定分支，其本身并不是一种特别有价值的可迁移技能。但是，学习如何运用抽象概念进行推理，或者在遇到问题时如何解决问题的能力——我认为这些才是我们未来依然需要的核心能力。即便我们的工具（比如 AI）越来越强大，你仍然需要与它们协同工作。” --- 莱克斯·弗里德曼 (Lex Fridman): 接着这个话题，您会对那些在数学上遇到困难，但又很感兴趣、想要学得更好的年轻学生们提些什么建议呢？在如今复杂的教育环境下，您觉得他们可以做些什么？陶哲轩 (Terence Tao): 是的，这确实是个棘手的问题。但有个好消息是，现在课堂之外，能让孩子们接触和拓展数学学习的资源越来越多了。在我那个年代，就已经有数学竞赛，图书馆里也有很多数学科普读物。而现在，我们有了 YouTube，还有各种专门讨论和解决数学谜题的论坛，数学也开始在更多意想不到的地方出现。从兴趣爱好入手，数学也可以很亲民陶哲轩: 比如，有些业余爱好者喜欢玩扑克，纯粹是为了好玩。但为了某些非常具体的原因，他们会对一些特定的概率问题产生浓厚的兴趣。实际上，在扑克圈子里，已经形成了一个业余概率学家的社群。同样的情况也出现在国际象棋、棒球等领域。数学其实无处不在。公民科学：让公众参与到数学研究中陶哲轩: 我其实非常希望，借助像 Lean（一个定理证明助手）这样的新工具，我们能让更广泛的公众参与到数学研究项目中来。这在目前几乎是从未发生过的事。在其他科学领域，已经有了一些“公民科学”(citizen science) 的实践。比如在天文学，有业余爱好者发现新的彗星；在生物学，有普通人帮忙识别蝴蝶种类等等。在数学领域，之前也只有极少数的活动能让业余数学爱好者参与，比如寻找新的素数。但过去，我们必须验证每一个贡献的正确性。因此，对于大多数数学研究项目来说，引入公众的参与非但没有帮助，反而会因为大量的错误检查工作而非常耗时。但是，像数学形式化这样的项目有一个好处，那就是它们能把更多的人聚集起来。我相信，现在已经有高中生为 Mathlib（一个数学定理库）这样的形式化项目做出了贡献。想要参与进来，解决一个小小的、原子级别的问题，你并不需要拥有博士学位。编程：一条通往数学的捷径莱克斯·弗里德曼: 数学的形式化似乎也为编程社区打开了一扇大门。那些对编程感到习以为常的人，或许能更容易地走进数学世界。给我的感觉是，编程似乎比数学更容易上手。数学，特别是现代数学，被看作是一个门槛极高的领域，而编程则不同。所以，编程或许可以成为一个很好的切入点。陶哲轩: 是的，你可以运行代码，然后立刻看到结果，比如很快就能打印出 "Hello world"。如果编程也被当作一门纯理论的学科来教，只教计算机科学、函数理论、程序理论等等，而不让你在周末为了好玩去实际写写代码，那么它也会被认为和数学一样难。在热爱的领域里，发现数学、应用数学陶哲轩: 正如我刚才所说，在很多非数学家的圈子里，人们为了某个非常具体的目标而在运用数学，比如优化他们的扑克策略。对他们来说，数学因此变得非常有趣。给年轻人的职业建议：拥抱不确定的未来莱克斯·弗里德曼: 总的来说，对于年轻人如何选择职业、如何找到自己的定位和天赋所在，您有什么建议？陶哲轩: 这个问题真的非常难回答。当今世界充满了不确定性。你知道，战后曾经有过一段时期，至少在西方，如果你来自一个不错的家庭背景，通往好职业的道路是非常稳定的：上大学、接受教育、选择一个专业，然后一直做下去。莱克斯·弗里德曼: 那样的时代越来越成为过去了。所以我认为，现在的人必须具备适应性和灵活性。大家需要掌握那些“可迁移的技能”(transferable skills)。陶哲轩: 的确。比如，仅仅学习一门特定的编程语言，或者数学的某个特定分支，其本身并不是一种特别有价值的可迁移技能。但是，学习如何运用抽象概念进行推理，或者在遇到问题时如何解决问题的能力——我认为这些才是我们未来依然需要的核心能力。即便我们的工具（比如 AI）越来越强大，你仍然需要与它们协同工作。莱克斯·弗里德曼: 确实，您本人就是一个很有趣的案例。完整视频：Terence Tao: Hardest Problems in Mathematics, Physics & the Future of AI | Lex Fridman Podcast #472

陶哲轩给数学学不好但有兴趣的学生的建议： “现在的人必须具备适应性和灵活性。大家需要掌握那些“可迁移的技能”(transferable skills)。比如，仅仅学习一门特定的编程语言，或者数学的某个特定分支，其本身并不是一种特别有价值的可迁移技能。但是，学习如何运用抽象概念进行推理，或者在遇到问题时如何解决问题的能力——我认为这些才是我们未来依然需要的核心能力。即便我们的工具（比如 AI）越来越强大，你仍然需要与它们协同工作。” --- 莱克斯·弗里德曼 (Lex Fridman): 接着这个话题，您会对那些在数学上遇到困难，但又很感兴趣、想要学得更好的年轻学生们提些什么建议呢？在如今复杂的教育环境下，您觉得他们可以做些什么？陶哲轩 (Terence Tao): 是的，这确实是个棘手的问题。但有个好消息是，现在课堂之外，能让孩子们接触和拓展数学学习的资源越来越多了。在我那个年代，就已经有数学竞赛，图书馆里也有很多数学科普读物。而现在，我们有了 YouTube，还有各种专门讨论和解决数学谜题的论坛，数学也开始在更多意想不到的地方出现。从兴趣爱好入手，数学也可以很亲民陶哲轩: 比如，有些业余爱好者喜欢玩扑克，纯粹是为了好玩。但为了某些非常具体的原因，他们会对一些特定的概率问题产生浓厚的兴趣。实际上，在扑克圈子里，已经形成了一个业余概率学家的社群。同样的情况也出现在国际象棋、棒球等领域。数学其实无处不在。公民科学：让公众参与到数学研究中陶哲轩: 我其实非常希望，借助像 Lean（一个定理证明助手）这样的新工具，我们能让更广泛的公众参与到数学研究项目中来。这在目前几乎是从未发生过的事。在其他科学领域，已经有了一些“公民科学”(citizen science) 的实践。比如在天文学，有业余爱好者发现新的彗星；在生物学，有普通人帮忙识别蝴蝶种类等等。在数学领域，之前也只有极少数的活动能让业余数学爱好者参与，比如寻找新的素数。但过去，我们必须验证每一个贡献的正确性。因此，对于大多数数学研究项目来说，引入公众的参与非但没有帮助，反而会因为大量的错误检查工作而非常耗时。但是，像数学形式化这样的项目有一个好处，那就是它们能把更多的人聚集起来。我相信，现在已经有高中生为 Mathlib（一个数学定理库）这样的形式化项目做出了贡献。想要参与进来，解决一个小小的、原子级别的问题，你并不需要拥有博士学位。编程：一条通往数学的捷径莱克斯·弗里德曼: 数学的形式化似乎也为编程社区打开了一扇大门。那些对编程感到习以为常的人，或许能更容易地走进数学世界。给我的感觉是，编程似乎比数学更容易上手。数学，特别是现代数学，被看作是一个门槛极高的领域，而编程则不同。所以，编程或许可以成为一个很好的切入点。陶哲轩: 是的，你可以运行代码，然后立刻看到结果，比如很快就能打印出 "Hello world"。如果编程也被当作一门纯理论的学科来教，只教计算机科学、函数理论、程序理论等等，而不让你在周末为了好玩去实际写写代码，那么它也会被认为和数学一样难。在热爱的领域里，发现数学、应用数学陶哲轩: 正如我刚才所说，在很多非数学家的圈子里，人们为了某个非常具体的目标而在运用数学，比如优化他们的扑克策略。对他们来说，数学因此变得非常有趣。给年轻人的职业建议：拥抱不确定的未来莱克斯·弗里德曼: 总的来说，对于年轻人如何选择职业、如何找到自己的定位和天赋所在，您有什么建议？陶哲轩: 这个问题真的非常难回答。当今世界充满了不确定性。你知道，战后曾经有过一段时期，至少在西方，如果你来自一个不错的家庭背景，通往好职业的道路是非常稳定的：上大学、接受教育、选择一个专业，然后一直做下去。莱克斯·弗里德曼: 那样的时代越来越成为过去了。所以我认为，现在的人必须具备适应性和灵活性。大家需要掌握那些“可迁移的技能”(transferable skills)。陶哲轩: 的确。比如，仅仅学习一门特定的编程语言，或者数学的某个特定分支，其本身并不是一种特别有价值的可迁移技能。但是，学习如何运用抽象概念进行推理，或者在遇到问题时如何解决问题的能力——我认为这些才是我们未来依然需要的核心能力。即便我们的工具（比如 AI）越来越强大，你仍然需要与它们协同工作。莱克斯·弗里德曼: 确实，您本人就是一个很有趣的案例。完整视频：Terence Tao: Hardest Problems in Mathematics, Physics & the Future of AI | Lex Fridman Podcast #472

宝玉

88,601 Aufrufe • vor 10 Monaten

【杨立昆vs亚当·布朗：LLM是不是真智能？"涌现"是否等于"理解"?】和哈萨比斯的争辩类似，这东西肯定是争不出个结果的，但思辨的过程很有趣，继奇葩说之后很少认真看辩论了。杨立昆认为，目前AI缺失“底层现实”的根基。他认为语言只是现实的投影，LLM之所以强大，是因为它读了人类50万年才能读完的书，但即便如此，它在物理常识上还不如一只猫。由于无法处理现实世界高维、连续的感官数据，AI能通过律师考试，却无法学会洗碗或开车。在他眼中，单纯的语言预测无法通往AGI。亚当·布朗从“能力涌现”的角度提出反驳，他认为当LLM能解开从未见过的奥数难题时，它就不再是简单的查表或模式匹配。研究发现，AI为了预测下一个词，竟然自发在内部进化出了处理数学逻辑的原始电路。这种自下而上的能力生长，难道不是一种真正的理解？这场辩论，大家站哪边？究竟智能是必须植根于物理世界的常识（杨立昆），还是只要逻辑抽象到一定高度，便能产生意义（亚当）？欢迎评论区讨论

【杨立昆vs亚当·布朗：LLM是不是真智能？"涌现"是否等于"理解"?】和哈萨比斯的争辩类似，这东西肯定是争不出个结果的，但思辨的过程很有趣，继奇葩说之后很少认真看辩论了。杨立昆认为，目前AI缺失“底层现实”的根基。他认为语言只是现实的投影，LLM之所以强大，是因为它读了人类50万年才能读完的书，但即便如此，它在物理常识上还不如一只猫。由于无法处理现实世界高维、连续的感官数据，AI能通过律师考试，却无法学会洗碗或开车。在他眼中，单纯的语言预测无法通往AGI。亚当·布朗从“能力涌现”的角度提出反驳，他认为当LLM能解开从未见过的奥数难题时，它就不再是简单的查表或模式匹配。研究发现，AI为了预测下一个词，竟然自发在内部进化出了处理数学逻辑的原始电路。这种自下而上的能力生长，难道不是一种真正的理解？这场辩论，大家站哪边？究竟智能是必须植根于物理世界的常识（杨立昆），还是只要逻辑抽象到一定高度，便能产生意义（亚当）？欢迎评论区讨论

傅盛

34,772 Aufrufe • vor 7 Monaten

这个太漂亮了： Strange Attractors 是一个使用 Three.js 实现的动态系统可视化工具，它通过简单的数学方程展示了混沌系统的复杂美感。通过观察不同参数下的 Thomas Attractor，用户可以直观地体验到‘蝴蝶效应’，即微小的变化如何导致完全不同的结果。这个工具不仅展示了混沌理论的奇妙之处，还让普通人也能感受到数学之美。左侧可以修改不同的方程，右边还可以调整参数。我对混沌系统并没有什么了解，但是画面太美了，涌现宇宙之美，情不自禁的呆呆的看了很久，从混沌中涌现秩序，也许是美学的极致。

这个太漂亮了： Strange Attractors 是一个使用 Three.js 实现的动态系统可视化工具，它通过简单的数学方程展示了混沌系统的复杂美感。通过观察不同参数下的 Thomas Attractor，用户可以直观地体验到‘蝴蝶效应’，即微小的变化如何导致完全不同的结果。这个工具不仅展示了混沌理论的奇妙之处，还让普通人也能感受到数学之美。左侧可以修改不同的方程，右边还可以调整参数。我对混沌系统并没有什么了解，但是画面太美了，涌现宇宙之美，情不自禁的呆呆的看了很久，从混沌中涌现秩序，也许是美学的极致。

Viking

28,915 Aufrufe • vor 8 Monaten

人工智能到底会不会思考？它真的懂你在说什么吗？菲尔兹奖得主，数学家陶哲轩，告诉你一个惊人事实。 AI根本不会理解概念。但它能干一件更可怕的事：发现隐藏的规律。来看一个数学领域的例子。纽结理论，听起来很绕，对吧？你可以把它想象成一堆堆的绳结，有些能解开，有些永远解不开。数学家们怎么区分这些绳结呢？用各种数字，叫作“纽结不变量”。然后，好戏开场了。一个老派的神经网络，还不是什么花哨的大语言模型。科学家们给它喂了100万个绳结的数据。让它自己去“看”。结果，这个AI发现了一个没人预料到的关联。它发现，一个叫“符号差”的不变量，竟然可以被另一堆叫“双曲不变量”的数字，以极高的精度预测出来！在这之前，人类数学家从没怀疑过它们之间有这种关系。一开始，这就像个黑箱。 AI只告诉你结果，不告诉你为什么。但它指出了一个方向，一个人类从未踏足的方向。 AI不是在思考，它是在揭示宇宙背后那些我们看不见的，隐藏的关联。

人工智能到底会不会思考？它真的懂你在说什么吗？菲尔兹奖得主，数学家陶哲轩，告诉你一个惊人事实。 AI根本不会理解概念。但它能干一件更可怕的事：发现隐藏的规律。来看一个数学领域的例子。纽结理论，听起来很绕，对吧？你可以把它想象成一堆堆的绳结，有些能解开，有些永远解不开。数学家们怎么区分这些绳结呢？用各种数字，叫作“纽结不变量”。然后，好戏开场了。一个老派的神经网络，还不是什么花哨的大语言模型。科学家们给它喂了100万个绳结的数据。让它自己去“看”。结果，这个AI发现了一个没人预料到的关联。它发现，一个叫“符号差”的不变量，竟然可以被另一堆叫“双曲不变量”的数字，以极高的精度预测出来！在这之前，人类数学家从没怀疑过它们之间有这种关系。一开始，这就像个黑箱。 AI只告诉你结果，不告诉你为什么。但它指出了一个方向，一个人类从未踏足的方向。 AI不是在思考，它是在揭示宇宙背后那些我们看不见的，隐藏的关联。

墓碑科技

39,169 Aufrufe • vor 6 Monaten