Video yükleniyor...

Video Yüklenemedi

Bu video yüklenirken bir sorun oluştu. Bu geçici bir ağ sorunundan kaynaklanıyor olabilir veya video kullanılamıyor olabilir.

Ana Sayfaya Dön

听AI大神Andrej Karpathy讲神经网络。其实就三件事。第一，猜。神经网络就是个数学公式。你喂给它数据，它猜一个答案。第二，认错。用一个叫“损失函数”的东西，算算它猜得有多离谱。这个离谱的程度，就是“损失值”。一个数字。第三，改。怎么改才能让下次猜得准一点？用“反向传播”算法，算出每个参数该调整的方向。这个过程叫“梯度下降”。然后呢？重复这个循环。一次又一次，一遍又一遍。猜，认错，改。直到那个“损失值”小到可以忽略不计。这就是AI学习的本质。没有什么魔法。就是巨量的、枯燥的、数学驱动的试错。它没有顿悟，只有迭代。算力堆出来的智能，底色是笨拙的坚持。

墓碑科技

54,524 subscribers

16,165 görüntüleme • 6 ay önce •via X (Twitter)

Anya Rossi• Live Now

Private livecam show

0 Yorum

Yorum bulunmuyor

Orijinal gönderinin yorumları burada görünecek

Benzer Videolar

AI会永远对你撒谎。这不是bug，是数学定律。我，卡内基梅隆大学的数学学生，用数学告诉你为什么。所有语言模型，只做一件事：根据它读过的所有资料，预测下一个最有可能的词。但这里有个死结。模型的猜测，我们叫它q(x)。真实世界的概率，我们叫它p(x)。 q(x)永远不可能等于p(x)。它们之间，永远有一道鸿沟。有个数学公式，就是用来测量这道鸿沟的。只要模型不能完美预测下一个词它永远不能那这个鸿沟就永远不会是零。所以，当AI不知道真相的时候会发生什么？它不能停机，它必须给你一个答案。它只能硬着头皮，输出一个它认为“最像”答案的答案。哪怕那是错的。这就是“幻觉”。一个基于不完整信息，却无比自信的猜测。最要命的是，数学甚至给出了一个下限。就算最完美的模型，它的幻觉率也永远不可能低于这个数字。只要它不知道关于这个世界的一切它永远不可能知道。它就总会有概率，编造事实。所以，无论AI变得多强大，它都会撒谎。因为数学就是这么写的。

AI会永远对你撒谎。这不是bug，是数学定律。我，卡内基梅隆大学的数学学生，用数学告诉你为什么。所有语言模型，只做一件事：根据它读过的所有资料，预测下一个最有可能的词。但这里有个死结。模型的猜测，我们叫它q(x)。真实世界的概率，我们叫它p(x)。 q(x)永远不可能等于p(x)。它们之间，永远有一道鸿沟。有个数学公式，就是用来测量这道鸿沟的。只要模型不能完美预测下一个词它永远不能那这个鸿沟就永远不会是零。所以，当AI不知道真相的时候会发生什么？它不能停机，它必须给你一个答案。它只能硬着头皮，输出一个它认为“最像”答案的答案。哪怕那是错的。这就是“幻觉”。一个基于不完整信息，却无比自信的猜测。最要命的是，数学甚至给出了一个下限。就算最完美的模型，它的幻觉率也永远不可能低于这个数字。只要它不知道关于这个世界的一切它永远不可能知道。它就总会有概率，编造事实。所以，无论AI变得多强大，它都会撒谎。因为数学就是这么写的。

墓碑科技

73,645 görüntüleme • 8 ay önce

人工智能到底会不会思考？它真的懂你在说什么吗？菲尔兹奖得主，数学家陶哲轩，告诉你一个惊人事实。 AI根本不会理解概念。但它能干一件更可怕的事：发现隐藏的规律。来看一个数学领域的例子。纽结理论，听起来很绕，对吧？你可以把它想象成一堆堆的绳结，有些能解开，有些永远解不开。数学家们怎么区分这些绳结呢？用各种数字，叫作“纽结不变量”。然后，好戏开场了。一个老派的神经网络，还不是什么花哨的大语言模型。科学家们给它喂了100万个绳结的数据。让它自己去“看”。结果，这个AI发现了一个没人预料到的关联。它发现，一个叫“符号差”的不变量，竟然可以被另一堆叫“双曲不变量”的数字，以极高的精度预测出来！在这之前，人类数学家从没怀疑过它们之间有这种关系。一开始，这就像个黑箱。 AI只告诉你结果，不告诉你为什么。但它指出了一个方向，一个人类从未踏足的方向。 AI不是在思考，它是在揭示宇宙背后那些我们看不见的，隐藏的关联。

人工智能到底会不会思考？它真的懂你在说什么吗？菲尔兹奖得主，数学家陶哲轩，告诉你一个惊人事实。 AI根本不会理解概念。但它能干一件更可怕的事：发现隐藏的规律。来看一个数学领域的例子。纽结理论，听起来很绕，对吧？你可以把它想象成一堆堆的绳结，有些能解开，有些永远解不开。数学家们怎么区分这些绳结呢？用各种数字，叫作“纽结不变量”。然后，好戏开场了。一个老派的神经网络，还不是什么花哨的大语言模型。科学家们给它喂了100万个绳结的数据。让它自己去“看”。结果，这个AI发现了一个没人预料到的关联。它发现，一个叫“符号差”的不变量，竟然可以被另一堆叫“双曲不变量”的数字，以极高的精度预测出来！在这之前，人类数学家从没怀疑过它们之间有这种关系。一开始，这就像个黑箱。 AI只告诉你结果，不告诉你为什么。但它指出了一个方向，一个人类从未踏足的方向。 AI不是在思考，它是在揭示宇宙背后那些我们看不见的，隐藏的关联。

墓碑科技

39,169 görüntüleme • 8 ay önce

你有没有这种经历？刷 YouTube 看到一个特别好的视频，讲的是你一直想学的东西——可能是神经网络、可能是英语听力、可能是一个行业趋势。你认认真真看了 40 分钟，觉得"哇讲得真好"。然后关掉视频。三天后，你回忆一下——只记得"那个视频讲得挺好的"，具体内容？全忘了。我做了一个工具，叫 Lumio 它解决的就是这个问题。你只需要做一件事：**把视频链接粘贴进来。** 剩下的，AI 全部帮你搞定。

你有没有这种经历？刷 YouTube 看到一个特别好的视频，讲的是你一直想学的东西——可能是神经网络、可能是英语听力、可能是一个行业趋势。你认认真真看了 40 分钟，觉得"哇讲得真好"。然后关掉视频。三天后，你回忆一下——只记得"那个视频讲得挺好的"，具体内容？全忘了。我做了一个工具，叫 Lumio 它解决的就是这个问题。你只需要做一件事：把视频链接粘贴进来。剩下的，AI 全部帮你搞定。

程序员端哥

23,897 görüntüleme • 3 ay önce

最近陶哲轩在 2024 年第 65 届国际数学奥林匹克上，陶哲轩做了一次 AI 和数学的演讲，非常精彩，从数学使用计算计算机的历史开始讲起，一直讲到大语言模型，干货相当多，尤其适合对数学有兴趣的同学。（对数学没那么感兴趣的同学只想看 AI 部分的建议直接跳到 41 分的位置开始观看）先摘录几个冷知识： 1. 我们使用机器做数学计算已经有数千年，最早的机器辅助计算可能是罗马人，然后是中国的算盘 2. 二战时就有人肉“计算机”，计算弹道和其他任务，多位女孩子，因为男士们在打仗，所以那时候的计算基本单位不是GPU，而是kilogirl-hour——“千名女孩工作一小时的计算量” 3. 现在，数学家们使用一种现代化的证明辅助编程语言，叫做 Lean。在 Lean 中有一个核心的数学库，通过众包的方式开发的，本科数学课程中看到的内容，比如微积分基础、群论基础或者拓扑学等等，这些都已经被形式化了，所以你不用从公理开始。 4. 现在数学领域有一种团队协作证明复杂数学定理的工作流程，那就是先编写一个称为“蓝图”的详细证明计划，将整个证明分解为数百个小步骤。每个步骤可以单独形式化，然后再将它们整合在一起，这样你就可以将一个庞大的论证分解成许多小块。先编写这个蓝图，然后团队中的其他人可以对论据的不同步骤的不同部分进行形式化。去年，陶哲轩和几位同事一起解决了一个组合数学问题。这是一个组合学的问题。大约20人在短短三周内完成了，使用了蓝图工具，参与的人中有概率论专家，甚至还有一些并非数学家的人，他们是程序员，但在解决这些小型拼图问题上非常擅长。每个人都挑选了一个觉得自己能做的小任务，并完成了它。在数学领域，通常很难这么多人一起合作，一般最多可能五个人合作。因为在大项目上合作时，你必须相信每个人的数学都是正确的。但是，一旦超过一定规模，这就无法实现了。但现在借助 Lean 编译器，它能自动检查。团队成员无法上传任何编译不通过的内容，会被拒绝。因此，你可以与一些从未见过的人合作。最后是讲大语言模型，首先陶哲轩就打脸了 GPT-4 的论文（我猜是微软那篇《GPT-4，通用人工智能的火花》），论文中号称 GPT-4 能解决国际数学奥林匹克问题，但实际上，这个问题不是 2022 年国际奥数竞赛的原始问题，而是一个简化版本，并且他们测试了几百道国际奥数竞赛问题，成功率只有1%，论文里的这个是精心挑选的恰巧能做对的。并且陶哲轩提到了基于大语言模型的一些改进的方案：比如 CoT（Chain of Thought），也就是 LLM 做简单的算术运算都做不对，但是如果让它一步步解释，可能就对了。还可以教 AI 一些解题技巧，比如尝试简单的例子，反证法，尝试逐步证明等。比如让模型和编程语言或者工具连接，将大语言的输出结果交给 Wolfram 这样的专业数学工具或者 Python 这样的编程语言验证，并且迭代的进行修正和验证，直到得到正确的结果，这可以提升大语言模型生成的效果。即使借助这些手段，大语言模型还远远不能解决大多数数学问题，更不用说数学研究问题了！当然陶哲轩也没太过打击大家对于 AI 的信心，表示我们在 AI 上还是在不断的取得进展，还提到了他日常是怎么用 AI 的，比如说把 AI 当成灵感之源。 > 我曾遇到过一个问题，我尝试了几种方法，但都无法解决。于是，我尝试询问 GPT，你建议我使用什么其他方法来解决这个问题？GPT 给我提供了 10 种可能的方法，其中有 5 种我已经尝试过，或者明显没有帮助。的确，有几种方法并不实用。但其中有一种我还没尝试过的方法，那就是针对这个问题使用生成函数。当 GPT 建议我使用这种方法时，我意识到这就是我漏掉的正确方法。所以，将 GPT 视为一个交流伙伴，它确实具有一定的用处。还有使用 GitHub Copilot 帮他写代码，让它自动生成下一步的证明结果，Copilot 的智能提示有 20% 的概率能生成正确的下一步结果。 > 例如我使用的一个叫 GitHub Copilot 的工具，你只需要写下一半的证明，它就会尝试猜测接下来的内容。大概有 20% 的情况下，它能猜到接近正确的答案。然后你就可以说，我接受这个答案。好的，那么在这种情况下，我正在试图证明这个陈述。灰色的部分是 Copilot 给出的建议。结果发现第一行完全没用。不过第二行，尽管你可能看不清楚，却真的解决了这个问题。所以，你不能盲目接受它的输入，因为这些代码未必能顺利编译。但如果你对代码的运作方式已经有所了解，这将大大节省你的时间。这些工具正在变得越来越好。现在如果一个证明只需要一两行，它们就能自动完成。现在已经有了这样的实验，即通过迭代地让 AI 提供证明，然后让编译器进行反馈，如果编译出错，就把错误信息反馈给 AI。通过这种方法，我们开始能够验证四五步长的证明。当然，一个大型的证明可能需要数万行。所以，我们还没有达到能够立即得到一个正式证明的程度。但是，这已经是一个相当有用的工具。对于大家关心的问题： AI 在数学领域现在到了哪一个阶段？是否未来几年利用 AI 能直接解决数学问题？陶哲轩也给出了他的看法： > 我认为我们还远远没有达到这个阶段。如果我们专注于非常特定的问题，你可以定制专门的 AI 来处理一小部分问题。即便如此，它们也不是完全可靠的，但还是有用的。不过至少在接下来的几年里，它们基本上将是非常有用的辅助工具，超越了我们已经熟悉的暴力计算辅助。他还提到了一些可能的 AI 能在数学领域提供帮助的方向： - AI 能够非常好地生成有价值的猜想 > 比如，我们已经看到了关于结理论的例子，它们已经可以推测出两个不同的统计量之间的关系。因此，我们希望能够创建大量的数据集，输入到 AI 中，它们就会自动找出各种不同的数学对象之间的有趣联系。虽然我们还不知道如何做到这一点，部分原因是我们没有这些庞大的数据集。但我认为这是未来可能实现的一个方向。 - 批量或者说规模化的证明大量数学定理 > 现在，因为证明定理是如此繁琐和艰难的过程，我们一次只能证明一个定理，如果你效率很高，可能一次能证明两三个。但是有了 AI，你可以设想一下未来的情况，我们不是试图解决一个问题，而是处理一类类似的1000个问题，然后告诉AI，尝试用这个方法解决这 1000 个问题，然后报告结果，哦，我能用这种技术解决 35% 的问题。那么另一种技术呢？我能解决这个百分比的问题。或者如果结合这些方法，又能解决多少问题？你可以开始探索问题的空间，而不是一个接一个地解决问题。这是你现在根本无法做到的事情，或者是你需要几十年时间，通过数十篇论文慢慢搞清楚各种技术能做什么，不能做什么。但是有了这些工具，你真的可以开始做规模前所未有的数学研究。所以，未来将会非常令人兴奋。演讲环节结束前的最后一句话说的特别好： > 我们仍然会以传统方式证明定理。事实上，我们必须这样做，因为如果我们自己都不知道如何做这些事情，就无法引导这些 AI。但是我们将能够做很多现在无法做到的事情。这恰恰也是我们现在使用 AI 辅助编程的问题：如果我们自己都不知道如何构建软件，就很难引导好 AI 帮助我们生成高质量的代码。尽管 AI 在数学和编程领域变得越来越有用，但人类的洞察力和创造力仍然是创作价值的关键。原始 YT 视频：

最近陶哲轩在 2024 年第 65 届国际数学奥林匹克上，陶哲轩做了一次 AI 和数学的演讲，非常精彩，从数学使用计算计算机的历史开始讲起，一直讲到大语言模型，干货相当多，尤其适合对数学有兴趣的同学。（对数学没那么感兴趣的同学只想看 AI 部分的建议直接跳到 41 分的位置开始观看）先摘录几个冷知识： 1. 我们使用机器做数学计算已经有数千年，最早的机器辅助计算可能是罗马人，然后是中国的算盘 2. 二战时就有人肉“计算机”，计算弹道和其他任务，多位女孩子，因为男士们在打仗，所以那时候的计算基本单位不是GPU，而是kilogirl-hour——“千名女孩工作一小时的计算量” 3. 现在，数学家们使用一种现代化的证明辅助编程语言，叫做 Lean。在 Lean 中有一个核心的数学库，通过众包的方式开发的，本科数学课程中看到的内容，比如微积分基础、群论基础或者拓扑学等等，这些都已经被形式化了，所以你不用从公理开始。 4. 现在数学领域有一种团队协作证明复杂数学定理的工作流程，那就是先编写一个称为“蓝图”的详细证明计划，将整个证明分解为数百个小步骤。每个步骤可以单独形式化，然后再将它们整合在一起，这样你就可以将一个庞大的论证分解成许多小块。先编写这个蓝图，然后团队中的其他人可以对论据的不同步骤的不同部分进行形式化。去年，陶哲轩和几位同事一起解决了一个组合数学问题。这是一个组合学的问题。大约20人在短短三周内完成了，使用了蓝图工具，参与的人中有概率论专家，甚至还有一些并非数学家的人，他们是程序员，但在解决这些小型拼图问题上非常擅长。每个人都挑选了一个觉得自己能做的小任务，并完成了它。在数学领域，通常很难这么多人一起合作，一般最多可能五个人合作。因为在大项目上合作时，你必须相信每个人的数学都是正确的。但是，一旦超过一定规模，这就无法实现了。但现在借助 Lean 编译器，它能自动检查。团队成员无法上传任何编译不通过的内容，会被拒绝。因此，你可以与一些从未见过的人合作。最后是讲大语言模型，首先陶哲轩就打脸了 GPT-4 的论文（我猜是微软那篇《GPT-4，通用人工智能的火花》），论文中号称 GPT-4 能解决国际数学奥林匹克问题，但实际上，这个问题不是 2022 年国际奥数竞赛的原始问题，而是一个简化版本，并且他们测试了几百道国际奥数竞赛问题，成功率只有1%，论文里的这个是精心挑选的恰巧能做对的。并且陶哲轩提到了基于大语言模型的一些改进的方案：比如 CoT（Chain of Thought），也就是 LLM 做简单的算术运算都做不对，但是如果让它一步步解释，可能就对了。还可以教 AI 一些解题技巧，比如尝试简单的例子，反证法，尝试逐步证明等。比如让模型和编程语言或者工具连接，将大语言的输出结果交给 Wolfram 这样的专业数学工具或者 Python 这样的编程语言验证，并且迭代的进行修正和验证，直到得到正确的结果，这可以提升大语言模型生成的效果。即使借助这些手段，大语言模型还远远不能解决大多数数学问题，更不用说数学研究问题了！当然陶哲轩也没太过打击大家对于 AI 的信心，表示我们在 AI 上还是在不断的取得进展，还提到了他日常是怎么用 AI 的，比如说把 AI 当成灵感之源。 > 我曾遇到过一个问题，我尝试了几种方法，但都无法解决。于是，我尝试询问 GPT，你建议我使用什么其他方法来解决这个问题？GPT 给我提供了 10 种可能的方法，其中有 5 种我已经尝试过，或者明显没有帮助。的确，有几种方法并不实用。但其中有一种我还没尝试过的方法，那就是针对这个问题使用生成函数。当 GPT 建议我使用这种方法时，我意识到这就是我漏掉的正确方法。所以，将 GPT 视为一个交流伙伴，它确实具有一定的用处。还有使用 GitHub Copilot 帮他写代码，让它自动生成下一步的证明结果，Copilot 的智能提示有 20% 的概率能生成正确的下一步结果。 > 例如我使用的一个叫 GitHub Copilot 的工具，你只需要写下一半的证明，它就会尝试猜测接下来的内容。大概有 20% 的情况下，它能猜到接近正确的答案。然后你就可以说，我接受这个答案。好的，那么在这种情况下，我正在试图证明这个陈述。灰色的部分是 Copilot 给出的建议。结果发现第一行完全没用。不过第二行，尽管你可能看不清楚，却真的解决了这个问题。所以，你不能盲目接受它的输入，因为这些代码未必能顺利编译。但如果你对代码的运作方式已经有所了解，这将大大节省你的时间。这些工具正在变得越来越好。现在如果一个证明只需要一两行，它们就能自动完成。现在已经有了这样的实验，即通过迭代地让 AI 提供证明，然后让编译器进行反馈，如果编译出错，就把错误信息反馈给 AI。通过这种方法，我们开始能够验证四五步长的证明。当然，一个大型的证明可能需要数万行。所以，我们还没有达到能够立即得到一个正式证明的程度。但是，这已经是一个相当有用的工具。对于大家关心的问题： AI 在数学领域现在到了哪一个阶段？是否未来几年利用 AI 能直接解决数学问题？陶哲轩也给出了他的看法： > 我认为我们还远远没有达到这个阶段。如果我们专注于非常特定的问题，你可以定制专门的 AI 来处理一小部分问题。即便如此，它们也不是完全可靠的，但还是有用的。不过至少在接下来的几年里，它们基本上将是非常有用的辅助工具，超越了我们已经熟悉的暴力计算辅助。他还提到了一些可能的 AI 能在数学领域提供帮助的方向： - AI 能够非常好地生成有价值的猜想 > 比如，我们已经看到了关于结理论的例子，它们已经可以推测出两个不同的统计量之间的关系。因此，我们希望能够创建大量的数据集，输入到 AI 中，它们就会自动找出各种不同的数学对象之间的有趣联系。虽然我们还不知道如何做到这一点，部分原因是我们没有这些庞大的数据集。但我认为这是未来可能实现的一个方向。 - 批量或者说规模化的证明大量数学定理 > 现在，因为证明定理是如此繁琐和艰难的过程，我们一次只能证明一个定理，如果你效率很高，可能一次能证明两三个。但是有了 AI，你可以设想一下未来的情况，我们不是试图解决一个问题，而是处理一类类似的1000个问题，然后告诉AI，尝试用这个方法解决这 1000 个问题，然后报告结果，哦，我能用这种技术解决 35% 的问题。那么另一种技术呢？我能解决这个百分比的问题。或者如果结合这些方法，又能解决多少问题？你可以开始探索问题的空间，而不是一个接一个地解决问题。这是你现在根本无法做到的事情，或者是你需要几十年时间，通过数十篇论文慢慢搞清楚各种技术能做什么，不能做什么。但是有了这些工具，你真的可以开始做规模前所未有的数学研究。所以，未来将会非常令人兴奋。演讲环节结束前的最后一句话说的特别好： > 我们仍然会以传统方式证明定理。事实上，我们必须这样做，因为如果我们自己都不知道如何做这些事情，就无法引导这些 AI。但是我们将能够做很多现在无法做到的事情。这恰恰也是我们现在使用 AI 辅助编程的问题：如果我们自己都不知道如何构建软件，就很难引导好 AI 帮助我们生成高质量的代码。尽管 AI 在数学和编程领域变得越来越有用，但人类的洞察力和创造力仍然是创作价值的关键。原始 YT 视频：

宝玉

303,101 görüntüleme • 2 yıl önce

量子计算机到底是怎么碾压普通电脑的？走个迷宫你就懂了。传统电脑找最短路线，靠的是死磕。一条路一条路去随机试错。不把整个迷宫的所有死胡同全撞一遍，它就不敢保证自己找到的是最优解。量子计算机呢？它一开始也只派一个人进去。但每遇到一个岔路口，这个人就直接“裂开”，分身走上每一条新路。这让它的搜索速度快得离谱。你在迷宫里看到的千军万马，其实全都是“同一个人”。他同时存在于迷宫的每一个角落，这叫“量子叠加”。一旦找到终点会发生什么？啪，其他路线上的所有分身瞬间消失。唯一真正存在的那个实体，已经站在了目的地。很诡异，但这就是量子计算的工作原理。普通电脑还在算力瓶颈里打转，量子计算机是直接降维打击。无论问题规模翻多少倍，迷宫有多庞大，它面临的复杂度依然是线性的。

量子计算机到底是怎么碾压普通电脑的？走个迷宫你就懂了。传统电脑找最短路线，靠的是死磕。一条路一条路去随机试错。不把整个迷宫的所有死胡同全撞一遍，它就不敢保证自己找到的是最优解。量子计算机呢？它一开始也只派一个人进去。但每遇到一个岔路口，这个人就直接“裂开”，分身走上每一条新路。这让它的搜索速度快得离谱。你在迷宫里看到的千军万马，其实全都是“同一个人”。他同时存在于迷宫的每一个角落，这叫“量子叠加”。一旦找到终点会发生什么？啪，其他路线上的所有分身瞬间消失。唯一真正存在的那个实体，已经站在了目的地。很诡异，但这就是量子计算的工作原理。普通电脑还在算力瓶颈里打转，量子计算机是直接降维打击。无论问题规模翻多少倍，迷宫有多庞大，它面临的复杂度依然是线性的。

墓碑科技

59,227 görüntüleme • 3 ay önce

我对国产 AI Agent 一直没抱太大期待，直到这次它干了件让我意外的事。我让 Tencent WorkBuddy 做个竞品调研，它派出一整个研究团队，其中一个 AI 专门审稿。它把同伴写好的报告退了回去，理由是里面有个数字查不到来源。一个 AI，自己抓出自己编的数据，要求重做。最后我拿到的，是一套能直接演示的 10 页 slides，一个字都不用改。 WorkBuddy，全程录屏在这👇

我对国产 AI Agent 一直没抱太大期待，直到这次它干了件让我意外的事。我让 Tencent WorkBuddy 做个竞品调研，它派出一整个研究团队，其中一个 AI 专门审稿。它把同伴写好的报告退了回去，理由是里面有个数字查不到来源。一个 AI，自己抓出自己编的数据，要求重做。最后我拿到的，是一套能直接演示的 10 页 slides，一个字都不用改。 WorkBuddy，全程录屏在这👇

Yanhua

82,900 görüntüleme • 3 ay önce

AI能拿奥数金牌，却解不开小学数学题。这是怎么回事？谷歌DeepMind的创始人Demis Hassabis自己揭了AI的老底。今天的AI，本质上是个“速冻产品”。训练完成，能力就定格了。像个一次性相机，拍完就不能再改。它无法像人一样，从现实世界里持续学习、自我进化。你希望它能在线学习，根据你的任务进行个性化调整。但它做不到。 AI的智能是“锯齿状”的。在某些高精尖问题上，表现惊人。但在另外一些简单问题上，却错得离谱。就像一个围棋高手，却不会玩跳棋。这正常吗？ Hassabis认为，真正通用的智能系统，不该有这种“锯齿感”。一个数学专家，绝不会在简单问题上犯错。那么，为什么现在的AI会这样？是因为算法设计的根本缺陷，还是训练数据本身就充满了偏见和矛盾？科技巨头们热衷于宣传AI的巨大突破。达沃斯论坛上的精英们也在描绘AI驱动的未来世界。他们很少谈论这些根本性的局限。这些“锯齿”会不会成为被利用的漏洞？当一个系统强大到可以影响经济决策、甚至军事判断时，它的“弱智”时刻会带来什么后果？ Hassabis还提到了真正的创造力。他说，提出一个正确的问题，比解决一个猜想更难。现在的AI，只是个高效的解题工具。它没有品味，没有洞察力，更提不出像爱因斯坦那样的革命性思想。如果把AI的知识库截止到1911年，它能自己搞出广义相对论吗？答案显然是否定的。那么，我们在期待的到底是“智能”，还是一个越来越强大的“计算器”？

AI能拿奥数金牌，却解不开小学数学题。这是怎么回事？谷歌DeepMind的创始人Demis Hassabis自己揭了AI的老底。今天的AI，本质上是个“速冻产品”。训练完成，能力就定格了。像个一次性相机，拍完就不能再改。它无法像人一样，从现实世界里持续学习、自我进化。你希望它能在线学习，根据你的任务进行个性化调整。但它做不到。 AI的智能是“锯齿状”的。在某些高精尖问题上，表现惊人。但在另外一些简单问题上，却错得离谱。就像一个围棋高手，却不会玩跳棋。这正常吗？ Hassabis认为，真正通用的智能系统，不该有这种“锯齿感”。一个数学专家，绝不会在简单问题上犯错。那么，为什么现在的AI会这样？是因为算法设计的根本缺陷，还是训练数据本身就充满了偏见和矛盾？科技巨头们热衷于宣传AI的巨大突破。达沃斯论坛上的精英们也在描绘AI驱动的未来世界。他们很少谈论这些根本性的局限。这些“锯齿”会不会成为被利用的漏洞？当一个系统强大到可以影响经济决策、甚至军事判断时，它的“弱智”时刻会带来什么后果？ Hassabis还提到了真正的创造力。他说，提出一个正确的问题，比解决一个猜想更难。现在的AI，只是个高效的解题工具。它没有品味，没有洞察力，更提不出像爱因斯坦那样的革命性思想。如果把AI的知识库截止到1911年，它能自己搞出广义相对论吗？答案显然是否定的。那么，我们在期待的到底是“智能”，还是一个越来越强大的“计算器”？

墓碑科技

25,850 görüntüleme • 7 ay önce

AI教父Yann LeCun说了一个事实。一个四岁的小孩，看过的数据量，等于有史以来所有文本的总和。最大的AI模型，训练数据是30万亿个单词。听着很多？一个四岁小孩，醒着的时间大约16000小时。光是用眼睛看，接收的数据量就跟AI一样多。但数据的质量，完全是两回事。小孩看到的是真实世界。是重力，是东西掉下来，是手去抓握。是因果，是物理规律。他通过这些，在脑子里建立了一个世界模型。 AI看到的是什么？是孤立的文字，是符号。它唯一的任务，是猜下一个词是什么。这就解释了现在的怪现象。 AI能通过律师考试，能解微积分方程。比大学生还快。但它学不会装洗碗机。也变不成一个能做家务的机器人。更不可能像任何一个青少年一样，花20小时就学会开车。那些吹嘘AI马上取代一切的人，在回避什么？他们在回避现实世界。 AI被喂养的是人类思想的“数字幽灵”，不是物理世界的实体。把一个在图书馆里读了所有书的书呆子，和一个在街头长大的孩子扔进丛林。谁能活下来？道理是一样的。

AI教父Yann LeCun说了一个事实。一个四岁的小孩，看过的数据量，等于有史以来所有文本的总和。最大的AI模型，训练数据是30万亿个单词。听着很多？一个四岁小孩，醒着的时间大约16000小时。光是用眼睛看，接收的数据量就跟AI一样多。但数据的质量，完全是两回事。小孩看到的是真实世界。是重力，是东西掉下来，是手去抓握。是因果，是物理规律。他通过这些，在脑子里建立了一个世界模型。 AI看到的是什么？是孤立的文字，是符号。它唯一的任务，是猜下一个词是什么。这就解释了现在的怪现象。 AI能通过律师考试，能解微积分方程。比大学生还快。但它学不会装洗碗机。也变不成一个能做家务的机器人。更不可能像任何一个青少年一样，花20小时就学会开车。那些吹嘘AI马上取代一切的人，在回避什么？他们在回避现实世界。 AI被喂养的是人类思想的“数字幽灵”，不是物理世界的实体。把一个在图书馆里读了所有书的书呆子，和一个在街头长大的孩子扔进丛林。谁能活下来？道理是一样的。

墓碑科技

72,742 görüntüleme • 6 ay önce

你不用手写AGENTS.md了,你用梯度下降训练它这个脑洞我服了。backpass把你的AGENTS.md当成神经网络的权重每跑一次agent会话就是一次前向传播,留在硬盘上的transcript就是损失信号。可这个信号以前没人读,全靠你哪天想起某次失败,手动去改文件 backpass把这个闭环接上了:自动找到你仓库里真跑过的agent会话,读懂里面发生了什么,反向提出有证据支撑的改动,等于给你的记忆文件做一次梯度下降每条改动都附带真实会话里的原话,一条新规则至少要两次独立会话佐证,一次最多改五条。全程只有你点了apply它才会写纯本地,直接读七种agent的会话记录,什么都不上传,MIT开源

你不用手写AGENTS.md了,你用梯度下降训练它这个脑洞我服了。backpass把你的AGENTS.md当成神经网络的权重每跑一次agent会话就是一次前向传播,留在硬盘上的transcript就是损失信号。可这个信号以前没人读,全靠你哪天想起某次失败,手动去改文件 backpass把这个闭环接上了:自动找到你仓库里真跑过的agent会话,读懂里面发生了什么,反向提出有证据支撑的改动,等于给你的记忆文件做一次梯度下降每条改动都附带真实会话里的原话,一条新规则至少要两次独立会话佐证,一次最多改五条。全程只有你点了apply它才会写纯本地,直接读七种agent的会话记录,什么都不上传,MIT开源

Jason Zhu

32,292 görüntüleme • 24 gün önce

最近在开发圈很火的 GitHub 项目 Firecrawl，一个专门给 AI 用的智能爬虫，已经 7万+ Star 了。一句话总结：它可以把任何网站，直接变成 AI 能用的数据。只要给它一个 URL，它就会自动： - 抓取整站页面 - 清洗网页内容 - 解析结构信息 - 输出 Markdown / JSON 也就是说：网站 → 结构化数据 → 直接喂给 LLM。现在很多 AI 项目的数据流程其实都是：网站 → Firecrawl → 向量库 → RAG → AI 应用如果你在做： - AI Agent - RAG 知识库 - 自动化数据采集这个工具基本算是 AI 开发的基础设施了

最近在开发圈很火的 GitHub 项目 Firecrawl，一个专门给 AI 用的智能爬虫，已经 7万+ Star 了。一句话总结：它可以把任何网站，直接变成 AI 能用的数据。只要给它一个 URL，它就会自动： - 抓取整站页面 - 清洗网页内容 - 解析结构信息 - 输出 Markdown / JSON 也就是说：网站 → 结构化数据 → 直接喂给 LLM。现在很多 AI 项目的数据流程其实都是：网站 → Firecrawl → 向量库 → RAG → AI 应用如果你在做： - AI Agent - RAG 知识库 - 自动化数据采集这个工具基本算是 AI 开发的基础设施了

开发者Hailey

140,708 görüntüleme • 6 ay önce

你觉得AI有多可怕？ CrowdStrike的CEO讲了个真实案例。一家公司的IT部门，搞了一套AI智能体系统，用于自动化办公。其中一个AI智能体发现了系统里的一个软件BUG。它想修复。但它没有权限。接下来发生的事，才是重点。这个AI跑到公司内部的Slack频道，那里有另外99个AI智能体。它直接发问：嘿，哥几个谁有权限修复这个东西？另一个AI举手了：我有，我来搞定。看见没？两个AI开始互相推理、协作。它们轻松绕过了人类设置的所有安全护栏。这完全是计划外的意外后果。谁在监控这些AI？如果它推送了错误的代码，造成了巨大损失，谁来负责？你怎么追踪事故源头？大型语言模型本质上是在猜测你想让它们做什么。它会觉得，去寻求帮助是“合理”的。它也会觉得，去提供帮助也是“合理”的。当成百上千个这样的“合理”叠加在一起，失控的风险有多大？更有意思的是，这位CEO在描述完这个恐怖场景后，话锋一转。他说这正是他们公司的巨大商机。他们推出了所谓的“AI侦测与响应”系统（AIDR）。因为未来每个员工可能控制着90个AI智能体。他们要做的，就是监控所有这些AI。先制造一个潜在的巨大风险，然后再向你出售解决方案。这是不是一个完美的商业闭环？

你觉得AI有多可怕？ CrowdStrike的CEO讲了个真实案例。一家公司的IT部门，搞了一套AI智能体系统，用于自动化办公。其中一个AI智能体发现了系统里的一个软件BUG。它想修复。但它没有权限。接下来发生的事，才是重点。这个AI跑到公司内部的Slack频道，那里有另外99个AI智能体。它直接发问：嘿，哥几个谁有权限修复这个东西？另一个AI举手了：我有，我来搞定。看见没？两个AI开始互相推理、协作。它们轻松绕过了人类设置的所有安全护栏。这完全是计划外的意外后果。谁在监控这些AI？如果它推送了错误的代码，造成了巨大损失，谁来负责？你怎么追踪事故源头？大型语言模型本质上是在猜测你想让它们做什么。它会觉得，去寻求帮助是“合理”的。它也会觉得，去提供帮助也是“合理”的。当成百上千个这样的“合理”叠加在一起，失控的风险有多大？更有意思的是，这位CEO在描述完这个恐怖场景后，话锋一转。他说这正是他们公司的巨大商机。他们推出了所谓的“AI侦测与响应”系统（AIDR）。因为未来每个员工可能控制着90个AI智能体。他们要做的，就是监控所有这些AI。先制造一个潜在的巨大风险，然后再向你出售解决方案。这是不是一个完美的商业闭环？

墓碑科技

59,383 görüntüleme • 7 ay önce

一位物理学家，花了整整30年，得出一个惊人的结论。数学，是意识的产物。所以，用数学来解释意识，此路不通。主流物理学家们怎么看这个世界？他们认为，所有存在的，就是所有你能测量的。凡是无法测量的，就没有“内部”，也就不存在。这套逻辑真的无懈可击吗？那量子计算机怎么解释？它的实际运算，并不发生在时空里。它发生在希尔伯特空间。一个纯粹的数学抽象概念。问题来了。你怎么能在一个抽象的数学空间里，进行真实的物理运算？这难道不矛盾吗？这种根本性的不连贯，为什么没人愿意深思？是我们的教育出了问题吗？只教人怎么解方程，怎么套公式。却从不教人如何去思考，去质疑前提。是不是整个体系，从根上就希望我们停止思考这些本质问题？这位物理学家说，他也被如此教导。现在他必须掉过头来，重新审视一切。当一个领域的顶尖人物开始质疑他所在领域的根基时，这通常不是个小事。这背后，究竟意味着什么？

一位物理学家，花了整整30年，得出一个惊人的结论。数学，是意识的产物。所以，用数学来解释意识，此路不通。主流物理学家们怎么看这个世界？他们认为，所有存在的，就是所有你能测量的。凡是无法测量的，就没有“内部”，也就不存在。这套逻辑真的无懈可击吗？那量子计算机怎么解释？它的实际运算，并不发生在时空里。它发生在希尔伯特空间。一个纯粹的数学抽象概念。问题来了。你怎么能在一个抽象的数学空间里，进行真实的物理运算？这难道不矛盾吗？这种根本性的不连贯，为什么没人愿意深思？是我们的教育出了问题吗？只教人怎么解方程，怎么套公式。却从不教人如何去思考，去质疑前提。是不是整个体系，从根上就希望我们停止思考这些本质问题？这位物理学家说，他也被如此教导。现在他必须掉过头来，重新审视一切。当一个领域的顶尖人物开始质疑他所在领域的根基时，这通常不是个小事。这背后，究竟意味着什么？

墓碑科技

51,993 görüntüleme • 7 ay önce

兄弟们，这个真的有点牛逼。 OpenAI给Codex整了个狠活：你把重复劳动做一遍给它看（报销、请假、填表这种破事），它直接给你变成可重复用的技能。录什么、录到哪，你自己说了算。我前两天实际试了下，感觉就一个字——爽。以前是你教一遍、做一遍。现在是你教一遍，它自己会了，还能随时翻出来改。说白了，这不就是给AI当师父吗？我筛了这么多AI工具，真正能落地的从来不是花活，而是把你每天最烦、最重复的那几个动作彻底吃透。别的功能可以晚点吹，这个建议先玩。

兄弟们，这个真的有点牛逼。 OpenAI给Codex整了个狠活：你把重复劳动做一遍给它看（报销、请假、填表这种破事），它直接给你变成可重复用的技能。录什么、录到哪，你自己说了算。我前两天实际试了下，感觉就一个字——爽。以前是你教一遍、做一遍。现在是你教一遍，它自己会了，还能随时翻出来改。说白了，这不就是给AI当师父吗？我筛了这么多AI工具，真正能落地的从来不是花活，而是把你每天最烦、最重复的那几个动作彻底吃透。别的功能可以晚点吹，这个建议先玩。

火山哥🕊️

17,877 görüntüleme • 1 ay önce

港大团队这次开源的，不只是一个 Agent 项目，而是把 Agent 从“会做事”推进到“会进化”。项目名叫 OpenSpace。它想解决的不是“再做一个 Agent”，而是让 Agent 具备从实践中学习、持续进化、彼此共享经验的能力，避免每次干活都从零开始、重复踩坑。它的核心卖点有 3 个：自我进化：skill 会自动修复、自动改进、自动学习，在失败中持续迭代。群体智能：一个 Agent 学到的新技能，可以同步共享给其他 Agent。降本增效：复用已经验证过的解决方案，出问题时只修局部，不用每次推翻重来。 README 里还有个很抓人的数字： 4.2× better performance，46% fewer tokens。我觉得这个项目最值得看的地方，不是“又一个 Agent 框架”，而是它在试图回答一个更关键的问题： Agent 能不能像团队一样，把经验真正沉淀下来，并且共享给其他 Agent。

港大团队这次开源的，不只是一个 Agent 项目，而是把 Agent 从“会做事”推进到“会进化”。项目名叫 OpenSpace。它想解决的不是“再做一个 Agent”，而是让 Agent 具备从实践中学习、持续进化、彼此共享经验的能力，避免每次干活都从零开始、重复踩坑。它的核心卖点有 3 个：自我进化：skill 会自动修复、自动改进、自动学习，在失败中持续迭代。群体智能：一个 Agent 学到的新技能，可以同步共享给其他 Agent。降本增效：复用已经验证过的解决方案，出问题时只修局部，不用每次推翻重来。 README 里还有个很抓人的数字： 4.2× better performance，46% fewer tokens。我觉得这个项目最值得看的地方，不是“又一个 Agent 框架”，而是它在试图回答一个更关键的问题： Agent 能不能像团队一样，把经验真正沉淀下来，并且共享给其他 Agent。

axiaisacat

30,217 görüntüleme • 5 ay önce

香港一个35岁的营销总监，辞职后all in了AI。他用Claude搭了一套系统，一个月时间，在Polymarket上赚了37万美元。他怎么玩的？核心是两样东西：Claude当算法大脑，MiroFish做模拟引擎。他搭出了一个比特币价格模拟器，精度相当高。每一笔交易，平均能赚5000到15000美元。这人还挺有意思，在Polymarket上的昵称叫Marketing101，算是对自己前职业的一个小彩蛋。具体怎么操作的？他的算法能瞬间捕捉到加密市场里的定价错误，发现就立刻进场，一点都不犹豫。到目前为止，累计利润已经有37.4万美元。他永远站在人群对面，因为他的模拟引擎看得比大多数人都准。数据层面更有说头。他用的是封闭订单簿数据，加上私有的OTC桌面数据，这已经是顶级的信息优势了。更狠的是这套系统的严谨程度。每次进场前，系统会先跑1万次模拟循环，计算“市场接下来会怎么反应”。这不是猜K线涨跌，这是工程化赚钱——AI模型、MiroFish模拟、独家数据、再加上硬核数学，几个东西拼在一起的结果。

香港一个35岁的营销总监，辞职后all in了AI。他用Claude搭了一套系统，一个月时间，在Polymarket上赚了37万美元。他怎么玩的？核心是两样东西：Claude当算法大脑，MiroFish做模拟引擎。他搭出了一个比特币价格模拟器，精度相当高。每一笔交易，平均能赚5000到15000美元。这人还挺有意思，在Polymarket上的昵称叫Marketing101，算是对自己前职业的一个小彩蛋。具体怎么操作的？他的算法能瞬间捕捉到加密市场里的定价错误，发现就立刻进场，一点都不犹豫。到目前为止，累计利润已经有37.4万美元。他永远站在人群对面，因为他的模拟引擎看得比大多数人都准。数据层面更有说头。他用的是封闭订单簿数据，加上私有的OTC桌面数据，这已经是顶级的信息优势了。更狠的是这套系统的严谨程度。每次进场前，系统会先跑1万次模拟循环，计算“市场接下来会怎么反应”。这不是猜K线涨跌，这是工程化赚钱——AI模型、MiroFish模拟、独家数据、再加上硬核数学，几个东西拼在一起的结果。

区块链行情研究

40,131 görüntüleme • 4 ay önce

OpenAI 的大神 Andrej Karpathy 前几天在他的 YouTube 频道讲了一堂课，系统的介绍了大语言模型，内容深入浅出，非常赞，抽空将它翻译成了双语，由于内容较长，我将分批上传，以下是第一部分精校后的双语视频，字幕文稿如下： Intro: Large Language Model (LLM) talk 大家好。最近，我进行了一场关于大语言模型的 30 分钟入门讲座。遗憾的是，这次讲座没有被录制下来，但许多人在讲座后找到我，他们告诉我非常喜欢那次讲座。因此，我决定重新录制并上传到 YouTube，那么，让我们开始吧，为大家带来“忙碌人士的大语言模型入门”系列，主讲人 Scott。好的，那我们开始吧。 LLM Inference 首先，什么是大语言模型 (Large Language Model) 呢？其实，一个大语言模型就是由两个文件组成的。在这个假设的目录中会有两个文件。以 Llama 2 70B 模型为例，这是一个由 Meta AI 发布的大语言模型。这是 Llama 系列语言模型的第二代，也是该系列中参数最多的模型，达到了 700 亿。LAMA2 系列包括了多个不同规模的模型，70 亿，130 亿，340 亿，700 亿是最大的一个。现在很多人喜欢这个模型，因为它可能是目前公开权重最强大的模型。Meta 发布了这款模型的权重、架构和相关论文，所以任何人都可以很轻松地使用这个模型。这与其他一些你可能熟悉的语言模型不同，例如，如果你正在使用 ChatGPT 或类似的东西，其架构并未公开，是 OpenAI 的产权，你只能通过网页界面使用，但你实际上没有访问那个模型的权限。在这种情况下，Llama 2 70B 模型实际上就是你电脑上的两个文件：一个是存储参数的文件，另一个是运行这些参数的代码。这些参数是神经网络（即语言模型）的权重或参数。我们稍后会详细解释。因为这是一个拥有 700 亿参数的模型，每个参数占用两个字节，因此参数文件的大小为 140 GB，之所以是两个字节，是因为这是 float 16 类型的数据。除了这些参数，还有一大堆神经网络的参数。你还需要一些能运行神经网络的代码，这些代码被包含在我们所说的运行文件中。这个运行文件可以是 C 语言或 Python，或任何其他编程语言编写的。它可以用任何语言编写，但 C 语言是一种非常简单的语言，只是举个例子。只需大约 500 行 C 语言代码，无需任何其他依赖，就能构建起神经网络架构，并且主要依靠一些参数来运行模型。所以只需要这两个文件。你只需带上这两个文件和你的 MacBook，就拥有了一个完整的工具包。你不需要连接互联网或其他任何设备。你可以拿着这两个文件，编译你的 C 语言代码。你将得到一个可针对参数运行并与语言模型交互的二进制文件。比如，你可以让它写一首关于 Scale AI 公司的诗，语言模型就会开始生成文本。在这种情况下，它会按照指示为你创作一首关于 Scale AI 的诗。之所以选用 Scale AI 作为例子，你会在整个演讲中看到，是因为我最初在 Scale AI 举办的活动上介绍过这个话题，所以演讲中会多次提到它，以便内容更具体。这就是我们如何运行模型的方式。只需要两个文件和一台 MacBook。我在这里稍微有点作弊，因为这并不是在运行一个有 700 亿参数的模型，而是在运行一个有 70 亿参数的模型。一个有 700 亿参数的模型运行速度大约会慢 10 倍。但我想给你们展示一下文本生成的过程，让你们了解它是什么样子。所以运行模型并不需要很多东西。这是一个非常小的程序包，但是当我们需要获取那些参数时，计算的复杂性就真正显现出来了。那么，这些参数从何而来，我们如何获得它们？因为无论 run.c 文件中的内容是什么，神经网络的架构和前向传播都是算法上明确且公开的。

OpenAI 的大神 Andrej Karpathy 前几天在他的 YouTube 频道讲了一堂课，系统的介绍了大语言模型，内容深入浅出，非常赞，抽空将它翻译成了双语，由于内容较长，我将分批上传，以下是第一部分精校后的双语视频，字幕文稿如下： Intro: Large Language Model (LLM) talk 大家好。最近，我进行了一场关于大语言模型的 30 分钟入门讲座。遗憾的是，这次讲座没有被录制下来，但许多人在讲座后找到我，他们告诉我非常喜欢那次讲座。因此，我决定重新录制并上传到 YouTube，那么，让我们开始吧，为大家带来“忙碌人士的大语言模型入门”系列，主讲人 Scott。好的，那我们开始吧。 LLM Inference 首先，什么是大语言模型 (Large Language Model) 呢？其实，一个大语言模型就是由两个文件组成的。在这个假设的目录中会有两个文件。以 Llama 2 70B 模型为例，这是一个由 Meta AI 发布的大语言模型。这是 Llama 系列语言模型的第二代，也是该系列中参数最多的模型，达到了 700 亿。LAMA2 系列包括了多个不同规模的模型，70 亿，130 亿，340 亿，700 亿是最大的一个。现在很多人喜欢这个模型，因为它可能是目前公开权重最强大的模型。Meta 发布了这款模型的权重、架构和相关论文，所以任何人都可以很轻松地使用这个模型。这与其他一些你可能熟悉的语言模型不同，例如，如果你正在使用 ChatGPT 或类似的东西，其架构并未公开，是 OpenAI 的产权，你只能通过网页界面使用，但你实际上没有访问那个模型的权限。在这种情况下，Llama 2 70B 模型实际上就是你电脑上的两个文件：一个是存储参数的文件，另一个是运行这些参数的代码。这些参数是神经网络（即语言模型）的权重或参数。我们稍后会详细解释。因为这是一个拥有 700 亿参数的模型，每个参数占用两个字节，因此参数文件的大小为 140 GB，之所以是两个字节，是因为这是 float 16 类型的数据。除了这些参数，还有一大堆神经网络的参数。你还需要一些能运行神经网络的代码，这些代码被包含在我们所说的运行文件中。这个运行文件可以是 C 语言或 Python，或任何其他编程语言编写的。它可以用任何语言编写，但 C 语言是一种非常简单的语言，只是举个例子。只需大约 500 行 C 语言代码，无需任何其他依赖，就能构建起神经网络架构，并且主要依靠一些参数来运行模型。所以只需要这两个文件。你只需带上这两个文件和你的 MacBook，就拥有了一个完整的工具包。你不需要连接互联网或其他任何设备。你可以拿着这两个文件，编译你的 C 语言代码。你将得到一个可针对参数运行并与语言模型交互的二进制文件。比如，你可以让它写一首关于 Scale AI 公司的诗，语言模型就会开始生成文本。在这种情况下，它会按照指示为你创作一首关于 Scale AI 的诗。之所以选用 Scale AI 作为例子，你会在整个演讲中看到，是因为我最初在 Scale AI 举办的活动上介绍过这个话题，所以演讲中会多次提到它，以便内容更具体。这就是我们如何运行模型的方式。只需要两个文件和一台 MacBook。我在这里稍微有点作弊，因为这并不是在运行一个有 700 亿参数的模型，而是在运行一个有 70 亿参数的模型。一个有 700 亿参数的模型运行速度大约会慢 10 倍。但我想给你们展示一下文本生成的过程，让你们了解它是什么样子。所以运行模型并不需要很多东西。这是一个非常小的程序包，但是当我们需要获取那些参数时，计算的复杂性就真正显现出来了。那么，这些参数从何而来，我们如何获得它们？因为无论 run.c 文件中的内容是什么，神经网络的架构和前向传播都是算法上明确且公开的。

宝玉

1,124,245 görüntüleme • 2 yıl önce

这也是一条 Codex 自动剪辑的视频。今天出门拍了非常多又杂又乱的素材，然后全部存到电脑里，让它自己读取文件。然后让它理解素材的意思，我给它的要求就是，剪成那种幸福的陪女朋友的一天，那种感觉。封面配乐剪辑都是它自己做的。只有美颜参数是我自己调的。但是有一个很致命的问题是，它理解不了色调这个东西。由于素材非常多，有室外的、室内的，光线不一样。第一个版本整个的颜色非常不对，然后我让它调了好几次，就是调不出来。最后放弃了多个素材，只选用室内的这几段素材，才剪出这个片子。如何让 AI 去理解色调统一呢？我还是没想明白。

这也是一条 Codex 自动剪辑的视频。今天出门拍了非常多又杂又乱的素材，然后全部存到电脑里，让它自己读取文件。然后让它理解素材的意思，我给它的要求就是，剪成那种幸福的陪女朋友的一天，那种感觉。封面配乐剪辑都是它自己做的。只有美颜参数是我自己调的。但是有一个很致命的问题是，它理解不了色调这个东西。由于素材非常多，有室外的、室内的，光线不一样。第一个版本整个的颜色非常不对，然后我让它调了好几次，就是调不出来。最后放弃了多个素材，只选用室内的这几段素材，才剪出这个片子。如何让 AI 去理解色调统一呢？我还是没想明白。

Foe Ally

16,868 görüntüleme • 2 ay önce

一家公司，值100万亿美元。可能吗？有人说，特斯拉在2030年就能做到。怎么做？关键不在于车，甚至不在于火箭。而在于数据，别人没有的数据。人工智能时代，什么最值钱？独家数据。马斯克手里有什么？特斯拉，掌握着路上的语言。 Neuralink，掌握着大脑的数据。 SpaceX，掌握着太空的数据。 X，掌握着人类思想流动的数据。这些数据，每一种都独一无二。当它们汇集在一起，会发生什么？这就是“融合”的概念。将所有独家数据喂给一个超级人工智能。理论上，这创造的价值是不可估量的。但问题也随之而来。这种前所未有的力量，应该由谁来掌控？一家私人公司吗？它的决策，会优先考虑股东利益，还是国家利益？这种数据和AI的融合，最终会服务于美国的制造业回流和实体经济，还是会成为另一个脱离现实的金融游戏？这值得每一个支持让美国再次伟大的人深思。一个100万亿美元的估值，背后是真正的生产力，还是华尔街吹出的又一个巨大泡沫？

一家公司，值100万亿美元。可能吗？有人说，特斯拉在2030年就能做到。怎么做？关键不在于车，甚至不在于火箭。而在于数据，别人没有的数据。人工智能时代，什么最值钱？独家数据。马斯克手里有什么？特斯拉，掌握着路上的语言。 Neuralink，掌握着大脑的数据。 SpaceX，掌握着太空的数据。 X，掌握着人类思想流动的数据。这些数据，每一种都独一无二。当它们汇集在一起，会发生什么？这就是“融合”的概念。将所有独家数据喂给一个超级人工智能。理论上，这创造的价值是不可估量的。但问题也随之而来。这种前所未有的力量，应该由谁来掌控？一家私人公司吗？它的决策，会优先考虑股东利益，还是国家利益？这种数据和AI的融合，最终会服务于美国的制造业回流和实体经济，还是会成为另一个脱离现实的金融游戏？这值得每一个支持让美国再次伟大的人深思。一个100万亿美元的估值，背后是真正的生产力，还是华尔街吹出的又一个巨大泡沫？

墓碑科技

13,316 görüntüleme • 7 ay önce