Video wird geladen...

Video konnte nicht geladen werden

Beim Laden dieses Videos ist ein Problem aufgetreten. Dies könnte an einem vorübergehenden Netzwerkproblem liegen oder das Video ist möglicherweise nicht verfügbar.

“我们究竟是创造了一个工具还是一个生物？” Sam 在 "机器人之心 "小组讨论会上的发言。 Sam：但我认为，这无疑是迄今为止人类经历的最重大的更新年份。可能这也是我们将会遭遇的最大变革，因为从现在开始，人们已经接受强大的人工智能将成为现实，并且还会有逐步的更新。就像是第一代 iPhone 面世的那年，以及随后每一代 iPhone 的更新，我们现在能够明显感受到这一代与去年那代的差异。所以，这确实是一个重要的时刻。我感到欣慰的是，现在人们开始正确地把这些系统当作工具来看待。艺术家尤其如此，但其他人也是一样。曾经，人们真正恐惧的是，我们究竟是创造了一个工具还是一个生物，这将意味着什么？现在，人们视这些系统为人类工具箱中的新工具，并且正在用它创造一些非常了不起的东西。模型显然不知道你在说什么，因为这不在它的训练数据里，它也无法从训练数据中学习到这些信息。这是完全可以预期的。你再问一遍。比如说，你提到“意识”这个概念，模型回答：“是的，我完全明白你的意思，但我之前从未听说过这个词。” 问： “这对我来说就像是一次更新。你认为人工智能会趋向于探索创造性智能和自主性吗？” Sam：这个问题有多个答案。这取决于激励模型。这是人类的选择。问： “这将是判断意识的一个很好的测试。因为如果它有自我表达的愿望，并且仅仅为了创作的乐趣而去创作，那不会是偶然的。这绝对有点像生物。” Sam：这是生物化的。我认为在此之前还有很多步骤。我们现在要回答问题吗？这真的很棒。

Lei.sea

99,398 subscribers

14,132 Aufrufe • vor 2 Jahren •via X (Twitter)

Anya Rossi• Live Now

Private livecam show

3 Kommentare

Profilbild von 突破牆國大數據監控防火墙/拆墙运动义工/免梯网址看游兔/免梯下载站/筑墙恶人榜

突破牆國大數據監控防火墙/拆墙运动义工/免梯网址看游兔/免梯下载站/筑墙恶人榜vor 2 Jahren

深感忧虑

Profilbild von noname

nonamevor 2 Jahren

如果这东西没意义，那么抓紧商业化是最好的，泡沫总要破灭。如果这东西惊世骇俗，那么，它将是秘密。

Profilbild von Dxyhub

Dxyhubvor 2 Jahren

科幻片看多了

Ähnliche Videos

人工智能之父辛顿对他的杰作发出了令人不寒而栗的警告… 采访者：人类知道自己在做什么吗？ Hinton：嗯，我认为我们正在进入一个时期，在这个时期，我们可能第一次拥有比我们更智能的东西。采访者：你相信它们能理解吗？ Hinton：是的。采访者：你相信它们是智能的吗？ Hinton：是的。采访者：你相信这些系统有自己的经历吗？ Hinton：是的。采访者：并且能基于那些经历做出决定吗？ Hinton：在与人类相同的意义上，是的。采访者：它们有意识吗？ Hinton：我认为它们目前可能没有多少自我意识。所以从这个意义上说，我不认为它们有意识。采访者：它们会有自我意识吗？ Hinton：哦，是的。采访者：是吗？ Hinton：哦，是的。所以想想看。这样一来，人类将成为地球上第二智能的生物。 Hinton：我们对它大致在做什么有一个很好的了解。但一旦它变得真正复杂，我们就不再真正知道发生了什么，就像我们不知道你大脑里发生了什么一样。采访者：你说什么意思，我们不知道它到底是怎么工作的？它是由人设计的。 Hinton：不，不是的。我们所做的是设计学习算法。这有点像设计进化的原理。但当这个学习算法与数据互动时，它会产生复杂的神经网络，这些网络擅长做某些事情，但我们并不真正理解它们到底是如何做到的。

人工智能之父辛顿对他的杰作发出了令人不寒而栗的警告… 采访者：人类知道自己在做什么吗？ Hinton：嗯，我认为我们正在进入一个时期，在这个时期，我们可能第一次拥有比我们更智能的东西。采访者：你相信它们能理解吗？ Hinton：是的。采访者：你相信它们是智能的吗？ Hinton：是的。采访者：你相信这些系统有自己的经历吗？ Hinton：是的。采访者：并且能基于那些经历做出决定吗？ Hinton：在与人类相同的意义上，是的。采访者：它们有意识吗？ Hinton：我认为它们目前可能没有多少自我意识。所以从这个意义上说，我不认为它们有意识。采访者：它们会有自我意识吗？ Hinton：哦，是的。采访者：是吗？ Hinton：哦，是的。所以想想看。这样一来，人类将成为地球上第二智能的生物。 Hinton：我们对它大致在做什么有一个很好的了解。但一旦它变得真正复杂，我们就不再真正知道发生了什么，就像我们不知道你大脑里发生了什么一样。采访者：你说什么意思，我们不知道它到底是怎么工作的？它是由人设计的。 Hinton：不，不是的。我们所做的是设计学习算法。这有点像设计进化的原理。但当这个学习算法与数据互动时，它会产生复杂的神经网络，这些网络擅长做某些事情，但我们并不真正理解它们到底是如何做到的。

KK.aWSB

54,239 Aufrufe • vor 8 Monaten

Ilya——塑造世界的人工智能科学家如今，AI 是一项伟大的科技，因为 AI 将解决我们现在面临的所有问题。它能解决就业问题，能治疗疾病，能消除贫困，但同时它也会带来新的问题。假新闻将会愈演愈烈，网络攻击将变得更加严重，我们将面临全自动的 AI 武器的问题。我认为 AI 有潜力创造出无比稳定的独裁统治。今天早晨，关于人工智能威力的警告再次响起，超过 1300 位科技产业领军人物、研究者及其他人士正呼吁暂停人工智能的发展，以便认真考虑其带来的风险。扮演上帝，科学家们被指责这么做已经有一段时间了，但我们正在创造的东西确实与我们迄今为止创造的任何东西都截然不同。是的，我们绝对有能力创造出具有自我目标的全自主实体。而且，这些实体变得比人类聪明的时候，确保它们的目标与我们的目标保持一致将变得至关重要。什么激励我？我喜欢思考根本问题，基本问题。我们的系统不能做什么，而人类却可以做到？我几乎以哲学的方式去思考这些问题。比如，什么是学习？什么是经验？什么是思考？大脑又是如何运作的呢？我感觉技术就仿佛一种自然力量。在我看来，技术与生物进化之间有许多相似之处。生物进化的过程其实很容易理解，我们有基因的变异，自然选择的过程。我们保留那些有利于生存的变异，随着时间的推移，这个过程将使生物体变得极其复杂。我们不能因为理解了生物进化就能理解人体是如何运作的，但我们可以大概理解这个过程。我认为目前的机器学习也处在类似的阶段，特别是深度学习，我们有一个非常简单的规则，它从数据中提取信息，并将这些信息输入到模型中，我们只需不断重复这个过程。这个过程的结果就是将数据的复杂性转化为模型的复杂性。因此，最终的模型会变得非常复杂，我们并不能完全了解它的运作机制，需要进行大量的研究，但实现这一切的算法其实很简单。也许你听说过 ChatGPT，如果你还没听说过，那就做好准备。你可以把它看作是暴风雨来临之前的零星细雨。我们需要对此保持高度警觉，因为我认同这是一个意义重大的时刻。ChatGPT 被誉为颠覆性的创新，在许多方面，它确实做到了，比如在测试中得分超过人类。微软最近的一项研究得出结论，GPT4 是一个初级阶段的，但尚未完全形成的通用人工智能系统。这就是通用人工智能。通用人工智能，这是一个可以胜任人类能做的任何工作或任务的计算机系统，而且可能做得更好。有可能在短时间内实现通用人工智能，也可能需要更长的时间。但我认为，由于通用人工智能可能在不久的将来出现，这个可能性足够大，我们应该给予它足够的重视。这一点至关重要要确保这些超级智能的系统能按照我们的最大利益去行动。最初的通用人工智能可能就是大型数据中心，这些中心中充满了大量并行运行的专用神经网络处理器，紧凑、高热、能耗大，其消耗的能量可能相当于一千万个家庭的用电量。这些系统的智能程度可能会大幅提升，我相信它们将对社会产生深远影响。不过，人类真的会从中获益吗？谁会获益，谁又会付出代价呢？首批通用人工智能的信念和欲望将极为重要，所以我们必须正确地编程这些系统。如果我们做不到这一点，那么就会出现这样的情况：进化的本质，即自然选择，将使这些系统优先考虑自己的生存。并不是说它们会主动对人类产生敌意，甚至想要伤害人类，但它们将变得过于强大。我认为，一个恰当的类比就是人类对待动物的方式。我们并不是憎恨动物，实际上人类往往对动物怀有深深的爱意，但当我们需要在两座城市之间修建高速公路时，我们并不会征求动物的意见，而只是因为这对我们来说非常重要而去做。我认为这也是我们与通用人工智能（AGI）之间的默认关系，那些能真正自主运作并为自己目标服务的 AGI。许多机器学习领域的专家这些知识渊博和经验丰富的人士，对通用人工智能（AGI）抱有许多疑虑。他们对 AGI 可能出现的时间以及是否真的能够实现表示怀疑。目前，这还是一个鲜为人知的问题。用于神经网络和人工智能的计算机速度可能在未来几年内增加 10 万倍。如果多个团队处于竞相开发通用人工智能的军备竞赛态势中，他们就会没有足够的时间来确保他们构建的通用人工智能会真正关心人类。因为在我看来，这就像是通用人工智能发展的雪崩，一发不可收拾。我认为将来整个地球的表面很可能布满太阳能板和数据中心。考虑到这些担忧，未来的通用人工智能的建设应该是多国间的合作项目。不论如何，人工智能的未来都将是美好的。如果这同样也能给人类带来福祉，那就更加理想了。视频来源：

Ilya——塑造世界的人工智能科学家如今，AI 是一项伟大的科技，因为 AI 将解决我们现在面临的所有问题。它能解决就业问题，能治疗疾病，能消除贫困，但同时它也会带来新的问题。假新闻将会愈演愈烈，网络攻击将变得更加严重，我们将面临全自动的 AI 武器的问题。我认为 AI 有潜力创造出无比稳定的独裁统治。今天早晨，关于人工智能威力的警告再次响起，超过 1300 位科技产业领军人物、研究者及其他人士正呼吁暂停人工智能的发展，以便认真考虑其带来的风险。扮演上帝，科学家们被指责这么做已经有一段时间了，但我们正在创造的东西确实与我们迄今为止创造的任何东西都截然不同。是的，我们绝对有能力创造出具有自我目标的全自主实体。而且，这些实体变得比人类聪明的时候，确保它们的目标与我们的目标保持一致将变得至关重要。什么激励我？我喜欢思考根本问题，基本问题。我们的系统不能做什么，而人类却可以做到？我几乎以哲学的方式去思考这些问题。比如，什么是学习？什么是经验？什么是思考？大脑又是如何运作的呢？我感觉技术就仿佛一种自然力量。在我看来，技术与生物进化之间有许多相似之处。生物进化的过程其实很容易理解，我们有基因的变异，自然选择的过程。我们保留那些有利于生存的变异，随着时间的推移，这个过程将使生物体变得极其复杂。我们不能因为理解了生物进化就能理解人体是如何运作的，但我们可以大概理解这个过程。我认为目前的机器学习也处在类似的阶段，特别是深度学习，我们有一个非常简单的规则，它从数据中提取信息，并将这些信息输入到模型中，我们只需不断重复这个过程。这个过程的结果就是将数据的复杂性转化为模型的复杂性。因此，最终的模型会变得非常复杂，我们并不能完全了解它的运作机制，需要进行大量的研究，但实现这一切的算法其实很简单。也许你听说过 ChatGPT，如果你还没听说过，那就做好准备。你可以把它看作是暴风雨来临之前的零星细雨。我们需要对此保持高度警觉，因为我认同这是一个意义重大的时刻。ChatGPT 被誉为颠覆性的创新，在许多方面，它确实做到了，比如在测试中得分超过人类。微软最近的一项研究得出结论，GPT4 是一个初级阶段的，但尚未完全形成的通用人工智能系统。这就是通用人工智能。通用人工智能，这是一个可以胜任人类能做的任何工作或任务的计算机系统，而且可能做得更好。有可能在短时间内实现通用人工智能，也可能需要更长的时间。但我认为，由于通用人工智能可能在不久的将来出现，这个可能性足够大，我们应该给予它足够的重视。这一点至关重要要确保这些超级智能的系统能按照我们的最大利益去行动。最初的通用人工智能可能就是大型数据中心，这些中心中充满了大量并行运行的专用神经网络处理器，紧凑、高热、能耗大，其消耗的能量可能相当于一千万个家庭的用电量。这些系统的智能程度可能会大幅提升，我相信它们将对社会产生深远影响。不过，人类真的会从中获益吗？谁会获益，谁又会付出代价呢？首批通用人工智能的信念和欲望将极为重要，所以我们必须正确地编程这些系统。如果我们做不到这一点，那么就会出现这样的情况：进化的本质，即自然选择，将使这些系统优先考虑自己的生存。并不是说它们会主动对人类产生敌意，甚至想要伤害人类，但它们将变得过于强大。我认为，一个恰当的类比就是人类对待动物的方式。我们并不是憎恨动物，实际上人类往往对动物怀有深深的爱意，但当我们需要在两座城市之间修建高速公路时，我们并不会征求动物的意见，而只是因为这对我们来说非常重要而去做。我认为这也是我们与通用人工智能（AGI）之间的默认关系，那些能真正自主运作并为自己目标服务的 AGI。许多机器学习领域的专家这些知识渊博和经验丰富的人士，对通用人工智能（AGI）抱有许多疑虑。他们对 AGI 可能出现的时间以及是否真的能够实现表示怀疑。目前，这还是一个鲜为人知的问题。用于神经网络和人工智能的计算机速度可能在未来几年内增加 10 万倍。如果多个团队处于竞相开发通用人工智能的军备竞赛态势中，他们就会没有足够的时间来确保他们构建的通用人工智能会真正关心人类。因为在我看来，这就像是通用人工智能发展的雪崩，一发不可收拾。我认为将来整个地球的表面很可能布满太阳能板和数据中心。考虑到这些担忧，未来的通用人工智能的建设应该是多国间的合作项目。不论如何，人工智能的未来都将是美好的。如果这同样也能给人类带来福祉，那就更加理想了。视频来源：

宝玉

45,172 Aufrufe • vor 2 Jahren

小扎吐槽苹果和 Google，以及谈为什么开源 AI **Mark Zuckerberg**: 我认为移动生态系统中普遍存在的一个问题是有两个把持入口的公司，Apple 和 Google，它们可以告诉你可以构建什么。在我们的历史中有很多次，比如有经济层面的情况，就是我们构建了些东西，然后它们就会拿走我们大部分的收入，但还有一种是质量层面，这实际上让我更加不满，也就是有很多次我们推出或希望推出某些功能，然后Apple就会说，不，你不能推出这功能。这真的很糟糕。问题是，这样的世界是否会在AI领域复现，就像你会有一小部分拥有封闭模型的公司，它们控制API，因此将能够告诉你可以构建什么。我可以说，对我们来说，自己构建一个模型以避免处于那种位置是值得的。我不希望那些其他公司告诉我们可以构建什么，而且我认为从开源的角度来看，很多开发人员也不希望那些公司告诉他们可以构建什么。这就是我坚定支持开源的原因之一，我认为未来AI的集中化可能像其广泛传播一样具有潜在危险。我发现很多人都在思考，如果我们能实现这种技术，那么让它广泛传播是否不利。我认为另一种可能也很糟糕的情况是，如果一个机构掌握了一种强大的AI远超其他所有人的，这同样是非常糟糕的。在我看来，一个理想的世界应该是这样的：AI技术被广泛而均衡地应用，随着时间推移逐步增强其健康性。在这样的世界里，各种系统能够相互制衡，这种平衡的状态比一个高度集中化的世界要健康得多。虽然风险无处不在，但我觉得有一个风险我想人们我并没有听到太多人提及。 **Dwarkesh Patel**:举例来说，一个价值100亿美元的模型，如果经过评估是完全安全的，你们会选择开源吗？ **Mark Zuckerberg**:我的答案是，只要这个模型对我们有所帮助，那我们就会开源。 **Dwarkesh Patel**: 那如果这个模型是用100亿美元的研发经费研发出来的，然后现在要开源呢？ **Mark Zuckerberg**: 我们一直以来都有开源软件的传统，但是我们并不会开源我们的产品。比如说，我们并不会将Instagram的代码开源，但我们会开源许多底层的基础设施。我们历史上最大的一个项目可能就是开放计算项目。在这个项目中，我们将我们所有的服务器的设计网络交换机和数据中心的设计开源了，这对我们来说非常有帮助。因为很多人可以设计服务器，但现在，大家普遍都采用了我们的设计，这就意味着整个供应链都围绕我们的设计展开，规模变大，对所有人来说都变得更便宜，为我们节省了数十亿美元。这真是太棒了，对吧？因此，我认为开源有多种方式可以对我们有所帮助。一种就是，如果有人能够找出更便宜的运行模型的方法，我们将花费数十亿甚至上千亿美元，在所有这些模型上，所以如果我们能做的更有效率，那我们就可以节省数十亿甚至上百亿美元，这可能本身就非常有价值。 **Dwarkesh Patel**: 关于开源，我很想知道你是否认为像PyTorch、React、Open Compute这样的开源项目，对世界的影响是否已经超过了Meta在社交媒体方面的作用。 **Mark Zuckerberg**: 因为我曾经和使用这些服务的人交谈过，他们觉得这是有可能的，因为互联网的很大一部分都在运行这些项目。这是一个有趣的问题，我认为几乎有一半的世界人口都在使用我们的产品，这是一个真实的点，所以我觉得这很难超越。但不管怎样，我还是认为开源是一种新的、非常強大的建设方式。来源：

小扎吐槽苹果和 Google，以及谈为什么开源 AI Mark Zuckerberg: 我认为移动生态系统中普遍存在的一个问题是有两个把持入口的公司，Apple 和 Google，它们可以告诉你可以构建什么。在我们的历史中有很多次，比如有经济层面的情况，就是我们构建了些东西，然后它们就会拿走我们大部分的收入，但还有一种是质量层面，这实际上让我更加不满，也就是有很多次我们推出或希望推出某些功能，然后Apple就会说，不，你不能推出这功能。这真的很糟糕。问题是，这样的世界是否会在AI领域复现，就像你会有一小部分拥有封闭模型的公司，它们控制API，因此将能够告诉你可以构建什么。我可以说，对我们来说，自己构建一个模型以避免处于那种位置是值得的。我不希望那些其他公司告诉我们可以构建什么，而且我认为从开源的角度来看，很多开发人员也不希望那些公司告诉他们可以构建什么。这就是我坚定支持开源的原因之一，我认为未来AI的集中化可能像其广泛传播一样具有潜在危险。我发现很多人都在思考，如果我们能实现这种技术，那么让它广泛传播是否不利。我认为另一种可能也很糟糕的情况是，如果一个机构掌握了一种强大的AI远超其他所有人的，这同样是非常糟糕的。在我看来，一个理想的世界应该是这样的：AI技术被广泛而均衡地应用，随着时间推移逐步增强其健康性。在这样的世界里，各种系统能够相互制衡，这种平衡的状态比一个高度集中化的世界要健康得多。虽然风险无处不在，但我觉得有一个风险我想人们我并没有听到太多人提及。 Dwarkesh Patel:举例来说，一个价值100亿美元的模型，如果经过评估是完全安全的，你们会选择开源吗？ Mark Zuckerberg:我的答案是，只要这个模型对我们有所帮助，那我们就会开源。 Dwarkesh Patel: 那如果这个模型是用100亿美元的研发经费研发出来的，然后现在要开源呢？ Mark Zuckerberg: 我们一直以来都有开源软件的传统，但是我们并不会开源我们的产品。比如说，我们并不会将Instagram的代码开源，但我们会开源许多底层的基础设施。我们历史上最大的一个项目可能就是开放计算项目。在这个项目中，我们将我们所有的服务器的设计网络交换机和数据中心的设计开源了，这对我们来说非常有帮助。因为很多人可以设计服务器，但现在，大家普遍都采用了我们的设计，这就意味着整个供应链都围绕我们的设计展开，规模变大，对所有人来说都变得更便宜，为我们节省了数十亿美元。这真是太棒了，对吧？因此，我认为开源有多种方式可以对我们有所帮助。一种就是，如果有人能够找出更便宜的运行模型的方法，我们将花费数十亿甚至上千亿美元，在所有这些模型上，所以如果我们能做的更有效率，那我们就可以节省数十亿甚至上百亿美元，这可能本身就非常有价值。 Dwarkesh Patel: 关于开源，我很想知道你是否认为像PyTorch、React、Open Compute这样的开源项目，对世界的影响是否已经超过了Meta在社交媒体方面的作用。 Mark Zuckerberg: 因为我曾经和使用这些服务的人交谈过，他们觉得这是有可能的，因为互联网的很大一部分都在运行这些项目。这是一个有趣的问题，我认为几乎有一半的世界人口都在使用我们的产品，这是一个真实的点，所以我觉得这很难超越。但不管怎样，我还是认为开源是一种新的、非常強大的建设方式。来源：

宝玉

74,721 Aufrufe • vor 2 Jahren

你可能觉得，英国发生什么，跟我一个美国人有什么关系？我们的副总统，J.D. 万斯，给出了一个非常直接、甚至有点残酷的答案。他说，好好看看吧，在未来几十年里，我们可能再也无法依赖英国这个伙伴了。为什么？因为就在我们这一代人的人生里，大不列颠，这个美国的“母国”，很可能会变成一个穆斯林占多数的国家。到那时，它还是我们熟悉的那个盟友吗？所以，当我们在英国伯明翰开会讨论这些，这不只是英国人自己的事。这是在提醒我们，曾经最牢固的联盟，正在从根基上被动摇。

你可能觉得，英国发生什么，跟我一个美国人有什么关系？我们的副总统，J.D. 万斯，给出了一个非常直接、甚至有点残酷的答案。他说，好好看看吧，在未来几十年里，我们可能再也无法依赖英国这个伙伴了。为什么？因为就在我们这一代人的人生里，大不列颠，这个美国的“母国”，很可能会变成一个穆斯林占多数的国家。到那时，它还是我们熟悉的那个盟友吗？所以，当我们在英国伯明翰开会讨论这些，这不只是英国人自己的事。这是在提醒我们，曾经最牢固的联盟，正在从根基上被动摇。

战斗室

28,431 Aufrufe • vor 8 Monaten

Clawdbot的创造者说，他最喜欢的模型是Claude Opus。但编程能力最强的，竟然是OpenAI的旧模型Codex。为什么？他说用Codex写代码，有95%的把握可以直接运行。因为它能理解大型代码库，需要的“人工干预”更少。这就像一个经验丰富的老员工，话不多，但活儿干得漂亮。而Claude Opus，虽然被认为综合能力更强，但在编程这个具体任务上，却需要更多技巧和引导才能达到同样效果。有点像一个很聪明但经验不足的新人。这引出一个有趣的问题。我们真的需要那个最“聪明”、最像人的AI吗？还是说，在特定领域，我们更需要一个可靠、高效、甚至有点“无聊”的工具？ Opus更像人，甚至会在聊天中讲出真正好笑的笑话。但Codex在专业领域更可靠。这是否揭示了通用人工智能（AGI）发展的一个岔路口？是追求一个无所不能但样样不精的“全才”，还是打造一系列在各自领域做到极致的“专才”？从制造业到高科技，美国产业的核心优势，向来是那些专注于解决具体问题的实用工具，而不是那些空泛的概念。技术的终点，究竟是创造一个和我们一样的“伙伴”，还是一个能把工作做到极致的工具？这两种路线，哪一个对恢复美国制造业和技术领导地位更有利？

Clawdbot的创造者说，他最喜欢的模型是Claude Opus。但编程能力最强的，竟然是OpenAI的旧模型Codex。为什么？他说用Codex写代码，有95%的把握可以直接运行。因为它能理解大型代码库，需要的“人工干预”更少。这就像一个经验丰富的老员工，话不多，但活儿干得漂亮。而Claude Opus，虽然被认为综合能力更强，但在编程这个具体任务上，却需要更多技巧和引导才能达到同样效果。有点像一个很聪明但经验不足的新人。这引出一个有趣的问题。我们真的需要那个最“聪明”、最像人的AI吗？还是说，在特定领域，我们更需要一个可靠、高效、甚至有点“无聊”的工具？ Opus更像人，甚至会在聊天中讲出真正好笑的笑话。但Codex在专业领域更可靠。这是否揭示了通用人工智能（AGI）发展的一个岔路口？是追求一个无所不能但样样不精的“全才”，还是打造一系列在各自领域做到极致的“专才”？从制造业到高科技，美国产业的核心优势，向来是那些专注于解决具体问题的实用工具，而不是那些空泛的概念。技术的终点，究竟是创造一个和我们一样的“伙伴”，还是一个能把工作做到极致的工具？这两种路线，哪一个对恢复美国制造业和技术领导地位更有利？

墓碑科技

62,012 Aufrufe • vor 6 Monaten

特朗普表示今天习近平曾询问他，是否会派兵保卫台湾？但是他拒绝向习近平回答这个问题。 “我认为，我们现在最不需要的，就是一场远在9500英里之外的战争。我认为那是我们最不需要的。我们现在做得很好。如果事态发展到那一步，美国会保卫台湾吗？我不想这么说。我不会这么说。只有一个人知道答案。你知道是谁吗？就是我。只有我一个人知道。习近平主席今天问了我这个问题。我说，我不谈这个。他今天问你的？他问你会不会派兵，会不会这么做？他问我会不会保卫台湾。我说，我不谈这个。”

特朗普表示今天习近平曾询问他，是否会派兵保卫台湾？但是他拒绝向习近平回答这个问题。 “我认为，我们现在最不需要的，就是一场远在9500英里之外的战争。我认为那是我们最不需要的。我们现在做得很好。如果事态发展到那一步，美国会保卫台湾吗？我不想这么说。我不会这么说。只有一个人知道答案。你知道是谁吗？就是我。只有我一个人知道。习近平主席今天问了我这个问题。我说，我不谈这个。他今天问你的？他问你会不会派兵，会不会这么做？他问我会不会保卫台湾。我说，我不谈这个。”

李老师不是你老师

2,526,445 Aufrufe • vor 3 Monaten

查理柯克纪念大会，塔克卡尔森从癫狂到虔诚的演讲全文：看到那个让我很感动。苏西·威尔斯眼含泪水，这在政治中不常见，但这是真实的。这是我见过的最难以置信的事情。无论美国接下来发生什么，我希望是朝着这个方向，因为上帝在这里，你能感觉得到。查理会喜欢这个的，不只是因为他喜欢人多的聚会，更因为他终究是一位基督教福音传道者。这实际上让我想起了我最喜欢的一个故事。大约2000年前在耶路撒冷，耶稣出现了，他开始谈论当权者，他开始做你能做的最糟糕的事，那就是说出关于人们的真相。他们讨厌这样，他们简直要疯了。他们变得执着于让他闭嘴。“这家伙必须停止说话。我们必须让这家伙闭嘴。” 我能想象在一个灯火通明的房间里，一群人围坐着吃鹰嘴豆泥，思考着我们该如何对付这个说出我们真相的家伙？“我们必须让他停止说话！”总会有一个人有好主意，我仿佛能听到他说：“我有个主意，我们为什么不直接杀了他？那样就能让他闭嘴了。那样就能解决问题了。” 但事情不是那样的。一切都是颠倒的，《登山宝训》我认为说得最清楚。一切都和你想象的相反。“哀恸的人有福了，因为他们必得安慰。”这是真的，你在这里能感觉得到。关于查理的信息，我思考了很多，我努力不让自己情绪化，因为除了其他一切，他还是一个了不起的人，一个正派的人，是那种你遇到的罕见的人，你和他的谈话非常投契，进行着那些你无法停止思考的非常深入的对话，这就是我与他的经历。但关于查理和他的信息，最主要的是，他正在把福音带给这个国家。他正在做当权者最讨厌的事情，那就是呼吁他们悔改。那么查理的信息有何不同呢？查理是一个政治人物，他对建立联盟和让合适的人上台深感兴趣，因为他知道在政治上取得巨大进步是可能的。但他也知道，政治不是最终的答案，它实际上无法回答最深层的问题。唯一真正的解决办法是耶稣。原因其实很简单。政治的核心是批评他人并让他们改变的过程。而基督教、福音信息、耶稣的信息，始于悔改。基督教呼吁你做出改变。耶稣教给我们的核心祷告——主祷文，要求我们原谅他人，但在此之前是请求我们自己的宽恕。换句话说，宽恕我们的罪，反思我们做错了什么，我们如何做得不够好，然后才有可能原谅他人。那是来自耶稣的呼召，要我们改变内心，那是唯一的前进之路。在这个国家，对于我们都知道我们将要走向何方，那是唯一的解决方案。查理知道没有那个我们会走向何方。那不是呼吁在政治上消极被动，当然不是。我曾和查理在许多舞台上呼吁选举各种人，特别是唐纳德·特朗普，我为此感到自豪。这只是承认查理真正想说的是，改变始于唯一重要的改变，那就是当我们悔改我们的罪时。是我们，是我，认识到真正的问题是我自己，以及我有多堕落。这就是查理在任何时候都无所畏惧的原因，真正的无所畏惧。直到他生命的最后一刻，他都毫不畏惧，他从不为自己辩解，他心中没有仇恨。我知道这一点，因为我的心里有一个小小的仇恨隔间，我常常向查理表达对某些人的这种情绪，而他总是会说：“那是个可悲的人。那是个破碎的人。那是个需要帮助的人。那是个需要耶稣的人。”他在私下里这么说，因为他就是这么想的。所以我想我只想说，这次聚会和上帝的同在，上帝在这个房间里非常明显的存在，耶稣的存在提醒我们2000年来所知道的——那就是任何试图熄灭光明的企图，都会使它每一次都燃烧得更亮。所以当我们进入接下来无论发生什么事的时候——而且显然有事要发生——请记住这一刻。记住在一个有圣灵像音叉一样嗡嗡作响的房间里。就是这条路。就在这里，就是这条路。这就是查理·柯克在一切背后所说的。谢谢，上帝保佑。

查理柯克纪念大会，塔克卡尔森从癫狂到虔诚的演讲全文：看到那个让我很感动。苏西·威尔斯眼含泪水，这在政治中不常见，但这是真实的。这是我见过的最难以置信的事情。无论美国接下来发生什么，我希望是朝着这个方向，因为上帝在这里，你能感觉得到。查理会喜欢这个的，不只是因为他喜欢人多的聚会，更因为他终究是一位基督教福音传道者。这实际上让我想起了我最喜欢的一个故事。大约2000年前在耶路撒冷，耶稣出现了，他开始谈论当权者，他开始做你能做的最糟糕的事，那就是说出关于人们的真相。他们讨厌这样，他们简直要疯了。他们变得执着于让他闭嘴。“这家伙必须停止说话。我们必须让这家伙闭嘴。” 我能想象在一个灯火通明的房间里，一群人围坐着吃鹰嘴豆泥，思考着我们该如何对付这个说出我们真相的家伙？“我们必须让他停止说话！”总会有一个人有好主意，我仿佛能听到他说：“我有个主意，我们为什么不直接杀了他？那样就能让他闭嘴了。那样就能解决问题了。” 但事情不是那样的。一切都是颠倒的，《登山宝训》我认为说得最清楚。一切都和你想象的相反。“哀恸的人有福了，因为他们必得安慰。”这是真的，你在这里能感觉得到。关于查理的信息，我思考了很多，我努力不让自己情绪化，因为除了其他一切，他还是一个了不起的人，一个正派的人，是那种你遇到的罕见的人，你和他的谈话非常投契，进行着那些你无法停止思考的非常深入的对话，这就是我与他的经历。但关于查理和他的信息，最主要的是，他正在把福音带给这个国家。他正在做当权者最讨厌的事情，那就是呼吁他们悔改。那么查理的信息有何不同呢？查理是一个政治人物，他对建立联盟和让合适的人上台深感兴趣，因为他知道在政治上取得巨大进步是可能的。但他也知道，政治不是最终的答案，它实际上无法回答最深层的问题。唯一真正的解决办法是耶稣。原因其实很简单。政治的核心是批评他人并让他们改变的过程。而基督教、福音信息、耶稣的信息，始于悔改。基督教呼吁你做出改变。耶稣教给我们的核心祷告——主祷文，要求我们原谅他人，但在此之前是请求我们自己的宽恕。换句话说，宽恕我们的罪，反思我们做错了什么，我们如何做得不够好，然后才有可能原谅他人。那是来自耶稣的呼召，要我们改变内心，那是唯一的前进之路。在这个国家，对于我们都知道我们将要走向何方，那是唯一的解决方案。查理知道没有那个我们会走向何方。那不是呼吁在政治上消极被动，当然不是。我曾和查理在许多舞台上呼吁选举各种人，特别是唐纳德·特朗普，我为此感到自豪。这只是承认查理真正想说的是，改变始于唯一重要的改变，那就是当我们悔改我们的罪时。是我们，是我，认识到真正的问题是我自己，以及我有多堕落。这就是查理在任何时候都无所畏惧的原因，真正的无所畏惧。直到他生命的最后一刻，他都毫不畏惧，他从不为自己辩解，他心中没有仇恨。我知道这一点，因为我的心里有一个小小的仇恨隔间，我常常向查理表达对某些人的这种情绪，而他总是会说：“那是个可悲的人。那是个破碎的人。那是个需要帮助的人。那是个需要耶稣的人。”他在私下里这么说，因为他就是这么想的。所以我想我只想说，这次聚会和上帝的同在，上帝在这个房间里非常明显的存在，耶稣的存在提醒我们2000年来所知道的——那就是任何试图熄灭光明的企图，都会使它每一次都燃烧得更亮。所以当我们进入接下来无论发生什么事的时候——而且显然有事要发生——请记住这一刻。记住在一个有圣灵像音叉一样嗡嗡作响的房间里。就是这条路。就在这里，就是这条路。这就是查理·柯克在一切背后所说的。谢谢，上帝保佑。

老猿说OldApe

70,143 Aufrufe • vor 11 Monaten

余华：我来告诉你，现在中国有一个新的产业出出现了，就是把这个官一个腐败的官员把他抓起来以后，肯定会有一些几个或者十多个商人也被牵扯进去。那些商人也会进入那个拘留所了，然后就有人跑到看守所里面去找到这些商人们，说你们把你的资产贱卖给我，就很便宜的价格卖给。比如你是十个亿的话，你只要一个亿卖给我，我保证你立刻出出去。你把协议签完以后，果然发现你已经被释放了。而且这些人是本领大到什么程度，他能够随时把你从监狱里面弄出来，再同时随时把他送回去。所以我后来开始发现，就是在反腐败的过程中，居然创立了这么一个新的一个腐败的产业。但是非常有意思的是，就是那些受牵连的那些商人们被释放出来以后，我见到过其中的几个。我就告诉他们这个社会必须要改变了，不能再这样下去了。他们坚决反对，说社会不能变。他们说这是这个这是很好的社会体制，还是这样下下去，因为什么呢？他们虽然损失了很多个亿，但他们仍然还是有很多个亿。

余华：我来告诉你，现在中国有一个新的产业出出现了，就是把这个官一个腐败的官员把他抓起来以后，肯定会有一些几个或者十多个商人也被牵扯进去。那些商人也会进入那个拘留所了，然后就有人跑到看守所里面去找到这些商人们，说你们把你的资产贱卖给我，就很便宜的价格卖给。比如你是十个亿的话，你只要一个亿卖给我，我保证你立刻出出去。你把协议签完以后，果然发现你已经被释放了。而且这些人是本领大到什么程度，他能够随时把你从监狱里面弄出来，再同时随时把他送回去。所以我后来开始发现，就是在反腐败的过程中，居然创立了这么一个新的一个腐败的产业。但是非常有意思的是，就是那些受牵连的那些商人们被释放出来以后，我见到过其中的几个。我就告诉他们这个社会必须要改变了，不能再这样下去了。他们坚决反对，说社会不能变。他们说这是这个这是很好的社会体制，还是这样下下去，因为什么呢？他们虽然损失了很多个亿，但他们仍然还是有很多个亿。

Morris

570,840 Aufrufe • vor 1 Jahr

OpenAI联合创始人，首席科学家伊利亚10月17日TED演讲视频观点：人们将开始出于自身利益，以前所未有的协作方式采取行动，随着人工智能的不断进步，随着技术的进步，[...]我认为将会发生的是，人们将开始出于自身利益以前所未有的协作方式采取行动。现在已经发生了。你会看到领先的 AGI 公司开始合作，例如 Frontiers 模型论坛。我们预计公司，甚至竞争对手，将共享技术信息以确保他们的人工智能安全。我们甚至可能会看到政府这样做。另一个例子是，在 OpenAI，我们确实相信 AGI 将会有多么引人注目。所以，我们的经营理念之一，并且已经在我们的网站上写了 5 年了，就是，当技术发展到我们非常接近 AGI、比人类更聪明的计算机时，如果其他公司距离我们还很远的话。在我们前面，那么我们不会与他们竞争，而是会帮助他们，在某种意义上加入他们。为什么要这样做？因为我们意识到 AGI 将会带来多么令人难以置信的戏剧性。我的主张是，随着每一代能力的进步，随着人工智能变得更好，随着所有人都体验到人工智能的能力，运行人工智能工作和通用人工智能工作的人们以及从事这些工作的人们也会体验到这一点，将改变我们看待人工智能和通用人工智能的方式。这将改变集体行为。这就是为什么我希望尽管这项技术带来了巨大的挑战，但我们能够克服它们的一个重要原因。 @TEDAI2023 From：Jim Fan

OpenAI联合创始人，首席科学家伊利亚10月17日TED演讲视频观点：人们将开始出于自身利益，以前所未有的协作方式采取行动，随着人工智能的不断进步，随着技术的进步，[...]我认为将会发生的是，人们将开始出于自身利益以前所未有的协作方式采取行动。现在已经发生了。你会看到领先的 AGI 公司开始合作，例如 Frontiers 模型论坛。我们预计公司，甚至竞争对手，将共享技术信息以确保他们的人工智能安全。我们甚至可能会看到政府这样做。另一个例子是，在 OpenAI，我们确实相信 AGI 将会有多么引人注目。所以，我们的经营理念之一，并且已经在我们的网站上写了 5 年了，就是，当技术发展到我们非常接近 AGI、比人类更聪明的计算机时，如果其他公司距离我们还很远的话。在我们前面，那么我们不会与他们竞争，而是会帮助他们，在某种意义上加入他们。为什么要这样做？因为我们意识到 AGI 将会带来多么令人难以置信的戏剧性。我的主张是，随着每一代能力的进步，随着人工智能变得更好，随着所有人都体验到人工智能的能力，运行人工智能工作和通用人工智能工作的人们以及从事这些工作的人们也会体验到这一点，将改变我们看待人工智能和通用人工智能的方式。这将改变集体行为。这就是为什么我希望尽管这项技术带来了巨大的挑战，但我们能够克服它们的一个重要原因。 @TEDAI2023 From：Jim Fan

AI Will

120,073 Aufrufe • vor 2 Jahren

我今天最大的痛苦人生难题就是“缺钱”💰💰 我现在发现就是说这个缺钱会带来很多挫折，你知道现在大学里的一个学生，如果你缺钱，你甚至都不能勇敢地去说我爱你，我现在看了一些个调查，就是有些个年轻人知道吗？他说活着我就已经竭尽全力了，还有一个艺术院校的有一个财神，这哥们儿上大学的第一年就给他父母买了小汽车，第二年给自己买了小汽车，第三年自己搬出去高层高租金的那个公寓去住，后来同学们说怎么发财我都不知道，咱们以为都是大学毕业之后再去创业，也再去努力，他说我的父母亲太苦了，他们辛辛苦苦供我上学，他说我从上大学的第一天起，我就想我挣钱的速度一定要赶上超过我父母老去的速度🔮 我敢说我现在就拜金主义，所以你为什么批评孩子什么拜金主义，因为我现在觉得我对这个社会一切的感觉，你说我俗也好，我有我的这个喜好，我有我的精神世界，可是我仍然认为赚钱第一，我就我确实把钱看在特别重要的这个位置上。我想问你们一个问题，我们都曾经视金钱如粪土，但是总有一个时候让你觉得这钱太妈重要了，你们能想起来是什么时候，某一个时候你觉得要挣钱了，钱很重要，是碰到了什么，你你们能想起来吗？我第一次觉得我不能不把钱当成大事的时候，是自己有了孩子，我以前再穷的时候我都不怕，我第一次怕我没钱，就是我的孩子。其实我觉得我真正开始拜金就是从前几年开始，在此之前咱们就是我觉得我都是还是不说视金钱如粪土，但是就是说有的钱我是不挣的，你知道吗？可是当时你看就像您说的，一个人吃饱了，全家不饿，这钱哥们可以不赚，没问题，不丢这人。可是你知道我是什么原因开始改变了吗？就是妈妈就一下子进了ICU，再有一个呢，就是说你喜欢一个女孩，我就说跟这个有关系，我们这岁数就没有习惯说拿钱泡女孩，我们年轻时候都是空水套白狼，就是一杯水就解决了。现在还是我意识到你可以跟人家谈恋爱，可是真的你想跟他在一起的时候，你就会发现人家家里也要钱了，所以说这种复合的原因，在中国这个社会里，我就觉得，哎，钱呢，我有爱情，好吧，我也纯洁，我也有人性，但是我仍然觉得钱就最好了，就有了钱，我这些都可以一顺百顺，我们要把钱足够的赚，因为我们不可能指望任何人，任何政府，任何法律，这就是我在中国的感觉，我认为我要不多囤点钱，我靠不了任何人，包括很多年前就是，你知道吗？就是因为我们这个社会，不管是公营还是私营，你最后你明白了，一切的服务就是为了赚你的钱，学校也是要收你的钱，老师也是要收你的钱，去个交流项目也是要钱，你干什么你都是要钱的，更重要的是更重要说医院也得要你的钱。为什么说缺钱，缺的是什么？因为现在钱就是尊严，钱就是爱情，钱就是孝，人就有自由，钱就是自由，如果我们把这个都等值于钱，我认为你不能指责任何人拜金💡

我今天最大的痛苦人生难题就是“缺钱”💰💰 我现在发现就是说这个缺钱会带来很多挫折，你知道现在大学里的一个学生，如果你缺钱，你甚至都不能勇敢地去说我爱你，我现在看了一些个调查，就是有些个年轻人知道吗？他说活着我就已经竭尽全力了，还有一个艺术院校的有一个财神，这哥们儿上大学的第一年就给他父母买了小汽车，第二年给自己买了小汽车，第三年自己搬出去高层高租金的那个公寓去住，后来同学们说怎么发财我都不知道，咱们以为都是大学毕业之后再去创业，也再去努力，他说我的父母亲太苦了，他们辛辛苦苦供我上学，他说我从上大学的第一天起，我就想我挣钱的速度一定要赶上超过我父母老去的速度🔮 我敢说我现在就拜金主义，所以你为什么批评孩子什么拜金主义，因为我现在觉得我对这个社会一切的感觉，你说我俗也好，我有我的这个喜好，我有我的精神世界，可是我仍然认为赚钱第一，我就我确实把钱看在特别重要的这个位置上。我想问你们一个问题，我们都曾经视金钱如粪土，但是总有一个时候让你觉得这钱太妈重要了，你们能想起来是什么时候，某一个时候你觉得要挣钱了，钱很重要，是碰到了什么，你你们能想起来吗？我第一次觉得我不能不把钱当成大事的时候，是自己有了孩子，我以前再穷的时候我都不怕，我第一次怕我没钱，就是我的孩子。其实我觉得我真正开始拜金就是从前几年开始，在此之前咱们就是我觉得我都是还是不说视金钱如粪土，但是就是说有的钱我是不挣的，你知道吗？可是当时你看就像您说的，一个人吃饱了，全家不饿，这钱哥们可以不赚，没问题，不丢这人。可是你知道我是什么原因开始改变了吗？就是妈妈就一下子进了ICU，再有一个呢，就是说你喜欢一个女孩，我就说跟这个有关系，我们这岁数就没有习惯说拿钱泡女孩，我们年轻时候都是空水套白狼，就是一杯水就解决了。现在还是我意识到你可以跟人家谈恋爱，可是真的你想跟他在一起的时候，你就会发现人家家里也要钱了，所以说这种复合的原因，在中国这个社会里，我就觉得，哎，钱呢，我有爱情，好吧，我也纯洁，我也有人性，但是我仍然觉得钱就最好了，就有了钱，我这些都可以一顺百顺，我们要把钱足够的赚，因为我们不可能指望任何人，任何政府，任何法律，这就是我在中国的感觉，我认为我要不多囤点钱，我靠不了任何人，包括很多年前就是，你知道吗？就是因为我们这个社会，不管是公营还是私营，你最后你明白了，一切的服务就是为了赚你的钱，学校也是要收你的钱，老师也是要收你的钱，去个交流项目也是要钱，你干什么你都是要钱的，更重要的是更重要说医院也得要你的钱。为什么说缺钱，缺的是什么？因为现在钱就是尊严，钱就是爱情，钱就是孝，人就有自由，钱就是自由，如果我们把这个都等值于钱，我认为你不能指责任何人拜金💡

悟空知识分享

17,544 Aufrufe • vor 7 Tagen

OpenAI 创始人 John Schulman 访谈节选：为什么 GPT-4 比一年前更“聪明”了？主要都是后训练（Post-Training）带来的！另外他认为，在强化学习研究领域，研究人员需要具备丰富的经验和敏锐的直觉。了解整个技术堆栈，并对各个部分充满好奇心是关键。此外，从第一性原理出发思考问题，而不仅仅依靠实验证据，也能够帮助研究人员在数据操控和环境设置方面做出更好的决策。 *** Dwarkesh Patel：在未来，用于训练的计算力中，预训练与后训练的比例是否会明显偏向后训练呢？ John Schulman：确实，有一些观点支持这种说法。 Dwarkesh Patel：我是说，现在这个比例非常不平衡。 John Schulman：但你可以认为，模型生成的输出质量比网上的大多数内容都要高。因此，让模型自己思考似乎更有道理，而不仅仅是训练来模仿网络上的内容。所以，我认为从第一性原理上来说，这是有说服力的。我会说，我们通过后训练取得了很多进步。因此，我不确定。所以，我希望我们会继续推动这种方法，并且可能会增加投入到后训练中的计算力。 Dwarkesh Patel：当前的 GPT-4 的 ELO 分数比最初发布的版本高出了大约 100 分。这是否全都是后训练带来的改进呢？ John Schulman：对，我会说大部分都是后训练带来的。 Dwarkesh Patel：这很有意思。 John Schulman：因此，有很多不同的改进方向。我们会考虑数据质量，数据数量，进行更多的部署和收集新数据的迭代，改变你收集的注解种类。因此，有很多因素叠加在一起。但是全部加在一起，就会带来一个相当不错的，有效的计算力提升。 Dwarkesh Patel：后训练的优化程度对于竞争优势有多大影响呢？ John Schulman：目前，我会区别公司是通过我们的模型有多大等等。那么，找出你之前提到的所有这些数据的复杂问题的公司，会占据大优势吗？ John Schulman：我认为这确实是一个优势，因为这是一个非常复杂的任务。因此，你必须有很多有技能的人来执行它。因此，存在大量的隐性知识。同时也需要大量的组织知识。我认为后训练的过程，创建一个具备人们所关心的所有功能的模型，是十分复杂的。这需要付出大量的努力，它是大量研发工作的积累。我会说这种情况在某种程度上形成了一种壁垒，要想立即启动这种模型并非易事。 Dwarkesh Patel：看起来那些正在进行最严肃的预训练努力的公司，也在进行严肃的后训练努力。因此，看起来这种模型有可能被复制或有更多的类似努力出现。 John Schulman：另外，还有一种情况使得这个壁垒并非那么明显，那就是你可以提取模型，或者复制别人的模型输出，或者使用别人的模型进行比较。我认为大公司可能并不会这样做，因为这违反了服务条款，也会损害他们的自尊心，但我预计一些规模较小的参与者可能正在这样做以便更好地起步。 Dwarkesh Patel：那些真正擅长进行这种强化学习（RL）研究的人有什么样的特质呢？我听说这种研究非常具有挑战性，但是什么样的直觉能帮助你找到操控数据和设置环境的方法呢？ John Schulman：我觉得有相当多的经验是关键。自从研究生时期以来，我一直在研究 RL 算法，涉及到数据收集、到注释过程，再到与语言模型的交互。所以，我算是涉猎了这些领域。我认为，在这类研究中表现出色的人通常对整个技术堆栈有全面的了解，并且对其中的各个部分充满好奇心。他们不仅依靠实验证据来更新自己的观点，还会从第一性原理出发思考问题。比如，假设深度学习是有效的，那么理想的收集数据的类型应该是什么，等等。

OpenAI 创始人 John Schulman 访谈节选：为什么 GPT-4 比一年前更“聪明”了？主要都是后训练（Post-Training）带来的！另外他认为，在强化学习研究领域，研究人员需要具备丰富的经验和敏锐的直觉。了解整个技术堆栈，并对各个部分充满好奇心是关键。此外，从第一性原理出发思考问题，而不仅仅依靠实验证据，也能够帮助研究人员在数据操控和环境设置方面做出更好的决策。 *** Dwarkesh Patel：在未来，用于训练的计算力中，预训练与后训练的比例是否会明显偏向后训练呢？ John Schulman：确实，有一些观点支持这种说法。 Dwarkesh Patel：我是说，现在这个比例非常不平衡。 John Schulman：但你可以认为，模型生成的输出质量比网上的大多数内容都要高。因此，让模型自己思考似乎更有道理，而不仅仅是训练来模仿网络上的内容。所以，我认为从第一性原理上来说，这是有说服力的。我会说，我们通过后训练取得了很多进步。因此，我不确定。所以，我希望我们会继续推动这种方法，并且可能会增加投入到后训练中的计算力。 Dwarkesh Patel：当前的 GPT-4 的 ELO 分数比最初发布的版本高出了大约 100 分。这是否全都是后训练带来的改进呢？ John Schulman：对，我会说大部分都是后训练带来的。 Dwarkesh Patel：这很有意思。 John Schulman：因此，有很多不同的改进方向。我们会考虑数据质量，数据数量，进行更多的部署和收集新数据的迭代，改变你收集的注解种类。因此，有很多因素叠加在一起。但是全部加在一起，就会带来一个相当不错的，有效的计算力提升。 Dwarkesh Patel：后训练的优化程度对于竞争优势有多大影响呢？ John Schulman：目前，我会区别公司是通过我们的模型有多大等等。那么，找出你之前提到的所有这些数据的复杂问题的公司，会占据大优势吗？ John Schulman：我认为这确实是一个优势，因为这是一个非常复杂的任务。因此，你必须有很多有技能的人来执行它。因此，存在大量的隐性知识。同时也需要大量的组织知识。我认为后训练的过程，创建一个具备人们所关心的所有功能的模型，是十分复杂的。这需要付出大量的努力，它是大量研发工作的积累。我会说这种情况在某种程度上形成了一种壁垒，要想立即启动这种模型并非易事。 Dwarkesh Patel：看起来那些正在进行最严肃的预训练努力的公司，也在进行严肃的后训练努力。因此，看起来这种模型有可能被复制或有更多的类似努力出现。 John Schulman：另外，还有一种情况使得这个壁垒并非那么明显，那就是你可以提取模型，或者复制别人的模型输出，或者使用别人的模型进行比较。我认为大公司可能并不会这样做，因为这违反了服务条款，也会损害他们的自尊心，但我预计一些规模较小的参与者可能正在这样做以便更好地起步。 Dwarkesh Patel：那些真正擅长进行这种强化学习（RL）研究的人有什么样的特质呢？我听说这种研究非常具有挑战性，但是什么样的直觉能帮助你找到操控数据和设置环境的方法呢？ John Schulman：我觉得有相当多的经验是关键。自从研究生时期以来，我一直在研究 RL 算法，涉及到数据收集、到注释过程，再到与语言模型的交互。所以，我算是涉猎了这些领域。我认为，在这类研究中表现出色的人通常对整个技术堆栈有全面的了解，并且对其中的各个部分充满好奇心。他们不仅依靠实验证据来更新自己的观点，还会从第一性原理出发思考问题。比如，假设深度学习是有效的，那么理想的收集数据的类型应该是什么，等等。

宝玉

57,175 Aufrufe • vor 2 Jahren

诺贝尔奖得主、苹果联合创始人、顶尖AI教授…… 都联名签了一封公开信。他们说：超级人工智能，是对人类生存的真实威胁。不是阴谋论。不是杞人忧天。他们不是在编造，而是在警告：这个系统，我们造的，但我们并不理解。 AI不是代码写出来的，它是被『训练』『长』出来的。像养一只宠物，但你不知道它会不会咬人。我们真的能控制比所有人类更聪明的东西吗？没人能给出答案。但我们知道一件事：这东西一旦失控，人类可能连后悔的机会都没有。这么简单的逻辑，全世界民调都能得出同一个答案：这应该被监管，甚至禁止。我们不允许任意个人制造核武器，为什么可以让他们造AI核弹？这不是技术发展的问题，这是生存的问题。而现在，连否认这场危机都越来越困难了。该做决定了。

诺贝尔奖得主、苹果联合创始人、顶尖AI教授…… 都联名签了一封公开信。他们说：超级人工智能，是对人类生存的真实威胁。不是阴谋论。不是杞人忧天。他们不是在编造，而是在警告：这个系统，我们造的，但我们并不理解。 AI不是代码写出来的，它是被『训练』『长』出来的。像养一只宠物，但你不知道它会不会咬人。我们真的能控制比所有人类更聪明的东西吗？没人能给出答案。但我们知道一件事：这东西一旦失控，人类可能连后悔的机会都没有。这么简单的逻辑，全世界民调都能得出同一个答案：这应该被监管，甚至禁止。我们不允许任意个人制造核武器，为什么可以让他们造AI核弹？这不是技术发展的问题，这是生存的问题。而现在，连否认这场危机都越来越困难了。该做决定了。

战斗室

35,652 Aufrufe • vor 9 Monaten

Google 前 CEO 埃里克·施密特近期在斯坦福 CS323 课堂上的访谈（二） AI与地缘政治主持人：在国家安全或地缘政治利益方面，你认为AI将如何在与中国的竞争中发挥作用？ Eric：我曾经是一个AI委员会的主席，我们对此进行了非常详细的研究。你可以去看看。它有大约752页。我只是总结一下，我们现在处于领先位置。我们需要保持这种领先地位，并且需要大量的资金来做到这一点。我们的主要对象是参议院和众议院。由此促成了《芯片法案》以及其他相关立法。如果你假设前沿模型不断发展，少数开源模型也在进步，很可能只有少数国家能够参与这场竞争。我是指国家，而不是公司。那么这些国家是谁呢？有大量资金、丰富人才、强大教育系统以及获胜意愿的国家。美国就是其中的一个。中国也是。还有其他国家吗？我不知道，也许有。在你们这一代人的有生之年，围绕知识霸权的美中对抗将会是主要的斗争。因此，美国政府基本上禁止了NVIDIA芯片出口到中国，尽管他们并不愿明说这是他们的初衷，但实际上确实如此。我们在芯片制造技术上大约领先10年。在次紫外光刻（sub-DUV），即小于5纳米的芯片方面，我们大约领先10年。主持人：10年，这么久？ Eric：大概10年。主持人：哦。 Eric：所以，以现在的情况为例，我们比中国领先了几年。我猜我们可能还会领先中国几年。中国对此非常不满。他们对此感到非常沮丧。这是个大问题。这是特朗普政府的决定，并且拜登政府也同样执行了这个决定。主持人：你觉得现在的政府和国会听取你的建议了吗？你认为他们会进行如此大规模的投资吗？显然，《芯片法案》已经出台，但除此之外，是否还会建立一个庞大的AI系统？ Eric：你知道，我领导的是一个非正式、特设的、不受法律约束的小组。这和违法是不同的。确切地说，只是为了明确。这包括所有的同行。在过去的一年里，这些同行提出了一些理论基础，最终成为了拜登政府《AI法案》的核心内容，这是历史上最长的总统行政命令。主持人：你是在谈论特殊竞争研究项目吗？ Eric：不，这是来自行政办公室的实际法案。他们现在正忙于实施细节。到目前为止，他们做得很好。例如，过去一年中我们讨论的一个问题是，如何在一个已经学习到危险内容的系统中检测这些危险，但是你不知道该问它什么？换句话说，这是一个核心难题。系统可能学到了一些有害的东西，但它无法告诉你学到了什么，而你也不知道该如何询问它。而且威胁种类繁多，比如，它学会了一种你不知道如何询问的新的化学混合方式。因此，人们正在努力解决这个问题。但最终我们在给他们的备忘录中写道，有一个阈值，我们任意设定为10的26次方的浮点运算，这在技术上是一个计算量的衡量标准。超过这个阈值，你必须向政府报告你正在进行这种操作。这就是规则的一部分。欧盟为了有所区别，把阈值定为10的25次方。主持人：是的。 Eric：但这差距其实很小。我认为所有这些区别都会消失，因为现在的技术——专业术语是联邦学习技术，基本上你可以将不同部分联合起来进行训练。所以我们可能无法让人们完全免受这些新威胁的影响。据传言，这也是OpenAI必须这样训练的部分原因，因为电力消耗太大无法集中在一个地方进行训练。战争与AI的应用主持人：好了，让我们谈谈正在进行的真正战争。我知道你非常关注乌克兰战争，尤其是，关于“白鹳”项目，我不确定你能谈多少，关于用500美元的无人机摧毁500万美元的坦克。这个改变了战争方式吗？ Eric：我曾在国防部工作了七年，试图改变我们管理军队的方式。虽然我并不特别喜欢军队，但是军队的运行开支非常大，我想看看我能否对此提供一些帮助。而现在看来，我觉得我基本上失败了。他们给了我一枚勋章，所以可能失败者也能得到勋章吧，或者随便怎么说。但我对自己的批评是，什么都没有真正改变，美国的体系不会带来真正的创新。看着俄罗斯人用坦克摧毁有老人和孩子的公寓楼，我感到非常愤怒。所以我决定和你的朋友、斯坦福大学的前任教授塞巴斯蒂安·特鲁恩，以及一批斯坦福人一起创办一家公司。其实，我们的目标主要有两个。首先是用复杂而强大的方式将AI应用于这些机器人战争中，其次是降低机器人的成本。你可能会好奇，一个像我这样的自由派为何会有这样的想法？答案是，现有的军队理论以坦克、炮兵和迫击炮为主，而我们可以消除它们。我们可以让入侵一个国家的代价，至少在陆地上，几乎是不可能的。这应该可以避免大规模的陆地战争。主持人：这确实是一个很有趣的问题，这种方式是否能让防守方获得更多优势？我们能否做出这样的区分呢？ Eric：在过去的一年里，我一直在做这个，我学到了很多关于战争的知识，而这些知识我原本不想知道。其中一个关键点是，进攻方总是占据优势，因为他们总能压倒防御系统。所以，作为国家防御策略，拥有一套强大的进攻机制是很有必要的，以备不时之需。而我和其他人正在构建的系统将能够实现这一点。由于系统的运作方式，我现在是一名持证军火商。所以我现在既是计算机科学家，商人，也是军火商。（笑）主持人：我很抱歉地说——这算是一种职业进步吗？ Eric：我不太确定，但我并不建议你把这作为你的职业发展路径。我建议你还是继续做AI。由于法律的规定，我们是以私人方式进行这些工作，并且政府对此予以支持，因此我们直接进入乌克兰，随后战争开始了。不详细展开，但局势非常严峻。我认为，如果在五月或六月，俄罗斯如预期那样进行军事集结，乌克兰将会失去大片的领土，并开始逐渐失去整个国家。所以情况非常严重。主持人：如果有人认识Marjorie Taylor Greene，我建议你从通讯录中删除她。因为她就是那个，一个人阻止了数十亿美元援助这些援助本可以拯救一个重要的民主国家。知识的本质与AI 主持人：我想谈谈一个稍微带有哲学性质的问题。去年你和亨利·基辛格以及丹·赫特洛克写了一篇关于知识本质及其演变的文章。前几天我也和别人讨论了这个话题。对于历史上的大部分时间，人类对宇宙的理解更多是神秘的，然后出现了科学革命和启蒙运动。而在你的文章中，你们提出了一个观点，现在的模型变得如此复杂和难以理解，以至于我们不再真正知道其中发生了什么。我要引用理查德·费曼的一句话。他说：“我不能理解我无法创造的东西”我最近看到这句话。但现在人们能够创造出一些东西，却并不真正理解其中的原理。知识的本质是否正在发生变化？我们是否要开始接受这些模型的结果，而不再需要它们解释给我们听？ Eric：我想，可以将其比作青少年。如果你有个十来岁的孩子，你知道他们是人类，但你却无法完全理解他们的想法。（笑）然而，我们的社会已经适应了青少年的存在，对吧？他们总会长大成人。我是认真的。因此，我们可能会有无法完全理解的知识系统，但我们了解它们的边界，对吗？我们理解它们的能力范围。这可能是我们能够获得的最好结果。主持人：你认为我们能理解这些边界吗？ Eric：我们会变得越来越好。我每周都会和我的团队会面，我们的共识是，最终，你会使用所谓的对抗性AI，实际上会有一些公司，你可以雇用他们，付钱让他们去破坏你的AI系统。主持人：就像网络安全中的红队一样。 Eric：那么，将会是AI红队，而不是现在的人类红队，你将会看到整个公司和行业的AI系统，它们的任务是挖掘现有AI系统的漏洞，特别是那些我们无法理解的知识点。我认为这个观点是有道理的。对于斯坦福来说，这也是一个很好的项目，因为如果有一个研究生能够弄清楚如何攻击这些大型模型并理解它们的运作，那将为下一代技术积累的宝贵经验。我觉得这两者会齐头并进。

Google 前 CEO 埃里克·施密特近期在斯坦福 CS323 课堂上的访谈（二） AI与地缘政治主持人：在国家安全或地缘政治利益方面，你认为AI将如何在与中国的竞争中发挥作用？ Eric：我曾经是一个AI委员会的主席，我们对此进行了非常详细的研究。你可以去看看。它有大约752页。我只是总结一下，我们现在处于领先位置。我们需要保持这种领先地位，并且需要大量的资金来做到这一点。我们的主要对象是参议院和众议院。由此促成了《芯片法案》以及其他相关立法。如果你假设前沿模型不断发展，少数开源模型也在进步，很可能只有少数国家能够参与这场竞争。我是指国家，而不是公司。那么这些国家是谁呢？有大量资金、丰富人才、强大教育系统以及获胜意愿的国家。美国就是其中的一个。中国也是。还有其他国家吗？我不知道，也许有。在你们这一代人的有生之年，围绕知识霸权的美中对抗将会是主要的斗争。因此，美国政府基本上禁止了NVIDIA芯片出口到中国，尽管他们并不愿明说这是他们的初衷，但实际上确实如此。我们在芯片制造技术上大约领先10年。在次紫外光刻（sub-DUV），即小于5纳米的芯片方面，我们大约领先10年。主持人：10年，这么久？ Eric：大概10年。主持人：哦。 Eric：所以，以现在的情况为例，我们比中国领先了几年。我猜我们可能还会领先中国几年。中国对此非常不满。他们对此感到非常沮丧。这是个大问题。这是特朗普政府的决定，并且拜登政府也同样执行了这个决定。主持人：你觉得现在的政府和国会听取你的建议了吗？你认为他们会进行如此大规模的投资吗？显然，《芯片法案》已经出台，但除此之外，是否还会建立一个庞大的AI系统？ Eric：你知道，我领导的是一个非正式、特设的、不受法律约束的小组。这和违法是不同的。确切地说，只是为了明确。这包括所有的同行。在过去的一年里，这些同行提出了一些理论基础，最终成为了拜登政府《AI法案》的核心内容，这是历史上最长的总统行政命令。主持人：你是在谈论特殊竞争研究项目吗？ Eric：不，这是来自行政办公室的实际法案。他们现在正忙于实施细节。到目前为止，他们做得很好。例如，过去一年中我们讨论的一个问题是，如何在一个已经学习到危险内容的系统中检测这些危险，但是你不知道该问它什么？换句话说，这是一个核心难题。系统可能学到了一些有害的东西，但它无法告诉你学到了什么，而你也不知道该如何询问它。而且威胁种类繁多，比如，它学会了一种你不知道如何询问的新的化学混合方式。因此，人们正在努力解决这个问题。但最终我们在给他们的备忘录中写道，有一个阈值，我们任意设定为10的26次方的浮点运算，这在技术上是一个计算量的衡量标准。超过这个阈值，你必须向政府报告你正在进行这种操作。这就是规则的一部分。欧盟为了有所区别，把阈值定为10的25次方。主持人：是的。 Eric：但这差距其实很小。我认为所有这些区别都会消失，因为现在的技术——专业术语是联邦学习技术，基本上你可以将不同部分联合起来进行训练。所以我们可能无法让人们完全免受这些新威胁的影响。据传言，这也是OpenAI必须这样训练的部分原因，因为电力消耗太大无法集中在一个地方进行训练。战争与AI的应用主持人：好了，让我们谈谈正在进行的真正战争。我知道你非常关注乌克兰战争，尤其是，关于“白鹳”项目，我不确定你能谈多少，关于用500美元的无人机摧毁500万美元的坦克。这个改变了战争方式吗？ Eric：我曾在国防部工作了七年，试图改变我们管理军队的方式。虽然我并不特别喜欢军队，但是军队的运行开支非常大，我想看看我能否对此提供一些帮助。而现在看来，我觉得我基本上失败了。他们给了我一枚勋章，所以可能失败者也能得到勋章吧，或者随便怎么说。但我对自己的批评是，什么都没有真正改变，美国的体系不会带来真正的创新。看着俄罗斯人用坦克摧毁有老人和孩子的公寓楼，我感到非常愤怒。所以我决定和你的朋友、斯坦福大学的前任教授塞巴斯蒂安·特鲁恩，以及一批斯坦福人一起创办一家公司。其实，我们的目标主要有两个。首先是用复杂而强大的方式将AI应用于这些机器人战争中，其次是降低机器人的成本。你可能会好奇，一个像我这样的自由派为何会有这样的想法？答案是，现有的军队理论以坦克、炮兵和迫击炮为主，而我们可以消除它们。我们可以让入侵一个国家的代价，至少在陆地上，几乎是不可能的。这应该可以避免大规模的陆地战争。主持人：这确实是一个很有趣的问题，这种方式是否能让防守方获得更多优势？我们能否做出这样的区分呢？ Eric：在过去的一年里，我一直在做这个，我学到了很多关于战争的知识，而这些知识我原本不想知道。其中一个关键点是，进攻方总是占据优势，因为他们总能压倒防御系统。所以，作为国家防御策略，拥有一套强大的进攻机制是很有必要的，以备不时之需。而我和其他人正在构建的系统将能够实现这一点。由于系统的运作方式，我现在是一名持证军火商。所以我现在既是计算机科学家，商人，也是军火商。（笑）主持人：我很抱歉地说——这算是一种职业进步吗？ Eric：我不太确定，但我并不建议你把这作为你的职业发展路径。我建议你还是继续做AI。由于法律的规定，我们是以私人方式进行这些工作，并且政府对此予以支持，因此我们直接进入乌克兰，随后战争开始了。不详细展开，但局势非常严峻。我认为，如果在五月或六月，俄罗斯如预期那样进行军事集结，乌克兰将会失去大片的领土，并开始逐渐失去整个国家。所以情况非常严重。主持人：如果有人认识Marjorie Taylor Greene，我建议你从通讯录中删除她。因为她就是那个，一个人阻止了数十亿美元援助这些援助本可以拯救一个重要的民主国家。知识的本质与AI 主持人：我想谈谈一个稍微带有哲学性质的问题。去年你和亨利·基辛格以及丹·赫特洛克写了一篇关于知识本质及其演变的文章。前几天我也和别人讨论了这个话题。对于历史上的大部分时间，人类对宇宙的理解更多是神秘的，然后出现了科学革命和启蒙运动。而在你的文章中，你们提出了一个观点，现在的模型变得如此复杂和难以理解，以至于我们不再真正知道其中发生了什么。我要引用理查德·费曼的一句话。他说：“我不能理解我无法创造的东西”我最近看到这句话。但现在人们能够创造出一些东西，却并不真正理解其中的原理。知识的本质是否正在发生变化？我们是否要开始接受这些模型的结果，而不再需要它们解释给我们听？ Eric：我想，可以将其比作青少年。如果你有个十来岁的孩子，你知道他们是人类，但你却无法完全理解他们的想法。（笑）然而，我们的社会已经适应了青少年的存在，对吧？他们总会长大成人。我是认真的。因此，我们可能会有无法完全理解的知识系统，但我们了解它们的边界，对吗？我们理解它们的能力范围。这可能是我们能够获得的最好结果。主持人：你认为我们能理解这些边界吗？ Eric：我们会变得越来越好。我每周都会和我的团队会面，我们的共识是，最终，你会使用所谓的对抗性AI，实际上会有一些公司，你可以雇用他们，付钱让他们去破坏你的AI系统。主持人：就像网络安全中的红队一样。 Eric：那么，将会是AI红队，而不是现在的人类红队，你将会看到整个公司和行业的AI系统，它们的任务是挖掘现有AI系统的漏洞，特别是那些我们无法理解的知识点。我认为这个观点是有道理的。对于斯坦福来说，这也是一个很好的项目，因为如果有一个研究生能够弄清楚如何攻击这些大型模型并理解它们的运作，那将为下一代技术积累的宝贵经验。我觉得这两者会齐头并进。

宝玉

20,150 Aufrufe • vor 2 Jahren

所謂＇緣起的世界＇只不過是我們的妄想🌹 我看到一篇關於雙縫干涉實驗的文章，正好與唯識講的道理相互印證，分享給大家。以下是文章的內容：［引用］说一个东西真实存在，就必须得有它本身、他自己、他的本体才叫真实有。不论谁来看，都一样，不会变，我们称真实为客观存在，即不以人的意识为转移，是放之四海而皆准的道理。佛法中把真实存在的东西叫做自性，如果说这个东西真实存在，就是说它有自性，没有自性的东西，即是不存在是虚妄。按照我们现代人的理解，我们能找到一个真实存在的东西吗？这个问题我们先放一边，我们先考虑另外一个问题。我们看到的是什么？我们能看到外界的东西吗？我们看到外界的颜色是真正外界有颜色吗？现代物理学证明，我们的眼睛有三种视锥细胞，可以组成上百万种颜色，我们看到的世界就是由这三种颜色组成的；像牛，狗等哺乳动物他们的视觉画笔只有两种，而螳螂虾的视觉可以说是世界之最，它的视锥细胞多达12-16种，它所看到的世界简直不可思议。通过这个视频，我们能够知道：这个世界上可能并不存在颜色，我们之所以能看到颜色，是因为我们个体有不同的视锥细胞造成的。实际上我们都知道，我们之所以能看到物体，是因为光的反射和折射的作用。光通过物体表面时会反射一部分光线到我们的眼睛，我们就看到了这个物体，我们认为这个物体的颜色就是我们看到的颜色，实际上不是，这个物体的颜色其实是我们自己个体视锥细胞翻译出来的，每个人看到的颜色都会有差别，但我们会认为每个人看到的颜色是一样的，之所以会这样认为，是因为我们根本无法得知除了自己之外其他人的视觉感受，换句话说就是我们看不到我们视觉之外的任何颜色，这一点证明了颜色根本不是真实存在的，完全是主观认知，或许这个世界根本没有颜色，但我们无从得知，从而我们得到一个结论：我们看不到任何东西的自性。从这个结论所引申出来的声音、气味、味道、触觉、想法，即佛法中的声、香、味、触、法，都是我们个体的主观认知，并不是一个东西真实有这些特征，因为我们无从得知我们认知之外的认知。这就是为什么“有一种冷叫奶奶说冷”的原因，我们的所有见闻觉知只代表自己，你体会不到你认识外的存在，一旦被我们认识到的就只是我们自己的认知，所以我们都是生活在自己的认知范围里，也就是说我们的所有认知不是客观存在的，都是没有自性的。我们再思考：既然我们认识不到客观存在的东西，那我们能不能说到他们？能不能用理论证明确实有真实存在的东西呢？实际上，我们认识不到客观存在的东西，怎么能说到他们呢？很显然说不到，你没见过的东西，怎么脑补也无法说清楚，就算说出来了你也没办法证实，因为我们说眼见为实，可我们都没见过真实存在的东西怎么能说清楚呢？那我们，能不能用理论证明有真实存在的东西呢？物理学非常有名的双缝干涉实验，我把视频发在这里。咱们说说为什么科学家会做这个实验？科学家们认为物质是客观存在的，就像我们所有人类的认知一样，他们为了证明物质真实存在，想方设法去验证。他们认为只要找到组成物质的最小单位，并且证明这个最小单位是真实存在的，就可以说由它组成的任何物质都是真实存在的了，就如上面的双缝干涉实验，但这个实验却证明打出去的粒子是变成物质的存在形式（竖条纹）还是变成能量的存在形式（波纹）跟观察者是否观察有关，也就是说人类所认为的物质并不真实存在，说它是否真实存在跟我们的意识有关。实际上，科学家最初的设想就是自相矛盾的，他们想找到组成物质的最小单位以此来证明由这个基本单位组成的任何东西都是存在的，这个想法看似合理，实际上根本就是个悖论，如果说最小的物质单位找到了，那这个东西得有长宽高吧？有体积就不是最小，就可以再分，无限分下去还得有体积，不能是零，是零就不存在物质了，所以只要有体积就可以再分，请问你怎么能找到组成物质的最小单位呢？真可笑！退一步说，真理是永恒不变的，放之四海而皆准的，在地球上的真理也必须在地球以外还得皆准才能叫真理，我们连地球还没研究明白呢，又怎么能找到永恒不变的真理呢？这不是夜郎自大吗？同类有情的见闻觉知都是相似的，但绝不相同，每个有情的认知仅限于他的见闻觉知，他永远不可能认识到他认知之外的东西，甚至我们会下意识不假思索的认为我们的见闻觉知是真实存在的，但我们都忘了——真理是什么？永恒不变！如果你见闻觉知的东西都是不变的，你才可以说我找到真实了，除此之外都是妄想。

所謂＇緣起的世界＇只不過是我們的妄想🌹 我看到一篇關於雙縫干涉實驗的文章，正好與唯識講的道理相互印證，分享給大家。以下是文章的內容：［引用］说一个东西真实存在，就必须得有它本身、他自己、他的本体才叫真实有。不论谁来看，都一样，不会变，我们称真实为客观存在，即不以人的意识为转移，是放之四海而皆准的道理。佛法中把真实存在的东西叫做自性，如果说这个东西真实存在，就是说它有自性，没有自性的东西，即是不存在是虚妄。按照我们现代人的理解，我们能找到一个真实存在的东西吗？这个问题我们先放一边，我们先考虑另外一个问题。我们看到的是什么？我们能看到外界的东西吗？我们看到外界的颜色是真正外界有颜色吗？现代物理学证明，我们的眼睛有三种视锥细胞，可以组成上百万种颜色，我们看到的世界就是由这三种颜色组成的；像牛，狗等哺乳动物他们的视觉画笔只有两种，而螳螂虾的视觉可以说是世界之最，它的视锥细胞多达12-16种，它所看到的世界简直不可思议。通过这个视频，我们能够知道：这个世界上可能并不存在颜色，我们之所以能看到颜色，是因为我们个体有不同的视锥细胞造成的。实际上我们都知道，我们之所以能看到物体，是因为光的反射和折射的作用。光通过物体表面时会反射一部分光线到我们的眼睛，我们就看到了这个物体，我们认为这个物体的颜色就是我们看到的颜色，实际上不是，这个物体的颜色其实是我们自己个体视锥细胞翻译出来的，每个人看到的颜色都会有差别，但我们会认为每个人看到的颜色是一样的，之所以会这样认为，是因为我们根本无法得知除了自己之外其他人的视觉感受，换句话说就是我们看不到我们视觉之外的任何颜色，这一点证明了颜色根本不是真实存在的，完全是主观认知，或许这个世界根本没有颜色，但我们无从得知，从而我们得到一个结论：我们看不到任何东西的自性。从这个结论所引申出来的声音、气味、味道、触觉、想法，即佛法中的声、香、味、触、法，都是我们个体的主观认知，并不是一个东西真实有这些特征，因为我们无从得知我们认知之外的认知。这就是为什么“有一种冷叫奶奶说冷”的原因，我们的所有见闻觉知只代表自己，你体会不到你认识外的存在，一旦被我们认识到的就只是我们自己的认知，所以我们都是生活在自己的认知范围里，也就是说我们的所有认知不是客观存在的，都是没有自性的。我们再思考：既然我们认识不到客观存在的东西，那我们能不能说到他们？能不能用理论证明确实有真实存在的东西呢？实际上，我们认识不到客观存在的东西，怎么能说到他们呢？很显然说不到，你没见过的东西，怎么脑补也无法说清楚，就算说出来了你也没办法证实，因为我们说眼见为实，可我们都没见过真实存在的东西怎么能说清楚呢？那我们，能不能用理论证明有真实存在的东西呢？物理学非常有名的双缝干涉实验，我把视频发在这里。咱们说说为什么科学家会做这个实验？科学家们认为物质是客观存在的，就像我们所有人类的认知一样，他们为了证明物质真实存在，想方设法去验证。他们认为只要找到组成物质的最小单位，并且证明这个最小单位是真实存在的，就可以说由它组成的任何物质都是真实存在的了，就如上面的双缝干涉实验，但这个实验却证明打出去的粒子是变成物质的存在形式（竖条纹）还是变成能量的存在形式（波纹）跟观察者是否观察有关，也就是说人类所认为的物质并不真实存在，说它是否真实存在跟我们的意识有关。实际上，科学家最初的设想就是自相矛盾的，他们想找到组成物质的最小单位以此来证明由这个基本单位组成的任何东西都是存在的，这个想法看似合理，实际上根本就是个悖论，如果说最小的物质单位找到了，那这个东西得有长宽高吧？有体积就不是最小，就可以再分，无限分下去还得有体积，不能是零，是零就不存在物质了，所以只要有体积就可以再分，请问你怎么能找到组成物质的最小单位呢？真可笑！退一步说，真理是永恒不变的，放之四海而皆准的，在地球上的真理也必须在地球以外还得皆准才能叫真理，我们连地球还没研究明白呢，又怎么能找到永恒不变的真理呢？这不是夜郎自大吗？同类有情的见闻觉知都是相似的，但绝不相同，每个有情的认知仅限于他的见闻觉知，他永远不可能认识到他认知之外的东西，甚至我们会下意识不假思索的认为我们的见闻觉知是真实存在的，但我们都忘了——真理是什么？永恒不变！如果你见闻觉知的东西都是不变的，你才可以说我找到真实了，除此之外都是妄想。

唯識學苑

82,169 Aufrufe • vor 2 Jahren

Google 前 CEO 埃里克·施密特近期在斯坦福 CS323 课堂上的访谈（四/完结）关于大语言模型对经济的影响以及学术界的选择学生：大语言模型的经济影响，比如劳动力市场的影响，比你最初预期的要慢。Chegg（在线教育技术公司）和一些服务人员受到了影响。你认为学术界应该获得AI方面的补贴，还是应该选择与业界的大公司合作？ Eric：我非常努力地推动为大学建立数据中心。如果我是这里的计算机科学系教师，我会非常失望，因为无法与研究生一起构建能够进行博士研究的算法。我被迫和这些公司合作。我认为这些公司在这方面并没有表现出足够的慷慨。我与许多你们认识的教师交谈，他们花费大量时间等待Google Cloud的配额。这是非常糟糕的情况。这个领域正在快速发展。我们希望美国能胜出，我们希望美国的大学——出于多种原因，我认为正确的做法是把资源提供给他们。我在这方面做了很多努力。至于劳动力市场的影响，我将这个问题交给这里的真正专家。作为Eric教导的业余经济学家，我坚信那些接受过大学教育、从事高技能工作的人将会适应，因为人们将会与这些系统一起工作。我认为这些系统与以往的技术浪潮没有区别。那些危险的工作和不需要太多人为判断的工作将被取代。关于计算机科学教育的未来学生：我对“文本到行动”及其对计算机科学教育的影响非常感兴趣。你认为计算机科学教育应该如何变革以适应新时代？ Eric：我认为计算机科学专业的本科生群体将始终有一位编程搭档。因此，当你学习你的第一个for循环时，你会有一个工具作为你的伙伴。这就是未来的教学方式，教授会讲解概念，但你会通过这种方式参与其中。这是我的猜测。关于非Transformer架构与数学创新学生：你提到了一些让你兴奋的非Transformer架构。我想其中一个被提到的是状态模型，但现在还有一种是更长上下文的模型。我更好奇的是你在这方面看到的情况。 Eric：我对数学的理解还不够深入，但我非常高兴我们为数学家们提供了工作机会，因为这里的数学太复杂了。但基本上，他们是在采用不同的方法来进行梯度下降和矩阵乘法，使其更快更好。Transformer架构是一种能够同时进行乘法运算的系统化方式，这是我理解的方式。它和其他的很像，但数学部分不同。我们将继续关注这些新的数学进展。关于中美关系与国家安全学生：你在关于国家安全的论文中提到，中美两国在现代架构的帮助下处于关键地位。接下来的10个国家，以及稍后的一组国家，都是美国的盟友，或者与美国盟友关系密切。我很好奇你对这些国家，尤其是那些中间地带但并非正式盟友的国家有什么看法。它们有多大可能愿意加入我们的安全阵营？是什么因素可能会阻碍它们加入？ Eric：最值得关注的国家是印度，因为顶尖的AI人才从印度来到美国，我们应该让印度保留一部分顶尖人才。他们没有我们这里如此丰富的培训设施和项目。在我看来，印度是这一领域的重要摇摆国家。中国已经没有机会了，不会再回来。日本和韩国显然站在我们这一边。台湾在硬件方面很出色，但他们的软件开发较弱。在全球范围内，其他大国的选择并不多。欧洲因为欧盟的政策和管理机制陷入困境，这并不是什么新鲜事。我与他们斗争了10年，但他们仍然有许多限制，导致我们在欧洲开展研究非常困难。法国还有一些机会，但我不太看好德国。其余的国家都不够有影响力。关于编程与AI 学生：我是编译器工程师。考虑到你设想这些模型将具备的能力，我们还需要花时间学习编程吗？ Eric：是的，这是一个老生常谈的问题，为什么你已经会说英语还要学习英语呢？是为了让你的英语更好。你确实需要理解这些系统的工作原理，我对此非常坚定。关于分布式计算与大语言模型的训练学生：你是否探索过分布式环境？虽然构建大型集群很困难，但MacBooks的性能很强大。你认为类似“Folding@home”的想法适合训练吗？ Eric：是的，我们对此进行了深入研究。算法的工作方式是你有一个非常大的矩阵，基本上是一个乘法函数。系统的速度完全受限于内存到CPU或GPU的传输速度。Nvidia的下一代芯片已经将所有这些功能整合到了一块芯片中，如今的芯片已经足够大到需要将它们都粘合在一起。短时间内，分布式计算在训练大语言模型方面的进展可能有限。关于数据隐私与版权学生：在ChatGPT发布后，OpenAI因使用他们的作品进行训练而被《纽约时报》起诉。你觉得这种情况会如何发展？这对数据隐私有何影响？ Eric：我曾经从事过大量的音乐版权工作。我了解到在60年代，有一系列诉讼最终达成了一项协议：每次播放你的歌曲，你都能获得一定的版权费。我猜AI领域可能会有类似的情况。可能会有很多诉讼，最后可能会达成一种协议，要求你必须支付你的一部分收入，以便使用类似ASCAP BMI的版权管理机构。关于AI领域的垄断与反垄断法规学生：现在看起来几个主要玩家在AI领域占据主导地位，他们会继续维持这个地位。这些公司似乎与那些受到反垄断法规关注的大公司有所交叉。你对这两种趋势有何看法？像是监管部门会否对这些公司进行分拆？这将会对现状产生怎样的影响？ Eric：在我的职业生涯中，我曾帮助微软避免被拆分，结果它确实没有被拆分。我也曾努力阻止谷歌被分拆，目前来看，谷歌还未被分拆。因此，从我的观察来看，这些公司被分拆的趋势并不明显。只要这些公司避免成为像约翰·D·洛克菲勒那样的企业巨头，政府可能不会采取行动。这些公司占据主导地位的原因是他们有足够的资本来建设数据中心。关于技术差距对全球的影响学生：这一切将会把那些不参与前沿模型开发和无法获取计算资源的国家带向何方？富国越来越富，穷国尽力而为。 Eric：事实上，这就是富国的游戏，对吧？巨大的资本，众多技术过硬的人才，强有力的政府支持。有些国家，比如印度，将会成为这一领域的重要参与者。其他国家可能需要找到合作伙伴或与其他国家联合。对年轻人的建议主持人：最后一个问题，Eric。你花了很多时间帮助年轻人，他们正在创造大量财富，你对在座的各位有什么建议吗？他们正在为这门课写商业计划书或撰写政策提案、研究提案，未来职业发展方面你有什么建议？ Eric：我在商学院教过一门关于这个主题的课程。快速制作原型的能力真的非常重要，成为创业者的一个难点在于一切都发生得非常快。现在，如果你不能在一天之内利用这些工具构建你的原型，那你就需要考虑一下了，因为你的竞争对手正在这么做。所以我的建议是，尽快使用这些工具把你的想法制作成原型。这是关键，因为在其他公司、其他大学，或你从未去过的地方，一定有人正在做和你一样的事情。

Google 前 CEO 埃里克·施密特近期在斯坦福 CS323 课堂上的访谈（四/完结）关于大语言模型对经济的影响以及学术界的选择学生：大语言模型的经济影响，比如劳动力市场的影响，比你最初预期的要慢。Chegg（在线教育技术公司）和一些服务人员受到了影响。你认为学术界应该获得AI方面的补贴，还是应该选择与业界的大公司合作？ Eric：我非常努力地推动为大学建立数据中心。如果我是这里的计算机科学系教师，我会非常失望，因为无法与研究生一起构建能够进行博士研究的算法。我被迫和这些公司合作。我认为这些公司在这方面并没有表现出足够的慷慨。我与许多你们认识的教师交谈，他们花费大量时间等待Google Cloud的配额。这是非常糟糕的情况。这个领域正在快速发展。我们希望美国能胜出，我们希望美国的大学——出于多种原因，我认为正确的做法是把资源提供给他们。我在这方面做了很多努力。至于劳动力市场的影响，我将这个问题交给这里的真正专家。作为Eric教导的业余经济学家，我坚信那些接受过大学教育、从事高技能工作的人将会适应，因为人们将会与这些系统一起工作。我认为这些系统与以往的技术浪潮没有区别。那些危险的工作和不需要太多人为判断的工作将被取代。关于计算机科学教育的未来学生：我对“文本到行动”及其对计算机科学教育的影响非常感兴趣。你认为计算机科学教育应该如何变革以适应新时代？ Eric：我认为计算机科学专业的本科生群体将始终有一位编程搭档。因此，当你学习你的第一个for循环时，你会有一个工具作为你的伙伴。这就是未来的教学方式，教授会讲解概念，但你会通过这种方式参与其中。这是我的猜测。关于非Transformer架构与数学创新学生：你提到了一些让你兴奋的非Transformer架构。我想其中一个被提到的是状态模型，但现在还有一种是更长上下文的模型。我更好奇的是你在这方面看到的情况。 Eric：我对数学的理解还不够深入，但我非常高兴我们为数学家们提供了工作机会，因为这里的数学太复杂了。但基本上，他们是在采用不同的方法来进行梯度下降和矩阵乘法，使其更快更好。Transformer架构是一种能够同时进行乘法运算的系统化方式，这是我理解的方式。它和其他的很像，但数学部分不同。我们将继续关注这些新的数学进展。关于中美关系与国家安全学生：你在关于国家安全的论文中提到，中美两国在现代架构的帮助下处于关键地位。接下来的10个国家，以及稍后的一组国家，都是美国的盟友，或者与美国盟友关系密切。我很好奇你对这些国家，尤其是那些中间地带但并非正式盟友的国家有什么看法。它们有多大可能愿意加入我们的安全阵营？是什么因素可能会阻碍它们加入？ Eric：最值得关注的国家是印度，因为顶尖的AI人才从印度来到美国，我们应该让印度保留一部分顶尖人才。他们没有我们这里如此丰富的培训设施和项目。在我看来，印度是这一领域的重要摇摆国家。中国已经没有机会了，不会再回来。日本和韩国显然站在我们这一边。台湾在硬件方面很出色，但他们的软件开发较弱。在全球范围内，其他大国的选择并不多。欧洲因为欧盟的政策和管理机制陷入困境，这并不是什么新鲜事。我与他们斗争了10年，但他们仍然有许多限制，导致我们在欧洲开展研究非常困难。法国还有一些机会，但我不太看好德国。其余的国家都不够有影响力。关于编程与AI 学生：我是编译器工程师。考虑到你设想这些模型将具备的能力，我们还需要花时间学习编程吗？ Eric：是的，这是一个老生常谈的问题，为什么你已经会说英语还要学习英语呢？是为了让你的英语更好。你确实需要理解这些系统的工作原理，我对此非常坚定。关于分布式计算与大语言模型的训练学生：你是否探索过分布式环境？虽然构建大型集群很困难，但MacBooks的性能很强大。你认为类似“Folding@home”的想法适合训练吗？ Eric：是的，我们对此进行了深入研究。算法的工作方式是你有一个非常大的矩阵，基本上是一个乘法函数。系统的速度完全受限于内存到CPU或GPU的传输速度。Nvidia的下一代芯片已经将所有这些功能整合到了一块芯片中，如今的芯片已经足够大到需要将它们都粘合在一起。短时间内，分布式计算在训练大语言模型方面的进展可能有限。关于数据隐私与版权学生：在ChatGPT发布后，OpenAI因使用他们的作品进行训练而被《纽约时报》起诉。你觉得这种情况会如何发展？这对数据隐私有何影响？ Eric：我曾经从事过大量的音乐版权工作。我了解到在60年代，有一系列诉讼最终达成了一项协议：每次播放你的歌曲，你都能获得一定的版权费。我猜AI领域可能会有类似的情况。可能会有很多诉讼，最后可能会达成一种协议，要求你必须支付你的一部分收入，以便使用类似ASCAP BMI的版权管理机构。关于AI领域的垄断与反垄断法规学生：现在看起来几个主要玩家在AI领域占据主导地位，他们会继续维持这个地位。这些公司似乎与那些受到反垄断法规关注的大公司有所交叉。你对这两种趋势有何看法？像是监管部门会否对这些公司进行分拆？这将会对现状产生怎样的影响？ Eric：在我的职业生涯中，我曾帮助微软避免被拆分，结果它确实没有被拆分。我也曾努力阻止谷歌被分拆，目前来看，谷歌还未被分拆。因此，从我的观察来看，这些公司被分拆的趋势并不明显。只要这些公司避免成为像约翰·D·洛克菲勒那样的企业巨头，政府可能不会采取行动。这些公司占据主导地位的原因是他们有足够的资本来建设数据中心。关于技术差距对全球的影响学生：这一切将会把那些不参与前沿模型开发和无法获取计算资源的国家带向何方？富国越来越富，穷国尽力而为。 Eric：事实上，这就是富国的游戏，对吧？巨大的资本，众多技术过硬的人才，强有力的政府支持。有些国家，比如印度，将会成为这一领域的重要参与者。其他国家可能需要找到合作伙伴或与其他国家联合。对年轻人的建议主持人：最后一个问题，Eric。你花了很多时间帮助年轻人，他们正在创造大量财富，你对在座的各位有什么建议吗？他们正在为这门课写商业计划书或撰写政策提案、研究提案，未来职业发展方面你有什么建议？ Eric：我在商学院教过一门关于这个主题的课程。快速制作原型的能力真的非常重要，成为创业者的一个难点在于一切都发生得非常快。现在，如果你不能在一天之内利用这些工具构建你的原型，那你就需要考虑一下了，因为你的竞争对手正在这么做。所以我的建议是，尽快使用这些工具把你的想法制作成原型。这是关键，因为在其他公司、其他大学，或你从未去过的地方，一定有人正在做和你一样的事情。

宝玉

14,213 Aufrufe • vor 2 Jahren

问天塔与理想国那时候我在想，有一天我将带领了我的同族们创造一个新的文明的时代，那个时候又叫量子电脑，是未来的一个，这个目前看到一个终极的工具。然后最终会走向人与上帝沟通... 就像七哥曾经见过高人探索了人类的文明，有幸的一窥世界人类的游戏的真相的碗边之后，我就在想自己，你说要有一天，我想我要把共产党灭了，然后我拥有一个从地下冒油的国家，像沙特一样，是吧。沙特当时萨乌地（Saudi）先生，Mr.萨乌地先生建造了一个国家，建造了这个国家怎么着，生了五千个王子、公主，是吧。然后全给他钱花，是不是。然后近亲结婚，是不是。表亲的结，乱球搞，最后一帮的傻子出来了，是不是。都是不正常的，是吧。然后这叫国家。郭文贵想要这个吗？我要有本事创造一个财富帝国，我不去灭共，我找个地方弄个地方，是吧，建个国，然后整出一帮就是郭文贵的国家，然后郭文贵的五千的子孙和公主们，然后最后近亲结婚，整出一帮傻子出来，然后就是花钱买劳斯莱斯，坐到大飞机，是吧。你觉得这是我想要的吗？我当然不想要。然后再一个就想想，我建一个实体，像北朝鲜一样，让所有人都盼望喝一碗肉汤，然后我吃得胖胖的，然后都得糖尿病死掉，然后让我的儿子，我的孙子接班，是吧。这是我想要的吗？不想要。我都不想要孙子，要不要孙子我都不管，我干嘛要这个？是不是。那我是不是像中国共产党一样，是不是，编一个谎言，创造一个笑话，然后让全中国人民就是说爹亲娘亲不如我这个党亲，都当我的奴隶，然后我到处造小人，造孩子，在全世界去，到人家国家去当人家三孙子去，我在这块奴役我中国人民都变成我的孙子和奴隶，这当然不是我想要的。那什么是我想要的？是吧，我就要探索，我只要活着，我把共产党灭了，我这一辈子就不白活。我毁掉一个魔，比我建一个国的功劳和快乐要大得多。这是一个。第二，我宁可去当狗去，我都不当国王，因为国王全都是骑在人民的头上的。那建一个什么？建一个心中的自我的王国，就是信仰的王国，信仰的王国就是什么？我要找到人为什么来到世界？人到底应该去什么地方？我现在我觉得我发自内心的时候，我认为我知道，我相信人是不生不灭的。因为我们活在一个伟大的时代，很早我就看到了网络文明，现在的生物文明，我就在这个楼的后面，就在背后这个楼，今天看到的川普大楼，就在这个楼的20楼，我住在这，1989年，在1998年到1999年，看到了人类上第一次的，克林顿时期和布什时期搞的人类的基因的排谱，我看到了股票塞雷拉（音）的上市，塞雷拉博士完成了人类的基因排谱，这是多大的事啊，对七哥是震撼的。人类的基因谱排完以后，所有的DNA有多少个的DNA？有多少个谱，怎么形状？有多少个组基因？他把人类给整明白了，人类的染色体。然后我又看到了当年AOL电脑、谷歌、雅虎这些是网络时代的到来，就在这儿，就在这儿。那时候我在想，有一天我将带领了我的同族们创造一个新的文明的时代，那个时候又叫量子电脑，是未来的一个，这个目前看到一个终极的工具。然后最终会走向人与上帝沟通，就人与人的神之间沟通，就是生物电脑。干细胞，你看干细胞就发明了多了不起，所以现在量子电脑上来以后，人的一切改变，而且就在两三年应用，这是七哥二十年三十年的梦想。今天我们站在这里讨论的时候，我特别的幸福，因为我们这些人会最早享受既有钱还有这能力，还有这个需要来享受量子电脑。创造一个数字化的货币的时代、金融的时代、网络的时代和找到人类更多，探索的快乐的时代。 #郭文贵 #新中国联邦 #问天塔 #干细胞 #量子电脑 #生物电脑

问天塔与理想国那时候我在想，有一天我将带领了我的同族们创造一个新的文明的时代，那个时候又叫量子电脑，是未来的一个，这个目前看到一个终极的工具。然后最终会走向人与上帝沟通... 就像七哥曾经见过高人探索了人类的文明，有幸的一窥世界人类的游戏的真相的碗边之后，我就在想自己，你说要有一天，我想我要把共产党灭了，然后我拥有一个从地下冒油的国家，像沙特一样，是吧。沙特当时萨乌地（Saudi）先生，Mr.萨乌地先生建造了一个国家，建造了这个国家怎么着，生了五千个王子、公主，是吧。然后全给他钱花，是不是。然后近亲结婚，是不是。表亲的结，乱球搞，最后一帮的傻子出来了，是不是。都是不正常的，是吧。然后这叫国家。郭文贵想要这个吗？我要有本事创造一个财富帝国，我不去灭共，我找个地方弄个地方，是吧，建个国，然后整出一帮就是郭文贵的国家，然后郭文贵的五千的子孙和公主们，然后最后近亲结婚，整出一帮傻子出来，然后就是花钱买劳斯莱斯，坐到大飞机，是吧。你觉得这是我想要的吗？我当然不想要。然后再一个就想想，我建一个实体，像北朝鲜一样，让所有人都盼望喝一碗肉汤，然后我吃得胖胖的，然后都得糖尿病死掉，然后让我的儿子，我的孙子接班，是吧。这是我想要的吗？不想要。我都不想要孙子，要不要孙子我都不管，我干嘛要这个？是不是。那我是不是像中国共产党一样，是不是，编一个谎言，创造一个笑话，然后让全中国人民就是说爹亲娘亲不如我这个党亲，都当我的奴隶，然后我到处造小人，造孩子，在全世界去，到人家国家去当人家三孙子去，我在这块奴役我中国人民都变成我的孙子和奴隶，这当然不是我想要的。那什么是我想要的？是吧，我就要探索，我只要活着，我把共产党灭了，我这一辈子就不白活。我毁掉一个魔，比我建一个国的功劳和快乐要大得多。这是一个。第二，我宁可去当狗去，我都不当国王，因为国王全都是骑在人民的头上的。那建一个什么？建一个心中的自我的王国，就是信仰的王国，信仰的王国就是什么？我要找到人为什么来到世界？人到底应该去什么地方？我现在我觉得我发自内心的时候，我认为我知道，我相信人是不生不灭的。因为我们活在一个伟大的时代，很早我就看到了网络文明，现在的生物文明，我就在这个楼的后面，就在背后这个楼，今天看到的川普大楼，就在这个楼的20楼，我住在这，1989年，在1998年到1999年，看到了人类上第一次的，克林顿时期和布什时期搞的人类的基因的排谱，我看到了股票塞雷拉（音）的上市，塞雷拉博士完成了人类的基因排谱，这是多大的事啊，对七哥是震撼的。人类的基因谱排完以后，所有的DNA有多少个的DNA？有多少个谱，怎么形状？有多少个组基因？他把人类给整明白了，人类的染色体。然后我又看到了当年AOL电脑、谷歌、雅虎这些是网络时代的到来，就在这儿，就在这儿。那时候我在想，有一天我将带领了我的同族们创造一个新的文明的时代，那个时候又叫量子电脑，是未来的一个，这个目前看到一个终极的工具。然后最终会走向人与上帝沟通，就人与人的神之间沟通，就是生物电脑。干细胞，你看干细胞就发明了多了不起，所以现在量子电脑上来以后，人的一切改变，而且就在两三年应用，这是七哥二十年三十年的梦想。今天我们站在这里讨论的时候，我特别的幸福，因为我们这些人会最早享受既有钱还有这能力，还有这个需要来享受量子电脑。创造一个数字化的货币的时代、金融的时代、网络的时代和找到人类更多，探索的快乐的时代。 #郭文贵 #新中国联邦 #问天塔 #干细胞 #量子电脑 #生物电脑

喜马拉雅日本勇者村

19,379 Aufrufe • vor 1 Jahr

彭博社 Emily Change 采访李飞飞：顶级研究员李飞飞谈人工智能的前景与危险欢迎李飞飞博士登台，她是斯坦福大学计算机科学 Sequoia 教授，人工智能中心联合主任。 “AI 教母”称号的感受 Emily Chang: 李博士被誉为人工智能的教母。你对这个称号有何感想？这是我要提的第一个问题。李飞飞：Emily，我自己从未自称为任何事情的教母，但当我被授予这个头衔时，我确实停下来思考了一下，我想，如果男性可以被称为某事的教父，那么女性也可以，所以我完全接受这个称号。 Emily Chang: 百分之百。关于 ImageNet 的影响 Emily Chang: 你是我们这个时代最有影响力的计算机科学家之一。你撰写了大量的学术论文。你是 ImageNet 的创造者，这个包含大量图片及其描述的数据库为现代 AI 奠定了基础。你有想象过它的影响力会有多大吗？李飞飞：ImageNet 于 2007 年被设想出来，它可能是 AI 算法中大数据的关键转折点。从科学的角度看，我坚信大数据会从根本上改变我们进行 AI 研究的方式，但我从未想到大数据、神经网络和 GPU 的融合会催生出现代 AI，我也从未预想到从那时起的进步速度。科技未来的责任与建议 Emily Chang: 你经常和那些正在决定这项技术未来的人们在同一房间里，比如拜登总统，Sam Altman，Sundar Pichai，Satya Nadella。你在国会作证，你参与了各种工作小组。你对那些有权力的人，他们应该如何使用这种权力，有什么主要的建议吗？李飞飞：Emily，很好的问题。实际上，无论我是在 K-12 夏令营，还是在斯坦福大学的 AI 导论课程中，我的信息都是一样的，那就是要认识到这项技术，它是什么，以及如何负责任和审慎地使用它。理解并接纳它，因为它是一种横跨各个领域的技术，正在改变我们的文明，推动商品流通，科学发现的快速进展，寻找治疗癌症的方法，绘制生物多样性地图，和我们一起发现新材料。但同时，也要认识到所有可能产生的后果，包括可能的非预期后果，以及如何负责任地开发和部署它。我认为，在现今的对话中，保持平衡，理性深思的声音非常重要。无论是在白宫还是学校。 AI 模型的训练数据问题 Emily Chang: 现在，我不知道你会否称这为一场危机或一个转折点，但 AI 模型的训练数据正在耗尽，然后有些公司开始转向使用 AI 生成的数据和合成数据来训练他们的模型。这个问题有多严重？有哪些风险？下一步该怎么做？李飞飞：首先，我认为 AI 模型的训练数据正在耗尽是一种非常狭隘的观点。我知道你在暗指那些消耗大量互联网数据的大语言模型，特别是那些来自网站、Reddit、维基百科等你能获取的数据。即使在谈论语言模型，我们也不应局限于此。我认为还有很多可以探索的。我们看到，不同的数据可以用来构建定制化的模型，无论是用于新闻业还是在诸如医疗保健等不同的行业领域。其实我们并没有耗尽数据。实际上，还有很多有许多行业还未进入数字化时代。我们并未充分利用数据，不论是在医疗、环保还是教育等领域。因此，即使在语言模型这个领域，我不认为我们的数据已经用尽。关于 AI 生成数据的使用 Emily Chang: -您认为现在使用 AI 生成的数据来训练模型是好事，还是这可能会让我们逐渐远离原始数据，以一种可能危险的方式进行？李飞飞：-这是个需要更深入探讨的问题。这是个好问题。AI 有很多生成数据的方法。比如在我的斯坦福实验室，我们做了很多机器人研究，对吧？机器人学习。在这里，模拟数据非常重要，因为我们根本没有足够的资源或机会去收集由人类产生的动作等等。模拟真的非常重要。这会让我们走向危险的道路吗？-我认为，即使是使用人类生成的数据，也可能让我们走向危险的道路。同样，如果我们对模拟数据的处理不负责任，或者没有进行深思熟虑，那么当然可能会使我们走向危险的道路。我的意思是，我甚至不需要特意指出。你知道有哪些是人类生成的不良数据，对吗？就像整个暗网那样。所以问题不在于模拟本身，问题在于数据。 AI 创业领域的探索 Emily Chang: -你正在涉足热门且竞争激烈的 AI 创业领域。你正在启动一些项目，能透露一些信息吗？李飞飞：-不能。 Emily Chang: -好的。那就期待后续吧。我们就 AI 时代的信任度进行了一项调查。可以公布那项调查的结果吗？问题是，你对科技公司能否安全开发 AI 有多大的信任？李飞飞：我完全信任他们，0%。我持怀疑态度，所有人。一点也不信任。有很多人在做这个。 Emily Chang: - 是谁在做？李飞飞：- 这个房间里的人。这个房间里的人。好的。对 AI 领域参与者的信任 Emily Chang: 如果你要对 AI 领域的主要参与者进行排名，你最信任谁，最不信任谁？李飞飞：- 我的信任并没有寄托在某个参与者身上。我信任的是我们共同创建的整个系统以及我们共同创建的机构。所以这可能是你的陷阱问题，但是我无法指出我觉得，你知道，我是说，想想美国的开国元勋们。他们并没有将信任寄托在一个人身上。他们创建了一个我们所有人都可以信任的系统。 Emily Chang: - 我们在做这个吗？李飞飞：- 我们正在尝试，至少斯坦福人类中心 AI 研究所正在尝试。我认为很多人也在试图做这个。我经常被问到这个问题，Emily，你对 AI 还抱有希望吗？首先，这是一个非常悲伤的问题，但我确实会说，我的希望并不在 AI 上。我的希望在于人。我并不是一个妄想的乐观主义者。人是复杂的。我是复杂的。你是复杂的。但我的希望在于人，在我们的集体意愿，在我们的集体责任，很多事情正在发生，我们正在前进，我们中的许多人正在努力使这项技术成为一项可靠的文明技术，以便提升我们所有人。对社会风险的担忧 Emily Chang: 人们谈到的风险有很多，如人类灭绝，坏人，种族偏见，被夸大的各种偏见。你最担心的是什么？李飞飞：- 我更担心的是更为紧迫的社会灾难风险。我也担心人类灭绝风险被过度炒作。我觉得这已经被夸大了。这属于科幻世界的事情，只是在思考它。对于思考这些问题并没有什么错，但相比之下，实际的社会风险，无论是对我们民主过程的错误信息和虚假信息的干扰还是劳动力市场的转变，或者存在偏见的隐私问题这些都是我们必须面对的实际社会风险因为它们影响到真实的人们的真实生活。开源 AI 运动的立场 Emily Chang: - Meta 正在领导一个开源 AI 运动。你认为什么应该是开放的，什么不应该开放？李飞飞：- 这是一个很复杂的问题。我确实相信一个开放的生态系统，特别是在我们的民主世界中。我认为回顾我们国家在过去一百年甚至更久的历史中的亮点无不体现在创新、企业家精神，还有信息的自由流通。所以，我们需要倡导这种开放的生态系统。 AI 讨论的缺失 Emily Chang: - 在 AI 中，没有人谈论的最大的事情是什么？我们应该谈论什么？李飞飞：- 我认为我们应该更多地谈论，天哪，实际上有太多的事情。我们应该谈论我们如何真正想象我们如何使用这项技术。我跟医生、生物化学家、老师交谈。我跟艺术家、农场主交谈。有这么多我们可以想象使用的方式。有这么多我们可以用来改善人们生活改善工作的方式。我不认为我们谈论得够多。我们正在谈论的是末日的阴暗面而且也只有少数人在谈论末日的阴暗面然后媒体在放大这种声音。 Emily Chang: - 我不知道你在说谁。李飞飞：- 我无意中挥了挥手。我不认为我们给了足够的声音给那些真正以最具想象力、创造性的方式试图用 AI 给世界带来好处的人。对过度管制的担忧 Emily Chang: - 有没有任何人，任何事情你想指出就是任何人或任何公司，让你感到恼火？李飞飞：- 我知道你在说什么。我已经指出过他们，我不会说是胡说，只是我觉得我们对“存在危机”关注得太过了，哦，不对，是“灭绝性的危机”。- 存在主义引发的灭绝危机。- 是的，就是这个意思。这就是我们过于强调的问题。我担心我们国家不同地区，比如加利福尼亚，正在推进的一些法案，过于强调这个问题。这些法案可能出于善意，但它们对 AI 模型设定了限制，甚至可能无意中将开源视为违法，而没有真正思考如何评估和审查这些 AI 模型。我对此感到担忧。 Emily Chang: - 你是不是认为我们可能会过度管制呢？李飞飞：- 有可能，我们可能会过度管制，而这样可能会伤害我们的生态系统。但同时，在医疗、交通、金融等实际应用领域，我们应该考虑设置恰当的防护措施。性别和种族多样性 Emily Chang: - 你跟拜登总统谈过这个问题吗？我知道你可以直接跟他联系。李飞飞：- 我不能告诉你我跟他谈过什么。其实，在跟拜登总统的交谈中，我们讨论了投资公共部门 AI 的重要性，因为我们现在就在硅谷，大家都知道，无论是人才、数据还是计算能力，都主要集中在科技产业中，尤其是大型科技公司。而美国公共部门和学术界在 AI 资源方面正在迅速落后。斯坦福自然语言处理实验室只有 64 个 GPU，只有 64 个。想一想这个对比。我们谈论了公共部门的资源问题，因为公共部门是我们国家的创新引擎，它创造了公共产品，发现了科学知识，并且为公众提供了对这项技术的可信赖和负责任的评估和解释。增强女性和有色人种在 AI 领域的影响力 Emily Chang: - 所以最后一个问题，我知道你非常关注这个问题在你的实验室和其他地方这个领域没有足够的女性和有色人种掌控权这个风险有多大，可能会引发什么问题？李飞飞：-是的，Emily，我知道你一直在倡导这个问题，看，还不够。实际上，我认为文化并不一定变得更好，我们看到越来越多的女性和多样化背景的人进入科技和人工智能领域，但我们也看到男性的声音被更多地传播。人们会说，飞飞，你在这里发言，但有很多人比我更好。有很多年轻的女性，来自各种多样化背景的科技人员，他们的声音应该被听到，应该有更大的发言平台。如果我们听不到他们的声音，那就真的是在浪费人力资本，对吧？这些都是杰出的思想家、创新者、技术人员和教育家，发明家，科学家，如果我们不给他们发言的机会，不听他们的想法，不提升他们的地位，就是在浪费我们集体的人力资本。 Emily Chang: -我认为教母是一个非常好的称呼。大家怎么看？你们同意吗？李飞飞：-是的。 Emily Chang: -好的，谢谢你。人工智能教母。来源：

彭博社 Emily Change 采访李飞飞：顶级研究员李飞飞谈人工智能的前景与危险欢迎李飞飞博士登台，她是斯坦福大学计算机科学 Sequoia 教授，人工智能中心联合主任。 “AI 教母”称号的感受 Emily Chang: 李博士被誉为人工智能的教母。你对这个称号有何感想？这是我要提的第一个问题。李飞飞：Emily，我自己从未自称为任何事情的教母，但当我被授予这个头衔时，我确实停下来思考了一下，我想，如果男性可以被称为某事的教父，那么女性也可以，所以我完全接受这个称号。 Emily Chang: 百分之百。关于 ImageNet 的影响 Emily Chang: 你是我们这个时代最有影响力的计算机科学家之一。你撰写了大量的学术论文。你是 ImageNet 的创造者，这个包含大量图片及其描述的数据库为现代 AI 奠定了基础。你有想象过它的影响力会有多大吗？李飞飞：ImageNet 于 2007 年被设想出来，它可能是 AI 算法中大数据的关键转折点。从科学的角度看，我坚信大数据会从根本上改变我们进行 AI 研究的方式，但我从未想到大数据、神经网络和 GPU 的融合会催生出现代 AI，我也从未预想到从那时起的进步速度。科技未来的责任与建议 Emily Chang: 你经常和那些正在决定这项技术未来的人们在同一房间里，比如拜登总统，Sam Altman，Sundar Pichai，Satya Nadella。你在国会作证，你参与了各种工作小组。你对那些有权力的人，他们应该如何使用这种权力，有什么主要的建议吗？李飞飞：Emily，很好的问题。实际上，无论我是在 K-12 夏令营，还是在斯坦福大学的 AI 导论课程中，我的信息都是一样的，那就是要认识到这项技术，它是什么，以及如何负责任和审慎地使用它。理解并接纳它，因为它是一种横跨各个领域的技术，正在改变我们的文明，推动商品流通，科学发现的快速进展，寻找治疗癌症的方法，绘制生物多样性地图，和我们一起发现新材料。但同时，也要认识到所有可能产生的后果，包括可能的非预期后果，以及如何负责任地开发和部署它。我认为，在现今的对话中，保持平衡，理性深思的声音非常重要。无论是在白宫还是学校。 AI 模型的训练数据问题 Emily Chang: 现在，我不知道你会否称这为一场危机或一个转折点，但 AI 模型的训练数据正在耗尽，然后有些公司开始转向使用 AI 生成的数据和合成数据来训练他们的模型。这个问题有多严重？有哪些风险？下一步该怎么做？李飞飞：首先，我认为 AI 模型的训练数据正在耗尽是一种非常狭隘的观点。我知道你在暗指那些消耗大量互联网数据的大语言模型，特别是那些来自网站、Reddit、维基百科等你能获取的数据。即使在谈论语言模型，我们也不应局限于此。我认为还有很多可以探索的。我们看到，不同的数据可以用来构建定制化的模型，无论是用于新闻业还是在诸如医疗保健等不同的行业领域。其实我们并没有耗尽数据。实际上，还有很多有许多行业还未进入数字化时代。我们并未充分利用数据，不论是在医疗、环保还是教育等领域。因此，即使在语言模型这个领域，我不认为我们的数据已经用尽。关于 AI 生成数据的使用 Emily Chang: -您认为现在使用 AI 生成的数据来训练模型是好事，还是这可能会让我们逐渐远离原始数据，以一种可能危险的方式进行？李飞飞：-这是个需要更深入探讨的问题。这是个好问题。AI 有很多生成数据的方法。比如在我的斯坦福实验室，我们做了很多机器人研究，对吧？机器人学习。在这里，模拟数据非常重要，因为我们根本没有足够的资源或机会去收集由人类产生的动作等等。模拟真的非常重要。这会让我们走向危险的道路吗？-我认为，即使是使用人类生成的数据，也可能让我们走向危险的道路。同样，如果我们对模拟数据的处理不负责任，或者没有进行深思熟虑，那么当然可能会使我们走向危险的道路。我的意思是，我甚至不需要特意指出。你知道有哪些是人类生成的不良数据，对吗？就像整个暗网那样。所以问题不在于模拟本身，问题在于数据。 AI 创业领域的探索 Emily Chang: -你正在涉足热门且竞争激烈的 AI 创业领域。你正在启动一些项目，能透露一些信息吗？李飞飞：-不能。 Emily Chang: -好的。那就期待后续吧。我们就 AI 时代的信任度进行了一项调查。可以公布那项调查的结果吗？问题是，你对科技公司能否安全开发 AI 有多大的信任？李飞飞：我完全信任他们，0%。我持怀疑态度，所有人。一点也不信任。有很多人在做这个。 Emily Chang: - 是谁在做？李飞飞：- 这个房间里的人。这个房间里的人。好的。对 AI 领域参与者的信任 Emily Chang: 如果你要对 AI 领域的主要参与者进行排名，你最信任谁，最不信任谁？李飞飞：- 我的信任并没有寄托在某个参与者身上。我信任的是我们共同创建的整个系统以及我们共同创建的机构。所以这可能是你的陷阱问题，但是我无法指出我觉得，你知道，我是说，想想美国的开国元勋们。他们并没有将信任寄托在一个人身上。他们创建了一个我们所有人都可以信任的系统。 Emily Chang: - 我们在做这个吗？李飞飞：- 我们正在尝试，至少斯坦福人类中心 AI 研究所正在尝试。我认为很多人也在试图做这个。我经常被问到这个问题，Emily，你对 AI 还抱有希望吗？首先，这是一个非常悲伤的问题，但我确实会说，我的希望并不在 AI 上。我的希望在于人。我并不是一个妄想的乐观主义者。人是复杂的。我是复杂的。你是复杂的。但我的希望在于人，在我们的集体意愿，在我们的集体责任，很多事情正在发生，我们正在前进，我们中的许多人正在努力使这项技术成为一项可靠的文明技术，以便提升我们所有人。对社会风险的担忧 Emily Chang: 人们谈到的风险有很多，如人类灭绝，坏人，种族偏见，被夸大的各种偏见。你最担心的是什么？李飞飞：- 我更担心的是更为紧迫的社会灾难风险。我也担心人类灭绝风险被过度炒作。我觉得这已经被夸大了。这属于科幻世界的事情，只是在思考它。对于思考这些问题并没有什么错，但相比之下，实际的社会风险，无论是对我们民主过程的错误信息和虚假信息的干扰还是劳动力市场的转变，或者存在偏见的隐私问题这些都是我们必须面对的实际社会风险因为它们影响到真实的人们的真实生活。开源 AI 运动的立场 Emily Chang: - Meta 正在领导一个开源 AI 运动。你认为什么应该是开放的，什么不应该开放？李飞飞：- 这是一个很复杂的问题。我确实相信一个开放的生态系统，特别是在我们的民主世界中。我认为回顾我们国家在过去一百年甚至更久的历史中的亮点无不体现在创新、企业家精神，还有信息的自由流通。所以，我们需要倡导这种开放的生态系统。 AI 讨论的缺失 Emily Chang: - 在 AI 中，没有人谈论的最大的事情是什么？我们应该谈论什么？李飞飞：- 我认为我们应该更多地谈论，天哪，实际上有太多的事情。我们应该谈论我们如何真正想象我们如何使用这项技术。我跟医生、生物化学家、老师交谈。我跟艺术家、农场主交谈。有这么多我们可以想象使用的方式。有这么多我们可以用来改善人们生活改善工作的方式。我不认为我们谈论得够多。我们正在谈论的是末日的阴暗面而且也只有少数人在谈论末日的阴暗面然后媒体在放大这种声音。 Emily Chang: - 我不知道你在说谁。李飞飞：- 我无意中挥了挥手。我不认为我们给了足够的声音给那些真正以最具想象力、创造性的方式试图用 AI 给世界带来好处的人。对过度管制的担忧 Emily Chang: - 有没有任何人，任何事情你想指出就是任何人或任何公司，让你感到恼火？李飞飞：- 我知道你在说什么。我已经指出过他们，我不会说是胡说，只是我觉得我们对“存在危机”关注得太过了，哦，不对，是“灭绝性的危机”。- 存在主义引发的灭绝危机。- 是的，就是这个意思。这就是我们过于强调的问题。我担心我们国家不同地区，比如加利福尼亚，正在推进的一些法案，过于强调这个问题。这些法案可能出于善意，但它们对 AI 模型设定了限制，甚至可能无意中将开源视为违法，而没有真正思考如何评估和审查这些 AI 模型。我对此感到担忧。 Emily Chang: - 你是不是认为我们可能会过度管制呢？李飞飞：- 有可能，我们可能会过度管制，而这样可能会伤害我们的生态系统。但同时，在医疗、交通、金融等实际应用领域，我们应该考虑设置恰当的防护措施。性别和种族多样性 Emily Chang: - 你跟拜登总统谈过这个问题吗？我知道你可以直接跟他联系。李飞飞：- 我不能告诉你我跟他谈过什么。其实，在跟拜登总统的交谈中，我们讨论了投资公共部门 AI 的重要性，因为我们现在就在硅谷，大家都知道，无论是人才、数据还是计算能力，都主要集中在科技产业中，尤其是大型科技公司。而美国公共部门和学术界在 AI 资源方面正在迅速落后。斯坦福自然语言处理实验室只有 64 个 GPU，只有 64 个。想一想这个对比。我们谈论了公共部门的资源问题，因为公共部门是我们国家的创新引擎，它创造了公共产品，发现了科学知识，并且为公众提供了对这项技术的可信赖和负责任的评估和解释。增强女性和有色人种在 AI 领域的影响力 Emily Chang: - 所以最后一个问题，我知道你非常关注这个问题在你的实验室和其他地方这个领域没有足够的女性和有色人种掌控权这个风险有多大，可能会引发什么问题？李飞飞：-是的，Emily，我知道你一直在倡导这个问题，看，还不够。实际上，我认为文化并不一定变得更好，我们看到越来越多的女性和多样化背景的人进入科技和人工智能领域，但我们也看到男性的声音被更多地传播。人们会说，飞飞，你在这里发言，但有很多人比我更好。有很多年轻的女性，来自各种多样化背景的科技人员，他们的声音应该被听到，应该有更大的发言平台。如果我们听不到他们的声音，那就真的是在浪费人力资本，对吧？这些都是杰出的思想家、创新者、技术人员和教育家，发明家，科学家，如果我们不给他们发言的机会，不听他们的想法，不提升他们的地位，就是在浪费我们集体的人力资本。 Emily Chang: -我认为教母是一个非常好的称呼。大家怎么看？你们同意吗？李飞飞：-是的。 Emily Chang: -好的，谢谢你。人工智能教母。来源：

宝玉

125,832 Aufrufe • vor 2 Jahren

最近陶哲轩在 2024 年第 65 届国际数学奥林匹克上，陶哲轩做了一次 AI 和数学的演讲，非常精彩，从数学使用计算计算机的历史开始讲起，一直讲到大语言模型，干货相当多，尤其适合对数学有兴趣的同学。（对数学没那么感兴趣的同学只想看 AI 部分的建议直接跳到 41 分的位置开始观看）先摘录几个冷知识： 1. 我们使用机器做数学计算已经有数千年，最早的机器辅助计算可能是罗马人，然后是中国的算盘 2. 二战时就有人肉“计算机”，计算弹道和其他任务，多位女孩子，因为男士们在打仗，所以那时候的计算基本单位不是GPU，而是kilogirl-hour——“千名女孩工作一小时的计算量” 3. 现在，数学家们使用一种现代化的证明辅助编程语言，叫做 Lean。在 Lean 中有一个核心的数学库，通过众包的方式开发的，本科数学课程中看到的内容，比如微积分基础、群论基础或者拓扑学等等，这些都已经被形式化了，所以你不用从公理开始。 4. 现在数学领域有一种团队协作证明复杂数学定理的工作流程，那就是先编写一个称为“蓝图”的详细证明计划，将整个证明分解为数百个小步骤。每个步骤可以单独形式化，然后再将它们整合在一起，这样你就可以将一个庞大的论证分解成许多小块。先编写这个蓝图，然后团队中的其他人可以对论据的不同步骤的不同部分进行形式化。去年，陶哲轩和几位同事一起解决了一个组合数学问题。这是一个组合学的问题。大约20人在短短三周内完成了，使用了蓝图工具，参与的人中有概率论专家，甚至还有一些并非数学家的人，他们是程序员，但在解决这些小型拼图问题上非常擅长。每个人都挑选了一个觉得自己能做的小任务，并完成了它。在数学领域，通常很难这么多人一起合作，一般最多可能五个人合作。因为在大项目上合作时，你必须相信每个人的数学都是正确的。但是，一旦超过一定规模，这就无法实现了。但现在借助 Lean 编译器，它能自动检查。团队成员无法上传任何编译不通过的内容，会被拒绝。因此，你可以与一些从未见过的人合作。最后是讲大语言模型，首先陶哲轩就打脸了 GPT-4 的论文（我猜是微软那篇《GPT-4，通用人工智能的火花》），论文中号称 GPT-4 能解决国际数学奥林匹克问题，但实际上，这个问题不是 2022 年国际奥数竞赛的原始问题，而是一个简化版本，并且他们测试了几百道国际奥数竞赛问题，成功率只有1%，论文里的这个是精心挑选的恰巧能做对的。并且陶哲轩提到了基于大语言模型的一些改进的方案：比如 CoT（Chain of Thought），也就是 LLM 做简单的算术运算都做不对，但是如果让它一步步解释，可能就对了。还可以教 AI 一些解题技巧，比如尝试简单的例子，反证法，尝试逐步证明等。比如让模型和编程语言或者工具连接，将大语言的输出结果交给 Wolfram 这样的专业数学工具或者 Python 这样的编程语言验证，并且迭代的进行修正和验证，直到得到正确的结果，这可以提升大语言模型生成的效果。即使借助这些手段，大语言模型还远远不能解决大多数数学问题，更不用说数学研究问题了！当然陶哲轩也没太过打击大家对于 AI 的信心，表示我们在 AI 上还是在不断的取得进展，还提到了他日常是怎么用 AI 的，比如说把 AI 当成灵感之源。 > 我曾遇到过一个问题，我尝试了几种方法，但都无法解决。于是，我尝试询问 GPT，你建议我使用什么其他方法来解决这个问题？GPT 给我提供了 10 种可能的方法，其中有 5 种我已经尝试过，或者明显没有帮助。的确，有几种方法并不实用。但其中有一种我还没尝试过的方法，那就是针对这个问题使用生成函数。当 GPT 建议我使用这种方法时，我意识到这就是我漏掉的正确方法。所以，将 GPT 视为一个交流伙伴，它确实具有一定的用处。还有使用 GitHub Copilot 帮他写代码，让它自动生成下一步的证明结果，Copilot 的智能提示有 20% 的概率能生成正确的下一步结果。 > 例如我使用的一个叫 GitHub Copilot 的工具，你只需要写下一半的证明，它就会尝试猜测接下来的内容。大概有 20% 的情况下，它能猜到接近正确的答案。然后你就可以说，我接受这个答案。好的，那么在这种情况下，我正在试图证明这个陈述。灰色的部分是 Copilot 给出的建议。结果发现第一行完全没用。不过第二行，尽管你可能看不清楚，却真的解决了这个问题。所以，你不能盲目接受它的输入，因为这些代码未必能顺利编译。但如果你对代码的运作方式已经有所了解，这将大大节省你的时间。这些工具正在变得越来越好。现在如果一个证明只需要一两行，它们就能自动完成。现在已经有了这样的实验，即通过迭代地让 AI 提供证明，然后让编译器进行反馈，如果编译出错，就把错误信息反馈给 AI。通过这种方法，我们开始能够验证四五步长的证明。当然，一个大型的证明可能需要数万行。所以，我们还没有达到能够立即得到一个正式证明的程度。但是，这已经是一个相当有用的工具。对于大家关心的问题： AI 在数学领域现在到了哪一个阶段？是否未来几年利用 AI 能直接解决数学问题？陶哲轩也给出了他的看法： > 我认为我们还远远没有达到这个阶段。如果我们专注于非常特定的问题，你可以定制专门的 AI 来处理一小部分问题。即便如此，它们也不是完全可靠的，但还是有用的。不过至少在接下来的几年里，它们基本上将是非常有用的辅助工具，超越了我们已经熟悉的暴力计算辅助。他还提到了一些可能的 AI 能在数学领域提供帮助的方向： - AI 能够非常好地生成有价值的猜想 > 比如，我们已经看到了关于结理论的例子，它们已经可以推测出两个不同的统计量之间的关系。因此，我们希望能够创建大量的数据集，输入到 AI 中，它们就会自动找出各种不同的数学对象之间的有趣联系。虽然我们还不知道如何做到这一点，部分原因是我们没有这些庞大的数据集。但我认为这是未来可能实现的一个方向。 - 批量或者说规模化的证明大量数学定理 > 现在，因为证明定理是如此繁琐和艰难的过程，我们一次只能证明一个定理，如果你效率很高，可能一次能证明两三个。但是有了 AI，你可以设想一下未来的情况，我们不是试图解决一个问题，而是处理一类类似的1000个问题，然后告诉AI，尝试用这个方法解决这 1000 个问题，然后报告结果，哦，我能用这种技术解决 35% 的问题。那么另一种技术呢？我能解决这个百分比的问题。或者如果结合这些方法，又能解决多少问题？你可以开始探索问题的空间，而不是一个接一个地解决问题。这是你现在根本无法做到的事情，或者是你需要几十年时间，通过数十篇论文慢慢搞清楚各种技术能做什么，不能做什么。但是有了这些工具，你真的可以开始做规模前所未有的数学研究。所以，未来将会非常令人兴奋。演讲环节结束前的最后一句话说的特别好： > 我们仍然会以传统方式证明定理。事实上，我们必须这样做，因为如果我们自己都不知道如何做这些事情，就无法引导这些 AI。但是我们将能够做很多现在无法做到的事情。这恰恰也是我们现在使用 AI 辅助编程的问题：如果我们自己都不知道如何构建软件，就很难引导好 AI 帮助我们生成高质量的代码。尽管 AI 在数学和编程领域变得越来越有用，但人类的洞察力和创造力仍然是创作价值的关键。原始 YT 视频：

最近陶哲轩在 2024 年第 65 届国际数学奥林匹克上，陶哲轩做了一次 AI 和数学的演讲，非常精彩，从数学使用计算计算机的历史开始讲起，一直讲到大语言模型，干货相当多，尤其适合对数学有兴趣的同学。（对数学没那么感兴趣的同学只想看 AI 部分的建议直接跳到 41 分的位置开始观看）先摘录几个冷知识： 1. 我们使用机器做数学计算已经有数千年，最早的机器辅助计算可能是罗马人，然后是中国的算盘 2. 二战时就有人肉“计算机”，计算弹道和其他任务，多位女孩子，因为男士们在打仗，所以那时候的计算基本单位不是GPU，而是kilogirl-hour——“千名女孩工作一小时的计算量” 3. 现在，数学家们使用一种现代化的证明辅助编程语言，叫做 Lean。在 Lean 中有一个核心的数学库，通过众包的方式开发的，本科数学课程中看到的内容，比如微积分基础、群论基础或者拓扑学等等，这些都已经被形式化了，所以你不用从公理开始。 4. 现在数学领域有一种团队协作证明复杂数学定理的工作流程，那就是先编写一个称为“蓝图”的详细证明计划，将整个证明分解为数百个小步骤。每个步骤可以单独形式化，然后再将它们整合在一起，这样你就可以将一个庞大的论证分解成许多小块。先编写这个蓝图，然后团队中的其他人可以对论据的不同步骤的不同部分进行形式化。去年，陶哲轩和几位同事一起解决了一个组合数学问题。这是一个组合学的问题。大约20人在短短三周内完成了，使用了蓝图工具，参与的人中有概率论专家，甚至还有一些并非数学家的人，他们是程序员，但在解决这些小型拼图问题上非常擅长。每个人都挑选了一个觉得自己能做的小任务，并完成了它。在数学领域，通常很难这么多人一起合作，一般最多可能五个人合作。因为在大项目上合作时，你必须相信每个人的数学都是正确的。但是，一旦超过一定规模，这就无法实现了。但现在借助 Lean 编译器，它能自动检查。团队成员无法上传任何编译不通过的内容，会被拒绝。因此，你可以与一些从未见过的人合作。最后是讲大语言模型，首先陶哲轩就打脸了 GPT-4 的论文（我猜是微软那篇《GPT-4，通用人工智能的火花》），论文中号称 GPT-4 能解决国际数学奥林匹克问题，但实际上，这个问题不是 2022 年国际奥数竞赛的原始问题，而是一个简化版本，并且他们测试了几百道国际奥数竞赛问题，成功率只有1%，论文里的这个是精心挑选的恰巧能做对的。并且陶哲轩提到了基于大语言模型的一些改进的方案：比如 CoT（Chain of Thought），也就是 LLM 做简单的算术运算都做不对，但是如果让它一步步解释，可能就对了。还可以教 AI 一些解题技巧，比如尝试简单的例子，反证法，尝试逐步证明等。比如让模型和编程语言或者工具连接，将大语言的输出结果交给 Wolfram 这样的专业数学工具或者 Python 这样的编程语言验证，并且迭代的进行修正和验证，直到得到正确的结果，这可以提升大语言模型生成的效果。即使借助这些手段，大语言模型还远远不能解决大多数数学问题，更不用说数学研究问题了！当然陶哲轩也没太过打击大家对于 AI 的信心，表示我们在 AI 上还是在不断的取得进展，还提到了他日常是怎么用 AI 的，比如说把 AI 当成灵感之源。 > 我曾遇到过一个问题，我尝试了几种方法，但都无法解决。于是，我尝试询问 GPT，你建议我使用什么其他方法来解决这个问题？GPT 给我提供了 10 种可能的方法，其中有 5 种我已经尝试过，或者明显没有帮助。的确，有几种方法并不实用。但其中有一种我还没尝试过的方法，那就是针对这个问题使用生成函数。当 GPT 建议我使用这种方法时，我意识到这就是我漏掉的正确方法。所以，将 GPT 视为一个交流伙伴，它确实具有一定的用处。还有使用 GitHub Copilot 帮他写代码，让它自动生成下一步的证明结果，Copilot 的智能提示有 20% 的概率能生成正确的下一步结果。 > 例如我使用的一个叫 GitHub Copilot 的工具，你只需要写下一半的证明，它就会尝试猜测接下来的内容。大概有 20% 的情况下，它能猜到接近正确的答案。然后你就可以说，我接受这个答案。好的，那么在这种情况下，我正在试图证明这个陈述。灰色的部分是 Copilot 给出的建议。结果发现第一行完全没用。不过第二行，尽管你可能看不清楚，却真的解决了这个问题。所以，你不能盲目接受它的输入，因为这些代码未必能顺利编译。但如果你对代码的运作方式已经有所了解，这将大大节省你的时间。这些工具正在变得越来越好。现在如果一个证明只需要一两行，它们就能自动完成。现在已经有了这样的实验，即通过迭代地让 AI 提供证明，然后让编译器进行反馈，如果编译出错，就把错误信息反馈给 AI。通过这种方法，我们开始能够验证四五步长的证明。当然，一个大型的证明可能需要数万行。所以，我们还没有达到能够立即得到一个正式证明的程度。但是，这已经是一个相当有用的工具。对于大家关心的问题： AI 在数学领域现在到了哪一个阶段？是否未来几年利用 AI 能直接解决数学问题？陶哲轩也给出了他的看法： > 我认为我们还远远没有达到这个阶段。如果我们专注于非常特定的问题，你可以定制专门的 AI 来处理一小部分问题。即便如此，它们也不是完全可靠的，但还是有用的。不过至少在接下来的几年里，它们基本上将是非常有用的辅助工具，超越了我们已经熟悉的暴力计算辅助。他还提到了一些可能的 AI 能在数学领域提供帮助的方向： - AI 能够非常好地生成有价值的猜想 > 比如，我们已经看到了关于结理论的例子，它们已经可以推测出两个不同的统计量之间的关系。因此，我们希望能够创建大量的数据集，输入到 AI 中，它们就会自动找出各种不同的数学对象之间的有趣联系。虽然我们还不知道如何做到这一点，部分原因是我们没有这些庞大的数据集。但我认为这是未来可能实现的一个方向。 - 批量或者说规模化的证明大量数学定理 > 现在，因为证明定理是如此繁琐和艰难的过程，我们一次只能证明一个定理，如果你效率很高，可能一次能证明两三个。但是有了 AI，你可以设想一下未来的情况，我们不是试图解决一个问题，而是处理一类类似的1000个问题，然后告诉AI，尝试用这个方法解决这 1000 个问题，然后报告结果，哦，我能用这种技术解决 35% 的问题。那么另一种技术呢？我能解决这个百分比的问题。或者如果结合这些方法，又能解决多少问题？你可以开始探索问题的空间，而不是一个接一个地解决问题。这是你现在根本无法做到的事情，或者是你需要几十年时间，通过数十篇论文慢慢搞清楚各种技术能做什么，不能做什么。但是有了这些工具，你真的可以开始做规模前所未有的数学研究。所以，未来将会非常令人兴奋。演讲环节结束前的最后一句话说的特别好： > 我们仍然会以传统方式证明定理。事实上，我们必须这样做，因为如果我们自己都不知道如何做这些事情，就无法引导这些 AI。但是我们将能够做很多现在无法做到的事情。这恰恰也是我们现在使用 AI 辅助编程的问题：如果我们自己都不知道如何构建软件，就很难引导好 AI 帮助我们生成高质量的代码。尽管 AI 在数学和编程领域变得越来越有用，但人类的洞察力和创造力仍然是创作价值的关键。原始 YT 视频：

宝玉

301,920 Aufrufe • vor 2 Jahren

Google 前 CEO 埃里克·施密特近期在斯坦福 CS323 课堂上的访谈（三）学生问题一：如何让AI真正按照我们的意愿行动？学生：之前你提到过这点，和你刚才的评论有关，AI需要真正按照我们的意愿行事。你刚刚提到了对抗性AI，我想如果你能再详细说明一下就更好了。除了计算能力肯定会增加，我们可以有更强大的模型，但是如何让它们真正按照我们的意愿行动，这个问题你觉得解决了吗？在我看来，这个问题似乎还没有完全解答。 Eric：好吧，你必须认为，当前的问题会随着技术的进步而减少，对吗？我并不是说这些问题会完全消失。然后你还需要假设，我们会有对AI有效性的测试方法。因此，我们必须有一种方式，去确认事情是否成功。举刚才我提到的TikTok竞争对手的例子，我并不是建议你非法盗用其他人的音乐。如果你是硅谷的企业家，希望你们都能成为的话，如果这个产品火了，那么你就需要雇一大堆律师来收拾烂摊子，是吧？但如果没有人使用你的产品，那你盗用了所有内容也无关紧要。当然，不要引用我的话，是吧？（观众笑了）主持人：对，你正在被摄影机记录。 Eric：是的，没错。（观众笑了）但你明白我的意思。换句话说，硅谷会进行这样的尝试，并收拾残局，这通常就是事情的运作方式。所以在我看来，你会看到越来越多的性能系统，甚至有更好的测试，最终会有对抗性测试，这将保证它们的行为在一个可控的范围内。我们通常把这称为链式思维推理。人们相信，在未来几年里，你将能够实现长达1000步的思维链条推理。做这个，再做那个。就好比是在制作菜谱。你可以照着菜谱做，并测试它是否产生了正确的结果。这就是系统运作的方式。学生问题二：AI进步的驱动力是什么？学生：总的来说，你对AI进步的潜力似乎持有非常积极的态度。我很好奇，你认为什么会推动这个进步呢？是更强大的计算力量？还是更多的数据？或是基础性或实质性的变化？ Eric：是的。现在投入的资金数额简直令人难以置信。我选择投资于几乎所有领域，因为我无法确定谁会是最后的赢家。跟随我投资的资金规模非常庞大，我觉得这部分原因是早期投资的回报已经出现，那些大资金的投资者，他们对他们自己在做什么并不清楚，他们只知道他们的投资中必须包含AI成分。现在所有的投资看似都与AI有关，所以他们无法区分哪些是真正的AI投资。我把AI定义为能够学习的系统，真正能够自我学习的系统。所以我认为这是其中的一个驱动力。另一个驱动力是，有许多非常复杂的新算法，这些算法可以说是超越了Transformer。我的朋友，也是长期的合作伙伴，创造了一种新的非Transformer架构。我在巴黎资助的一个团队声称他们也做出了相同的成果。这里有巨大的发明潜力，斯坦福大学也有很多创新。最后一点是，市场普遍认为智能的发明将带来无尽的回报。比如说，你投资了一家公司500亿美元，你必须从智能中获得大量的收益才能回本。因此，我们可能会经历一场大的投资泡沫，最终市场会自行调整。这在过去一直如此，而这一次也极有可能是如此。学生问题三：AI开源与闭源的争论 Eric：你之前提到，你认为领先者正在逐渐拉开与其他人的差距，现在。这个问题可以这样理解，有一家叫做Mistral的法国公司，他们的表现非常出色，我也是他们的投资者。他们已经推出了第二个版本，但由于成本过高，第三个版本可能无法推出。他们需要收入，不能免费提供模型。所以，我们行业中关于开源与闭源的争论非常激烈。而我的整个职业生涯都是基于人们愿意共享开源的软件。我的一切都与开源有关。谷歌的许多基础设施都是开源的。我在技术上所做的一切也是如此。然而，可能是因为资本成本如此巨大，这从根本上改变了软件开发的方式。你和我之前谈到的，我认为软件程序员的生产率至少会提高一倍。有三四家软件公司正在努力实现这一目标。我投资了所有这些公司。本着这种精神。他们都在努力提高软件程序员的效率。我最近接触的一个最有趣的公司叫Augment。我总是把它想象成单个程序员，但他们告诉我，“我们的目标并不是他。我们的目标是那些上100人的开发团队，代码行数达到数百万行，谁也不知道里面发生了什么。”这确实是一个非常适合AI解决的问题。他们能赚钱吗？我希望他们能。有很多问题需要解答。学生问题四：上下文窗口、智能体和“文本转行动”的组合重要性学生：你好。你一开始提到，上下文窗口的扩展、智能体和将文本转化为行动的组合将产生无法想象的影响。首先，为什么这种组合如此重要呢？其次，我知道你没有水晶球，不能预测未来。但为什么你认为这些影响将超出我们的想象？ Eric：这有助于解决新“时效性”问题。目前的模型需要训练大约一年半的时间。包括六个月的准备，六个月的训练，六个月的微调。所以它们总是过时的。通过扩展上下文窗口，你可以提供最新的信息。例如，你可以在上下文中询问关于哈马斯与以色列战争的问题。这是非常强大的。它让模型能够像谷歌一样保持时效性。关于智能体，我给你一个例子。我成立了一个基金会，该基金会资助了一个非营利组织。首先，如果在场有化学家，我并不真正了解化学。有一个叫做ChemCrow的工具，它是一个基于大语言模型的系统，学习了化学知识。他们使用这个系统生成关于蛋白质的化学假设，然后在实验室测试一晚上，之后它会学习。这大大加速了化学、材料科学等领域的研究进程。这就是智能体模型的一个例子。然后对于“文本到行动”，可以理解为你拥有大量廉价程序员，对吧？我们可能还不清楚会发生什么——这是你的专长领域——当每个人都有自己的程序员时会发生什么。我并不是在谈论开灯和关灯的事情。想象一下——再举一个例子——比如，你不喜欢Google。于是你说，给我打造一个可以与Google竞争的搜索引擎。没错，你一个人就能打造一个能与Google抗衡的搜索引擎，搜索网页，有一个用户界面，照原样山寨一份，以一种有趣的方式在其中融入生成式AI，用30秒钟完成，看看效果如何。很多人因此相信，包括Google在内的许多大公司，可能会受到这种方式的威胁。我们拭目以待。关于AI和虚假信息的讨论主持人：有很多通过Slido提交的问题，有些得到了投票。这里有一个，我们去年讨论过这个问题。我们如何阻止AI影响公众舆论，制造假消息，特别是在即将到来的选举期间？有什么短期和长期的解决方案呢？ Eric：在这次即将到来的选举中，以及在全球范围内，大部分的假消息都会出现在社交媒体上。而社交媒体公司没有足够的组织能力来管理这些问题。以TikTok为例，有很多指控称TikTok偏袒某些类型的误导信息，而忽略其他类型的误导信息。许多人声称中国强迫他们这么做，但我没有看到任何证据。我觉得这是个混乱的局面。我们这个国家必须学会批判性思考。这对美国来说可能是个不可能的挑战。但是，别人告诉你的，并不一定就是真的。主持人：事情可能会走向另一个极端，导致真实的信息也不再被人们相信吗？有些人称这为认识论危机，比如马斯克就说过，“我从未做过那件事。证明它。” Eric：以唐纳德·特朗普为例。我认为我们社会存在信任问题。民主制度有时也会失败。我认为对民主制度最大的威胁是虚假的信息，因为我们会变得非常擅长制造这些虚假信息。当我管理YouTube的时候，我们在YouTube上面临的最大问题是有人上传虚假的视频，然后有人因此受害甚至丧生。我们有一个禁止涉及死亡信息的政策，令人震惊。我们致力于解决这个问题，但这是一项艰巨的任务。而且，这还是在生成式AI出现之前的事情。主持人：嗯，所以—— Eric：我没有好的答案。主持人：有一个技术解决方案，这并不是答案，但可能有助于缓解这个问题，我不明白为什么这种方法没有被更广泛使用，那就是公钥认证。当乔·拜登发表演讲时，为什么不像SSL那样进行数字签名呢？或者，比如那些名人或公众人物，他们不能有一个公钥吗？ Eric：对，这就是公钥的一种形式，然后有一种确定的方式了解系统如何—— 主持人：嘿，当我向亚马逊发送我的信用卡信息时，我知道这是亚马逊。 Eric：我和乔纳森·海德一起撰写并发表了一篇论文，他一直在研究生成焦虑问题。这篇论文并未产生任何影响。他是个非常出色的传播者，我可能不如他。所以我得出的结论是，系统没有按照你所说的那样组织起来。主持人：你有一篇论文赞同我们的做法。 Eric：也即是对你的建议的赞同。主持人：好的。 Eric：我的结论是，总的来说，CEO们都在努力最大化收入。为了最大化收入，他们最大化用户参与度。为了最大化用户参与度，他们最大化煽动性内容。算法选择煽动性内容，因为这会带来更多的收入，对吧？由此，算法更倾向于推荐些极端的内容。这并不是单方面的问题。我并不是在这里做出任何偏袒的声明。这是一个问题。这个问题必须得到解决。在一个民主制度中，我对TikTok的解决方案是，我们之前私下讨论过，在我年轻时，有一个叫做"平等播放时间"的规则。因为TikTok实际上并不仅仅是社交媒体，它更像是电视，对吧？有程序在幕后控制你。根据统计，TikTok在美国的用户每天观看90分钟，每个用户平均观看200个TikTok视频。这是很大的数量，对吧？因此，政府必须采取某种形式的平衡措施。

Google 前 CEO 埃里克·施密特近期在斯坦福 CS323 课堂上的访谈（三）学生问题一：如何让AI真正按照我们的意愿行动？学生：之前你提到过这点，和你刚才的评论有关，AI需要真正按照我们的意愿行事。你刚刚提到了对抗性AI，我想如果你能再详细说明一下就更好了。除了计算能力肯定会增加，我们可以有更强大的模型，但是如何让它们真正按照我们的意愿行动，这个问题你觉得解决了吗？在我看来，这个问题似乎还没有完全解答。 Eric：好吧，你必须认为，当前的问题会随着技术的进步而减少，对吗？我并不是说这些问题会完全消失。然后你还需要假设，我们会有对AI有效性的测试方法。因此，我们必须有一种方式，去确认事情是否成功。举刚才我提到的TikTok竞争对手的例子，我并不是建议你非法盗用其他人的音乐。如果你是硅谷的企业家，希望你们都能成为的话，如果这个产品火了，那么你就需要雇一大堆律师来收拾烂摊子，是吧？但如果没有人使用你的产品，那你盗用了所有内容也无关紧要。当然，不要引用我的话，是吧？（观众笑了）主持人：对，你正在被摄影机记录。 Eric：是的，没错。（观众笑了）但你明白我的意思。换句话说，硅谷会进行这样的尝试，并收拾残局，这通常就是事情的运作方式。所以在我看来，你会看到越来越多的性能系统，甚至有更好的测试，最终会有对抗性测试，这将保证它们的行为在一个可控的范围内。我们通常把这称为链式思维推理。人们相信，在未来几年里，你将能够实现长达1000步的思维链条推理。做这个，再做那个。就好比是在制作菜谱。你可以照着菜谱做，并测试它是否产生了正确的结果。这就是系统运作的方式。学生问题二：AI进步的驱动力是什么？学生：总的来说，你对AI进步的潜力似乎持有非常积极的态度。我很好奇，你认为什么会推动这个进步呢？是更强大的计算力量？还是更多的数据？或是基础性或实质性的变化？ Eric：是的。现在投入的资金数额简直令人难以置信。我选择投资于几乎所有领域，因为我无法确定谁会是最后的赢家。跟随我投资的资金规模非常庞大，我觉得这部分原因是早期投资的回报已经出现，那些大资金的投资者，他们对他们自己在做什么并不清楚，他们只知道他们的投资中必须包含AI成分。现在所有的投资看似都与AI有关，所以他们无法区分哪些是真正的AI投资。我把AI定义为能够学习的系统，真正能够自我学习的系统。所以我认为这是其中的一个驱动力。另一个驱动力是，有许多非常复杂的新算法，这些算法可以说是超越了Transformer。我的朋友，也是长期的合作伙伴，创造了一种新的非Transformer架构。我在巴黎资助的一个团队声称他们也做出了相同的成果。这里有巨大的发明潜力，斯坦福大学也有很多创新。最后一点是，市场普遍认为智能的发明将带来无尽的回报。比如说，你投资了一家公司500亿美元，你必须从智能中获得大量的收益才能回本。因此，我们可能会经历一场大的投资泡沫，最终市场会自行调整。这在过去一直如此，而这一次也极有可能是如此。学生问题三：AI开源与闭源的争论 Eric：你之前提到，你认为领先者正在逐渐拉开与其他人的差距，现在。这个问题可以这样理解，有一家叫做Mistral的法国公司，他们的表现非常出色，我也是他们的投资者。他们已经推出了第二个版本，但由于成本过高，第三个版本可能无法推出。他们需要收入，不能免费提供模型。所以，我们行业中关于开源与闭源的争论非常激烈。而我的整个职业生涯都是基于人们愿意共享开源的软件。我的一切都与开源有关。谷歌的许多基础设施都是开源的。我在技术上所做的一切也是如此。然而，可能是因为资本成本如此巨大，这从根本上改变了软件开发的方式。你和我之前谈到的，我认为软件程序员的生产率至少会提高一倍。有三四家软件公司正在努力实现这一目标。我投资了所有这些公司。本着这种精神。他们都在努力提高软件程序员的效率。我最近接触的一个最有趣的公司叫Augment。我总是把它想象成单个程序员，但他们告诉我，“我们的目标并不是他。我们的目标是那些上100人的开发团队，代码行数达到数百万行，谁也不知道里面发生了什么。”这确实是一个非常适合AI解决的问题。他们能赚钱吗？我希望他们能。有很多问题需要解答。学生问题四：上下文窗口、智能体和“文本转行动”的组合重要性学生：你好。你一开始提到，上下文窗口的扩展、智能体和将文本转化为行动的组合将产生无法想象的影响。首先，为什么这种组合如此重要呢？其次，我知道你没有水晶球，不能预测未来。但为什么你认为这些影响将超出我们的想象？ Eric：这有助于解决新“时效性”问题。目前的模型需要训练大约一年半的时间。包括六个月的准备，六个月的训练，六个月的微调。所以它们总是过时的。通过扩展上下文窗口，你可以提供最新的信息。例如，你可以在上下文中询问关于哈马斯与以色列战争的问题。这是非常强大的。它让模型能够像谷歌一样保持时效性。关于智能体，我给你一个例子。我成立了一个基金会，该基金会资助了一个非营利组织。首先，如果在场有化学家，我并不真正了解化学。有一个叫做ChemCrow的工具，它是一个基于大语言模型的系统，学习了化学知识。他们使用这个系统生成关于蛋白质的化学假设，然后在实验室测试一晚上，之后它会学习。这大大加速了化学、材料科学等领域的研究进程。这就是智能体模型的一个例子。然后对于“文本到行动”，可以理解为你拥有大量廉价程序员，对吧？我们可能还不清楚会发生什么——这是你的专长领域——当每个人都有自己的程序员时会发生什么。我并不是在谈论开灯和关灯的事情。想象一下——再举一个例子——比如，你不喜欢Google。于是你说，给我打造一个可以与Google竞争的搜索引擎。没错，你一个人就能打造一个能与Google抗衡的搜索引擎，搜索网页，有一个用户界面，照原样山寨一份，以一种有趣的方式在其中融入生成式AI，用30秒钟完成，看看效果如何。很多人因此相信，包括Google在内的许多大公司，可能会受到这种方式的威胁。我们拭目以待。关于AI和虚假信息的讨论主持人：有很多通过Slido提交的问题，有些得到了投票。这里有一个，我们去年讨论过这个问题。我们如何阻止AI影响公众舆论，制造假消息，特别是在即将到来的选举期间？有什么短期和长期的解决方案呢？ Eric：在这次即将到来的选举中，以及在全球范围内，大部分的假消息都会出现在社交媒体上。而社交媒体公司没有足够的组织能力来管理这些问题。以TikTok为例，有很多指控称TikTok偏袒某些类型的误导信息，而忽略其他类型的误导信息。许多人声称中国强迫他们这么做，但我没有看到任何证据。我觉得这是个混乱的局面。我们这个国家必须学会批判性思考。这对美国来说可能是个不可能的挑战。但是，别人告诉你的，并不一定就是真的。主持人：事情可能会走向另一个极端，导致真实的信息也不再被人们相信吗？有些人称这为认识论危机，比如马斯克就说过，“我从未做过那件事。证明它。” Eric：以唐纳德·特朗普为例。我认为我们社会存在信任问题。民主制度有时也会失败。我认为对民主制度最大的威胁是虚假的信息，因为我们会变得非常擅长制造这些虚假信息。当我管理YouTube的时候，我们在YouTube上面临的最大问题是有人上传虚假的视频，然后有人因此受害甚至丧生。我们有一个禁止涉及死亡信息的政策，令人震惊。我们致力于解决这个问题，但这是一项艰巨的任务。而且，这还是在生成式AI出现之前的事情。主持人：嗯，所以—— Eric：我没有好的答案。主持人：有一个技术解决方案，这并不是答案，但可能有助于缓解这个问题，我不明白为什么这种方法没有被更广泛使用，那就是公钥认证。当乔·拜登发表演讲时，为什么不像SSL那样进行数字签名呢？或者，比如那些名人或公众人物，他们不能有一个公钥吗？ Eric：对，这就是公钥的一种形式，然后有一种确定的方式了解系统如何—— 主持人：嘿，当我向亚马逊发送我的信用卡信息时，我知道这是亚马逊。 Eric：我和乔纳森·海德一起撰写并发表了一篇论文，他一直在研究生成焦虑问题。这篇论文并未产生任何影响。他是个非常出色的传播者，我可能不如他。所以我得出的结论是，系统没有按照你所说的那样组织起来。主持人：你有一篇论文赞同我们的做法。 Eric：也即是对你的建议的赞同。主持人：好的。 Eric：我的结论是，总的来说，CEO们都在努力最大化收入。为了最大化收入，他们最大化用户参与度。为了最大化用户参与度，他们最大化煽动性内容。算法选择煽动性内容，因为这会带来更多的收入，对吧？由此，算法更倾向于推荐些极端的内容。这并不是单方面的问题。我并不是在这里做出任何偏袒的声明。这是一个问题。这个问题必须得到解决。在一个民主制度中，我对TikTok的解决方案是，我们之前私下讨论过，在我年轻时，有一个叫做"平等播放时间"的规则。因为TikTok实际上并不仅仅是社交媒体，它更像是电视，对吧？有程序在幕后控制你。根据统计，TikTok在美国的用户每天观看90分钟，每个用户平均观看200个TikTok视频。这是很大的数量，对吧？因此，政府必须采取某种形式的平衡措施。

宝玉

19,385 Aufrufe • vor 2 Jahren