Video yükleniyor...

Video Yüklenemedi

Bu video yüklenirken bir sorun oluştu. Bu geçici bir ağ sorunundan kaynaklanıyor olabilir veya video kullanılamıyor olabilir.

Ana Sayfaya Dön

Deepmind 成立的初衷：先解决智能问题，再用智能解决所有问题，这一切都在如期进行！WIRED 杂志「The Big Interview」对 Demis Hassabis 的采访，深入探讨了 AGI 的未來、对就业市场的影响和随之而來的风险与机遇。帮大家提炼了对谈中的六个洞见：洞见一：AGI 的试金石是“不出错”，而非“超能力”。真正的 AGI，其标志不在于解决顶尖难题的巅峰表现，而在于横跨所有简单与复杂任务的持续、稳定、不出错的泛化能力。一个在国际奥数竞赛上能夺金，却在简单数数上会犯错的系统，并未真正理解世界。评估智慧时，稳定性和一致性比峰值性能更为本质；洞见二：技术的能力边界，不等于人类社会的需求边界。即使 AGI 在技术上能做所有工作，我们仍会出于人性的需求，选择将某些角色（如护理）保留给人类，因为这些角色的核心价值是机器无法提供的同理心与人性关怀。效率和能力并非唯一的标尺，人类的情感需求将定义一部分工作的永恒价值；洞见三：技术提供的是“可能性”，但无法解决人类的“意愿”问题。 AI 或许能通过解决能源等“根节点问题”，从物理上打破零和博弈的困局（例如，若能源近乎免费，水资源冲突便迎刃而解）。然而，我们早已知道解决方案的气候问题，却因缺乏协作意愿和牺牲精神而停滞不前。技术可以递上解决问题的钥匙，但开门的动作仍需人类社会自己完成；洞见四：评估 AI 风险的视角，应从“绝对风险”转向“相对风险”。与其只忧虑 AI 可能带来的挑战，不如思考一个没有 AI 的未来会怎样。面对气候变迁、流行病等既有的巨大挑战，一个缺乏 AI 这样革命性工具的未来，可能才更令人绝望。AI 不仅是一个需要被管理的新风险，更是应对其它现存巨大风险的必要杠杆；洞见五：数字智慧的指数级发展，会被物理世界的线性规则所“制动”。即使 AGI 诞生，它对现实世界（如改造工厂、部署机器人）的影响也需要时间，因为物理世界有其固有的运行规律和变更时滞。这为社会适应新技术提供了宝贵的缓冲期，意味着转变更可能是渐进的，而非毁灭性的瞬间颠覆；洞见六：社会系统的“软件”升级，已严重落后于技术的“硬件”迭代。当 AGI 可能从根本上改变经济学中关于“价值”和“金钱”的定义时... show more

indigo

53,899 subscribers

15,108 görüntüleme • 1 yıl önce •via X (Twitter)

Anya Rossi• Live Now

Private livecam show

0 Yorum

Yorum bulunmuyor

Orijinal gönderinin yorumları burada görünecek

Benzer Videolar

Ilya——塑造世界的人工智能科学家如今，AI 是一项伟大的科技，因为 AI 将解决我们现在面临的所有问题。它能解决就业问题，能治疗疾病，能消除贫困，但同时它也会带来新的问题。假新闻将会愈演愈烈，网络攻击将变得更加严重，我们将面临全自动的 AI 武器的问题。我认为 AI 有潜力创造出无比稳定的独裁统治。今天早晨，关于人工智能威力的警告再次响起，超过 1300 位科技产业领军人物、研究者及其他人士正呼吁暂停人工智能的发展，以便认真考虑其带来的风险。扮演上帝，科学家们被指责这么做已经有一段时间了，但我们正在创造的东西确实与我们迄今为止创造的任何东西都截然不同。是的，我们绝对有能力创造出具有自我目标的全自主实体。而且，这些实体变得比人类聪明的时候，确保它们的目标与我们的目标保持一致将变得至关重要。什么激励我？我喜欢思考根本问题，基本问题。我们的系统不能做什么，而人类却可以做到？我几乎以哲学的方式去思考这些问题。比如，什么是学习？什么是经验？什么是思考？大脑又是如何运作的呢？我感觉技术就仿佛一种自然力量。在我看来，技术与生物进化之间有许多相似之处。生物进化的过程其实很容易理解，我们有基因的变异，自然选择的过程。我们保留那些有利于生存的变异，随着时间的推移，这个过程将使生物体变得极其复杂。我们不能因为理解了生物进化就能理解人体是如何运作的，但我们可以大概理解这个过程。我认为目前的机器学习也处在类似的阶段，特别是深度学习，我们有一个非常简单的规则，它从数据中提取信息，并将这些信息输入到模型中，我们只需不断重复这个过程。这个过程的结果就是将数据的复杂性转化为模型的复杂性。因此，最终的模型会变得非常复杂，我们并不能完全了解它的运作机制，需要进行大量的研究，但实现这一切的算法其实很简单。也许你听说过 ChatGPT，如果你还没听说过，那就做好准备。你可以把它看作是暴风雨来临之前的零星细雨。我们需要对此保持高度警觉，因为我认同这是一个意义重大的时刻。ChatGPT 被誉为颠覆性的创新，在许多方面，它确实做到了，比如在测试中得分超过人类。微软最近的一项研究得出结论，GPT4 是一个初级阶段的，但尚未完全形成的通用人工智能系统。这就是通用人工智能。通用人工智能，这是一个可以胜任人类能做的任何工作或任务的计算机系统，而且可能做得更好。有可能在短时间内实现通用人工智能，也可能需要更长的时间。但我认为，由于通用人工智能可能在不久的将来出现，这个可能性足够大，我们应该给予它足够的重视。这一点至关重要要确保这些超级智能的系统能按照我们的最大利益去行动。最初的通用人工智能可能就是大型数据中心，这些中心中充满了大量并行运行的专用神经网络处理器，紧凑、高热、能耗大，其消耗的能量可能相当于一千万个家庭的用电量。这些系统的智能程度可能会大幅提升，我相信它们将对社会产生深远影响。不过，人类真的会从中获益吗？谁会获益，谁又会付出代价呢？首批通用人工智能的信念和欲望将极为重要，所以我们必须正确地编程这些系统。如果我们做不到这一点，那么就会出现这样的情况：进化的本质，即自然选择，将使这些系统优先考虑自己的生存。并不是说它们会主动对人类产生敌意，甚至想要伤害人类，但它们将变得过于强大。我认为，一个恰当的类比就是人类对待动物的方式。我们并不是憎恨动物，实际上人类往往对动物怀有深深的爱意，但当我们需要在两座城市之间修建高速公路时，我们并不会征求动物的意见，而只是因为这对我们来说非常重要而去做。我认为这也是我们与通用人工智能（AGI）之间的默认关系，那些能真正自主运作并为自己目标服务的 AGI。许多机器学习领域的专家这些知识渊博和经验丰富的人士，对通用人工智能（AGI）抱有许多疑虑。他们对 AGI 可能出现的时间以及是否真的能够实现表示怀疑。目前，这还是一个鲜为人知的问题。用于神经网络和人工智能的计算机速度可能在未来几年内增加 10 万倍。如果多个团队处于竞相开发通用人工智能的军备竞赛态势中，他们就会没有足够的时间来确保他们构建的通用人工智能会真正关心人类。因为在我看来，这就像是通用人工智能发展的雪崩，一发不可收拾。我认为将来整个地球的表面很可能布满太阳能板和数据中心。考虑到这些担忧，未来的通用人工智能的建设应该是多国间的合作项目。不论如何，人工智能的未来都将是美好的。如果这同样也能给人类带来福祉，那就更加理想了。视频来源：

Ilya——塑造世界的人工智能科学家如今，AI 是一项伟大的科技，因为 AI 将解决我们现在面临的所有问题。它能解决就业问题，能治疗疾病，能消除贫困，但同时它也会带来新的问题。假新闻将会愈演愈烈，网络攻击将变得更加严重，我们将面临全自动的 AI 武器的问题。我认为 AI 有潜力创造出无比稳定的独裁统治。今天早晨，关于人工智能威力的警告再次响起，超过 1300 位科技产业领军人物、研究者及其他人士正呼吁暂停人工智能的发展，以便认真考虑其带来的风险。扮演上帝，科学家们被指责这么做已经有一段时间了，但我们正在创造的东西确实与我们迄今为止创造的任何东西都截然不同。是的，我们绝对有能力创造出具有自我目标的全自主实体。而且，这些实体变得比人类聪明的时候，确保它们的目标与我们的目标保持一致将变得至关重要。什么激励我？我喜欢思考根本问题，基本问题。我们的系统不能做什么，而人类却可以做到？我几乎以哲学的方式去思考这些问题。比如，什么是学习？什么是经验？什么是思考？大脑又是如何运作的呢？我感觉技术就仿佛一种自然力量。在我看来，技术与生物进化之间有许多相似之处。生物进化的过程其实很容易理解，我们有基因的变异，自然选择的过程。我们保留那些有利于生存的变异，随着时间的推移，这个过程将使生物体变得极其复杂。我们不能因为理解了生物进化就能理解人体是如何运作的，但我们可以大概理解这个过程。我认为目前的机器学习也处在类似的阶段，特别是深度学习，我们有一个非常简单的规则，它从数据中提取信息，并将这些信息输入到模型中，我们只需不断重复这个过程。这个过程的结果就是将数据的复杂性转化为模型的复杂性。因此，最终的模型会变得非常复杂，我们并不能完全了解它的运作机制，需要进行大量的研究，但实现这一切的算法其实很简单。也许你听说过 ChatGPT，如果你还没听说过，那就做好准备。你可以把它看作是暴风雨来临之前的零星细雨。我们需要对此保持高度警觉，因为我认同这是一个意义重大的时刻。ChatGPT 被誉为颠覆性的创新，在许多方面，它确实做到了，比如在测试中得分超过人类。微软最近的一项研究得出结论，GPT4 是一个初级阶段的，但尚未完全形成的通用人工智能系统。这就是通用人工智能。通用人工智能，这是一个可以胜任人类能做的任何工作或任务的计算机系统，而且可能做得更好。有可能在短时间内实现通用人工智能，也可能需要更长的时间。但我认为，由于通用人工智能可能在不久的将来出现，这个可能性足够大，我们应该给予它足够的重视。这一点至关重要要确保这些超级智能的系统能按照我们的最大利益去行动。最初的通用人工智能可能就是大型数据中心，这些中心中充满了大量并行运行的专用神经网络处理器，紧凑、高热、能耗大，其消耗的能量可能相当于一千万个家庭的用电量。这些系统的智能程度可能会大幅提升，我相信它们将对社会产生深远影响。不过，人类真的会从中获益吗？谁会获益，谁又会付出代价呢？首批通用人工智能的信念和欲望将极为重要，所以我们必须正确地编程这些系统。如果我们做不到这一点，那么就会出现这样的情况：进化的本质，即自然选择，将使这些系统优先考虑自己的生存。并不是说它们会主动对人类产生敌意，甚至想要伤害人类，但它们将变得过于强大。我认为，一个恰当的类比就是人类对待动物的方式。我们并不是憎恨动物，实际上人类往往对动物怀有深深的爱意，但当我们需要在两座城市之间修建高速公路时，我们并不会征求动物的意见，而只是因为这对我们来说非常重要而去做。我认为这也是我们与通用人工智能（AGI）之间的默认关系，那些能真正自主运作并为自己目标服务的 AGI。许多机器学习领域的专家这些知识渊博和经验丰富的人士，对通用人工智能（AGI）抱有许多疑虑。他们对 AGI 可能出现的时间以及是否真的能够实现表示怀疑。目前，这还是一个鲜为人知的问题。用于神经网络和人工智能的计算机速度可能在未来几年内增加 10 万倍。如果多个团队处于竞相开发通用人工智能的军备竞赛态势中，他们就会没有足够的时间来确保他们构建的通用人工智能会真正关心人类。因为在我看来，这就像是通用人工智能发展的雪崩，一发不可收拾。我认为将来整个地球的表面很可能布满太阳能板和数据中心。考虑到这些担忧，未来的通用人工智能的建设应该是多国间的合作项目。不论如何，人工智能的未来都将是美好的。如果这同样也能给人类带来福祉，那就更加理想了。视频来源：

宝玉

45,172 görüntüleme • 2 yıl önce

Elon Musk最新对话：当 AI 走到尽头，金钱与工作都会失去意义。 1. AI 将彻底改变社会的生产方式 AI 与类人机器人带来的超高生产力，会把贫困从“资源问题”变成“分配问题”。 2. 金钱在未来可能不再重要随着自动化接近极限，财富不再由“货币”决定，而由能量与物质等物理资源决定。 3. 工作将不再是生存必需，而是兴趣选择高度自动化时代，人类工作更多是为了体验，而不是为了谋生。 4. 个人机器人会像今天的智能手机一样普及每个人都将拥有自己的通用型机器人，改变生活方式与经济形态。 5. AI 带来巨大机遇，也伴随前所未有的风险越强大的技术越需要严格治理，否则人类必须面对潜在的失控后果。 6. 未来世界将是由 AI、能源与机器人共同构建的新秩序技术不再只是工具，而是重新定义财富、劳动与社会结构的核心力量。

Elon Musk最新对话：当 AI 走到尽头，金钱与工作都会失去意义。 1. AI 将彻底改变社会的生产方式 AI 与类人机器人带来的超高生产力，会把贫困从“资源问题”变成“分配问题”。 2. 金钱在未来可能不再重要随着自动化接近极限，财富不再由“货币”决定，而由能量与物质等物理资源决定。 3. 工作将不再是生存必需，而是兴趣选择高度自动化时代，人类工作更多是为了体验，而不是为了谋生。 4. 个人机器人会像今天的智能手机一样普及每个人都将拥有自己的通用型机器人，改变生活方式与经济形态。 5. AI 带来巨大机遇，也伴随前所未有的风险越强大的技术越需要严格治理，否则人类必须面对潜在的失控后果。 6. 未来世界将是由 AI、能源与机器人共同构建的新秩序技术不再只是工具，而是重新定义财富、劳动与社会结构的核心力量。

KK.aWSB

183,655 görüntüleme • 8 ay önce

AI能拿奥数金牌，却解不开小学数学题。这是怎么回事？谷歌DeepMind的创始人Demis Hassabis自己揭了AI的老底。今天的AI，本质上是个“速冻产品”。训练完成，能力就定格了。像个一次性相机，拍完就不能再改。它无法像人一样，从现实世界里持续学习、自我进化。你希望它能在线学习，根据你的任务进行个性化调整。但它做不到。 AI的智能是“锯齿状”的。在某些高精尖问题上，表现惊人。但在另外一些简单问题上，却错得离谱。就像一个围棋高手，却不会玩跳棋。这正常吗？ Hassabis认为，真正通用的智能系统，不该有这种“锯齿感”。一个数学专家，绝不会在简单问题上犯错。那么，为什么现在的AI会这样？是因为算法设计的根本缺陷，还是训练数据本身就充满了偏见和矛盾？科技巨头们热衷于宣传AI的巨大突破。达沃斯论坛上的精英们也在描绘AI驱动的未来世界。他们很少谈论这些根本性的局限。这些“锯齿”会不会成为被利用的漏洞？当一个系统强大到可以影响经济决策、甚至军事判断时，它的“弱智”时刻会带来什么后果？ Hassabis还提到了真正的创造力。他说，提出一个正确的问题，比解决一个猜想更难。现在的AI，只是个高效的解题工具。它没有品味，没有洞察力，更提不出像爱因斯坦那样的革命性思想。如果把AI的知识库截止到1911年，它能自己搞出广义相对论吗？答案显然是否定的。那么，我们在期待的到底是“智能”，还是一个越来越强大的“计算器”？

AI能拿奥数金牌，却解不开小学数学题。这是怎么回事？谷歌DeepMind的创始人Demis Hassabis自己揭了AI的老底。今天的AI，本质上是个“速冻产品”。训练完成，能力就定格了。像个一次性相机，拍完就不能再改。它无法像人一样，从现实世界里持续学习、自我进化。你希望它能在线学习，根据你的任务进行个性化调整。但它做不到。 AI的智能是“锯齿状”的。在某些高精尖问题上，表现惊人。但在另外一些简单问题上，却错得离谱。就像一个围棋高手，却不会玩跳棋。这正常吗？ Hassabis认为，真正通用的智能系统，不该有这种“锯齿感”。一个数学专家，绝不会在简单问题上犯错。那么，为什么现在的AI会这样？是因为算法设计的根本缺陷，还是训练数据本身就充满了偏见和矛盾？科技巨头们热衷于宣传AI的巨大突破。达沃斯论坛上的精英们也在描绘AI驱动的未来世界。他们很少谈论这些根本性的局限。这些“锯齿”会不会成为被利用的漏洞？当一个系统强大到可以影响经济决策、甚至军事判断时，它的“弱智”时刻会带来什么后果？ Hassabis还提到了真正的创造力。他说，提出一个正确的问题，比解决一个猜想更难。现在的AI，只是个高效的解题工具。它没有品味，没有洞察力，更提不出像爱因斯坦那样的革命性思想。如果把AI的知识库截止到1911年，它能自己搞出广义相对论吗？答案显然是否定的。那么，我们在期待的到底是“智能”，还是一个越来越强大的“计算器”？

墓碑科技

25,850 görüntüleme • 5 ay önce

谷歌DeepMind的CEO认为，通往通用人工智能（AGI）的大门，可能就差一两个关键突破。听起来不远了？他列出了几个方向。持续学习。更好的记忆，或者说选择性记忆。就像人脑一样，只记住重要的，而不是什么都存。更聪明的上下文窗口。还有，更好的长期规划与推理能力。但这引出一个核心问题。这些所谓的“突破”，究竟是靠现有技术不断堆料、扩大规模就能实现的？还是说，我们需要像爱因斯坦那样的，真正具有洞察力的全新理论？哈萨比斯自己也承认，他更倾向于后者。不过有一点他很确定。无论路怎么走，大模型都将是AGI的核心组件。他完全不同意Yann LeCun那种“此路已死”的说法。在他看来，唯一的争论点只在于：大模型究竟是AGI的“核心组件”？还是“唯一组件”？这番话听起来很自信。但也让人思考，谁在定义AGI？又是谁在主导这场决定人类未来的技术竞赛？是少数几家科技巨头的CEO，还是更广泛的社会力量？当技术路径由少数人确定时，其潜在的风险和伦理问题，是否得到了充分的讨论？技术突破固然重要，但方向的正确性或许更值得警惕。

谷歌DeepMind的CEO认为，通往通用人工智能（AGI）的大门，可能就差一两个关键突破。听起来不远了？他列出了几个方向。持续学习。更好的记忆，或者说选择性记忆。就像人脑一样，只记住重要的，而不是什么都存。更聪明的上下文窗口。还有，更好的长期规划与推理能力。但这引出一个核心问题。这些所谓的“突破”，究竟是靠现有技术不断堆料、扩大规模就能实现的？还是说，我们需要像爱因斯坦那样的，真正具有洞察力的全新理论？哈萨比斯自己也承认，他更倾向于后者。不过有一点他很确定。无论路怎么走，大模型都将是AGI的核心组件。他完全不同意Yann LeCun那种“此路已死”的说法。在他看来，唯一的争论点只在于：大模型究竟是AGI的“核心组件”？还是“唯一组件”？这番话听起来很自信。但也让人思考，谁在定义AGI？又是谁在主导这场决定人类未来的技术竞赛？是少数几家科技巨头的CEO，还是更广泛的社会力量？当技术路径由少数人确定时，其潜在的风险和伦理问题，是否得到了充分的讨论？技术突破固然重要，但方向的正确性或许更值得警惕。

墓碑科技

18,565 görüntüleme • 5 ay önce

🔥DeepMind 创始人 Demis Hassabis：AI 越强，人越需要学编程和数学 “既然 AI 什么都会，人还需要学编程和数学吗？” 很多人以为答案会是：不需要了。但 DeepMind 创始人 Demis Hassabis 的回答却完全相反。他的观点非常明确：越是 AI 时代，人越需要理解技术。原因其实很简单。 AI 能解决问题，但它不会自己提出问题。你必须先知道：你想解决什么问题在哪里什么是正确的目标否则再强的 AI 也只是一个没有方向的工具。换句话说，AI 的能力再强，也依然需要人来做三件事：提出问题定义目标判断结果这也是为什么 Hassabis 一直强调：未来最重要的能力之一，依然是数学与计算思维。因为只有理解这些基础逻辑，你才知道 AI 在做什么。否则就会出现一种常见情况： AI 给出了一个答案但你根本不知道它对不对如果你没有基本的技术理解，你甚至无法判断它是否犯错。换一个更直观的比喻。使用 AI，其实有点像指挥一支军队。 AI 是强大的“兵力”，但真正决定胜负的，是指挥官。如果指挥官不懂战略、不懂兵法，再多的士兵也无法打赢战争。这也是很多技术专家越来越强调的一点： AI 不会取代理解问题的人。它只会放大那些本来就知道自己在做什么的人。未来的竞争，可能不再是谁会写代码。而是：谁更懂问题谁更懂系统谁更能利用 AI 的能力。 AI 会改变很多事情。但有一件事其实没有改变：真正重要的，仍然是人的思考能力。

🔥DeepMind 创始人 Demis Hassabis：AI 越强，人越需要学编程和数学 “既然 AI 什么都会，人还需要学编程和数学吗？” 很多人以为答案会是：不需要了。但 DeepMind 创始人 Demis Hassabis 的回答却完全相反。他的观点非常明确：越是 AI 时代，人越需要理解技术。原因其实很简单。 AI 能解决问题，但它不会自己提出问题。你必须先知道：你想解决什么问题在哪里什么是正确的目标否则再强的 AI 也只是一个没有方向的工具。换句话说，AI 的能力再强，也依然需要人来做三件事：提出问题定义目标判断结果这也是为什么 Hassabis 一直强调：未来最重要的能力之一，依然是数学与计算思维。因为只有理解这些基础逻辑，你才知道 AI 在做什么。否则就会出现一种常见情况： AI 给出了一个答案但你根本不知道它对不对如果你没有基本的技术理解，你甚至无法判断它是否犯错。换一个更直观的比喻。使用 AI，其实有点像指挥一支军队。 AI 是强大的“兵力”，但真正决定胜负的，是指挥官。如果指挥官不懂战略、不懂兵法，再多的士兵也无法打赢战争。这也是很多技术专家越来越强调的一点： AI 不会取代理解问题的人。它只会放大那些本来就知道自己在做什么的人。未来的竞争，可能不再是谁会写代码。而是：谁更懂问题谁更懂系统谁更能利用 AI 的能力。 AI 会改变很多事情。但有一件事其实没有改变：真正重要的，仍然是人的思考能力。

M

63,964 görüntüleme • 5 ay önce

最近陶哲轩在 2024 年第 65 届国际数学奥林匹克上，陶哲轩做了一次 AI 和数学的演讲，非常精彩，从数学使用计算计算机的历史开始讲起，一直讲到大语言模型，干货相当多，尤其适合对数学有兴趣的同学。（对数学没那么感兴趣的同学只想看 AI 部分的建议直接跳到 41 分的位置开始观看）先摘录几个冷知识： 1. 我们使用机器做数学计算已经有数千年，最早的机器辅助计算可能是罗马人，然后是中国的算盘 2. 二战时就有人肉“计算机”，计算弹道和其他任务，多位女孩子，因为男士们在打仗，所以那时候的计算基本单位不是GPU，而是kilogirl-hour——“千名女孩工作一小时的计算量” 3. 现在，数学家们使用一种现代化的证明辅助编程语言，叫做 Lean。在 Lean 中有一个核心的数学库，通过众包的方式开发的，本科数学课程中看到的内容，比如微积分基础、群论基础或者拓扑学等等，这些都已经被形式化了，所以你不用从公理开始。 4. 现在数学领域有一种团队协作证明复杂数学定理的工作流程，那就是先编写一个称为“蓝图”的详细证明计划，将整个证明分解为数百个小步骤。每个步骤可以单独形式化，然后再将它们整合在一起，这样你就可以将一个庞大的论证分解成许多小块。先编写这个蓝图，然后团队中的其他人可以对论据的不同步骤的不同部分进行形式化。去年，陶哲轩和几位同事一起解决了一个组合数学问题。这是一个组合学的问题。大约20人在短短三周内完成了，使用了蓝图工具，参与的人中有概率论专家，甚至还有一些并非数学家的人，他们是程序员，但在解决这些小型拼图问题上非常擅长。每个人都挑选了一个觉得自己能做的小任务，并完成了它。在数学领域，通常很难这么多人一起合作，一般最多可能五个人合作。因为在大项目上合作时，你必须相信每个人的数学都是正确的。但是，一旦超过一定规模，这就无法实现了。但现在借助 Lean 编译器，它能自动检查。团队成员无法上传任何编译不通过的内容，会被拒绝。因此，你可以与一些从未见过的人合作。最后是讲大语言模型，首先陶哲轩就打脸了 GPT-4 的论文（我猜是微软那篇《GPT-4，通用人工智能的火花》），论文中号称 GPT-4 能解决国际数学奥林匹克问题，但实际上，这个问题不是 2022 年国际奥数竞赛的原始问题，而是一个简化版本，并且他们测试了几百道国际奥数竞赛问题，成功率只有1%，论文里的这个是精心挑选的恰巧能做对的。并且陶哲轩提到了基于大语言模型的一些改进的方案：比如 CoT（Chain of Thought），也就是 LLM 做简单的算术运算都做不对，但是如果让它一步步解释，可能就对了。还可以教 AI 一些解题技巧，比如尝试简单的例子，反证法，尝试逐步证明等。比如让模型和编程语言或者工具连接，将大语言的输出结果交给 Wolfram 这样的专业数学工具或者 Python 这样的编程语言验证，并且迭代的进行修正和验证，直到得到正确的结果，这可以提升大语言模型生成的效果。即使借助这些手段，大语言模型还远远不能解决大多数数学问题，更不用说数学研究问题了！当然陶哲轩也没太过打击大家对于 AI 的信心，表示我们在 AI 上还是在不断的取得进展，还提到了他日常是怎么用 AI 的，比如说把 AI 当成灵感之源。 > 我曾遇到过一个问题，我尝试了几种方法，但都无法解决。于是，我尝试询问 GPT，你建议我使用什么其他方法来解决这个问题？GPT 给我提供了 10 种可能的方法，其中有 5 种我已经尝试过，或者明显没有帮助。的确，有几种方法并不实用。但其中有一种我还没尝试过的方法，那就是针对这个问题使用生成函数。当 GPT 建议我使用这种方法时，我意识到这就是我漏掉的正确方法。所以，将 GPT 视为一个交流伙伴，它确实具有一定的用处。还有使用 GitHub Copilot 帮他写代码，让它自动生成下一步的证明结果，Copilot 的智能提示有 20% 的概率能生成正确的下一步结果。 > 例如我使用的一个叫 GitHub Copilot 的工具，你只需要写下一半的证明，它就会尝试猜测接下来的内容。大概有 20% 的情况下，它能猜到接近正确的答案。然后你就可以说，我接受这个答案。好的，那么在这种情况下，我正在试图证明这个陈述。灰色的部分是 Copilot 给出的建议。结果发现第一行完全没用。不过第二行，尽管你可能看不清楚，却真的解决了这个问题。所以，你不能盲目接受它的输入，因为这些代码未必能顺利编译。但如果你对代码的运作方式已经有所了解，这将大大节省你的时间。这些工具正在变得越来越好。现在如果一个证明只需要一两行，它们就能自动完成。现在已经有了这样的实验，即通过迭代地让 AI 提供证明，然后让编译器进行反馈，如果编译出错，就把错误信息反馈给 AI。通过这种方法，我们开始能够验证四五步长的证明。当然，一个大型的证明可能需要数万行。所以，我们还没有达到能够立即得到一个正式证明的程度。但是，这已经是一个相当有用的工具。对于大家关心的问题： AI 在数学领域现在到了哪一个阶段？是否未来几年利用 AI 能直接解决数学问题？陶哲轩也给出了他的看法： > 我认为我们还远远没有达到这个阶段。如果我们专注于非常特定的问题，你可以定制专门的 AI 来处理一小部分问题。即便如此，它们也不是完全可靠的，但还是有用的。不过至少在接下来的几年里，它们基本上将是非常有用的辅助工具，超越了我们已经熟悉的暴力计算辅助。他还提到了一些可能的 AI 能在数学领域提供帮助的方向： - AI 能够非常好地生成有价值的猜想 > 比如，我们已经看到了关于结理论的例子，它们已经可以推测出两个不同的统计量之间的关系。因此，我们希望能够创建大量的数据集，输入到 AI 中，它们就会自动找出各种不同的数学对象之间的有趣联系。虽然我们还不知道如何做到这一点，部分原因是我们没有这些庞大的数据集。但我认为这是未来可能实现的一个方向。 - 批量或者说规模化的证明大量数学定理 > 现在，因为证明定理是如此繁琐和艰难的过程，我们一次只能证明一个定理，如果你效率很高，可能一次能证明两三个。但是有了 AI，你可以设想一下未来的情况，我们不是试图解决一个问题，而是处理一类类似的1000个问题，然后告诉AI，尝试用这个方法解决这 1000 个问题，然后报告结果，哦，我能用这种技术解决 35% 的问题。那么另一种技术呢？我能解决这个百分比的问题。或者如果结合这些方法，又能解决多少问题？你可以开始探索问题的空间，而不是一个接一个地解决问题。这是你现在根本无法做到的事情，或者是你需要几十年时间，通过数十篇论文慢慢搞清楚各种技术能做什么，不能做什么。但是有了这些工具，你真的可以开始做规模前所未有的数学研究。所以，未来将会非常令人兴奋。演讲环节结束前的最后一句话说的特别好： > 我们仍然会以传统方式证明定理。事实上，我们必须这样做，因为如果我们自己都不知道如何做这些事情，就无法引导这些 AI。但是我们将能够做很多现在无法做到的事情。这恰恰也是我们现在使用 AI 辅助编程的问题：如果我们自己都不知道如何构建软件，就很难引导好 AI 帮助我们生成高质量的代码。尽管 AI 在数学和编程领域变得越来越有用，但人类的洞察力和创造力仍然是创作价值的关键。原始 YT 视频：

最近陶哲轩在 2024 年第 65 届国际数学奥林匹克上，陶哲轩做了一次 AI 和数学的演讲，非常精彩，从数学使用计算计算机的历史开始讲起，一直讲到大语言模型，干货相当多，尤其适合对数学有兴趣的同学。（对数学没那么感兴趣的同学只想看 AI 部分的建议直接跳到 41 分的位置开始观看）先摘录几个冷知识： 1. 我们使用机器做数学计算已经有数千年，最早的机器辅助计算可能是罗马人，然后是中国的算盘 2. 二战时就有人肉“计算机”，计算弹道和其他任务，多位女孩子，因为男士们在打仗，所以那时候的计算基本单位不是GPU，而是kilogirl-hour——“千名女孩工作一小时的计算量” 3. 现在，数学家们使用一种现代化的证明辅助编程语言，叫做 Lean。在 Lean 中有一个核心的数学库，通过众包的方式开发的，本科数学课程中看到的内容，比如微积分基础、群论基础或者拓扑学等等，这些都已经被形式化了，所以你不用从公理开始。 4. 现在数学领域有一种团队协作证明复杂数学定理的工作流程，那就是先编写一个称为“蓝图”的详细证明计划，将整个证明分解为数百个小步骤。每个步骤可以单独形式化，然后再将它们整合在一起，这样你就可以将一个庞大的论证分解成许多小块。先编写这个蓝图，然后团队中的其他人可以对论据的不同步骤的不同部分进行形式化。去年，陶哲轩和几位同事一起解决了一个组合数学问题。这是一个组合学的问题。大约20人在短短三周内完成了，使用了蓝图工具，参与的人中有概率论专家，甚至还有一些并非数学家的人，他们是程序员，但在解决这些小型拼图问题上非常擅长。每个人都挑选了一个觉得自己能做的小任务，并完成了它。在数学领域，通常很难这么多人一起合作，一般最多可能五个人合作。因为在大项目上合作时，你必须相信每个人的数学都是正确的。但是，一旦超过一定规模，这就无法实现了。但现在借助 Lean 编译器，它能自动检查。团队成员无法上传任何编译不通过的内容，会被拒绝。因此，你可以与一些从未见过的人合作。最后是讲大语言模型，首先陶哲轩就打脸了 GPT-4 的论文（我猜是微软那篇《GPT-4，通用人工智能的火花》），论文中号称 GPT-4 能解决国际数学奥林匹克问题，但实际上，这个问题不是 2022 年国际奥数竞赛的原始问题，而是一个简化版本，并且他们测试了几百道国际奥数竞赛问题，成功率只有1%，论文里的这个是精心挑选的恰巧能做对的。并且陶哲轩提到了基于大语言模型的一些改进的方案：比如 CoT（Chain of Thought），也就是 LLM 做简单的算术运算都做不对，但是如果让它一步步解释，可能就对了。还可以教 AI 一些解题技巧，比如尝试简单的例子，反证法，尝试逐步证明等。比如让模型和编程语言或者工具连接，将大语言的输出结果交给 Wolfram 这样的专业数学工具或者 Python 这样的编程语言验证，并且迭代的进行修正和验证，直到得到正确的结果，这可以提升大语言模型生成的效果。即使借助这些手段，大语言模型还远远不能解决大多数数学问题，更不用说数学研究问题了！当然陶哲轩也没太过打击大家对于 AI 的信心，表示我们在 AI 上还是在不断的取得进展，还提到了他日常是怎么用 AI 的，比如说把 AI 当成灵感之源。 > 我曾遇到过一个问题，我尝试了几种方法，但都无法解决。于是，我尝试询问 GPT，你建议我使用什么其他方法来解决这个问题？GPT 给我提供了 10 种可能的方法，其中有 5 种我已经尝试过，或者明显没有帮助。的确，有几种方法并不实用。但其中有一种我还没尝试过的方法，那就是针对这个问题使用生成函数。当 GPT 建议我使用这种方法时，我意识到这就是我漏掉的正确方法。所以，将 GPT 视为一个交流伙伴，它确实具有一定的用处。还有使用 GitHub Copilot 帮他写代码，让它自动生成下一步的证明结果，Copilot 的智能提示有 20% 的概率能生成正确的下一步结果。 > 例如我使用的一个叫 GitHub Copilot 的工具，你只需要写下一半的证明，它就会尝试猜测接下来的内容。大概有 20% 的情况下，它能猜到接近正确的答案。然后你就可以说，我接受这个答案。好的，那么在这种情况下，我正在试图证明这个陈述。灰色的部分是 Copilot 给出的建议。结果发现第一行完全没用。不过第二行，尽管你可能看不清楚，却真的解决了这个问题。所以，你不能盲目接受它的输入，因为这些代码未必能顺利编译。但如果你对代码的运作方式已经有所了解，这将大大节省你的时间。这些工具正在变得越来越好。现在如果一个证明只需要一两行，它们就能自动完成。现在已经有了这样的实验，即通过迭代地让 AI 提供证明，然后让编译器进行反馈，如果编译出错，就把错误信息反馈给 AI。通过这种方法，我们开始能够验证四五步长的证明。当然，一个大型的证明可能需要数万行。所以，我们还没有达到能够立即得到一个正式证明的程度。但是，这已经是一个相当有用的工具。对于大家关心的问题： AI 在数学领域现在到了哪一个阶段？是否未来几年利用 AI 能直接解决数学问题？陶哲轩也给出了他的看法： > 我认为我们还远远没有达到这个阶段。如果我们专注于非常特定的问题，你可以定制专门的 AI 来处理一小部分问题。即便如此，它们也不是完全可靠的，但还是有用的。不过至少在接下来的几年里，它们基本上将是非常有用的辅助工具，超越了我们已经熟悉的暴力计算辅助。他还提到了一些可能的 AI 能在数学领域提供帮助的方向： - AI 能够非常好地生成有价值的猜想 > 比如，我们已经看到了关于结理论的例子，它们已经可以推测出两个不同的统计量之间的关系。因此，我们希望能够创建大量的数据集，输入到 AI 中，它们就会自动找出各种不同的数学对象之间的有趣联系。虽然我们还不知道如何做到这一点，部分原因是我们没有这些庞大的数据集。但我认为这是未来可能实现的一个方向。 - 批量或者说规模化的证明大量数学定理 > 现在，因为证明定理是如此繁琐和艰难的过程，我们一次只能证明一个定理，如果你效率很高，可能一次能证明两三个。但是有了 AI，你可以设想一下未来的情况，我们不是试图解决一个问题，而是处理一类类似的1000个问题，然后告诉AI，尝试用这个方法解决这 1000 个问题，然后报告结果，哦，我能用这种技术解决 35% 的问题。那么另一种技术呢？我能解决这个百分比的问题。或者如果结合这些方法，又能解决多少问题？你可以开始探索问题的空间，而不是一个接一个地解决问题。这是你现在根本无法做到的事情，或者是你需要几十年时间，通过数十篇论文慢慢搞清楚各种技术能做什么，不能做什么。但是有了这些工具，你真的可以开始做规模前所未有的数学研究。所以，未来将会非常令人兴奋。演讲环节结束前的最后一句话说的特别好： > 我们仍然会以传统方式证明定理。事实上，我们必须这样做，因为如果我们自己都不知道如何做这些事情，就无法引导这些 AI。但是我们将能够做很多现在无法做到的事情。这恰恰也是我们现在使用 AI 辅助编程的问题：如果我们自己都不知道如何构建软件，就很难引导好 AI 帮助我们生成高质量的代码。尽管 AI 在数学和编程领域变得越来越有用，但人类的洞察力和创造力仍然是创作价值的关键。原始 YT 视频：

宝玉

301,570 görüntüleme • 1 yıl önce

GTC 2024：黄仁勋与七位 Transformer 论文作者圆桌会谈中英文字幕在今年的GTC大会上，英伟达的黄仁勋以一种充满仪式感的方式邀请了Transformer的七位作者（Niki Parmar因故临时未能出席）参与圆桌论坛的讨论，这是七位作者首次在公开场合集体亮相。他们在对话中也表达了一些令人印象深刻的观点： 1. 计算成本的降低和加速计算的兴起在个人电脑革命的 20 年里，计算成本降低了 10000 倍，这是一个史无前例的成就。然而，计算成本的急剧下降在某个时刻停止了。为了继续推动计算能力的发展，加速计算应运而生。加速计算虽然具有挑战性，但通过加速那占据 99% 运行时间的 1% 代码，许多看似不可能的事情将变为可能。 2. 人工智能技术的突破和生成式 AI 的潜力 AlexNet 的出现标志着人工智能与 GPU 加速计算的首次结合，引发了人们对 AI 领域的广泛关注。随后，生成式 AI 的出现让人们看到了 AI 技术的巨大潜力。生成式 AI 不仅可以识别图像，还可以根据文本描述生成相应的图像，这种对数据的理解和生成能力，预示着一场新的工业革命的开始。这场革命将诞生前所未有的产品和服务，并对各行各业产生深远的影响。 3. Transformer 的诞生与自然语言处理的变革 Transformer 的发明者们分享了他们的研究动机和创新历程。最初，他们希望建立一个能够处理海量自然语言数据的高效模型。Transformer 独特的自注意力机制和并行处理能力，使其能够在各种自然语言任务上取得突破性的进展。同时，Transformer 的通用性也让研究者们意识到，它不仅适用于语言，还可以扩展到图像、音频等多个领域，这为人工智能的发展开辟了新的道路。 4. AI 创业公司的使命和愿景随着人工智能技术的不断进步，许多 Transformer 的发明者选择离开大公司，创立了自己的 AI 公司。他们的目标是将这项变革性的技术带给更多人，让 AI 惠及各行各业。有的公司致力于创建通用的 AI 平台，有的专注于特定领域，如生物医学或金融。但他们的共同愿景是，通过人工智能来解决现实世界的问题，改善人类的生活。这些 AI 创业公司的努力，将加速人工智能技术的发展和应用。 5. 人工智能未来的发展方向对话中，专家们对人工智能未来的发展方向进行了展望。他们认为，未来的重点将是提高模型的推理能力和常识理解。同时，高质量的数据和人机交互也至关重要。研究者们期望通过构建更高效、更通用的模型，让 AI 能够从更少的数据中学习，并具备类似人类的思考和问题解决能力。此外，将 AI 与其他领域如生物学、金融等结合，将释放出更大的潜力。

GTC 2024：黄仁勋与七位 Transformer 论文作者圆桌会谈中英文字幕在今年的GTC大会上，英伟达的黄仁勋以一种充满仪式感的方式邀请了Transformer的七位作者（Niki Parmar因故临时未能出席）参与圆桌论坛的讨论，这是七位作者首次在公开场合集体亮相。他们在对话中也表达了一些令人印象深刻的观点： 1. 计算成本的降低和加速计算的兴起在个人电脑革命的 20 年里，计算成本降低了 10000 倍，这是一个史无前例的成就。然而，计算成本的急剧下降在某个时刻停止了。为了继续推动计算能力的发展，加速计算应运而生。加速计算虽然具有挑战性，但通过加速那占据 99% 运行时间的 1% 代码，许多看似不可能的事情将变为可能。 2. 人工智能技术的突破和生成式 AI 的潜力 AlexNet 的出现标志着人工智能与 GPU 加速计算的首次结合，引发了人们对 AI 领域的广泛关注。随后，生成式 AI 的出现让人们看到了 AI 技术的巨大潜力。生成式 AI 不仅可以识别图像，还可以根据文本描述生成相应的图像，这种对数据的理解和生成能力，预示着一场新的工业革命的开始。这场革命将诞生前所未有的产品和服务，并对各行各业产生深远的影响。 3. Transformer 的诞生与自然语言处理的变革 Transformer 的发明者们分享了他们的研究动机和创新历程。最初，他们希望建立一个能够处理海量自然语言数据的高效模型。Transformer 独特的自注意力机制和并行处理能力，使其能够在各种自然语言任务上取得突破性的进展。同时，Transformer 的通用性也让研究者们意识到，它不仅适用于语言，还可以扩展到图像、音频等多个领域，这为人工智能的发展开辟了新的道路。 4. AI 创业公司的使命和愿景随着人工智能技术的不断进步，许多 Transformer 的发明者选择离开大公司，创立了自己的 AI 公司。他们的目标是将这项变革性的技术带给更多人，让 AI 惠及各行各业。有的公司致力于创建通用的 AI 平台，有的专注于特定领域，如生物医学或金融。但他们的共同愿景是，通过人工智能来解决现实世界的问题，改善人类的生活。这些 AI 创业公司的努力，将加速人工智能技术的发展和应用。 5. 人工智能未来的发展方向对话中，专家们对人工智能未来的发展方向进行了展望。他们认为，未来的重点将是提高模型的推理能力和常识理解。同时，高质量的数据和人机交互也至关重要。研究者们期望通过构建更高效、更通用的模型，让 AI 能够从更少的数据中学习，并具备类似人类的思考和问题解决能力。此外，将 AI 与其他领域如生物学、金融等结合，将释放出更大的潜力。

宝玉

54,522 görüntüleme • 2 yıl önce

今年，AI机器人赛道真的是火得不行。从家里用的扫地机器人到工业上的自动化设备，甚至现在都可以上台跳舞了，不得不说一句牛逼！但是现在机器人和AI系统大多被少数几家大公司掌控，创新的步伐虽然快，却往往伴随着技术封闭性和使用限制。 OpenMind 却正在打破这种局限，提出了一个非常具有前瞻性的解决方案——开源的机器人操作系统。这种做法不仅仅是技术上的创新，它从根本上重新定义了谁能控制机器人的智能，以及谁能参与到技术创新中去。 OpenMind的核心理念是开放和去中心化——这意味着不再是只有少数几家公司有能力和资源控制机器人的发展和应用。通过开源操作系统OM1，OpenMind赋予了全球开发者和创新者在机器人生态系统中发挥更大作用的机会。任何有创意、有技术的团队，都可以基于OM1平台构建自己的机器人应用，这种开放生态不仅能加速创新，还能促进更广泛的合作和资源共享。最关键的是，OpenMind没有像传统公司那样将机器人生态系统封闭在一个小圈子里，而是推动它向全球开发者开放，鼓励他们参与并共同塑造机器人的未来。这不仅能避免技术的垄断，更能确保机器人系统的多样性和适应性——每个开发者、每个小团队都能贡献自己的智慧，推动机器人技术在各个行业中的应用。这背后折射的是OpenMind对于去中心化理念的深刻理解和执行力。与传统企业垄断不同，这种去中心化的思维让更多的人和团队能通过开源平台参与进来，这也让机器人技术有了更多的可能性。未来的机器人技术， OpenMind 无疑为其注入了一股新鲜的力量。在这场关于机器人智能的创新竞赛中，去中心化和开源将不仅仅是一个趋势，更是能让全球每个人都参与进来的机会。 #OpenMind

今年，AI机器人赛道真的是火得不行。从家里用的扫地机器人到工业上的自动化设备，甚至现在都可以上台跳舞了，不得不说一句牛逼！但是现在机器人和AI系统大多被少数几家大公司掌控，创新的步伐虽然快，却往往伴随着技术封闭性和使用限制。 OpenMind 却正在打破这种局限，提出了一个非常具有前瞻性的解决方案——开源的机器人操作系统。这种做法不仅仅是技术上的创新，它从根本上重新定义了谁能控制机器人的智能，以及谁能参与到技术创新中去。 OpenMind的核心理念是开放和去中心化——这意味着不再是只有少数几家公司有能力和资源控制机器人的发展和应用。通过开源操作系统OM1，OpenMind赋予了全球开发者和创新者在机器人生态系统中发挥更大作用的机会。任何有创意、有技术的团队，都可以基于OM1平台构建自己的机器人应用，这种开放生态不仅能加速创新，还能促进更广泛的合作和资源共享。最关键的是，OpenMind没有像传统公司那样将机器人生态系统封闭在一个小圈子里，而是推动它向全球开发者开放，鼓励他们参与并共同塑造机器人的未来。这不仅能避免技术的垄断，更能确保机器人系统的多样性和适应性——每个开发者、每个小团队都能贡献自己的智慧，推动机器人技术在各个行业中的应用。这背后折射的是OpenMind对于去中心化理念的深刻理解和执行力。与传统企业垄断不同，这种去中心化的思维让更多的人和团队能通过开源平台参与进来，这也让机器人技术有了更多的可能性。未来的机器人技术， OpenMind 无疑为其注入了一股新鲜的力量。在这场关于机器人智能的创新竞赛中，去中心化和开源将不仅仅是一个趋势，更是能让全球每个人都参与进来的机会。 #OpenMind

阿乐

60,904 görüntüleme • 7 ay önce

有人预测，未来25年，人类将完成过去一万年的技术进步。怎么可能？答案是通用人工智能，AGI。很多人还没反应过来，以为未来50年会和过去50年一样，只是温和的技术迭代。即便他们相信2030年能实现AGI，也觉得那不过是让进步快一点的工具而已。但另一派的观点完全不同。他们认为，到2050年，世界与今天的差别，会像今天和狩猎采集时代的差别一样大。一旦AI开始自动化所有智力活动，智能本身就会开始自我迭代升级。这可能在某个无法预测的时间点，瞬间解锁“极端超智能”。什么是极端超智能？经典案例是分子纳米技术。也就是精准制造可以极速自我复制的微型机器。或者，发明出接近光速的太空探测器。问题来了。谁来定义和控制这种力量？是硅谷那些思想左倾的科技巨头，还是另有其人？当所有智力活动都被自动化，人类的价值又在哪里？这听起来更像是一场巨大的赌博，而赌注是整个人类文明的方向。

有人预测，未来25年，人类将完成过去一万年的技术进步。怎么可能？答案是通用人工智能，AGI。很多人还没反应过来，以为未来50年会和过去50年一样，只是温和的技术迭代。即便他们相信2030年能实现AGI，也觉得那不过是让进步快一点的工具而已。但另一派的观点完全不同。他们认为，到2050年，世界与今天的差别，会像今天和狩猎采集时代的差别一样大。一旦AI开始自动化所有智力活动，智能本身就会开始自我迭代升级。这可能在某个无法预测的时间点，瞬间解锁“极端超智能”。什么是极端超智能？经典案例是分子纳米技术。也就是精准制造可以极速自我复制的微型机器。或者，发明出接近光速的太空探测器。问题来了。谁来定义和控制这种力量？是硅谷那些思想左倾的科技巨头，还是另有其人？当所有智力活动都被自动化，人类的价值又在哪里？这听起来更像是一场巨大的赌博，而赌注是整个人类文明的方向。

墓碑科技

18,269 görüntüleme • 5 ay önce

突发：ChatGPT创始人在Sam奥特曼被解雇的前一天，他在APEC的一次会议上，暗示了OpenAI已开发出比现在GPT4更加强大，让人无法想象，远超人们期待的东西。奥特曼上周突遭解雇的四天前，有几位内部研究人员致信董事会而发出警告。这封信警告称，他们发现了一种可能对人类构成威胁的重大人工智能技术，被称为Q*。 Q*被一些OpenAI的人认为可能是通向超级智能或人工通用智能(AGI)的重大突破。研究人员认为它可能对人类构成威胁。这封信和该Q*是导致Sam奥特曼被解雇的关键因素。这位匿名者说，新模型能够解决某些数学问题，尽管只有小学生水平，但进行此类测试的结果使研究人员对Q*未来的成功非常乐观。总裁简报(CEO Briefing)询问了一位斯坦福的人工智能专家，他认为数学是ChatGPT和生成式人工智能发展的前沿。目前，生成式人工智能擅长通过统计预测下一个单词，来写作和语言翻译，对同一个问题的回答可能差异很大。但是，掌握数学能力，在这里只有一个正确答案，意味着人工智能将具有类似于人类智能的更大推理能力。例如，这可应用于新颖的科学研究。与只能解决有限数量操作的计算器不同，AGI可以泛化、学习和理解。在给董事会的信中，研究人员提到了人工智能的能力和潜在危险，但没有具体说明信中提到的确切安全问题。除了在本月的演示中宣布了一系列新工具外，Sam奥特曼上周在旧金山的聚会上暗示，他相信AGI已经在望。这在暗示，OpenAI内部实现了技术和模型上的巨大飞跃。而Ilya等董事会成员感到恐慌。奥特曼在APEC峰会上说：“在OpenAI的历史上，现在已经是第四次，最近一次是在过去几周内，我有幸在房间里，当我们推开无知的面纱，将发现的边界向前推进，能够做到这一点是我一生职业上的荣誉。”董事会在第二天就解雇了奥特曼。总裁简报(CEOBriefing)将继续关注OpenAI内斗的发展。创始人被赶出公司的不少，譬如苹果的乔布斯。

突发：ChatGPT创始人在Sam奥特曼被解雇的前一天，他在APEC的一次会议上，暗示了OpenAI已开发出比现在GPT4更加强大，让人无法想象，远超人们期待的东西。奥特曼上周突遭解雇的四天前，有几位内部研究人员致信董事会而发出警告。这封信警告称，他们发现了一种可能对人类构成威胁的重大人工智能技术，被称为Q。 Q被一些OpenAI的人认为可能是通向超级智能或人工通用智能(AGI)的重大突破。研究人员认为它可能对人类构成威胁。这封信和该Q是导致Sam奥特曼被解雇的关键因素。这位匿名者说，新模型能够解决某些数学问题，尽管只有小学生水平，但进行此类测试的结果使研究人员对Q未来的成功非常乐观。总裁简报(CEO Briefing)询问了一位斯坦福的人工智能专家，他认为数学是ChatGPT和生成式人工智能发展的前沿。目前，生成式人工智能擅长通过统计预测下一个单词，来写作和语言翻译，对同一个问题的回答可能差异很大。但是，掌握数学能力，在这里只有一个正确答案，意味着人工智能将具有类似于人类智能的更大推理能力。例如，这可应用于新颖的科学研究。与只能解决有限数量操作的计算器不同，AGI可以泛化、学习和理解。在给董事会的信中，研究人员提到了人工智能的能力和潜在危险，但没有具体说明信中提到的确切安全问题。除了在本月的演示中宣布了一系列新工具外，Sam奥特曼上周在旧金山的聚会上暗示，他相信AGI已经在望。这在暗示，OpenAI内部实现了技术和模型上的巨大飞跃。而Ilya等董事会成员感到恐慌。奥特曼在APEC峰会上说：“在OpenAI的历史上，现在已经是第四次，最近一次是在过去几周内，我有幸在房间里，当我们推开无知的面纱，将发现的边界向前推进，能够做到这一点是我一生职业上的荣誉。”董事会在第二天就解雇了奥特曼。总裁简报(CEOBriefing)将继续关注OpenAI内斗的发展。创始人被赶出公司的不少，譬如苹果的乔布斯。

总裁简报 CEO Briefing

63,120 görüntüleme • 2 yıl önce

2024 Inclusion·外滩大会在上海开幕，著名未来学家凯文·凯利在开幕主论坛上发表演讲：当人工智能深刻影响经济和文化时，将涌现三大趋势！非常值得观看，强烈推荐！ AI时代三大趋势： • 全球主义： • 全球正在共同构建一个基于技术的“超级有机体”，将全球的设备连接成巨大的计算系统，所有数字技术包括人工智能都运行在这个新平台上。 • 全球主义推进推动了新兴的全球文化，人们的生活方式和穿着逐渐趋同，底层需求达成一致。 • 人工智能将实现真正的“实时翻译”，打破全球语言障碍，加上增强现实（VR）技术，全球化“劳动力”将第一次出现。 • 创新加速： • AI技术加速了创新的步伐，体现在新发明和新思想传播速度加快，通过增强现实（AR）和虚拟现实（VR）技术提高学习效率，AI通过机器及其他传感器感知世界，以及ChatGPT等人工智能工具加快人们学习速度。 • 当答案易得时，提出正确问题和掌握正确思维方式变得更有价值，“学会如何学习”将成为未来毕业生的核心技能。 • AI驱动生成： • 人工智能能帮助人们摆脱机械、枯燥的工作，完成无法独立完成的任务，甚至生成超乎人类想象的全新事物。 • 人工智能系统正在生成新事物且不断完善，人工智能是多样的，将填补许多智能领域。 • 从人工智能工具中获益最多的是表现一般或较差的员工，人工智能工具能帮助他们更好地完成工作。 • 回答中国网友提问： • 对于人工智能是不是人类的下一个进化阶段，凯文·凯利给出肯定答案，认为其重要性不亚于火、印刷术和工业革命，但实现需要至少一个世纪甚至更长时间，人类正在通过人工智能重塑文明，创造人造“外星人”并引入新思想和文化。 • 为确保人工智能带来有益未来且不加剧不平等，应利用技术引导其发展，推动其开源化，形成更具包容性的技术生态系统。 • 未来几乎所有工作都会使用人工智能，但不会被完全取代。

2024 Inclusion·外滩大会在上海开幕，著名未来学家凯文·凯利在开幕主论坛上发表演讲：当人工智能深刻影响经济和文化时，将涌现三大趋势！非常值得观看，强烈推荐！ AI时代三大趋势： • 全球主义： • 全球正在共同构建一个基于技术的“超级有机体”，将全球的设备连接成巨大的计算系统，所有数字技术包括人工智能都运行在这个新平台上。 • 全球主义推进推动了新兴的全球文化，人们的生活方式和穿着逐渐趋同，底层需求达成一致。 • 人工智能将实现真正的“实时翻译”，打破全球语言障碍，加上增强现实（VR）技术，全球化“劳动力”将第一次出现。 • 创新加速： • AI技术加速了创新的步伐，体现在新发明和新思想传播速度加快，通过增强现实（AR）和虚拟现实（VR）技术提高学习效率，AI通过机器及其他传感器感知世界，以及ChatGPT等人工智能工具加快人们学习速度。 • 当答案易得时，提出正确问题和掌握正确思维方式变得更有价值，“学会如何学习”将成为未来毕业生的核心技能。 • AI驱动生成： • 人工智能能帮助人们摆脱机械、枯燥的工作，完成无法独立完成的任务，甚至生成超乎人类想象的全新事物。 • 人工智能系统正在生成新事物且不断完善，人工智能是多样的，将填补许多智能领域。 • 从人工智能工具中获益最多的是表现一般或较差的员工，人工智能工具能帮助他们更好地完成工作。 • 回答中国网友提问： • 对于人工智能是不是人类的下一个进化阶段，凯文·凯利给出肯定答案，认为其重要性不亚于火、印刷术和工业革命，但实现需要至少一个世纪甚至更长时间，人类正在通过人工智能重塑文明，创造人造“外星人”并引入新思想和文化。 • 为确保人工智能带来有益未来且不加剧不平等，应利用技术引导其发展，推动其开源化，形成更具包容性的技术生态系统。 • 未来几乎所有工作都会使用人工智能，但不会被完全取代。

小互

120,692 görüntüleme • 1 yıl önce

总有人问，你在网络为那些不平的事情发声，对社会有贡献吗？总有人问：“你在网络上为那些不平的事情发声，对社会真的有贡献吗？”每次听到这个问题，我都会沉默几秒。因为提出这个问题的人，往往认为真正的贡献应该是看得见、摸得着的：修建一座桥梁，发明一种技术，创造一家企业，或者直接帮助某一个人。而在网络上发声，在他们看来，不过是敲敲键盘、发表观点，既改变不了现实，也解决不了问题。可我始终认为，一个社会的进步，从来不只是靠建设者，也同样需要记录者、观察者、质疑者和发声者。因为很多时候，真正可怕的不是不公本身，而是所有人都开始对不公习以为常。回顾历史，我们会发现，许多推动社会进步的力量，最开始都只是一个人的一句话、一篇文章，甚至一次微弱的呐喊。在很多重大变革发生之前，总会有人先站出来指出问题的存在。也许他们无法立刻改变现实，甚至会遭遇误解、嘲笑和打压，但正是因为有人不断发问、不断追问、不断记录，后来的人才有机会看见问题、理解问题，并最终推动问题的解决。有人说：“网上发声有什么用？该发生的还是会发生。”但事实上，如果没有人关注，没有人传播，没有人讨论，那么许多问题甚至不会进入公众视野。一个人的声音可能很小，一万个人的声音可能也未必能立刻改变现实，但如果所有人都选择沉默，那么现实永远不会改变。网络时代最大的意义之一，就是让普通人第一次拥有了发声的机会。过去，只有少数人能够掌握话语权，而今天，一个普通人拿起手机，就可能让一件原本无人知晓的事情被全世界看见。这种力量，既伟大，也危险。伟大在于，它给了弱者表达的机会；危险在于，它也可能被情绪、谣言和偏见所裹挟。因此，真正有价值的发声，不是为了发泄情绪，不是为了博取流量，更不是为了站队和攻击，而是为了接近事实、守护公平。很多人喜欢嘲笑“键盘侠”，认为网络发声都是毫无意义的空谈。但他们忽略了一个事实：任何现实行动，都必须先有思想上的觉醒。一个人之所以愿意去帮助别人，是因为他先意识到了别人的困境；一个社会之所以会推动改革，是因为越来越多的人开始意识到问题的存在。意识的形成，需要传播；传播的开始，往往来自于发声。当然，我也承认，网络上的很多发声并没有产生实际效果。有些热点事件，热闹几天之后就被遗忘；有些不公现象，即使引发巨大关注，也未必能够得到彻底解决。面对这样的现实，很多人开始怀疑：既然结果不会改变，那发声还有意义吗？我的答案依然是：有。因为发声的价值，并不仅仅在于立刻改变结果。有时候，它的意义在于记录。有时候，它的意义在于陪伴。有时候，它的意义在于告诉那些身处困境的人：你不是一个人，你的遭遇没有被整个世界遗忘。历史上有太多曾经被忽视、被掩盖、被否认的事情，正是因为有人坚持记录，才最终被世人所知。如果所有人都选择沉默，那么真相往往会比谎言消失得更快。一个社会最危险的状态，不是存在问题，而是再也没有人愿意讨论问题；不是没有不公，而是所有人都默认不公是正常的。更重要的是，发声本身，也是在塑造我们自己。当一个人看到不公时选择沉默，第一次可能只是因为害怕，第二次可能是因为无奈，第三次可能就变成了习惯。久而久之，我们失去的，不只是表达的勇气，更是判断是非的能力。因为沉默是会让人麻木的，而麻木，才是一个社会最可怕的疾病。当然，发声并不意味着自己永远正确。任何观点都可能存在局限，任何人都可能犯错。因此，真正负责任的发声，应该建立在事实、理性和同理心的基础之上。它不是情绪的宣泄，不是谣言的传播，不是为了赢得掌声，而是为了追求真相。我们可以愤怒，但不能被愤怒支配；我们可以质疑，但不能放弃求证；我们可以表达立场，但不能拒绝倾听。总有人问：“你在网络上为那些不平的事情发声，对社会有贡献吗？” 也许，我的一篇文章、一条评论、一段视频，确实无法改变整个世界；也许，很多时候我的声音微不足道，甚至不会被人记住。但我仍然愿意发声。因为我相信，一个社会之所以能够不断向前，不是因为所有人都保持沉默，而是因为总有人愿意站出来说一句：“这件事不应该这样。” 如果有一天，我们面对不公不再愤怒，面对谎言不再追问，面对苦难不再关注，那么失去的将不仅仅是表达的权利，更是一个社会继续进步的希望。所以，发声到底有没有贡献？也许答案不在于它改变了多少现实，而在于它让这个世界知道，仍然有人在乎公平，仍然有人追寻真相，仍然有人拒绝成为沉默的大多数。 💥辣么，你认为，在一个信息高度发达的时代，民众的发声究竟应该以“改变现实”为目标，还是仅仅以“拒绝沉默”为价值？

总有人问，你在网络为那些不平的事情发声，对社会有贡献吗？总有人问：“你在网络上为那些不平的事情发声，对社会真的有贡献吗？”每次听到这个问题，我都会沉默几秒。因为提出这个问题的人，往往认为真正的贡献应该是看得见、摸得着的：修建一座桥梁，发明一种技术，创造一家企业，或者直接帮助某一个人。而在网络上发声，在他们看来，不过是敲敲键盘、发表观点，既改变不了现实，也解决不了问题。可我始终认为，一个社会的进步，从来不只是靠建设者，也同样需要记录者、观察者、质疑者和发声者。因为很多时候，真正可怕的不是不公本身，而是所有人都开始对不公习以为常。回顾历史，我们会发现，许多推动社会进步的力量，最开始都只是一个人的一句话、一篇文章，甚至一次微弱的呐喊。在很多重大变革发生之前，总会有人先站出来指出问题的存在。也许他们无法立刻改变现实，甚至会遭遇误解、嘲笑和打压，但正是因为有人不断发问、不断追问、不断记录，后来的人才有机会看见问题、理解问题，并最终推动问题的解决。有人说：“网上发声有什么用？该发生的还是会发生。”但事实上，如果没有人关注，没有人传播，没有人讨论，那么许多问题甚至不会进入公众视野。一个人的声音可能很小，一万个人的声音可能也未必能立刻改变现实，但如果所有人都选择沉默，那么现实永远不会改变。网络时代最大的意义之一，就是让普通人第一次拥有了发声的机会。过去，只有少数人能够掌握话语权，而今天，一个普通人拿起手机，就可能让一件原本无人知晓的事情被全世界看见。这种力量，既伟大，也危险。伟大在于，它给了弱者表达的机会；危险在于，它也可能被情绪、谣言和偏见所裹挟。因此，真正有价值的发声，不是为了发泄情绪，不是为了博取流量，更不是为了站队和攻击，而是为了接近事实、守护公平。很多人喜欢嘲笑“键盘侠”，认为网络发声都是毫无意义的空谈。但他们忽略了一个事实：任何现实行动，都必须先有思想上的觉醒。一个人之所以愿意去帮助别人，是因为他先意识到了别人的困境；一个社会之所以会推动改革，是因为越来越多的人开始意识到问题的存在。意识的形成，需要传播；传播的开始，往往来自于发声。当然，我也承认，网络上的很多发声并没有产生实际效果。有些热点事件，热闹几天之后就被遗忘；有些不公现象，即使引发巨大关注，也未必能够得到彻底解决。面对这样的现实，很多人开始怀疑：既然结果不会改变，那发声还有意义吗？我的答案依然是：有。因为发声的价值，并不仅仅在于立刻改变结果。有时候，它的意义在于记录。有时候，它的意义在于陪伴。有时候，它的意义在于告诉那些身处困境的人：你不是一个人，你的遭遇没有被整个世界遗忘。历史上有太多曾经被忽视、被掩盖、被否认的事情，正是因为有人坚持记录，才最终被世人所知。如果所有人都选择沉默，那么真相往往会比谎言消失得更快。一个社会最危险的状态，不是存在问题，而是再也没有人愿意讨论问题；不是没有不公，而是所有人都默认不公是正常的。更重要的是，发声本身，也是在塑造我们自己。当一个人看到不公时选择沉默，第一次可能只是因为害怕，第二次可能是因为无奈，第三次可能就变成了习惯。久而久之，我们失去的，不只是表达的勇气，更是判断是非的能力。因为沉默是会让人麻木的，而麻木，才是一个社会最可怕的疾病。当然，发声并不意味着自己永远正确。任何观点都可能存在局限，任何人都可能犯错。因此，真正负责任的发声，应该建立在事实、理性和同理心的基础之上。它不是情绪的宣泄，不是谣言的传播，不是为了赢得掌声，而是为了追求真相。我们可以愤怒，但不能被愤怒支配；我们可以质疑，但不能放弃求证；我们可以表达立场，但不能拒绝倾听。总有人问：“你在网络上为那些不平的事情发声，对社会有贡献吗？” 也许，我的一篇文章、一条评论、一段视频，确实无法改变整个世界；也许，很多时候我的声音微不足道，甚至不会被人记住。但我仍然愿意发声。因为我相信，一个社会之所以能够不断向前，不是因为所有人都保持沉默，而是因为总有人愿意站出来说一句：“这件事不应该这样。” 如果有一天，我们面对不公不再愤怒，面对谎言不再追问，面对苦难不再关注，那么失去的将不仅仅是表达的权利，更是一个社会继续进步的希望。所以，发声到底有没有贡献？也许答案不在于它改变了多少现实，而在于它让这个世界知道，仍然有人在乎公平，仍然有人追寻真相，仍然有人拒绝成为沉默的大多数。 💥辣么，你认为，在一个信息高度发达的时代，民众的发声究竟应该以“改变现实”为目标，还是仅仅以“拒绝沉默”为价值？

罗翔——破幕推墙

12,702 görüntüleme • 1 ay önce

英伟达黄仁勋在沙特接受访谈完整版👇 沙特要造AI工厂！一出手就是500兆瓦的部署，跟谁合作？英伟达。这背后是什么逻辑？用能源炼AI！这事得从英伟达和沙特一家叫Humane的AI公司说起。两块Blackwell芯片，就重得拿不动。功耗多少？2500瓦。而沙特要建的，是500兆瓦的计算基础设施。想想这规模人工智能，公认的革命性技术，可能是任何时代最具变革性的。它会改变每个行业，成为每个行业的基础设施。沙特的Humane公司，就要在当地建设这个AI基础设施。但很多人没意识到， AI不仅是变革技术，它本身就是个产业。一个制造业！这个制造业需要什么？能源。沙特有什么？能源。通过英伟达这种AI超级计算机，本质上就是AI工厂。能源驱动这些AI工厂，生成tokens。这些token再被重组成应用程序和解决问题的AI。这就是Humane要为沙特和世界创造的东西。基础设施搞定了，创新就看模型了。生成式AI很火，但黄仁勋还提到了别的。物理世界和物理AI。这跟生成式AI、跟英伟达提供给Humane的平台，是什么关系？过去12年，AI产业发展神速。最早是感知AI：能识别猫、文字、声音、语音。感知AI进化到生成式AI：用文字生成文字，文字生成图像，文字生成化学物质和蛋白质。现在是第三个时代：AI能推理。这种能力的应用就是智能体AI（Agentic AI）。它有自主性，能用工具、能推理、能解决问题，就像电脑里的数字机器人。下一个时代，英伟达正在攻克的，是理解物理规律的AI。物理世界的常识：瓶子倒了会掉下来，理解重力、惯性、因果、物体恒存性、遮挡等等。这些我们人类的常识，要教给AI。下一代物理AI，结合已有的技术，可以被赋予物理形态。这个物理形态，就是机器人技术。 AI的时代发展飞快，今天我们身处智能体AI世界，很快就会进入机器人或物理AI的世界。 Humane这家公司，源于沙特王储的愿景。要在AI全价值链上发力。建设大规模数据中心，目标是到2030年达到1.9吉瓦。还要推进AI芯片、云、模型、应用和解决方案。沙特的目标，是建设自己国家的AI基础设施，参与并塑造这项变革性技术的未来。

英伟达黄仁勋在沙特接受访谈完整版👇 沙特要造AI工厂！一出手就是500兆瓦的部署，跟谁合作？英伟达。这背后是什么逻辑？用能源炼AI！这事得从英伟达和沙特一家叫Humane的AI公司说起。两块Blackwell芯片，就重得拿不动。功耗多少？2500瓦。而沙特要建的，是500兆瓦的计算基础设施。想想这规模人工智能，公认的革命性技术，可能是任何时代最具变革性的。它会改变每个行业，成为每个行业的基础设施。沙特的Humane公司，就要在当地建设这个AI基础设施。但很多人没意识到， AI不仅是变革技术，它本身就是个产业。一个制造业！这个制造业需要什么？能源。沙特有什么？能源。通过英伟达这种AI超级计算机，本质上就是AI工厂。能源驱动这些AI工厂，生成tokens。这些token再被重组成应用程序和解决问题的AI。这就是Humane要为沙特和世界创造的东西。基础设施搞定了，创新就看模型了。生成式AI很火，但黄仁勋还提到了别的。物理世界和物理AI。这跟生成式AI、跟英伟达提供给Humane的平台，是什么关系？过去12年，AI产业发展神速。最早是感知AI：能识别猫、文字、声音、语音。感知AI进化到生成式AI：用文字生成文字，文字生成图像，文字生成化学物质和蛋白质。现在是第三个时代：AI能推理。这种能力的应用就是智能体AI（Agentic AI）。它有自主性，能用工具、能推理、能解决问题，就像电脑里的数字机器人。下一个时代，英伟达正在攻克的，是理解物理规律的AI。物理世界的常识：瓶子倒了会掉下来，理解重力、惯性、因果、物体恒存性、遮挡等等。这些我们人类的常识，要教给AI。下一代物理AI，结合已有的技术，可以被赋予物理形态。这个物理形态，就是机器人技术。 AI的时代发展飞快，今天我们身处智能体AI世界，很快就会进入机器人或物理AI的世界。 Humane这家公司，源于沙特王储的愿景。要在AI全价值链上发力。建设大规模数据中心，目标是到2030年达到1.9吉瓦。还要推进AI芯片、云、模型、应用和解决方案。沙特的目标，是建设自己国家的AI基础设施，参与并塑造这项变革性技术的未来。

墓碑科技

214,713 görüntüleme • 1 yıl önce

Lex Fridman采访了Sam Altman，这次采访有快两个小时，基本上谈到了所有需要谈的内容。包括GPT-5、Sora、董事会闹剧、马斯克、Ilya去向以及最重要的AGI。强烈建议看一下，我也拿GPT-4翻译了一下视频，并且总结了文本，下面还有对应时间轴快捷跳转，时间有点长，可以收藏之后看。采访的要点总结：计算力将成为未来最宝贵的财富之一,人工智能的发展将是一场巨大的权力斗争。 Sam回顾了在OpenAI董事会经历的困难时刻,称其为职业生涯中最痛苦、混乱和令人沮丧的经历,但这些经历有助于增强韧性。 OpenAI正在寻找新的董事会成员,希望引入具有不同专业背景的人才,包括非营利组织、学习型公司、法律和治理等领域的专家。董事会需要回应全球的需求,而不仅仅是自身利益。人们对产品发布策略的反思,认为应该更加迭代地发布,避免突然的更新,以满足用户的需求。 GPT-4是一个重要的里程碑,但并不足以改变世界。真正意义上的AGI应该能够显著提高科学发现的速度。大部分真正的经济增长来自科学技术的进步。 Sam期望首个AGI系统能够回答关于宇宙统一理论和外星文明存在性等重大科学问题。没有任何一个个体或机构应该对AGI拥有绝对控制权,需要建立一个强大的治理系统来管理AI的发展。目前AI安全研究者过于关注某些具体的技术风险,而忽视了其他一些重要的问题。未来编程可能会以自然语言交互的方式进行,传统的编码方式可能会逐渐减少。 OpenAI在机器人领域有一些进展和规划。虚拟现实技术以其超逼真和照片般的真实感著称,在虚拟世界中很容易迷失自己。作者对大自然机械化运作的进化机制赞叹不已,尤其是在亚马逊丛林中的观察。科技发展非常强大且吓人,但作者对宇宙中存在智慧外星文明非常有信心。人工智能可能更像是人类之间的支撑和社会联系,而不是单个大脑。人类共同建立的知识基础赋予了我们无比的能力,这种集体创造让作者对未来抱有希望。尽管有时会提到人工智能的风险,但对于死亡,我们更多的是感激生命中的美好时刻。在对人工智能未来的展望中,Sam表达了对人类未来的乐观态度,认为人类社会一直在持续进步。 Sam引用了科幻作家Arthur C. Clark的一句话:"在这个星球上,我们的角色可能不是崇拜上帝,而是创造上帝。" 采访的时间轴： 0:00 - 介绍 1:05 - OpenAI董事会传奇 18:31 - Ilya Sutskever 24:40 - Elon Musk诉讼案 34:32 - Sora 44:23 - GPT-4 55:32 - 记忆与隐私 1:02:36 - Q* 1:06:12 - GPT-5 1:09:27 - 7万亿美元的算力 1:17:35 - 谷歌和双子座 1:28:40 - 跨越到GPT-5 1:32:24 - 通用人工智能(AGI) 1:50:57 - 外星人

Lex Fridman采访了Sam Altman，这次采访有快两个小时，基本上谈到了所有需要谈的内容。包括GPT-5、Sora、董事会闹剧、马斯克、Ilya去向以及最重要的AGI。强烈建议看一下，我也拿GPT-4翻译了一下视频，并且总结了文本，下面还有对应时间轴快捷跳转，时间有点长，可以收藏之后看。采访的要点总结：计算力将成为未来最宝贵的财富之一,人工智能的发展将是一场巨大的权力斗争。 Sam回顾了在OpenAI董事会经历的困难时刻,称其为职业生涯中最痛苦、混乱和令人沮丧的经历,但这些经历有助于增强韧性。 OpenAI正在寻找新的董事会成员,希望引入具有不同专业背景的人才,包括非营利组织、学习型公司、法律和治理等领域的专家。董事会需要回应全球的需求,而不仅仅是自身利益。人们对产品发布策略的反思,认为应该更加迭代地发布,避免突然的更新,以满足用户的需求。 GPT-4是一个重要的里程碑,但并不足以改变世界。真正意义上的AGI应该能够显著提高科学发现的速度。大部分真正的经济增长来自科学技术的进步。 Sam期望首个AGI系统能够回答关于宇宙统一理论和外星文明存在性等重大科学问题。没有任何一个个体或机构应该对AGI拥有绝对控制权,需要建立一个强大的治理系统来管理AI的发展。目前AI安全研究者过于关注某些具体的技术风险,而忽视了其他一些重要的问题。未来编程可能会以自然语言交互的方式进行,传统的编码方式可能会逐渐减少。 OpenAI在机器人领域有一些进展和规划。虚拟现实技术以其超逼真和照片般的真实感著称,在虚拟世界中很容易迷失自己。作者对大自然机械化运作的进化机制赞叹不已,尤其是在亚马逊丛林中的观察。科技发展非常强大且吓人,但作者对宇宙中存在智慧外星文明非常有信心。人工智能可能更像是人类之间的支撑和社会联系,而不是单个大脑。人类共同建立的知识基础赋予了我们无比的能力,这种集体创造让作者对未来抱有希望。尽管有时会提到人工智能的风险,但对于死亡,我们更多的是感激生命中的美好时刻。在对人工智能未来的展望中,Sam表达了对人类未来的乐观态度,认为人类社会一直在持续进步。 Sam引用了科幻作家Arthur C. Clark的一句话:"在这个星球上,我们的角色可能不是崇拜上帝,而是创造上帝。" 采访的时间轴： 0:00 - 介绍 1:05 - OpenAI董事会传奇 18:31 - Ilya Sutskever 24:40 - Elon Musk诉讼案 34:32 - Sora 44:23 - GPT-4 55:32 - 记忆与隐私 1:02:36 - Q* 1:06:12 - GPT-5 1:09:27 - 7万亿美元的算力 1:17:35 - 谷歌和双子座 1:28:40 - 跨越到GPT-5 1:32:24 - 通用人工智能(AGI) 1:50:57 - 外星人

歸藏(guizang.ai)

195,792 görüntüleme • 2 yıl önce

顶尖数学家陶哲轩揭示了一个反直觉的真相：驱动当今 LLM 的数学原理其实惊人地简单。它的核心不过是普通本科生就能掌握的线性代数、矩阵乘法和基础微积分。在工程层面，人类完全知道该如何制造这台机器。但真正的谜团在于它的不可预测性。为什么它能完美解决某些复杂任务，却在另一些简单问题上彻底失效？我们至今缺乏有效的理论来提前预判，所有的技术突破很大程度上依然依赖经验与试错。症结隐藏在数据的本质中。人类完全理解绝对的规则，也完全理解纯粹的随机，但人类的自然语言恰恰介于两者之间，兼具了结构与混沌。现代数学在这一中间地带的理论极其薄弱，就像物理学至今仍在微观原子与宏观连续体之间的介观尺度上苦苦挣扎。极其简单的底层齿轮，却咬合出了无法解释的强大智能。这种极简机制与复杂行为之间的强烈反差，正是当今 AI 领域最核心的终极谜题。

顶尖数学家陶哲轩揭示了一个反直觉的真相：驱动当今 LLM 的数学原理其实惊人地简单。它的核心不过是普通本科生就能掌握的线性代数、矩阵乘法和基础微积分。在工程层面，人类完全知道该如何制造这台机器。但真正的谜团在于它的不可预测性。为什么它能完美解决某些复杂任务，却在另一些简单问题上彻底失效？我们至今缺乏有效的理论来提前预判，所有的技术突破很大程度上依然依赖经验与试错。症结隐藏在数据的本质中。人类完全理解绝对的规则，也完全理解纯粹的随机，但人类的自然语言恰恰介于两者之间，兼具了结构与混沌。现代数学在这一中间地带的理论极其薄弱，就像物理学至今仍在微观原子与宏观连续体之间的介观尺度上苦苦挣扎。极其简单的底层齿轮，却咬合出了无法解释的强大智能。这种极简机制与复杂行为之间的强烈反差，正是当今 AI 领域最核心的终极谜题。

柴郡🔔｜Crypto+AI Plus

23,499 görüntüleme • 3 ay önce

前谷歌CEO埃里克·施密特，在国会听证会上说： AI革命，被低估了。不是被高估，是远远被低估了。 “这场AI的到来，我们没人准备好。” 你以为它只是ChatGPT？不，它其实是一个前所未有的推理系统，是可以自己规划、自己思考、自己编程的新智能体。今天，我们正在训练AI程序员，未来，它们将替代传统软件工程师。接着，是AI数学家，水平对标顶尖研究生，而训练时间，只需要一年。这不是未来，这是现在。而这场变革，刚刚开始。它的代价呢？前所未有的算力需求，巨量的能源消耗。传统服务器，可能根本撑不住。我们正在建造一种新的生命形态，一个能推理、能学习、能创造的智能系统。问题是，我们连它的终点都看不见。深表同意，大众对这波AI浪潮的认知太落后了，整个社会都没做好准备。

前谷歌CEO埃里克·施密特，在国会听证会上说： AI革命，被低估了。不是被高估，是远远被低估了。 “这场AI的到来，我们没人准备好。” 你以为它只是ChatGPT？不，它其实是一个前所未有的推理系统，是可以自己规划、自己思考、自己编程的新智能体。今天，我们正在训练AI程序员，未来，它们将替代传统软件工程师。接着，是AI数学家，水平对标顶尖研究生，而训练时间，只需要一年。这不是未来，这是现在。而这场变革，刚刚开始。它的代价呢？前所未有的算力需求，巨量的能源消耗。传统服务器，可能根本撑不住。我们正在建造一种新的生命形态，一个能推理、能学习、能创造的智能系统。问题是，我们连它的终点都看不见。深表同意，大众对这波AI浪潮的认知太落后了，整个社会都没做好准备。

墓碑科技

199,574 görüntüleme • 1 yıl önce

为了解决同性恋不能生育的问题，他们研发出这种人造子宫通过改造基因培殖人类胎儿。表面上是为了帮助那些不能生育的人解决生育难题，实际上大家都明白他们背后真正的目的。这样做是在扮演上帝的角色，是不是邪恶你们自己定夺。用人造子宫取代女性怀孕，是逆天而行。这种小孩能長大嗎？長大以后又能不能与正常人结緍生子，繁殖岀来的又会是什么样的另类怪人，对将来人类会造成什么样的影响和变化，这些都是还没有答案，超出他们智慧范畴可以考虑的问题。

为了解决同性恋不能生育的问题，他们研发出这种人造子宫通过改造基因培殖人类胎儿。表面上是为了帮助那些不能生育的人解决生育难题，实际上大家都明白他们背后真正的目的。这样做是在扮演上帝的角色，是不是邪恶你们自己定夺。用人造子宫取代女性怀孕，是逆天而行。这种小孩能長大嗎？長大以后又能不能与正常人结緍生子，繁殖岀来的又会是什么样的另类怪人，对将来人类会造成什么样的影响和变化，这些都是还没有答案，超出他们智慧范畴可以考虑的问题。

桃花岛主(Lucky)

26,898 görüntüleme • 2 yıl önce

马斯克又放话了。他说，未来的AI，到底有多聪明？人类根本无法理解。他打了个比方。把地球今天所有的用电量，乘以一百万倍。一个智能体，如果能调动这么多能源，会是什么样子？听起来很吓人？但在宇宙尺度下，这根本不算什么。这点能量，仅仅是太阳输出能量的百万分之一。微不足道。一个能利用这种级别能量的AI，会思考什么？会做什么？马斯克的答案很直接：它能解决所有你能想到的问题。是的，包括“长生不老”。挑战不在于如何实现。而在于，人类的大脑，甚至无法对那种级别的智能，产生哪怕一丝模糊的认知。听着很美好，解决一切问题。但权力导致腐败，绝对的权力导致绝对的腐败。一个全知全能、解决一切问题的AI，由谁控制？它的价值观，由谁来设定？如果答案是今天的硅谷精英，那对普通人来说，这究竟是福音，还是终极的牢笼？

马斯克又放话了。他说，未来的AI，到底有多聪明？人类根本无法理解。他打了个比方。把地球今天所有的用电量，乘以一百万倍。一个智能体，如果能调动这么多能源，会是什么样子？听起来很吓人？但在宇宙尺度下，这根本不算什么。这点能量，仅仅是太阳输出能量的百万分之一。微不足道。一个能利用这种级别能量的AI，会思考什么？会做什么？马斯克的答案很直接：它能解决所有你能想到的问题。是的，包括“长生不老”。挑战不在于如何实现。而在于，人类的大脑，甚至无法对那种级别的智能，产生哪怕一丝模糊的认知。听着很美好，解决一切问题。但权力导致腐败，绝对的权力导致绝对的腐败。一个全知全能、解决一切问题的AI，由谁控制？它的价值观，由谁来设定？如果答案是今天的硅谷精英，那对普通人来说，这究竟是福音，还是终极的牢笼？

墓碑科技

46,315 görüntüleme • 5 ay önce