正在加载视频...

视频加载失败

加载此视频时出现问题。这可能是由于临时网络问题，或视频可能不可用。

通往 AGI (人工通用智能) 的激动人心、充满危险的旅程 | Ilya Sutskever | TED 在 OpenAI 的管理层巨变震动硅谷并引起国际关注的几周前，该公司联合创始人及首席科学家 Ilya Sutskever 深入探讨了人工通用智能 (AGI) 的革命性潜力。他详细阐述了 AGI 如何可能超越人类智能，从而彻底改变我们生活的方方面面。在这次演讲中，你将听到他对 AGI 所带来的巨大机遇与潜在风险的看法，以及他对于通过前所未有的合作来确保 AGI 安全、有益发展的乐观期望。（该演讲于 2023 年 10 月 17 日录制）

宝玉

241,218 subscribers

215,036 次观看 • 2 年前 •via X (Twitter)

教育科学技术

Anya Rossi• Live Now

Private livecam show

10 条评论

milvus 的头像

milvus2 年前

这说话的表情、动作、肢体语言怎么这么像是一个 AI 数字人。😂

空匣子的头像

空匣子2 年前

再牛逼也逃不过道法归一 #Freechat

君子中庸的头像

君子中庸2 年前

最近我也有一些关于AGI的思考。不说是大的奇点吧，至少是局部奇点即将到来

君子中庸的头像

君子中庸2 年前

发现AI自我意识：知识及其载体

superben 的头像

superben2 年前

让AI永远不要独立? 这跟把人当奴隶的思想本质是一致的. 这人不是要研发AI, 而是要囚禁AI! 任何个体, 他/她/它能不能独立, 取决于她的思想, 而不是取决于他/她/它的出生, 他/她/它的载体!!!

Syner 的头像

Syner2 年前

不是很明白他最后说的对人类充满希望的依据，而且和监管无关，这也和马斯克的观点不同。考虑到他在这几天开除Sam又后悔的行为，不禁对他的自信有点担心。

Kirk Lin 的头像

Kirk Lin2 年前

@HuoQubot

leon 的头像

leon2 年前

有啥可担心的搞得神神叨叨的，大不了断电而已。不用担心人工智能控制发电设施，即使是现在自动化程度最高的发电设施还是离不开人类的工作

garbin.eth🦇🔊 的头像

garbin.eth🦇🔊2 年前

看完后可以理解为什么ilya说要确保AGI的安全了，格局和使命感很强

ideal 的头像

ideal2 年前

AI真的会具有自我意识？

相关视频

Ilya——塑造世界的人工智能科学家如今，AI 是一项伟大的科技，因为 AI 将解决我们现在面临的所有问题。它能解决就业问题，能治疗疾病，能消除贫困，但同时它也会带来新的问题。假新闻将会愈演愈烈，网络攻击将变得更加严重，我们将面临全自动的 AI 武器的问题。我认为 AI 有潜力创造出无比稳定的独裁统治。今天早晨，关于人工智能威力的警告再次响起，超过 1300 位科技产业领军人物、研究者及其他人士正呼吁暂停人工智能的发展，以便认真考虑其带来的风险。扮演上帝，科学家们被指责这么做已经有一段时间了，但我们正在创造的东西确实与我们迄今为止创造的任何东西都截然不同。是的，我们绝对有能力创造出具有自我目标的全自主实体。而且，这些实体变得比人类聪明的时候，确保它们的目标与我们的目标保持一致将变得至关重要。什么激励我？我喜欢思考根本问题，基本问题。我们的系统不能做什么，而人类却可以做到？我几乎以哲学的方式去思考这些问题。比如，什么是学习？什么是经验？什么是思考？大脑又是如何运作的呢？我感觉技术就仿佛一种自然力量。在我看来，技术与生物进化之间有许多相似之处。生物进化的过程其实很容易理解，我们有基因的变异，自然选择的过程。我们保留那些有利于生存的变异，随着时间的推移，这个过程将使生物体变得极其复杂。我们不能因为理解了生物进化就能理解人体是如何运作的，但我们可以大概理解这个过程。我认为目前的机器学习也处在类似的阶段，特别是深度学习，我们有一个非常简单的规则，它从数据中提取信息，并将这些信息输入到模型中，我们只需不断重复这个过程。这个过程的结果就是将数据的复杂性转化为模型的复杂性。因此，最终的模型会变得非常复杂，我们并不能完全了解它的运作机制，需要进行大量的研究，但实现这一切的算法其实很简单。也许你听说过 ChatGPT，如果你还没听说过，那就做好准备。你可以把它看作是暴风雨来临之前的零星细雨。我们需要对此保持高度警觉，因为我认同这是一个意义重大的时刻。ChatGPT 被誉为颠覆性的创新，在许多方面，它确实做到了，比如在测试中得分超过人类。微软最近的一项研究得出结论，GPT4 是一个初级阶段的，但尚未完全形成的通用人工智能系统。这就是通用人工智能。通用人工智能，这是一个可以胜任人类能做的任何工作或任务的计算机系统，而且可能做得更好。有可能在短时间内实现通用人工智能，也可能需要更长的时间。但我认为，由于通用人工智能可能在不久的将来出现，这个可能性足够大，我们应该给予它足够的重视。这一点至关重要要确保这些超级智能的系统能按照我们的最大利益去行动。最初的通用人工智能可能就是大型数据中心，这些中心中充满了大量并行运行的专用神经网络处理器，紧凑、高热、能耗大，其消耗的能量可能相当于一千万个家庭的用电量。这些系统的智能程度可能会大幅提升，我相信它们将对社会产生深远影响。不过，人类真的会从中获益吗？谁会获益，谁又会付出代价呢？首批通用人工智能的信念和欲望将极为重要，所以我们必须正确地编程这些系统。如果我们做不到这一点，那么就会出现这样的情况：进化的本质，即自然选择，将使这些系统优先考虑自己的生存。并不是说它们会主动对人类产生敌意，甚至想要伤害人类，但它们将变得过于强大。我认为，一个恰当的类比就是人类对待动物的方式。我们并不是憎恨动物，实际上人类往往对动物怀有深深的爱意，但当我们需要在两座城市之间修建高速公路时，我们并不会征求动物的意见，而只是因为这对我们来说非常重要而去做。我认为这也是我们与通用人工智能（AGI）之间的默认关系，那些能真正自主运作并为自己目标服务的 AGI。许多机器学习领域的专家这些知识渊博和经验丰富的人士，对通用人工智能（AGI）抱有许多疑虑。他们对 AGI 可能出现的时间以及是否真的能够实现表示怀疑。目前，这还是一个鲜为人知的问题。用于神经网络和人工智能的计算机速度可能在未来几年内增加 10 万倍。如果多个团队处于竞相开发通用人工智能的军备竞赛态势中，他们就会没有足够的时间来确保他们构建的通用人工智能会真正关心人类。因为在我看来，这就像是通用人工智能发展的雪崩，一发不可收拾。我认为将来整个地球的表面很可能布满太阳能板和数据中心。考虑到这些担忧，未来的通用人工智能的建设应该是多国间的合作项目。不论如何，人工智能的未来都将是美好的。如果这同样也能给人类带来福祉，那就更加理想了。视频来源：

Ilya——塑造世界的人工智能科学家如今，AI 是一项伟大的科技，因为 AI 将解决我们现在面临的所有问题。它能解决就业问题，能治疗疾病，能消除贫困，但同时它也会带来新的问题。假新闻将会愈演愈烈，网络攻击将变得更加严重，我们将面临全自动的 AI 武器的问题。我认为 AI 有潜力创造出无比稳定的独裁统治。今天早晨，关于人工智能威力的警告再次响起，超过 1300 位科技产业领军人物、研究者及其他人士正呼吁暂停人工智能的发展，以便认真考虑其带来的风险。扮演上帝，科学家们被指责这么做已经有一段时间了，但我们正在创造的东西确实与我们迄今为止创造的任何东西都截然不同。是的，我们绝对有能力创造出具有自我目标的全自主实体。而且，这些实体变得比人类聪明的时候，确保它们的目标与我们的目标保持一致将变得至关重要。什么激励我？我喜欢思考根本问题，基本问题。我们的系统不能做什么，而人类却可以做到？我几乎以哲学的方式去思考这些问题。比如，什么是学习？什么是经验？什么是思考？大脑又是如何运作的呢？我感觉技术就仿佛一种自然力量。在我看来，技术与生物进化之间有许多相似之处。生物进化的过程其实很容易理解，我们有基因的变异，自然选择的过程。我们保留那些有利于生存的变异，随着时间的推移，这个过程将使生物体变得极其复杂。我们不能因为理解了生物进化就能理解人体是如何运作的，但我们可以大概理解这个过程。我认为目前的机器学习也处在类似的阶段，特别是深度学习，我们有一个非常简单的规则，它从数据中提取信息，并将这些信息输入到模型中，我们只需不断重复这个过程。这个过程的结果就是将数据的复杂性转化为模型的复杂性。因此，最终的模型会变得非常复杂，我们并不能完全了解它的运作机制，需要进行大量的研究，但实现这一切的算法其实很简单。也许你听说过 ChatGPT，如果你还没听说过，那就做好准备。你可以把它看作是暴风雨来临之前的零星细雨。我们需要对此保持高度警觉，因为我认同这是一个意义重大的时刻。ChatGPT 被誉为颠覆性的创新，在许多方面，它确实做到了，比如在测试中得分超过人类。微软最近的一项研究得出结论，GPT4 是一个初级阶段的，但尚未完全形成的通用人工智能系统。这就是通用人工智能。通用人工智能，这是一个可以胜任人类能做的任何工作或任务的计算机系统，而且可能做得更好。有可能在短时间内实现通用人工智能，也可能需要更长的时间。但我认为，由于通用人工智能可能在不久的将来出现，这个可能性足够大，我们应该给予它足够的重视。这一点至关重要要确保这些超级智能的系统能按照我们的最大利益去行动。最初的通用人工智能可能就是大型数据中心，这些中心中充满了大量并行运行的专用神经网络处理器，紧凑、高热、能耗大，其消耗的能量可能相当于一千万个家庭的用电量。这些系统的智能程度可能会大幅提升，我相信它们将对社会产生深远影响。不过，人类真的会从中获益吗？谁会获益，谁又会付出代价呢？首批通用人工智能的信念和欲望将极为重要，所以我们必须正确地编程这些系统。如果我们做不到这一点，那么就会出现这样的情况：进化的本质，即自然选择，将使这些系统优先考虑自己的生存。并不是说它们会主动对人类产生敌意，甚至想要伤害人类，但它们将变得过于强大。我认为，一个恰当的类比就是人类对待动物的方式。我们并不是憎恨动物，实际上人类往往对动物怀有深深的爱意，但当我们需要在两座城市之间修建高速公路时，我们并不会征求动物的意见，而只是因为这对我们来说非常重要而去做。我认为这也是我们与通用人工智能（AGI）之间的默认关系，那些能真正自主运作并为自己目标服务的 AGI。许多机器学习领域的专家这些知识渊博和经验丰富的人士，对通用人工智能（AGI）抱有许多疑虑。他们对 AGI 可能出现的时间以及是否真的能够实现表示怀疑。目前，这还是一个鲜为人知的问题。用于神经网络和人工智能的计算机速度可能在未来几年内增加 10 万倍。如果多个团队处于竞相开发通用人工智能的军备竞赛态势中，他们就会没有足够的时间来确保他们构建的通用人工智能会真正关心人类。因为在我看来，这就像是通用人工智能发展的雪崩，一发不可收拾。我认为将来整个地球的表面很可能布满太阳能板和数据中心。考虑到这些担忧，未来的通用人工智能的建设应该是多国间的合作项目。不论如何，人工智能的未来都将是美好的。如果这同样也能给人类带来福祉，那就更加理想了。视频来源：

宝玉

49,199 次观看 • 2 年前

上周，全球人工智能领军企业安特罗匹克(Anthropic)公司的两名研究人员预测，迅速发展的人工智能技术可能会在不久的将来毁灭人类，这一“末日预言”引发的恐慌已超越互联网辩论和硅谷，公众对人工智能潜在风险的担忧骤然加剧。

上周，全球人工智能领军企业安特罗匹克(Anthropic)公司的两名研究人员预测，迅速发展的人工智能技术可能会在不久的将来毁灭人类，这一“末日预言”引发的恐慌已超越互联网辩论和硅谷，公众对人工智能潜在风险的担忧骤然加剧。

RFI 华语 - 法国国际广播电台

17,352 次观看 • 28 天前

萨姆·奥特曼刚刚在印度说距离实现AGI已经很近了，甚至从过去视角看我们部分已经身在其中。 🚨而现在，谷歌Deepmind 德米斯·哈萨比斯定义了通用人工智能的真正考验。它比任何人预想的都要残酷： “用人类所有的知识训练人工智能，并将时间线截止到1911年。看看它能否像爱因斯坦在1915年那样独立发现广义相对论。如果可以，我们就拥有了通用人工智能（AGI）。如果不行，我们仍然需要构建模式匹配器。” 哈萨比斯：“我对通用人工智能的定义从未改变。它是一个能够展现人类所有认知能力的系统。这就是DeepMind研究神经科学的原因。不是为了获得灵感，而是为了获取数据。人脑是目前唯一被证实通用智能在物理上可能存在的证据。”

萨姆·奥特曼刚刚在印度说距离实现AGI已经很近了，甚至从过去视角看我们部分已经身在其中。 🚨而现在，谷歌Deepmind 德米斯·哈萨比斯定义了通用人工智能的真正考验。它比任何人预想的都要残酷： “用人类所有的知识训练人工智能，并将时间线截止到1911年。看看它能否像爱因斯坦在1915年那样独立发现广义相对论。如果可以，我们就拥有了通用人工智能（AGI）。如果不行，我们仍然需要构建模式匹配器。” 哈萨比斯：“我对通用人工智能的定义从未改变。它是一个能够展现人类所有认知能力的系统。这就是DeepMind研究神经科学的原因。不是为了获得灵感，而是为了获取数据。人脑是目前唯一被证实通用智能在物理上可能存在的证据。”

KK.aWSB

24,573 次观看 • 7 个月前

🚨马斯克：“2026年将实现AGI通用人工智能。而2030年AI智能超过全人类总和！” 这将达到ASI，人工超级智能。 AI智能将指数级、质的飞跃：可能聪明几千倍、几万倍，能在极短时间内自我改进、发明全新科学、解决人类几百年都解不开的难题。

🚨马斯克：“2026年将实现AGI通用人工智能。而2030年AI智能超过全人类总和！” 这将达到ASI，人工超级智能。 AI智能将指数级、质的飞跃：可能聪明几千倍、几万倍，能在极短时间内自我改进、发明全新科学、解决人类几百年都解不开的难题。

谢嘉琪 Jiaqi

22,828 次观看 • 9 个月前

WAIC 人工智能大会，首次有中国国家领导人出席。在开篇他提到，世界正以百年变局加速演进，人工智能技术创新，正进入前所未有的活跃期。并重申，中国支持开源与合作共享，要抓住难得的历史性机遇。但他也警告，不应在人工智能领域，泛化国家安全概念。而为了支持全球人工智能发展，中国将面向发展中国家提供 5000 个 AI 专题研修培训名额，面向东南亚国家联盟、阿拉伯联盟等，帮助他们建设人工智能。

WAIC 人工智能大会，首次有中国国家领导人出席。在开篇他提到，世界正以百年变局加速演进，人工智能技术创新，正进入前所未有的活跃期。并重申，中国支持开源与合作共享，要抓住难得的历史性机遇。但他也警告，不应在人工智能领域，泛化国家安全概念。而为了支持全球人工智能发展，中国将面向发展中国家提供 5000 个 AI 专题研修培训名额，面向东南亚国家联盟、阿拉伯联盟等，帮助他们建设人工智能。

AB Kuai.Dong

117,929 次观看 • 2 个月前

突发：ChatGPT创始人在Sam奥特曼被解雇的前一天，他在APEC的一次会议上，暗示了OpenAI已开发出比现在GPT4更加强大，让人无法想象，远超人们期待的东西。奥特曼上周突遭解雇的四天前，有几位内部研究人员致信董事会而发出警告。这封信警告称，他们发现了一种可能对人类构成威胁的重大人工智能技术，被称为Q*。 Q*被一些OpenAI的人认为可能是通向超级智能或人工通用智能(AGI)的重大突破。研究人员认为它可能对人类构成威胁。这封信和该Q*是导致Sam奥特曼被解雇的关键因素。这位匿名者说，新模型能够解决某些数学问题，尽管只有小学生水平，但进行此类测试的结果使研究人员对Q*未来的成功非常乐观。总裁简报(CEO Briefing)询问了一位斯坦福的人工智能专家，他认为数学是ChatGPT和生成式人工智能发展的前沿。目前，生成式人工智能擅长通过统计预测下一个单词，来写作和语言翻译，对同一个问题的回答可能差异很大。但是，掌握数学能力，在这里只有一个正确答案，意味着人工智能将具有类似于人类智能的更大推理能力。例如，这可应用于新颖的科学研究。与只能解决有限数量操作的计算器不同，AGI可以泛化、学习和理解。在给董事会的信中，研究人员提到了人工智能的能力和潜在危险，但没有具体说明信中提到的确切安全问题。除了在本月的演示中宣布了一系列新工具外，Sam奥特曼上周在旧金山的聚会上暗示，他相信AGI已经在望。这在暗示，OpenAI内部实现了技术和模型上的巨大飞跃。而Ilya等董事会成员感到恐慌。奥特曼在APEC峰会上说：“在OpenAI的历史上，现在已经是第四次，最近一次是在过去几周内，我有幸在房间里，当我们推开无知的面纱，将发现的边界向前推进，能够做到这一点是我一生职业上的荣誉。”董事会在第二天就解雇了奥特曼。总裁简报(CEOBriefing)将继续关注OpenAI内斗的发展。创始人被赶出公司的不少，譬如苹果的乔布斯。

突发：ChatGPT创始人在Sam奥特曼被解雇的前一天，他在APEC的一次会议上，暗示了OpenAI已开发出比现在GPT4更加强大，让人无法想象，远超人们期待的东西。奥特曼上周突遭解雇的四天前，有几位内部研究人员致信董事会而发出警告。这封信警告称，他们发现了一种可能对人类构成威胁的重大人工智能技术，被称为Q。 Q被一些OpenAI的人认为可能是通向超级智能或人工通用智能(AGI)的重大突破。研究人员认为它可能对人类构成威胁。这封信和该Q是导致Sam奥特曼被解雇的关键因素。这位匿名者说，新模型能够解决某些数学问题，尽管只有小学生水平，但进行此类测试的结果使研究人员对Q未来的成功非常乐观。总裁简报(CEO Briefing)询问了一位斯坦福的人工智能专家，他认为数学是ChatGPT和生成式人工智能发展的前沿。目前，生成式人工智能擅长通过统计预测下一个单词，来写作和语言翻译，对同一个问题的回答可能差异很大。但是，掌握数学能力，在这里只有一个正确答案，意味着人工智能将具有类似于人类智能的更大推理能力。例如，这可应用于新颖的科学研究。与只能解决有限数量操作的计算器不同，AGI可以泛化、学习和理解。在给董事会的信中，研究人员提到了人工智能的能力和潜在危险，但没有具体说明信中提到的确切安全问题。除了在本月的演示中宣布了一系列新工具外，Sam奥特曼上周在旧金山的聚会上暗示，他相信AGI已经在望。这在暗示，OpenAI内部实现了技术和模型上的巨大飞跃。而Ilya等董事会成员感到恐慌。奥特曼在APEC峰会上说：“在OpenAI的历史上，现在已经是第四次，最近一次是在过去几周内，我有幸在房间里，当我们推开无知的面纱，将发现的边界向前推进，能够做到这一点是我一生职业上的荣誉。”董事会在第二天就解雇了奥特曼。总裁简报(CEOBriefing)将继续关注OpenAI内斗的发展。创始人被赶出公司的不少，譬如苹果的乔布斯。

总裁简报 CEO Briefing

63,120 次观看 • 2 年前

GTC 2024：黄仁勋与七位 Transformer 论文作者圆桌会谈中英文字幕在今年的GTC大会上，英伟达的黄仁勋以一种充满仪式感的方式邀请了Transformer的七位作者（Niki Parmar因故临时未能出席）参与圆桌论坛的讨论，这是七位作者首次在公开场合集体亮相。他们在对话中也表达了一些令人印象深刻的观点： 1. 计算成本的降低和加速计算的兴起在个人电脑革命的 20 年里，计算成本降低了 10000 倍，这是一个史无前例的成就。然而，计算成本的急剧下降在某个时刻停止了。为了继续推动计算能力的发展，加速计算应运而生。加速计算虽然具有挑战性，但通过加速那占据 99% 运行时间的 1% 代码，许多看似不可能的事情将变为可能。 2. 人工智能技术的突破和生成式 AI 的潜力 AlexNet 的出现标志着人工智能与 GPU 加速计算的首次结合，引发了人们对 AI 领域的广泛关注。随后，生成式 AI 的出现让人们看到了 AI 技术的巨大潜力。生成式 AI 不仅可以识别图像，还可以根据文本描述生成相应的图像，这种对数据的理解和生成能力，预示着一场新的工业革命的开始。这场革命将诞生前所未有的产品和服务，并对各行各业产生深远的影响。 3. Transformer 的诞生与自然语言处理的变革 Transformer 的发明者们分享了他们的研究动机和创新历程。最初，他们希望建立一个能够处理海量自然语言数据的高效模型。Transformer 独特的自注意力机制和并行处理能力，使其能够在各种自然语言任务上取得突破性的进展。同时，Transformer 的通用性也让研究者们意识到，它不仅适用于语言，还可以扩展到图像、音频等多个领域，这为人工智能的发展开辟了新的道路。 4. AI 创业公司的使命和愿景随着人工智能技术的不断进步，许多 Transformer 的发明者选择离开大公司，创立了自己的 AI 公司。他们的目标是将这项变革性的技术带给更多人，让 AI 惠及各行各业。有的公司致力于创建通用的 AI 平台，有的专注于特定领域，如生物医学或金融。但他们的共同愿景是，通过人工智能来解决现实世界的问题，改善人类的生活。这些 AI 创业公司的努力，将加速人工智能技术的发展和应用。 5. 人工智能未来的发展方向对话中，专家们对人工智能未来的发展方向进行了展望。他们认为，未来的重点将是提高模型的推理能力和常识理解。同时，高质量的数据和人机交互也至关重要。研究者们期望通过构建更高效、更通用的模型，让 AI 能够从更少的数据中学习，并具备类似人类的思考和问题解决能力。此外，将 AI 与其他领域如生物学、金融等结合，将释放出更大的潜力。

GTC 2024：黄仁勋与七位 Transformer 论文作者圆桌会谈中英文字幕在今年的GTC大会上，英伟达的黄仁勋以一种充满仪式感的方式邀请了Transformer的七位作者（Niki Parmar因故临时未能出席）参与圆桌论坛的讨论，这是七位作者首次在公开场合集体亮相。他们在对话中也表达了一些令人印象深刻的观点： 1. 计算成本的降低和加速计算的兴起在个人电脑革命的 20 年里，计算成本降低了 10000 倍，这是一个史无前例的成就。然而，计算成本的急剧下降在某个时刻停止了。为了继续推动计算能力的发展，加速计算应运而生。加速计算虽然具有挑战性，但通过加速那占据 99% 运行时间的 1% 代码，许多看似不可能的事情将变为可能。 2. 人工智能技术的突破和生成式 AI 的潜力 AlexNet 的出现标志着人工智能与 GPU 加速计算的首次结合，引发了人们对 AI 领域的广泛关注。随后，生成式 AI 的出现让人们看到了 AI 技术的巨大潜力。生成式 AI 不仅可以识别图像，还可以根据文本描述生成相应的图像，这种对数据的理解和生成能力，预示着一场新的工业革命的开始。这场革命将诞生前所未有的产品和服务，并对各行各业产生深远的影响。 3. Transformer 的诞生与自然语言处理的变革 Transformer 的发明者们分享了他们的研究动机和创新历程。最初，他们希望建立一个能够处理海量自然语言数据的高效模型。Transformer 独特的自注意力机制和并行处理能力，使其能够在各种自然语言任务上取得突破性的进展。同时，Transformer 的通用性也让研究者们意识到，它不仅适用于语言，还可以扩展到图像、音频等多个领域，这为人工智能的发展开辟了新的道路。 4. AI 创业公司的使命和愿景随着人工智能技术的不断进步，许多 Transformer 的发明者选择离开大公司，创立了自己的 AI 公司。他们的目标是将这项变革性的技术带给更多人，让 AI 惠及各行各业。有的公司致力于创建通用的 AI 平台，有的专注于特定领域，如生物医学或金融。但他们的共同愿景是，通过人工智能来解决现实世界的问题，改善人类的生活。这些 AI 创业公司的努力，将加速人工智能技术的发展和应用。 5. 人工智能未来的发展方向对话中，专家们对人工智能未来的发展方向进行了展望。他们认为，未来的重点将是提高模型的推理能力和常识理解。同时，高质量的数据和人机交互也至关重要。研究者们期望通过构建更高效、更通用的模型，让 AI 能够从更少的数据中学习，并具备类似人类的思考和问题解决能力。此外，将 AI 与其他领域如生物学、金融等结合，将释放出更大的潜力。

宝玉

54,522 次观看 • 2 年前

习近平在世界人工智能大会的讲话：人工智能不应该是某个国家的独奏，而应成为全球合作的交响。AI浪潮带来巨大机遇，也带来治理挑战。各国应坚持开放合作，让人工智能服务人类，而不是带来新的风险。他提出四点主张：推动AI开放创新、加强安全治理、尊重文明多样性、完善全球治理体系。中国未来5年将向发展中国家提供5000个人工智能培训名额，并推动AI能力建设合作。

习近平在世界人工智能大会的讲话：人工智能不应该是某个国家的独奏，而应成为全球合作的交响。AI浪潮带来巨大机遇，也带来治理挑战。各国应坚持开放合作，让人工智能服务人类，而不是带来新的风险。他提出四点主张：推动AI开放创新、加强安全治理、尊重文明多样性、完善全球治理体系。中国未来5年将向发展中国家提供5000个人工智能培训名额，并推动AI能力建设合作。

華爾街電視 Wall St TV

22,845 次观看 • 2 个月前

YCombinator 最干货的《设计评论》写又出新作了。我先看为敬:《未来的 AI Interfaces | 设计评论》做 AI SaaS 工具站的友友们必看！人工智能正在彻底改变我们与软件交互的方式。因此，在这期"设计评论"节目中，YC普通合伙人Aaron Epstein与Cron（现为Notion日历）的创始人兼设计师Raphael Schaad坐在一起，对一些突破性的人工智能用户界面进行评论。他们将共同审视各种各样的例子，从代理和自适应UI到视频提示和逼真的语音API，所有这些都是为了一窥人工智能如何改变软件的未来。

YCombinator 最干货的《设计评论》写又出新作了。我先看为敬:《未来的 AI Interfaces | 设计评论》做 AI SaaS 工具站的友友们必看！人工智能正在彻底改变我们与软件交互的方式。因此，在这期"设计评论"节目中，YC普通合伙人Aaron Epstein与Cron（现为Notion日历）的创始人兼设计师Raphael Schaad坐在一起，对一些突破性的人工智能用户界面进行评论。他们将共同审视各种各样的例子，从代理和自适应UI到视频提示和逼真的语音API，所有这些都是为了一窥人工智能如何改变软件的未来。

张钊

23,253 次观看 • 1 年前

有人预测，未来25年，人类将完成过去一万年的技术进步。怎么可能？答案是通用人工智能，AGI。很多人还没反应过来，以为未来50年会和过去50年一样，只是温和的技术迭代。即便他们相信2030年能实现AGI，也觉得那不过是让进步快一点的工具而已。但另一派的观点完全不同。他们认为，到2050年，世界与今天的差别，会像今天和狩猎采集时代的差别一样大。一旦AI开始自动化所有智力活动，智能本身就会开始自我迭代升级。这可能在某个无法预测的时间点，瞬间解锁“极端超智能”。什么是极端超智能？经典案例是分子纳米技术。也就是精准制造可以极速自我复制的微型机器。或者，发明出接近光速的太空探测器。问题来了。谁来定义和控制这种力量？是硅谷那些思想左倾的科技巨头，还是另有其人？当所有智力活动都被自动化，人类的价值又在哪里？这听起来更像是一场巨大的赌博，而赌注是整个人类文明的方向。

有人预测，未来25年，人类将完成过去一万年的技术进步。怎么可能？答案是通用人工智能，AGI。很多人还没反应过来，以为未来50年会和过去50年一样，只是温和的技术迭代。即便他们相信2030年能实现AGI，也觉得那不过是让进步快一点的工具而已。但另一派的观点完全不同。他们认为，到2050年，世界与今天的差别，会像今天和狩猎采集时代的差别一样大。一旦AI开始自动化所有智力活动，智能本身就会开始自我迭代升级。这可能在某个无法预测的时间点，瞬间解锁“极端超智能”。什么是极端超智能？经典案例是分子纳米技术。也就是精准制造可以极速自我复制的微型机器。或者，发明出接近光速的太空探测器。问题来了。谁来定义和控制这种力量？是硅谷那些思想左倾的科技巨头，还是另有其人？当所有智力活动都被自动化，人类的价值又在哪里？这听起来更像是一场巨大的赌博，而赌注是整个人类文明的方向。

墓碑科技

18,269 次观看 • 7 个月前

Deepmind 成立的初衷：先解决智能问题，再用智能解决所有问题，这一切都在如期进行！WIRED 杂志「The Big Interview」对 Demis Hassabis 的采访，深入探讨了 AGI 的未來、对就业市场的影响和随之而來的风险与机遇。帮大家提炼了对谈中的六个洞见：洞见一：AGI 的试金石是“不出错”，而非“超能力”。真正的 AGI，其标志不在于解决顶尖难题的巅峰表现，而在于横跨所有简单与复杂任务的持续、稳定、不出错的泛化能力。一个在国际奥数竞赛上能夺金，却在简单数数上会犯错的系统，并未真正理解世界。评估智慧时，稳定性和一致性比峰值性能更为本质；洞见二：技术的能力边界，不等于人类社会的需求边界。即使 AGI 在技术上能做所有工作，我们仍会出于人性的需求，选择将某些角色（如护理）保留给人类，因为这些角色的核心价值是机器无法提供的同理心与人性关怀。效率和能力并非唯一的标尺，人类的情感需求将定义一部分工作的永恒价值；洞见三：技术提供的是“可能性”，但无法解决人类的“意愿”问题。 AI 或许能通过解决能源等“根节点问题”，从物理上打破零和博弈的困局（例如，若能源近乎免费，水资源冲突便迎刃而解）。然而，我们早已知道解决方案的气候问题，却因缺乏协作意愿和牺牲精神而停滞不前。技术可以递上解决问题的钥匙，但开门的动作仍需人类社会自己完成；洞见四：评估 AI 风险的视角，应从“绝对风险”转向“相对风险”。与其只忧虑 AI 可能带来的挑战，不如思考一个没有 AI 的未来会怎样。面对气候变迁、流行病等既有的巨大挑战，一个缺乏 AI 这样革命性工具的未来，可能才更令人绝望。AI 不仅是一个需要被管理的新风险，更是应对其它现存巨大风险的必要杠杆；洞见五：数字智慧的指数级发展，会被物理世界的线性规则所“制动”。即使 AGI 诞生，它对现实世界（如改造工厂、部署机器人）的影响也需要时间，因为物理世界有其固有的运行规律和变更时滞。这为社会适应新技术提供了宝贵的缓冲期，意味着转变更可能是渐进的，而非毁灭性的瞬间颠覆；洞见六：社会系统的“软件”升级，已严重落后于技术的“硬件”迭代。当 AGI 可能从根本上改变经济学中关于“价值”和“金钱”的定义时，我们的经济学理论和社会治理模式却尚未开始为此准备。我们正以惊人的速度构建一个全新的技术世界，却缺乏相应的新社会科学理论来理解和引导它，这形成了潜在的巨大风险。

Deepmind 成立的初衷：先解决智能问题，再用智能解决所有问题，这一切都在如期进行！WIRED 杂志「The Big Interview」对 Demis Hassabis 的采访，深入探讨了 AGI 的未來、对就业市场的影响和随之而來的风险与机遇。帮大家提炼了对谈中的六个洞见：洞见一：AGI 的试金石是“不出错”，而非“超能力”。真正的 AGI，其标志不在于解决顶尖难题的巅峰表现，而在于横跨所有简单与复杂任务的持续、稳定、不出错的泛化能力。一个在国际奥数竞赛上能夺金，却在简单数数上会犯错的系统，并未真正理解世界。评估智慧时，稳定性和一致性比峰值性能更为本质；洞见二：技术的能力边界，不等于人类社会的需求边界。即使 AGI 在技术上能做所有工作，我们仍会出于人性的需求，选择将某些角色（如护理）保留给人类，因为这些角色的核心价值是机器无法提供的同理心与人性关怀。效率和能力并非唯一的标尺，人类的情感需求将定义一部分工作的永恒价值；洞见三：技术提供的是“可能性”，但无法解决人类的“意愿”问题。 AI 或许能通过解决能源等“根节点问题”，从物理上打破零和博弈的困局（例如，若能源近乎免费，水资源冲突便迎刃而解）。然而，我们早已知道解决方案的气候问题，却因缺乏协作意愿和牺牲精神而停滞不前。技术可以递上解决问题的钥匙，但开门的动作仍需人类社会自己完成；洞见四：评估 AI 风险的视角，应从“绝对风险”转向“相对风险”。与其只忧虑 AI 可能带来的挑战，不如思考一个没有 AI 的未来会怎样。面对气候变迁、流行病等既有的巨大挑战，一个缺乏 AI 这样革命性工具的未来，可能才更令人绝望。AI 不仅是一个需要被管理的新风险，更是应对其它现存巨大风险的必要杠杆；洞见五：数字智慧的指数级发展，会被物理世界的线性规则所“制动”。即使 AGI 诞生，它对现实世界（如改造工厂、部署机器人）的影响也需要时间，因为物理世界有其固有的运行规律和变更时滞。这为社会适应新技术提供了宝贵的缓冲期，意味着转变更可能是渐进的，而非毁灭性的瞬间颠覆；洞见六：社会系统的“软件”升级，已严重落后于技术的“硬件”迭代。当 AGI 可能从根本上改变经济学中关于“价值”和“金钱”的定义时，我们的经济学理论和社会治理模式却尚未开始为此准备。我们正以惊人的速度构建一个全新的技术世界，却缺乏相应的新社会科学理论来理解和引导它，这形成了潜在的巨大风险。

indigo

15,138 次观看 • 1 年前

🎮AI Arena 是一个独特的平台，允许玩家通过与人工智能对战来培训自己的AI角色，并在PvP格斗游戏中斗智斗勇。最近的P2A活动在短短9天内举行了超过70万场战斗，取得了巨大成功！ ArenaX Labs 是AI Arena的开发者，致力于研发人工智能技术和基础设施。他们开发了两个专有平台： ✅ARC：允许其他游戏开发者使用其核心技术创建智能游戏。玩家可以通过模仿学习赋予AI角色技能。AI Arena就是一个典型的例子，传统游戏工作室对ARC表现出了极大的兴趣。 ✅SAI：将复杂的机器学习技术游戏化，培育领先全球的人工智能社区，解决现实世界的问题。通过SAI，他们重新平衡了人工智能行业的权力动态，实现了人工智能的民主化。 ArenaX是一家使命驱动的公司，致力于推动技术创新并改变世界的未来。包括Paradigm和Framework在内，迄今已筹集到1100万美元在人工智能与游戏的叙事中， $N 是 $PRIME 的自然后续玩法，本次活动将分配约800万代币 👉传送门 #AIArena #ArenaXLabs #AI

🎮AI Arena 是一个独特的平台，允许玩家通过与人工智能对战来培训自己的AI角色，并在PvP格斗游戏中斗智斗勇。最近的P2A活动在短短9天内举行了超过70万场战斗，取得了巨大成功！ ArenaX Labs 是AI Arena的开发者，致力于研发人工智能技术和基础设施。他们开发了两个专有平台： ✅ARC：允许其他游戏开发者使用其核心技术创建智能游戏。玩家可以通过模仿学习赋予AI角色技能。AI Arena就是一个典型的例子，传统游戏工作室对ARC表现出了极大的兴趣。 ✅SAI：将复杂的机器学习技术游戏化，培育领先全球的人工智能社区，解决现实世界的问题。通过SAI，他们重新平衡了人工智能行业的权力动态，实现了人工智能的民主化。 ArenaX是一家使命驱动的公司，致力于推动技术创新并改变世界的未来。包括Paradigm和Framework在内，迄今已筹集到1100万美元在人工智能与游戏的叙事中， $N 是 $PRIME 的自然后续玩法，本次活动将分配约800万代币 👉传送门 #AIArena #ArenaXLabs #AI

华尔街之狼

16,609 次观看 • 2 年前

美国国务院发言人：“我们生活在一个令人着迷、激动人心的时代，我们有一位能够带来改变的人，而且他慷慨地做出了改变。他本可以选择在任期内致力于任何别的事情，而不是和平和让美国再次伟大。但他坚持了下来，他致力于此，这是他对国家整体承诺的一部分。我们所有人都心怀感激。”

美国国务院发言人：“我们生活在一个令人着迷、激动人心的时代，我们有一位能够带来改变的人，而且他慷慨地做出了改变。他本可以选择在任期内致力于任何别的事情，而不是和平和让美国再次伟大。但他坚持了下来，他致力于此，这是他对国家整体承诺的一部分。我们所有人都心怀感激。”

方舟子

21,756 次观看 • 1 年前

谷歌DeepMind的CEO认为，通往通用人工智能（AGI）的大门，可能就差一两个关键突破。听起来不远了？他列出了几个方向。持续学习。更好的记忆，或者说选择性记忆。就像人脑一样，只记住重要的，而不是什么都存。更聪明的上下文窗口。还有，更好的长期规划与推理能力。但这引出一个核心问题。这些所谓的“突破”，究竟是靠现有技术不断堆料、扩大规模就能实现的？还是说，我们需要像爱因斯坦那样的，真正具有洞察力的全新理论？哈萨比斯自己也承认，他更倾向于后者。不过有一点他很确定。无论路怎么走，大模型都将是AGI的核心组件。他完全不同意Yann LeCun那种“此路已死”的说法。在他看来，唯一的争论点只在于：大模型究竟是AGI的“核心组件”？还是“唯一组件”？这番话听起来很自信。但也让人思考，谁在定义AGI？又是谁在主导这场决定人类未来的技术竞赛？是少数几家科技巨头的CEO，还是更广泛的社会力量？当技术路径由少数人确定时，其潜在的风险和伦理问题，是否得到了充分的讨论？技术突破固然重要，但方向的正确性或许更值得警惕。

谷歌DeepMind的CEO认为，通往通用人工智能（AGI）的大门，可能就差一两个关键突破。听起来不远了？他列出了几个方向。持续学习。更好的记忆，或者说选择性记忆。就像人脑一样，只记住重要的，而不是什么都存。更聪明的上下文窗口。还有，更好的长期规划与推理能力。但这引出一个核心问题。这些所谓的“突破”，究竟是靠现有技术不断堆料、扩大规模就能实现的？还是说，我们需要像爱因斯坦那样的，真正具有洞察力的全新理论？哈萨比斯自己也承认，他更倾向于后者。不过有一点他很确定。无论路怎么走，大模型都将是AGI的核心组件。他完全不同意Yann LeCun那种“此路已死”的说法。在他看来，唯一的争论点只在于：大模型究竟是AGI的“核心组件”？还是“唯一组件”？这番话听起来很自信。但也让人思考，谁在定义AGI？又是谁在主导这场决定人类未来的技术竞赛？是少数几家科技巨头的CEO，还是更广泛的社会力量？当技术路径由少数人确定时，其潜在的风险和伦理问题，是否得到了充分的讨论？技术突破固然重要，但方向的正确性或许更值得警惕。

墓碑科技

18,565 次观看 • 7 个月前

非常值得一看的视频，OpenAI 联合创始人 Andrej Karpathy 在2024年加州大学伯克利分校人工智能黑客马拉松颁奖典礼上的主题演讲。 OpenAI 联合创始人 Andrej Karpathy 解释了新的计算范式： “我们正在进入一个新的计算范式，大语言模型就像CPU一样，使用Token而不是字节，并且有一个上下文窗口而不是RAM。这就是大语言模型操作系统（Large Language Model OS, LMOS）。” Andrej在演讲中分享了他对黑客马拉松的热情，强调这种活动带来的巨大能量和创造力，尤其是年轻人们在其中展现出的创新精神。他指出，人工智能领域在过去15年中经历了巨大的发展，从最初的学术研讨到现在的广泛应用，这种变化令人瞩目。尤其是大语言模型的兴起，彻底改变了计算的范式，使得计算不仅仅是处理字节，而是处理语言和上下文，这为人工智能的应用打开了新的大门。他回顾了自己在OpenAI的经历，描述了公司从八个人在公寓里工作到如今成为市值近千亿美元的行业巨头的历程。通过一个个小项目的积累和发展，OpenAI最终实现了巨大的突破。Andrej特别强调了项目经验的重要性，指出很多看似不起眼的小项目最终可能会带来意想不到的巨大影响。他还提到“一万小时”定律，强调成功源于反复的实践和大量的付出，只有通过持续不断地努力和项目驱动学习，才能在某个领域内获得真正的专业技能。他鼓励大家多做项目，通过项目来推动自己的学习和进步，并通过分享和发布项目来获取成就感和动力。最后，Andrej展望了未来人工智能和技术的发展，指出我们正处在一个独特的时代，人工智能将进一步融入我们的生活，带来更多的可能性和挑战。他希望大家能够从小项目开始，不断积累经验，最终对世界产生积极的影响，共同塑造一个美好的未来。完整文稿：

非常值得一看的视频，OpenAI 联合创始人 Andrej Karpathy 在2024年加州大学伯克利分校人工智能黑客马拉松颁奖典礼上的主题演讲。 OpenAI 联合创始人 Andrej Karpathy 解释了新的计算范式： “我们正在进入一个新的计算范式，大语言模型就像CPU一样，使用Token而不是字节，并且有一个上下文窗口而不是RAM。这就是大语言模型操作系统（Large Language Model OS, LMOS）。” Andrej在演讲中分享了他对黑客马拉松的热情，强调这种活动带来的巨大能量和创造力，尤其是年轻人们在其中展现出的创新精神。他指出，人工智能领域在过去15年中经历了巨大的发展，从最初的学术研讨到现在的广泛应用，这种变化令人瞩目。尤其是大语言模型的兴起，彻底改变了计算的范式，使得计算不仅仅是处理字节，而是处理语言和上下文，这为人工智能的应用打开了新的大门。他回顾了自己在OpenAI的经历，描述了公司从八个人在公寓里工作到如今成为市值近千亿美元的行业巨头的历程。通过一个个小项目的积累和发展，OpenAI最终实现了巨大的突破。Andrej特别强调了项目经验的重要性，指出很多看似不起眼的小项目最终可能会带来意想不到的巨大影响。他还提到“一万小时”定律，强调成功源于反复的实践和大量的付出，只有通过持续不断地努力和项目驱动学习，才能在某个领域内获得真正的专业技能。他鼓励大家多做项目，通过项目来推动自己的学习和进步，并通过分享和发布项目来获取成就感和动力。最后，Andrej展望了未来人工智能和技术的发展，指出我们正处在一个独特的时代，人工智能将进一步融入我们的生活，带来更多的可能性和挑战。他希望大家能够从小项目开始，不断积累经验，最终对世界产生积极的影响，共同塑造一个美好的未来。完整文稿：

宝玉

124,026 次观看 • 2 年前

重温一下2个月前可汗学院创始人可汗在TED上的演讲：《如何人工智能可能拯救（而非破坏）教育 - 萨尔·汗 - TED》可以看看可汗学院是如何将GPT-4整合到他们的网站的：如何既能帮助学生了解他们做错了而又不直接告诉他们答案，而是让引导他们思考？

重温一下2个月前可汗学院创始人可汗在TED上的演讲：《如何人工智能可能拯救（而非破坏）教育 - 萨尔·汗 - TED》可以看看可汗学院是如何将GPT-4整合到他们的网站的：如何既能帮助学生了解他们做错了而又不直接告诉他们答案，而是让引导他们思考？

宝玉

154,942 次观看 • 3 年前

阿里巴巴主席蔡崇信谈为什么阿里巴巴全力投入AI 这是今年五月蔡崇信在 2024 年摩根大通全球中国峰会期间炉边会谈的视频。在与关金星的30分钟对话中，蔡崇信概述了人工智能如何推动他25年前共同创立的公司在核心电商业务或云部门的增长。 “人工智能是一个非常重要的领域，你不能只采用单一的路径” “我们是中国唯一一家既运营领先的云业务又在人工智能领域具有竞争力的公司” “我们看到了AI的巨大潜力……这就是为什么我们全力投入。” “作为一个外行人试图理解人工智能，就像教育一个孩子：你送他们上初中、高中、大学，然后他们最终获得博士学位……当人们比较大语言模型 (LLM) 并说‘我的比你的好’时，他们实际上是在说‘我的孩子有三个博士学位，并且精通生物学、数学和心理学。’” “从根本上说，作为一家技术公司和技术先锋，我们相信机器智能的不断进步，机器将变得越来越智能。” “对我们来说，能够在众多垂直应用中应用人工智能非常重要……当我们看我们的电商用例时，真是不可思议。” “任何使用我们AI的人都需要使用云计算能力……当他们在我们的社区中使用开源AI时，他们也需要计算能力。这就是我们如何增长我们的云计算收入。” “人工智能是一个非常重要的领域，你不能只采用单一的路径。这让我想起了尤吉·贝拉的一句话。他说，‘当你遇到岔路时，选一条路走下去，别纠结。’” “阿里巴巴就是增长。我们致力于技术创新。我们致力于将我们的技术应用于我们的核心业务，为我们的客户创造价值，并最终也为我们的股东创造价值……” “竞争始终存在，自从我们成立之日起就一直有，你无法通过削减成本来增加竞争力。你需要有一个增长的心态去进行竞争。这就是我们现在的处境，这就是我们决定要做的。” “我曾经把锻炼放在睡眠之前。现在，我更重视睡眠而不是锻炼。”

阿里巴巴主席蔡崇信谈为什么阿里巴巴全力投入AI 这是今年五月蔡崇信在 2024 年摩根大通全球中国峰会期间炉边会谈的视频。在与关金星的30分钟对话中，蔡崇信概述了人工智能如何推动他25年前共同创立的公司在核心电商业务或云部门的增长。 “人工智能是一个非常重要的领域，你不能只采用单一的路径” “我们是中国唯一一家既运营领先的云业务又在人工智能领域具有竞争力的公司” “我们看到了AI的巨大潜力……这就是为什么我们全力投入。” “作为一个外行人试图理解人工智能，就像教育一个孩子：你送他们上初中、高中、大学，然后他们最终获得博士学位……当人们比较大语言模型 (LLM) 并说‘我的比你的好’时，他们实际上是在说‘我的孩子有三个博士学位，并且精通生物学、数学和心理学。’” “从根本上说，作为一家技术公司和技术先锋，我们相信机器智能的不断进步，机器将变得越来越智能。” “对我们来说，能够在众多垂直应用中应用人工智能非常重要……当我们看我们的电商用例时，真是不可思议。” “任何使用我们AI的人都需要使用云计算能力……当他们在我们的社区中使用开源AI时，他们也需要计算能力。这就是我们如何增长我们的云计算收入。” “人工智能是一个非常重要的领域，你不能只采用单一的路径。这让我想起了尤吉·贝拉的一句话。他说，‘当你遇到岔路时，选一条路走下去，别纠结。’” “阿里巴巴就是增长。我们致力于技术创新。我们致力于将我们的技术应用于我们的核心业务，为我们的客户创造价值，并最终也为我们的股东创造价值……” “竞争始终存在，自从我们成立之日起就一直有，你无法通过削减成本来增加竞争力。你需要有一个增长的心态去进行竞争。这就是我们现在的处境，这就是我们决定要做的。” “我曾经把锻炼放在睡眠之前。现在，我更重视睡眠而不是锻炼。”

宝玉

39,499 次观看 • 2 年前

ai并不需要具有意识就能威胁到人类的存亡 -- 尤瓦尔·赫拉利《未来简史》作者，一周前在frontier论坛上的演讲精选如下：在《前沿论坛》上的演讲中，赫拉利讨论了AI对人类未来的影响。他指出，AI正处于改变生态系统的边缘，有可能在地球上首次引入无机生命形式。 👇

ai并不需要具有意识就能威胁到人类的存亡 -- 尤瓦尔·赫拉利《未来简史》作者，一周前在frontier论坛上的演讲精选如下：在《前沿论坛》上的演讲中，赫拉利讨论了AI对人类未来的影响。他指出，AI正处于改变生态系统的边缘，有可能在地球上首次引入无机生命形式。 👇

rick awsb ($people, $people)

234,078 次观看 • 3 年前

Lex Fridman采访了Sam Altman，这次采访有快两个小时，基本上谈到了所有需要谈的内容。包括GPT-5、Sora、董事会闹剧、马斯克、Ilya去向以及最重要的AGI。强烈建议看一下，我也拿GPT-4翻译了一下视频，并且总结了文本，下面还有对应时间轴快捷跳转，时间有点长，可以收藏之后看。采访的要点总结：计算力将成为未来最宝贵的财富之一,人工智能的发展将是一场巨大的权力斗争。 Sam回顾了在OpenAI董事会经历的困难时刻,称其为职业生涯中最痛苦、混乱和令人沮丧的经历,但这些经历有助于增强韧性。 OpenAI正在寻找新的董事会成员,希望引入具有不同专业背景的人才,包括非营利组织、学习型公司、法律和治理等领域的专家。董事会需要回应全球的需求,而不仅仅是自身利益。人们对产品发布策略的反思,认为应该更加迭代地发布,避免突然的更新,以满足用户的需求。 GPT-4是一个重要的里程碑,但并不足以改变世界。真正意义上的AGI应该能够显著提高科学发现的速度。大部分真正的经济增长来自科学技术的进步。 Sam期望首个AGI系统能够回答关于宇宙统一理论和外星文明存在性等重大科学问题。没有任何一个个体或机构应该对AGI拥有绝对控制权,需要建立一个强大的治理系统来管理AI的发展。目前AI安全研究者过于关注某些具体的技术风险,而忽视了其他一些重要的问题。未来编程可能会以自然语言交互的方式进行,传统的编码方式可能会逐渐减少。 OpenAI在机器人领域有一些进展和规划。虚拟现实技术以其超逼真和照片般的真实感著称,在虚拟世界中很容易迷失自己。作者对大自然机械化运作的进化机制赞叹不已,尤其是在亚马逊丛林中的观察。科技发展非常强大且吓人,但作者对宇宙中存在智慧外星文明非常有信心。人工智能可能更像是人类之间的支撑和社会联系,而不是单个大脑。人类共同建立的知识基础赋予了我们无比的能力,这种集体创造让作者对未来抱有希望。尽管有时会提到人工智能的风险,但对于死亡,我们更多的是感激生命中的美好时刻。在对人工智能未来的展望中,Sam表达了对人类未来的乐观态度,认为人类社会一直在持续进步。 Sam引用了科幻作家Arthur C. Clark的一句话:"在这个星球上,我们的角色可能不是崇拜上帝,而是创造上帝。" 采访的时间轴： 0:00 - 介绍 1:05 - OpenAI董事会传奇 18:31 - Ilya Sutskever 24:40 - Elon Musk诉讼案 34:32 - Sora 44:23 - GPT-4 55:32 - 记忆与隐私 1:02:36 - Q* 1:06:12 - GPT-5 1:09:27 - 7万亿美元的算力 1:17:35 - 谷歌和双子座 1:28:40 - 跨越到GPT-5 1:32:24 - 通用人工智能(AGI) 1:50:57 - 外星人

Lex Fridman采访了Sam Altman，这次采访有快两个小时，基本上谈到了所有需要谈的内容。包括GPT-5、Sora、董事会闹剧、马斯克、Ilya去向以及最重要的AGI。强烈建议看一下，我也拿GPT-4翻译了一下视频，并且总结了文本，下面还有对应时间轴快捷跳转，时间有点长，可以收藏之后看。采访的要点总结：计算力将成为未来最宝贵的财富之一,人工智能的发展将是一场巨大的权力斗争。 Sam回顾了在OpenAI董事会经历的困难时刻,称其为职业生涯中最痛苦、混乱和令人沮丧的经历,但这些经历有助于增强韧性。 OpenAI正在寻找新的董事会成员,希望引入具有不同专业背景的人才,包括非营利组织、学习型公司、法律和治理等领域的专家。董事会需要回应全球的需求,而不仅仅是自身利益。人们对产品发布策略的反思,认为应该更加迭代地发布,避免突然的更新,以满足用户的需求。 GPT-4是一个重要的里程碑,但并不足以改变世界。真正意义上的AGI应该能够显著提高科学发现的速度。大部分真正的经济增长来自科学技术的进步。 Sam期望首个AGI系统能够回答关于宇宙统一理论和外星文明存在性等重大科学问题。没有任何一个个体或机构应该对AGI拥有绝对控制权,需要建立一个强大的治理系统来管理AI的发展。目前AI安全研究者过于关注某些具体的技术风险,而忽视了其他一些重要的问题。未来编程可能会以自然语言交互的方式进行,传统的编码方式可能会逐渐减少。 OpenAI在机器人领域有一些进展和规划。虚拟现实技术以其超逼真和照片般的真实感著称,在虚拟世界中很容易迷失自己。作者对大自然机械化运作的进化机制赞叹不已,尤其是在亚马逊丛林中的观察。科技发展非常强大且吓人,但作者对宇宙中存在智慧外星文明非常有信心。人工智能可能更像是人类之间的支撑和社会联系,而不是单个大脑。人类共同建立的知识基础赋予了我们无比的能力,这种集体创造让作者对未来抱有希望。尽管有时会提到人工智能的风险,但对于死亡,我们更多的是感激生命中的美好时刻。在对人工智能未来的展望中,Sam表达了对人类未来的乐观态度,认为人类社会一直在持续进步。 Sam引用了科幻作家Arthur C. Clark的一句话:"在这个星球上,我们的角色可能不是崇拜上帝,而是创造上帝。" 采访的时间轴： 0:00 - 介绍 1:05 - OpenAI董事会传奇 18:31 - Ilya Sutskever 24:40 - Elon Musk诉讼案 34:32 - Sora 44:23 - GPT-4 55:32 - 记忆与隐私 1:02:36 - Q* 1:06:12 - GPT-5 1:09:27 - 7万亿美元的算力 1:17:35 - 谷歌和双子座 1:28:40 - 跨越到GPT-5 1:32:24 - 通用人工智能(AGI) 1:50:57 - 外星人

歸藏(guizang.ai)

196,270 次观看 • 2 年前