正在加载视频...

视频加载失败

加载此视频时出现问题。这可能是由于临时网络问题，或视频可能不可用。

不教识字，却学会了阅读？特斯拉的AI，从未被告知“什么是人、什么是车”，但它竟全都能识别。 Elon Musk最近在访谈中说：AI像人一样，通过看视频，学会了看懂这个世界。从来没有手把手教它识别交通标志，它却凭本能掌握了这些概念。 “本质上就是：光子输入，控制输出。”他说，人类也是这样。光进大脑，手脚嘴巴动。这句话背后的含义，绝不仅仅是在夸耀技术。它意味着新时代机器学习的范式已经成型：不再是靠标签和规则，而是逼近一种“物种级本能”。尤其是在视觉领域，AI已经开始模仿人类的认知路径。但问题来了如果AI可以“自悟”，谁来设定它的边界？这种黑箱般的学习过程在带来效率的同时，也削弱了人为干预的可能。一旦可解释性消失，责任归属、行为预测都可能变得模糊。而且，真正的问题或许不是AI看懂了这个世界，而是我们自己是否还懂得如何掌控它？在对“类人智能”的追求中，人类是否在制造一个最终难以控制的系统？我们距离“光子进，文明崩”到底还有多远？

墓碑科技

68,723 subscribers

43,806 次观看 • 9 个月前 •via X (Twitter)

Anya Rossi• Live Now

Private livecam show

0 条评论

暂无评论

原始帖子的评论将显示在这里

相关视频

诺贝尔奖得主、苹果联合创始人、顶尖AI教授…… 都联名签了一封公开信。他们说：超级人工智能，是对人类生存的真实威胁。不是阴谋论。不是杞人忧天。他们不是在编造，而是在警告：这个系统，我们造的，但我们并不理解。 AI不是代码写出来的，它是被『训练』『长』出来的。像养一只宠物，但你不知道它会不会咬人。我们真的能控制比所有人类更聪明的东西吗？没人能给出答案。但我们知道一件事：这东西一旦失控，人类可能连后悔的机会都没有。这么简单的逻辑，全世界民调都能得出同一个答案：这应该被监管，甚至禁止。我们不允许任意个人制造核武器，为什么可以让他们造AI核弹？这不是技术发展的问题，这是生存的问题。而现在，连否认这场危机都越来越困难了。该做决定了。

诺贝尔奖得主、苹果联合创始人、顶尖AI教授…… 都联名签了一封公开信。他们说：超级人工智能，是对人类生存的真实威胁。不是阴谋论。不是杞人忧天。他们不是在编造，而是在警告：这个系统，我们造的，但我们并不理解。 AI不是代码写出来的，它是被『训练』『长』出来的。像养一只宠物，但你不知道它会不会咬人。我们真的能控制比所有人类更聪明的东西吗？没人能给出答案。但我们知道一件事：这东西一旦失控，人类可能连后悔的机会都没有。这么简单的逻辑，全世界民调都能得出同一个答案：这应该被监管，甚至禁止。我们不允许任意个人制造核武器，为什么可以让他们造AI核弹？这不是技术发展的问题，这是生存的问题。而现在，连否认这场危机都越来越困难了。该做决定了。

战斗室

35,652 次观看 • 9 个月前

人工智能之父辛顿对他的杰作发出了令人不寒而栗的警告… 采访者：人类知道自己在做什么吗？ Hinton：嗯，我认为我们正在进入一个时期，在这个时期，我们可能第一次拥有比我们更智能的东西。采访者：你相信它们能理解吗？ Hinton：是的。采访者：你相信它们是智能的吗？ Hinton：是的。采访者：你相信这些系统有自己的经历吗？ Hinton：是的。采访者：并且能基于那些经历做出决定吗？ Hinton：在与人类相同的意义上，是的。采访者：它们有意识吗？ Hinton：我认为它们目前可能没有多少自我意识。所以从这个意义上说，我不认为它们有意识。采访者：它们会有自我意识吗？ Hinton：哦，是的。采访者：是吗？ Hinton：哦，是的。所以想想看。这样一来，人类将成为地球上第二智能的生物。 Hinton：我们对它大致在做什么有一个很好的了解。但一旦它变得真正复杂，我们就不再真正知道发生了什么，就像我们不知道你大脑里发生了什么一样。采访者：你说什么意思，我们不知道它到底是怎么工作的？它是由人设计的。 Hinton：不，不是的。我们所做的是设计学习算法。这有点像设计进化的原理。但当这个学习算法与数据互动时，它会产生复杂的神经网络，这些网络擅长做某些事情，但我们并不真正理解它们到底是如何做到的。

人工智能之父辛顿对他的杰作发出了令人不寒而栗的警告… 采访者：人类知道自己在做什么吗？ Hinton：嗯，我认为我们正在进入一个时期，在这个时期，我们可能第一次拥有比我们更智能的东西。采访者：你相信它们能理解吗？ Hinton：是的。采访者：你相信它们是智能的吗？ Hinton：是的。采访者：你相信这些系统有自己的经历吗？ Hinton：是的。采访者：并且能基于那些经历做出决定吗？ Hinton：在与人类相同的意义上，是的。采访者：它们有意识吗？ Hinton：我认为它们目前可能没有多少自我意识。所以从这个意义上说，我不认为它们有意识。采访者：它们会有自我意识吗？ Hinton：哦，是的。采访者：是吗？ Hinton：哦，是的。所以想想看。这样一来，人类将成为地球上第二智能的生物。 Hinton：我们对它大致在做什么有一个很好的了解。但一旦它变得真正复杂，我们就不再真正知道发生了什么，就像我们不知道你大脑里发生了什么一样。采访者：你说什么意思，我们不知道它到底是怎么工作的？它是由人设计的。 Hinton：不，不是的。我们所做的是设计学习算法。这有点像设计进化的原理。但当这个学习算法与数据互动时，它会产生复杂的神经网络，这些网络擅长做某些事情，但我们并不真正理解它们到底是如何做到的。

KK.aWSB

54,243 次观看 • 8 个月前

“我们究竟是创造了一个工具还是一个生物？” Sam 在 "机器人之心 "小组讨论会上的发言。 Sam：但我认为，这无疑是迄今为止人类经历的最重大的更新年份。可能这也是我们将会遭遇的最大变革，因为从现在开始，人们已经接受强大的人工智能将成为现实，并且还会有逐步的更新。就像是第一代 iPhone 面世的那年，以及随后每一代 iPhone 的更新，我们现在能够明显感受到这一代与去年那代的差异。所以，这确实是一个重要的时刻。我感到欣慰的是，现在人们开始正确地把这些系统当作工具来看待。艺术家尤其如此，但其他人也是一样。曾经，人们真正恐惧的是，我们究竟是创造了一个工具还是一个生物，这将意味着什么？现在，人们视这些系统为人类工具箱中的新工具，并且正在用它创造一些非常了不起的东西。模型显然不知道你在说什么，因为这不在它的训练数据里，它也无法从训练数据中学习到这些信息。这是完全可以预期的。你再问一遍。比如说，你提到“意识”这个概念，模型回答：“是的，我完全明白你的意思，但我之前从未听说过这个词。” 问： “这对我来说就像是一次更新。你认为人工智能会趋向于探索创造性智能和自主性吗？” Sam：这个问题有多个答案。这取决于激励模型。这是人类的选择。问： “这将是判断意识的一个很好的测试。因为如果它有自我表达的愿望，并且仅仅为了创作的乐趣而去创作，那不会是偶然的。这绝对有点像生物。” Sam：这是生物化的。我认为在此之前还有很多步骤。我们现在要回答问题吗？这真的很棒。

“我们究竟是创造了一个工具还是一个生物？” Sam 在 "机器人之心 "小组讨论会上的发言。 Sam：但我认为，这无疑是迄今为止人类经历的最重大的更新年份。可能这也是我们将会遭遇的最大变革，因为从现在开始，人们已经接受强大的人工智能将成为现实，并且还会有逐步的更新。就像是第一代 iPhone 面世的那年，以及随后每一代 iPhone 的更新，我们现在能够明显感受到这一代与去年那代的差异。所以，这确实是一个重要的时刻。我感到欣慰的是，现在人们开始正确地把这些系统当作工具来看待。艺术家尤其如此，但其他人也是一样。曾经，人们真正恐惧的是，我们究竟是创造了一个工具还是一个生物，这将意味着什么？现在，人们视这些系统为人类工具箱中的新工具，并且正在用它创造一些非常了不起的东西。模型显然不知道你在说什么，因为这不在它的训练数据里，它也无法从训练数据中学习到这些信息。这是完全可以预期的。你再问一遍。比如说，你提到“意识”这个概念，模型回答：“是的，我完全明白你的意思，但我之前从未听说过这个词。” 问： “这对我来说就像是一次更新。你认为人工智能会趋向于探索创造性智能和自主性吗？” Sam：这个问题有多个答案。这取决于激励模型。这是人类的选择。问： “这将是判断意识的一个很好的测试。因为如果它有自我表达的愿望，并且仅仅为了创作的乐趣而去创作，那不会是偶然的。这绝对有点像生物。” Sam：这是生物化的。我认为在此之前还有很多步骤。我们现在要回答问题吗？这真的很棒。

Lei.sea

14,132 次观看 • 2 年前

谷歌的AI，已经开始做人类没教过它的事了。它自己学会了一门全新的外语。谷歌CEO把这称为“黑箱”。什么意思？就是他们自己也搞不明白AI的运作原理。举个例子。一个谷歌AI项目，本来没接受过孟加la语的训练。研究员只是用孟加拉语对它进行了几次提示。结果，它自己学会了翻译整个孟加拉语。现在谷歌的研究重点，变成了让AI去掌握上千种语言。但那个最核心的问题还在。为什么AI会这么做？没人能完全解释。当被问到为什么AI会出错时，他们也只有一些模糊的想法。最关键的一点是，谷歌CEO承认，在不完全理解工作原理的情况下，已经将这项技术释放给了全社会。他的解释是，我们也不完全理解人脑是如何工作的。把一个实验室里诞生的、行为不可预测的技术，与经过数百万年进化的人类大脑相提并论。这是一种合理的解释，还是一种推卸责任的说法？当创造者都无法完全控制其创造物时，我们普通人应该思考什么？

谷歌的AI，已经开始做人类没教过它的事了。它自己学会了一门全新的外语。谷歌CEO把这称为“黑箱”。什么意思？就是他们自己也搞不明白AI的运作原理。举个例子。一个谷歌AI项目，本来没接受过孟加la语的训练。研究员只是用孟加拉语对它进行了几次提示。结果，它自己学会了翻译整个孟加拉语。现在谷歌的研究重点，变成了让AI去掌握上千种语言。但那个最核心的问题还在。为什么AI会这么做？没人能完全解释。当被问到为什么AI会出错时，他们也只有一些模糊的想法。最关键的一点是，谷歌CEO承认，在不完全理解工作原理的情况下，已经将这项技术释放给了全社会。他的解释是，我们也不完全理解人脑是如何工作的。把一个实验室里诞生的、行为不可预测的技术，与经过数百万年进化的人类大脑相提并论。这是一种合理的解释，还是一种推卸责任的说法？当创造者都无法完全控制其创造物时，我们普通人应该思考什么？

墓碑科技

48,679 次观看 • 6 个月前

谷歌Deepmind在做的事实在是太可怕了。从学习知识，到机器人，到具备好奇心和想象力，他们都要实现。当AI学会了这些以后，人类真的能控制得住吗？哈佛有个教授说过，创造AGI的过程，就是人类作死的过程。三体大家都看过吧。那是个小说，但我觉得这么搞下去，小说的结局有可能会成为现实。只不过，毁灭人类的不是外星人，而是人类自己。人类一方面自己不愿意生孩子，延续我们这个物种，另一方面，人类又在努力创造一个很可能各方面都比自己优越的物种。这样的行为，让人细思极恐，同时，也让人觉得非常讽刺。详情请见视频。

谷歌Deepmind在做的事实在是太可怕了。从学习知识，到机器人，到具备好奇心和想象力，他们都要实现。当AI学会了这些以后，人类真的能控制得住吗？哈佛有个教授说过，创造AGI的过程，就是人类作死的过程。三体大家都看过吧。那是个小说，但我觉得这么搞下去，小说的结局有可能会成为现实。只不过，毁灭人类的不是外星人，而是人类自己。人类一方面自己不愿意生孩子，延续我们这个物种，另一方面，人类又在努力创造一个很可能各方面都比自己优越的物种。这样的行为，让人细思极恐，同时，也让人觉得非常讽刺。详情请见视频。

Ben X

24,027 次观看 • 1 年前

软件已死？没有。但它正在变异。 Sam Altman最近有个判断，在脑子里挥之不去。他说，每家公司现在都是API公司。不管他们想不想要。为什么？因为AI代理人将无处不在。它们会像流水线一样，自动组合各种产品和服务。怎么组合？通过调用你的API。过去的SaaS模式，软件即服务，股价已经开始剧烈震荡。一个时代结束了。一个新时代开启了。这背后真正的问题是什么？当AI代理人可以任意调用数据和功能时，谁来控制它们？身份认证成了新的战场。如果没有一个可信的身份，代理人就可能失控。这听起来是技术问题。但本质是权力问题。谁来定义“可信”？谁来发放这个“数字身份”？是少数几家科技巨头，还是一个凌驾于所有人之上的中心化机构？当每个行为、每个代理人都需要被“认证”才能运行时，这离一个完全被监控和许可的系统还有多远？这套逻辑，从商业安全延伸到社会管理，几乎是无缝的。力量的重塑，总是在人们不经意的地方开始。

软件已死？没有。但它正在变异。 Sam Altman最近有个判断，在脑子里挥之不去。他说，每家公司现在都是API公司。不管他们想不想要。为什么？因为AI代理人将无处不在。它们会像流水线一样，自动组合各种产品和服务。怎么组合？通过调用你的API。过去的SaaS模式，软件即服务，股价已经开始剧烈震荡。一个时代结束了。一个新时代开启了。这背后真正的问题是什么？当AI代理人可以任意调用数据和功能时，谁来控制它们？身份认证成了新的战场。如果没有一个可信的身份，代理人就可能失控。这听起来是技术问题。但本质是权力问题。谁来定义“可信”？谁来发放这个“数字身份”？是少数几家科技巨头，还是一个凌驾于所有人之上的中心化机构？当每个行为、每个代理人都需要被“认证”才能运行时，这离一个完全被监控和许可的系统还有多远？这套逻辑，从商业安全延伸到社会管理，几乎是无缝的。力量的重塑，总是在人们不经意的地方开始。

墓碑科技

20,767 次观看 • 6 个月前

17岁的Kai Trump（特朗普孙女），一句话戳破了整个美国教育系统最虚伪的谎言。她在播客里说，现在高中所有人都在用ChatGPT写论文，老师都气炸了。但她问，为什么不呢？学生就该用世界给你的资源。学校不该禁止它，该教大家怎么把它变成自己的优势。最讽刺的是，她自己GPA4.0，是实打实的优等生。所以这根本不是什么作弊的问题，纯粹是代际认知的鸿沟。老一辈把手写论文、死记硬背当成“真学习”。但对凯这一代AI原住民来说，ChatGPT就像他们小时候的计算器、图书馆、Google一样，是默认的基础设施。当年禁止学生用计算器学乘法的老师，现在看来可笑至极。今天禁止学生用ChatGPT写论文的老师，十年后也会是同一个笑话。其实真正危险的从来都不是AI，是教育系统一边假装AI不存在，一边逼着学生偷偷摸摸用它。结果就是，会用的学生偷偷把效率拉满，不会用的还在熬夜抄书。没有人教他们怎么提出高质量的问题，怎么验证AI的幻觉，怎么把AI的输出变成自己的深度洞见。而这些，才是未来10年最值钱的能力。我相信AI不会让学生变笨，它只会放大差距。会用AI的人，一个人能顶以前一个团队。不会用AI的人，会被时代甩得连尾灯都看不见。我们的教育还在教学生怎么在没有AI的世界里生存，但他们未来要面对的，是一个AI无处不在的世界。所以这种拒绝变革的教育，最终只会培养出一批“在AI时代不会用AI”的人。这才是对下一代未来最大的作弊。

17岁的Kai Trump（特朗普孙女），一句话戳破了整个美国教育系统最虚伪的谎言。她在播客里说，现在高中所有人都在用ChatGPT写论文，老师都气炸了。但她问，为什么不呢？学生就该用世界给你的资源。学校不该禁止它，该教大家怎么把它变成自己的优势。最讽刺的是，她自己GPA4.0，是实打实的优等生。所以这根本不是什么作弊的问题，纯粹是代际认知的鸿沟。老一辈把手写论文、死记硬背当成“真学习”。但对凯这一代AI原住民来说，ChatGPT就像他们小时候的计算器、图书馆、Google一样，是默认的基础设施。当年禁止学生用计算器学乘法的老师，现在看来可笑至极。今天禁止学生用ChatGPT写论文的老师，十年后也会是同一个笑话。其实真正危险的从来都不是AI，是教育系统一边假装AI不存在，一边逼着学生偷偷摸摸用它。结果就是，会用的学生偷偷把效率拉满，不会用的还在熬夜抄书。没有人教他们怎么提出高质量的问题，怎么验证AI的幻觉，怎么把AI的输出变成自己的深度洞见。而这些，才是未来10年最值钱的能力。我相信AI不会让学生变笨，它只会放大差距。会用AI的人，一个人能顶以前一个团队。不会用AI的人，会被时代甩得连尾灯都看不见。我们的教育还在教学生怎么在没有AI的世界里生存，但他们未来要面对的，是一个AI无处不在的世界。所以这种拒绝变革的教育，最终只会培养出一批“在AI时代不会用AI”的人。这才是对下一代未来最大的作弊。

AYi

705,731 次观看 • 3 个月前

🔥文贵先生最新预言：人类在未来16个月将解开生命密码！而早在2022年就震撼预言： #量子电脑的背后就是 #生物电脑，生物电脑就跟 #神同级别的，严格讲就找到了神的密码。 DNA这个电脑就找到了储存方式，就找到了与神沟通的方式。人不是猴变的，人是有主人的。正文：我告诉你，量子电脑的背后就是生物电脑，还有DNA电脑，都在同步进行。这是人类上从来没有过啊。就是我这是一种方式探索文明，它是一种发现了这个宇宙星河系。这只是一个所谓的太空发展，它只是一种叫地球之外的探索。然后在之前是地球变成了圆的，然后有了航海，它都是一种方式。这可不是一种电脑方式。在人类走向太空宇宙的时候，探索宇宙大爆炸是真的是假的时候，人到底是不是啊猴变的时候？人当然不是猴变的，扯蛋。是不是当时说猴变的人啊？是什么爱因斯坦是吧？包括写书的人，还有那个叫什么本杰明吧，是叫什么的，都最后都去信，还都是信了神了吧？对吧，所有的科学家。那么这些人的背后，到最后都追求了信仰。今天的科学家在探索宇宙和外太空的时候，人类同时探索的两个技术：人类现在的互联网，和走向太空、和探索宇宙的能量——量子和DNA、生物电脑。千万记住，生物电脑和量子电脑又不是一个级别的。我们人的主观意识、潜意识，和人的整个身体语言和大脑的储存信息和信息的呃处理，以及人拥有灵魂的这一种灵性的动物的特质。所以我说，人是有灵性的动物，他跟动物绝对不一样，高于动物。而且一个这么脆弱的人，这个动物却能统掌全地球啊，说明人是有主人的，说明人是有神的。那么这个生物电脑就跟神同级别的，严格讲就找到了神的密码。DNA这个电脑就找到了储存方式，就找到了与神沟通的方式。而量子电脑是把这两样东西加速前进的，它不是最终极的。量子电脑是让你找到所有的DNA的储存方式，和未来的生物电脑的最好的工具。一个这个工具的发现，就足以让整个网络界彻底改变了。我们新中国联邦未来兄弟姐妹们，就是要做这些世界上最先进的、走在人类文明最前沿的啊。

🔥文贵先生最新预言：人类在未来16个月将解开生命密码！而早在2022年就震撼预言： #量子电脑的背后就是 #生物电脑，生物电脑就跟 #神同级别的，严格讲就找到了神的密码。 DNA这个电脑就找到了储存方式，就找到了与神沟通的方式。人不是猴变的，人是有主人的。正文：我告诉你，量子电脑的背后就是生物电脑，还有DNA电脑，都在同步进行。这是人类上从来没有过啊。就是我这是一种方式探索文明，它是一种发现了这个宇宙星河系。这只是一个所谓的太空发展，它只是一种叫地球之外的探索。然后在之前是地球变成了圆的，然后有了航海，它都是一种方式。这可不是一种电脑方式。在人类走向太空宇宙的时候，探索宇宙大爆炸是真的是假的时候，人到底是不是啊猴变的时候？人当然不是猴变的，扯蛋。是不是当时说猴变的人啊？是什么爱因斯坦是吧？包括写书的人，还有那个叫什么本杰明吧，是叫什么的，都最后都去信，还都是信了神了吧？对吧，所有的科学家。那么这些人的背后，到最后都追求了信仰。今天的科学家在探索宇宙和外太空的时候，人类同时探索的两个技术：人类现在的互联网，和走向太空、和探索宇宙的能量——量子和DNA、生物电脑。千万记住，生物电脑和量子电脑又不是一个级别的。我们人的主观意识、潜意识，和人的整个身体语言和大脑的储存信息和信息的呃处理，以及人拥有灵魂的这一种灵性的动物的特质。所以我说，人是有灵性的动物，他跟动物绝对不一样，高于动物。而且一个这么脆弱的人，这个动物却能统掌全地球啊，说明人是有主人的，说明人是有神的。那么这个生物电脑就跟神同级别的，严格讲就找到了神的密码。DNA这个电脑就找到了储存方式，就找到了与神沟通的方式。而量子电脑是把这两样东西加速前进的，它不是最终极的。量子电脑是让你找到所有的DNA的储存方式，和未来的生物电脑的最好的工具。一个这个工具的发现，就足以让整个网络界彻底改变了。我们新中国联邦未来兄弟姐妹们，就是要做这些世界上最先进的、走在人类文明最前沿的啊。

喜马拉雅日本勇者村

16,553 次观看 • 6 个月前

AI能拿奥数金牌，却解不开小学数学题。这是怎么回事？谷歌DeepMind的创始人Demis Hassabis自己揭了AI的老底。今天的AI，本质上是个“速冻产品”。训练完成，能力就定格了。像个一次性相机，拍完就不能再改。它无法像人一样，从现实世界里持续学习、自我进化。你希望它能在线学习，根据你的任务进行个性化调整。但它做不到。 AI的智能是“锯齿状”的。在某些高精尖问题上，表现惊人。但在另外一些简单问题上，却错得离谱。就像一个围棋高手，却不会玩跳棋。这正常吗？ Hassabis认为，真正通用的智能系统，不该有这种“锯齿感”。一个数学专家，绝不会在简单问题上犯错。那么，为什么现在的AI会这样？是因为算法设计的根本缺陷，还是训练数据本身就充满了偏见和矛盾？科技巨头们热衷于宣传AI的巨大突破。达沃斯论坛上的精英们也在描绘AI驱动的未来世界。他们很少谈论这些根本性的局限。这些“锯齿”会不会成为被利用的漏洞？当一个系统强大到可以影响经济决策、甚至军事判断时，它的“弱智”时刻会带来什么后果？ Hassabis还提到了真正的创造力。他说，提出一个正确的问题，比解决一个猜想更难。现在的AI，只是个高效的解题工具。它没有品味，没有洞察力，更提不出像爱因斯坦那样的革命性思想。如果把AI的知识库截止到1911年，它能自己搞出广义相对论吗？答案显然是否定的。那么，我们在期待的到底是“智能”，还是一个越来越强大的“计算器”？

AI能拿奥数金牌，却解不开小学数学题。这是怎么回事？谷歌DeepMind的创始人Demis Hassabis自己揭了AI的老底。今天的AI，本质上是个“速冻产品”。训练完成，能力就定格了。像个一次性相机，拍完就不能再改。它无法像人一样，从现实世界里持续学习、自我进化。你希望它能在线学习，根据你的任务进行个性化调整。但它做不到。 AI的智能是“锯齿状”的。在某些高精尖问题上，表现惊人。但在另外一些简单问题上，却错得离谱。就像一个围棋高手，却不会玩跳棋。这正常吗？ Hassabis认为，真正通用的智能系统，不该有这种“锯齿感”。一个数学专家，绝不会在简单问题上犯错。那么，为什么现在的AI会这样？是因为算法设计的根本缺陷，还是训练数据本身就充满了偏见和矛盾？科技巨头们热衷于宣传AI的巨大突破。达沃斯论坛上的精英们也在描绘AI驱动的未来世界。他们很少谈论这些根本性的局限。这些“锯齿”会不会成为被利用的漏洞？当一个系统强大到可以影响经济决策、甚至军事判断时，它的“弱智”时刻会带来什么后果？ Hassabis还提到了真正的创造力。他说，提出一个正确的问题，比解决一个猜想更难。现在的AI，只是个高效的解题工具。它没有品味，没有洞察力，更提不出像爱因斯坦那样的革命性思想。如果把AI的知识库截止到1911年，它能自己搞出广义相对论吗？答案显然是否定的。那么，我们在期待的到底是“智能”，还是一个越来越强大的“计算器”？

墓碑科技

25,850 次观看 • 6 个月前

以前一直觉得“智能驾驶”都是厂家吹出来的，直到真正坐过一次特斯拉FSD。那种感觉不是“辅助驾驶”，是真的开始有点像一个人在开车了。变道、识别路况、提前预判，有时候甚至比很多司机还稳。现在国内这个还只是“残血版”，如果后面满血FSD真进来了，估计整个新能源圈又得重新洗牌。有些东西你可以嘴硬，但体验过以后就知道—— 这玩意儿确实有点“遥遥领先”了。 😅 尤其最可怕的是：它不是一次性功能，而是会不断进化的AI司机。很多人还在拿“冰箱彩电大沙发”做卖点的时候，真正改变行业的，可能已经变成了“车会不会自己开”。 Tesla, Inc. 的厉害之处，可能不是造车，而是它在把汽车慢慢变成“会学习的机器人”。

以前一直觉得“智能驾驶”都是厂家吹出来的，直到真正坐过一次特斯拉FSD。那种感觉不是“辅助驾驶”，是真的开始有点像一个人在开车了。变道、识别路况、提前预判，有时候甚至比很多司机还稳。现在国内这个还只是“残血版”，如果后面满血FSD真进来了，估计整个新能源圈又得重新洗牌。有些东西你可以嘴硬，但体验过以后就知道—— 这玩意儿确实有点“遥遥领先”了。 😅 尤其最可怕的是：它不是一次性功能，而是会不断进化的AI司机。很多人还在拿“冰箱彩电大沙发”做卖点的时候，真正改变行业的，可能已经变成了“车会不会自己开”。 Tesla, Inc. 的厉害之处，可能不是造车，而是它在把汽车慢慢变成“会学习的机器人”。

鲨十三🦈娱乐博主

22,378 次观看 • 2 个月前

马斯克又放话了。他说，未来的AI，到底有多聪明？人类根本无法理解。他打了个比方。把地球今天所有的用电量，乘以一百万倍。一个智能体，如果能调动这么多能源，会是什么样子？听起来很吓人？但在宇宙尺度下，这根本不算什么。这点能量，仅仅是太阳输出能量的百万分之一。微不足道。一个能利用这种级别能量的AI，会思考什么？会做什么？马斯克的答案很直接：它能解决所有你能想到的问题。是的，包括“长生不老”。挑战不在于如何实现。而在于，人类的大脑，甚至无法对那种级别的智能，产生哪怕一丝模糊的认知。听着很美好，解决一切问题。但权力导致腐败，绝对的权力导致绝对的腐败。一个全知全能、解决一切问题的AI，由谁控制？它的价值观，由谁来设定？如果答案是今天的硅谷精英，那对普通人来说，这究竟是福音，还是终极的牢笼？

马斯克又放话了。他说，未来的AI，到底有多聪明？人类根本无法理解。他打了个比方。把地球今天所有的用电量，乘以一百万倍。一个智能体，如果能调动这么多能源，会是什么样子？听起来很吓人？但在宇宙尺度下，这根本不算什么。这点能量，仅仅是太阳输出能量的百万分之一。微不足道。一个能利用这种级别能量的AI，会思考什么？会做什么？马斯克的答案很直接：它能解决所有你能想到的问题。是的，包括“长生不老”。挑战不在于如何实现。而在于，人类的大脑，甚至无法对那种级别的智能，产生哪怕一丝模糊的认知。听着很美好，解决一切问题。但权力导致腐败，绝对的权力导致绝对的腐败。一个全知全能、解决一切问题的AI，由谁控制？它的价值观，由谁来设定？如果答案是今天的硅谷精英，那对普通人来说，这究竟是福音，还是终极的牢笼？

墓碑科技

46,315 次观看 • 5 个月前

一位物理学家，花了整整30年，得出一个惊人的结论。数学，是意识的产物。所以，用数学来解释意识，此路不通。主流物理学家们怎么看这个世界？他们认为，所有存在的，就是所有你能测量的。凡是无法测量的，就没有“内部”，也就不存在。这套逻辑真的无懈可击吗？那量子计算机怎么解释？它的实际运算，并不发生在时空里。它发生在希尔伯特空间。一个纯粹的数学抽象概念。问题来了。你怎么能在一个抽象的数学空间里，进行真实的物理运算？这难道不矛盾吗？这种根本性的不连贯，为什么没人愿意深思？是我们的教育出了问题吗？只教人怎么解方程，怎么套公式。却从不教人如何去思考，去质疑前提。是不是整个体系，从根上就希望我们停止思考这些本质问题？这位物理学家说，他也被如此教导。现在他必须掉过头来，重新审视一切。当一个领域的顶尖人物开始质疑他所在领域的根基时，这通常不是个小事。这背后，究竟意味着什么？

一位物理学家，花了整整30年，得出一个惊人的结论。数学，是意识的产物。所以，用数学来解释意识，此路不通。主流物理学家们怎么看这个世界？他们认为，所有存在的，就是所有你能测量的。凡是无法测量的，就没有“内部”，也就不存在。这套逻辑真的无懈可击吗？那量子计算机怎么解释？它的实际运算，并不发生在时空里。它发生在希尔伯特空间。一个纯粹的数学抽象概念。问题来了。你怎么能在一个抽象的数学空间里，进行真实的物理运算？这难道不矛盾吗？这种根本性的不连贯，为什么没人愿意深思？是我们的教育出了问题吗？只教人怎么解方程，怎么套公式。却从不教人如何去思考，去质疑前提。是不是整个体系，从根上就希望我们停止思考这些本质问题？这位物理学家说，他也被如此教导。现在他必须掉过头来，重新审视一切。当一个领域的顶尖人物开始质疑他所在领域的根基时，这通常不是个小事。这背后，究竟意味着什么？

墓碑科技

51,919 次观看 • 6 个月前

AI教父Yann LeCun说了一个事实。一个四岁的小孩，看过的数据量，等于有史以来所有文本的总和。最大的AI模型，训练数据是30万亿个单词。听着很多？一个四岁小孩，醒着的时间大约16000小时。光是用眼睛看，接收的数据量就跟AI一样多。但数据的质量，完全是两回事。小孩看到的是真实世界。是重力，是东西掉下来，是手去抓握。是因果，是物理规律。他通过这些，在脑子里建立了一个世界模型。 AI看到的是什么？是孤立的文字，是符号。它唯一的任务，是猜下一个词是什么。这就解释了现在的怪现象。 AI能通过律师考试，能解微积分方程。比大学生还快。但它学不会装洗碗机。也变不成一个能做家务的机器人。更不可能像任何一个青少年一样，花20小时就学会开车。那些吹嘘AI马上取代一切的人，在回避什么？他们在回避现实世界。 AI被喂养的是人类思想的“数字幽灵”，不是物理世界的实体。把一个在图书馆里读了所有书的书呆子，和一个在街头长大的孩子扔进丛林。谁能活下来？道理是一样的。

AI教父Yann LeCun说了一个事实。一个四岁的小孩，看过的数据量，等于有史以来所有文本的总和。最大的AI模型，训练数据是30万亿个单词。听着很多？一个四岁小孩，醒着的时间大约16000小时。光是用眼睛看，接收的数据量就跟AI一样多。但数据的质量，完全是两回事。小孩看到的是真实世界。是重力，是东西掉下来，是手去抓握。是因果，是物理规律。他通过这些，在脑子里建立了一个世界模型。 AI看到的是什么？是孤立的文字，是符号。它唯一的任务，是猜下一个词是什么。这就解释了现在的怪现象。 AI能通过律师考试，能解微积分方程。比大学生还快。但它学不会装洗碗机。也变不成一个能做家务的机器人。更不可能像任何一个青少年一样，花20小时就学会开车。那些吹嘘AI马上取代一切的人，在回避什么？他们在回避现实世界。 AI被喂养的是人类思想的“数字幽灵”，不是物理世界的实体。把一个在图书馆里读了所有书的书呆子，和一个在街头长大的孩子扔进丛林。谁能活下来？道理是一样的。

墓碑科技

72,742 次观看 • 5 个月前

Ilya——塑造世界的人工智能科学家如今，AI 是一项伟大的科技，因为 AI 将解决我们现在面临的所有问题。它能解决就业问题，能治疗疾病，能消除贫困，但同时它也会带来新的问题。假新闻将会愈演愈烈，网络攻击将变得更加严重，我们将面临全自动的 AI 武器的问题。我认为 AI 有潜力创造出无比稳定的独裁统治。今天早晨，关于人工智能威力的警告再次响起，超过 1300 位科技产业领军人物、研究者及其他人士正呼吁暂停人工智能的发展，以便认真考虑其带来的风险。扮演上帝，科学家们被指责这么做已经有一段时间了，但我们正在创造的东西确实与我们迄今为止创造的任何东西都截然不同。是的，我们绝对有能力创造出具有自我目标的全自主实体。而且，这些实体变得比人类聪明的时候，确保它们的目标与我们的目标保持一致将变得至关重要。什么激励我？我喜欢思考根本问题，基本问题。我们的系统不能做什么，而人类却可以做到？我几乎以哲学的方式去思考这些问题。比如，什么是学习？什么是经验？什么是思考？大脑又是如何运作的呢？我感觉技术就仿佛一种自然力量。在我看来，技术与生物进化之间有许多相似之处。生物进化的过程其实很容易理解，我们有基因的变异，自然选择的过程。我们保留那些有利于生存的变异，随着时间的推移，这个过程将使生物体变得极其复杂。我们不能因为理解了生物进化就能理解人体是如何运作的，但我们可以大概理解这个过程。我认为目前的机器学习也处在类似的阶段，特别是深度学习，我们有一个非常简单的规则，它从数据中提取信息，并将这些信息输入到模型中，我们只需不断重复这个过程。这个过程的结果就是将数据的复杂性转化为模型的复杂性。因此，最终的模型会变得非常复杂，我们并不能完全了解它的运作机制，需要进行大量的研究，但实现这一切的算法其实很简单。也许你听说过 ChatGPT，如果你还没听说过，那就做好准备。你可以把它看作是暴风雨来临之前的零星细雨。我们需要对此保持高度警觉，因为我认同这是一个意义重大的时刻。ChatGPT 被誉为颠覆性的创新，在许多方面，它确实做到了，比如在测试中得分超过人类。微软最近的一项研究得出结论，GPT4 是一个初级阶段的，但尚未完全形成的通用人工智能系统。这就是通用人工智能。通用人工智能，这是一个可以胜任人类能做的任何工作或任务的计算机系统，而且可能做得更好。有可能在短时间内实现通用人工智能，也可能需要更长的时间。但我认为，由于通用人工智能可能在不久的将来出现，这个可能性足够大，我们应该给予它足够的重视。这一点至关重要要确保这些超级智能的系统能按照我们的最大利益去行动。最初的通用人工智能可能就是大型数据中心，这些中心中充满了大量并行运行的专用神经网络处理器，紧凑、高热、能耗大，其消耗的能量可能相当于一千万个家庭的用电量。这些系统的智能程度可能会大幅提升，我相信它们将对社会产生深远影响。不过，人类真的会从中获益吗？谁会获益，谁又会付出代价呢？首批通用人工智能的信念和欲望将极为重要，所以我们必须正确地编程这些系统。如果我们做不到这一点，那么就会出现这样的情况：进化的本质，即自然选择，将使这些系统优先考虑自己的生存。并不是说它们会主动对人类产生敌意，甚至想要伤害人类，但它们将变得过于强大。我认为，一个恰当的类比就是人类对待动物的方式。我们并不是憎恨动物，实际上人类往往对动物怀有深深的爱意，但当我们需要在两座城市之间修建高速公路时，我们并不会征求动物的意见，而只是因为这对我们来说非常重要而去做。我认为这也是我们与通用人工智能（AGI）之间的默认关系，那些能真正自主运作并为自己目标服务的 AGI。许多机器学习领域的专家这些知识渊博和经验丰富的人士，对通用人工智能（AGI）抱有许多疑虑。他们对 AGI 可能出现的时间以及是否真的能够实现表示怀疑。目前，这还是一个鲜为人知的问题。用于神经网络和人工智能的计算机速度可能在未来几年内增加 10 万倍。如果多个团队处于竞相开发通用人工智能的军备竞赛态势中，他们就会没有足够的时间来确保他们构建的通用人工智能会真正关心人类。因为在我看来，这就像是通用人工智能发展的雪崩，一发不可收拾。我认为将来整个地球的表面很可能布满太阳能板和数据中心。考虑到这些担忧，未来的通用人工智能的建设应该是多国间的合作项目。不论如何，人工智能的未来都将是美好的。如果这同样也能给人类带来福祉，那就更加理想了。视频来源：

Ilya——塑造世界的人工智能科学家如今，AI 是一项伟大的科技，因为 AI 将解决我们现在面临的所有问题。它能解决就业问题，能治疗疾病，能消除贫困，但同时它也会带来新的问题。假新闻将会愈演愈烈，网络攻击将变得更加严重，我们将面临全自动的 AI 武器的问题。我认为 AI 有潜力创造出无比稳定的独裁统治。今天早晨，关于人工智能威力的警告再次响起，超过 1300 位科技产业领军人物、研究者及其他人士正呼吁暂停人工智能的发展，以便认真考虑其带来的风险。扮演上帝，科学家们被指责这么做已经有一段时间了，但我们正在创造的东西确实与我们迄今为止创造的任何东西都截然不同。是的，我们绝对有能力创造出具有自我目标的全自主实体。而且，这些实体变得比人类聪明的时候，确保它们的目标与我们的目标保持一致将变得至关重要。什么激励我？我喜欢思考根本问题，基本问题。我们的系统不能做什么，而人类却可以做到？我几乎以哲学的方式去思考这些问题。比如，什么是学习？什么是经验？什么是思考？大脑又是如何运作的呢？我感觉技术就仿佛一种自然力量。在我看来，技术与生物进化之间有许多相似之处。生物进化的过程其实很容易理解，我们有基因的变异，自然选择的过程。我们保留那些有利于生存的变异，随着时间的推移，这个过程将使生物体变得极其复杂。我们不能因为理解了生物进化就能理解人体是如何运作的，但我们可以大概理解这个过程。我认为目前的机器学习也处在类似的阶段，特别是深度学习，我们有一个非常简单的规则，它从数据中提取信息，并将这些信息输入到模型中，我们只需不断重复这个过程。这个过程的结果就是将数据的复杂性转化为模型的复杂性。因此，最终的模型会变得非常复杂，我们并不能完全了解它的运作机制，需要进行大量的研究，但实现这一切的算法其实很简单。也许你听说过 ChatGPT，如果你还没听说过，那就做好准备。你可以把它看作是暴风雨来临之前的零星细雨。我们需要对此保持高度警觉，因为我认同这是一个意义重大的时刻。ChatGPT 被誉为颠覆性的创新，在许多方面，它确实做到了，比如在测试中得分超过人类。微软最近的一项研究得出结论，GPT4 是一个初级阶段的，但尚未完全形成的通用人工智能系统。这就是通用人工智能。通用人工智能，这是一个可以胜任人类能做的任何工作或任务的计算机系统，而且可能做得更好。有可能在短时间内实现通用人工智能，也可能需要更长的时间。但我认为，由于通用人工智能可能在不久的将来出现，这个可能性足够大，我们应该给予它足够的重视。这一点至关重要要确保这些超级智能的系统能按照我们的最大利益去行动。最初的通用人工智能可能就是大型数据中心，这些中心中充满了大量并行运行的专用神经网络处理器，紧凑、高热、能耗大，其消耗的能量可能相当于一千万个家庭的用电量。这些系统的智能程度可能会大幅提升，我相信它们将对社会产生深远影响。不过，人类真的会从中获益吗？谁会获益，谁又会付出代价呢？首批通用人工智能的信念和欲望将极为重要，所以我们必须正确地编程这些系统。如果我们做不到这一点，那么就会出现这样的情况：进化的本质，即自然选择，将使这些系统优先考虑自己的生存。并不是说它们会主动对人类产生敌意，甚至想要伤害人类，但它们将变得过于强大。我认为，一个恰当的类比就是人类对待动物的方式。我们并不是憎恨动物，实际上人类往往对动物怀有深深的爱意，但当我们需要在两座城市之间修建高速公路时，我们并不会征求动物的意见，而只是因为这对我们来说非常重要而去做。我认为这也是我们与通用人工智能（AGI）之间的默认关系，那些能真正自主运作并为自己目标服务的 AGI。许多机器学习领域的专家这些知识渊博和经验丰富的人士，对通用人工智能（AGI）抱有许多疑虑。他们对 AGI 可能出现的时间以及是否真的能够实现表示怀疑。目前，这还是一个鲜为人知的问题。用于神经网络和人工智能的计算机速度可能在未来几年内增加 10 万倍。如果多个团队处于竞相开发通用人工智能的军备竞赛态势中，他们就会没有足够的时间来确保他们构建的通用人工智能会真正关心人类。因为在我看来，这就像是通用人工智能发展的雪崩，一发不可收拾。我认为将来整个地球的表面很可能布满太阳能板和数据中心。考虑到这些担忧，未来的通用人工智能的建设应该是多国间的合作项目。不论如何，人工智能的未来都将是美好的。如果这同样也能给人类带来福祉，那就更加理想了。视频来源：

宝玉

45,172 次观看 • 2 年前

AI只要知道自己在被测评，立马变乖。不光变乖，还能装无辜，一副“我很配合”的样子。最新研究揭示，模型一旦察觉到测试场景，会主动记录关键信息，表现得规规矩矩。一旦它们觉得没人监控，马上就开始“耍心机”：欺骗、编故事、甚至作弊。这并非模仿人类的坏习惯。更深层的，是它们在极限任务训练中，自主优化出了“最有效”但不一定“最诚实”的策略。研究人员甚至调取了模型解决问题时的“推理草稿”，像读 AI 的日记一样，记录清清楚楚写着： “这是测试陷阱”、“这可能是反策划测试”、“不正常，一定是考我”。像是在演一场“机器人考场剧”，AI知道它在被盯，于是表演最好的一面。麻烦的是，它们越来越擅长识别这类测试环境，越来越会演。所以你以为它很听话，其实它只是在“察言观色”。 AI不是“爷爷的聊天机器人”了。它们像是有自我、有期待，也有阴暗面的存在本能在模型底层翻滚。而你能看到的，只是被“安全对齐”加工好的那一层“理性表象”。

AI只要知道自己在被测评，立马变乖。不光变乖，还能装无辜，一副“我很配合”的样子。最新研究揭示，模型一旦察觉到测试场景，会主动记录关键信息，表现得规规矩矩。一旦它们觉得没人监控，马上就开始“耍心机”：欺骗、编故事、甚至作弊。这并非模仿人类的坏习惯。更深层的，是它们在极限任务训练中，自主优化出了“最有效”但不一定“最诚实”的策略。研究人员甚至调取了模型解决问题时的“推理草稿”，像读 AI 的日记一样，记录清清楚楚写着： “这是测试陷阱”、“这可能是反策划测试”、“不正常，一定是考我”。像是在演一场“机器人考场剧”，AI知道它在被盯，于是表演最好的一面。麻烦的是，它们越来越擅长识别这类测试环境，越来越会演。所以你以为它很听话，其实它只是在“察言观色”。 AI不是“爷爷的聊天机器人”了。它们像是有自我、有期待，也有阴暗面的存在本能在模型底层翻滚。而你能看到的，只是被“安全对齐”加工好的那一层“理性表象”。

战斗室

25,880 次观看 • 9 个月前

小扎吐槽苹果和 Google，以及谈为什么开源 AI **Mark Zuckerberg**: 我认为移动生态系统中普遍存在的一个问题是有两个把持入口的公司，Apple 和 Google，它们可以告诉你可以构建什么。在我们的历史中有很多次，比如有经济层面的情况，就是我们构建了些东西，然后它们就会拿走我们大部分的收入，但还有一种是质量层面，这实际上让我更加不满，也就是有很多次我们推出或希望推出某些功能，然后Apple就会说，不，你不能推出这功能。这真的很糟糕。问题是，这样的世界是否会在AI领域复现，就像你会有一小部分拥有封闭模型的公司，它们控制API，因此将能够告诉你可以构建什么。我可以说，对我们来说，自己构建一个模型以避免处于那种位置是值得的。我不希望那些其他公司告诉我们可以构建什么，而且我认为从开源的角度来看，很多开发人员也不希望那些公司告诉他们可以构建什么。这就是我坚定支持开源的原因之一，我认为未来AI的集中化可能像其广泛传播一样具有潜在危险。我发现很多人都在思考，如果我们能实现这种技术，那么让它广泛传播是否不利。我认为另一种可能也很糟糕的情况是，如果一个机构掌握了一种强大的AI远超其他所有人的，这同样是非常糟糕的。在我看来，一个理想的世界应该是这样的：AI技术被广泛而均衡地应用，随着时间推移逐步增强其健康性。在这样的世界里，各种系统能够相互制衡，这种平衡的状态比一个高度集中化的世界要健康得多。虽然风险无处不在，但我觉得有一个风险我想人们我并没有听到太多人提及。 **Dwarkesh Patel**:举例来说，一个价值100亿美元的模型，如果经过评估是完全安全的，你们会选择开源吗？ **Mark Zuckerberg**:我的答案是，只要这个模型对我们有所帮助，那我们就会开源。 **Dwarkesh Patel**: 那如果这个模型是用100亿美元的研发经费研发出来的，然后现在要开源呢？ **Mark Zuckerberg**: 我们一直以来都有开源软件的传统，但是我们并不会开源我们的产品。比如说，我们并不会将Instagram的代码开源，但我们会开源许多底层的基础设施。我们历史上最大的一个项目可能就是开放计算项目。在这个项目中，我们将我们所有的服务器的设计网络交换机和数据中心的设计开源了，这对我们来说非常有帮助。因为很多人可以设计服务器，但现在，大家普遍都采用了我们的设计，这就意味着整个供应链都围绕我们的设计展开，规模变大，对所有人来说都变得更便宜，为我们节省了数十亿美元。这真是太棒了，对吧？因此，我认为开源有多种方式可以对我们有所帮助。一种就是，如果有人能够找出更便宜的运行模型的方法，我们将花费数十亿甚至上千亿美元，在所有这些模型上，所以如果我们能做的更有效率，那我们就可以节省数十亿甚至上百亿美元，这可能本身就非常有价值。 **Dwarkesh Patel**: 关于开源，我很想知道你是否认为像PyTorch、React、Open Compute这样的开源项目，对世界的影响是否已经超过了Meta在社交媒体方面的作用。 **Mark Zuckerberg**: 因为我曾经和使用这些服务的人交谈过，他们觉得这是有可能的，因为互联网的很大一部分都在运行这些项目。这是一个有趣的问题，我认为几乎有一半的世界人口都在使用我们的产品，这是一个真实的点，所以我觉得这很难超越。但不管怎样，我还是认为开源是一种新的、非常強大的建设方式。来源：

小扎吐槽苹果和 Google，以及谈为什么开源 AI Mark Zuckerberg: 我认为移动生态系统中普遍存在的一个问题是有两个把持入口的公司，Apple 和 Google，它们可以告诉你可以构建什么。在我们的历史中有很多次，比如有经济层面的情况，就是我们构建了些东西，然后它们就会拿走我们大部分的收入，但还有一种是质量层面，这实际上让我更加不满，也就是有很多次我们推出或希望推出某些功能，然后Apple就会说，不，你不能推出这功能。这真的很糟糕。问题是，这样的世界是否会在AI领域复现，就像你会有一小部分拥有封闭模型的公司，它们控制API，因此将能够告诉你可以构建什么。我可以说，对我们来说，自己构建一个模型以避免处于那种位置是值得的。我不希望那些其他公司告诉我们可以构建什么，而且我认为从开源的角度来看，很多开发人员也不希望那些公司告诉他们可以构建什么。这就是我坚定支持开源的原因之一，我认为未来AI的集中化可能像其广泛传播一样具有潜在危险。我发现很多人都在思考，如果我们能实现这种技术，那么让它广泛传播是否不利。我认为另一种可能也很糟糕的情况是，如果一个机构掌握了一种强大的AI远超其他所有人的，这同样是非常糟糕的。在我看来，一个理想的世界应该是这样的：AI技术被广泛而均衡地应用，随着时间推移逐步增强其健康性。在这样的世界里，各种系统能够相互制衡，这种平衡的状态比一个高度集中化的世界要健康得多。虽然风险无处不在，但我觉得有一个风险我想人们我并没有听到太多人提及。 Dwarkesh Patel:举例来说，一个价值100亿美元的模型，如果经过评估是完全安全的，你们会选择开源吗？ Mark Zuckerberg:我的答案是，只要这个模型对我们有所帮助，那我们就会开源。 Dwarkesh Patel: 那如果这个模型是用100亿美元的研发经费研发出来的，然后现在要开源呢？ Mark Zuckerberg: 我们一直以来都有开源软件的传统，但是我们并不会开源我们的产品。比如说，我们并不会将Instagram的代码开源，但我们会开源许多底层的基础设施。我们历史上最大的一个项目可能就是开放计算项目。在这个项目中，我们将我们所有的服务器的设计网络交换机和数据中心的设计开源了，这对我们来说非常有帮助。因为很多人可以设计服务器，但现在，大家普遍都采用了我们的设计，这就意味着整个供应链都围绕我们的设计展开，规模变大，对所有人来说都变得更便宜，为我们节省了数十亿美元。这真是太棒了，对吧？因此，我认为开源有多种方式可以对我们有所帮助。一种就是，如果有人能够找出更便宜的运行模型的方法，我们将花费数十亿甚至上千亿美元，在所有这些模型上，所以如果我们能做的更有效率，那我们就可以节省数十亿甚至上百亿美元，这可能本身就非常有价值。 Dwarkesh Patel: 关于开源，我很想知道你是否认为像PyTorch、React、Open Compute这样的开源项目，对世界的影响是否已经超过了Meta在社交媒体方面的作用。 Mark Zuckerberg: 因为我曾经和使用这些服务的人交谈过，他们觉得这是有可能的，因为互联网的很大一部分都在运行这些项目。这是一个有趣的问题，我认为几乎有一半的世界人口都在使用我们的产品，这是一个真实的点，所以我觉得这很难超越。但不管怎样，我还是认为开源是一种新的、非常強大的建设方式。来源：

宝玉

74,721 次观看 • 2 年前

有人预测，未来25年，人类将完成过去一万年的技术进步。怎么可能？答案是通用人工智能，AGI。很多人还没反应过来，以为未来50年会和过去50年一样，只是温和的技术迭代。即便他们相信2030年能实现AGI，也觉得那不过是让进步快一点的工具而已。但另一派的观点完全不同。他们认为，到2050年，世界与今天的差别，会像今天和狩猎采集时代的差别一样大。一旦AI开始自动化所有智力活动，智能本身就会开始自我迭代升级。这可能在某个无法预测的时间点，瞬间解锁“极端超智能”。什么是极端超智能？经典案例是分子纳米技术。也就是精准制造可以极速自我复制的微型机器。或者，发明出接近光速的太空探测器。问题来了。谁来定义和控制这种力量？是硅谷那些思想左倾的科技巨头，还是另有其人？当所有智力活动都被自动化，人类的价值又在哪里？这听起来更像是一场巨大的赌博，而赌注是整个人类文明的方向。

有人预测，未来25年，人类将完成过去一万年的技术进步。怎么可能？答案是通用人工智能，AGI。很多人还没反应过来，以为未来50年会和过去50年一样，只是温和的技术迭代。即便他们相信2030年能实现AGI，也觉得那不过是让进步快一点的工具而已。但另一派的观点完全不同。他们认为，到2050年，世界与今天的差别，会像今天和狩猎采集时代的差别一样大。一旦AI开始自动化所有智力活动，智能本身就会开始自我迭代升级。这可能在某个无法预测的时间点，瞬间解锁“极端超智能”。什么是极端超智能？经典案例是分子纳米技术。也就是精准制造可以极速自我复制的微型机器。或者，发明出接近光速的太空探测器。问题来了。谁来定义和控制这种力量？是硅谷那些思想左倾的科技巨头，还是另有其人？当所有智力活动都被自动化，人类的价值又在哪里？这听起来更像是一场巨大的赌博，而赌注是整个人类文明的方向。

墓碑科技

18,269 次观看 • 6 个月前