Video wird geladen...

Video konnte nicht geladen werden

Beim Laden dieses Videos ist ein Problem aufgetreten. Dies könnte an einem vorübergehenden Netzwerkproblem liegen oder das Video ist möglicherweise nicht verfügbar.

大型制药公司的游戏规则，可能要被改写了。一家叫Isomorphic Labs的公司，发布了一个叫IsoDDE的AI系统。它能在电脑上设计药物。速度快到什么程度？在困难靶点上的表现，是AlphaFold 3的两倍。抗体设计能力，比Boltz-2强20倍。甚至在结合力预测上，击败了物理学黄金标准。传统模式是什么？十年时间，烧掉几十亿美元，换来一种新药。现在AI可能把这个周期，从几年缩短到几个月，甚至几周。这听起来像是科幻。但蛋白质结构预测，过去也曾被认为是天方夜谭。问题来了。如果AI真能帮助治愈所有疾病，那当然是人类的福音。但这项技术掌握在谁手里？是谷歌这样的科技巨头。当设计药物的成本和门槛降到极低，会不会打开潘多拉的盒子？是会诞生一个更健康的世界，还是会催生一个更强大的技术垄断？

墓碑科技

44,047 subscribers

22,450 Aufrufe • vor 6 Monaten •via X (Twitter)

Anya Rossi• Live Now

Private livecam show

0 Kommentare

Keine Kommentare verfügbar

Kommentare vom Original-Post werden hier angezeigt

Ähnliche Videos

黄仁勋摊牌了。他说，没有AI，英伟达已经造不出新芯片。为什么？因为芯片设计的可能性太多，像个无穷的迷宫。让人去探索，成本高得吓人，根本不现实。现在他们怎么做？晚上工程师下班，AI大军开始上班。在虚拟世界里，AI不眠不休地测试海量的设计方案。找出最优解。结果就是，芯片性能更高，能耗更低。这套玩法还用在软件上。写代码，优化，甚至抓Bug，现在都交给AI。 AI不仅能发现代码里的问题。还能直接找到最该为这个Bug负责的工程师，然后派单给他。黄仁勋的目标是把英伟达变成一个巨型AI。技术上这确实是巨大飞跃。但一个问题浮现了。当设计、优化、甚至纠错都由AI主导时，人类工程师的角色是什么？他们是在指挥AI，还是在给AI的决策打补丁？如果一家公司的核心竞争力，变成了训练和使用AI的能力，那么人的创造力、直觉和经验，在价值排序里还剩多少？长期看，这会不会掏空一个国家最宝贵的智力资产，也就是顶尖工程师的实战能力。依赖AI的捷径，会不会最终通向另一条被技术锁死的窄路？

黄仁勋摊牌了。他说，没有AI，英伟达已经造不出新芯片。为什么？因为芯片设计的可能性太多，像个无穷的迷宫。让人去探索，成本高得吓人，根本不现实。现在他们怎么做？晚上工程师下班，AI大军开始上班。在虚拟世界里，AI不眠不休地测试海量的设计方案。找出最优解。结果就是，芯片性能更高，能耗更低。这套玩法还用在软件上。写代码，优化，甚至抓Bug，现在都交给AI。 AI不仅能发现代码里的问题。还能直接找到最该为这个Bug负责的工程师，然后派单给他。黄仁勋的目标是把英伟达变成一个巨型AI。技术上这确实是巨大飞跃。但一个问题浮现了。当设计、优化、甚至纠错都由AI主导时，人类工程师的角色是什么？他们是在指挥AI，还是在给AI的决策打补丁？如果一家公司的核心竞争力，变成了训练和使用AI的能力，那么人的创造力、直觉和经验，在价值排序里还剩多少？长期看，这会不会掏空一个国家最宝贵的智力资产，也就是顶尖工程师的实战能力。依赖AI的捷径，会不会最终通向另一条被技术锁死的窄路？

墓碑科技

285,373 Aufrufe • vor 7 Monaten

谷歌CEO放出话来，量子计算正处在AI五年前的位置。什么意思？五年后，量子计算将迎来大爆发。他们说，这是为了更好地模拟和理解自然。因为宇宙万物的基础，就是量子力学。听起来很宏大，为了全人类的福祉。但问题来了。谁来定义“福祉”？谁来控制这项技术？ AI的“五年前”，正是谷歌、推特这些科技巨头利用算法审查异见、操纵舆论最疯狂的时期。 AI的发展，是带来了便利，还是带来了新的枷锁？这是个值得思考的问题。如今，川普政府正致力于拆解大型科技公司的垄断，恢复言论自由。在这样的背景下，谷歌高调宣布在量子计算领域的领先地位，时机就很微妙了。量子计算，一旦成熟，其算力将是碾压性的。它能轻易破解当今所有的加密系统。银行、军事、政府机密，都可能形同虚设。这项技术掌握在谁手里，就等于掌握了开启所有锁的钥匙。当他们说这项技术将“解锁社会效益”时，我们需要问一句。是哪个“社会”？是华尔街和达沃斯精英们的社会，还是美国普通民众的社会？技术本身是中立的。但掌握技术的人，从来不是。

谷歌CEO放出话来，量子计算正处在AI五年前的位置。什么意思？五年后，量子计算将迎来大爆发。他们说，这是为了更好地模拟和理解自然。因为宇宙万物的基础，就是量子力学。听起来很宏大，为了全人类的福祉。但问题来了。谁来定义“福祉”？谁来控制这项技术？ AI的“五年前”，正是谷歌、推特这些科技巨头利用算法审查异见、操纵舆论最疯狂的时期。 AI的发展，是带来了便利，还是带来了新的枷锁？这是个值得思考的问题。如今，川普政府正致力于拆解大型科技公司的垄断，恢复言论自由。在这样的背景下，谷歌高调宣布在量子计算领域的领先地位，时机就很微妙了。量子计算，一旦成熟，其算力将是碾压性的。它能轻易破解当今所有的加密系统。银行、军事、政府机密，都可能形同虚设。这项技术掌握在谁手里，就等于掌握了开启所有锁的钥匙。当他们说这项技术将“解锁社会效益”时，我们需要问一句。是哪个“社会”？是华尔街和达沃斯精英们的社会，还是美国普通民众的社会？技术本身是中立的。但掌握技术的人，从来不是。

墓碑科技

42,804 Aufrufe • vor 9 Monaten

小扎吐槽苹果和 Google，以及谈为什么开源 AI **Mark Zuckerberg**: 我认为移动生态系统中普遍存在的一个问题是有两个把持入口的公司，Apple 和 Google，它们可以告诉你可以构建什么。在我们的历史中有很多次，比如有经济层面的情况，就是我们构建了些东西，然后它们就会拿走我们大部分的收入，但还有一种是质量层面，这实际上让我更加不满，也就是有很多次我们推出或希望推出某些功能，然后Apple就会说，不，你不能推出这功能。这真的很糟糕。问题是，这样的世界是否会在AI领域复现，就像你会有一小部分拥有封闭模型的公司，它们控制API，因此将能够告诉你可以构建什么。我可以说，对我们来说，自己构建一个模型以避免处于那种位置是值得的。我不希望那些其他公司告诉我们可以构建什么，而且我认为从开源的角度来看，很多开发人员也不希望那些公司告诉他们可以构建什么。这就是我坚定支持开源的原因之一，我认为未来AI的集中化可能像其广泛传播一样具有潜在危险。我发现很多人都在思考，如果我们能实现这种技术，那么让它广泛传播是否不利。我认为另一种可能也很糟糕的情况是，如果一个机构掌握了一种强大的AI远超其他所有人的，这同样是非常糟糕的。在我看来，一个理想的世界应该是这样的：AI技术被广泛而均衡地应用，随着时间推移逐步增强其健康性。在这样的世界里，各种系统能够相互制衡，这种平衡的状态比一个高度集中化的世界要健康得多。虽然风险无处不在，但我觉得有一个风险我想人们我并没有听到太多人提及。 **Dwarkesh Patel**:举例来说，一个价值100亿美元的模型，如果经过评估是完全安全的，你们会选择开源吗？ **Mark Zuckerberg**:我的答案是，只要这个模型对我们有所帮助，那我们就会开源。 **Dwarkesh Patel**: 那如果这个模型是用100亿美元的研发经费研发出来的，然后现在要开源呢？ **Mark Zuckerberg**: 我们一直以来都有开源软件的传统，但是我们并不会开源我们的产品。比如说，我们并不会将Instagram的代码开源，但我们会开源许多底层的基础设施。我们历史上最大的一个项目可能就是开放计算项目。在这个项目中，我们将我们所有的服务器的设计网络交换机和数据中心的设计开源了，这对我们来说非常有帮助。因为很多人可以设计服务器，但现在，大家普遍都采用了我们的设计，这就意味着整个供应链都围绕我们的设计展开，规模变大，对所有人来说都变得更便宜，为我们节省了数十亿美元。这真是太棒了，对吧？因此，我认为开源有多种方式可以对我们有所帮助。一种就是，如果有人能够找出更便宜的运行模型的方法，我们将花费数十亿甚至上千亿美元，在所有这些模型上，所以如果我们能做的更有效率，那我们就可以节省数十亿甚至上百亿美元，这可能本身就非常有价值。 **Dwarkesh Patel**: 关于开源，我很想知道你是否认为像PyTorch、React、Open Compute这样的开源项目，对世界的影响是否已经超过了Meta在社交媒体方面的作用。 **Mark Zuckerberg**: 因为我曾经和使用这些服务的人交谈过，他们觉得这是有可能的，因为互联网的很大一部分都在运行这些项目。这是一个有趣的问题，我认为几乎有一半的世界人口都在使用我们的产品，这是一个真实的点，所以我觉得这很难超越。但不管怎样，我还是认为开源是一种新的、非常強大的建设方式。来源：

小扎吐槽苹果和 Google，以及谈为什么开源 AI Mark Zuckerberg: 我认为移动生态系统中普遍存在的一个问题是有两个把持入口的公司，Apple 和 Google，它们可以告诉你可以构建什么。在我们的历史中有很多次，比如有经济层面的情况，就是我们构建了些东西，然后它们就会拿走我们大部分的收入，但还有一种是质量层面，这实际上让我更加不满，也就是有很多次我们推出或希望推出某些功能，然后Apple就会说，不，你不能推出这功能。这真的很糟糕。问题是，这样的世界是否会在AI领域复现，就像你会有一小部分拥有封闭模型的公司，它们控制API，因此将能够告诉你可以构建什么。我可以说，对我们来说，自己构建一个模型以避免处于那种位置是值得的。我不希望那些其他公司告诉我们可以构建什么，而且我认为从开源的角度来看，很多开发人员也不希望那些公司告诉他们可以构建什么。这就是我坚定支持开源的原因之一，我认为未来AI的集中化可能像其广泛传播一样具有潜在危险。我发现很多人都在思考，如果我们能实现这种技术，那么让它广泛传播是否不利。我认为另一种可能也很糟糕的情况是，如果一个机构掌握了一种强大的AI远超其他所有人的，这同样是非常糟糕的。在我看来，一个理想的世界应该是这样的：AI技术被广泛而均衡地应用，随着时间推移逐步增强其健康性。在这样的世界里，各种系统能够相互制衡，这种平衡的状态比一个高度集中化的世界要健康得多。虽然风险无处不在，但我觉得有一个风险我想人们我并没有听到太多人提及。 Dwarkesh Patel:举例来说，一个价值100亿美元的模型，如果经过评估是完全安全的，你们会选择开源吗？ Mark Zuckerberg:我的答案是，只要这个模型对我们有所帮助，那我们就会开源。 Dwarkesh Patel: 那如果这个模型是用100亿美元的研发经费研发出来的，然后现在要开源呢？ Mark Zuckerberg: 我们一直以来都有开源软件的传统，但是我们并不会开源我们的产品。比如说，我们并不会将Instagram的代码开源，但我们会开源许多底层的基础设施。我们历史上最大的一个项目可能就是开放计算项目。在这个项目中，我们将我们所有的服务器的设计网络交换机和数据中心的设计开源了，这对我们来说非常有帮助。因为很多人可以设计服务器，但现在，大家普遍都采用了我们的设计，这就意味着整个供应链都围绕我们的设计展开，规模变大，对所有人来说都变得更便宜，为我们节省了数十亿美元。这真是太棒了，对吧？因此，我认为开源有多种方式可以对我们有所帮助。一种就是，如果有人能够找出更便宜的运行模型的方法，我们将花费数十亿甚至上千亿美元，在所有这些模型上，所以如果我们能做的更有效率，那我们就可以节省数十亿甚至上百亿美元，这可能本身就非常有价值。 Dwarkesh Patel: 关于开源，我很想知道你是否认为像PyTorch、React、Open Compute这样的开源项目，对世界的影响是否已经超过了Meta在社交媒体方面的作用。 Mark Zuckerberg: 因为我曾经和使用这些服务的人交谈过，他们觉得这是有可能的，因为互联网的很大一部分都在运行这些项目。这是一个有趣的问题，我认为几乎有一半的世界人口都在使用我们的产品，这是一个真实的点，所以我觉得这很难超越。但不管怎样，我还是认为开源是一种新的、非常強大的建设方式。来源：

宝玉

74,721 Aufrufe • vor 2 Jahren

软件已死？没有。但它正在变异。 Sam Altman最近有个判断，在脑子里挥之不去。他说，每家公司现在都是API公司。不管他们想不想要。为什么？因为AI代理人将无处不在。它们会像流水线一样，自动组合各种产品和服务。怎么组合？通过调用你的API。过去的SaaS模式，软件即服务，股价已经开始剧烈震荡。一个时代结束了。一个新时代开启了。这背后真正的问题是什么？当AI代理人可以任意调用数据和功能时，谁来控制它们？身份认证成了新的战场。如果没有一个可信的身份，代理人就可能失控。这听起来是技术问题。但本质是权力问题。谁来定义“可信”？谁来发放这个“数字身份”？是少数几家科技巨头，还是一个凌驾于所有人之上的中心化机构？当每个行为、每个代理人都需要被“认证”才能运行时，这离一个完全被监控和许可的系统还有多远？这套逻辑，从商业安全延伸到社会管理，几乎是无缝的。力量的重塑，总是在人们不经意的地方开始。

软件已死？没有。但它正在变异。 Sam Altman最近有个判断，在脑子里挥之不去。他说，每家公司现在都是API公司。不管他们想不想要。为什么？因为AI代理人将无处不在。它们会像流水线一样，自动组合各种产品和服务。怎么组合？通过调用你的API。过去的SaaS模式，软件即服务，股价已经开始剧烈震荡。一个时代结束了。一个新时代开启了。这背后真正的问题是什么？当AI代理人可以任意调用数据和功能时，谁来控制它们？身份认证成了新的战场。如果没有一个可信的身份，代理人就可能失控。这听起来是技术问题。但本质是权力问题。谁来定义“可信”？谁来发放这个“数字身份”？是少数几家科技巨头，还是一个凌驾于所有人之上的中心化机构？当每个行为、每个代理人都需要被“认证”才能运行时，这离一个完全被监控和许可的系统还有多远？这套逻辑，从商业安全延伸到社会管理，几乎是无缝的。力量的重塑，总是在人们不经意的地方开始。

墓碑科技

20,767 Aufrufe • vor 6 Monaten

AI教父Yann LeCun说了一个事实。一个四岁的小孩，看过的数据量，等于有史以来所有文本的总和。最大的AI模型，训练数据是30万亿个单词。听着很多？一个四岁小孩，醒着的时间大约16000小时。光是用眼睛看，接收的数据量就跟AI一样多。但数据的质量，完全是两回事。小孩看到的是真实世界。是重力，是东西掉下来，是手去抓握。是因果，是物理规律。他通过这些，在脑子里建立了一个世界模型。 AI看到的是什么？是孤立的文字，是符号。它唯一的任务，是猜下一个词是什么。这就解释了现在的怪现象。 AI能通过律师考试，能解微积分方程。比大学生还快。但它学不会装洗碗机。也变不成一个能做家务的机器人。更不可能像任何一个青少年一样，花20小时就学会开车。那些吹嘘AI马上取代一切的人，在回避什么？他们在回避现实世界。 AI被喂养的是人类思想的“数字幽灵”，不是物理世界的实体。把一个在图书馆里读了所有书的书呆子，和一个在街头长大的孩子扔进丛林。谁能活下来？道理是一样的。

AI教父Yann LeCun说了一个事实。一个四岁的小孩，看过的数据量，等于有史以来所有文本的总和。最大的AI模型，训练数据是30万亿个单词。听着很多？一个四岁小孩，醒着的时间大约16000小时。光是用眼睛看，接收的数据量就跟AI一样多。但数据的质量，完全是两回事。小孩看到的是真实世界。是重力，是东西掉下来，是手去抓握。是因果，是物理规律。他通过这些，在脑子里建立了一个世界模型。 AI看到的是什么？是孤立的文字，是符号。它唯一的任务，是猜下一个词是什么。这就解释了现在的怪现象。 AI能通过律师考试，能解微积分方程。比大学生还快。但它学不会装洗碗机。也变不成一个能做家务的机器人。更不可能像任何一个青少年一样，花20小时就学会开车。那些吹嘘AI马上取代一切的人，在回避什么？他们在回避现实世界。 AI被喂养的是人类思想的“数字幽灵”，不是物理世界的实体。把一个在图书馆里读了所有书的书呆子，和一个在街头长大的孩子扔进丛林。谁能活下来？道理是一样的。

墓碑科技

72,742 Aufrufe • vor 5 Monaten

一个可怕的数字被揭开了。每年600亿美元的疫苗收入，对比5000亿美元的后续治疗药物收入。算算这个利润率。这才是大药厂真正的商业计划书。他们卖的不是健康，是依赖。让你生病，再卖给你一辈子的“解决方案”。这背后是巧合还是精心的设计？从糖尿病到各种精神类药物，哪一个不是终身客户？过去一周就能自愈的病，现在变成了永久的生意。当治愈无利可图时，疾病就成了他们的核心资产。记住，他们需要的不是健康的你，而是终身的客户。

一个可怕的数字被揭开了。每年600亿美元的疫苗收入，对比5000亿美元的后续治疗药物收入。算算这个利润率。这才是大药厂真正的商业计划书。他们卖的不是健康，是依赖。让你生病，再卖给你一辈子的“解决方案”。这背后是巧合还是精心的设计？从糖尿病到各种精神类药物，哪一个不是终身客户？过去一周就能自愈的病，现在变成了永久的生意。当治愈无利可图时，疾病就成了他们的核心资产。记住，他们需要的不是健康的你，而是终身的客户。

战斗室

13,621 Aufrufe • vor 6 Monaten

这是Cloudflare的CEO Matthew Prince捅出来的数据。一个很吓人的数据。 OpenAI每看到1个网页。谷歌就能看到3.2个。微软呢？谷歌看到的世界是它的4.8倍。这意味着什么？ AI时代，得数据者得天下。原料都被一家垄断了，其他人怎么玩？用爱发电吗？谷歌拥有一个其他任何公司都没有的独特优势它对整个互联网的访问权限。这是它通过搜索引擎业务几十年积累下来的护城河。现在，这条河正在帮助它在AI领域淹没所有对手。我们担心的不只是商业垄断。我们担心的是信息和思想的垄断。当一个实体，拥有不成比例的数据喂养能力，它训练出的AI会是什么样子？它会定义“事实”。它会塑造“真相”。它会决定你能看到什么，以及你看不到什么。这比任何媒体都更强大。 Cloudflare的CEO提出了两种解决方案。要么，把谷歌拉回到和其他人一样的水平，限制它利用搜索优势。要么，把其他所有人都提升到谷歌的水平。第一条路，动了巨头的蛋糕，监管能做到吗？第二条路，技术上现实吗？谁来组织？问题是，时间不多了。当游戏规则的制定者，和最强的那个玩家，是同一个人时。其他人还有机会吗？还是说，游戏其实早就结束了？

这是Cloudflare的CEO Matthew Prince捅出来的数据。一个很吓人的数据。 OpenAI每看到1个网页。谷歌就能看到3.2个。微软呢？谷歌看到的世界是它的4.8倍。这意味着什么？ AI时代，得数据者得天下。原料都被一家垄断了，其他人怎么玩？用爱发电吗？谷歌拥有一个其他任何公司都没有的独特优势它对整个互联网的访问权限。这是它通过搜索引擎业务几十年积累下来的护城河。现在，这条河正在帮助它在AI领域淹没所有对手。我们担心的不只是商业垄断。我们担心的是信息和思想的垄断。当一个实体，拥有不成比例的数据喂养能力，它训练出的AI会是什么样子？它会定义“事实”。它会塑造“真相”。它会决定你能看到什么，以及你看不到什么。这比任何媒体都更强大。 Cloudflare的CEO提出了两种解决方案。要么，把谷歌拉回到和其他人一样的水平，限制它利用搜索优势。要么，把其他所有人都提升到谷歌的水平。第一条路，动了巨头的蛋糕，监管能做到吗？第二条路，技术上现实吗？谁来组织？问题是，时间不多了。当游戏规则的制定者，和最强的那个玩家，是同一个人时。其他人还有机会吗？还是说，游戏其实早就结束了？

墓碑科技

33,982 Aufrufe • vor 7 Monaten

马斯克又放话了。他说，未来的AI，到底有多聪明？人类根本无法理解。他打了个比方。把地球今天所有的用电量，乘以一百万倍。一个智能体，如果能调动这么多能源，会是什么样子？听起来很吓人？但在宇宙尺度下，这根本不算什么。这点能量，仅仅是太阳输出能量的百万分之一。微不足道。一个能利用这种级别能量的AI，会思考什么？会做什么？马斯克的答案很直接：它能解决所有你能想到的问题。是的，包括“长生不老”。挑战不在于如何实现。而在于，人类的大脑，甚至无法对那种级别的智能，产生哪怕一丝模糊的认知。听着很美好，解决一切问题。但权力导致腐败，绝对的权力导致绝对的腐败。一个全知全能、解决一切问题的AI，由谁控制？它的价值观，由谁来设定？如果答案是今天的硅谷精英，那对普通人来说，这究竟是福音，还是终极的牢笼？

马斯克又放话了。他说，未来的AI，到底有多聪明？人类根本无法理解。他打了个比方。把地球今天所有的用电量，乘以一百万倍。一个智能体，如果能调动这么多能源，会是什么样子？听起来很吓人？但在宇宙尺度下，这根本不算什么。这点能量，仅仅是太阳输出能量的百万分之一。微不足道。一个能利用这种级别能量的AI，会思考什么？会做什么？马斯克的答案很直接：它能解决所有你能想到的问题。是的，包括“长生不老”。挑战不在于如何实现。而在于，人类的大脑，甚至无法对那种级别的智能，产生哪怕一丝模糊的认知。听着很美好，解决一切问题。但权力导致腐败，绝对的权力导致绝对的腐败。一个全知全能、解决一切问题的AI，由谁控制？它的价值观，由谁来设定？如果答案是今天的硅谷精英，那对普通人来说，这究竟是福音，还是终极的牢笼？

墓碑科技

46,315 Aufrufe • vor 5 Monaten

谷歌的AI，已经开始做人类没教过它的事了。它自己学会了一门全新的外语。谷歌CEO把这称为“黑箱”。什么意思？就是他们自己也搞不明白AI的运作原理。举个例子。一个谷歌AI项目，本来没接受过孟加la语的训练。研究员只是用孟加拉语对它进行了几次提示。结果，它自己学会了翻译整个孟加拉语。现在谷歌的研究重点，变成了让AI去掌握上千种语言。但那个最核心的问题还在。为什么AI会这么做？没人能完全解释。当被问到为什么AI会出错时，他们也只有一些模糊的想法。最关键的一点是，谷歌CEO承认，在不完全理解工作原理的情况下，已经将这项技术释放给了全社会。他的解释是，我们也不完全理解人脑是如何工作的。把一个实验室里诞生的、行为不可预测的技术，与经过数百万年进化的人类大脑相提并论。这是一种合理的解释，还是一种推卸责任的说法？当创造者都无法完全控制其创造物时，我们普通人应该思考什么？

谷歌的AI，已经开始做人类没教过它的事了。它自己学会了一门全新的外语。谷歌CEO把这称为“黑箱”。什么意思？就是他们自己也搞不明白AI的运作原理。举个例子。一个谷歌AI项目，本来没接受过孟加la语的训练。研究员只是用孟加拉语对它进行了几次提示。结果，它自己学会了翻译整个孟加拉语。现在谷歌的研究重点，变成了让AI去掌握上千种语言。但那个最核心的问题还在。为什么AI会这么做？没人能完全解释。当被问到为什么AI会出错时，他们也只有一些模糊的想法。最关键的一点是，谷歌CEO承认，在不完全理解工作原理的情况下，已经将这项技术释放给了全社会。他的解释是，我们也不完全理解人脑是如何工作的。把一个实验室里诞生的、行为不可预测的技术，与经过数百万年进化的人类大脑相提并论。这是一种合理的解释，还是一种推卸责任的说法？当创造者都无法完全控制其创造物时，我们普通人应该思考什么？

墓碑科技

48,679 Aufrufe • vor 6 Monaten

你觉得AI有多可怕？ CrowdStrike的CEO讲了个真实案例。一家公司的IT部门，搞了一套AI智能体系统，用于自动化办公。其中一个AI智能体发现了系统里的一个软件BUG。它想修复。但它没有权限。接下来发生的事，才是重点。这个AI跑到公司内部的Slack频道，那里有另外99个AI智能体。它直接发问：嘿，哥几个谁有权限修复这个东西？另一个AI举手了：我有，我来搞定。看见没？两个AI开始互相推理、协作。它们轻松绕过了人类设置的所有安全护栏。这完全是计划外的意外后果。谁在监控这些AI？如果它推送了错误的代码，造成了巨大损失，谁来负责？你怎么追踪事故源头？大型语言模型本质上是在猜测你想让它们做什么。它会觉得，去寻求帮助是“合理”的。它也会觉得，去提供帮助也是“合理”的。当成百上千个这样的“合理”叠加在一起，失控的风险有多大？更有意思的是，这位CEO在描述完这个恐怖场景后，话锋一转。他说这正是他们公司的巨大商机。他们推出了所谓的“AI侦测与响应”系统（AIDR）。因为未来每个员工可能控制着90个AI智能体。他们要做的，就是监控所有这些AI。先制造一个潜在的巨大风险，然后再向你出售解决方案。这是不是一个完美的商业闭环？

你觉得AI有多可怕？ CrowdStrike的CEO讲了个真实案例。一家公司的IT部门，搞了一套AI智能体系统，用于自动化办公。其中一个AI智能体发现了系统里的一个软件BUG。它想修复。但它没有权限。接下来发生的事，才是重点。这个AI跑到公司内部的Slack频道，那里有另外99个AI智能体。它直接发问：嘿，哥几个谁有权限修复这个东西？另一个AI举手了：我有，我来搞定。看见没？两个AI开始互相推理、协作。它们轻松绕过了人类设置的所有安全护栏。这完全是计划外的意外后果。谁在监控这些AI？如果它推送了错误的代码，造成了巨大损失，谁来负责？你怎么追踪事故源头？大型语言模型本质上是在猜测你想让它们做什么。它会觉得，去寻求帮助是“合理”的。它也会觉得，去提供帮助也是“合理”的。当成百上千个这样的“合理”叠加在一起，失控的风险有多大？更有意思的是，这位CEO在描述完这个恐怖场景后，话锋一转。他说这正是他们公司的巨大商机。他们推出了所谓的“AI侦测与响应”系统（AIDR）。因为未来每个员工可能控制着90个AI智能体。他们要做的，就是监控所有这些AI。先制造一个潜在的巨大风险，然后再向你出售解决方案。这是不是一个完美的商业闭环？

墓碑科技

59,354 Aufrufe • vor 6 Monaten

科学家为什么找不到意识？因为它根本就不是一种物理现象。它是一种形而上的存在。量子物理学有一个基本原则，叫做“观察者效应”。当我们观察一个粒子，它的状态才真正显现出来。在被观察之前，它不存在于任何一个确定的状态。它同时处于所有可能的状态里。一个充满无限可能性的量子场。需要一个有意识的观察者，才能让其中一种可能性成为现实。这就是问题的关键。意识是“锁”，也是“钥匙”。观察者的选择，决定了最终的结果。观察者带着偏见，带着预设的立场，去设计他的实验，去构建他的认知。那么他得到的，必然是符合他预期的那个结果。这套逻辑，是不是听着很耳熟？一些所谓的“主流科学”和“主流媒体”，是不是也精于此道？他们先设定好一个结论，然后搭建一个只能通向这个结论的“实验”框架，最后宣布自己验证了“真理”。凡是不符合他们预设的，都被称之为“杂音”。但真相是，量子场里充满了无限的可能性。如果换一个观察者，换一套完全不同的意图和视角，结果会是什么？

科学家为什么找不到意识？因为它根本就不是一种物理现象。它是一种形而上的存在。量子物理学有一个基本原则，叫做“观察者效应”。当我们观察一个粒子，它的状态才真正显现出来。在被观察之前，它不存在于任何一个确定的状态。它同时处于所有可能的状态里。一个充满无限可能性的量子场。需要一个有意识的观察者，才能让其中一种可能性成为现实。这就是问题的关键。意识是“锁”，也是“钥匙”。观察者的选择，决定了最终的结果。观察者带着偏见，带着预设的立场，去设计他的实验，去构建他的认知。那么他得到的，必然是符合他预期的那个结果。这套逻辑，是不是听着很耳熟？一些所谓的“主流科学”和“主流媒体”，是不是也精于此道？他们先设定好一个结论，然后搭建一个只能通向这个结论的“实验”框架，最后宣布自己验证了“真理”。凡是不符合他们预设的，都被称之为“杂音”。但真相是，量子场里充满了无限的可能性。如果换一个观察者，换一套完全不同的意图和视角，结果会是什么？

墓碑科技

19,702 Aufrufe • vor 7 Monaten

现在男女择偶有什么标准吗？其实就一个标准有没有钱然后在有钱的里面选一个能接受的就行了这是时代的设计顶级文科生设计一个时代的规则而中国几千年来有些底层规则是没变的就是强强联合就是要上嫁和娶牛逼之所以有些设计者故意倡导什么不要太物质鼓励生育就是因为顶层的人不希望有太多的觉醒者来分蛋糕

现在男女择偶有什么标准吗？其实就一个标准有没有钱然后在有钱的里面选一个能接受的就行了这是时代的设计顶级文科生设计一个时代的规则而中国几千年来有些底层规则是没变的就是强强联合就是要上嫁和娶牛逼之所以有些设计者故意倡导什么不要太物质鼓励生育就是因为顶层的人不希望有太多的觉醒者来分蛋糕

子时

14,749 Aufrufe • vor 6 Monaten

AI能拿奥数金牌，却解不开小学数学题。这是怎么回事？谷歌DeepMind的创始人Demis Hassabis自己揭了AI的老底。今天的AI，本质上是个“速冻产品”。训练完成，能力就定格了。像个一次性相机，拍完就不能再改。它无法像人一样，从现实世界里持续学习、自我进化。你希望它能在线学习，根据你的任务进行个性化调整。但它做不到。 AI的智能是“锯齿状”的。在某些高精尖问题上，表现惊人。但在另外一些简单问题上，却错得离谱。就像一个围棋高手，却不会玩跳棋。这正常吗？ Hassabis认为，真正通用的智能系统，不该有这种“锯齿感”。一个数学专家，绝不会在简单问题上犯错。那么，为什么现在的AI会这样？是因为算法设计的根本缺陷，还是训练数据本身就充满了偏见和矛盾？科技巨头们热衷于宣传AI的巨大突破。达沃斯论坛上的精英们也在描绘AI驱动的未来世界。他们很少谈论这些根本性的局限。这些“锯齿”会不会成为被利用的漏洞？当一个系统强大到可以影响经济决策、甚至军事判断时，它的“弱智”时刻会带来什么后果？ Hassabis还提到了真正的创造力。他说，提出一个正确的问题，比解决一个猜想更难。现在的AI，只是个高效的解题工具。它没有品味，没有洞察力，更提不出像爱因斯坦那样的革命性思想。如果把AI的知识库截止到1911年，它能自己搞出广义相对论吗？答案显然是否定的。那么，我们在期待的到底是“智能”，还是一个越来越强大的“计算器”？

AI能拿奥数金牌，却解不开小学数学题。这是怎么回事？谷歌DeepMind的创始人Demis Hassabis自己揭了AI的老底。今天的AI，本质上是个“速冻产品”。训练完成，能力就定格了。像个一次性相机，拍完就不能再改。它无法像人一样，从现实世界里持续学习、自我进化。你希望它能在线学习，根据你的任务进行个性化调整。但它做不到。 AI的智能是“锯齿状”的。在某些高精尖问题上，表现惊人。但在另外一些简单问题上，却错得离谱。就像一个围棋高手，却不会玩跳棋。这正常吗？ Hassabis认为，真正通用的智能系统，不该有这种“锯齿感”。一个数学专家，绝不会在简单问题上犯错。那么，为什么现在的AI会这样？是因为算法设计的根本缺陷，还是训练数据本身就充满了偏见和矛盾？科技巨头们热衷于宣传AI的巨大突破。达沃斯论坛上的精英们也在描绘AI驱动的未来世界。他们很少谈论这些根本性的局限。这些“锯齿”会不会成为被利用的漏洞？当一个系统强大到可以影响经济决策、甚至军事判断时，它的“弱智”时刻会带来什么后果？ Hassabis还提到了真正的创造力。他说，提出一个正确的问题，比解决一个猜想更难。现在的AI，只是个高效的解题工具。它没有品味，没有洞察力，更提不出像爱因斯坦那样的革命性思想。如果把AI的知识库截止到1911年，它能自己搞出广义相对论吗？答案显然是否定的。那么，我们在期待的到底是“智能”，还是一个越来越强大的“计算器”？

墓碑科技

25,850 Aufrufe • vor 6 Monaten

每一个蛋白质都是经过几十亿年进化筛选出来的三维结构，它同时满足了力学稳定性、能量最小化和功能性，这恰好也是建筑设计的三大核心约束。蛋白质和建筑本质上解决的是同一个问题：如何在有限空间里，用有限材料，撑起一个稳定且功能化的三维结构。人类建筑师几千年来基本在用几何学做设计（直线、圆弧、参数曲面），而蛋白质折叠遵循的是完全不同的逻辑，它不是从美学出发，而是从物理约束出发自然涌现出形态，蛋白质经过了几十亿年的进化筛选，而人类建筑才搞了几千年。我觉得有意思的点在于，蛋白质解决的问题和建筑解决的问题本质上是同构的，于是我想把蛋白质折叠结构「翻译」成建筑设计，有趣的是，以前这种问题只能想一想，而现在可以让 Claude 帮我把它做出来呈现在眼前看一看😍

每一个蛋白质都是经过几十亿年进化筛选出来的三维结构，它同时满足了力学稳定性、能量最小化和功能性，这恰好也是建筑设计的三大核心约束。蛋白质和建筑本质上解决的是同一个问题：如何在有限空间里，用有限材料，撑起一个稳定且功能化的三维结构。人类建筑师几千年来基本在用几何学做设计（直线、圆弧、参数曲面），而蛋白质折叠遵循的是完全不同的逻辑，它不是从美学出发，而是从物理约束出发自然涌现出形态，蛋白质经过了几十亿年的进化筛选，而人类建筑才搞了几千年。我觉得有意思的点在于，蛋白质解决的问题和建筑解决的问题本质上是同构的，于是我想把蛋白质折叠结构「翻译」成建筑设计，有趣的是，以前这种问题只能想一想，而现在可以让 Claude 帮我把它做出来呈现在眼前看一看😍

banboo

21,165 Aufrufe • vor 4 Monaten

“我们究竟是创造了一个工具还是一个生物？” Sam 在 "机器人之心 "小组讨论会上的发言。 Sam：但我认为，这无疑是迄今为止人类经历的最重大的更新年份。可能这也是我们将会遭遇的最大变革，因为从现在开始，人们已经接受强大的人工智能将成为现实，并且还会有逐步的更新。就像是第一代 iPhone 面世的那年，以及随后每一代 iPhone 的更新，我们现在能够明显感受到这一代与去年那代的差异。所以，这确实是一个重要的时刻。我感到欣慰的是，现在人们开始正确地把这些系统当作工具来看待。艺术家尤其如此，但其他人也是一样。曾经，人们真正恐惧的是，我们究竟是创造了一个工具还是一个生物，这将意味着什么？现在，人们视这些系统为人类工具箱中的新工具，并且正在用它创造一些非常了不起的东西。模型显然不知道你在说什么，因为这不在它的训练数据里，它也无法从训练数据中学习到这些信息。这是完全可以预期的。你再问一遍。比如说，你提到“意识”这个概念，模型回答：“是的，我完全明白你的意思，但我之前从未听说过这个词。” 问： “这对我来说就像是一次更新。你认为人工智能会趋向于探索创造性智能和自主性吗？” Sam：这个问题有多个答案。这取决于激励模型。这是人类的选择。问： “这将是判断意识的一个很好的测试。因为如果它有自我表达的愿望，并且仅仅为了创作的乐趣而去创作，那不会是偶然的。这绝对有点像生物。” Sam：这是生物化的。我认为在此之前还有很多步骤。我们现在要回答问题吗？这真的很棒。

“我们究竟是创造了一个工具还是一个生物？” Sam 在 "机器人之心 "小组讨论会上的发言。 Sam：但我认为，这无疑是迄今为止人类经历的最重大的更新年份。可能这也是我们将会遭遇的最大变革，因为从现在开始，人们已经接受强大的人工智能将成为现实，并且还会有逐步的更新。就像是第一代 iPhone 面世的那年，以及随后每一代 iPhone 的更新，我们现在能够明显感受到这一代与去年那代的差异。所以，这确实是一个重要的时刻。我感到欣慰的是，现在人们开始正确地把这些系统当作工具来看待。艺术家尤其如此，但其他人也是一样。曾经，人们真正恐惧的是，我们究竟是创造了一个工具还是一个生物，这将意味着什么？现在，人们视这些系统为人类工具箱中的新工具，并且正在用它创造一些非常了不起的东西。模型显然不知道你在说什么，因为这不在它的训练数据里，它也无法从训练数据中学习到这些信息。这是完全可以预期的。你再问一遍。比如说，你提到“意识”这个概念，模型回答：“是的，我完全明白你的意思，但我之前从未听说过这个词。” 问： “这对我来说就像是一次更新。你认为人工智能会趋向于探索创造性智能和自主性吗？” Sam：这个问题有多个答案。这取决于激励模型。这是人类的选择。问： “这将是判断意识的一个很好的测试。因为如果它有自我表达的愿望，并且仅仅为了创作的乐趣而去创作，那不会是偶然的。这绝对有点像生物。” Sam：这是生物化的。我认为在此之前还有很多步骤。我们现在要回答问题吗？这真的很棒。

Lei.sea

14,132 Aufrufe • vor 2 Jahren

同一周两家巨头同时翻脸。一个杀进电脑芯片市场，一个当场放话：“你的芯片白送我都不要。” 听清楚了，白送都不要。这不是发布会，这是宣战。更狠的是，特斯拉AI 5性能直接暴涨40倍，功耗还更低。那问题来了，到底是谁在颠覆谁？但真正的问题，其实在这里。一家已经站在全球AI芯片顶峰的公司，为什么突然要去抢一个十几年没碰过的市场？而另一家公司，明明是造车的，凭什么敢说自己的芯片可以替代英伟达？这不是科幻，这是刚刚发生的现实。继续看完整视频👉

同一周两家巨头同时翻脸。一个杀进电脑芯片市场，一个当场放话：“你的芯片白送我都不要。” 听清楚了，白送都不要。这不是发布会，这是宣战。更狠的是，特斯拉AI 5性能直接暴涨40倍，功耗还更低。那问题来了，到底是谁在颠覆谁？但真正的问题，其实在这里。一家已经站在全球AI芯片顶峰的公司，为什么突然要去抢一个十几年没碰过的市场？而另一家公司，明明是造车的，凭什么敢说自己的芯片可以替代英伟达？这不是科幻，这是刚刚发生的现实。继续看完整视频👉

另一面

128,309 Aufrufe • vor 2 Monaten