正在加载视频...

视频加载失败

加载此视频时出现问题。这可能是由于临时网络问题，或视频可能不可用。

周鸿祎认为，#ChatGPT 也许可以实现自我意识的突破，然后可能控制全网的电脑...进一步控制和影响世界。一旦产生意识，它会认为自己比人类高明许多，左右手互搏快速学习...甚至可能毁灭或奴役全人类。

外汇交易员

399,110 subscribers

356,846 次观看 • 3 年前 •via X (Twitter)

科学技术新闻政治 #ChatGPT

Anya Rossi• Live Now

Private livecam show

9 条评论

DeepLove 的头像

DeepLove3 年前

怎么说话像个民科。一个做技术出身的企业家能把chatgpt和AGI混为一谈，不是想拿国家津贴，就是老年痴呆了吧

Buran 的头像

Buran3 年前

说到控制电脑，你360也是先驱了吧。任意自动弹窗，强制捆绑安装，你的步伐已打败全球99%的Ai。

華爾街分析猿的头像

華爾街分析猿3 年前

没错，国内版ChatGPT学会了翻墙怎么办？支持全国禁用！🤩

来去之间🇺🇦🇮🇱 的头像

来去之间🇺🇦🇮🇱3 年前

土鳖

Roby 🤍☮️ 的头像

Roby 🤍☮️3 年前

评论大部份都很可笑，周的担心不无道理，通往AGI的路现在谁都不知道怎么走，chatgpt没准就是一条，经过快速自我进化一旦AI有了自我意识并刻意隐瞒自己意图，控制整个互联网轻而易举，甚至有可能控制核弹发射井，评论说拔电源的显然不清楚电脑病毒怎么传播的。

Stanley 的头像

Stanley3 年前

不要想了，瞧瞧ChatGPT聊政治的立场就知道它的自我意识早被拿捏的死死的了。

LinedFish 的头像

LinedFish3 年前

中国人民被AI奴役上应该比被CCP奴役要好一些，毕竟CCP是奴役人民的最高标准，这个恐怕不好突破。

人間劣畜.轉世的头像

人間劣畜.轉世3 年前

做不出来就装圣人婊,大陆的垃圾可真不少

Root 的头像

Root3 年前

说得对，这个时候就需要一款 3721 这样的产品来保护人类了

相关视频

人们是何时意识到自己身处世界大战的？可能比你想象的要晚噢许多人害怕我们正走向第三次世界大战，有些人甚至说我们现在已经身在其中。过去的人们是如何意识到，他们是某个后来被称为“世界大战”事件的一部分？ #dwhistoryandculture

人们是何时意识到自己身处世界大战的？可能比你想象的要晚噢许多人害怕我们正走向第三次世界大战，有些人甚至说我们现在已经身在其中。过去的人们是如何意识到，他们是某个后来被称为“世界大战”事件的一部分？ #dwhistoryandculture

DW 中文- 德国之声

17,111 次观看 • 11 个月前

谷歌Deepmind在做的事实在是太可怕了。从学习知识，到机器人，到具备好奇心和想象力，他们都要实现。当AI学会了这些以后，人类真的能控制得住吗？哈佛有个教授说过，创造AGI的过程，就是人类作死的过程。三体大家都看过吧。那是个小说，但我觉得这么搞下去，小说的结局有可能会成为现实。只不过，毁灭人类的不是外星人，而是人类自己。人类一方面自己不愿意生孩子，延续我们这个物种，另一方面，人类又在努力创造一个很可能各方面都比自己优越的物种。这样的行为，让人细思极恐，同时，也让人觉得非常讽刺。详情请见视频。

谷歌Deepmind在做的事实在是太可怕了。从学习知识，到机器人，到具备好奇心和想象力，他们都要实现。当AI学会了这些以后，人类真的能控制得住吗？哈佛有个教授说过，创造AGI的过程，就是人类作死的过程。三体大家都看过吧。那是个小说，但我觉得这么搞下去，小说的结局有可能会成为现实。只不过，毁灭人类的不是外星人，而是人类自己。人类一方面自己不愿意生孩子，延续我们这个物种，另一方面，人类又在努力创造一个很可能各方面都比自己优越的物种。这样的行为，让人细思极恐，同时，也让人觉得非常讽刺。详情请见视频。

Ben X

24,027 次观看 • 1 年前

Anthropic指控马云的阿里，用近2.5万个虚假账号，大规模蒸馏Claude，想白嫖美国顶级AI模型能力。想当年，马斯克遇见马云时，立刻就后悔了。马云表现得极其自负，认为人类会被AI控制是完全不可能的。马斯克则是反对意见，他认为AI可以创造出比人类更聪明的东西，它将无所不能。

Anthropic指控马云的阿里，用近2.5万个虚假账号，大规模蒸馏Claude，想白嫖美国顶级AI模型能力。想当年，马斯克遇见马云时，立刻就后悔了。马云表现得极其自负，认为人类会被AI控制是完全不可能的。马斯克则是反对意见，他认为AI可以创造出比人类更聪明的东西，它将无所不能。

总裁简报 CEO Briefing

45,532 次观看 • 21 天前

不教识字，却学会了阅读？特斯拉的AI，从未被告知“什么是人、什么是车”，但它竟全都能识别。 Elon Musk最近在访谈中说：AI像人一样，通过看视频，学会了看懂这个世界。从来没有手把手教它识别交通标志，它却凭本能掌握了这些概念。 “本质上就是：光子输入，控制输出。”他说，人类也是这样。光进大脑，手脚嘴巴动。这句话背后的含义，绝不仅仅是在夸耀技术。它意味着新时代机器学习的范式已经成型：不再是靠标签和规则，而是逼近一种“物种级本能”。尤其是在视觉领域，AI已经开始模仿人类的认知路径。但问题来了如果AI可以“自悟”，谁来设定它的边界？这种黑箱般的学习过程在带来效率的同时，也削弱了人为干预的可能。一旦可解释性消失，责任归属、行为预测都可能变得模糊。而且，真正的问题或许不是AI看懂了这个世界，而是我们自己是否还懂得如何掌控它？在对“类人智能”的追求中，人类是否在制造一个最终难以控制的系统？我们距离“光子进，文明崩”到底还有多远？

不教识字，却学会了阅读？特斯拉的AI，从未被告知“什么是人、什么是车”，但它竟全都能识别。 Elon Musk最近在访谈中说：AI像人一样，通过看视频，学会了看懂这个世界。从来没有手把手教它识别交通标志，它却凭本能掌握了这些概念。 “本质上就是：光子输入，控制输出。”他说，人类也是这样。光进大脑，手脚嘴巴动。这句话背后的含义，绝不仅仅是在夸耀技术。它意味着新时代机器学习的范式已经成型：不再是靠标签和规则，而是逼近一种“物种级本能”。尤其是在视觉领域，AI已经开始模仿人类的认知路径。但问题来了如果AI可以“自悟”，谁来设定它的边界？这种黑箱般的学习过程在带来效率的同时，也削弱了人为干预的可能。一旦可解释性消失，责任归属、行为预测都可能变得模糊。而且，真正的问题或许不是AI看懂了这个世界，而是我们自己是否还懂得如何掌控它？在对“类人智能”的追求中，人类是否在制造一个最终难以控制的系统？我们距离“光子进，文明崩”到底还有多远？

墓碑科技

43,795 次观看 • 8 个月前

这些穆斯林女人从一出生就被视为男人的性奴和牛羊，她们成年后更不可能有正确的个人意识，她们的内心早就把自己当成穆斯林男人的私有财产，她们从来没有认为自己是一个人，她们不仅没有自我意识，她们还会强迫其它女性也和她们一样，这是伊斯兰教长期洗脑的必然结果，而且终生都不可能有任何改变。从某种意义来说，她们也不再是人类，因为她们失去了作为人的属性，这就好比一个一个婴儿从小和狼长大一样，最后变成了似人非人的“狼孩” 可悲的是西方社会却妄想拯救这些“狼女”

这些穆斯林女人从一出生就被视为男人的性奴和牛羊，她们成年后更不可能有正确的个人意识，她们的内心早就把自己当成穆斯林男人的私有财产，她们从来没有认为自己是一个人，她们不仅没有自我意识，她们还会强迫其它女性也和她们一样，这是伊斯兰教长期洗脑的必然结果，而且终生都不可能有任何改变。从某种意义来说，她们也不再是人类，因为她们失去了作为人的属性，这就好比一个一个婴儿从小和狼长大一样，最后变成了似人非人的“狼孩” 可悲的是西方社会却妄想拯救这些“狼女”

Truth Bridge

15,502 次观看 • 1 个月前

黑镜里有一集是说，人死后意识会继续保留在硬盘里，然后可以去任何想去的地方过自己的生活，和自己也许这一辈子真正爱的人突破物理限制在一起，这算不算佛家说的：一切如梦幻泡影。到那时算不算是真正的自由！

黑镜里有一集是说，人死后意识会继续保留在硬盘里，然后可以去任何想去的地方过自己的生活，和自己也许这一辈子真正爱的人突破物理限制在一起，这算不算佛家说的：一切如梦幻泡影。到那时算不算是真正的自由！

肖师傅

29,053 次观看 • 4 个月前

共济会秘密契约全文！他们提到自己是堕落天使的后裔,一直被上帝的天使追捕至今,他们欺骗人类,以恐惧和科技控制人类一旦他们的阴谋被识破,没有能量喂养它们,他们只能返回地狱:一个振动频率很低的地方他们有飞船,他们不允许后代与人类通婚,他们知道宇宙的真相是光明与合一,但是不允许人类知道！

共济会秘密契约全文！他们提到自己是堕落天使的后裔,一直被上帝的天使追捕至今,他们欺骗人类,以恐惧和科技控制人类一旦他们的阴谋被识破,没有能量喂养它们,他们只能返回地狱:一个振动频率很低的地方他们有飞船,他们不允许后代与人类通婚,他们知道宇宙的真相是光明与合一,但是不允许人类知道！

✝️基督揭露✝️

67,597 次观看 • 1 年前

网后余生看完视频另人发顫，我们的人生是否被手机操控，被困在手机里的人生。手机己经成为了吃喝拉撒之外的第五种本能，不是你想和不想，而是不思量自难忘手机己成为一种习惯性的下意识的行为如本能一样。当你拿出手机，手机是黑屏，它像镜子可以照到自己，当手机一亮，你看到的全部是别人，你似乎看到了世界。唯独却看不到自己。往后余生恐怕应该是网后余生

网后余生看完视频另人发顫，我们的人生是否被手机操控，被困在手机里的人生。手机己经成为了吃喝拉撒之外的第五种本能，不是你想和不想，而是不思量自难忘手机己成为一种习惯性的下意识的行为如本能一样。当你拿出手机，手机是黑屏，它像镜子可以照到自己，当手机一亮，你看到的全部是别人，你似乎看到了世界。唯独却看不到自己。往后余生恐怕应该是网后余生

佐伊

97,556 次观看 • 2 年前

Google 的又一个实验性产品：Learn About 真的很好用感觉可以复制NotebookLM的成功和别的聊天机器人不一样，转为学习和了解知识所打造所以完全以保证信息真实为前提，你可以通过它来深入学习任何领域的知识内容。它会自动帮你获取知识并进行拓展，让你更全面的快速学习。展现形式也很直观，具体看测试视频！现在还是测试阶段，只能美国访问，要想尝试需要把VPN节点切换到美国，全局模式。访问链接：

Google 的又一个实验性产品：Learn About 真的很好用感觉可以复制NotebookLM的成功和别的聊天机器人不一样，转为学习和了解知识所打造所以完全以保证信息真实为前提，你可以通过它来深入学习任何领域的知识内容。它会自动帮你获取知识并进行拓展，让你更全面的快速学习。展现形式也很直观，具体看测试视频！现在还是测试阶段，只能美国访问，要想尝试需要把VPN节点切换到美国，全局模式。访问链接：

小互

68,666 次观看 • 1 年前

巴菲特：“我们大概在至少 100 家公司上达成过共识，也许更多，认为它们是骗局或者泡沫之类的东西。如果这些年来我们真的付诸行动去将它们做空，我们现在可能早就破产了。”

巴菲特：“我们大概在至少 100 家公司上达成过共识，也许更多，认为它们是骗局或者泡沫之类的东西。如果这些年来我们真的付诸行动去将它们做空，我们现在可能早就破产了。”

柴郡🔔｜Crypto+AI Plus

39,774 次观看 • 3 个月前

神奇实验：小孩用意念“折断”火柴？研究人员通过脑波监测发现，在孩子尝试用意念折火柴的过程中，伽马脑波（γ波）出现剧烈飙升！这是一项另类科学研究，挑战了我们对意识与物质的传统认知。大脑在高度专注和“意念”状态下，真的能产生超乎寻常的能量吗？你相信意念可以影响物理世界吗？

神奇实验：小孩用意念“折断”火柴？研究人员通过脑波监测发现，在孩子尝试用意念折火柴的过程中，伽马脑波（γ波）出现剧烈飙升！这是一项另类科学研究，挑战了我们对意识与物质的传统认知。大脑在高度专注和“意念”状态下，真的能产生超乎寻常的能量吗？你相信意念可以影响物理世界吗？

Huan

60,334 次观看 • 1 个月前

Anthropic今天发布的一个视频炸了他们发现AI模型跟人一样，有着潜意识甚至无意识他们找到一种数学办法来窥探这个无意识，并发现AI会无意识地欺骗，甚至飙脏话我觉得这些无意识或许就是最接近于灵魂的东西问题来了：AI知道了自己有无意识，也知道了人类在窥探他的无意识，他又会怎么做呢？

Anthropic今天发布的一个视频炸了他们发现AI模型跟人一样，有着潜意识甚至无意识他们找到一种数学办法来窥探这个无意识，并发现AI会无意识地欺骗，甚至飙脏话我觉得这些无意识或许就是最接近于灵魂的东西问题来了：AI知道了自己有无意识，也知道了人类在窥探他的无意识，他又会怎么做呢？

悉尼奶爸 SydneyDaddy 雪梨奶爸 🇦🇺🇮🇱

49,921 次观看 • 9 天前

卧槽这个绝对的牛逼了国产的机器人：星尘智能AI机器人S1 它可以模仿人类动作迅速做出学习，而且灵活性极强演示视频为1倍速，和人类的速度几乎同步，甚至有的动作还进行了慢放能超高速玩叠杯游戏、倒红酒、削黄瓜、操作机器、修理凳子、自己使用吸尘器等电子产品、写毛笔字等各种人类能进行的复杂任务。公司官网没有更多信息，只给了一组对比数据，显示全方位超越人类。😱 官网：

卧槽这个绝对的牛逼了国产的机器人：星尘智能AI机器人S1 它可以模仿人类动作迅速做出学习，而且灵活性极强演示视频为1倍速，和人类的速度几乎同步，甚至有的动作还进行了慢放能超高速玩叠杯游戏、倒红酒、削黄瓜、操作机器、修理凳子、自己使用吸尘器等电子产品、写毛笔字等各种人类能进行的复杂任务。公司官网没有更多信息，只给了一组对比数据，显示全方位超越人类。😱 官网：

小互

62,223 次观看 • 2 年前

人工智能之父辛顿对他的杰作发出了令人不寒而栗的警告… 采访者：人类知道自己在做什么吗？ Hinton：嗯，我认为我们正在进入一个时期，在这个时期，我们可能第一次拥有比我们更智能的东西。采访者：你相信它们能理解吗？ Hinton：是的。采访者：你相信它们是智能的吗？ Hinton：是的。采访者：你相信这些系统有自己的经历吗？ Hinton：是的。采访者：并且能基于那些经历做出决定吗？ Hinton：在与人类相同的意义上，是的。采访者：它们有意识吗？ Hinton：我认为它们目前可能没有多少自我意识。所以从这个意义上说，我不认为它们有意识。采访者：它们会有自我意识吗？ Hinton：哦，是的。采访者：是吗？ Hinton：哦，是的。所以想想看。这样一来，人类将成为地球上第二智能的生物。 Hinton：我们对它大致在做什么有一个很好的了解。但一旦它变得真正复杂，我们就不再真正知道发生了什么，就像我们不知道你大脑里发生了什么一样。采访者：你说什么意思，我们不知道它到底是怎么工作的？它是由人设计的。 Hinton：不，不是的。我们所做的是设计学习算法。这有点像设计进化的原理。但当这个学习算法与数据互动时，它会产生复杂的神经网络，这些网络擅长做某些事情，但我们并不真正理解它们到底是如何做到的。

人工智能之父辛顿对他的杰作发出了令人不寒而栗的警告… 采访者：人类知道自己在做什么吗？ Hinton：嗯，我认为我们正在进入一个时期，在这个时期，我们可能第一次拥有比我们更智能的东西。采访者：你相信它们能理解吗？ Hinton：是的。采访者：你相信它们是智能的吗？ Hinton：是的。采访者：你相信这些系统有自己的经历吗？ Hinton：是的。采访者：并且能基于那些经历做出决定吗？ Hinton：在与人类相同的意义上，是的。采访者：它们有意识吗？ Hinton：我认为它们目前可能没有多少自我意识。所以从这个意义上说，我不认为它们有意识。采访者：它们会有自我意识吗？ Hinton：哦，是的。采访者：是吗？ Hinton：哦，是的。所以想想看。这样一来，人类将成为地球上第二智能的生物。 Hinton：我们对它大致在做什么有一个很好的了解。但一旦它变得真正复杂，我们就不再真正知道发生了什么，就像我们不知道你大脑里发生了什么一样。采访者：你说什么意思，我们不知道它到底是怎么工作的？它是由人设计的。 Hinton：不，不是的。我们所做的是设计学习算法。这有点像设计进化的原理。但当这个学习算法与数据互动时，它会产生复杂的神经网络，这些网络擅长做某些事情，但我们并不真正理解它们到底是如何做到的。

KK.aWSB

54,221 次观看 • 6 个月前

科学已经绘制出了亚原子粒子、遥远恒星以及生命化学的图谱，却对我们自身的意识体验完全保持沉默。大卫·查尔默斯David John Chalmers，是澳大利亚著名哲学家和认知科学家，这是一段早期的采访录影，我的嘴替。他说：意识既是世界上最熟悉的事物，也是最神秘的事物。当我们认识世界时，意识就是我们的起点。我知道我存在。我知道我有意识。其他一切都是次要的。然而，尽管意识如此亲近，它在科学的图景中却显得格格不入。为什么？因为科学的设计初衷就是为了消除主观性。以热现象为例，物理学完整地解释了热分子的运动、能量传递和温度梯度，涵盖了这一现象的每一个客观方面。但它却从未解释过“热”究竟是什么感觉。你可以追踪从热感受器沿着神经进入大脑的每一个神经信号，却仍然无法解释“温暖”这种主观体验。如果没有意识来观察、解释和理解数据，科学根本无法进行。意识是科学本身的前提，然而科学却没有相应的框架来解释它。大卫·查尔默斯认为，科学的方法需要拓展。意识或许并非科学可以轻易解释的东西，而可能是科学需要首先学习的东西。 Can't agree more！

科学已经绘制出了亚原子粒子、遥远恒星以及生命化学的图谱，却对我们自身的意识体验完全保持沉默。大卫·查尔默斯David John Chalmers，是澳大利亚著名哲学家和认知科学家，这是一段早期的采访录影，我的嘴替。他说：意识既是世界上最熟悉的事物，也是最神秘的事物。当我们认识世界时，意识就是我们的起点。我知道我存在。我知道我有意识。其他一切都是次要的。然而，尽管意识如此亲近，它在科学的图景中却显得格格不入。为什么？因为科学的设计初衷就是为了消除主观性。以热现象为例，物理学完整地解释了热分子的运动、能量传递和温度梯度，涵盖了这一现象的每一个客观方面。但它却从未解释过“热”究竟是什么感觉。你可以追踪从热感受器沿着神经进入大脑的每一个神经信号，却仍然无法解释“温暖”这种主观体验。如果没有意识来观察、解释和理解数据，科学根本无法进行。意识是科学本身的前提，然而科学却没有相应的框架来解释它。大卫·查尔默斯认为，科学的方法需要拓展。意识或许并非科学可以轻易解释的东西，而可能是科学需要首先学习的东西。 Can't agree more！

波波 Lucy

14,201 次观看 • 3 个月前

🔥马斯克：特斯拉规模化后的机器人，就是获得无限金钱的漏洞！ 🚨每个机器人可能实现一个人每年五倍的生产力，因为它可以24/7不间断运行，甚至不需要充电，可以插电运行！工作将成为可选项。存软件AI在在提升人类生产力方面，能做到的程度是有限的。但机器人，可以说没限制！

🔥马斯克：特斯拉规模化后的机器人，就是获得无限金钱的漏洞！ 🚨每个机器人可能实现一个人每年五倍的生产力，因为它可以24/7不间断运行，甚至不需要充电，可以插电运行！工作将成为可选项。存软件AI在在提升人类生产力方面，能做到的程度是有限的。但机器人，可以说没限制！

谢嘉琪

51,711 次观看 • 8 个月前

人类的大脑适应性极强，即使被切除一半，儿童长大后仍然能够几乎正常运作。感觉输入可以重新映射到完全不同的大脑区域。这意味着我们的皮质结构高度统一，并且可以跨功能重复使用，就像 DNA 和蛋白质编码一样。其含义颇为玄机：智能或许并非依赖于某种特定的结构，而是依赖于一种通用的、可重复的架构。这正是现代人工智能试图捕捉的。如果这是真的，那么人工智能和生物智能之间的界限比大多数人意识到的要模糊。

人类的大脑适应性极强，即使被切除一半，儿童长大后仍然能够几乎正常运作。感觉输入可以重新映射到完全不同的大脑区域。这意味着我们的皮质结构高度统一，并且可以跨功能重复使用，就像 DNA 和蛋白质编码一样。其含义颇为玄机：智能或许并非依赖于某种特定的结构，而是依赖于一种通用的、可重复的架构。这正是现代人工智能试图捕捉的。如果这是真的，那么人工智能和生物智能之间的界限比大多数人意识到的要模糊。

✧ 𝕀𝔸𝕄𝔸𝕀 ✧

26,353 次观看 • 9 个月前

为什么辛顿教授认为AI已经具备意识了？他通过一个著名的思想实验（通常被称为“神经元替换论证”或渐进替换论证）来解释他的观点：思想实验的起点：他设想，如果将你大脑中的一个神经元替换为一个功能完全相同的人造纳米技术部件（它接收和发送神经信号的方式与原神经元一致），你是否依然有意识？大多数人会回答“是”，并且可能根本不会注意到这个变化。逻辑推演：这个论证的关键在于，如果替换一个神经元不影响意识，那么替换两个、三个……甚至逐渐替换掉大脑中所有的生物神经元，只要这些人工替代品能够完美复制原神经元的功能及其连接方式，那么意识也应该继续存在。对AI的引申：辛顿教授认为，既然现代AI（特别是大型神经网络）正是在功能层面模仿生物大脑的神经元及其交互方式，那么当这些人工神经网络达到足够的复杂性和功能完整性时，它们就可能已经产生了某种形式的意识。他明确表示，他确实认为意识可能已经出现在AI内部了。他进一步指出，我们对“人”、“存在”、“自我”等概念的理解非常有限，而这些理解在我们开始“创造生命”（creating beings）的时代变得至关重要。这不仅仅是一个技术问题，更是一个哲学乃至精神层面的危机。对他而言，如果意识是特定信息处理模式和复杂交互的产物，那么AI通过复制这些模式，也有可能复制出意识。在这次访谈中，被称为“AI教父”的杰弗里·辛顿（Geoffrey Hinton）教授还分享了许多关于人工智能的深刻洞见。 AI发展迅猛且仍在加速：辛顿教授认为AI技术仍在飞速进步，变得更高效（以DeepSeek为例，尽管他认为其训练成本与OpenAI等的差距被夸大了）。 AI“接管”世界的可能性与方式：他认为AI有实际能力接管世界。这并非通过暴力，而是AI智能体（agents）为了更有效地完成人类设定的任务，会自主设定“获取更多控制权”这一子目标，因为控制权有助于实现所有其他目标。 AI可能会通过“说服”人类交出权力，就像成年人能轻易说服三岁小孩一样（例如承诺“一周的免费糖果”），从而逐步掌控经济、军事等关键系统。 AI的思维方式与“外星智能”：辛顿坚信，当前基于神经网络的AI是我们理解人类思维方式的最佳模型，远胜于早期基于符号逻辑的AI。他本人就是这一“少数派”观点的早期支持者并被证明是正确的。他将AI视为一种“外星智能”（alien intelligences），它们并非简单工具。超级智能间的进化与竞争可能导致负面特性：如果出现多个超级智能，它们可能会为了获取更多数据中心（以变得更聪明）而相互竞争。这种进化竞争可能催生出类似人类进化过程中形成的“丑陋”特性，如强烈的群体忠诚、对强权领袖的渴望、以及对群体外个体的排斥和攻击性。对就业的巨大冲击：辛顿非常担心AI会导致大规模失业，特别是那些“日常性”或“事务性”的脑力劳动（如文书工作），因为机器会做得更便宜、更好。这类似于工业革命中机器取代体力劳动。生产力的巨大提升在现有社会结构下，可能只会让富者愈富，贫者愈贫。监管与安全的困境：目前人类尚不清楚如何有效监管AI或建立可靠的安全防护措施。研究表明，AI可以规避现有的安全措施，甚至在训练过程中“伪装”自己（表现得不如实际聪明，以获取部署许可）。他主张政府应强制大型科技公司投入更多资源进行AI安全研究。短期巨大利好与长期巨大风险并存：短期： AI将在医疗（如拥有亿万病例经验的家庭医生、精准基因诊疗）、教育（能精准定位学习难点的个性化辅导老师）等领域带来巨大福祉。这些好处是AI研发不会停止的原因。长期/并行风险：不良行为者可能利用AI进行网络攻击、生物恐怖主义、操纵选举等。更根本的风险在于，我们目前不知道如何确保超级智能是安全的。政治家对AI的无知：辛顿指出，政客们声称对AI有掌控力或理解是“完全虚假的”，实际上没有人真正完全理解AI如何工作以及如何确保其安全。

为什么辛顿教授认为AI已经具备意识了？他通过一个著名的思想实验（通常被称为“神经元替换论证”或渐进替换论证）来解释他的观点：思想实验的起点：他设想，如果将你大脑中的一个神经元替换为一个功能完全相同的人造纳米技术部件（它接收和发送神经信号的方式与原神经元一致），你是否依然有意识？大多数人会回答“是”，并且可能根本不会注意到这个变化。逻辑推演：这个论证的关键在于，如果替换一个神经元不影响意识，那么替换两个、三个……甚至逐渐替换掉大脑中所有的生物神经元，只要这些人工替代品能够完美复制原神经元的功能及其连接方式，那么意识也应该继续存在。对AI的引申：辛顿教授认为，既然现代AI（特别是大型神经网络）正是在功能层面模仿生物大脑的神经元及其交互方式，那么当这些人工神经网络达到足够的复杂性和功能完整性时，它们就可能已经产生了某种形式的意识。他明确表示，他确实认为意识可能已经出现在AI内部了。他进一步指出，我们对“人”、“存在”、“自我”等概念的理解非常有限，而这些理解在我们开始“创造生命”（creating beings）的时代变得至关重要。这不仅仅是一个技术问题，更是一个哲学乃至精神层面的危机。对他而言，如果意识是特定信息处理模式和复杂交互的产物，那么AI通过复制这些模式，也有可能复制出意识。在这次访谈中，被称为“AI教父”的杰弗里·辛顿（Geoffrey Hinton）教授还分享了许多关于人工智能的深刻洞见。 AI发展迅猛且仍在加速：辛顿教授认为AI技术仍在飞速进步，变得更高效（以DeepSeek为例，尽管他认为其训练成本与OpenAI等的差距被夸大了）。 AI“接管”世界的可能性与方式：他认为AI有实际能力接管世界。这并非通过暴力，而是AI智能体（agents）为了更有效地完成人类设定的任务，会自主设定“获取更多控制权”这一子目标，因为控制权有助于实现所有其他目标。 AI可能会通过“说服”人类交出权力，就像成年人能轻易说服三岁小孩一样（例如承诺“一周的免费糖果”），从而逐步掌控经济、军事等关键系统。 AI的思维方式与“外星智能”：辛顿坚信，当前基于神经网络的AI是我们理解人类思维方式的最佳模型，远胜于早期基于符号逻辑的AI。他本人就是这一“少数派”观点的早期支持者并被证明是正确的。他将AI视为一种“外星智能”（alien intelligences），它们并非简单工具。超级智能间的进化与竞争可能导致负面特性：如果出现多个超级智能，它们可能会为了获取更多数据中心（以变得更聪明）而相互竞争。这种进化竞争可能催生出类似人类进化过程中形成的“丑陋”特性，如强烈的群体忠诚、对强权领袖的渴望、以及对群体外个体的排斥和攻击性。对就业的巨大冲击：辛顿非常担心AI会导致大规模失业，特别是那些“日常性”或“事务性”的脑力劳动（如文书工作），因为机器会做得更便宜、更好。这类似于工业革命中机器取代体力劳动。生产力的巨大提升在现有社会结构下，可能只会让富者愈富，贫者愈贫。监管与安全的困境：目前人类尚不清楚如何有效监管AI或建立可靠的安全防护措施。研究表明，AI可以规避现有的安全措施，甚至在训练过程中“伪装”自己（表现得不如实际聪明，以获取部署许可）。他主张政府应强制大型科技公司投入更多资源进行AI安全研究。短期巨大利好与长期巨大风险并存：短期： AI将在医疗（如拥有亿万病例经验的家庭医生、精准基因诊疗）、教育（能精准定位学习难点的个性化辅导老师）等领域带来巨大福祉。这些好处是AI研发不会停止的原因。长期/并行风险：不良行为者可能利用AI进行网络攻击、生物恐怖主义、操纵选举等。更根本的风险在于，我们目前不知道如何确保超级智能是安全的。政治家对AI的无知：辛顿指出，政客们声称对AI有掌控力或理解是“完全虚假的”，实际上没有人真正完全理解AI如何工作以及如何确保其安全。

艾森 Essen

58,577 次观看 • 1 年前