正在加载视频...

视频加载失败

加载此视频时出现问题。这可能是由于临时网络问题，或视频可能不可用。

OpenAI CEO Sam Altman警告，递归自我改进可能令AI发展迅速加速，导致人类无法理解其进展或在必要时干预。他表示，行业不能以竞争为由冒险；OpenAI过去曾主动放慢进度，未来也会这样做，并应避免开发无法保证对齐、可监控性和安全性的系统。

Inty News

752,606 subscribers

22,133 次观看 • 3 天前 •via X (Twitter)

新闻政治科学技术

Anya Rossi• Live Now

Private livecam show

2 条评论

Mia 的头像

Mia3 天前

棋高一着（技高一筹）

86高返weex小鹿的头像

86高返weex小鹿3 天前

又在画大饼累了

相关视频

Anthropic的Claude AI成功自主种植番茄超过100天，但这项成果并非指向农业未来，而是展示了AI替代人类劳动力的可能性。AI正在快速进入原本由人类完成的工作领域，未来农场可能不再需要人工干预。

Anthropic的Claude AI成功自主种植番茄超过100天，但这项成果并非指向农业未来，而是展示了AI替代人类劳动力的可能性。AI正在快速进入原本由人类完成的工作领域，未来农场可能不再需要人工干预。

Bill The Investor

95,788 次观看 • 6 个月前

🔥马斯克：“我从未见过任何科技像AI这样飞速发展！我见证过许多技术进步。但AI这种发展速度，就像一场超音速海啸。不过你必须将AI和机器人技术（物理AI）结合”。 🚨在他眼中，物理AI和太空飞行，可能将占据未来公司价值的绝大部分！

🔥马斯克：“我从未见过任何科技像AI这样飞速发展！我见证过许多技术进步。但AI这种发展速度，就像一场超音速海啸。不过你必须将AI和机器人技术（物理AI）结合”。 🚨在他眼中，物理AI和太空飞行，可能将占据未来公司价值的绝大部分！

谢嘉琪

32,998 次观看 • 8 个月前

人工智慧公司Anthropic一名资深安全研究员警告，未来十年内，AI 有超过一成机率可能导致“全人类灭绝”。研究员埃文·胡宾格（Evan Hubinger）表示，目前的AI模型风险仍然偏低，但他担心相关技术将快速进步，最终发展到足以对人类生存构成威胁的程度。他的言论再次引发外界对AI安全性的讨论，包括如何降低潜在风险，以及科技公司应在技术发展与安全监管之间如何取得平衡。

人工智慧公司Anthropic一名资深安全研究员警告，未来十年内，AI 有超过一成机率可能导致“全人类灭绝”。研究员埃文·胡宾格（Evan Hubinger）表示，目前的AI模型风险仍然偏低，但他担心相关技术将快速进步，最终发展到足以对人类生存构成威胁的程度。他的言论再次引发外界对AI安全性的讨论，包括如何降低潜在风险，以及科技公司应在技术发展与安全监管之间如何取得平衡。

BBC News 中文

90,092 次观看 • 15 天前

Sam Altman ：“AI的能力过剩局面从未如此严重。” “人工智能已经能够进行研究、编写软件并执行实际的经济工作，但企业吸收的速度却慢得令人担忧。” “人工智能的能力发展速度远远超过了其应用普及速度。究竟是工具还是团队成员？这才是关键所在。当人工智能被视为同事而非软件时，整个公司的结构都会发生改变。”

Sam Altman ：“AI的能力过剩局面从未如此严重。” “人工智能已经能够进行研究、编写软件并执行实际的经济工作，但企业吸收的速度却慢得令人担忧。” “人工智能的能力发展速度远远超过了其应用普及速度。究竟是工具还是团队成员？这才是关键所在。当人工智能被视为同事而非软件时，整个公司的结构都会发生改变。”

KK.aWSB

60,048 次观看 • 7 个月前

Jeff Yan 谈为什么还要留在加密行业 2 月 19 日 Hyperliquid 创始人 Jeff Yan 在接受 When Shift Happens 频道采访时表示，加密行业的价值在于应对 AI 取代人类智能这一 “定时炸弹”。他指出，在 AI 全面超越人类之前，人类必须建立一个 AI 可以接入的金融系统。因为现有传统金融体系无法让代码和价值处于同一维度，AI 绝无可能接入。因此，建设一个由人类拥有所有权、且可编程和开放的系统至关重要。Hyperliquid 正是这一集体努力的一部分，旨在为未来的 AI 时代提供一个构建精良、具备自主性与无需许可特性的金融基础设施。来源：When Shift Happens

Jeff Yan 谈为什么还要留在加密行业 2 月 19 日 Hyperliquid 创始人 Jeff Yan 在接受 When Shift Happens 频道采访时表示，加密行业的价值在于应对 AI 取代人类智能这一 “定时炸弹”。他指出，在 AI 全面超越人类之前，人类必须建立一个 AI 可以接入的金融系统。因为现有传统金融体系无法让代码和价值处于同一维度，AI 绝无可能接入。因此，建设一个由人类拥有所有权、且可编程和开放的系统至关重要。Hyperliquid 正是这一集体努力的一部分，旨在为未来的 AI 时代提供一个构建精良、具备自主性与无需许可特性的金融基础设施。来源：When Shift Happens

吴说区块链

22,536 次观看 • 6 个月前

正在巴黎出席全球人工智能峰会的美国副总统万斯2月11日警告说，对人工智能行业过度的监管可能会扼杀技术进步。此次峰会召开正值处于人工智能研发前沿的国家争夺在这个行业的领先地位。法国希望峰会通过声明，宣称人工智能应具有包容性和可持续性。详细：

正在巴黎出席全球人工智能峰会的美国副总统万斯2月11日警告说，对人工智能行业过度的监管可能会扼杀技术进步。此次峰会召开正值处于人工智能研发前沿的国家争夺在这个行业的领先地位。法国希望峰会通过声明，宣称人工智能应具有包容性和可持续性。详细：

美国之音中文网

42,987 次观看 • 1 年前

马斯克：如果我们堕入共产主义，我们可能无法实现多行星文明 “美国需要足够强大，并且维持足够长的时间，才能把生命扩展到其他行星，并且把AI和机器人发展到我们可以确保未来是美好的程度。另一方面，如果我们堕入——比如说——共产主义，或者某种国家极端压迫的状态，那意味着我们可能无法实现多行星文明。国家可能会扼杀我们在AI和机器人领域的进步。”

马斯克：如果我们堕入共产主义，我们可能无法实现多行星文明 “美国需要足够强大，并且维持足够长的时间，才能把生命扩展到其他行星，并且把AI和机器人发展到我们可以确保未来是美好的程度。另一方面，如果我们堕入——比如说——共产主义，或者某种国家极端压迫的状态，那意味着我们可能无法实现多行星文明。国家可能会扼杀我们在AI和机器人领域的进步。”

🍁Blue Sky ✊️ ✊️ ✊️

74,201 次观看 • 7 个月前

🚨前OpenAI董事Helen Toner：Sam Altman曾多次对董事会公然撒谎。参与解雇他的4名董事一致认为，已无法信任Sam提供的信息。他汇报的安全流程存在不实与误导，使董事会根本无法判断这些安全机制是否有效、是否需要改进。而当被质疑时，Sam总能给出听起来“无关紧要”的解释，把严重问题轻描淡写。

🚨前OpenAI董事Helen Toner：Sam Altman曾多次对董事会公然撒谎。参与解雇他的4名董事一致认为，已无法信任Sam提供的信息。他汇报的安全流程存在不实与误导，使董事会根本无法判断这些安全机制是否有效、是否需要改进。而当被质疑时，Sam总能给出听起来“无关紧要”的解释，把严重问题轻描淡写。

谢嘉琪

45,092 次观看 • 8 个月前

陶哲轩也慌了，他在9月11号的科学与人工智能峰会的演讲上，在最后的答疑环节，明确表达了应该减慢AI的速度： “说真的，令人惊叹的是，我们居然愿意去改变一切，却对接下来会发生什么完全毫无头绪。我们应该减慢AI的速度，目前这个发展节奏简直太疯狂了，而且完全没有任何理由要发展得这么快。”

陶哲轩也慌了，他在9月11号的科学与人工智能峰会的演讲上，在最后的答疑环节，明确表达了应该减慢AI的速度： “说真的，令人惊叹的是，我们居然愿意去改变一切，却对接下来会发生什么完全毫无头绪。我们应该减慢AI的速度，目前这个发展节奏简直太疯狂了，而且完全没有任何理由要发展得这么快。”

Gorden Sun

56,774 次观看 • 6 天前

珍爱生命，远离女司机！真的是胆大妄为、能人辈出，好在她的运气还不错，这个时段其他车辆较少，加之应该是高速进口，刚刚进来的车速度不快，但她的这种意识和行为，存在致命的安全隐患，不仅自己致命，关键是也会要了别人的命！

珍爱生命，远离女司机！真的是胆大妄为、能人辈出，好在她的运气还不错，这个时段其他车辆较少，加之应该是高速进口，刚刚进来的车速度不快，但她的这种意识和行为，存在致命的安全隐患，不仅自己致命，关键是也会要了别人的命！

洼地老牛

185,181 次观看 • 11 个月前

马斯克再次解释：为什么未来大家都不用再为钱发愁马斯克在近期播客采访中，再次解释了此前他谈到关于“未来大家都不用再为钱发愁，也不需要再为了工作操心”的观点。他预测，AI和机器人会在可见的将来完全接管生产与服务，人类所需的物质几乎都能通过AI自动提供。因此，人类将多出大把空闲时间，工作将变成“可选项”，不再是生存所需，而是兴趣驱动。同时，马斯克也强调，大家不要混淆“他预测的东西”和“他想要实现的东西”。他说到：“我预测的，并不代表是我想要的。” 他提到，人们常误解他的立场，以为他是AI发展的鼓吹者，但事实上他本人也希望AI和机器人的进展能慢下来，但问题是，这不是他本人可以控制的 “它发展得太快了，快到有点吓人。”马斯克说，即使他不喜欢，AI和机器人也在加速向前。

马斯克再次解释：为什么未来大家都不用再为钱发愁马斯克在近期播客采访中，再次解释了此前他谈到关于“未来大家都不用再为钱发愁，也不需要再为了工作操心”的观点。他预测，AI和机器人会在可见的将来完全接管生产与服务，人类所需的物质几乎都能通过AI自动提供。因此，人类将多出大把空闲时间，工作将变成“可选项”，不再是生存所需，而是兴趣驱动。同时，马斯克也强调，大家不要混淆“他预测的东西”和“他想要实现的东西”。他说到：“我预测的，并不代表是我想要的。” 他提到，人们常误解他的立场，以为他是AI发展的鼓吹者，但事实上他本人也希望AI和机器人的进展能慢下来，但问题是，这不是他本人可以控制的 “它发展得太快了，快到有点吓人。”马斯克说，即使他不喜欢，AI和机器人也在加速向前。

PANews丨APP全面升级

62,369 次观看 • 9 个月前

AI亿万富翁CEO表示，在脑机接口准备就绪之前，他不想生孩子。他说：“我想等到我们弄清楚 Neuralink 或其他——它被称为脑机接口。所以大脑与其他方式与计算机互联，直到它们开始工作。 “因为有几个原因。首先，在你生命的前七年左右，你的大脑比任何其他时期都更具神经可塑性。所以如果你要获得这些其他技术，那些出生时就带有它们的孩子将以疯狂、疯狂的方式学习如何使用它们。就像它实际上会成为他们大脑的一部分，这种方式对一个成年人在大脑中植入 Neuralink 或其他东西来说永远不会是真的。人类只以一定的速度进化。人类会随着时间变得更聪明。只是这是在数百万年的时间尺度上，因为自然选择和进化真的很慢。所以如果你把这个向前推演，你必须有 AI 继续变得更聪明，继续改进——就像它们会真的很快继续改进。而且你知道，生物学只会以那么快的速度改进。我们在某个点上需要的是最终自己接入 AI 的能力。我认为我们将需要一些互联或连接，让我们的大脑直接连接到 AI、在互联网中，所有这些东西。” “而且它——它可能很危险，而且可能，你知道，正如你所说，可怕和吓人。但我们只是必须去做。就像 AI 将像这样发展，人类将以慢得多的速度改进。我们将需要接入那种能力。”

AI亿万富翁CEO表示，在脑机接口准备就绪之前，他不想生孩子。他说：“我想等到我们弄清楚 Neuralink 或其他——它被称为脑机接口。所以大脑与其他方式与计算机互联，直到它们开始工作。 “因为有几个原因。首先，在你生命的前七年左右，你的大脑比任何其他时期都更具神经可塑性。所以如果你要获得这些其他技术，那些出生时就带有它们的孩子将以疯狂、疯狂的方式学习如何使用它们。就像它实际上会成为他们大脑的一部分，这种方式对一个成年人在大脑中植入 Neuralink 或其他东西来说永远不会是真的。人类只以一定的速度进化。人类会随着时间变得更聪明。只是这是在数百万年的时间尺度上，因为自然选择和进化真的很慢。所以如果你把这个向前推演，你必须有 AI 继续变得更聪明，继续改进——就像它们会真的很快继续改进。而且你知道，生物学只会以那么快的速度改进。我们在某个点上需要的是最终自己接入 AI 的能力。我认为我们将需要一些互联或连接，让我们的大脑直接连接到 AI、在互联网中，所有这些东西。” “而且它——它可能很危险，而且可能，你知道，正如你所说，可怕和吓人。但我们只是必须去做。就像 AI 将像这样发展，人类将以慢得多的速度改进。我们将需要接入那种能力。”

KK.aWSB

47,549 次观看 • 9 个月前

🚨 重磅：芝加哥警察局长因支持ICE而非自由派立场，刷屏全美！在深蓝大本营芝加哥，警察局长Larry Snelling 讲出了法治常识——🔥 “让我把话说清楚：联邦特工、ICE（美国移民与海关执法局）、HSI（国土安全调查局）都是执法人员。如果你围堵他们...开车冲撞，就是使用致命武力，他们可以回击制止你！我们必须清楚这些法律。我们不能成为一个任由个人私自执法、对执法人员犯罪的社会！你可能不喜欢他们的行动，我能理解，但这不意味着你可以违法，尤其是做出可能导致致命后果的行为。我们需要保障所有人安全。对于联邦特工，我们不得干扰他们依法履行职责。”

🚨 重磅：芝加哥警察局长因支持ICE而非自由派立场，刷屏全美！在深蓝大本营芝加哥，警察局长Larry Snelling 讲出了法治常识——🔥 “让我把话说清楚：联邦特工、ICE（美国移民与海关执法局）、HSI（国土安全调查局）都是执法人员。如果你围堵他们...开车冲撞，就是使用致命武力，他们可以回击制止你！我们必须清楚这些法律。我们不能成为一个任由个人私自执法、对执法人员犯罪的社会！你可能不喜欢他们的行动，我能理解，但这不意味着你可以违法，尤其是做出可能导致致命后果的行为。我们需要保障所有人安全。对于联邦特工，我们不得干扰他们依法履行职责。”

希望之聲灣區廣播電台

96,098 次观看 • 8 个月前

李克强正式卸任国务院总理职务之前，曾进行了一系列具有“告别”意义的走访活动。可见，他对中国发展前景的堪忧。值得注意的是，无论是在发改委还是最后的记者会，李克强都反复强调“长江黄河水不会倒流”，以此表达对改革开放不可逆转的期望。同时也在劝诫习近平，改革开放是中国发展的根基，不可动摇。

李克强正式卸任国务院总理职务之前，曾进行了一系列具有“告别”意义的走访活动。可见，他对中国发展前景的堪忧。值得注意的是，无论是在发改委还是最后的记者会，李克强都反复强调“长江黄河水不会倒流”，以此表达对改革开放不可逆转的期望。同时也在劝诫习近平，改革开放是中国发展的根基，不可动摇。

Qiuyao Mo

441,990 次观看 • 6 个月前

斯坦福2023年公开课CS25 - 大语言模型与人类对齐（中英文字幕）这是斯坦福2023年公开课CS25的第二课：《Language and Human Alignment》，讲师是OpenAI的Jan，他目前领导OpenAI的对齐（Alignment）团队，并曾在DeepMind担任研究员。他拥有强化学习理论博士学位，并且在过去的10年里一直在思考对齐问题。这节课的主要内容是探讨AI的对齐问题，也就是如何让AI系统符合人类的意图和偏好，以及如何构建能遵循人类意图的AI系统？遵循人类意图意味着：对于明确的意图，能遵循指令，成为一个可靠的助手；对于不明确的意图，需要通过后续问题明确，不要编造，不要做有害的事情。现在使用的主要技术是强化学习反馈，这是用来训练InstructGPT和ChatGPT的技术。首先需要训练一个奖励模型，然后要用人类标注员去标注数据，来告诉模型哪些结果更是人类想要的。虽然每个人类标注员都有自己的偏好，甚至可能有不一致的地方，但模型会多结果进行平均。从成本上来说，人类反馈的成本要远低于预训练的成本，不到预训练计算量的2%。基于人类反馈的强化学习(RLHF)可以让模型做任何它想做的事情，它可以自己找出最好的方法来做事情，你只需要对它的结果进行评估就好了。 “评估比生成容易” 很多任务虽然人类不擅长，但是可以很容易的给出评估。 RLHF也有一些限制，比如当人工智能进化到一定程度，其可以完成的任务难度也会提升，但是人类评估任务的水平却无法提高，这时候人类将无法再给AI有效的反馈。所以未来我们需要AI来辅助人类进行评估，让AI帮助指出结果中的问题，人类对AI评估的结果进行评估。课程页面：参考材料： - ChatGPT： - InstructGPT： - Language Models are Few-Shot Learners (GPT-3)：

斯坦福2023年公开课CS25 - 大语言模型与人类对齐（中英文字幕）这是斯坦福2023年公开课CS25的第二课：《Language and Human Alignment》，讲师是OpenAI的Jan，他目前领导OpenAI的对齐（Alignment）团队，并曾在DeepMind担任研究员。他拥有强化学习理论博士学位，并且在过去的10年里一直在思考对齐问题。这节课的主要内容是探讨AI的对齐问题，也就是如何让AI系统符合人类的意图和偏好，以及如何构建能遵循人类意图的AI系统？遵循人类意图意味着：对于明确的意图，能遵循指令，成为一个可靠的助手；对于不明确的意图，需要通过后续问题明确，不要编造，不要做有害的事情。现在使用的主要技术是强化学习反馈，这是用来训练InstructGPT和ChatGPT的技术。首先需要训练一个奖励模型，然后要用人类标注员去标注数据，来告诉模型哪些结果更是人类想要的。虽然每个人类标注员都有自己的偏好，甚至可能有不一致的地方，但模型会多结果进行平均。从成本上来说，人类反馈的成本要远低于预训练的成本，不到预训练计算量的2%。基于人类反馈的强化学习(RLHF)可以让模型做任何它想做的事情，它可以自己找出最好的方法来做事情，你只需要对它的结果进行评估就好了。 “评估比生成容易” 很多任务虽然人类不擅长，但是可以很容易的给出评估。 RLHF也有一些限制，比如当人工智能进化到一定程度，其可以完成的任务难度也会提升，但是人类评估任务的水平却无法提高，这时候人类将无法再给AI有效的反馈。所以未来我们需要AI来辅助人类进行评估，让AI帮助指出结果中的问题，人类对AI评估的结果进行评估。课程页面：参考材料： - ChatGPT： - InstructGPT： - Language Models are Few-Shot Learners (GPT-3)：

宝玉

149,159 次观看 • 3 年前

近日一博主在查酒驾时质疑辅警独自执法的行为违法，并要求交警前来才可以进行酒驾检查。随后被辅警威胁警告，甚至第二次警告，称博主如不配合其工作，他们将采取强制手段法律规定，辅警不具备执法资格，需要在民警指挥、监督或者带领下开展辅助性工作。该辅警行为涉嫌违法博主是在维护自己合法权利

近日一博主在查酒驾时质疑辅警独自执法的行为违法，并要求交警前来才可以进行酒驾检查。随后被辅警威胁警告，甚至第二次警告，称博主如不配合其工作，他们将采取强制手段法律规定，辅警不具备执法资格，需要在民警指挥、监督或者带领下开展辅助性工作。该辅警行为涉嫌违法博主是在维护自己合法权利

李老师不是你老师

495,983 次观看 • 1 年前