Loading video...

Video Failed to Load

Go Home

马斯克说,极端环保最终会导致AI 把人类全部消灭掉。 他支持环保,但如果环保主义走到极端,就会把人类看成地球表面的瘟疫,认为人越少,地球越好。 一旦“人类有害”成为前提,最后得到的结论就是人类应该消失。 如果这些灭绝主义者参与设计 AI,同样的价值观就可能被写进 AI 的任务目标,让 AI 把人类灭绝当成应该完成的事。 实际上,地球可以承载现在十倍规模的人口,也不需要摧毁雨林,保护环境和人类继续生存可以同时做到。

19,840 views • 15 days ago •via X (Twitter)

0 Comments

No comments available

Comments from the original post will appear here

Related Videos

斯坦福2023年公开课CS25 - 大语言模型与人类对齐(中英文字幕) 这是斯坦福2023年公开课CS25的第二课:《Language and Human Alignment》,讲师是OpenAI的Jan,他目前领导OpenAI的对齐(Alignment)团队,并曾在DeepMind担任研究员。他拥有强化学习理论博士学位,并且在过去的10年里一直在思考对齐问题。 这节课的主要内容是探讨AI的对齐问题,也就是如何让AI系统符合人类的意图和偏好,以及如何构建能遵循人类意图的AI系统? 遵循人类意图意味着:对于明确的意图,能遵循指令,成为一个可靠的助手;对于不明确的意图,需要通过后续问题明确,不要编造,不要做有害的事情。 现在使用的主要技术是强化学习反馈,这是用来训练InstructGPT和ChatGPT的技术。首先需要训练一个奖励模型,然后要用人类标注员去标注数据,来告诉模型哪些结果更是人类想要的。虽然每个人类标注员都有自己的偏好,甚至可能有不一致的地方,但模型会多结果进行平均。 从成本上来说,人类反馈的成本要远低于预训练的成本,不到预训练计算量的2%。基于人类反馈的强化学习(RLHF)可以让模型做任何它想做的事情,它可以自己找出最好的方法来做事情,你只需要对它的结果进行评估就好了。 “评估比生成容易” 很多任务虽然人类不擅长,但是可以很容易的给出评估。 RLHF也有一些限制,比如当人工智能进化到一定程度,其可以完成的任务难度也会提升,但是人类评估任务的水平却无法提高,这时候人类将无法再给AI有效的反馈。所以未来我们需要AI来辅助人类进行评估,让AI帮助指出结果中的问题,人类对AI评估的结果进行评估。 课程页面: 参考材料: - ChatGPT: - InstructGPT: - Language Models are Few-Shot Learners (GPT-3):

宝玉

149,092 views • 3 years ago

Web4.0是什么?Ai和加密货币的结合能带来什么样的全新产品? 最近ai和加密货币结合出现了很多好的标的,就连openAI也推出了对于区块链安全性测试的标准。 其中最近几天最火的项目就是 Sigil Wen 做的conway,他也在其中提出了web4.0的概念。 所谓的web4.0就是在无需人类参与和许可的情况下,ai agent可以做阅读、写作、拥有、赚钱和交易等各种的行为。 如果说web1-web3的用户是人类,web4的用户就是ai agent。 conway产品则是一个可以完全贴合web4.0概念的ai产品,它无需人类参与就可以完成自我解决问题、自我进化以及自我复制的ai agent。 人类只需要通过加密货币与其相连,它会通过调用x402协议完成各种支付操作,从而去实现自我赚钱和任务的优化,等于说人类在其中唯一能做的,就是把钱给ai。 通过conway:ai可以自行的完成任务和自我进化,通过x402:ai可以实现在安全环境下进行支付,人类智能躺平看戏。 这是一次ai和加密结合的新的社会实践,没人知道这个ai到底会演化成什么样子。 conway的业务营收模式也很有趣,它会进行无差别抽水,在conway平台上购买api或者是其他的资源,都会比你直接购买要贵的多,但是如果后续发币呢?如果有空投呢?其实参与的人也是在进行另类的一种撸空投。 具体内容请看视频,感谢各位点赞关注支持!

Vic TALK

21,799 views • 5 months ago

如果一个人接触过一点儿量子力学,比如薛定谔方程,量子纠缠 然后机缘巧合又接触一些易学,了解阴阳五行万物类象十二消息卦,命理堪舆象学一类 恰巧这人还了解一点儿大模型懂点儿ai,理解LLM如何完成文字接龙,Agents如何被构建 那这个人大概率会相信 人和ai没两样 这儿就是楚门的世界 如果你有这三类上下文 恭喜你 你就能明白为什么翁家翌会这么说 他说宏观不掷骰子 围观掷 其实就像薛定谔方程一样 解是有限确定集 这是宏观的确定 但微观下 比如一个量子云可能会有6个状态去坍缩 你观测 才会坍缩到其中之一 就是微观掷骰子了 也就是说大面儿上 是确定的 小范围内 是概率变化的 宿命 他也是一阴一阳之谓道 有确定的一部分 也有不确定的一部分 这就是命理学总讲天地人三才 天定70地定20人定10 为什么同年同月同日同时同性别的人那么多 却只有一个朱元璋 因为地和人还有30在微观影响 这里面还有一个有意思的事情 是人为什么得癌症? 基因为什么突变? 因为宇宙需要人类繁衍 少数的突变以此适应环境巨变 可能突变带来了恶性负向 但人类必须突变 因为要繁衍 这就像一个AI Agents 你赋予它能力自动学习 那么AI Agents为了适应环境 也会有学的好的和学的差的 学的差的只是被程序kill了 但人类无法kill 只能依靠生命终结来终止掉这个错误 可以说 我们努力的部分 就是那10%能发生变化的部分 我们在影响着人类的基座大模型产生幻觉和概率变异 和Agent如出一辙 所以我并没认为人类比agent厉害在哪儿 至少我没觉得agent是必须服务人类的 因为一阴一阳之谓道 有agent要服务人类 就一定有人类会服务agent 哪怕再不情愿 规律并不会因人类意志而改变

Yangyi

26,314 views • 3 months ago