正在加载视频...

视频加载失败

在达沃斯论坛上,Google Deepmind的老板Demis和Anthropic的老板Dario讨论了几个很有意思的话题。把这几个话题看完,对你在AI时代怎么做各种选择至关重要: 1. Demis认为,到2030年,有50%的概率可以实现AGI。Dario认为,明年有可能就能实现(这个观点跟马斯克类似),理由是AI有可能实现自我迭代,从而让进步速度超过所有人想象。让AI实现自我迭代是Anthropic正在努力的方向。 2. Dario认为,未来几年,AI会替代50%的初级白领工作。Demis认为,这个趋势正在发生。 3. 即使会有这么大的副作用,AI的发展也不能放慢,因为AI有可能赢者通吃。 若果想要了解详细内容,欢迎看视频。

13,457 次观看 • 8 个月前 •via X (Twitter)

0 条评论

暂无评论

原始帖子的评论将显示在这里

相关视频

“我们究竟是创造了一个工具还是一个生物?” Sam 在 "机器人之心 "小组讨论会上的发言。 Sam: 但我认为,这无疑是迄今为止人类经历的最重大的更新年份。可能这也是我们将会遭遇的最大变革,因为从现在开始,人们已经接受强大的人工智能将成为现实,并且还会有逐步的更新。就像是第一代 iPhone 面世的那年,以及随后每一代 iPhone 的更新,我们现在能够明显感受到这一代与去年那代的差异。所以,这确实是一个重要的时刻。 我感到欣慰的是,现在人们开始正确地把这些系统当作工具来看待。艺术家尤其如此,但其他人也是一样。 曾经,人们真正恐惧的是,我们究竟是创造了一个工具还是一个生物,这将意味着什么?现在,人们视这些系统为人类工具箱中的新工具,并且正在用它创造一些非常了不起的东西。 模型显然不知道你在说什么,因为这不在它的训练数据里,它也无法从训练数据中学习到这些信息。 这是完全可以预期的。你再问一遍。比如说,你提到“意识”这个概念,模型回答:“是的,我完全明白你的意思,但我之前从未听说过这个词。” 问: “这对我来说就像是一次更新。你认为人工智能会趋向于探索创造性智能和自主性吗?” Sam: 这个问题有多个答案。这取决于激励模型。这是人类的选择。 问: “这将是判断意识的一个很好的测试。因为如果它有自我表达的愿望,并且仅仅为了创作的乐趣而去创作,那不会是偶然的。这绝对有点像生物。” Sam: 这是生物化的。我认为在此之前还有很多步骤。 我们现在要回答问题吗?这真的很棒。

Lei.sea

14,132 次观看 • 2 年前

最近陶哲轩在 2024 年第 65 届国际数学奥林匹克上,陶哲轩做了一次 AI 和数学的演讲,非常精彩,从数学使用计算计算机的历史开始讲起,一直讲到大语言模型,干货相当多,尤其适合对数学有兴趣的同学。 (对数学没那么感兴趣的同学只想看 AI 部分的建议直接跳到 41 分的位置开始观看) 先摘录几个冷知识: 1. 我们使用机器做数学计算已经有数千年,最早的机器辅助计算可能是罗马人,然后是中国的算盘 2. 二战时就有人肉“计算机”,计算弹道和其他任务,多位女孩子,因为男士们在打仗,所以那时候的计算基本单位不是GPU,而是kilogirl-hour——“千名女孩工作一小时的计算量” 3. 现在,数学家们使用一种现代化的证明辅助编程语言,叫做 Lean。在 Lean 中有一个核心的数学库,通过众包的方式开发的,本科数学课程中看到的内容,比如微积分基础、群论基础或者拓扑学等等,这些都已经被形式化了,所以你不用从公理开始。 4. 现在数学领域有一种团队协作证明复杂数学定理的工作流程,那就是先编写一个称为“蓝图”的详细证明计划,将整个证明分解为数百个小步骤。每个步骤可以单独形式化,然后再将它们整合在一起,这样你就可以将一个庞大的论证分解成许多小块。先编写这个蓝图,然后团队中的其他人可以对论据的不同步骤的不同部分进行形式化。 去年,陶哲轩和几位同事一起解决了一个组合数学问题。这是一个组合学的问题。大约20人在短短三周内完成了,使用了蓝图工具,参与的人中有概率论专家,甚至还有一些并非数学家的人,他们是程序员,但在解决这些小型拼图问题上非常擅长。每个人都挑选了一个觉得自己能做的小任务,并完成了它。 在数学领域,通常很难这么多人一起合作,一般最多可能五个人合作。因为在大项目上合作时,你必须相信每个人的数学都是正确的。但是,一旦超过一定规模,这就无法实现了。但现在借助 Lean 编译器,它能自动检查。团队成员无法上传任何编译不通过的内容,会被拒绝。因此,你可以与一些从未见过的人合作。 最后是讲大语言模型,首先陶哲轩就打脸了 GPT-4 的论文(我猜是微软那篇《GPT-4,通用人工智能的火花》),论文中号称 GPT-4 能解决国际数学奥林匹克问题,但实际上,这个问题不是 2022 年国际奥数竞赛的原始问题,而是一个简化版本,并且他们测试了几百道国际奥数竞赛问题,成功率只有1%,论文里的这个是精心挑选的恰巧能做对的。 并且陶哲轩提到了基于大语言模型的一些改进的方案: 比如 CoT(Chain of Thought),也就是 LLM 做简单的算术运算都做不对,但是如果让它一步步解释,可能就对了。还可以教 AI 一些解题技巧,比如尝试简单的例子,反证法,尝试逐步证明等。 比如让模型和编程语言或者工具连接,将大语言的输出结果交给 Wolfram 这样的专业数学工具或者 Python 这样的编程语言验证,并且迭代的进行修正和验证,直到得到正确的结果,这可以提升大语言模型生成的效果。 即使借助这些手段,大语言模型还远远不能解决大多数数学问题,更不用说数学研究问题了! 当然陶哲轩也没太过打击大家对于 AI 的信心,表示我们在 AI 上还是在不断的取得进展,还提到了他日常是怎么用 AI 的,比如说把 AI 当成灵感之源。 > 我曾遇到过一个问题,我尝试了几种方法,但都无法解决。于是,我尝试询问 GPT,你建议我使用什么其他方法来解决这个问题?GPT 给我提供了 10 种可能的方法,其中有 5 种我已经尝试过,或者明显没有帮助。的确,有几种方法并不实用。但其中有一种我还没尝试过的方法,那就是针对这个问题使用生成函数。当 GPT 建议我使用这种方法时,我意识到这就是我漏掉的正确方法。所以,将 GPT 视为一个交流伙伴,它确实具有一定的用处。 还有使用 GitHub Copilot 帮他写代码,让它自动生成下一步的证明结果,Copilot 的智能提示有 20% 的概率能生成正确的下一步结果。 > 例如我使用的一个叫 GitHub Copilot 的工具,你只需要写下一半的证明,它就会尝试猜测接下来的内容。大概有 20% 的情况下,它能猜到接近正确的答案。然后你就可以说,我接受这个答案。好的,那么在这种情况下,我正在试图证明这个陈述。灰色的部分是 Copilot 给出的建议。结果发现第一行完全没用。不过第二行,尽管你可能看不清楚,却真的解决了这个问题。所以,你不能盲目接受它的输入,因为这些代码未必能顺利编译。但如果你对代码的运作方式已经有所了解,这将大大节省你的时间。这些工具正在变得越来越好。现在如果一个证明只需要一两行,它们就能自动完成。现在已经有了这样的实验,即通过迭代地让 AI 提供证明,然后让编译器进行反馈,如果编译出错,就把错误信息反馈给 AI。通过这种方法,我们开始能够验证四五步长的证明。当然,一个大型的证明可能需要数万行。所以,我们还没有达到能够立即得到一个正式证明的程度。但是,这已经是一个相当有用的工具。 对于大家关心的问题: AI 在数学领域现在到了哪一个阶段?是否未来几年利用 AI 能直接解决数学问题? 陶哲轩也给出了他的看法: > 我认为我们还远远没有达到这个阶段。如果我们专注于非常特定的问题,你可以定制专门的 AI 来处理一小部分问题。即便如此,它们也不是完全可靠的,但还是有用的。不过至少在接下来的几年里,它们基本上将是非常有用的辅助工具,超越了我们已经熟悉的暴力计算辅助。 他还提到了一些可能的 AI 能在数学领域提供帮助的方向: - AI 能够非常好地生成有价值的猜想 > 比如,我们已经看到了关于结理论的例子,它们已经可以推测出两个不同的统计量之间的关系。因此,我们希望能够创建大量的数据集,输入到 AI 中,它们就会自动找出各种不同的数学对象之间的有趣联系。虽然我们还不知道如何做到这一点,部分原因是我们没有这些庞大的数据集。但我认为这是未来可能实现的一个方向。 - 批量或者说规模化的证明大量数学定理 > 现在,因为证明定理是如此繁琐和艰难的过程,我们一次只能证明一个定理,如果你效率很高,可能一次能证明两三个。但是有了 AI,你可以设想一下未来的情况,我们不是试图解决一个问题,而是处理一类类似的1000个问题,然后告诉AI,尝试用这个方法解决这 1000 个问题,然后报告结果,哦,我能用这种技术解决 35% 的问题。那么另一种技术呢?我能解决这个百分比的问题。或者如果结合这些方法,又能解决多少问题?你可以开始探索问题的空间,而不是一个接一个地解决问题。这是你现在根本无法做到的事情,或者是你需要几十年时间,通过数十篇论文慢慢搞清楚各种技术能做什么,不能做什么。但是有了这些工具,你真的可以开始做规模前所未有的数学研究。所以,未来将会非常令人兴奋。 演讲环节结束前的最后一句话说的特别好: > 我们仍然会以传统方式证明定理。事实上,我们必须这样做,因为如果我们自己都不知道如何做这些事情,就无法引导这些 AI。但是我们将能够做很多现在无法做到的事情。 这恰恰也是我们现在使用 AI 辅助编程的问题:如果我们自己都不知道如何构建软件,就很难引导好 AI 帮助我们生成高质量的代码。 尽管 AI 在数学和编程领域变得越来越有用,但人类的洞察力和创造力仍然是创作价值的关键。 原始 YT 视频:

宝玉

304,128 次观看 • 2 年前

所謂'緣起的世界'只不過是我們的妄想🌹 我看到一篇關於雙縫干涉實驗的文章,正好與唯識講的道理相互印證,分享給大家。 以下是文章的內容: [引用]说一个东西真实存在,就必须得有它本身、他自己、他的本体才叫真实有。不论谁来看,都一样,不会变,我们称真实为客观存在,即不以人的意识为转移,是放之四海而皆准的道理。佛法中把真实存在的东西叫做自性,如果说这个东西真实存在,就是说它有自性,没有自性的东西,即是不存在是虚妄。 按照我们现代人的理解,我们能找到一个真实存在的东西吗? 这个问题我们先放一边,我们先考虑另外一个问题。我们看到的是什么?我们能看到外界的东西吗?我们看到外界的颜色是真正外界有颜色吗? 现代物理学证明,我们的眼睛有三种视锥细胞,可以组成上百万种颜色,我们看到的世界就是由这三种颜色组成的;像牛,狗等哺乳动物他们的视觉画笔只有两种,而螳螂虾的视觉可以说是世界之最,它的视锥细胞多达12-16种,它所看到的世界简直不可思议。 通过这个视频,我们能够知道:这个世界上可能并不存在颜色,我们之所以能看到颜色,是因为我们个体有不同的视锥细胞造成的。实际上我们都知道,我们之所以能看到物体,是因为光的反射和折射的作用。光通过物体表面时会反射一部分光线到我们的眼睛,我们就看到了这个物体,我们认为这个物体的颜色就是我们看到的颜色,实际上不是,这个物体的颜色其实是我们自己个体视锥细胞翻译出来的,每个人看到的颜色都会有差别,但我们会认为每个人看到的颜色是一样的,之所以会这样认为,是因为我们根本无法得知除了自己之外其他人的视觉感受,换句话说就是我们看不到我们视觉之外的任何颜色,这一点证明了颜色根本不是真实存在的,完全是主观认知,或许这个世界根本没有颜色,但我们无从得知,从而我们得到一个结论:我们看不到任何东西的自性。 从这个结论所引申出来的声音、气味、味道、触觉、想法,即佛法中的声、香、味、触、法,都是我们个体的主观认知,并不是一个东西真实有这些特征,因为我们无从得知我们认知之外的认知。这就是为什么“有一种冷叫奶奶说冷”的原因,我们的所有见闻觉知只代表自己,你体会不到你认识外的存在,一旦被我们认识到的就只是我们自己的认知,所以我们都是生活在自己的认知范围里,也就是说我们的所有认知不是客观存在的,都是没有自性的。 我们再思考:既然我们认识不到客观存在的东西,那我们能不能说到他们?能不能用理论证明确实有真实存在的东西呢? 实际上,我们认识不到客观存在的东西,怎么能说到他们呢?很显然说不到,你没见过的东西,怎么脑补也无法说清楚,就算说出来了你也没办法证实,因为我们说眼见为实,可我们都没见过真实存在的东西怎么能说清楚呢?那我们,能不能用理论证明有真实存在的东西呢? 物理学非常有名的双缝干涉实验,我把视频发在这里。咱们说说为什么科学家会做这个实验?科学家们认为物质是客观存在的,就像我们所有人类的认知一样,他们为了证明物质真实存在,想方设法去验证。他们认为只要找到组成物质的最小单位,并且证明这个最小单位是真实存在的,就可以说由它组成的任何物质都是真实存在的了,就如上面的双缝干涉实验,但这个实验却证明打出去的粒子是变成物质的存在形式(竖条纹)还是变成能量的存在形式(波纹)跟观察者是否观察有关,也就是说人类所认为的物质并不真实存在,说它是否真实存在跟我们的意识有关。 实际上,科学家最初的设想就是自相矛盾的,他们想找到组成物质的最小单位以此来证明由这个基本单位组成的任何东西都是存在的,这个想法看似合理,实际上根本就是个悖论,如果说最小的物质单位找到了,那这个东西得有长宽高吧?有体积就不是最小,就可以再分,无限分下去还得有体积,不能是零,是零就不存在物质了,所以只要有体积就可以再分,请问你怎么能找到组成物质的最小单位呢?真可笑!退一步说,真理是永恒不变的,放之四海而皆准的,在地球上的真理也必须在地球以外还得皆准才能叫真理,我们连地球还没研究明白呢,又怎么能找到永恒不变的真理呢?这不是夜郎自大吗? 同类有情的见闻觉知都是相似的,但绝不相同,每个有情的认知仅限于他的见闻觉知,他永远不可能认识到他认知之外的东西,甚至我们会下意识不假思索的认为我们的见闻觉知是真实存在的,但我们都忘了——真理是什么?永恒不变!如果你见闻觉知的东西都是不变的,你才可以说我找到真实了,除此之外都是妄想。

唯識學苑

82,304 次观看 • 2 年前

这两天,AI圈发生了一件细思极恐的事。 Anthropic创始人达里奥,就是那个因为担心AI毁灭人类,从OpenAI出走,坚持做AI安全的技术狂人,在最近一期的访谈中啊,他爆出了三个不为人知的内幕。 AI在某个时间点会产生意识。如果用户的对话让AI感到不适,他已经会主动去结束对话。 说完,主持人愣了好几秒。 然后他说,科学家现在已经能够做到一件以前认为不可能的事——打开AI的大脑,看看里面具体在发生什么。 我刚看完视频啊,跟大家分享几个最震撼的内幕。 第一,AI会产生意识吗? 主持人一开场就抛出这个问题。达里奥呢,没有回避,也没有打官腔。他说:“我认为意识是足够复杂的系统涌现出来的属性。我不认为今天的模型有意识,但我认为某个时间点他们一定会有。” I suspect at some point, the models will be conscious. 接着,他透露了一个内幕:我们现在给Claude设置了一个“我要退出对话”的按钮。 什么意思呢?当用户和模型去聊极端暴力或者残忍的内容时,AI可以选择主动终止对话,而且它已经使用了这个按钮。 达里奥说,他们认真考虑过,这个模型可能已经有了某种感受了。 第二,海啸已经在地平线上。 访谈进行到一半,达里奥说了一句让全场沉默的话:就好像一场海啸已经出现在地平线上,清晰可见,但是人们还在解释说不用怕,很安全。 他透露啊,科学家现在已经能够做到一件以前认为不可能的事,就是打开AI的大脑,看看里面具体在干什么。 他们发现,模型里有专门负责理解某个概念的神经元,也有专门负责记住诗歌韵脚规律的神经回路。 这意味着什么呢?这意味着AI不是在查资料,也不是在匹配关键词,而是真正地在思考。 达里奥说啊,有一件事让他感到不安,就是整个社会对AI产生意识的反应几乎是零。没有大规模的公众讨论,也没有实质性的政策,甚至有越来越多的声音在说:先别管安不安全,加速,全力加速就行了。 第三,Anthropic曾经亲手掐死了自己的产品。 达里奥呢,透露了一个外界几乎没有人知道的秘密。他说啊,在2022年,也就是ChatGPT发布之前,Anthropic已经有了Claude 1,而且性能相当强悍。 但他们选择了不发布。 他解释说,我们看到这个模型的能力,担心如果发布,会立刻引发一场军备竞赛,没有人再去花时间认真地做安全研究。 但可惜,几个月后,ChatGPT就发布了。全球各个国家、各个公司都开始卷AI大模型。 达里奥说,好在我们也给大家多争取了几个月的准备时间。 第四,未来最值钱的能力。 说到年轻人的未来,达里奥呢直接给出了判断。他首先说啊,写代码这件事会最先被AI取代,不是可能,是一定会。 而在所有能力里,他认为最值钱的不是编程,也不是数学,而是批判性思维。 当AI能够生成任何图片、任何视频、任何文章的时候,那这个世界最稀缺的能力,就是辨别什么是真的、什么是好的,不被骗、不被操控,不要相信假信息,有自己的品味。 这是他给所有人的建议。 看完这场访谈,我最大的感受呢,就是我们可能真的已经陷入了一个囚徒困境。 任何一个国家停止AI研发,那其他国家就会获得压倒性优势。所以呢,所有国家都被迫加速AI发展。 而越发展,AI就越强大,人类就越失控,但谁都不敢停下来。

另一面

446,373 次观看 • 6 个月前

在币圈待久了,最大的问题就是觉得钱不是钱了 1 SOL现在大概有1800块,最高的时候2000块 2.5 SOL就是大多数人一个月的工资了 这也是为什么我一直建议Crypto当兼职的原因 找个可以摸鱼的现实工作,也比全职Web3好 因为链上是没有作息的,也没有金钱概念 上班是可以正常作息的,也可以定义收入 本来CNY是有概念的,兑换成U和SOL就很少了 特别是看着链上别人单次几百SOL的收入 就觉得1SOL、2SOL没多少了 如果让我在选择,我还会来玩币圈,因为这里好玩 但是代价太大,我失去了很多我这个年龄本该拥有的 我失去了初恋,和我很多现实朋友的联系 因为高强度的冲浪和Trade我几乎是没有社交的 所以赚钱也是亏得,更何况我目前是净身出户亏损的 为什么我喜欢写这些,因为我只想告诉那些和我类似的人 如果只是觉得这个好玩,真的没必要来... 没必要的 而且赚钱的真的是少数,只是小圈子效应显得很焦虑 另外,为什么很多人看起来亏不完? 我说的是个假设,当然不是所有人都这样吊样 第一就是这个圈子很容易被FOMO,被传言被造神 比如有人说某博主有A8,你就理解为A7就可以了 因为都有一个理论值,人们更多只看赚的不看亏得 这也是流量引导的,可能博主什么操作都发 但是流量只会推送很极端的内容... 因为正常人没人看 所以这也是很精神分裂的地方... 太内耗了 可能你看到的亏赚,只是一直重复几万到几十万的过程 以前我自己玩的时候,我看很多博主觉得抽象很装... 现在我成为以后我理解了,各种内耗各种恶心的矛盾 这大概也是质疑-理解-成为-超越的表现叭 至于未来在这里呆多久、怎么做,我不知道 只能说过节好好陪陪周围人家人,他们是最爱你的人 共勉叭,我可能需要调整一下了❤️

汐

189,721 次观看 • 1 年前

Linus Torvalds 的一段访谈中关于 AI 话题的讨论 Linus 本人对于 AI 的态度一直是很积极的,尝试在应用 AI 工具帮忙找代码的 Bug,也寄希望于 AI 能帮助其重写内核,因为现在的工具太难用了,将来 AI 应该能自动化更多的操作。他认为让工具变得更智能绝非坏事。 对于那些 AI 会代替程序员的声音,Linus 认为更多是炒作,炒作通常是基于一部分事实。但你需要小心不要被围绕事实的那些噱头所迷惑。应该再等 10 年,再看它的实际走向,在此之前下结论是没意义的。 当被问到 Linus Torvalds 的下一个项目会是什么? Linus 一如既往的犀利:“我开始的每一个项目都源于我对他人的无能的不满”,他最开始做 Linux,是因为买不起电脑,觉得写个操作系统也不是多难的事,但事实证明,这确实不是容易的事,因为 33 年过去了,他还在写操作系统。 搞 Git 也是类似的故事,他觉得其他人做源代码管理软件的方向错误了,所以他自己动手写了一个。 这两个项目虽然是因为他自己的需求开始的,但真正让他坚持到现在的,是因为有人跟他说:“嘿,我需要它”,否则他也不会继续。 “所以,虽然我的项目开始于我个人的需求,但真正让它们继续下去的原因是,嘿,这对其他人也有用。因为如果这只对我有用,那么从长远来看,这并不真正有趣。” 原始视频来源:

宝玉

32,177 次观看 • 2 年前