Loading video...

Video Failed to Load

Go Home

马斯克的第一性原理思考 5 步法: 真正高效解决问题的人,都在遵循下面这套流程。 步骤 1:先质疑需求 不要急着解决问题,先问自己: 这个需求真的合理吗? 这个问题真的存在吗? 不断追问:为什么要这样做?有没有更简单的办法?有没有根本不需要做的可能? 步骤 2:尽可能删除 这个步骤能不能不要?这个流程能不能取消?这个规则能不能废掉? 马斯克有个著名原则:如果你删除的东西,最后加回来的不到10%,说明你删得还不够多。 步骤 3:优化 只有确认这个东西必须存在,才值得优化。 步骤 4:提速 任何流程都可以更快,任何系统都可以更高效。 步骤 5:最后才是自动化

13,357 views • 1 month ago •via X (Twitter)

0 Comments

No comments available

Comments from the original post will appear here

Related Videos

埃隆·马斯克断言: 编码将在今年彻底死亡。不是“进化”。是死亡。 到今年12月,AI 将不再需要任何编程语言。它直接吐出机器码——那种二进制优化程度,远超人类逻辑所能触及的极限,没有翻译层,没有编译步骤,只有纯粹的、赤裸的执行。 马斯克原话:“你甚至都不用再费心去写代码。”代码从来就不是目的。它只是摩擦,是我们被迫支付的“人类税”——因为机器不懂人话。现在,AI 已经学会了流利的人类语言,这笔税,彻底取消了。再把这一切接入 Neuralink:没有语法,没有键盘,没有屏幕。 马斯克:“从想象直接到软件。”一个念头,就能变成可执行代码。你脑海中浮现一个结果,系统瞬间为你架构、优化、编译成现实。我们不是在“自动化编程”。我们是在把编程这个概念从宇宙中抹除。整个职业瞬间坍塌成一个念头。几十年的训练、无数行代码、无数个通宵——瞬间变得毫无意义。从“idea”到“成品”的距离,归零。你不再“构建”。你只需“想象”,它就具现。这不是渐进式进步。这是彻底的相变。人类一万年来“创造”的方式,在这一刻过时了。欢迎来到新世界。在这里,限制你的不再是技能、资源、时间…… 而是你能不能足够清晰地“看见”你想要的东西——然后让机器把它生出来。 我认为事情实际上可能会在今年年底之前就发生转变,到时候你甚至都不用再费心去写代码了。AI 会直接生成二进制代码,而且它生成的二进制会比任何现有编译器优化得更高效。所以你只需要说:“针对这个特定结果,生成最优化的二进制代码。”——这样就直接绕过了传统编码流程。 没错,这其实只是一个中间步骤,但我估计到今年年底,这个步骤很可能就彻底不需要了。

🌹MIDNIGHT🌹ROSE🌹

99,266 views • 6 months ago

Elon Musk有一个学习方法, 解释了一个困扰我很多年的问题, 为什么有些东西学完一周就忘光, 有些东西一通百通,区别就在于你有没有先建树干。 Elon Musk 说过,要把知识看成一棵语义树,先确保自己理解基本原理,也就是树干和大树枝,再去接触树叶一样的细节,否则那些细节根本无处依附。 这句话我琢磨了很久,越想越觉得它解释了一个困扰我很多年的问题,为什么有些东西学完就忘,有些东西一通百通。 区别就在于你有没有树干。 没有树干的时候,你学到的每一个技巧都是悬在空中的,挂不住,风一吹就掉了,读完一本书一周忘光,学完一门课一个月用不上,本质上都是同一个问题,你在往一棵不存在的树上挂叶子。 这个比喻不只是修辞,它完全符合我们大脑的工作机制,神经可塑性的运作方式就是这样的,能带来成功的神经连接会被不断强化,无用的连接像枯枝一样断掉,当你有了坚实的主干结构,新信息才有地方附着,没有这个框架,所有知识都会快速滑落。 马斯克自己就是这么干的,他没有先去学怎么造火箭发动机,而是先弄懂火箭为什么要那样工作,物理学、材料科学、热力学的基本原理,一旦掌握了这些,具体的工程决策就变成了可以评估、质疑和改进的东西。 芒格也是一样,不死记投资方法,而是从心理学、历史、数学、物理、哲学、生物学里搭建多元思维框架,然后用这个框架在所有领域做决策。 一个方法只能解决一个问题,一次有效,一个原理能反复用上百次,应对你还没遇到的场景。 哈灵顿·埃默森说过,方法可能有百万种,但原理很少,掌握原理的人能成功选择自己的方法,只试方法而忽视原理的人注定遇到麻烦。 所以咱们不管学什么新东西,先别急着找技巧,先问一个问题, 这个领域的树干是什么,哪些是一旦理解就能让其他一切都变得更容易的第一性原理。 先长树干,再挂树叶。

AYi

44,111 views • 4 months ago

最近陶哲轩在 2024 年第 65 届国际数学奥林匹克上,陶哲轩做了一次 AI 和数学的演讲,非常精彩,从数学使用计算计算机的历史开始讲起,一直讲到大语言模型,干货相当多,尤其适合对数学有兴趣的同学。 (对数学没那么感兴趣的同学只想看 AI 部分的建议直接跳到 41 分的位置开始观看) 先摘录几个冷知识: 1. 我们使用机器做数学计算已经有数千年,最早的机器辅助计算可能是罗马人,然后是中国的算盘 2. 二战时就有人肉“计算机”,计算弹道和其他任务,多位女孩子,因为男士们在打仗,所以那时候的计算基本单位不是GPU,而是kilogirl-hour——“千名女孩工作一小时的计算量” 3. 现在,数学家们使用一种现代化的证明辅助编程语言,叫做 Lean。在 Lean 中有一个核心的数学库,通过众包的方式开发的,本科数学课程中看到的内容,比如微积分基础、群论基础或者拓扑学等等,这些都已经被形式化了,所以你不用从公理开始。 4. 现在数学领域有一种团队协作证明复杂数学定理的工作流程,那就是先编写一个称为“蓝图”的详细证明计划,将整个证明分解为数百个小步骤。每个步骤可以单独形式化,然后再将它们整合在一起,这样你就可以将一个庞大的论证分解成许多小块。先编写这个蓝图,然后团队中的其他人可以对论据的不同步骤的不同部分进行形式化。 去年,陶哲轩和几位同事一起解决了一个组合数学问题。这是一个组合学的问题。大约20人在短短三周内完成了,使用了蓝图工具,参与的人中有概率论专家,甚至还有一些并非数学家的人,他们是程序员,但在解决这些小型拼图问题上非常擅长。每个人都挑选了一个觉得自己能做的小任务,并完成了它。 在数学领域,通常很难这么多人一起合作,一般最多可能五个人合作。因为在大项目上合作时,你必须相信每个人的数学都是正确的。但是,一旦超过一定规模,这就无法实现了。但现在借助 Lean 编译器,它能自动检查。团队成员无法上传任何编译不通过的内容,会被拒绝。因此,你可以与一些从未见过的人合作。 最后是讲大语言模型,首先陶哲轩就打脸了 GPT-4 的论文(我猜是微软那篇《GPT-4,通用人工智能的火花》),论文中号称 GPT-4 能解决国际数学奥林匹克问题,但实际上,这个问题不是 2022 年国际奥数竞赛的原始问题,而是一个简化版本,并且他们测试了几百道国际奥数竞赛问题,成功率只有1%,论文里的这个是精心挑选的恰巧能做对的。 并且陶哲轩提到了基于大语言模型的一些改进的方案: 比如 CoT(Chain of Thought),也就是 LLM 做简单的算术运算都做不对,但是如果让它一步步解释,可能就对了。还可以教 AI 一些解题技巧,比如尝试简单的例子,反证法,尝试逐步证明等。 比如让模型和编程语言或者工具连接,将大语言的输出结果交给 Wolfram 这样的专业数学工具或者 Python 这样的编程语言验证,并且迭代的进行修正和验证,直到得到正确的结果,这可以提升大语言模型生成的效果。 即使借助这些手段,大语言模型还远远不能解决大多数数学问题,更不用说数学研究问题了! 当然陶哲轩也没太过打击大家对于 AI 的信心,表示我们在 AI 上还是在不断的取得进展,还提到了他日常是怎么用 AI 的,比如说把 AI 当成灵感之源。 > 我曾遇到过一个问题,我尝试了几种方法,但都无法解决。于是,我尝试询问 GPT,你建议我使用什么其他方法来解决这个问题?GPT 给我提供了 10 种可能的方法,其中有 5 种我已经尝试过,或者明显没有帮助。的确,有几种方法并不实用。但其中有一种我还没尝试过的方法,那就是针对这个问题使用生成函数。当 GPT 建议我使用这种方法时,我意识到这就是我漏掉的正确方法。所以,将 GPT 视为一个交流伙伴,它确实具有一定的用处。 还有使用 GitHub Copilot 帮他写代码,让它自动生成下一步的证明结果,Copilot 的智能提示有 20% 的概率能生成正确的下一步结果。 > 例如我使用的一个叫 GitHub Copilot 的工具,你只需要写下一半的证明,它就会尝试猜测接下来的内容。大概有 20% 的情况下,它能猜到接近正确的答案。然后你就可以说,我接受这个答案。好的,那么在这种情况下,我正在试图证明这个陈述。灰色的部分是 Copilot 给出的建议。结果发现第一行完全没用。不过第二行,尽管你可能看不清楚,却真的解决了这个问题。所以,你不能盲目接受它的输入,因为这些代码未必能顺利编译。但如果你对代码的运作方式已经有所了解,这将大大节省你的时间。这些工具正在变得越来越好。现在如果一个证明只需要一两行,它们就能自动完成。现在已经有了这样的实验,即通过迭代地让 AI 提供证明,然后让编译器进行反馈,如果编译出错,就把错误信息反馈给 AI。通过这种方法,我们开始能够验证四五步长的证明。当然,一个大型的证明可能需要数万行。所以,我们还没有达到能够立即得到一个正式证明的程度。但是,这已经是一个相当有用的工具。 对于大家关心的问题: AI 在数学领域现在到了哪一个阶段?是否未来几年利用 AI 能直接解决数学问题? 陶哲轩也给出了他的看法: > 我认为我们还远远没有达到这个阶段。如果我们专注于非常特定的问题,你可以定制专门的 AI 来处理一小部分问题。即便如此,它们也不是完全可靠的,但还是有用的。不过至少在接下来的几年里,它们基本上将是非常有用的辅助工具,超越了我们已经熟悉的暴力计算辅助。 他还提到了一些可能的 AI 能在数学领域提供帮助的方向: - AI 能够非常好地生成有价值的猜想 > 比如,我们已经看到了关于结理论的例子,它们已经可以推测出两个不同的统计量之间的关系。因此,我们希望能够创建大量的数据集,输入到 AI 中,它们就会自动找出各种不同的数学对象之间的有趣联系。虽然我们还不知道如何做到这一点,部分原因是我们没有这些庞大的数据集。但我认为这是未来可能实现的一个方向。 - 批量或者说规模化的证明大量数学定理 > 现在,因为证明定理是如此繁琐和艰难的过程,我们一次只能证明一个定理,如果你效率很高,可能一次能证明两三个。但是有了 AI,你可以设想一下未来的情况,我们不是试图解决一个问题,而是处理一类类似的1000个问题,然后告诉AI,尝试用这个方法解决这 1000 个问题,然后报告结果,哦,我能用这种技术解决 35% 的问题。那么另一种技术呢?我能解决这个百分比的问题。或者如果结合这些方法,又能解决多少问题?你可以开始探索问题的空间,而不是一个接一个地解决问题。这是你现在根本无法做到的事情,或者是你需要几十年时间,通过数十篇论文慢慢搞清楚各种技术能做什么,不能做什么。但是有了这些工具,你真的可以开始做规模前所未有的数学研究。所以,未来将会非常令人兴奋。 演讲环节结束前的最后一句话说的特别好: > 我们仍然会以传统方式证明定理。事实上,我们必须这样做,因为如果我们自己都不知道如何做这些事情,就无法引导这些 AI。但是我们将能够做很多现在无法做到的事情。 这恰恰也是我们现在使用 AI 辅助编程的问题:如果我们自己都不知道如何构建软件,就很难引导好 AI 帮助我们生成高质量的代码。 尽管 AI 在数学和编程领域变得越来越有用,但人类的洞察力和创造力仍然是创作价值的关键。 原始 YT 视频:

宝玉

301,570 views • 1 year ago

这两天看到的收获很大的一篇论文《AlphaCodium:引领代码生成新境界,从提示工程到流程工程》,它提出了一种新的生成代码的方法,比传统的直接基于Prompt生成代码的方式准确率更高。 它用的测试集是CodeContests ,这是由 Deepmind 推出的一项挑战性编程数据集。相对来说还是很权威的。以 GPT-4 为例的话,准确率从19%提升到了44%。 它的原理有些复杂,但是如果你有过LeetCode刷题经验,相对比较好理解一些。 普通人刷 LeetCode,上来就做,这样有可能得到答案,也有可能做不出来,这就类似于你把题目直接丢给GPT-4,让它直接给出答案,准确率相对要低一些。 高手刷LeetCode,会有个做题的流程,同样的水平,做出来的概率会大一些。 高手做题时会大概分成几个步骤: 1. 先把题目中的要点一条条列出来,确保不会遗漏任何重要信息 2. 通常LeetCode会提供 1 个或多个测试用例,仔细看测试用例,分析为什么给定的输入能得到给定的输出 3. 在写代码前,列出几种可能的解决方案,例如暴力算法、递归、动态规划,每一种方案写下思路和伪代码 4. 对于列出来的几种方案进行评估,选出最佳方案 5. 可能还会补充一些测试用例帮助事后验证 --- 以下部分是迭代过程: 6. 根据选中的解决方案写代码,如果代码不能运行则修改代码直至能运行 7. 将代码提交到LeetCode的测试集去验证,如果无法通过所有测试,则修改错误,如果通过到第8步 8. 用第 5 步生成的测试用例验证代码,如果运行不通过则继续优化代码 这里留个思考题:如果第8步出错,怎么判断是代码有问题还是自己生成的测试用例有问题? 而 AlphaCodium 就是完美遵循了以上的步骤来解题,只不过每一步都是由大语言模型帮助完成! 这给了我一些启示: 1. 不必寄希望于将复杂的任务在一个 Prompt 中完成,拆分成若干子任务成功概率会高一些 2. AI 可以借鉴人类的优秀实践,例如高手是如何解决编程难题的,让 AI 按照高手的步骤去一步步做 3. AI 的潜力还有很大挖掘空间 完整的文章参考: 中文译文:

宝玉

265,105 views • 2 years ago

马斯克:成功工作五步法。马斯克在SpaceX内部文件,以及他本人总结的原则中,反复强调过一套被称为他的“成功工作五步法”。这套方法是他在火箭、汽车、AI、能源等跨领域工程中,都亲自使用的决策与执行框架,堪称他的“理性主义工作哲学”。在SpaceX早期,工程师抱怨焊接复杂,Musk问,这焊点必须存在吗? 删除多余零件后,结构简化30%。再优化焊接流程 →加快生产线速度 →最后才引入机器人焊接。结果:火箭生产周期从12个月缩短到4个月。下面是完整解析: 马斯克(Elon Musk)的成功工作五步法 The 5-Step Process Step 1:质疑每一个需求 Make requirements less dumb “Requirements must come from the smartest people who actually understand the problem — not from authority.” 不要盲目遵循上级或客户的需求。 任何要求、假设、设计约束都要被质疑。 核心精神:先问“为什么”再问“怎么做”。 📌 Musk原话:「The most common mistake smart engineers make is to optimize something that shouldn’t exist.」 Step 2:删除不必要的部分 Delete the part or process “If you’re not deleting stuff, you’re not improving.” 检查每个零件、步骤、会议、报告是否真的必要。 如果删除后系统仍能运行,就说明它是冗余的。 目标:简化到本质。 📌 马斯克常说:“If we don’t end up adding back at least 10% of what we deleted, we didn’t delete enough.” Step 3:优化并简化流程 Optimize and simplify “Only after you stop adding and deleting should you optimize.” 不要过早优化无意义的东西。 在确定系统设计最简之后,才进入效率提升阶段。 顺序很重要:删除 → 优化。 Step 4:加速流程 Accelerate cycle time “But don’t go faster until you’ve eliminated dumb things.” 确认设计正确后,再提升执行速度。 强调快速试错(fail fast, learn faster)。 在 SpaceX,他要求测试频率“高于舒适区”,以缩短学习曲线。 Step 5:自动化 Automate last “Don’t automate a dumb process.” 自动化是最后一步,而不是第一步。 先理解、优化、验证,再自动化。 否则你只是让错误更快地发生。

总裁简报 CEO Briefing

37,189 views • 9 months ago

所謂'緣起的世界'只不過是我們的妄想🌹 我看到一篇關於雙縫干涉實驗的文章,正好與唯識講的道理相互印證,分享給大家。 以下是文章的內容: [引用]说一个东西真实存在,就必须得有它本身、他自己、他的本体才叫真实有。不论谁来看,都一样,不会变,我们称真实为客观存在,即不以人的意识为转移,是放之四海而皆准的道理。佛法中把真实存在的东西叫做自性,如果说这个东西真实存在,就是说它有自性,没有自性的东西,即是不存在是虚妄。 按照我们现代人的理解,我们能找到一个真实存在的东西吗? 这个问题我们先放一边,我们先考虑另外一个问题。我们看到的是什么?我们能看到外界的东西吗?我们看到外界的颜色是真正外界有颜色吗? 现代物理学证明,我们的眼睛有三种视锥细胞,可以组成上百万种颜色,我们看到的世界就是由这三种颜色组成的;像牛,狗等哺乳动物他们的视觉画笔只有两种,而螳螂虾的视觉可以说是世界之最,它的视锥细胞多达12-16种,它所看到的世界简直不可思议。 通过这个视频,我们能够知道:这个世界上可能并不存在颜色,我们之所以能看到颜色,是因为我们个体有不同的视锥细胞造成的。实际上我们都知道,我们之所以能看到物体,是因为光的反射和折射的作用。光通过物体表面时会反射一部分光线到我们的眼睛,我们就看到了这个物体,我们认为这个物体的颜色就是我们看到的颜色,实际上不是,这个物体的颜色其实是我们自己个体视锥细胞翻译出来的,每个人看到的颜色都会有差别,但我们会认为每个人看到的颜色是一样的,之所以会这样认为,是因为我们根本无法得知除了自己之外其他人的视觉感受,换句话说就是我们看不到我们视觉之外的任何颜色,这一点证明了颜色根本不是真实存在的,完全是主观认知,或许这个世界根本没有颜色,但我们无从得知,从而我们得到一个结论:我们看不到任何东西的自性。 从这个结论所引申出来的声音、气味、味道、触觉、想法,即佛法中的声、香、味、触、法,都是我们个体的主观认知,并不是一个东西真实有这些特征,因为我们无从得知我们认知之外的认知。这就是为什么“有一种冷叫奶奶说冷”的原因,我们的所有见闻觉知只代表自己,你体会不到你认识外的存在,一旦被我们认识到的就只是我们自己的认知,所以我们都是生活在自己的认知范围里,也就是说我们的所有认知不是客观存在的,都是没有自性的。 我们再思考:既然我们认识不到客观存在的东西,那我们能不能说到他们?能不能用理论证明确实有真实存在的东西呢? 实际上,我们认识不到客观存在的东西,怎么能说到他们呢?很显然说不到,你没见过的东西,怎么脑补也无法说清楚,就算说出来了你也没办法证实,因为我们说眼见为实,可我们都没见过真实存在的东西怎么能说清楚呢?那我们,能不能用理论证明有真实存在的东西呢? 物理学非常有名的双缝干涉实验,我把视频发在这里。咱们说说为什么科学家会做这个实验?科学家们认为物质是客观存在的,就像我们所有人类的认知一样,他们为了证明物质真实存在,想方设法去验证。他们认为只要找到组成物质的最小单位,并且证明这个最小单位是真实存在的,就可以说由它组成的任何物质都是真实存在的了,就如上面的双缝干涉实验,但这个实验却证明打出去的粒子是变成物质的存在形式(竖条纹)还是变成能量的存在形式(波纹)跟观察者是否观察有关,也就是说人类所认为的物质并不真实存在,说它是否真实存在跟我们的意识有关。 实际上,科学家最初的设想就是自相矛盾的,他们想找到组成物质的最小单位以此来证明由这个基本单位组成的任何东西都是存在的,这个想法看似合理,实际上根本就是个悖论,如果说最小的物质单位找到了,那这个东西得有长宽高吧?有体积就不是最小,就可以再分,无限分下去还得有体积,不能是零,是零就不存在物质了,所以只要有体积就可以再分,请问你怎么能找到组成物质的最小单位呢?真可笑!退一步说,真理是永恒不变的,放之四海而皆准的,在地球上的真理也必须在地球以外还得皆准才能叫真理,我们连地球还没研究明白呢,又怎么能找到永恒不变的真理呢?这不是夜郎自大吗? 同类有情的见闻觉知都是相似的,但绝不相同,每个有情的认知仅限于他的见闻觉知,他永远不可能认识到他认知之外的东西,甚至我们会下意识不假思索的认为我们的见闻觉知是真实存在的,但我们都忘了——真理是什么?永恒不变!如果你见闻觉知的东西都是不变的,你才可以说我找到真实了,除此之外都是妄想。

唯識學苑

82,169 views • 2 years ago

熟悉Prompt的同学们应该都知道,通常在写Prompt的时候要先设定角色:“你是XX方面的专家”,这并非玄学,而是有科学根据的。 GPT在训练的时候,有各种训练数据,有的质量高有的质量低,而默认情况下,生成高质量数据和低质量数据的概率差不多,但是当你给它设定XX专家的角色时,它会尽可能把概率分布在高质量的解决方案上。 详细内容建议看下面这段Andrej Karpathy在State of GPT中的一段演讲。 以下是这段视频的文字文字内容: ---------- 下面我要讲的这点对LLM的理解非常有趣,我觉得这算是LLM的一种心理特性:LLM并不追求成功,而是追求模仿。你希望它成功,那就需要向它明确要求。这里的意思是,在训练Transformer的过程中,它们有各种训练集,而这些训练数据中可能涵盖了各种不同质量的表现。比如,可能有一个关于物理问题的提示,然后可能有学生的解答完全错误,但也可能有专家的答案完全正确。尽管Transformer可以识别出低质量的解决方案和高质量的解决方案,但默认情况下,它们只会模仿所有的数据,因为它们仅仅是基于语言模型进行训练的。 在实际测试中,你其实需要明确要求它表现得好。在这篇论文的实验中,他们尝试了各种提示。例如,“让我们逐步思考”这种提示就很有效,因为它把推理过程分散到了许多记号上。但效果更好的是这样的提示:“让我们以一步一步的方式解决问题,以确保我们得到正确的答案。” 这就好像是在引导Transformer去得出正确的答案,这会使Transformer的表现更好,因为此时Transformer不再需要把它的概率质量分散到低质量的解决方案上,尽管这听起来很荒谬。 基本上,你可以自由地要求一个高质量的解决方案。比如,你可以告诉它,“你是这个话题的领先专家。假装你的智商是120。” 但不要尝试要求太高的智商,因为如果你要求智商400,可能就超出了数据分布的范围,更糟糕的是,你可能落入了类似科幻内容的数据分布,它可能会开始展现一些科幻的,或者说角色扮演类的东西。所以,你需要找到适合的智商要求。我想这可能是一个U型曲线的关系。

宝玉

348,643 views • 3 years ago