Video wird geladen...

Video konnte nicht geladen werden

Zur Startseite

Meta 宣布对外出售多余的 AI 算力,市场一片恐慌:AI 算力需求是不是见顶了? 恰好,红杉刚和 SemiAnalysis 创始人 Dylan Patel 做了一场 70 分钟的对谈。我把访谈看完了,先说结论: Dylan 认为,算力的需求不是见顶,而是更严重的供不应求。原因是模型能力进步的速度高于算力增加的速度。Fable 和 Mythos 比 Opus的 TAM,翻了至少 2 倍,但过去几个月,算力没有翻倍。 除此之外,访谈还聊到了: - 既然算力供不应求,为什么Crusoe有数据中心被停建了? - Anthropic赚钱还是血亏? - 大家都搞自己的芯片,英伟达会完蛋吗? - Cerebras 这样的新型芯片能挑战英伟达吗? - 3个未来值得盯的半导体的细分方向 每一个答案都反共识,详情请见视频。

18,988 Aufrufe • vor 2 Monaten •via X (Twitter)

0 Kommentare

Keine Kommentare verfügbar

Kommentare vom Original-Post werden hier angezeigt

Ähnliche Videos

白宫加密政策主管David Sacks: 四年内AI 大模型能力将增长一百万倍 ! “我认为目前至少在三个关键维度上,进步的速度都是指数级的。” “首先是算法本身。模型每年提升的速度大概是 3-4 倍。” “它们不仅仅是在速度和性能上更快更好,而且将从量变到质变。” “接着是推理模型。” “我们甚至还没有真正进入智能代理时代,但这将是继推理模型之后的下一个重大飞跃。” “在这个领域,我们才刚刚开始(推理算力增加带来的能力增加也将是倍数增长)。” “接下来是芯片。” “根据多种衡量标准,每一代芯片的性能可能比上一代提高 3-4 倍。” “不只是单个芯片在不断进步,他们还在研究如何将这些芯片联网在一起。” “就像 NVL72 系统,它类似于一个机架系统,可以在数据中心级别大幅提升性能。” “计算能力是第三个你会看到基本上呈指数级进步的领域。” “只需要看看数据中心中部署的 GPU 数量。” “当马斯克最初开始训练 Grok 时,我认为他们大概有 10 万块 GPU。现在已经有 30 万块 GPU,而且正朝着百万块 GPU的目标迈进。OpenAI 的数据中心 Stargate 也是同样的情况。” “在接下来的几年中,他们可能会发展到 500 万、1000 万块 GPU。” 1,000,000 倍的增长是怎么得出的: “算法、芯片和数据中心的扩展和改进速度都是每年 3-4 倍。” “也就是说,每两年进步 10 倍。” “很多人没有理解指数级进步的含义:如果每两年提升 10 倍,并不意味着四年后你只是提升 20 倍。” “这实际上意味着提升 100 倍。” “把这些因素相乘:算法、芯片,以及可用于 AI 的原始计算能力。” 100 倍模型 🧠 × 100 倍芯片 💾 × 100 倍计算能力 ⚡️ = 1,000,000 倍的 AI 大模型🤖 “你所谈论的就是 1,000,000 倍的能力增长。” “但这种变革的影响将是绝对巨大的。” “我觉得人们还没有充分认识到这一点,因为他们不了解指数级进步的意义。”

夜谈

25,895 Aufrufe • vor 1 Jahr

前段时间,Gavin Baker 爆了个料:Dario 认为未来世界上可能只剩下一家公司。Dario 很快出来辟谣。 但这个"疯狂结论",最近被人用一笔一笔的账,算出来了。 Dwarkesh 和 SemiAnalysis 创始人 Dylan Patel 做了一场 77 分钟的对谈。我把访谈完整看完了,先说最硬的一笔账—AI 产业链的价值瀑布: 1 瓦算力,晶圆厂设备投资 6 美元;建成数据中心,长约租金每年 10-15 美元,基本贴着成本线;现货价 25-40 美元—SpaceX 就是按这个价卖给 Anthropic 和 Google 的;到模型公司手里卖 token,变现 50-100 美元;再到 Jane Street 这样的客户手里,变现 200-500 美元。 从头到尾,100 倍。每一环都赚钱,越往下游越赚。 这条瀑布隐含一个铁律:算力有限,谁变现效率高,算力就流向谁。我自己的判断是,它正在重新定义"公司"—未来公司规模的上限,不是你能管多少人,而是你能拿到多少瓦。 访谈里还聊到了: •模型公司手握天量算力,正式训练模型却只占 10%,剩下 90% 在干什么? •为什么看算力格局,增量比存量重要—增量几乎就等于全部? •AI"劳动力"每年翻 10 倍,一家公司的"员工"超过全人类,还需要几年? •以及开头那个瓜:Dario 那句被辟谣的话,账到底是怎么一步步算出来的? 每一个答案都反共识。详情请见视频。 真实感慨,算力即权利。

Ben X

25,674 Aufrufe • vor 24 Tagen

王炸来了!马斯克自建芯片超级工厂! 年产1太瓦算力,80%用于太空,20%给地面!1太瓦什么概念? 比全球所有数据中心加起来还多 今天,马斯克又释放出一个重磅消息。 特斯拉自建芯片工厂“Terafab”项目即将启动。 这个项目目标是每年生产超过1太瓦的计算能力(逻辑、内存和封装),其中约80%用于太空,约20%用于地面。 1太瓦是什么概念? 我们熟悉的“太瓦”是功率单位,用在算力上,意味着这个工厂生产的芯片,每秒能完成的计算量,足以支撑一个国家的AI算力需求。马斯克的目标,是建一座“算力发电厂”。 1. 1太瓦算力,到底有多大? 目前全球最顶尖的AI超级计算机,算力也不过几十到几百P(1P=10的15次方)。1太瓦约等于1000P,如果按单颗H100芯片约0.01P算,1太瓦相当于10万颗H100同时运转。 这不是一家芯片厂,这是一座“算力城市”。马斯克要用它,同时喂饱星链、星舰、特斯拉汽车,还有他的各种“火星计划”。 2. 为什么特斯拉要自己造芯片? 以前马斯克买英伟达的卡,从H100买到B200,买得越多,越发现“算力不够,成本太高”。而且,英伟达的芯片是为通用AI设计的,马斯克需要的,是更定制化、更高效的算力,用于自动驾驶、机器人、卫星计算。 于是,他决定自己造。Terafab,就是特斯拉的“算力印钞机”。 3. 80%用于太空,20%给地面——这个比例说明什么? 80%算力给太空,意味着马斯克的重心在星链、星舰、甚至火星基地。星链需要处理海量数据,星舰需要实时导航和控制,火星基地更需要高度自给的AI系统。这些都需要算力,而且需要大量的算力。 20%给地面,主要给特斯拉的自动驾驶和机器人业务。特斯拉的汽车每天产生海量驾驶数据,训练FSD(完全自动驾驶)需要巨大的算力池。20%的份额,足以支撑千万辆级车队的算力需求。 4. 对行业意味着什么? · 英伟达的挑战者来了:马斯克自建芯片厂,意味着英伟达将失去一个超级大客户,同时多了一个潜在的竞争对手。虽然短期不会撼动英伟达的地位,但长期看,AI芯片市场正在分化。 · 汽车芯片格局生变:特斯拉自研芯片的成功,会倒逼其他车企跟进。未来,汽车不只是“装上电池”,还要“装上大脑”。谁能自己造芯片,谁就能掌握核心算力。 · 太空算力新赛道:马斯克把80%算力给太空,等于开辟了一条新赛道——太空计算。卫星、飞船、空间站、月球基地,都需要算力。这比地面数据中心更极端,更考验芯片的功耗、体积、抗辐射能力。 1太瓦算力,80%上太空,20%下地面。马斯克的Terafab,不只是一座芯片厂,是他在构建一个“算力帝国”。 从星链到星舰,从特斯拉到Optimus,算力是支撑所有梦想的底座。他不想被英伟达卡脖子,也不想被任何芯片厂商掣肘。于是,他把手伸向了芯片制造——这是汽车厂从未走过的路。 接下来,他要面对的是台积电、三星这些半导体巨头的挑战。但以马斯克的风格,只要他想做的事,总会有人愿意陪他疯。 你觉得马斯克能造出这个“算力发电厂”吗?

看不懂的SOL

137,441 Aufrufe • vor 6 Monaten

AI的终局,不是中美争霸? 马斯克给出了他的猜测。 他说,从长远来看,AI领域的顶级玩家只有两个:xAI和谷歌。 其他的都只是陪跑? 这很有意思。 硅谷巨头林立,为什么是谷歌,而不是微软、Meta或者OpenAI? 为什么是他自己的xAI,而不是其他新贵? 但这还不是最关键的。 马斯克话锋一转,提到了一个终极对手:中共国。 未来的某个时间点,真正的竞争将在AI巨头与中共国之间展开。 为什么? 马斯克给出了他的逻辑。 中共国拥有巨大的力量。 他预测,到2026年,中共国的发电量将达到美国的三倍。 AI是电老虎,算力就是权力,而电力是算力的基础。 这听起来很有说服力。 但问题来了。 一个国家的电力产出,能直接等同于其在尖端科技上的竞争力吗? 苏联的钢铁产量也曾让世界颤抖,但最终结局如何? 第二个关键点,芯片。 马斯克说,他们会“搞定”芯片问题。 怎么搞定? 在美国川普政府持续的技术封锁和供应链重构下,绕开现有技术壁垒真的那么容易吗? 创新是自由市场的产物,还是计划体制的产物? 这是个根本问题。 马斯克的判断,是基于纯粹的资源和体量计算,还是忽略了某些更深层次的因素? 一个不保护私有产权,数据所有权模糊的环境,真的能孕育出最顶尖的、可信的通用人工智能吗? 这个问题,可能比电力和芯片更核心。

墓碑科技

73,538 Aufrufe • vor 8 Monaten

黄仁勋前几天接受了Axios的70分钟专访,正面回应了芯片股大跌。信息量很大,我把访谈看完了,划几个重点: 1)半导体要崩盘吗?他说短期不会:这轮是基建驱动不是需求驱动,未来10年半导体行业要扩大5到10倍,现在存储、封装、代工全线短缺。 2)泡沫呢?原话:总有一天会来,但5年内非常不可能。理由很反直觉:电力、土地、工人、芯片全都缺,资本开支想砸都砸不出去,供过于求被不断推迟。"这个约束是好事。" 3)Kimi冲击?市场第二次搞错同一道题——DeepSeek那次英伟达单日跌了17%,这次反应一模一样。免费的AI意味着更多使用、更多算力,反而是硬件的利好。 4)开源会干掉OpenAI和Anthropic吗?恰恰相反,最可能付费的就是用过免费AI的人。他说这两家会是人类历史上最成功的IPO。 5)中国业务?收入约等于零,指引里也没算。中国追没追上不重要——AI不是百米冲刺,中国培养的AI研究员比世界其他地方加起来还多,谁也挡不住谁。 6)Anthropic被锁起来的最强模型Mythos(强到能攻破银行系统),该不该开放?他说应该向所有人开放,加固是Anthropic自己的责任。 7)蒸馏算偷吗?违反条款走法律途径,但AI互相学习是智能的本质——几年后互联网99%的内容都是AI生成的,到时候所有模型都在蒸馏别的模型。 8)机器人的ChatGPT时刻?已经到了(它能推理出放苹果前得先开抽屉),但从有趣到有用,还要3到4年。 我自己的看法:打一个折扣(他是AI领域最大的卖铲人),记一个指标(电力、封装、存储的短缺何时缓解——缓解之日,就是警惕之时)。 详细分析,请见视频。

Ben X

127,471 Aufrufe • vor 1 Monat