Загрузка видео...

Не удалось загрузить видео

На главную

看了全球顶级量化交易巨头Jane Street在Texas的数据中心,你就能理解英伟达黄仁勋反复说的大型企业不是AI数据中心的用户,而是拥有者的含义。 这不是预测,是现实。在其他公司还在讨论“要不要建数据中心”时,Jane Street已经在既有机房里把算力密度推到了物理极限。 不是简单堆GPU,而是把机房的每一瓦电力、每一滴冷却液、每一平方米结构都用到极致。他们说硬件的成本很高,但错失机会的成本更高。 他们在Texas拥有一座完全由内部团队主导设计和改造的 AI 数据中心,让Jane Street从最初仅6台Dell桌面服务器的小规模起步,快速扩展至56个机架、4032张液冷GB300的高功率密度集群,单机柜峰值可达140kW。实现了对算力的完全自主掌控,目的是对交易策略、专有模型和实时数据保持低延迟、定制化和绝对控制。 我的思考是,在AI驱动的量化金融领域,自建高性能液冷数据中心已成为企业保持长期竞争壁垒的标配,而非可选项。Jane Street如此,其他量化金融机构呢? $NVDA $ORCL $VRT

24,577 просмотров • 3 месяцев назад •via X (Twitter)

Комментарии: 0

Нет доступных комментариев

Здесь появятся комментарии из оригинального поста

Похожие видео

白宫加密政策主管David Sacks: 四年内AI 大模型能力将增长一百万倍 ! “我认为目前至少在三个关键维度上,进步的速度都是指数级的。” “首先是算法本身。模型每年提升的速度大概是 3-4 倍。” “它们不仅仅是在速度和性能上更快更好,而且将从量变到质变。” “接着是推理模型。” “我们甚至还没有真正进入智能代理时代,但这将是继推理模型之后的下一个重大飞跃。” “在这个领域,我们才刚刚开始(推理算力增加带来的能力增加也将是倍数增长)。” “接下来是芯片。” “根据多种衡量标准,每一代芯片的性能可能比上一代提高 3-4 倍。” “不只是单个芯片在不断进步,他们还在研究如何将这些芯片联网在一起。” “就像 NVL72 系统,它类似于一个机架系统,可以在数据中心级别大幅提升性能。” “计算能力是第三个你会看到基本上呈指数级进步的领域。” “只需要看看数据中心中部署的 GPU 数量。” “当马斯克最初开始训练 Grok 时,我认为他们大概有 10 万块 GPU。现在已经有 30 万块 GPU,而且正朝着百万块 GPU的目标迈进。OpenAI 的数据中心 Stargate 也是同样的情况。” “在接下来的几年中,他们可能会发展到 500 万、1000 万块 GPU。” 1,000,000 倍的增长是怎么得出的: “算法、芯片和数据中心的扩展和改进速度都是每年 3-4 倍。” “也就是说,每两年进步 10 倍。” “很多人没有理解指数级进步的含义:如果每两年提升 10 倍,并不意味着四年后你只是提升 20 倍。” “这实际上意味着提升 100 倍。” “把这些因素相乘:算法、芯片,以及可用于 AI 的原始计算能力。” 100 倍模型 🧠 × 100 倍芯片 💾 × 100 倍计算能力 ⚡️ = 1,000,000 倍的 AI 大模型🤖 “你所谈论的就是 1,000,000 倍的能力增长。” “但这种变革的影响将是绝对巨大的。” “我觉得人们还没有充分认识到这一点,因为他们不了解指数级进步的意义。”

夜谈

25,895 просмотров • 1 год назад

未来三四年,全球最重要的事情是什么? 答案是:太空数据中心。 你可能会觉得奇怪, 但从第一性原理出发,把数据中心建在地球上,其实从一开始就错了。 一个数据中心,最核心的成本是什么? 两样东西: 电,还有散热。 先说电。 在太空,卫星可以24小时晒太阳。 强度还比地面高30%。 综合下来,辐射能量是地球的6倍! 这意味着什么? 你根本不需要昂贵的储能电池。 在整个太阳系里,最便宜、最管够的能源,就是太空里的太阳能。 再说散热。 你在地球上建一个机房, 整个机架一半的重量和成本,都是给空调、水冷系统这些复杂玩意儿准备的。 但在太空呢? 散热是免费的。 你只要在卫星背对太阳的那一面,放一个散热器就行了。 温度接近绝对零度。 所有复杂的散热设备、巨大的成本,瞬间归零。 还没完。 数据中心里,一个个机柜是怎么连起来的? 用光纤。本质是激光在缆线里跑。 还有什么比这更快? 有。 让激光在真空里跑。 当无数个卫星数据中心在太空用激光互联, 你就拥有了一个比地球上任何网络都更快的超级数据中心。 这对我们普通人意味着什么? 现在,我手机发个指令,信号要先到基站,进光纤,绕过好几个城市路由器,才能到达数据中心,然后原路返回。 未来呢? 你的手机直接跟卫星对话,信号上去,算完,下来。 Boom,结束。 更低的成本,更快的速度。 这才是AI时代该有的样子。

墓碑科技

34,691 просмотров • 8 месяцев назад

甲骨文的拉里·埃里森,刚刚给所有AI公司判了死刑。 他说,你们的模型,一文不值。 不是技术不行,也不是人才不行。 问题出在数据上。 ChatGPT,Gemini,Grok,Llama…… 所有这些模型,吃的都是同一锅饭。 整个公共互联网。 每一篇维基百科,每一个Reddit帖子,每一条新闻。 结果是什么? 它们正在趋同,变成贴着不同logo的同一个产品。 用埃里森的话说,就是“大路货”。 真正的黄金,不在网上。 在私有数据里。 医院系统里的病历。 银行金库里的财务数据。 财富500强公司的供应链机密。 猜猜这些数据,大部分都存在哪里? 不在谷歌,不在亚马逊,也不在微软。 在甲骨文的数据库里。 所以甲骨文出手了。 他们推出了一个叫“AI数据库26ai”的东西。 它允许所有顶级AI模型,直接在你公司的私有数据上进行推理。 而且数据永远不用离开保险库。 他们用的是一种叫RAG的技术。 AI不去“学习”你的数据,而是实时“检索”它。 这意味着什么? 银行可以分析它发放的每一笔贷款,而不用暴露任何一个客户记录。 医院可以用AI诊断病人,而不用担心违反HIPAA法案。 国防承包商能让AI分析机密行动,数据一步都离不开安全环境。 埃里森在赌一个比GPU热潮、比数据中心建设更大的未来。 他称之为“历史上最大、增长最快的市场”。 数字很惊人。 甲骨文的待履约收入刚刚达到5230亿美元。 其中3000亿,来自OpenAI一家公司。 但这里有个没人谈论的危险。 如果私有数据是AI真正的护城河。 那么谁控制了数据库,谁就控制了AI的未来。 这种权力集中到一家公司手里。 难道不该让每个人都感到不安吗?

墓碑科技

594,334 просмотров • 5 месяцев назад

今天看完全球知名量化交易公司的Jane Stree的机房实拍视频,真实感受到下一个阶段,AI刚需的板块轮动,大概率将是电力和液冷!🧐 虽然最近英伟达那张VR200与GB300的对比图,大家炒作的火热,存储,MLCC,PCB等。其实都涨过一轮,而且幅度不小,估值也不便宜。 而液冷和电力,作为数据中心最重要的环节,不允许出任何一点故障,不然780万美金的VR200,原地报废,谁也承担不起这个成本,所以他们的重要性和不可替代性,也将会更高。重点是,这些公司目前还不算太贵,安全垫足够高! 视频中,那些整齐排布的GB300机柜,峰值功耗140千瓦,风冷根本压不住。而下一代Vera Rubin Ultra直接干到600千瓦/机架,相当于500个美国家庭的用电,全塞进一个7英尺高的铁柜子里。这种跨越式升级,基本属于物理极限了。 现在整个华尔街量化机构、硅谷大厂,都在疯狂扩建AI数据中心。微软Q1财报会上,纳德拉说单季度新增了1GW容量,两年内要翻倍。谷歌、Meta的2026年Capex加起来超过7000亿美金。而这钱里,三分之一不是买GPU,而是买变压器、母线槽、液冷系统、备用发电机等。 更有意思的是液冷,Jane Stree他们说到一个很搞笑的,以前搞运维就看看风扇转不转,现在得天天提心吊胆怕服务器长青苔。机房90%的热量靠冷板里的液体带走,为了防止微米级缝隙被细菌堵死,水要过滤到25微米,还得兑25%丙二醇。 Jane Stree技术主管也说了句大实话,硬件确实贵,但他们最怕的是机会成本。因为算力太稀缺,内部各个交易团队排队抢配额。要是因为电力负载没算,断路器跳闸了,训练任务直接回滚,错失的交易策略和真金白银才是最致命的。 这不光是量化机构,包括各家大厂,逻辑也是如此,机会成本远远大于硬件成本,保障长期运维的安全和可靠,才是最关键的。而其中一些液冷的运维公司,也渐渐衍生出类似电梯生意的终身绑定SaaS模式,可能成为潜在的AI服务类的隐形现金流之王。 后续我会再出一篇推文,详细介绍这类上市公司。 👇原视频放在评论区!

Rocky

71,901 просмотров • 3 месяцев назад

近期我们研究员正在寻找优质的全流通项目,避免了VC抛售的困扰,同时属于热门赛道,比如 #DEPIN+#AI。并且尽可能上线币安等一线交易所。 我很兴奋的给大家分享挖掘出的一颗宝石:Streamr Network ,代币名称为:#DATA ,币安上线。5000万市值,全球通,目前价格0.055。 #Streamr: 一个去中心化实时数据共享网络,旨在提供高速、可靠的数据流传输和处理。通过去中心化的 P2P 架构,无需中央服务器,避免供应商锁定和单点故障。Streamr 为开发者和企业提供了一个无需信任的环境来发布、订阅和交易数据流。其核心目标是使数据变得更加自由和开放,从而推动数据生态系统的发展。 数据传输在 #AI 和 #DEPIN 领域应用广泛。数据隐私+低延迟+安全性+抗审查至关重要,#Streamr 为此努力了6年之久,今年一季度发布了 #Streamr 1.0 主网!标志着项目的重要里程碑,将带来更稳定和高效的数据网络性能。 看好的理由: ①实时数据流 Streamr 支持实时数据的发布和订阅,用户可以创建或加入数据流,享受即时的数据更新。这在DEPIN、AI、金融市场数据分析等领域非常重要。 ②去中心化网络: 网络的P2P去中心化架构确保了数据的安全性和隐私性,消除了单点故障的风险。所有数据流和交易都是在无需信任的环境中进行,具备抗审查性。 ③数据市场: Streamr 内置了一个数据市场,允许用户自由交易数据流。数据提供者可以通过出售数据流获利,而数据消费者可以根据需要购买实时数据。 ④集成与可扩展性: Streamr 提供了强大的 API 和 SDK,使开发者能够轻松地将数据流功能集成到现有的应用程序和平台中。此外,Streamr 网络能够与其他区块链系统(如以太坊)无缝对接,进一步拓展了其应用范围。 实际使用案例: Crypto Queries: 项目利用 AI 语言工具与 Web3 数据进行交互,提供了一个强大的工具来查询和分析区块链数据。 Streamr ML Demo: 项目将 Streamr 平台与 Binance API 连接,使用 ARIMA 机器学习模型来预测未来的交易数据,并在网页上显示实时和预测数据。 Breathing Easy: 项目通过Streamr网络和 AI 聊天机器人展示实时空气污染数据,使得用户可以轻松理解空气质量信息。 Streamr+AI: AI数据源:为AI模型提供高质量的实时数据以进行训练和微调。 $DATA 激励数据提供商推动AI数据经济的发展。 同时 $DATA 可充当数据交换媒介,通过P2P网络大规模分发带宽密集型AI生成的内容(视频/音频)。 Streamr+DEPIN: DEPIN数据交换媒介:DePIN 中,Streamr 可以促进互联设备之间向去中心化数据交换的转变,使 DePIN 从中心化数据管道过渡到完全去中心化的贡献者阵列。Streamr 协议允许 DePIN 用户通过其网络和技术堆栈向上、向内或向下传输数据。 未来展望 Streamr 的去中心化实时数据共享网络具有广阔的应用前景。随着 1.0 版本的发布和更多开发者加入生态系统,Streamr 有望在AI、DEPIN、金融数据和更多领域发挥重要作用。通过不断的技术创新和社区驱动的发展,Streamr 正在努力实现其构建开放和自由数据生态系统的愿景。 👇视频详细了解:

Rocky

64,824 просмотров • 2 лет назад

黄仁勋带了一台GPU去白宫跟川普一起开发布会 60年前,IBM的System 360定义了现代计算机 CPU、操作系统、I/O系统、多任务处理——这些词,1964年就有了 从那之后,计算机结构基本没变 而现在,黄仁勋说,他们又重新发明了计算机 这不是传统意义上的“芯片” 你眼前的,是一块70斤的GPU 6万个零件,1万瓦功耗 要造它,几百家供应商同时开工 要搬它,得靠机器人 要测它,得用一台超算来测 而它的使命,是驱动一个全新的行业:人工智能 它不是工具,是“制造者” 以前是水进电出,现在是电进“智能”出 它是AI时代的“发电机” 但这不只是芯片的故事 这背后,是美国本土制造业的全面升级 人工成本早已不是核心 拼的是技术,是自动化,是数字孪生,是AI工厂本身 黄仁勋说,没有总统的推动,这一切不会这么快 制造业的核心早已不是“便宜”,而是“智能” 他们要在美国本土建起未来的“超级工厂” 靠的不是廉价劳动力,而是AI和机器人 更重要的是,这条AI基建链,将革新所有行业 医疗、制药、金融、教育、生命科学…… 所有行业都在接入AI,而这个“引擎”就是起点 这不是一个行业的升级,这是所有行业的重构 黄仁勋最后说: 制造未来的工厂,本身就是未来的工厂 而他们,正在把它造出来

墓碑科技

324,352 просмотров • 1 год назад