Video yükleniyor...

Video Yüklenemedi

Ana Sayfaya Dön

看了全球顶级量化交易巨头Jane Street在Texas的数据中心,你就能理解英伟达黄仁勋反复说的大型企业不是AI数据中心的用户,而是拥有者的含义。 这不是预测,是现实。在其他公司还在讨论“要不要建数据中心”时,Jane Street已经在既有机房里把算力密度推到了物理极限。 不是简单堆GPU,而是把机房的每一瓦电力、每一滴冷却液、每一平方米结构都用到极致。他们说硬件的成本很高,但错失机会的成本更高。 他们在Texas拥有一座完全由内部团队主导设计和改造的 AI 数据中心,让Jane Street从最初仅6台Dell桌面服务器的小规模起步,快速扩展至56个机架、4032张液冷GB300的高功率密度集群,单机柜峰值可达140kW。实现了对算力的完全自主掌控,目的是对交易策略、专有模型和实时数据保持低延迟、定制化和绝对控制。 我的思考是,在AI驱动的量化金融领域,自建高性能液冷数据中心已成为企业保持长期竞争壁垒的标配,而非可选项。Jane Street如此,其他量化金融机构呢? $NVDA $ORCL $VRT

24,577 görüntüleme • 1 ay önce •via X (Twitter)

0 Yorum

Yorum bulunmuyor

Orijinal gönderinin yorumları burada görünecek

Benzer Videolar

白宫加密政策主管David Sacks: 四年内AI 大模型能力将增长一百万倍 ! “我认为目前至少在三个关键维度上,进步的速度都是指数级的。” “首先是算法本身。模型每年提升的速度大概是 3-4 倍。” “它们不仅仅是在速度和性能上更快更好,而且将从量变到质变。” “接着是推理模型。” “我们甚至还没有真正进入智能代理时代,但这将是继推理模型之后的下一个重大飞跃。” “在这个领域,我们才刚刚开始(推理算力增加带来的能力增加也将是倍数增长)。” “接下来是芯片。” “根据多种衡量标准,每一代芯片的性能可能比上一代提高 3-4 倍。” “不只是单个芯片在不断进步,他们还在研究如何将这些芯片联网在一起。” “就像 NVL72 系统,它类似于一个机架系统,可以在数据中心级别大幅提升性能。” “计算能力是第三个你会看到基本上呈指数级进步的领域。” “只需要看看数据中心中部署的 GPU 数量。” “当马斯克最初开始训练 Grok 时,我认为他们大概有 10 万块 GPU。现在已经有 30 万块 GPU,而且正朝着百万块 GPU的目标迈进。OpenAI 的数据中心 Stargate 也是同样的情况。” “在接下来的几年中,他们可能会发展到 500 万、1000 万块 GPU。” 1,000,000 倍的增长是怎么得出的: “算法、芯片和数据中心的扩展和改进速度都是每年 3-4 倍。” “也就是说,每两年进步 10 倍。” “很多人没有理解指数级进步的含义:如果每两年提升 10 倍,并不意味着四年后你只是提升 20 倍。” “这实际上意味着提升 100 倍。” “把这些因素相乘:算法、芯片,以及可用于 AI 的原始计算能力。” 100 倍模型 🧠 × 100 倍芯片 💾 × 100 倍计算能力 ⚡️ = 1,000,000 倍的 AI 大模型🤖 “你所谈论的就是 1,000,000 倍的能力增长。” “但这种变革的影响将是绝对巨大的。” “我觉得人们还没有充分认识到这一点,因为他们不了解指数级进步的意义。”

夜谈

25,895 görüntüleme • 1 yıl önce

未来三四年,全球最重要的事情是什么? 答案是:太空数据中心。 你可能会觉得奇怪, 但从第一性原理出发,把数据中心建在地球上,其实从一开始就错了。 一个数据中心,最核心的成本是什么? 两样东西: 电,还有散热。 先说电。 在太空,卫星可以24小时晒太阳。 强度还比地面高30%。 综合下来,辐射能量是地球的6倍! 这意味着什么? 你根本不需要昂贵的储能电池。 在整个太阳系里,最便宜、最管够的能源,就是太空里的太阳能。 再说散热。 你在地球上建一个机房, 整个机架一半的重量和成本,都是给空调、水冷系统这些复杂玩意儿准备的。 但在太空呢? 散热是免费的。 你只要在卫星背对太阳的那一面,放一个散热器就行了。 温度接近绝对零度。 所有复杂的散热设备、巨大的成本,瞬间归零。 还没完。 数据中心里,一个个机柜是怎么连起来的? 用光纤。本质是激光在缆线里跑。 还有什么比这更快? 有。 让激光在真空里跑。 当无数个卫星数据中心在太空用激光互联, 你就拥有了一个比地球上任何网络都更快的超级数据中心。 这对我们普通人意味着什么? 现在,我手机发个指令,信号要先到基站,进光纤,绕过好几个城市路由器,才能到达数据中心,然后原路返回。 未来呢? 你的手机直接跟卫星对话,信号上去,算完,下来。 Boom,结束。 更低的成本,更快的速度。 这才是AI时代该有的样子。

墓碑科技

34,520 görüntüleme • 6 ay önce

甲骨文的拉里·埃里森,刚刚给所有AI公司判了死刑。 他说,你们的模型,一文不值。 不是技术不行,也不是人才不行。 问题出在数据上。 ChatGPT,Gemini,Grok,Llama…… 所有这些模型,吃的都是同一锅饭。 整个公共互联网。 每一篇维基百科,每一个Reddit帖子,每一条新闻。 结果是什么? 它们正在趋同,变成贴着不同logo的同一个产品。 用埃里森的话说,就是“大路货”。 真正的黄金,不在网上。 在私有数据里。 医院系统里的病历。 银行金库里的财务数据。 财富500强公司的供应链机密。 猜猜这些数据,大部分都存在哪里? 不在谷歌,不在亚马逊,也不在微软。 在甲骨文的数据库里。 所以甲骨文出手了。 他们推出了一个叫“AI数据库26ai”的东西。 它允许所有顶级AI模型,直接在你公司的私有数据上进行推理。 而且数据永远不用离开保险库。 他们用的是一种叫RAG的技术。 AI不去“学习”你的数据,而是实时“检索”它。 这意味着什么? 银行可以分析它发放的每一笔贷款,而不用暴露任何一个客户记录。 医院可以用AI诊断病人,而不用担心违反HIPAA法案。 国防承包商能让AI分析机密行动,数据一步都离不开安全环境。 埃里森在赌一个比GPU热潮、比数据中心建设更大的未来。 他称之为“历史上最大、增长最快的市场”。 数字很惊人。 甲骨文的待履约收入刚刚达到5230亿美元。 其中3000亿,来自OpenAI一家公司。 但这里有个没人谈论的危险。 如果私有数据是AI真正的护城河。 那么谁控制了数据库,谁就控制了AI的未来。 这种权力集中到一家公司手里。 难道不该让每个人都感到不安吗?

墓碑科技

590,517 görüntüleme • 4 ay önce

近期我们研究员正在寻找优质的全流通项目,避免了VC抛售的困扰,同时属于热门赛道,比如 #DEPIN+#AI。并且尽可能上线币安等一线交易所。 我很兴奋的给大家分享挖掘出的一颗宝石:Streamr Network ,代币名称为:#DATA ,币安上线。5000万市值,全球通,目前价格0.055。 #Streamr: 一个去中心化实时数据共享网络,旨在提供高速、可靠的数据流传输和处理。通过去中心化的 P2P 架构,无需中央服务器,避免供应商锁定和单点故障。Streamr 为开发者和企业提供了一个无需信任的环境来发布、订阅和交易数据流。其核心目标是使数据变得更加自由和开放,从而推动数据生态系统的发展。 数据传输在 #AI 和 #DEPIN 领域应用广泛。数据隐私+低延迟+安全性+抗审查至关重要,#Streamr 为此努力了6年之久,今年一季度发布了 #Streamr 1.0 主网!标志着项目的重要里程碑,将带来更稳定和高效的数据网络性能。 看好的理由: ①实时数据流 Streamr 支持实时数据的发布和订阅,用户可以创建或加入数据流,享受即时的数据更新。这在DEPIN、AI、金融市场数据分析等领域非常重要。 ②去中心化网络: 网络的P2P去中心化架构确保了数据的安全性和隐私性,消除了单点故障的风险。所有数据流和交易都是在无需信任的环境中进行,具备抗审查性。 ③数据市场: Streamr 内置了一个数据市场,允许用户自由交易数据流。数据提供者可以通过出售数据流获利,而数据消费者可以根据需要购买实时数据。 ④集成与可扩展性: Streamr 提供了强大的 API 和 SDK,使开发者能够轻松地将数据流功能集成到现有的应用程序和平台中。此外,Streamr 网络能够与其他区块链系统(如以太坊)无缝对接,进一步拓展了其应用范围。 实际使用案例: Crypto Queries: 项目利用 AI 语言工具与 Web3 数据进行交互,提供了一个强大的工具来查询和分析区块链数据。 Streamr ML Demo: 项目将 Streamr 平台与 Binance API 连接,使用 ARIMA 机器学习模型来预测未来的交易数据,并在网页上显示实时和预测数据。 Breathing Easy: 项目通过Streamr网络和 AI 聊天机器人展示实时空气污染数据,使得用户可以轻松理解空气质量信息。 Streamr+AI: AI数据源:为AI模型提供高质量的实时数据以进行训练和微调。 $DATA 激励数据提供商推动AI数据经济的发展。 同时 $DATA 可充当数据交换媒介,通过P2P网络大规模分发带宽密集型AI生成的内容(视频/音频)。 Streamr+DEPIN: DEPIN数据交换媒介:DePIN 中,Streamr 可以促进互联设备之间向去中心化数据交换的转变,使 DePIN 从中心化数据管道过渡到完全去中心化的贡献者阵列。Streamr 协议允许 DePIN 用户通过其网络和技术堆栈向上、向内或向下传输数据。 未来展望 Streamr 的去中心化实时数据共享网络具有广阔的应用前景。随着 1.0 版本的发布和更多开发者加入生态系统,Streamr 有望在AI、DEPIN、金融数据和更多领域发挥重要作用。通过不断的技术创新和社区驱动的发展,Streamr 正在努力实现其构建开放和自由数据生态系统的愿景。 👇视频详细了解:

Rocky

64,823 görüntüleme • 2 yıl önce

黄仁勋带了一台GPU去白宫跟川普一起开发布会 60年前,IBM的System 360定义了现代计算机 CPU、操作系统、I/O系统、多任务处理——这些词,1964年就有了 从那之后,计算机结构基本没变 而现在,黄仁勋说,他们又重新发明了计算机 这不是传统意义上的“芯片” 你眼前的,是一块70斤的GPU 6万个零件,1万瓦功耗 要造它,几百家供应商同时开工 要搬它,得靠机器人 要测它,得用一台超算来测 而它的使命,是驱动一个全新的行业:人工智能 它不是工具,是“制造者” 以前是水进电出,现在是电进“智能”出 它是AI时代的“发电机” 但这不只是芯片的故事 这背后,是美国本土制造业的全面升级 人工成本早已不是核心 拼的是技术,是自动化,是数字孪生,是AI工厂本身 黄仁勋说,没有总统的推动,这一切不会这么快 制造业的核心早已不是“便宜”,而是“智能” 他们要在美国本土建起未来的“超级工厂” 靠的不是廉价劳动力,而是AI和机器人 更重要的是,这条AI基建链,将革新所有行业 医疗、制药、金融、教育、生命科学…… 所有行业都在接入AI,而这个“引擎”就是起点 这不是一个行业的升级,这是所有行业的重构 黄仁勋最后说: 制造未来的工厂,本身就是未来的工厂 而他们,正在把它造出来

墓碑科技

324,006 görüntüleme • 1 yıl önce

No Priors 对 Andrej Karpathy 很精彩的一期播客采访!虽然 Andrej 离开 Tesla 许久了,但作为纯视觉 FSD 的开创者,他依然十分看好 Telsa: - Tesla 面临软件问题,Waymo 则面临硬件问题,但软件比硬件问题容易; - Tesla 从基于规则的程序(C++)转向深度学习,端到端神经网络将最终将主导整个自动驾驶技术栈; - Tesla 是一家"大规模机器人公司”,而非汽车公司; - Optimus 只需要在自己的工厂孵化就行,无需依赖第三方的合作,这是巨大的优势; Andrej 认为,LLM 的主要挑战不再是底层架构,而是它们所训练的数据以及训练期间使用的损失函数。Transformer 架构在很多方面实际上优于人脑,它人脑更擅长记忆序列,用于训练神经网络的梯度下降优化比大脑的学习方式更有效,现在主要受限于数据问题;合成数据至关重要,但可能导致"静默崩溃”,为避免这种情况,我们需要在数据中保持“熵”。 如何向训练数据中注入熵呢? - 合成数据:这涉及创建补充真实数据的虚拟数据。然而,重要的是要确保此合成数据与真实世界数据具有相同水平的随机性和丰富性; - 角色数据:这是包含虚构人物背景信息的一种合成数据。在训练模型执行任务时,您可以想象您正在向具有此特定角色的人描述该任务。这迫使模型探索更广泛的可能性并有助于保持熵; 接下来,随着对模型解释性研究的突破,能够提高模型参数的激活效率,可能只需要 10 亿参数的模型就能实现“核心认知”,并不需要把所有的知识都压缩到模型里面,核心认知模型可以调用其他模型或者工具。 未来,高级的 AI 将会成为人类的外脑,贫富差距就是外脑 AI 性能的差距,穷人只能用便宜的开源的外脑 AI 做低级的工作,而且容易被控制;垄断企业和富人则会拥有更高级的人工智能加持。。主持人的科幻话题😄 最后 Andrej 对 AI 教育的看法:教师来设计课程,AI 将成为学生的前端界面,智能时代学习数学、物理和 CS 非常重要,这是逻辑推理的基础,在 AGI 到来之前很重要,但在后 AGI 时代,人类需要提升的就是提问的能力!

indigo

18,536 görüntüleme • 1 yıl önce