宝玉
@dotey • 259,588 subscribers
AI Engineer, dedicated to learning and disseminating knowledge about AI, software engineering, and engineering management.
Shorts
Videos
Figure AI 让旗下的 Figure 02 人形机器人自己跳进芬兰一家铸造厂的钢水里，以此让这一代机器人退役。熔出来的金属会被加工成限量纪念品。 Figure 02 是 Figure 的第二代人形机器人，公司很多第一次都由它完成：第一次进 BMW 工厂上岗，第一次运行 Helix（Figure 自研的机器人 AI 模型，负责看画面、理解指令并控制动作），第一次做家务，第一次做物流工作。现在第三代 F.03 的数量越来越多，Figure 说继续维护 F.02 已经不划算。 退役的麻烦在于保护技术。机器人里有大量自研的执行器（可以理解为驱动关节的电机）等核心硬件，Figure 不想让它们流出去；但一台台拆解又太占工程师的时间，会推迟第四代 F.04 的发布。 Figure 于是在网上征求处理办法，施瓦辛格回复说"熔了它们"。他主演的《终结者2》结尾，T-800 机器人就是沉进钢水里的。Figure 联系了施瓦辛格，他表示想参与，项目随后启动。 找场地并不顺利。美国和墨西哥的铸造厂都不愿意让装着锂电池的机器人跳进自家昂贵的设备，Figure 还请《流言终结者》的前主持人帮忙找过。最后只有芬兰伊马特拉的一家铸造厂同意。 训练在 Figure 位于加州圣何塞的园区进行。团队铺了大气垫，让机器人从二楼往下跳。他们参考特技演员的动作，在仿真环境里训练了一个新的 AI 模型，让机器人在一个从没去过的铸造厂里，准确跳进盛钢水的容器。 铸造厂用的是一座 75 吨的电弧炉，靠三根石墨电极通电熔化废钢。团队只有 24 小时、6 炉的机会，每炉钢水只有 20 分钟可用，之后表面就会冷却结壳。Figure 称，现场的高温和强电磁场让摄像器材等电子设备出了故障，机器人则一直正常运行自己的 AI 控制程序。 熔出的金属锭已运回美国，正在加工成一批纪念 F.02 的限量藏品，数量很少，面向个人出售，博文没有公布价格和购买方式。大部分 F.02 已被熔掉，只有几台留在总部仓库。 Figure 在文末特意说明，视频不是 AI 生成的：机器人确实是自主起跳，被运到芬兰，跳进了钢水。
宝玉1,641,133 Aufrufe • vor 17 Tagen
AI 写代码太快，git 扛不住了：Anthropic 为什么自己造了 Scion？ 视频1: 英文版 视频2: 中文版 这一年，GitHub 隔三岔五就出故障。GitHub 在自己的可用性报告里说，流量涨得飞快，很大一块来自 AI：AI 帮人写代码，AI 智能体自己提交修改。他们四个月里把有效容量翻了一倍多，还是扛得很吃力。 Anthropic 自己的代码库更夸张：今年五月平均每天合并约 2500 次修改，到了九月，一天超过 3 万次，涨了十倍以上。 全世界程序员都在用的 git，扛不住了。Anthropic 干脆自己造了一个版本控制系统，叫 Scion，五个月就把整个代码库从 git 换了过去。git 为什么扛不住？Scion 到底改了什么？ git 是干什么的 你可以把 git 想成一个带时光机的共享文件夹。每改一次，就存成一个版本，叫一次提交。谁改了哪一行、什么时候改的，都查得到，改坏了还能退回去。 GitHub，就是全世界最大的、帮大家存放 git 仓库的网站。 很多大公司会把所有项目的代码放进同一个大仓库，这叫单体仓库（monorepo）。Anthropic 用的就是这种。 每人一整座图书馆 git 有个特点：每个人拿到的，都是一整份完整的仓库，连全部历史一起。打个比方，就像借书的时候，顺手把整座图书馆复印一份搬回了家。好处是断了网也能翻历史、查记录。 仓库小的时候，这没问题。可 Anthropic 的仓库，光主分支的历史就接近 100 GB，压缩后的一份工作副本也超过 25 GB。 搬不动了 再看要搬多少次。光是自动构建和测试（CI）这一个环节，每天就要把代码检出到机器上大约 2500 万次，这还没算开发环境、AI 智能体的沙盒和研究任务。要是每次都老老实实整份拉取，一天的流量会超过 600 PB。换算一下，差不多是 60 万块 1 TB 的硬盘。 原来的补丁架构：层层加缓存 他们想过各种办法：浅克隆、稀疏检出这类只拉一部分的功能都试过。原来的架构，是层层加缓存：机器要代码，先找本地的打包缓存（packfile cache）；没有，再找镜像服务器（mirror replicas）；镜像再去找镜像主库，最后才是最上游的那份仓库。每个集群都有一套。新机器启动时，还会先从云存储拷一份仓库快照，省得从零开始拉。 最多的时候，同时开着几百台 git 镜像服务器。可修改越来越多，快照一拷下来就落后一大截，镜像也越来越难养。 换一个问题 后来他们发现，git 那些为离线工作准备的本事，自己几乎用不上。 这里说的“在线”，不是指能不能上网，而是随时能连上公司的代码服务器。你带着笔记本上飞机，没有网也想写代码、翻历史，git 那套“每人一整份”的本事才派得上用场。可在 Anthropic，用代码的几乎都是 AI 智能体和后台任务，它们本来就跑在公司的机器上，跟代码服务器之间的网一直是通的。 于是他们换了个问题：如果从一开始就假设，用的人永远在线、随时连得上服务器，代码管理该长什么样？ 要哪页，取哪页 答案是：别再搬图书馆了，改成去前台借。 Scion 的客户端不存整份仓库，只留一个容量有限的本地缓存。需要哪个目录、哪个文件，再去服务器取。查历史、查某一行是谁写的、合并和变基，这些重活全交给服务器。这些查询能力都通过接口开放出来，很多任务连代码都不用拉，直接问服务器就行。 提交就在服务器上 在 git 里，你先在自己电脑上提交，再推送给大家。在 Scion 里，提交直接发生在服务器上，一提交，所有人马上能看到，根本没有“推送”这一步。 每次提交只记下这次改了哪几个文件，像一张修改清单，不用把整个目录重抄一遍。清单上每个文件只记一个编号，真正的内容存在云存储里，一模一样的内容只存一份。所以仓库再大，一次提交的成本只跟这次改了多少有关。 一层层的分馆 那么多机器同时来借，服务器忙得过来吗？靠的是一层层缓存：每台机器上有个“小管家” scion-daemon，每个区域有个“分馆” scion-cache，最后才是“总馆” scion-server，它背后连着数据库和云存储。 每份文件都按内容算出一个编号，存进去就再也不会变，所以哪一层都能放心缓存，不用跟别人核对。结果，每一层的缓存命中率都超过 99%，绝大多数请求在家门口就解决了。 Scion 的整张架构图 把这些拼起来，就是原文配图里的 Scion 架构。请求分两条路走： 一条是“问事”（控制面）：查历史、看差异、提交修改，所有客户端，包括代码审查工具 Antique、开发者电脑、集群里的任务，都直接找总馆 scion-server。 另一条是“取货”（数据面）：目录和文件内容走缓存。开发者的电脑直接找区域分馆 scion-cache；集群里的任务先找本机的小管家 scion-daemon，没命中再一层层往上找。 总馆背后，修改记录、分支和目录结构存在 Spanner 数据库里，文件内容存在云存储里。新机器上线，小管家先拷一份定期快照，省得从头拉。 效果 整套设施占用的 CPU 和内存，比原来的 git 镜像集群小了 200 倍。测试和研究任务拉代码，从几分钟缩短到几秒钟，光 CI 这一项就省出了 25% 的 CPU。原文配图里还有一组数字：AI 智能体新开一个工作区，中位耗时从 7.1 分钟降到 5.1 秒，快了 84 倍。 这么大的系统，得多少人做？ 一个七个人的团队，用五个月做完了 Scion 和配套的代码审查工具 Antique，还顺手做了五六个周边系统，并把整个仓库迁了过去。而且这期间每天合并的修改量涨了十倍。放在过去，这种迁移往往要大得多的团队花上好几年。 一个例子：他们手写的第一版数据导入程序，交给 Claude 一个早期的内部版本（Claude Mythos Preview 的早期快照）重写，没加任何额外要求，新版本内存降了 20 倍，速度快了 4 倍，原有的约束条件也都保住了。 AI 写代码这么强，工程师还干什么？ 参与的工程师都承认，单论写代码，Claude 已经比他们强了。但工程师的活变了：把握各个系统怎么配合，权衡架构上的取舍，围绕要解决的问题和预期的规模做决定。很多时候，他们的工作是对 Claude 说“不”。 比如，有好几个系统想一条条扫提交记录，去找某次修改是什么时候合进主分支的，其实直接问代码审查工具就行。现在团队成员依然审查每一个变更，但审的是修改背后的意图，不再逐行读代码。 大家都该扔掉 git 吗？ 不用。Anthropic 自己说，Scion 不是 git 的通用替代品，只有极其庞大的单体仓库才用得上：背后要么有几万名工程师，要么有成群不知疲倦写代码的智能体。 它和 git 差别太大，想用就得把代码审查、代码搜索、CI 这整条工具链重做一遍，所以他们没打算做成通用产品。他们更希望这些思路被借进 git 生态：服务器多干活、提供更完整的查询接口，客户端按需取。他们预计，未来 6 到 12 个月，这类扩展问题会在业界越来越常见。 记住三句话 第一，git 让每个人拿一整份仓库，AI 把修改量推高十倍以上，就搬不动了。 第二，Scion 假设用的人永远在线、随时连得上服务器：要什么取什么，重活交给服务器，一层层缓存兜底。 第三，AI 写代码越快，瓶颈就越会跑到别处：代码管理、构建、测试，都得按 AI 的规模重新设计。 以前，是每人搬回一座图书馆；现在，楼下就有分馆，要哪页，借哪页。 资料来源：Anthropic 工程博客《Redesigning source control at Anthropic》（2026 年 10 月），
宝玉47,774 Aufrufe • vor 4 Tagen
昨天学习了一下 handwired，做了一些例子，比如做了几个倒计时、贪吃蛇这种 最后做了个教学视频：把代码变成神经网络：不训练、一个数都不差，这有什么用 视频1: 英文版 视频2: 中文版 有人把普通代码原封不动地变成了神经网络，一次没训练，结果一个数都不差。 这期从期末总评和停车费讲起，说清神经网络的两种零件：加权求和和开关，再看一条“及格线”怎么变成 7 个权重、1 层的网络。 接着用闰年、FizzBuzz、阶梯电价、生命游戏、贪吃蛇等例子，回答几个问题： 权重和层到底是什么？ 和 ChatGPT 背后的 Transformer 差在哪？ 网络能不能在浏览器里现场训练，刷新还在吗？ 出了错怎么查？ 变成网络会更快吗，CPU 和 GPU 差在哪？ 这个思路还能用在哪？ --- 视频制作的 Skill 参考： 模型：Opus 5.5 配音：Gemini 3.8 TTS
宝玉21,449 Aufrufe • vor 1 Tag
Meta 发布 Muse Wonder：开发者今天能用，普通用户还要等 Meta 10 月 12 日发布新一代大模型 Muse Wonder，一共两个版本：Muse Wonder 主打速度，Muse Wonder Full 是完整版。扎克伯格说，这个模型让 Meta 进入了“前沿”梯队，也就是和 OpenAI、Anthropic、Google 最强模型同一档。 做这个模型的是 Meta 超级智能实验室（Meta Superintelligence Labs）。按 Meta 的说法，14 个月前它把 AI 业务推倒重来，从底层技术栈重新搭起，第一代成果是 Muse Spark 系列。Muse Wonder 比 Muse Spark 大得多，在 Meta 吉瓦级的 Prometheus 数据中心训练。 【谁能用，怎么用】 开发者今天就能用 Muse Wonder：通过 Meta Model API（Meta 的大模型接口平台）调用，或者在 Meta 的 AI 编程工具 Muse Code 里用。 完整版 Muse Wonder Full 目前只开放给 Muse Code 的订阅用户。官方博客只写了它在 Muse Code 里可用，没提 API。 普通用户用的 AI 助手 Muse，官方博客写的是“很快”接入 Muse Wonder，先给订阅用户。扎克伯格在 X 上说的是“今天订阅就能用 Muse Wonder 驱动你的 Muse”，两边说法有出入。免费用户什么时候能用，Meta 只说会逐步把这个水平的能力带给所有人，以后还会用 Muse Wonder 开发专门的模型给所有 Muse 用户，没给时间表。 模型卡写的规格：上下文 100 万 Token，够一次放进一个中大型代码仓库；能读文字、图片、视频和音频，输出只有文字。 【和 Claude、GPT 比怎么样】 下面的成绩都来自 Meta 自己公布的对比表，对手是 Claude Opus 5.5、Claude Fable 5.1 和 GPT-6 Astra，全部按最高推理强度测。其中个人超级智能指数、MemoryBench、FocusBench 是 Meta 自建的测试。对手的成绩有一部分是 Meta 自己跑的，模型卡也写明，这些跑法未必为对手模型调到了最优。 Muse Wonder Full 领先的主要是三类任务。 一是替人办事的智能体任务。Meta 自建的个人超级智能指数，Muse Wonder Full 59.1 分，Claude Opus 5.5 55.2，GPT-6 Astra 54.5；跑完整业务流程的 AutomationBench，45.4 对对手最高的 41.6。 二是长时间写代码。DeepSWE 79.0，对手最高 74.2；做大型软件项目的 SWE-Marathon 57.5，对手最高 46.3。 三是法律。法律 AI 公司 Harvey 的智能体测试 13.1，对手最高 8.6。这个测试要求交付物每一项都达标，所有模型的通过率都很低。 落后的项目也不少，大多输给 Claude Opus 5.5：终端编程（Terminal-Bench）57.1 对 59.6，从零写一个完整程序（ProgramBench）59.0 对 70.5，操作电脑（OSWorld）78.4 对 81.8，健康问答 62.3 对 65.6。专业文档任务 GDP.pdf 输给 GPT-6 Astra，33.2 对 34.2。 Meta 博客里也放了第三方机构 Artificial Analysis 的综合智能指数：Claude Opus 5.5 以 58 分排第一，Muse Wonder Full 56 分排第二。开发者现在能通过 API 调用的是 Muse Wonder，它是 52 分，低于 Claude Fable 5.1、GPT-6 Astra 和 Google 的 Gemini 4 Argon（都是 53 分）。 按 Meta 给的数据，让 AI 长时间替你干活、跨对话记住你的情况，是 Muse Wonder 领先的地方；比综合能力，它还排在 Claude Opus 5.5 后面。 【Active Memory 和 Active Focus 是什么】 这是 Meta 给两项能力起的名字，也是这次发布的卖点。 Active Memory（主动记忆）：跨对话记住和你有关的重要信息，做新任务时自己判断哪些旧信息用得上，主动调出来。Meta 用自建的 MemoryBench 测这项能力：在 6.4 万到 10 万 Token 的长对话里掺进干扰内容，还有和前文矛盾、后来又更新的信息，看模型最后能不能记对关键细节。Muse Wonder 85.6 分，Muse Wonder Full 85.5，Claude Opus 5.5 81.5。 Active Focus（主动专注）：盯着一个难目标持续干下去，一条路走不通就换一条，遇到卡点自己想办法，情况变了跟着调整；需要时会问你，做重要操作前先跟你确认。Meta 用自建的 FocusBench 测这项能力，任务涉及租房、旅行、IT、理财等，模型要在多轮交互里应付各种现实障碍。 Meta 的演示里，Muse Wonder 直接在浏览器和多个 App 之间操作，根据用户的个人偏好和情况排出一份周六跑步计划。 【官方没说的】 价格：博客和模型卡都没写 API 怎么收费，也没写 Muse、Muse Code 的订阅多少钱。 开源：没说会不会开放模型权重。模型卡只提到，开发和部署期间按 Meta 的权重安全计划保护模型权重。Meta 过去的 Llama 系列是开放权重的，这次没有任何相关说法。 安全：Meta 说这一代模型防范化学、生物、放射性、核武器和网络攻击滥用的措施是它迄今最强的，同时保留了用于网络防御的能力。完整的安全评估报告“很快”发布。
宝玉43,587 Aufrufe • vor 5 Tagen
Anthropic、Meta、Google 签署白宫 AI 安全协议：内部审查加外部审计，企业自愿执行 9 月 29 日，Anthropic CEO Dario Amodei、Meta CEO 扎克伯格、Google CEO Sundar Pichai 在白宫与特朗普会面，之后一起在白宫外对媒体讲话。扎克伯格说，几家公司当天签署了一份"白宫 AI 安全开发协议"。 协议内容来自扎克伯格在现场的概括。各公司要建立内部控制机制，用来发现 AI 出问题的情况。在此之上设多层审计：先是公司内部的风险审查，再请外部审计方和评估机构检查，审计报告交给各公司董事会独立审阅。 扎克伯格说，这样做是为了让美国公众和客户相信，AI 是按公司设计的方式在运行。他也说这只是一个开始，不是唯一会做的事，是整个行业都能接受的一份协议。 Pichai 拿公司财务管控作类比：财务有一套成熟的流程和审计制度，这次是把类似做法搬到 AI 开发上。他说总统要求行业"站出来"，要确保产品安全推出。 记者把 Dario 请到前面，提到他此前曾呼吁放慢 AI 发展。Dario 说 AI 好处很大，比如在医疗方面；他认同特朗普"谁赢下 AI 谁就赢"的说法，但技术风险是真实存在的，应对风险的具体机制"仍在讨论中"。他的原话是"我们可以赢，而且可以安全地赢"。 这份协议由企业自愿执行，没有外部强制。视频中，协议全文和签署公司的完整名单都没有公布。 记者两次追问特朗普：企业自我监管够不够，公众为什么该相信它们。特朗普的回答是，这些人很优秀，出了问题他们的公司就完了，所以他们不会让这种事发生；各家公司会"互相监督"。
宝玉107,030 Aufrufe • vor 18 Tagen
学习研究了下 amontlabs/lcu 这个项目，它把 Codex 的 Computer Use（让 AI 看屏幕、点鼠标、敲键盘来操作电脑的能力）单独拆了出来，让 Claude Code、Codex CLI、Pi 等其他 AI Agent 工具也能调用。 我本来还以为它是模仿 Codex 实现了一套，原来是直接用的 Codex 的 Computer Use，在本机找到已安装的 ChatGPT 桌面版，启动其中 OpenAI 自带的 Computer Use 运行时，再通过 MCP 接到你用的 Agent 工具里。仓库文档写明，指令、执行和权限策略都以 OpenAI 原版运行时为准。 因此电脑上必须装有官方 ChatGPT 桌面版，但不需要登录 ChatGPT 或 Codex 账号。 它给模型的工具很少。常见的电脑操控方案会把截图、点击、输入、滚动各做成一个工具，LCU 只给两个：js 和 js_reset。 js 用来执行一段 JavaScript 代码，运行环境里预置了一个名为 cua 的对象。模型通过写代码来操作电脑：先调用 cua.getState() 拿到当前桌面状态和使用说明，再用 getApp 选定某个窗口，然后调用 click、typeText、pressKey、getScreenshot 等方法。点击、输入、读取结果可以写在同一段代码里，一次调用完成。 这个 JavaScript 环境会保留状态，上一次调用里定义的变量，下一次还能接着用；环境出问题时调用 js_reset 清空重来。除了截图，模型还能读取窗口的无障碍信息（操作系统提供给读屏软件的界面元素列表），按元素点击，不必完全依赖屏幕坐标。 js 加 cua 对象这套接口是 OpenAI 原版的设计，LCU 原样转发。仓库记录显示，在 macOS 上对比测试时，模型收到的初始化说明和首次调用返回的使用指南，与官方 Codex 收到的内容逐字节一致。 目前正式适配的 Agent 工具是 Pi、Codex CLI 和 Claude Code，Oh My Pi 和 Hermes 为实验性支持。系统支持 Apple Silicon 芯片的 macOS（需授予辅助功能和屏幕录制权限），以及使用 X11 桌面的 Linux（ARM64 和 x86-64）。Windows 11 尚在候选阶段，Intel Mac 和 Wayland 桌面不支持。 控制 Chrome 浏览器需要额外开启，走的是 OpenAI 官方 Chrome 扩展，每个网站仍需单独批准。安装需要 Python 3.12 以上，README 给出的做法是把一段提示词贴给自己的 Agent，让它按安装文档完成配置，也可以从 GitHub 手动下载安装包。 项目地址：
宝玉63,044 Aufrufe • vor 12 Tagen
🚨 NEW ANTHEM DROP: "In the Name of Tibo" 🚨 Dear Tibo, please forgive my prompts and reset my quota. Amen. 🙏🕯️
宝玉17,818 Aufrufe • vor 3 Tagen
AI 时代，职场人现在最该学的一项技能是什么？ 吴恩达老师的建议是人人都该学编程。 不少企业高管劝大家别学编程了，理由是 AI 会把它自动化掉。吴恩达认为这个逻辑正好反了。正因为有了 AI 辅助，写代码变得前所未有地容易，所以才值得每个人都去学。 他已经在很多岗位上看到了明显的生产力差距。这不只发生在软件工程师身上。一边是会写代码、能自己做定制软件的人，另一边是不会的人，两者的效率已经拉开了。 学编程不等于手写代码 他说的学编程并不是一行行手敲代码，他自己几乎从不这么做。在可预见的未来，最重要的能力之一是能准确告诉计算机你要它做什么，让它替你完成。而代码就是计算机的语言。所以学编程的实质，是学会用计算机听得懂的方式把需求说清楚。 他团队里最好的市场人员有了想法，不用等工程师来搭网站，自己就能做出来。最好的招聘人员也不再靠肉眼一份份看简历，而是写代码让程序帮忙筛选。在他看来，能把需求交代给计算机的人，会变得强大得多、高效得多。
宝玉115,698 Aufrufe • vor 24 Tagen
Claude Code Projects 向候补名单上的 Pro 和 Max 用户全部开放 Anthropic 把 Claude Code Projects 候补名单上的 Pro 和 Max 用户全部放了进来。这个功能目前是公开测试版，还在分批推送，Team 和 Enterprise 计划暂时用不了。 Claude Code Projects 我最近用的比较多，很不错的设计，既可以像个人助理一样，不停的在主会话发消息分派任务，又可以通过 Thread 看到每个子任务的执行情况，留有记录，还可以后续跟进。 推荐看看这条视频，解释的很清楚。 我之前有个帖子解释了 Codex Project 和 Claude Projects 啥不同： > 如果你还记得当年的论坛（Forum）的话，Codex Project 就像一个论坛的板块，像是一个容器，或者一个分类，跟这个板块/项目相关的内容都在这里，你可以不停的新开会话。 > Claude Projects（新的）就像 Slack 的 Channel，也是一个分类或者容器，但是所有的消息都在一起，想到啥都往里面扔，但是如果你想对某个子话题深入讨论，那么就新开 Thread，然后基于 Thread 可以展开讨论。 > 论坛呢，就是容易歪楼，讨论着讨论就偏离主题了，上下文乱一些，只有最近的回帖看的清楚。 > Slack 呢就是简单方便，不用想属于哪个话题，只要是这个 Channel 的就都往里面发就好了，上下文乱一点没关系，可以通过 Thread 聚焦 Projects 管的是“同时开好几个 Claude Code 会话，谁来协调”这件事。以前想并行干几件活，你得自己给每个会话分任务、每次重新交代背景、挨个回去看谁做完了。现在你只跟一个“项目对话”说话，Claude 在里面当协调者，把目标拆成小任务，每个任务开一个“线程”去做。 每个线程都是一个完整的 Claude Code 会话，默认跑在云端，在自己的 Git 分支上干活。合上笔记本，活照样在干，用手机也能看进度。某个任务要用本机的数据库、模拟器或内网接口，可以让这个线程改到你自己电脑上跑（通过 Remote Control 远程连接，电脑得开着）。 写代码的线程做完改动会自己开 PR（拉取请求，提交给仓库合并的代码改动），之后继续盯着：自动化测试没通过就提交修复，有人留了审查意见就去改。官方演示的例子是排查一个网站的性能问题：几个线程各修一处，最后生成一份前后性能对比报告，再设一个每天运行的例行检查，发现性能退步就自动开线程排查，等你下次进来处理。 适合放进项目的，是一次会话装不下、会不断冒出新任务的活，比如把应用迁出一个已废弃的依赖包，或者在 API、网页端、移动端几个仓库里同步改同一个接口。也可以完全不碰代码，上传一批合同或客服工单，反复提问。 所有线程共享项目说明和项目记忆。你说一次“以后都从 main 分支开 PR”，后面每个线程都照做。 【用量要注意】 每个线程都是完整会话，还能同时跑好几个，所以项目消耗套餐额度比单个会话快，官方提醒 Pro 用户尤其会更早用到上限。新建项目默认全部用 Opus，线程的推理强度（effort，模型每一步思考投入多少）默认是高。Claude Code 团队的建议是：协调者保持默认的低强度，它主要负责派活，调高没什么用；线程默认换小一点的模型，遇到复杂任务再单独切大模型。你也可以直接告诉 Claude 同时最多跑几个线程，或者先给你看计划再动手。 线程用到额度上限后，会等额度重置再自动继续，没管的活会用掉你下一个时段的额度。不想这样，可以在项目设置里暂停整个项目。 【怎么用】 在 Claude 的 Code 标签页或 Claude 手机 App 的侧边栏里看到 Projects，就说明已经开通；没看到可以加入候补名单。终端命令行、VS Code 和 JetBrains 插件里用不了。代码要托管在 上，仓库要装 Claude GitHub App。项目只属于你一个人，暂时不能分享给别人。 聊天里原来那个“项目”功能（把对话和参考文件归到一起）照常保留，等新版推到这些账号再切换。
宝玉37,511 Aufrufe • vor 8 Tagen
Gemini 4 Argon 在 Antigravity 中，通过一条包含详细工作流程的提示，在 Blender 里生成了日本寺庙建筑群。核心做法是：提供建造规则与视觉参考，让多个智能体分工、检查并反复修改。「单条提示」背后包含完整流程，动画与音效则是后续追加的要求。 三维建模既考验复杂编程，也考验对现实世界的理解，而且结果中的错误容易直接看出来。持续使用日式塔楼作为测试对象，便于比较不同模型的进步。 初始提示词引用了一份指导大型三维场景构建的技能文档，并要求先生成建筑蓝图，再由 Nano Banana 根据蓝图生成四张参考图，为建模提供视觉目标。 不同智能体分担工作，由协调智能体统筹、批评智能体检查；系统将 Blender 的渲染结果与参考图比较，通过反复检查与修改推进建模。 演示者第二天看到结果后，继续要求模型渲染动画，并用程序生成钟声和环境音效。因此，最终展示的动画与声音属于后续扩展。
宝玉20,850 Aufrufe • vor 4 Tagen
Google 量子计算新进展：一种关键“零件”的次品率降到原来的 1/40 Google 今天在《科学》期刊发表论文，在自家量子芯片 Willow 上验证了一种制造“魔态”的新办法，做出来的魔态，坏的比例降到原来的 1/40 左右。魔态是什么、为什么重要，得先从量子计算机的一个大毛病说起。 量子计算机是一种新型计算机，理论上，在模拟药物分子、破解密码这类题目上，能比普通电脑快得多。它最小的计算单元叫量子比特，相当于普通电脑里存 0 和 1 的那个单元，但极其娇气，一点热量、一点干扰就会出错。所以到今天，还没有一台量子计算机能真正干正事。 为了不出错，科学家给量子比特设计了一套保护办法，叫“纠错”，可以理解为给数据穿上一层防护服。穿着防护服，大部分操作照样能做。麻烦的是，有一种关键操作，穿着防护服没法直接做。偏偏只靠剩下那些操作，量子计算机能算的东西，普通电脑也都能算，等于白造了。 魔态就是为这个关键操作准备的。科学家想了个绕道的办法：事先单独把一些量子比特调成一种特殊的状态，这种状态就叫“魔态”。计算中每需要做一次那个关键操作，就把一份魔态“喂”进去，效果就等于做了这个操作。喂进去就用掉了，下次还得再备一份。 所以可以把魔态想成一把一次性钥匙：量子计算机每开一次那扇关键的门，就要用掉一把。之所以叫“魔态”，是因为量子计算机比普通电脑强的那份“魔力”，就靠它来实现。 问题出在造钥匙上。魔态本身也是量子比特，一样娇气，很容易造坏，一把坏钥匙用进去，整道题就算错了。以前的办法是先造一大堆粗糙的魔态，再一遍遍提纯，非常费资源。有估算说，一台量子计算机最多可能要拿出 95% 的能力专门造魔态，真正用来算题的只剩一小部分。科学家 20 多年前就预见到这个瓶颈，一直在想办法压低成本。 2024 年，Google 的研究员提出了一个新办法，叫“培育”：在芯片上划出一小块地方，放进一份粗糙的魔态，然后一步步检查，只要哪一步发现问题，马上扔掉重来，能一路通过所有检查的，就是合格的魔态。有点像流水线上每道工序都站着质检员，次品当场就扔。 这次是第一次在真实芯片上把这个办法做成。不用培育时，大约每 1000 份魔态里有 4 份是坏的；用了培育之后，大约 1 万份里才有 1 份坏的。代价是扔掉的很多，100 次尝试里只有 8 次能留下来。 离真正能用还有多远？按《科学美国人》的报道，要用量子计算机模拟分子、帮忙设计新药，魔态坏的比例得低到百万分之一甚至一亿分之一；要破解现在网上广泛使用的 RSA 加密，得低到 100 亿份里最多坏 1 份。现在做到的是 1 万份坏 1 份。Google 自己也说，这个办法还要在更大的规模上验证，还有很多难题没解决。 原文： 论文： 预印本： 《科学美国人》报道：
宝玉12,491 Aufrufe • vor 2 Tagen
Google 下周把 TPU 送上太空，芯片跑 15 分钟就得停下来降温 Google 要把自家 AI 芯片送进太空了。Sundar Pichai 在 X 上宣布，Project Suncatcher 的第一颗原型卫星将搭乘 SpaceX 的拼车发射任务 Transporter-18 升空，卫星由 Google 和遥感卫星公司 Planet 合作打造。据《纽约时报》报道，发射定在 10 月 1 日，用猎鹰 9 号从加州范登堡太空军基地出发。 Suncatcher 是 Google 去年 11 月公布的“登月计划”，研究能不能把 AI 数据中心搬到太空。出发点是电：AI 数据中心极其耗电，而在近地轨道上，卫星几乎一直晒得到太阳，太阳能发电量最多可达地面的 8 倍。 这颗卫星代号 MVP，冰箱大小，装了 4 块 TPU（Google 自研的 AI 芯片，Gemini 就靠它训练和运行），算力约等于地面数据中心的一台服务器。太阳能板只提供约 1 千瓦电力，按《纽约时报》的说法，只够带动一台吹风机。它能在轨道上回答简单的 Gemini 提问，设计寿命约一年。 Pichai 在推文里的问题很直接：TPU 能不能在太空活下来，还能正常干活？发射和辐射这两项，Google 已经在地面测过。上天那 10 分钟里，整颗卫星要承受最高 10 倍重力的持续加速度，落到单块芯片上可达 50 到 100 倍，Google 沿三个轴向猛烈摇晃过卫星，硬件扛住了。辐射测试则显示，第六代 TPU Trillium 能承受的累积辐射剂量，超过在太空执行五年任务所受的量。 最没把握的是散热。太空没有空气，风扇派不上用场，热量只能靠散热板辐射出去。Google 用的是热管加散热板的方案，但项目负责人 Travis Beals 对《纽约时报》透露，芯片目前连续跑 15 分钟左右就得关机降温。 按原计划，Google 和 Planet 要到 2027 年初才发射两颗原型星。后来 Google 坚持今年就上天，愿意多担风险，干脆把芯片装进了 Planet 现成的卫星。2027 年那两颗照常发射，专门测试卫星之间的激光高速互联。Google 的最终设想是 81 颗卫星在半径 1 公里内编队飞行，用激光连成一座太空数据中心。 如果长远做成了，没人会在意自己的 Gemini 请求是不是在太空里处理的。但离那一天还远。Google 负责研究的高级副总裁 James Manyika 认为，未来几年都不指望有真正能用的东西。Google 去年算过账：发射价格要在 2030 年代中期降到每公斤 200 美元以下，太空数据中心的发射加运营成本，才能和同等规模地面数据中心的电费大致相当。而当时的发射价格还在每公斤 1500 到 2900 美元。 把数据中心级 AI 芯片送上天，Google 并不是第一家。创业公司 Starcloud 去年 11 月就把一块 NVIDIA H100 送入轨道，还在上面跑起了 Google 的开放模型 Gemma。
宝玉84,834 Aufrufe • vor 23 Tagen
AI 翻译字幕难在哪？BaoCut 怎么让顺序不一样的英文和中文在双语字幕上对应上 看翻译的视频字幕，你一定见过这几种字幕： 人还没开口，字幕先跳出来； 一句话被切成几截，翻译和实际说的话对不上； 一屏堆两三行，挡掉半个画面。 这些问题都是我在做字幕翻译时遇到的难点。 这期拿我的开源项目 BaoCut 做例子，对比传统字幕组的做法，讲清楚一张带时间的词表是怎么来的，再讲五个坑：语音识别听错、认错说话人、按什么单位翻、中英文语序不一样、一屏放几行。 最后讲一个彩蛋：有了每个词的时间，字幕还能逐词高亮、做 KTV 和倒鸭子动画。例子来自我电脑上的真实项目。 这是上集，下集会讲为什么不直接把字幕丢给 ChatGPT。 视频1 是英文 视频2 是中文 项目地址： 下载：
宝玉13,986 Aufrufe • vor 3 Tagen
杨植麟在 GTC 2026 的一次演讲"How We Scaled Kimi K2.5"：月之暗面想把 AI 训练中三个沿用了近十年的基础组件，重新做一遍。优化器 Adam（2014 年）、注意力机制（2017 年）、残差连接（2015 年），三个 Transformer 时代的地基组件，月之暗面各给了一个替代方案，而且全部开源。 但这场演讲讲的不只是 K2.5，而是月之暗面过去一年多的技术路线：开源模型还能从哪里继续变强，又该怎样逼近闭源模型的前沿水平。 杨植麟把答案拆成了三个方向：让每个 Token 更值钱、让更长的上下文真正发挥作用，以及让多个 Agent 同时协作。 此外，他还分享了两个重要进展：视觉训练如何反过来增强文本能力，以及月之暗面刚刚公布的下一代架构 Attention Residue。 【一、数据不够，就让每个 Token 更值钱】 大模型训练正在遇到一个越来越现实的问题：高质量数据快不够用了。 互联网上真正有价值的文本数量有限，模型越做越大，需要的数据越来越多，大家迟早都会撞上“数据墙”。既然高质量数据很难翻倍，月之暗面的思路是：能不能让模型从同样的数据里学到更多？ 他们给出的答案是 MuonClip，用它替代已经用了十多年的 Adam 优化器。 MuonClip 基于 Muon 优化器。简单理解，它会在更新模型参数时，尽量让不同方向上的信息保持独立，减少重复和浪费，从而提高训练数据的利用效率。 月之暗面的实验结果是：使用同样数量的数据，MuonClip 的训练效果接近把数据量增加一倍，这不仅意味着训练成本下降，也意味着模型能力的上限可能被推高。 假设手里只有 50 万亿个高质量 Token，如果 Token 利用效率提高一倍，就相当于又多出了 50 万亿 Token。在优质数据越来越稀缺的情况下，这种效率提升比单纯增加算力更重要。 但 Muon 也有一个明显问题：模型扩展到万亿参数后，注意力层里的数值容易失控。 月之暗面在训练中发现，注意力层的最大 logit 会突然飙升到 1000 以上，而正常范围通常只有 50 到 100。一旦数值继续膨胀，训练曲线就会发散，整个训练过程可能直接崩掉。 为了解决这个问题，他们设计了 QK-Clip。它会在模型前向计算时，实时检查每个注意力头的最大 logit。一旦数值超过安全范围，就同步缩放 Q 和 K 的投影，把数值压回来。 这个操作不会改变训练的收敛效果，只负责维持数值稳定。 靠着 QK-Clip，月之暗面成功把 Muon 扩展到了万亿参数规模，并训练了超过 15 万亿 Token，整个过程中没有出现一次 loss spike。 【二、上下文不只是要长，还要真正有用】 第二个方向，是提高模型利用长上下文的能力。 杨植麟展示了 Scaling Law 论文作者 Jared Kaplan 等人曾经做过的一组实验：比较 Transformer 和 LSTM 在不同上下文长度下的预测效果。 LSTM 读到一定长度之后，效果很快就不再提升。继续增加上下文，模型也很难从中获得更多信息。Transformer 则不同。上下文越长，模型对后续内容的预测通常越准确，而且很难看到明显的饱和点。 这个特点在 Agent 时代尤其重要。复杂 Agent 任务可能持续几天甚至几周。模型需要记住之前做过什么、得到过哪些结果、哪些方向已经失败，以及接下来该做什么。如果长上下文不能持续提供有效信息，Agent 的任务链条就很容易断掉。 问题是，标准的全注意力机制成本太高。它的计算量会随着上下文长度平方增长。上下文扩大十倍，注意力计算量可能增加一百倍。到了百万 Token 级别，训练和推理成本都会变得非常高。 月之暗面的解决方案是 Kimi Linear，核心是一种名为 KDA，也就是 Kimi Delta Attention 的线性注意力机制。KDA 的关键，是让模型学会“哪些信息要长期保留，哪些信息可以快速忘掉”。 传统线性注意力通常只有一个全局衰减系数，控制整个模型的记忆速度。这有点像所有内容共用同一个遗忘按钮：要么一起记住，要么一起忘掉。KDA 把一个衰减系数拆成了多个。不同信息通道可以使用不同的遗忘速度： - 有些通道衰减得很慢，负责保留长距离信息 - 有些通道衰减得很快，及时腾出空间吸收新内容 实际使用时，Kimi Linear 并没有完全抛弃全注意力，而是把线性注意力层和全注意力层按照 3∶1 的比例混合。 杨植麟称，这是第一个在短上下文、长输入和长输出任务上，都能全面超过全注意力的架构。上下文扩展到百万 Token，甚至更长时，它的效率优势会更加明显。 【三、从一个 Agent，变成一支 Agent 团队】 前两个方向都在提升单个模型的能力。第三个方向，则是让多个 Agent 一起工作。月之暗面把这种方式叫作 Agent Swarm，也就是“智能体集群”。 它的组织方式很像一家公司。一个主 Agent 充当 CEO，负责理解目标、拆解任务，并把不同子任务分配给多个子 Agent。子 Agent 可以分别扮演研究员、程序员、数据分析师和事实核查员等角色。任务完成后，主 Agent 再汇总结果。 这样做最大的价值是把串行任务改成并行任务。过去，一个 Agent 可能需要依次搜索资料、阅读文档、分析数据、编写代码、检查事实。现在，这些工作可以交给几十个甚至几百个 Agent 同时完成，从而大幅缩短复杂任务的执行时间。 不过，要让模型真正学会并行协作并不容易。训练 Agent Swarm 时，月之暗面设计了三种奖励： 第一种是“实例化奖励”，鼓励主 Agent 创建更多可以并行执行的子任务，避免它退化回单 Agent 串行工作。 第二种是“完成奖励”，要求子任务必须真正完成，防止模型为了获得实例化奖励，批量创建没有意义的空任务。 第三种是最终结果奖励，用来判断整个任务是否真正解决。 这三种奖励的权重会随着训练过程动态变化。训练前期更重视任务拆解、并行化和子任务完成率，后期则逐渐把重点转向最终结果。 从演示结果看，Agent Swarm 在复杂任务上能明显缩短执行时间。比如： - 同时下载、阅读几百个信息源并完成研究 - 并行撰写一份上百页文献综述的不同章节 - 同时分析十个不同的数据集 Kimi K2.5 发布时，Agent Swarm 已经支持最多 100 个 Agent 并行工作，整个任务最多可以执行 1500 个步骤。4 月发布的 K2.6 又把并行 Agent 的上限提高到了 300 个。 【四、一个意外收获：练“视觉”，也能让“大脑”变聪明】 K2.5 和前代 K2 之间，一个重要变化是采用了“早期融合”训练。 过去很多开源多模态模型采用的是“后期融合”：先用大量文本训练出一个语言模型，再用相对少量的视觉数据补上看图能力。 例如，先训练 20 万亿个文本 Token，再用大约 2 万亿个多模态 Token 把视觉能力“贴”上去。 K2.5 的做法不同。 它从训练一开始，就把视觉和文本数据混在一起。在 K2 文本基座的基础上，K2.5 又训练了约 15 万亿个混合 Token。 这种方式带来了两个让杨植麟感到兴奋的结果。 第一个发现是：只训练视觉任务，也能提升模型的文本推理能力。 研究团队只让模型完成数数、识别图片和视觉问答等任务，没有加入数学或编程训练。结果模型的文本推理能力也变强了。 换句话说，模型在练习“看”的同时，“想”的能力也得到了提升。 第二个发现则来自相反的方向：如果文本基座足够强，模型甚至不一定需要专门的视觉 SFT 数据。 K2.5 采用了“零视觉 SFT”方案。所有监督微调数据都是纯文本，然后再通过文本与视觉联合的强化学习，让模型获得视觉能力。最终，它在视觉任务上的表现依然接近最先进水平。 杨植麟认为，这种双向迁移来自早期融合。 当文本和视觉被放进同一个表征空间后，一种模态学到的能力，就有机会迁移到另一种模态。这也是 K2.5 能够“看图写代码”的基础。 如果视觉和文本仍然像两个彼此分开的“大脑”，这样的跨模态能力就很难自然出现。 【五、下一步：用注意力机制替代残差连接】 演讲快结束时，杨植麟介绍了月之暗面刚刚发布的一项新研究：Attention Residue，也就是“注意力残差”。这篇论文发布于 3 月 15 日，距离演讲只有两天。 残差连接是现代深度神经网络最重要的基础技术之一。2015 年，何恺明等人提出残差网络，此后残差连接逐渐成为 Transformer 的标准组件。它的基本做法是：每一层不仅处理上一层的结果，还保留一条直接传递信息的通道。这样即使模型很深，信息和梯度也能顺利通过，模型才有可能稳定训练。 杨植麟引用了 Ilya Sutskever 的一个说法：残差连接可以被理解为“旋转了 90 度的 LSTM”——LSTM 在时间维度上传递信息，残差连接则在网络深度上传递信息。 月之暗面顺着这个类比继续往前走了一步。 既然 Transformer 已经用注意力机制替代了 LSTM 在时间维度上的循环结构，那么在深度维度上，是否也能做同样的替换？ Attention Residue 就是这个思路的产物。 标准残差连接主要使用上一层的输出。Attention Residue 则允许当前层查看所有前序层的输出，再通过注意力机制决定：哪些历史信息值得保留，哪些信息可以忽略。 也就是说，模型不再只能被动接收上一层的结果，而是可以主动从整个计算历史中挑选信息。 为了控制计算成本，月之暗面实际采用的是分块版本 Block Attention Residual。它会把模型层分成多个块，比如每 16 层组成一个块。块内继续使用标准残差连接，块与块之间才使用注意力残差。 实验显示，大约 8 个块就能获得大部分收益。 Attention Residue 带来了约 24% 的 Token 效率提升。 按照杨植麟的算法，如果有 50 万亿个高质量 Token，效率提高 24%，就相当于额外增加了 12 万亿个 Token。它在 GPQA、MATH 和 HumanEval 等推理、数学与编程测试上的提升尤其明显。 【三个用了近十年的组件，都还有改进空间】 演讲最后，杨植麟把月之暗面的三个替代方案放在了一起： - Adam → MuonClip - Full Attention → Kimi Linear - Residual Connection → Attention Residue 它们分别对应大模型训练中的三个基础问题： - 怎样从有限的数据中学到更多 - 怎样更高效地利用超长上下文 - 怎样让深层网络更灵活地传递信息 三个方案都可以相对独立地替换现有组件，也都已经开源。 这些技术能否直接叠加，增益能否简单相乘，目前还没有经过完整验证。但它们至少说明了一件事：很多被认为“已经足够好”的基础组件，可能远没有到达终点。 在优质数据越来越少、训练成本越来越高的情况下，继续堆参数和算力并不是唯一的路。重新设计优化器、注意力机制和残差连接，同样可能带来可观的提升。 这也是杨植麟整场演讲真正想表达的观点。 正如他最后所说： > “Open models cannot be just open; they have also to be great.” 开源模型不能只是开放，还必须足够强。 注：本视频由 翻译
宝玉301,618 Aufrufe • vor 3 Monaten