Michael Guo's banner
Michael Guo's profile picture

Michael Guo

@Michaelzsguo5,672 subscribers

Building AI agents and AI-native orgs. Demystifying AI in practice. EN/中文 (Selected build notes, experiments, and practical tips at the website link.)

Videos

Michaelzsguo's profile picture

Jeff Dean 离开了 Google。 在工作 27 年后,他决定创立自己的公司。而站在他身边的合伙人,不是别人,正是与他共事多年的老伙计 Sanjay Ghemawat。 这对曾被称为 Google 唯二两位 Senior Fellow 的工程师,这一次一起走出了 Google。 如果不了解他们的故事,这看起来只是今天又一条 AI 人才离职创业的新闻。 但看完这个视频,你会觉得,这件事几乎是命中注定。 Jeff 和 Sanjay 在 DEC 的研究实验室相识,1999 年又先后加入刚刚成立不久的 Google。 他们有一种非常特别的 pair programming 方式:两个人坐在同一台电脑前,一个人写代码,另一个人读和思考,然后交换位置。没有明确的领地,不需要证明谁更聪明,ego 这个词几乎不存在于他们之间。 此后二十多年,他们写出了 Google File System、MapReduce、Bigtable、Spanner 等一系列底层系统。Google 才能从几百台廉价服务器,长成服务全球数十亿人的基础设施。今天云计算、大数据和分布式系统里的很多理念,都沿着他们铺下的路发展来的。 现代互联网之所以成为今天的样子,有一部分要归于这两个安静写代码的人,以及他们之间几十年没有裂过缝的信任。 这个视频也收集了大量珍贵的 Google 早期影像:堆满 CRT 显示器的办公室、用廉价机器拼起来的服务器集群、杂乱的早期机房、年轻时的 Larry Page 和 Sergey Brin,以及 Jeff、Sanjay 和 MapReduce 等系统最初的论文与架构图。 如今 Jeff Dean 离开工作了 27 年的 Google,要去做一家用机器学习推动科学发现的新公司Discovery Loop。 兜兜转转,和他一起出发的人,还是 Sanjay。

Michael Guo

201,439 просмотров • 5 дней назад

Michaelzsguo's profile picture

两年多前,Google 联合创始人 Sergey Brin 也曾站在 AGI House,承认 Google 在大模型上落后了,并说要追赶回来。 后来的结果大家都看到了:Gemini 一路追上来,半年前 Gemini 3 发布时,Google 至少在很多维度重新回到了第一梯队。 但六个月后,局面又变了。 这一次,仍然战斗在一线的 Sergey 再次回到 AGI House,做了一场新的 Q&A:他怎么看 AGI 和超级智能,怎么看 Transformer、世界模型和 AI for Science,Google 为什么现在重仓 coding agent,他和 Demis、Corey 在 Gemini 上到底怎么分工,以及他是否还相信 Google 能再追上来。 下面划重点: Google 重新把 coding 放到最高优先级之一。 Sergey 承认,他们可能更早就该深度关注 coding。现在 Google 已经非常专注于这个方向。 他对 Gemini 仍然有信心,但也承认竞争对手在 coding 上进步很快。 他提到,某些模型在长时间、深度 coding 任务上表现很好;而 Gemini Flash 的优势在于速度,适合交互式快速迭代。 他认为 AGI 的关键不只是“会回答问题”,而是能自我改进。 他个人更倾向于把 AGI 理解为一种能够改进自己的 AI,而不是单纯“什么人类任务都能做”。 世界模型很重要,尤其是如果 AI 要进入物理世界。 如果 AI 要做人类能做的事,就必须理解世界、预测行动后果,并和现实世界互动,这会延伸到机器人、多模态和视频模型。 Transformer 可能还没到头。 他认为 Transformer 已经从文本扩展到图像、视频等场景,而且不断演化。类似 Transformer 的架构,有可能继续走向 AGI。 他在 Google 内部的角色更像“推动者”而不是正式负责人。 Corey、Demis 等人负责组织和交付,Sergey 则不断追问团队有没有漏掉重要方向、有没有低估某些优先级。 他对“AI 会取代人类意义”没那么悲观。 他用国际象棋和围棋举例:机器超过人类后,人类并没有停止下棋,反而借助 AI 变得更强。 整体听下来,你能看到 Google 内部现在的真实焦虑和重心:AGI、自我改进、coding agent、世界模型,以及用 AI 来构建下一代 AI。 (中文字幕视频)

Michael Guo

84,597 просмотров • 1 месяц назад

Michaelzsguo's profile picture

硅谷的Party真不少。不是吃喝玩乐的party, 是技术碰撞分享的聚会。 这不, Andrej Karpathy在另一场小型聚会上分享了他这几年和Agent的经验。 Karpathy 主要讲了四点: 1. 2016 年 OpenAI 做 agent 太早了 当时他们试图用强化学习做能操作电脑、点网页、完成任务的 agent,项目叫 World of Bits。但技术栈不成熟,基本只能靠 RL 去“撞 reward”,所以效果不好。 2. 当时正确路线是先做语言模型 他认为后来事实证明,先放下 agent,转去构建 language model 是对的。今天 agent 重新变热,是因为底层工具已经完全不同:现在不是靠 RL 硬训,而是靠语言模型、工具调用、记忆、规划等能力组合。 3. Agent 很容易 demo,但很难产品化 他提醒大家不要被 demo 迷惑。自动驾驶、VR 都是类似例子:想象很容易,做 demo 也容易,但真正做成可靠产品可能需要十年。Agent 也是这样,适合长期投入,不适合短期幻想。 4. Agent 需要借鉴人类认知结构 他提到可以重新从神经科学找灵感,比如海马体对应记忆和检索,前额叶对应规划和反思,丘脑/基底节可能对应多模块协调。语言模型只是其中一部分,真正的 agent 需要一整套认知工具。 最后他的鼓励是:现在做 agent 的创业者和 hacker,可能真的站在能力边界上。大模型训练这块大实验室已经摸得很清楚,但 agent 还很新,很多东西还没被系统探索完。

Michael Guo

76,138 просмотров • 1 месяц назад

Michaelzsguo's profile picture

在硅谷科技圈社交的觥筹交错之中,小龙虾之父🦞 Peter Steinberger 🦞 打开自己的电脑,分享了他和 Agent 一起工作的几个流程。 开篇他就提到: 去年,我受限于 token。 我通过加入 OpenAI 解决了这个问题。 后来,我受限于 CPU。 现在我感觉,真正限制我的其实是注意力。 他点出了我们与 AI 协作方式中正在发生的一个重要转变。 大多数人以为自己在使用 AI。 但实际上,他们还在做那些未来应该由 agent 接手的协调工作。 我把它整理成一个 7 层阶梯。看看你现在在哪一层。 第 1 层:聊天 你提问,它回答。其他事情还是你自己做。 第 2 层:上下文 你把背景信息贴进去,它的回答变好了。但你仍然要决定什么上下文重要,以及什么时候提供。 第 3 层:记忆 它开始记住你。你不用反复解释那么多。但你仍然在管理每一次会话。 第 4 层:工具 它可以搜索、读文件、运行代码。但你仍然要决定什么时候调用工具、为了什么调用工具,以及如何检查每一个结果。 第 5 层:技能skill 你已经给了它一些工作流程和 playbook。它知道你的工作方式,而不只是你问了什么。但它仍然是被动的,还在等你启动。 第 6 层:后台工作 它可以在你不盯着看的情况下运行,异步执行。你审核的是输出,而不是过程。 现在大多数关于 “agentic” 的炒作,其实都集中在这一层,而且大多数团队还没有真正达到。 第 7 层:目标 你定义结果、约束和品味。agent 负责跑完整个循环。你不再管理任务,而是管理方向。 每往上一层,你做的任务管理就更少,承担的结果 ownership 就更多。 这不只是工具能力的变化,而是你和工具、你和自己时间之间关系的根本变化。 大多数人还停留在第 2 层或第 3 层,却把这叫作“使用 AI”。 大多数团队还停留在第 4 层或第 5 层,却把这叫作“AI-powered”。 真正的突破,是建立一种更好的 delegation contract,把人从执行者释放出来,变成方向的定义者。 那么:你现在在哪一层呢?

Michael Guo

17,766 просмотров • 1 месяц назад

Больше нет контента для загрузки