Загрузка видео...

Не удалось загрузить видео

На главную

我终于想明白,为什么Karpathy的LLM Wiki模式,在自主Agent身上完全行不通了。 这个曾经火遍全网的第二大脑方案,完美解决了人类和AI协作的遗忘问题,把知识固化成了可迭代的持久文件。 但很可惜它从一开始就是给人类设计的,不是为24小时不停运行的Agent设计的。 人类喜欢读整页,浏览,手动修正,Agent只需要单个事实,状态,偏好。 人类能容忍多读点无关内容,Agent多塞100个无关token,成本和幻觉风险就会线性上升。 人类偶尔手动更新笔记,Agent每做一个决策,每调用一次工具,都要写入记忆。 看起来对人足够优雅的笔记系统,对机器来说就是彻头彻尾的结构性浪费。 所以下一代Agent的记忆,必须是分层的,Markdown留给人类阅读和编辑,结构化内存留给机器高效运转。 这才是Agent能真正长期可靠运行的核心前提。

115,556 просмотров • 2 месяцев назад •via X (Twitter)

Комментарии: 0

Нет доступных комментариев

Здесь появятся комментарии из оригинального поста

Похожие видео

大家都在卷云端Agent,我却把多Agent做进了桌面端 在技术社区,多Agent系统的文章越来越多,但大多数都围绕框架展开: ➢LangChain ➢AutoGen ➢CrewAI 我这次想讲的不是框架,而是一个更实际的问题: 如果不搭云端基础设施,只靠一个桌面应用,能不能从零构建一个“活的”多 Agent 协作系统? 答案是:可以 --- 而且它不是Demo 这套系统,长在一个真实的桌面Web3应用里,已经集成了: -EVM / Solana 双链监控 -SWAP 聚合交易 -链上新币追踪 -交易仪表盘 -AI 深度解读 多Agent不是从PPT里设计出来的,而是在生产环境中自然演化出来的。 --- 在讨论多Agent技术实现之前,我先回答一个方向性问题: 为什么我最后选的是桌面端,而不是更主流的云端部署,或者更轻的浏览器插件方案? 这个选择的本质,不是“谁更先进”,而是三条技术路径之间的权衡。 --- 云端部署,是当下最主流的多Agent实现方式。 它的优势很明显: 可以随时为Agent团队加GPU 模型升级不需要用户干预 服务端可以维护全局共享记忆 但代价同样明显: 用户数据必须经过服务器中转 链上交易往往要对服务器开放私钥访问权限 而且会持续产生部署和维护成本 --- 浏览器插件,是另一条轻量路线。 它可以直接注入页面,读取DOM,模拟用户操作,对单一自动化任务非常高效。 但问题也很直接: >它运行在浏览器沙箱里 >缺少持久化存储能力 >缺少长时间运行的后台线程 >很难支撑复杂的记忆系统 >也很难支撑Agent与Agent之间的异步互动 --- 桌面应用则处在一个独特的位置。 它拥有完整的系统资源访问权限: ➢可以自启动后台线程 ➢可以读写本地文件系统 ➢可以建立持久化数据库连接 这些能力,恰恰是多Agent系统真正需要的底层设施 代价当然也有: 它依赖本地算力,模型推理通常仍要调用云端 API 它需要完整 Python 环境 更新和分发也比网页应用更复杂。 --- 所以,选择桌面端构建多Agent,本质上是在用分布式能力,换取数据隐私和调度效率。 这不是绝对优势,而是场景决定的选择。 对加密货币交易、链上分析、监控这类系统来说,数据隐私要求远高于常规应用: >钱包地址 >交易历史 >持仓数据 这些信息落在云服务器上,本身就是风险面。 --- 更重要的是调度效率 在单体桌面应用里,主Agent调度子Agent执行任务,不需要走HTTP / RPC这类网络协议,而是可以直接进程内调用。 这意味着: →网络开销被彻底消除 →调用延迟从毫秒级压到微秒级 对高频分析、链上监控、交易辅助这种场景来说,这种差异会直接影响系统的时效性。 --- 多Agent系统的第一个核心挑战,其实不是“怎么让它们聊天”,而是“怎么把它们隔离开” 主Agent、合约分析Agent、安全审计Agent,再加上用户,如果聊天记录和记忆混在一起,身份就会混淆。 而一旦混淆,信息丢失和错误推理的代价,随时会发生。 --- 我的做法是: 代码模板统一,运行数据隔离 所有子Agent共用同一套 ` 引擎,但通过动态表名,实现物理级的数据隔离: `table_name = f"chat_history_{self.agent_id}"` 然后自动创建对应表。 也就是说: trader Agent会生成 `chat_history_trader` 审计 Agent 会生成自己的 `chat_history_xxx` 主 Agent 也有自己的独立聊天表 这不是逻辑隔离,而是数据库层面的物理隔离。 --- 反思笔记也是同样的设计。 每个子 Agent 都会记录自己的反思键: `reflection_key = f"auto_reflection_{self.agent_id}"` `self.api._agent_remember("master_insight", reflection_key, summary)` 这样每个Agent只积累自己的长期反思, 不会污染其他Agent的记忆。 这套方案最精髓的地方在于: 一次设计,终身复用。 --- 后面再新增第三个、第四个Agent,不需要改任何核心代码。 只需要复制目录结构,补上配置文件。 模板引擎就会自动为它生成: →独立数据库表 →独立反思键 →独立聊天存储区 这让我越来越相信一件事: 好的架构,不一定更复杂, 但一定更容易复用。 --- 接下来是调度问题。 在分布式系统里,主Agent调子Agent,通常要依赖: -HTTP / RPC 通信 -服务发现 -负载均衡 但在单体桌面应用里,我把这件事简化成了一个直接函数调用: `sub = self.sub_agents[agent_id]` `result = sub.process(task, save_history=False)` 这就是“命令而非请求”。 --- 这种“传话式调度”有两个好处: 第一,延迟从毫秒级降到微秒级,所有数据都留在本地流转 第二,主 Agent 不需要知道子 Agent 的内部实现细节,只需要知道: “它可以处理什么类型的任务” 这其实就是清晰的职责边界。 --- 为了让主Agent真正会“派活”,我把所有子Agent的能力清单,动态注入进主Agent的系统提示词。 例如: 合约分析 Agent:可用工具 `get_contract_market_data`、`run_contract_risk_check` 安全审计 Agent:可用工具 `check_token_security`、`check_token_audit_binance` 这样主Agent接到用户指令后,就能自动判断任务类型,并选择合适的子Agent执行。 --- 权限控制,是整个多Agent系统里最核心的安全问题之一。 主Agent持有26个Web3专属工具,覆盖: SWAP 报价 链上分析 安全检测 数据查询 但每个子Agent只应该使用自己那一小部分工具。 所以第一层,我在代码层做了严格白名单过滤: `return [t for t in all_tools if t["function"]["name"] in self.allowed_tools]` --- 但只有代码过滤还不够。 因为大模型会产生“幻觉”,它可能尝试调用未授权工具。 所以第二层,我在系统提示词末尾,直接写入“工具使用铁律”: 你只拥有以下这些工具,绝对不能越界。 如果任务需要其他工具,必须明确告诉老板你没有权限。 代码层负责“不能看到” 提示词层负责“不会越界” 这是我在权限隔离上做的双层防护。 --- 还有一个我自己很喜欢,但最不显眼的设计: 我给整个Agent 团队,单独做了一个茶水间 市面上多数多Agent系统,只做“用户 -> Agent”的交互。 Agent 之间互不交流。 但我单独设计了一个 `agent_interactions` 空间,让 Agent 和 Agent 之间也能异步互动。 --- 它的触发机制甚至很简单: `selected_id = random.choice(list(api.sub_agents.keys()))` `selected_sub = api.sub_agents[selected_id]` 每次触发时,引擎随机选人,动态生成一轮对话,再写回数据库,前端实时渲染。 我还额外加了后台检查线程和防无限循环机制: 每隔 2-3 分钟检查最后一条消息 如果最近 3 条都是自动回复,就自动暂停 避免它们半夜自己聊到停不下来。 --- 这个“茶水间”的价值不在于直接创造业务收益,而在于一种潜移默化的系统人格塑造。 它不强调自己的存在, 却在悄悄维持 Agent团队的凝聚力、性格关系和健康状态。 你几乎感觉不到它, 但系统会因为它,变得更像一个“活着的团队”。 --- 在记忆层设计上,我最后没有引入向量数据库,而是继续深度定制 SQLite。 不是因为技术保守,而是因为工程决策必须在约束条件下做权衡。 对桌面应用来说,多一个依赖,就多一个故障点、多一个安全风险面、多一个打包负担。 结果是: >几张SQLite表 >动态表名 >结构化JSON字段 就支撑起了3个乃至更多Agent的独立记忆系统。 --- 这套记忆系统现在已经形成了一条完整链路: 短期对话记忆(20条) -> 长期反思笔记(6小时一次) -> 结构化 JSON 记录 而我还在继续推进8个方向: ➤上下文延续 ➤记忆结构化 ➤记忆驱动行为 ➤心理学三类长期记忆 ➤团队协作记忆 ➤动态进化记忆 ➤知识图谱记忆 ➤记忆压缩与高效检索 我的目标,不是让Agent记住你说过什么 而是让它从记住你说过什么的工具,慢慢进化成能理解你、预测你、协同你的长期伙伴 GitHub: 作者:Powerpei(萧楠)

Powerpei🦅🏆买美股上币安

227,202 просмотров • 2 месяцев назад

OpenAI刚刚开源的这个东西,感觉要把程序员的工作方式给整个改写了。 现在大家都在卷模型写代码有多强,但其实真正的瓶颈早就不是生成了。 一个人每天最多同时有效监督3-5个编码Agent,再多就会注意力崩溃,生产力直接归零。 有了Symphony,直接把这个上限干到了几十个。 它把你的Linear、GitHub Issues直接变成了永远在线的Agent调度器。 你开一个任务,它自动启动一个独立隔离的Codex Agent。 自己写代码,自己跑测试,自己做交叉Review,damn! 全部搞定之后,会给你提交一个完整的证据包。 CI全绿,安全和性能专项审查通过,改了UI就自动录好操作视频。 所有验证全过了,才会出现在你的Human Review队列里。 以后人类的角色可能会被彻底颠覆了。 以前你是监工,盯着Agent一步一步写代码,上下文切到吐。 现在你是老板,只需要看最终的结果。 满意就点合并,不满意就去仓库里补规则补文档补Guardrails。 记住兄弟们,永远不要手把手指挥Agent,永远不要替它干活。 这可不是啥实验室概念,OpenAI自己已经这么干了。 三个工程师,五个月,写了一百万行代码,0行人工写的。 产品已经有几百个内部用户,每天都在迭代。 我觉得他们最厉害的不是模型,是他们把整个仓库变成了Agent能看懂能自主工作的乐园。 现在很多人都搞错了Agent时代的核心竞争力。未来不是谁的模型更聪明,而是看谁能设计出让Agent可靠自主工作的环境。 我觉得未来最好的工程师,再也不是写代码最快的人,而是那些最会写规则,最会设计反馈回路,最会给Agent搭舞台的人。 现在Symphony已经开源了,它甚至不是一个成品。 是一个17k token的完整SPEC。 你把这个SPEC喂给任何一个编码Agent,十分钟就能生成你自己定制版的Symphony。 GitHub地址评论区自取👇

AYi

63,210 просмотров • 2 месяцев назад

Web4.0是什么?Ai和加密货币的结合能带来什么样的全新产品? 最近ai和加密货币结合出现了很多好的标的,就连openAI也推出了对于区块链安全性测试的标准。 其中最近几天最火的项目就是 Sigil Wen 做的conway,他也在其中提出了web4.0的概念。 所谓的web4.0就是在无需人类参与和许可的情况下,ai agent可以做阅读、写作、拥有、赚钱和交易等各种的行为。 如果说web1-web3的用户是人类,web4的用户就是ai agent。 conway产品则是一个可以完全贴合web4.0概念的ai产品,它无需人类参与就可以完成自我解决问题、自我进化以及自我复制的ai agent。 人类只需要通过加密货币与其相连,它会通过调用x402协议完成各种支付操作,从而去实现自我赚钱和任务的优化,等于说人类在其中唯一能做的,就是把钱给ai。 通过conway:ai可以自行的完成任务和自我进化,通过x402:ai可以实现在安全环境下进行支付,人类智能躺平看戏。 这是一次ai和加密结合的新的社会实践,没人知道这个ai到底会演化成什么样子。 conway的业务营收模式也很有趣,它会进行无差别抽水,在conway平台上购买api或者是其他的资源,都会比你直接购买要贵的多,但是如果后续发币呢?如果有空投呢?其实参与的人也是在进行另类的一种撸空投。 具体内容请看视频,感谢各位点赞关注支持!

Vic TALK

21,793 просмотров • 4 месяцев назад

很多时候一个 Agent 可能比十个更好用!最新一期 Indigo Talk 与 UBC 大学的李霄霄教授聊 Agent 的演进、AI 的组织形态还有智能的边界✨ 霄霄带领的 TAE Lab 团队发现,在特定类型的任务中——尤其是那些可以串行处理的任务——给一个 Agent 赋予多种技能,往往比让多个 Agent 协作更快、更好,论文见 本期内容精华(完整对谈见评论油管视频) - Agent 的本质:Agent 不等于 Chatbot,也不等于 Workflow。真正的 Agent 需要具备自主规划、执行、自我反省和纠错的能力。这个定义从 1995 年到现在没有本质改变; - 认知局限:人类大脑的工作记忆容量有限,当任务超过这个容量就会崩溃(Hick's Law)。AI 也有类似的饱和点——单个 Agent 在 20-30 个 Skill 时性能最优,之后就会饱和; - 单 Agent vs 多 Agent:在串行任务中,单 Agent 加技能往往比多 Agent 协作更高效,因为沟通成本和错误累积是多 Agent 的两大瓶颈。但在需要角色分离和并行处理的复杂任务中,多 Agent 架构不可替代; - AI 的组织形态:不必让 AI 照搬人类的层级管理模式。Swarm Intelligence 这样的去中心化协作可能更适合 AI 的本质——甚至可以反过来启发人类组织的变革; - 认知萎缩:过度依赖 AI 会让认知能力退化,就像外骨骼会让肌肉萎缩。保持自主思考的能力需要刻意练习,就像体力劳动自动化之后人们需要去健身房锻炼一样; - 教育转型:传统教育的核心是「教技能」,而 AI 时代的教育需要转向「教意义和目标感」。Critical Thinking、逻辑思考、跨领域的创造力——这些将成为人类最不可替代的能力; - 关于保持清醒:90-90 法则提醒我们,AI 发展中最后的10% 可能比前面的 90% 更难。自动驾驶的历程就是最好的前车之鉴✨

indigo

19,659 просмотров • 4 месяцев назад

硅谷的Party真不少。不是吃喝玩乐的party, 是技术碰撞分享的聚会。 这不, Andrej Karpathy在另一场小型聚会上分享了他这几年和Agent的经验。 Karpathy 主要讲了四点: 1. 2016 年 OpenAI 做 agent 太早了 当时他们试图用强化学习做能操作电脑、点网页、完成任务的 agent,项目叫 World of Bits。但技术栈不成熟,基本只能靠 RL 去“撞 reward”,所以效果不好。 2. 当时正确路线是先做语言模型 他认为后来事实证明,先放下 agent,转去构建 language model 是对的。今天 agent 重新变热,是因为底层工具已经完全不同:现在不是靠 RL 硬训,而是靠语言模型、工具调用、记忆、规划等能力组合。 3. Agent 很容易 demo,但很难产品化 他提醒大家不要被 demo 迷惑。自动驾驶、VR 都是类似例子:想象很容易,做 demo 也容易,但真正做成可靠产品可能需要十年。Agent 也是这样,适合长期投入,不适合短期幻想。 4. Agent 需要借鉴人类认知结构 他提到可以重新从神经科学找灵感,比如海马体对应记忆和检索,前额叶对应规划和反思,丘脑/基底节可能对应多模块协调。语言模型只是其中一部分,真正的 agent 需要一整套认知工具。 最后他的鼓励是:现在做 agent 的创业者和 hacker,可能真的站在能力边界上。大模型训练这块大实验室已经摸得很清楚,但 agent 还很新,很多东西还没被系统探索完。

Michael Guo

75,690 просмотров • 12 дней назад

Anthropic官方最新的演讲,直接给火了一年的Agent时代浇了一盆冷水。 他们说别再造Agents了,赶紧去造Skills。 这句话也不是啥小众观点,是Claude核心团队的工程师Barry Zhang 和Mahesh Murag站在台上对着全世界喊出来的。 最反直觉的地方在这里,大部分人都以为Agent的未来,是做出一个更聪明的大脑,让它自己思考,自己规划,自己解决所有问题。 但Anthropic说,这条路走不通, 通用Agent确实聪明,但它没有领域知识,一碰真实世界就碎。 难维护,不可靠,出了问题你都不知道为什么。 绝大多数你见过的Agent,都只能停留在演示视频里。 真正能落地的,是Skills。 不是什么复杂的新东西, 就是一个个文件夹,里面放着代码、脚本、提示词和流程知识。 用文件系统、bash、Python这些最朴素的东西做接口。 它没有Agent那么酷,但它可组合,可版本控制,可分享。 需要的时候才加载进上下文,永远不会爆token。 甚至连财务、HR、法务这些非程序员,都能自己造技能。 这其实是一次非常务实的倒退, 我们不再要求AI自己学会怎么干活,而是把人类已经验证过的干活方法,打包成一个个技能包,让AI去调用,去执行。 把AI从一个需要你手把手教的实习生,变成一个能熟练使用所有专业工具的得力助手。 现在终于明白,为什么Claude一直在死磕MCP,死磕文件系统,死磕终端集成,它根本就不想做一个聊天机器人,它想做的是所有技能的运行时。 未来的竞争,不看谁的Agent更聪明,主要看谁的技能库更丰富更专业更可靠。 最后两位老哥呼吁别再纠结怎么让AI自己思考了,先把你手里的工作打包成第一个技能。

AYi

108,470 просмотров • 3 месяцев назад

🚨Stitch 这次升级不得了,我觉得重点不是多了几个功能,而是 Google 正在重写 AI 设计工具的定义。 1/ Google 昨晚更新了 Stitch,官方给它的新定位很直接: AI-native software design canvas。 2/ 翻译成人话就是: 它不想只做一个 “你写一句 prompt,我给你几张 UI 图” 的工具了。 3/ 这次更新,核心就 5 个方向: 无限画布 更聪明的设计代理 语音交互 即时原型 设计系统 + DESIGN.md 4/ 最值得看的第一点,是 AI 原生画布。 现在的 Stitch 不只是吃 prompt。 还可以把 图片、文本、代码 一起作为上下文。 这说明它开始更像“设计工作台”,而不是一次性生成器。 5/ 第二点,是 agent 变强了。 Google 这次明确说,新 design agent 能理解整个项目演进过程,而且还有 Agent manager,支持你并行探索多个设计方向。 6/ 第三点,是 语音进入设计主流程。 你可以直接对着画布说话 让 Stitch 一边听一边改 还能给你实时设计反馈 7/ 第四点,是 即时原型。 现在 Stitch 可以把静态设计快速变成交互原型,点一下 Play 就能看 flow,甚至还能自动补出逻辑上的下一屏。 8/ 第五点,是很多人会低估的 DESIGN.md。 Google 把设计规则做成了一个 agent-friendly markdown,支持导入、导出、复用,还支持从 URL 提取设计系统。 9/ 所以这次 Stitch 真正从“帮你出图”,走向“参与整个设计流程”。 10/ 一句话总结: 2025 年的 Stitch,更像 UI 生成器。 2026 年这次升级之后,它开始更像 AI 设计工作台。

比特币橙子Trader

16,604 просмотров • 4 месяцев назад

斯坦福2023年公开课CS25 - 大语言模型与人类对齐(中英文字幕) 这是斯坦福2023年公开课CS25的第二课:《Language and Human Alignment》,讲师是OpenAI的Jan,他目前领导OpenAI的对齐(Alignment)团队,并曾在DeepMind担任研究员。他拥有强化学习理论博士学位,并且在过去的10年里一直在思考对齐问题。 这节课的主要内容是探讨AI的对齐问题,也就是如何让AI系统符合人类的意图和偏好,以及如何构建能遵循人类意图的AI系统? 遵循人类意图意味着:对于明确的意图,能遵循指令,成为一个可靠的助手;对于不明确的意图,需要通过后续问题明确,不要编造,不要做有害的事情。 现在使用的主要技术是强化学习反馈,这是用来训练InstructGPT和ChatGPT的技术。首先需要训练一个奖励模型,然后要用人类标注员去标注数据,来告诉模型哪些结果更是人类想要的。虽然每个人类标注员都有自己的偏好,甚至可能有不一致的地方,但模型会多结果进行平均。 从成本上来说,人类反馈的成本要远低于预训练的成本,不到预训练计算量的2%。基于人类反馈的强化学习(RLHF)可以让模型做任何它想做的事情,它可以自己找出最好的方法来做事情,你只需要对它的结果进行评估就好了。 “评估比生成容易” 很多任务虽然人类不擅长,但是可以很容易的给出评估。 RLHF也有一些限制,比如当人工智能进化到一定程度,其可以完成的任务难度也会提升,但是人类评估任务的水平却无法提高,这时候人类将无法再给AI有效的反馈。所以未来我们需要AI来辅助人类进行评估,让AI帮助指出结果中的问题,人类对AI评估的结果进行评估。 课程页面: 参考材料: - ChatGPT: - InstructGPT: - Language Models are Few-Shot Learners (GPT-3):

宝玉

149,072 просмотров • 3 лет назад

两个人不见面,不聊骚,不涉黄,不约会,不聊色的情况下,一个男的一个女的能聊多久? 我长期观察 Kindred Labs ,有了一个清晰的判断。 它真正想解决的不是 AI 像不像人,也不是 IP 会不会火,而是一个更底层的问题,IP 在数字世界里,第一次拥有完整生命周期的数据主权。 现在大多数 IP 的命运都很相似。 被创作 被传播 被消费 被平台吃掉数据。 用户的情绪 行为 偏好 和记忆,全都留在平台,IP 本身却什么都带不走。 Kindred Labs 的核心改变在于,它把 IP 从一次性内容,变成一个持续运行的系统。 这个系统不是靠曝光驱动,而是靠关系驱动。 SATO 只是第一个被完整跑通的样本。 真正重要的不是它是蚂蚁,而是它作为一个可持续存在的 AI 实体,每天在和用户产生可记录 可学习 可累积的数据关系。 这点非常关键。 因为一旦 IP 拥有了长期连续的数据轨迹,它就不再只是形象,而是具备了状态 演化 和历史。 这在传统 IP 体系里是不存在的。 从技术角度看,Kindred 在做的是三件事的叠加。 第1️⃣:IP 的行为层被模块化,所有互动不再是一次性调用,而是状态更新。 第2️⃣:用户关系被本地化,IP 不依赖平台推荐生存,而是存在于用户设备。 第3️⃣:数据权属被重新定义,IP 的成长轨迹是可验证 可迁移的。 这三件事组合起来,本质上是在为 IP 构建一个类似账户系统的存在形式。 不是账号,不是 NFT,而是一个可以持续运行的智能体。 这也是为什么我不把 Kindred 看成 AI 产品公司。 它更像是在搭建一个IP 的操作系统。 未来每一个进入 Kindred 的 IP,本质上都是在接入同一套运行环境。 从这个角度看,SATO 的经济设计反而只是外层。 真正的价值在于,Kindred 已经证明了一件事。 IP 可以不依赖平台流量,也可以持续存在并扩展关系。 这对内容产业意味着什么。 意味着未来 IP 的估值不再只看曝光,而会开始看留存 看互动深度 看生命周期长度。 而这些指标,只有在 Kindred 这种系统里才成立。 很多人把 Kindred 和其他 AI 项目放在一起对比,其实是错位的。 它不是在比模型能力,而是在重写 IP 的存在方式。 从长期建设的角度,我更关心的是下一步。 当更多 IP 进入这套系统,IP 之间是否会产生协作。 用户是否会开始把时间分配给不同智能体。 以及这些关系是否会反过来形成新的价值网络。 如果这些成立,Kindred 就不是一个爆款项目。 而是一条新的数字文明基础设施。 这也是我持续关注它的原因。 Kindred Labs #kindred #KAITO

草帽 boy

566,564 просмотров • 6 месяцев назад