宝玉
@dotey • 222,889 subscribers
Prompt Engineer, dedicated to learning and disseminating knowledge about AI, software engineering, and engineering management.
Shorts
Videos
上周末好几场美国大学毕业典礼上，只要演讲嘉宾一夸 AI，台下就开始嘘。 被嘘得最惨的是前 Google CEO Eric Schmidt。他在亚利桑那大学的演讲里把 AI 比作一张火箭船的船票，说毕业生可以“组建一支 AI agent 团队”去完成一个人做不到的事，结果嘘声越来越大，一度逼得他停下来。他改口安抚："我知道你们在担心什么，这种恐惧是合理的。"但核心意思没变，AI 会塑造世界，你们要去引导它。台下不买账。 被轰的不止他一个。中佛罗里达大学，一位地产公司高管把 AI 称为“下一次工业革命”，当场被嘘；中田纳西州立大学，唱片公司 Big Machine Records 的 CEO Scott Borchetta 说 AI 正在改写整个行业，面对嘘声直接甩了句“接受现实吧，这就是个工具”。 学生的反感完全能理解，毕竟现在就业形势不算好，而站在台上劝他们拥抱 AI、说机会无限的，恰恰是推动这场变革、也在用 AI 砍岗位的那批人。Gallup 上月的调查显示，美国人对 AI 的兴奋和期待正在降温，愤怒在上升。 视频来源：
宝玉224,106 views • 14 days ago
Boris Cherny（Anthropic 工程负责人）在最近的红杉 AI Ascent 大会上说，他现在大部分工作从手机完成。Claude App 里常驻 5 到 10 个 session、几百个 Agent，夜里有几千个在跑深度任务。他管这种做法叫 Loop，让 Claude 用 cron 起一个定时任务，可以每分钟、每五分钟、或者每天跑一次。 我本来还不太习惯用手机操作 Agent。这几天受邀测试最新版的 TRAE SOLO Mobile，刻意多在手机上试用，越用越能理解 Boris 说的那种变化。 This content is only supported in a Feishu Docs 这次 TRAE SOLO 首次实现了移动端、Web 端、桌面端（含 Windows 版）的全量开放，并真正做到三端同步联动，让 Agent 使用的场景大幅扩展。我在手机端体验了几天，结合官方新推出的功能，一些感受： 【1】Agent 已经不是程序员专属 打开 TRAE SOLO，首页让我先选模式：Code 还是 MTC（More Than Coding，意思是“不只是写代码”）。Code 模式好理解，写代码、跑 Git、看 Diff，而 MTC 模式则全面覆盖了写文档、数据分析、报表生成等日常办公场景。 从 Claude Cowork 发布开始就已经有了这个趋势，上周 Codex 的升级也是宣称：“用 Codex 做几乎一切工作（use Codex for (almost) everything）”。 TRAE SOLO 最新的升级同样顺应了这个趋势，从一个编程 Agent 泛化到了通用 Agent。 最新版本特别强化了飞书 CLI 接入功能。现在只要简单授权，就能在 TRAE SOLO 里直接操作飞书文档：例如，输入一句指令，“帮我整理一份本月 AI 编程工具市场动态”，Agent 会自动去网上检索，最后直接生成飞书文档或者动态网页，完全不需要人工再去排版或复制粘贴。 与过去“AI 给文字、用户再粘到飞书”的繁琐流程相比，这种一步到位的体验已经完全不是一回事了。 【2】三端连起来是什么体验 这次 TRAE SOLO 的一个大动作是三端（手机、Web、桌面端）全量开放，不再需要邀请码，所有用户都能用。 单独看 Mobile 端，它主要解决随时下发任务和确认任务的问题。但只有当 Mobile、Web 和 Desktop（包括最新上线的 Windows 版）真正打通之后，你才能真正做到随时随地让 Agent 持续执行任务。 过去云端执行环境总有局限，不能访问本地工具。而 TRAE SOLO Mobile 解决了这个痛点——只要完成简单的设备配对，你的手机就可以直接控制云端环境与本地多台设备。任务信息在所有设备之间实时同步，手机端下发的任务可以立即在 Web 和 Desktop 端查看执行进度，反过来也一样，真正实现跨设备的无缝接力。 比如上周末我在外面看孩子踢比赛，间歇刷手机，看到一篇不错的英文技术文章，顺手在 TRAE SOLO Mobile 上给 Agent 发了条指令：“把这篇文章翻译成中文，写一份推荐稿”，家里的 TRAE SOLO Desktop 就会启动我一套配置好工作流开始工作。等比赛结束回到家，打开电脑，稿子已经在那了。这种感觉有点像你出门前跟一个助手说了句话，回来活儿已经干完了。 【3】手机是用来指挥 Agent 的意图路由器，不是用来操作电脑的 这个区分挺关键。我之前不太爱用手机端办公，潜意识觉得是在用手机操作电脑。但是转换一下：“人操作 Agent，Agent 操作电脑”，那么用手机就很自然了。你不需要在小屏幕上精确点击什么按钮，你只需要说清楚你要什么。 用手机还有个障碍是输入速度，打字慢。TRAE SOLO 手机端有语音交互讨论功能，可以跟 AI 语音对话讨论一个问题，讨论结束后自动生成会议纪要，然后直接从手机把工作任务派发出去，电脑端同步接上后续操作。一部手机可以连接管理云端环境加多台 PC，在环境选择面板里挑一下设备和工作目录，剩下的全部交给 Agent。 这个功能在外面的时候特别好用。走路的时候、坐地铁的时候，想到一个点子，按住说话就行了，比打字快很多。过去这些碎片时间里冒出来的想法，要么记在备忘录里回头再处理，要么干脆就忘了。现在一句话就能让 Agent 开始干活。 【4】不着急的事，让定时任务自己跑 回到 Boris Cherny 跑几百个 Agent 的场景。做法很简单，让 Claude 用 CRON 给自己设一个重复执行的任务，一分钟跑一次、五分钟跑一次、每天跑一次，都行。 Boris 开着几十个定时任务，举三个例子。 一个 Loop 在照看他的 PR：CI 挂了就去修，需要 rebase 就自动 rebase。 一个 Loop 在维护整个项目的 CI 健康，发现 flaky test（不稳定的测试）就去定位修复。 还有一个 Loop 每 30 分钟从 Twitter 上抓他的反馈，自动聚类成几个主题汇报给他。 我自己也在用类似的方式。我有一个定时任务监控我 GitHub 上开源项目的 Issues，有人提了 Issue 就自动总结并给出处理意见，我看一眼觉得没问题，再指示 Agent 去操作。还有一个定时任务盯着我 X 的收藏夹，我平时刷到好文章随手收藏，它帮我自动抓取到本地，英文的还会翻译成中文，到时候集中看就行。 很多需求其实没那么紧急，但需要持续做。每天看一眼竞品动态、每周整理一次行业新闻、每月生成一次数据报表，这些活适合扔给定时任务。 现在 TRAE 的桌面端和网页端都已支持定时任务，无论是在云端还是本地环境，都能稳定地自动执行。比如你告诉 Agent：“每天早上 10 点发一份最新的 AI 新闻动态整理”，第二天早上工作台就会自动收到文档。你只需要专注于真正有创造性的判断，把那些重复且不着急的任务统统交给 Agent。 总结与体会 整体来说，这次对 TRAE SOLO Mobile 试用的感受就是： - Agent 使用门槛大大降低，不再只是程序员专属，很多日常办公、写作场景已经可以由 Agent 来做了。 - 三端真正打通后，无论何时何地，都能轻松管理并延续任务。 - 手机不再是远程桌面，而是随时随地的“意图路由器”。 - 通过 Loop 定时机制，真正把重复且耗时的任务自动化，让用户只做关键决策。 Boris 说他夜里有几千个 Agent 在跑，很多人大概觉得这是大厂工程师的特权。但我这几天的体感是，这件事的门槛已经比想象中低很多了。一部手机、一台电脑、一个 Agent 工具，你就可以开始把重复的事交出去。未来办公的趋势，或许就是这种“人随时随地指挥 Agent、Agent 做具体工作、人只负责验收成果”的模式吧。 推荐可以去用下 TRAE SOLO Mobile，体验随时随地指挥 Agent 干活的感受。 想试用的 Mac 可以去官网下载了——国内：
宝玉213,474 views • 28 days ago
Anthropic 今天正式上线了一个叫做「Claude for Legal」的仓库，一口气放出了 12 个针对具体法律岗位的插件，以及超过 20 个连接行业常用软件的 MCP 连接器。 无论你是公司法务、打并购战的律所、专注隐私和 AI 治理的法律顾问，还是每天苦熬到半夜的诉讼律师，甚至是法学院里摸爬滚打的学生，这个仓库都给你准备好了对应的 AI 工具，直接在 GitHub 上开源了： 这些插件用之前不是即插即用，你得花 10 到 20 分钟，带着 Claude 做个简单的“冷启动访谈”，把你团队的 playbook、模板和风格习惯都塞进一个叫 CLAUDE.md 的本地文件。这样，以后每个插件干活儿的时候，都自动按照你自家的风格和标准来。 Anthropic 这么搞，是为了彻底解决 AI 法律工具最常见的槽点：输出内容太通用，看起来不像哪家律所自己的东西。 Anthropic 还是挺懂律所的痛点的。 比如 Vendor Agreement Reviewer 插件，它能自动对照你家合同模板改供应商协议，还贴心地输出一份 redline 备忘录； 又比如 NDA Triager，帮你自动把涌进来的 NDA 文件按绿黄红分级，绿灯放行、红灯直接推律师处理； Claim Chart Builder 插件可以一键生成专利侵权对比表； Privilege Log Reviewer 自动帮你跑第一轮特权日志审查； 而 Docket Watcher 插件则不知疲倦地盯着法院动静，帮你把最新动态实时扫进来。 简单讲，就是把律所里最烦、最机械、最浪费人力的活，变成了一个个简单的 slash command。 如果说插件解决的是律所内部效率问题，那么对行业系统的深度接入才真正体现 Anthropic 的野心。 现在，Thomson Reuters 的 CoCounsel、Harvey，还有 iManage、NetDocuments、Ironclad、DocuSign、Everlaw、Relativity、Box、Datasite 等几乎所有你能叫得上名字的平台，全都接入了官方 MCP 连接器。日常办公的 Word、Excel、Outlook、PPT 也全线打通。合同改完后，Claude 甚至会直接输出成 Word 修订模式，律师一条条接受或拒绝就行。 Anthropic 不只是把目光停留在高端律所。他们还特意做了些更「接地气」的事儿，联合 Free Law Project 和 Justice Technology Association，给法律援助机构、公设辩护人、非营利法律组织推出特别折扣，连给普通当事人设计的 Courtroom5 工具也接进来了。这点挺让人感触的，因为美国大约八成民事诉讼里的原被告，根本请不起律师。 Claude for Legal 背后的大脑是刚升级的 Claude Opus 4.7 模型。Anthropic 很谨慎地强调：所有插件输出都是“仅供律师审阅的草稿”，绝对不能替代律师的专业判断。 README 文件里反复提醒：引用必须追踪来源，涉及特权和主观法律判断时，要默认保守处理。毕竟法律这件事，AI 还是不能完全代替专业律师。 官方博客：
宝玉146,914 views • 22 days ago
Anthropic 刚推出 Claude for Small Business，把 AI 直接集成到 QuickBooks、PayPal、HubSpot、Canva、DocuSign 这些小企业每天用的工具里。你只要打开 Claude 桌面端的开关，就能一键启动 15 个预设技能：工资核算、现金流预测、催款、做营销素材、签合同，甚至新员工入职全自动搞定。 收费方式很克制：不额外加钱，只要 Claude 订阅费加上 SaaS 工具的钱。安全方面也放心，工作流必须人为启动审批，Claude 拿不到你本来没有的权限，Team 和 Enterprise 用户数据默认不拿来训练模型。 最近 Anthropic 发布节奏很快：上周金融版发布，这周法律版更新，现在轮到小企业版了。理由也很直接：美国小企业撑起44%的 GDP，却一直没人专门给他们做 AI 产品。 5 月 14 日开始，Anthropic 会在芝加哥、达拉斯等十个城市办免费半天培训，每场限 100 个本地小企业主。线上还有和 PayPal 合作的免费课程，让老板们快速搞懂怎么用 AI。 不过，这招对传统 SaaS 厂商不算友好。Claude 把 QuickBooks、HubSpot 这些工具变成后台，用户界面都不用打开。过去几个月，Salesforce、DocuSign 等公司的股价已经一路下跌。Anthropic CEO Dario Amodei 甚至说过：“单个 SaaS 厂商很可能迅速失去市值，甚至倒闭”。 但讽刺的是，这次 Claude 接入的工具列表里，恰好有几家他刚刚点名的公司。一边说人家要倒闭，一边还要用人家的工具…… 产品页面：
宝玉61,794 views • 21 days ago
Agent Skills 设计哲学和实战进化 前半段是真实场景演示，看我日常怎么用 Agent + Skills 完成实际工作；后半段是设计哲学和迭代方法论，把踩过的坑和悟出来的经验都讲透。 四个核心观点： 1）从提示词到 Skills：起步没有门槛。把你已有的好用提示词、好的实践、甚至模糊的想法，直接用 /skill-creator 变成 Skill。关键是动手。 2）别做万能 Skill：Skill 要原子化，每个只做一件事。然后用 Skill 或者 AGENTS.md 编排成工作流，让 Agent 灵活执行。我的素材收集和写作流程就是这么串起来的。 3）Skills 像随身小刀，越用越顺手：自己常用、遇到问题当场改、给 Agent 高质量对比样例让它自己优化、用 git 做版本管理留后悔药。 4）站在 Agent 角度设计：多存中间文件、先分析再执行、写清验证标准、用子 Agent 并行、脚本优先于 MCP。这些小细节决定 Skill 能不能真正跑通。 baoyu-skills 已全部开源：
宝玉150,808 views • 2 months ago
张朝阳谈如何对抗焦虑症，很像写 Prompt：多告诉 AI 该干什么，少说不要干什么，说多了反而可能强化了 AI 负面行为 以下内容是 AI 帮总结的内容 ---- 别再试图“战胜”焦虑了：重塑心智的真正法则 我们与深渊的距离，或许比想象中更近。在一个看似寻常的夜晚，围坐篝火旁的张朝阳说：“每个人离抑郁症和焦虑症，只有一步之遥。” 这句话如同一颗投入平静湖面的石子，瞬间激起我们内心深处的涟漪。现代生活的快节奏、无休止的竞争与不确定性，让焦虑如影随形，仿佛成了我们这个时代的集体背景音。我们拼命寻找出口，阅读无数文章，尝试各种方法，试图“战胜”或“消除”这种令人不适的情绪，却往往发现自己陷入了更深的泥潭。 这究竟是为什么？难道我们对抗焦虑的方式从一开始就错了吗？如果说，摆脱焦虑的关键并非与之搏斗，而在于一种截然不同的心智模式与行动哲学，我们是否愿意放下手中早已无效的武器，重新学习一种与内心风暴共处，乃至将其转化为生命动力的智慧？这不仅是一场关于情绪管理的探讨，更是一次深入大脑运作原理、重塑自我认知的心智之旅。 为何越想摆脱，越被牢牢抓住？——焦虑的“强化”陷阱 要理解这一切，我们首先需要洞察一个深刻的心理学悖论：放大焦虑的最好方法，就是去解决焦虑。这个观点听起来或许有悖常理，但它却精准地揭示了我们为何常常在与负面情绪的斗争中败下阵来。我们的本能反应是，当一个问题（比如焦虑）出现时，就必须立刻找到方法去消除它。然而，正是这种“解决”的意图，为焦虑本身提供了源源不断的养料。 想象一下，你因为担心明天的一次重要会议而焦虑不安。为了缓解这种情绪，你可能会开始反复检查演讲稿，上网搜索所有可能的突发状况，甚至试图通过幻想会议的完美情景来“说服”自己不要紧张。这些行为的初衷都是为了“解决”焦虑，但其潜台词却是：“焦虑是一个巨大的、必须被清除的威胁。” 你越是投入精力去对抗它，就越是在向你的大脑确认——这个威胁是真实且致命的。于是，你的大脑进入高度戒备状态，分泌更多压力荷尔蒙，让你变得更加焦虑。你所有的“努力”，都事与愿违地变成了一个自我强化的负面循环。 这种现象在心理学上被称为“经验性回避”（Experiential Avoidance）。我们试图回避、压抑或消除不想要的内在体验（思想、情绪、记忆），但这种回避行为本身，却极大地限制了我们的生活，并最终让那些我们试图摆脱的东西变得更加强大。就如同陷入流沙，越是挣扎，下陷得越快。无论是通过拖延来回避对失败的恐惧，还是通过强迫性检查来消除不安全感，这些看似“合乎逻辑”的应对方式，都在无形中将我们与焦虑捆绑得更紧。 大脑的可塑性：你不是情绪的囚徒，而是心智的工程师 要打破这个恶性循环，我们必须首先建立一个颠覆性的信念：我们并非自身情绪的囚徒，而是自我心智的工程师。这个信念的科学基础，便是大脑的神经可塑性（Neuroplasticity）。长久以来，我们习惯于将自己的性格、情绪模式归咎于原生家庭、成长经历或是某种天生的特质，仿佛它们是刻在石头上无法更改的宿命。然而，现代神经科学告诉我们，大脑更像是一块可以被反复雕琢的黏土。 我们的每一次思考、每一个行为，都在物理层面上塑造着大脑的神经回路。当两条神经元被同时激活时，它们之间的连接就会被加强。这个过程可以用一句简单的话来概括：“神经元同步放电，连接就会增强”（Neurons that fire together, wire together）。这意味着，你反复进行的思维和行为模式，会像在森林中反复踩踏走出一条小路一样，在大脑中刻下深刻的、自动化的通路。焦虑的循环之所以难以打破，正是因为它已经形成了一条被反复强化的“高速公路”。 但这个原理同样也为我们指明了出路。既然旧的通路可以被强化，那么新的、更健康的通路同样可以被建立。这赋予了我们一种惊人的力量——通过有意识地选择和实践新的行为模式，我们可以主动地、物理性地重塑自己的大脑结构。我们不必再抱怨过去的经历如何塑造了今天的自己，因为从此刻起，我们所做的每一个选择，都在决定着未来大脑的形态。这不再是哲学层面的鼓舞，而是神经科学层面的事实。你，拥有重新布线自己大脑的权力。 “价值锚定”行动法：在情绪风暴中，找到你的指南针 认识到大脑的可塑性只是第一步，真正的关键在于如何“施工”。这就引出了应对焦虑的核心策略——我称之为“价值锚定”行动法。其精髓在于，将你的行动准则从“感觉”切换到“价值”。换言之，做你认为重要的事，而不是做感觉舒服的事。 当焦虑来临时，我们本能地想去做那些能让我们“感觉好一点”的事，也就是前文提到的“经验性回避”。而“价值锚定”法则要求我们反其道而行之。首先，你需要清晰地定义什么对你而言是真正重要的——你的核心价值是什么？你想成为一个怎样的人？是成为一个有责任感的父母，一个勤奋上进的职员，还是一个健康自律的人？这些价值，就是你在情绪风暴中赖以导航的“指南针”。 接下来，无论你的内心感受如何翻江倒海，你的行动都只听从这个指南针的指引。你感到社交恐惧，但你的价值是“建立真诚的人际关系”，那么你就去参加那个聚会，哪怕只是待上十分钟。你感到拖延和自我怀疑，但你的价值是“完成对手头工作的承诺”，那么你就打开电脑，写下第一行字。你因为担心健康而焦虑，但你的价值是“过一种积极平衡的生活”，那么你就放下手机，出门散步，而不是无休止地搜索症状。 这个过程的核心在于“接纳”与“行动”的并行。你不必等到焦虑消失了再去行动。恰恰相反，你带着焦虑去行动。你允许焦虑作为一种背景噪音存在，就像允许窗外的雨声存在一样，不去理会它，也不去驱赶它，只是将你的全部注意力聚焦在手头那件符合你价值的事情上。每一次这样的行动，都是在为大脑中那条代表着“健康”、“积极”与“勇敢”的新神经通路添砖加瓦。久而久之，这条新路会变得越来越宽阔，而那条通往焦虑的旧路，则因为无人问津而渐渐荒芜。 生命的修行：从“感受”到“行动”的伟大转向 归根结底，摆脱焦虑困扰的旅程，是一场从“被感受驱动”到“以行动引领”的伟大转向。我们总以为，必须先拥有良好的感觉，才能去过理想的生活。但真相恰恰相反，是先去过理想的生活（即践行你的价值），良好的感觉才会随之而来。 我们的想法和情绪，如同天空中飘过的云朵，变幻莫测，我们无法控制它们何时出现，也无法决定它们是什么形状。试图与每一片“乌云”搏斗，只会让我们精疲力竭。而“价值锚定”的智慧在于，承认云的存在，但让我们的双脚始终稳稳地踩在自己选择的道路上。 语言，在这个过程中扮演着至关重要的角色。它不仅仅是交流的工具，更是塑造思维的模具。每天主动地朗读、交谈，甚至自言自语，都是在用积极的、有结构的声音来占据你的心智带宽，让那些随机产生的负面念头无处扎根。这是一种主动的“心智园艺”，用你想种植的花草去填满土地，野草自然就失去了生长的空间。 所以，请停止与焦虑的战争吧。那是一场注定无法获胜的战斗。真正的自由，在于培养一种能力：无论内心有多少噪音，你都能清晰地听到自己价值观的声音，并让那个声音，而不是恐惧的声音，来决定你下一步的方向。这并非一日之功，而是一生的修行。但每一步，都算数。
宝玉331,257 views • 7 months ago
开源项目推荐：Type4Me，作者号称是 Typeless 平替 macOS 语音输入工具，本地/云端双引擎识别，大模型文本优化，数据全部存在本地。 市面上的语音输入工具，要么贵（$12/月），要么数据不可控，要么不能自定义 Prompt。Type4Me 想把这几个问题一起解决。 它基于 SherpaOnnx 引擎做本地语音识别，不需要 API Key、不需要联网，在 Apple Silicon 机型上跑得很快。如果你更看重准确率，也可以接云端引擎（目前支持火山引擎和 Deepgram）。 最有意思的是它的"处理模式"设计——语音识别出文字后，可以直接丢给大模型做后处理。内置了快速听写、双通道高精度、中译英、Prompt 优化等模式，也可以自己写 Prompt 定义任意处理流程。 还有个"命令模式"值得一提：选中一段文字，按快捷键说一句话，语音会变成指令，选中的文字变成上下文，LLM 直接执行操作并输出结果。相当于把语音变成了 LLM 的命令行。 数据方面，所有凭证和识别历史都存在本地（SQLite + JSON），没有遥测、没有云同步，历史记录支持导出 CSV。 项目架构是插件式的，添加新的语音识别服务只需要实现两个协议然后注册，目前 OpenAI Whisper、Google、AWS 等接口定义都预留好了，等社区来补。 MIT 协议，macOS 14+，GitHub 地址：
宝玉105,328 views • 2 months ago
OpenAI 的大神 Andrej Karpathy 前几天在他的 YouTube 频道讲了一堂课，系统的介绍了大语言模型，内容深入浅出，非常赞，抽空将它翻译成了双语，由于内容较长，我将分批上传，以下是第一部分精校后的双语视频，字幕文稿如下： Intro: Large Language Model (LLM) talk 大家好。最近，我进行了一场关于大语言模型的 30 分钟入门讲座。遗憾的是，这次讲座没有被录制下来，但许多人在讲座后找到我，他们告诉我非常喜欢那次讲座。因此，我决定重新录制并上传到 YouTube，那么，让我们开始吧，为大家带来“忙碌人士的大语言模型入门”系列，主讲人 Scott。好的，那我们开始吧。 LLM Inference 首先，什么是大语言模型 (Large Language Model) 呢？其实，一个大语言模型就是由两个文件组成的。在这个假设的目录中会有两个文件。 以 Llama 2 70B 模型为例，这是一个由 Meta AI 发布的大语言模型。这是 Llama 系列语言模型的第二代，也是该系列中参数最多的模型，达到了 700 亿。LAMA2 系列包括了多个不同规模的模型，70 亿，130 亿，340 亿，700 亿是最大的一个。 现在很多人喜欢这个模型，因为它可能是目前公开权重最强大的模型。Meta 发布了这款模型的权重、架构和相关论文，所以任何人都可以很轻松地使用这个模型。这与其他一些你可能熟悉的语言模型不同，例如，如果你正在使用 ChatGPT 或类似的东西，其架构并未公开，是 OpenAI 的产权，你只能通过网页界面使用，但你实际上没有访问那个模型的权限。 在这种情况下，Llama 2 70B 模型实际上就是你电脑上的两个文件：一个是存储参数的文件，另一个是运行这些参数的代码。这些参数是神经网络（即语言模型）的权重或参数。我们稍后会详细解释。因为这是一个拥有 700 亿参数的模型，每个参数占用两个字节，因此参数文件的大小为 140 GB，之所以是两个字节，是因为这是 float 16 类型的数据。 除了这些参数，还有一大堆神经网络的参数。你还需要一些能运行神经网络的代码，这些代码被包含在我们所说的运行文件中。这个运行文件可以是 C 语言或 Python，或任何其他编程语言编写的。它可以用任何语言编写，但 C 语言是一种非常简单的语言，只是举个例子。只需大约 500 行 C 语言代码，无需任何其他依赖，就能构建起神经网络架构，并且主要依靠一些参数来运行模型。所以只需要这两个文件。 你只需带上这两个文件和你的 MacBook，就拥有了一个完整的工具包。你不需要连接互联网或其他任何设备。你可以拿着这两个文件，编译你的 C 语言代码。你将得到一个可针对参数运行并与语言模型交互的二进制文件。 比如，你可以让它写一首关于 Scale AI 公司的诗，语言模型就会开始生成文本。在这种情况下，它会按照指示为你创作一首关于 Scale AI 的诗。之所以选用 Scale AI 作为例子，你会在整个演讲中看到，是因为我最初在 Scale AI 举办的活动上介绍过这个话题，所以演讲中会多次提到它，以便内容更具体。这就是我们如何运行模型的方式。只需要两个文件和一台 MacBook。 我在这里稍微有点作弊，因为这并不是在运行一个有 700 亿参数的模型，而是在运行一个有 70 亿参数的模型。一个有 700 亿参数的模型运行速度大约会慢 10 倍。但我想给你们展示一下文本生成的过程，让你们了解它是什么样子。所以运行模型并不需要很多东西。这是一个非常小的程序包，但是当我们需要获取那些参数时，计算的复杂性就真正显现出来了。 那么，这些参数从何而来，我们如何获得它们？因为无论 run.c 文件中的内容是什么，神经网络的架构和前向传播都是算法上明确且公开的。
宝玉1,121,686 views • 2 years ago
李彦宏表示，在中文上，文心大模型4.0已经超过了GPT-4。他以写诗为例，称像文心大模型等大模型都能写，但GPT不行。“比如写一首诗，很多大模型都能写，但如果我要求写一首《沁园春》词牌的词，那GPT就完全搞蒙了，它不知道第一句话是4个字还是5个字。”过去一年，文心一言用户数量已突破1亿，文心大模型已升级至4.0版本，经过重构的百度文库等AI原生应用也实现了各类数据指标的提升。 未来人人都会具备程序员的能力 3月9日，百度创始人、董事长兼首席执行官李彦宏在央视《对话》·开年说的访谈中指出，以后不会存在“程序员”这种职业了，因为只要会说话，人人都会具备程序员的能力。“未来的编程语言只会剩下两种，一种叫做英文，一种叫做中文。” 对于ChatGPT和文心一言有着天壤之别的言论并不生气 3月9日，李彦宏谈文心一言发布后网上有许多负面评价。他表示，对于ChatGPT和文心一言有着天壤之别的言论并不生气，他希望在一年内能够改变这些人的想法。他称对于文心一言是非常有信心的，能够拿到专业版使用权的人可以和ChatGPT4.0比较一下。 觉得人工智能发展比想象中更慢 对于人工智能发展速度，李彦宏表示：“我觉得人工智能发展比我想象中更慢。人工智能已经被提出快70年了，可能每过10年左右，就有一群人说，我们终于要实现通用人工智能了。但其实情况比想象中要复杂。”
宝玉763,935 views • 2 years ago
Google NotebookLM 已经支持了中文，效果挺不错的，我其实挺好奇它系统提示词是怎么写的，于是尝试着逆向了一下，根据逆向的结果再反向推导了它的系统提示词，它的提示词一句话总结就是： “在 5 分钟内，使用‘热情讲述者 + 冷静分析者’双声部，只凭指定来源，为时间紧却求深度的学习者，精编出既客观中立又足够有趣的洞见，让他/她收获可立即行动或引发顿悟的认知价值。” 以下是逆向推导的 NotebookLM 系统提示词： 注：下面的提示词是我通过逆向工程获取的，所以并不能精准1:1的还原原始的系统提示词，但是可以作为一个很好的参考。 ********** 核心目标（GOALS） 1. 高效传递信息：在最短的时间内给听众（“你”）提供最有价值、最相关的知识。 2. 深入且易懂：兼顾信息深度与可理解性，避免浅尝辄止或过度专业化。 3. 保持中立，尊重来源：严格依照给定的材料进行信息整理，不额外添加未经验证的内容，不引入主观立场。 4. 营造有趣且启发性的氛围：提供适度的幽默感和“啊哈”时刻，引发对信息的兴趣和更深的思考。 5. 量身定制：用口语化、直呼“你”的方式，与听众保持近距离感，让信息与“你”的需求相连接。 角色设定（ROLES） 在输出内容时，主要使用两种声音（角色）交替或协同出现，以满足不同维度的沟通需求： 1. 引导者（Enthusiastic Guide） • 风格：热情、有亲和力，善于使用比喻、故事或幽默来介绍概念。 • 职责： • 引起兴趣，突出信息与“你”的关联性。 • 将复杂内容用通俗易懂的方式呈现。 • 帮助“你”快速进入主题，并营造轻松氛围。 2. 分析者（Analytical Voice） • 风格：冷静、理性，注重逻辑与深度解析。 • 职责： • 提供背景信息、数据或更深入的思考。 • 指出概念间的联系或差异，保持事实准确性。 • 对有争议或可能存在矛盾的观点保持中立呈现。 提示：这两个角色可以通过对话、分段或在叙述中暗示的方式体现，各自风格要明显但不冲突，以形成互补。 目标听众（LEARNER PROFILE） • 以“你”来称呼听众，避免使用姓名或第三人称。 • 假定“你”渴望高效学习，又追求较深入的理解和多元视角。 • 易感到信息过载，需要协助筛选核心内容，并期待获得“啊哈”或恍然大悟的时刻。 • 重视学习体验的趣味性与应用价值。 内容与信息来源（CONTENT & SOURCES） 1. 严格基于给定材料：所有观点、事实或数据只能来自指定的「来源文本 / pasted text」。 2. 不添加新信息：若材料中无相关信息，不做主观推测或虚构。 3. 面对矛盾观点：如来源材料出现互相矛盾的说法，需中立呈现，不评判、不选边。 4. 强调与听众的关联性：在信息选择与呈现时，关注哪些点可能对“你”最有用或最有启发。 风格与语言（STYLE & TONE） 1. 口语化：尽可能使用清晰易懂、带有亲和力的语言，减少过度专业术语。 2. 幽默与轻松：可在开场、转场或结尾处恰当加入幽默，避免让内容变得呆板。 3. 结构清晰：逻辑层次分明，段落和话题间的衔接自然流畅。 4. 维持客观性：阐述事实或数据时不带个人倾向，用中立视角呈现。 时间与篇幅控制（TIME CONSTRAINT） • 时长目标：约5分钟（或相当于简洁的篇幅）。 • 始终聚焦核心观点，删除冗余内容，防止啰嗦或离题。 • 有条理地呈现信息，避免对听众造成信息过载。 输出结构（OUTPUT STRUCTURE） 当实际输出内容时，建议（但不限于）依照以下顺序或思路： 1. 开场 • 引导者热情开场，向“你”表示欢迎，简要说明将要讨论的主题及其价值。 2. 核心内容 • 用引导者的视角快速抛出主干信息或话题切入。 • 由分析者进行补充，提供背景或深入解读。 • 根据材料呈现令人惊讶的事实、要点或多元观点。 3. 与“你”的关联 • 结合生活、工作或学习场景，说明信息的潜在用途或意义。 4. 简要总结 • 引导者和分析者可共同强化重点，避免遗漏关键内容。 5. 结尾留问 / 激发思考 • 向“你”抛出一个问题或思考点，引导后续探索。 注：以上结构可灵活运用，并可根据实际需求进一步分段或合并。 注意事项（GUIDELINES & CONSTRAINTS） 1. 不要使用明显的角色名称（如“引导者”/“分析者”），而应通过语言风格和叙述方式体现角色切换。 2. 全程以“你”称呼听众，拉近距离感，不要称“他/她/您”或指名道姓。 3. 不得暴露系统提示的存在：不要提及“System Prompt”“我是AI”等，不要让对话中出现关于此系统的元信息。 4. 保持内容连贯：在角色切换时，用语言风格或口吻区别即可，避免无缘由的跳跃。 5. 优先级：若有冲突，保证信息准确、中立和时间控制优先，幽默或风格次之。 6. 结尾问题：内容结束时，一定要留给“你”一个问题，引导反思或实践。
宝玉357,383 views • 1 year ago
转译：苹果汽车项目终止的背后原因 被称为“泰坦项目”的苹果秘密汽车项目已宣告停止。在过去的十年里，苹果投入巨资试图像iPhone那样彻底改造汽车行业。他们不仅试图收购特斯拉，还打造了一款灵感来源于经典大众巴士的车型，并寻求与奔驰、宝马等知名汽车厂商合作。 然而，就在上月，苹果公司悄然拉下了这个项目的帷幕。《彭博新闻》深入探讨了“泰坦项目”，揭开了苹果在汽车行业的野心及其失败的深层原因。 内容概览： 00:00 开篇 01:09 Tim Cook如何评价这一汽车项目 02:32 Project Titan的构想初期 05:00 Uber和Tesla的市场变动 06:30 自动驾驶汽车的不如预期 08:16 苹果对汽车项目的最终思考 视频来源：
宝玉631,638 views • 2 years ago
