正在加载视频...

视频加载失败

加载此视频时出现问题。这可能是由于临时网络问题，或视频可能不可用。

在 GitHub 上发现一款强大可离线的开源 AI 桌面应用：ScreenPipe。它能够对你的电脑进行 24 小时监控，通过屏幕录制、OCR、音频输入和转录收集信息，并保存到本地数据库。 GitHub：最后，利用 LLMs 直接对话、总结、回顾，你所在电脑上做过的事情。有点猛呀！

高军

12,690 subscribers

70,657 次观看 • 1 年前 •via X (Twitter)

教育科学技术新闻政治

Anya Rossi• Live Now

Private livecam show

10 条评论

UPUP甘的头像

UPUP甘1 年前

感觉这东西会被国产化用歪，监控员工电脑之类的。

AVIVA 的头像

AVIVA1 年前

跟 remind 差不多？

ZiYo Ai ⭕️'◡'⭕️ AnglerFish 的头像

ZiYo Ai ⭕️'◡'⭕️ AnglerFish1 年前

老板最想要的功能

MOLAB POST 的头像

MOLAB POST1 年前

我的机器人助理😂

记得感恩的头像

记得感恩1 年前

估计很耗电吧😂

WeKeyDog 的头像

WeKeyDog1 年前

@memdotai mem it

德鲁伊的头像

德鲁伊1 年前

费硬盘吗？监控一周直接几百G干没了，还是有点恐怖

𝚆𝚊𝚗𝚐𝙹𝚒𝚎 的头像

𝚆𝚊𝚗𝚐𝙹𝚒𝚎1 年前

Rewind

善忘技术夹的头像

善忘技术夹1 年前

好家伙🎈我也想做这个

DoDo 的头像

DoDo1 年前

卧槽？我之前就一直有这个想法

相关视频

跟大家分享一款开源且功能强大的 Chrome 录屏插件：Screenity。支持在屏幕上任意位置进行录制和标注信息，可以同时录入麦克风或内部音频，并且支持点击高亮效果。 GitHub：此外，可以将录制视频导出 MP4、gif、webm 等文件格式，还能对视频进行一些简单的编辑。

跟大家分享一款开源且功能强大的 Chrome 录屏插件：Screenity。支持在屏幕上任意位置进行录制和标注信息，可以同时录入麦克风或内部音频，并且支持点击高亮效果。 GitHub：此外，可以将录制视频导出 MP4、gif、webm 等文件格式，还能对视频进行一些简单的编辑。

高军

61,946 次观看 • 1 年前

出门在外也能让 Claude 在电脑上干活 Claude 彻底小龙虾化 Claude Cowork 推出一的一个新功能：Dispatch，用手机远程指挥电脑上的 Claude 干活。打开 Cowork，找到 Dispatch 选项扫个二维码，手机就配对上了然后你电脑只要开着，你就能通过手机操控Cowork，让它去你的电脑里做任何事情... Dispatch 走的是 Cowork 的底层能力，你电脑上 Claude 能用的一切（本地文件、连接器、插件、浏览器），从手机端都能调用。能访问你连接的邮箱、网盘、Slack等，还能访问你电脑里的指定的或者所有文件，理论上是可以让它调用各个文件帮你干活。典型场景包括：数据处理：你在外面，想让 Claude 从本地的 Excel 表格里提取数据，整理成摘要报告。发条消息就行，Claude 会访问你电脑上的文件，跑完把结果放好。信息汇总：让 Claude 搜你的 Slack 消息和邮件，起草一份简报文档。省得你回到电脑前还得翻半天聊天记录。文件整理：指定一个文件夹，让 Claude 按你的规则整理或处理里面的文件。演示制作：让 Claude 从 Google Drive 里找素材，拼一份格式化的演示文稿。

出门在外也能让 Claude 在电脑上干活 Claude 彻底小龙虾化 Claude Cowork 推出一的一个新功能：Dispatch，用手机远程指挥电脑上的 Claude 干活。打开 Cowork，找到 Dispatch 选项扫个二维码，手机就配对上了然后你电脑只要开着，你就能通过手机操控Cowork，让它去你的电脑里做任何事情... Dispatch 走的是 Cowork 的底层能力，你电脑上 Claude 能用的一切（本地文件、连接器、插件、浏览器），从手机端都能调用。能访问你连接的邮箱、网盘、Slack等，还能访问你电脑里的指定的或者所有文件，理论上是可以让它调用各个文件帮你干活。典型场景包括：数据处理：你在外面，想让 Claude 从本地的 Excel 表格里提取数据，整理成摘要报告。发条消息就行，Claude 会访问你电脑上的文件，跑完把结果放好。信息汇总：让 Claude 搜你的 Slack 消息和邮件，起草一份简报文档。省得你回到电脑前还得翻半天聊天记录。文件整理：指定一个文件夹，让 Claude 按你的规则整理或处理里面的文件。演示制作：让 Claude 从 Google Drive 里找素材，拼一份格式化的演示文稿。

小互

63,260 次观看 • 4 个月前

兄弟们，这个牛P Screenpipe：全天候24小时不间断记录你的屏幕和音频数据然后利用收集的数据解答问题、帮你自动干活它可以捕捉你所有对话、屏幕内容，无需担心错过任何细节。涵盖视频会议、聊天应用等所有活动场景。本地运行、安全隐私 100%开源，提供免费和付费版本的桌面应用。它不仅是个录音录屏工具，还可以帮助你自动化很多工作。比如，你可以让它自动更新Notion笔记、生成Slack工作报告，或者自动填充客户关系管理（CRM）系统的数据，让你从繁琐的任务中解放出来。

兄弟们，这个牛P Screenpipe：全天候24小时不间断记录你的屏幕和音频数据然后利用收集的数据解答问题、帮你自动干活它可以捕捉你所有对话、屏幕内容，无需担心错过任何细节。涵盖视频会议、聊天应用等所有活动场景。本地运行、安全隐私 100%开源，提供免费和付费版本的桌面应用。它不仅是个录音录屏工具，还可以帮助你自动化很多工作。比如，你可以让它自动更新Notion笔记、生成Slack工作报告，或者自动填充客户关系管理（CRM）系统的数据，让你从繁琐的任务中解放出来。

小互

117,181 次观看 • 1 年前

最近在开发圈很火的 GitHub 项目 Firecrawl，一个专门给 AI 用的智能爬虫，已经 7万+ Star 了。一句话总结：它可以把任何网站，直接变成 AI 能用的数据。只要给它一个 URL，它就会自动： - 抓取整站页面 - 清洗网页内容 - 解析结构信息 - 输出 Markdown / JSON 也就是说：网站 → 结构化数据 → 直接喂给 LLM。现在很多 AI 项目的数据流程其实都是：网站 → Firecrawl → 向量库 → RAG → AI 应用如果你在做： - AI Agent - RAG 知识库 - 自动化数据采集这个工具基本算是 AI 开发的基础设施了

最近在开发圈很火的 GitHub 项目 Firecrawl，一个专门给 AI 用的智能爬虫，已经 7万+ Star 了。一句话总结：它可以把任何网站，直接变成 AI 能用的数据。只要给它一个 URL，它就会自动： - 抓取整站页面 - 清洗网页内容 - 解析结构信息 - 输出 Markdown / JSON 也就是说：网站 → 结构化数据 → 直接喂给 LLM。现在很多 AI 项目的数据流程其实都是：网站 → Firecrawl → 向量库 → RAG → AI 应用如果你在做： - AI Agent - RAG 知识库 - 自动化数据采集这个工具基本算是 AI 开发的基础设施了

开发者Hailey

140,385 次观看 • 5 个月前

ChatGPT 桌面端（原来的 Codex App）今天加入了语音控制，macOS 和 Windows 用户可以直接用嘴指挥 AI 干活了。具体来说，你可以一边跟 ChatGPT 说话，一边让它操控电脑、启动 Codex 写代码、调度 ChatGPT Work 执行任务，全程不用打字。开着一个语音对话，同时管理多个后台 Agent（智能体），有点像一个人坐在那里口述指令，几个助手分头干活。这个功能基于 GPT-Live，OpenAI 在 7 月 8 日刚上线的新一代语音模型。GPT-Live 最大的变化是全双工架构，也就是它能同时听你说话和给你回话，不用像以前那样等你说完、停顿、它再开口。遇到复杂问题，它会把推理任务丢给后台的 GPT-5.5 处理，自己继续跟你聊，不会卡住。 macOS 用户多了一个叫 Appshots 的功能：语音对话时，ChatGPT 可以直接看到你当前最前面的窗口，了解你在做什么，回答就更贴合上下文。比如你正在看一段代码，直接说“这个函数有什么问题”，它能看到屏幕内容来回答。Windows 用户暂时没有这个能力。此外，iPhone 用户可以通过远程配对的方式，用 iOS 上的 ChatGPT 语音来操控桌面端的 Codex。等于你拿着手机在沙发上就能指挥电脑写代码。Android 支持还在路上。今天全球同步推出，面向 Plus、Pro、Business、Edu 和 Enterprise 用户。免费用户暂不可用。

ChatGPT 桌面端（原来的 Codex App）今天加入了语音控制，macOS 和 Windows 用户可以直接用嘴指挥 AI 干活了。具体来说，你可以一边跟 ChatGPT 说话，一边让它操控电脑、启动 Codex 写代码、调度 ChatGPT Work 执行任务，全程不用打字。开着一个语音对话，同时管理多个后台 Agent（智能体），有点像一个人坐在那里口述指令，几个助手分头干活。这个功能基于 GPT-Live，OpenAI 在 7 月 8 日刚上线的新一代语音模型。GPT-Live 最大的变化是全双工架构，也就是它能同时听你说话和给你回话，不用像以前那样等你说完、停顿、它再开口。遇到复杂问题，它会把推理任务丢给后台的 GPT-5.5 处理，自己继续跟你聊，不会卡住。 macOS 用户多了一个叫 Appshots 的功能：语音对话时，ChatGPT 可以直接看到你当前最前面的窗口，了解你在做什么，回答就更贴合上下文。比如你正在看一段代码，直接说“这个函数有什么问题”，它能看到屏幕内容来回答。Windows 用户暂时没有这个能力。此外，iPhone 用户可以通过远程配对的方式，用 iOS 上的 ChatGPT 语音来操控桌面端的 Codex。等于你拿着手机在沙发上就能指挥电脑写代码。Android 支持还在路上。今天全球同步推出，面向 Plus、Pro、Business、Edu 和 Enterprise 用户。免费用户暂不可用。

宝玉

87,342 次观看 • 21 天前

Codex 自己配音更离谱的是，用的还是我自己的声音。一个 41K Star 的开源项目：Voicebox。它可以几秒钟克隆你的嗓音，打一行字，就能直接用你的声音念出来。重点是： • 本地运行，声音数据不出电脑 • 支持 7 大 TTS 引擎 • 支持 23 种语言 • 可以调语速、情绪和声音风格 • 接入 MCP 后，Codex / Cline / Claude Code 这类 AI Agent 能直接开口汇报 • 完全开源免费以前做配音，要么买付费软件，要么用云端 TTS。现在 Voicebox 直接把声音克隆、语音生成、Agent 语音输出放到本地跑。一句话：它像是开源版 ElevenLabs + AI Agent 语音中枢。如果你想让 Codex 写完代码后，直接用你的声音汇报结果，这个项目值得收藏。 GitHub：

Codex 自己配音更离谱的是，用的还是我自己的声音。一个 41K Star 的开源项目：Voicebox。它可以几秒钟克隆你的嗓音，打一行字，就能直接用你的声音念出来。重点是： • 本地运行，声音数据不出电脑 • 支持 7 大 TTS 引擎 • 支持 23 种语言 • 可以调语速、情绪和声音风格 • 接入 MCP 后，Codex / Cline / Claude Code 这类 AI Agent 能直接开口汇报 • 完全开源免费以前做配音，要么买付费软件，要么用云端 TTS。现在 Voicebox 直接把声音克隆、语音生成、Agent 语音输出放到本地跑。一句话：它像是开源版 ElevenLabs + AI Agent 语音中枢。如果你想让 Codex 写完代码后，直接用你的声音汇报结果，这个项目值得收藏。 GitHub：

撸毛吃猪脚饭|Gate美股0费率

50,873 次观看 • 27 天前

【ChatGPT4王炸插件——DefiLlama.com】我花了了超过1000个小时使用DefiLlama，浪费了超过60%的时间在交互和筛选信息上。现在币圈和 #AI 结合的大进展终于来了！#ChatGpt 能与 #DefiLlama 连接，所有相关数据，可以用中文直接查询并让AI帮你总结！🚀 🧵线程详细介绍这个插件，并附上视频教程。 #DeFi

【ChatGPT4王炸插件——DefiLlama.com】我花了了超过1000个小时使用DefiLlama，浪费了超过60%的时间在交互和筛选信息上。现在币圈和 #AI 结合的大进展终于来了！#ChatGpt 能与 #DefiLlama 连接，所有相关数据，可以用中文直接查询并让AI帮你总结！🚀 🧵线程详细介绍这个插件，并附上视频教程。 #DeFi

PeakBuyer31

100,337 次观看 • 3 年前

微软发布他们最新AI笔记本电脑！将拥有一项名为“Recall”的AI照相记忆功能，该功能将通过不断截屏来记住并理解你在电脑上所做的一切！

微软发布他们最新AI笔记本电脑！将拥有一项名为“Recall”的AI照相记忆功能，该功能将通过不断截屏来记住并理解你在电脑上所做的一切！

Inty News

212,390 次观看 • 2 年前

兄弟们，牛P了啊 ChatGPT的桌面版本新增了一项功能，允许GPT直接修改用户在Mac电脑上正在编辑的文件。也就是GPT能看到你当前打开的文档，然后你只需要通过聊天或者语音要求它修改什么，它就帮你自动完成。这一功能首先针对“集成开发环境”（IDE）进行优化和支持。它能看到你的屏幕内容，自动根据你的要求修改代码。

兄弟们，牛P了啊 ChatGPT的桌面版本新增了一项功能，允许GPT直接修改用户在Mac电脑上正在编辑的文件。也就是GPT能看到你当前打开的文档，然后你只需要通过聊天或者语音要求它修改什么，它就帮你自动完成。这一功能首先针对“集成开发环境”（IDE）进行优化和支持。它能看到你的屏幕内容，自动根据你的要求修改代码。

小互

60,598 次观看 • 1 年前

强，字节刚刚开源了一款“ChatGPT Pulse”类工具： MineContext，它会主动推送洞察、日/周总结、待办、活动记录等信息以每日总结、每周回顾、关键Tips或待办事项等形式，主动推送到主页 MineContext具有上下文感知能力，它目前基于屏幕截图+内容理解，看到看懂用户数字世界的上下文，再基于底层的上下文工程框架，进行主动推送未来会支持其他来源的多模态信息，文档、图片、视频、代码、外部应用数据等无感收集，开启后，它会在后台自动收集上下文，无需进行任何额外操作智能浮现，当需要创作或查找资料时，它可以智能浮现出相关历史上下文，以辅助创作比ChatGPT Pulse，MineContext所有的数据都会经过压缩后保存在本地，更具安全性 MineContext等于把沉默的电脑数据变成了随时可用的第二大脑，学生或研究者可以用来辅助构建知识体系，内容创作者可以用来提供灵感、优化工作流等 #MineContext #AI信息推送助手

强，字节刚刚开源了一款“ChatGPT Pulse”类工具： MineContext，它会主动推送洞察、日/周总结、待办、活动记录等信息以每日总结、每周回顾、关键Tips或待办事项等形式，主动推送到主页 MineContext具有上下文感知能力，它目前基于屏幕截图+内容理解，看到看懂用户数字世界的上下文，再基于底层的上下文工程框架，进行主动推送未来会支持其他来源的多模态信息，文档、图片、视频、代码、外部应用数据等无感收集，开启后，它会在后台自动收集上下文，无需进行任何额外操作智能浮现，当需要创作或查找资料时，它可以智能浮现出相关历史上下文，以辅助创作比ChatGPT Pulse，MineContext所有的数据都会经过压缩后保存在本地，更具安全性 MineContext等于把沉默的电脑数据变成了随时可用的第二大脑，学生或研究者可以用来辅助构建知识体系，内容创作者可以用来提供灵感、优化工作流等 #MineContext #AI信息推送助手

AIGCLINK

35,850 次观看 • 10 个月前

你的全息AI女友 😍 Dipal D1 是一款“会动、会说话、会回应你”的 AI 虚拟角色桌面设备外形是一个有高清曲面屏的小显示器，有点像全息投影，你可以设置和定制各种角色让它显示。她可以与你互动，甚至你触摸它，她也会有反应她拥有长期记忆能力，能记住你和她对话的的一切，并持续进化。支持语音交互、触控反馈、手势识别、眼神追踪等多种输入。 AI 能识别你的情绪、表情和语气，进行自然回应。它不是普通的视频播放设备，而是“能互动”的： 👁️ 眼动识别：它能“看”你在看哪里 🎤 声音感应：能听你说话并回应 ✋ 触摸互动：你可以通过触碰与它互动 ✋🏻 手势识别：通过手势进行指令输入或互动反应

你的全息AI女友 😍 Dipal D1 是一款“会动、会说话、会回应你”的 AI 虚拟角色桌面设备外形是一个有高清曲面屏的小显示器，有点像全息投影，你可以设置和定制各种角色让它显示。她可以与你互动，甚至你触摸它，她也会有反应她拥有长期记忆能力，能记住你和她对话的的一切，并持续进化。支持语音交互、触控反馈、手势识别、眼神追踪等多种输入。 AI 能识别你的情绪、表情和语气，进行自然回应。它不是普通的视频播放设备，而是“能互动”的： 👁️ 眼动识别：它能“看”你在看哪里 🎤 声音感应：能听你说话并回应 ✋ 触摸互动：你可以通过触碰与它互动 ✋🏻 手势识别：通过手势进行指令输入或互动反应

小互

28,861 次观看 • 1 年前

语音输入法升级 HeyClicky：一个能 “屏幕感知语音输入”工具它不仅能将语音内容转文字，还能看到你屏幕的内容，能理解你屏幕上正在看的内容，再根据上下文帮你写。在 Gmail 中，可以看到邮件内容后自动生成合适的回复在 Claude 终端里，可以根据当前技术信息替小白补充追问在演示文稿中，可以调用 YC Skill，帮助修改融资材料和开场文案可以在各种应用里看到你的内容进行智能回复它还会记住你的表达习惯，让生成内容更像本人一句话概括：它把传统语音输入升级成了“能看懂屏幕、理解上下文、直接替你完成表达”的 AI 写作助手。

语音输入法升级 HeyClicky：一个能 “屏幕感知语音输入”工具它不仅能将语音内容转文字，还能看到你屏幕的内容，能理解你屏幕上正在看的内容，再根据上下文帮你写。在 Gmail 中，可以看到邮件内容后自动生成合适的回复在 Claude 终端里，可以根据当前技术信息替小白补充追问在演示文稿中，可以调用 YC Skill，帮助修改融资材料和开场文案可以在各种应用里看到你的内容进行智能回复它还会记住你的表达习惯，让生成内容更像本人一句话概括：它把传统语音输入升级成了“能看懂屏幕、理解上下文、直接替你完成表达”的 AI 写作助手。

小互

22,638 次观看 • 1 个月前

在 GitHub 上发现一个开源金融数据项目—OpenBB，已经获得了近7w star。它把过去只有机构才用得起的专业数据，变成人人可用的开源工具。股票、期权、加密货币、外汇、宏观经济、固定收益，全部都整合进来。还收录了财务数据、高管信息、股东电话、地区分布等细粒度信息。支持 AI 集成，数据可自部署。输入一条指令，AI 就能调取数据、生成深度研报，全球金融数据接口真的被打通了。

在 GitHub 上发现一个开源金融数据项目—OpenBB，已经获得了近7w star。它把过去只有机构才用得起的专业数据，变成人人可用的开源工具。股票、期权、加密货币、外汇、宏观经济、固定收益，全部都整合进来。还收录了财务数据、高管信息、股东电话、地区分布等细粒度信息。支持 AI 集成，数据可自部署。输入一条指令，AI 就能调取数据、生成深度研报，全球金融数据接口真的被打通了。

阿西_出海

29,244 次观看 • 2 个月前

Windows 有救了？ Codex 昨晚又发布了大量体验更新，很多都超级有用，尤其是对 Windows 用户。大家最期待的支持了 Windows 的 computer Use，以及通过移动端的 ChatGPT 远程控制 Windows 上的 Codex。但是 Windows 上的 Computer Use，在它控制的时候你是不能控制的。这跟 Mac 上的不太一样。聊天记录控制功能：能够控制你的聊天记录，比如置顶、查找、创建新的归类、存档等一系列操作。新增个人资料页面：能看到你消耗的 Token、连续登录天数、最长的任务。 ChatGPT 上的 Codex 控制，现在支持了以下功能：侧边对话：你可以不打断主对话，新开一个分支继续跟 AI 基于当前项目或任务进行对话，输入/side 开启一键模型切换：通过长按即可快速切换模型。 iPad 专属快捷方式：支持从快捷方式直接进入 Codex，无需通过侧边栏切换。 Git Diff 显示：对话结束后，系统会显示 Git 上的 Diff，即你代码编辑的不同部分。

Windows 有救了？ Codex 昨晚又发布了大量体验更新，很多都超级有用，尤其是对 Windows 用户。大家最期待的支持了 Windows 的 computer Use，以及通过移动端的 ChatGPT 远程控制 Windows 上的 Codex。但是 Windows 上的 Computer Use，在它控制的时候你是不能控制的。这跟 Mac 上的不太一样。聊天记录控制功能：能够控制你的聊天记录，比如置顶、查找、创建新的归类、存档等一系列操作。新增个人资料页面：能看到你消耗的 Token、连续登录天数、最长的任务。 ChatGPT 上的 Codex 控制，现在支持了以下功能：侧边对话：你可以不打断主对话，新开一个分支继续跟 AI 基于当前项目或任务进行对话，输入/side 开启一键模型切换：通过长按即可快速切换模型。 iPad 专属快捷方式：支持从快捷方式直接进入 Codex，无需通过侧边栏切换。 Git Diff 显示：对话结束后，系统会显示 Git 上的 Diff，即你代码编辑的不同部分。

歸藏(guizang.ai)

37,314 次观看 • 2 个月前

每个人都能买得起英伟达发布个人AI超级计算机，能运行2000亿参数的大模型。 NVIDIA 今天在CES 2025大会上发布了 NVIDIA Project DIGITS，这是一款能放在你桌面上的个人AI超级计算机。将传统上需要大型数据中心才能完成的 AI 计算，带到每个人的桌面。‘ Project DIGITS 采用全新的 NVIDIA GB10 Grace Blackwell Superchip，能够提供 1 PFLOP（每秒一千万亿次浮点运算）的AI计算性能。设计目的用于原型开发、微调以及运行大型AI模型，使用户能够在本地桌面系统上开发和运行推理模型，然后无缝部署到云或数据中心也就是它能在你的本地就能运行超大的AI模型，能够运行高达 2000亿参数的大语言模型。通过 NVIDIA ConnectX 网络，两台 Project DIGITS 超级计算机连接起来，可以运行 4050亿参数模型。而且支持在本地电脑上开发和测试AI模型，然后快速部署到云端或数据中心。简单来说，它就像是给每个开发者配了一台袖珍的AI超级计算机！

每个人都能买得起英伟达发布个人AI超级计算机，能运行2000亿参数的大模型。 NVIDIA 今天在CES 2025大会上发布了 NVIDIA Project DIGITS，这是一款能放在你桌面上的个人AI超级计算机。将传统上需要大型数据中心才能完成的 AI 计算，带到每个人的桌面。‘ Project DIGITS 采用全新的 NVIDIA GB10 Grace Blackwell Superchip，能够提供 1 PFLOP（每秒一千万亿次浮点运算）的AI计算性能。设计目的用于原型开发、微调以及运行大型AI模型，使用户能够在本地桌面系统上开发和运行推理模型，然后无缝部署到云或数据中心也就是它能在你的本地就能运行超大的AI模型，能够运行高达 2000亿参数的大语言模型。通过 NVIDIA ConnectX 网络，两台 Project DIGITS 超级计算机连接起来，可以运行 4050亿参数模型。而且支持在本地电脑上开发和测试AI模型，然后快速部署到云端或数据中心。简单来说，它就像是给每个开发者配了一台袖珍的AI超级计算机！

小互

85,713 次观看 • 1 年前

发现一个讲的很细的大语言模型微调教程，详细介绍了整个流程,包括数据准备、参数设置、资源监控等关键步骤。基本没有技术能力也可以完成微调。想要了解 LLM 原理的可以按这个实践一下。时间轴： 0:00 概念概览 3:02 自定义数据的准备 8:17 微调操作演示（T4 版本） 16:52 微调操作演示（A100 版本） 19:13 在 Hugging Face 上的保存与使用方法文字版整理： ✲ 如何使用自己的数据对大语言模型进行微调(fine-tuning)：对大语言模型进行微调并不一定非常困难和昂贵。通过使用自己的数据集对预训练模型进行微调,可以让模型更好地适应特定的任务需求。微调过程能够在保留原模型语言理解能力的基础上,进一步提升其在特定领域或任务上的表现。 ✲ 使用Hugging Face模型库和Unslaw工具进行模型微调： Hugging Face提供了丰富的预训练语言模型资源,用户可以根据任务需求选择合适的模型作为基础进行微调。而Unslaw工具则提供了一套简单高效的微调流程,其优点包括出色的内存使用效率以及对扩展上下文窗口的支持。通过Unslaw,用户能够以较低的资源开销完成模型微调。 ✲ 在Google Colab上使用免费/付费GPU资源进行微调： Google Colab提供了免费和付费的GPU资源,用户可以根据任务的复杂程度选择使用T4或A100。对于大多数微调任务而言,免费的T4资源已经足够。但如果数据集较大或模型较为复杂,升级到A100可以获得更充裕的算力支持。Colab为用户提供了一个易于上手的模型微调环境。 ✲ 准备自定义的微调数据集：准备微调数据的过程并不复杂。用户可以直接使用纯文本文件作为数据来源,而无需进行额外的预处理。为了获得理想的微调效果,建议至少准备100-200个样本。在示例中,为了快速演示,仅使用了几个样本。通过一个简单的Python脚本,可以方便地将原始文本数据转换为微调所需的JSON格式。 ✲ 修改Colab笔记本中的参数设置：在Colab笔记本中,需要根据实际情况调整一些参数。例如,可以根据数据集的token数量来设置max_sequence_length参数,借助rope scaling技术,模型能够支持任意长度的上下文。此外,还可以选择使用Instruct系列模型作为base model,直接在其基础上进行指令微调。为了节省资源,可以启用4-bit量化。同时,参考Q-Lora论文的建议,调整R值和alpha值,以在资源占用和模型质量之间取得平衡。 ✲ 训练过程中的资源使用监控：在模型训练过程中,用户可以通过Colab的资源监控选项卡实时观察GPU、内存和硬盘的使用情况。如果发现资源不足,可以考虑从T4升级到A100。通过监控资源占用,用户能够及时调整配置,确保微调任务稳定高效地进行。 ✲ 模型训练的loss变化和最佳checkpoint的选择：通过记录不同训练步数下的loss值,可以判断模型的收敛情况。理想的做法是选择loss下降曲线趋于平缓的点作为最佳checkpoint,这样既能充分训练模型,又能避免过拟合。为了事后方便筛选,可以设置每隔一定步数保存一次checkpoint。 ✲ 模型微调完成后的保存与使用：微调完成后,可以选择只保存adapter layers以加快保存速度。但更推荐的做法是保存完整模型,并使用float16精度,这样可以得到一个更通用和标准的模型格式,方便后续的部署和使用。 ✲ 在Hugging Face上公开或私有发布微调后的模型：用户可以选择在Hugging Face的模型库中公开或私有地发布自己微调后的模型。发布之前,需要在Hugging Face账号中创建一个访问令牌,并在发布时提供相应的用户名和令牌信息。通过在Hugging Face上发布模型,用户可以方便地与他人分享自己的微调成果。 ✲ 使用微调后的模型进行推理(inference)：在使用微调后的模型进行推理时,首先需要加载保存的模型。接着,使用tokenizer对输入的文本进行处理,并将其传入模型。进行推理时,max_length参数需要与训练时保持一致,以确保生成的结果不会被截断。完成以上步骤后,就可以利用微调后的模型进行各种实际应用了。

发现一个讲的很细的大语言模型微调教程，详细介绍了整个流程,包括数据准备、参数设置、资源监控等关键步骤。基本没有技术能力也可以完成微调。想要了解 LLM 原理的可以按这个实践一下。时间轴： 0:00 概念概览 3:02 自定义数据的准备 8:17 微调操作演示（T4 版本） 16:52 微调操作演示（A100 版本） 19:13 在 Hugging Face 上的保存与使用方法文字版整理： ✲ 如何使用自己的数据对大语言模型进行微调(fine-tuning)：对大语言模型进行微调并不一定非常困难和昂贵。通过使用自己的数据集对预训练模型进行微调,可以让模型更好地适应特定的任务需求。微调过程能够在保留原模型语言理解能力的基础上,进一步提升其在特定领域或任务上的表现。 ✲ 使用Hugging Face模型库和Unslaw工具进行模型微调： Hugging Face提供了丰富的预训练语言模型资源,用户可以根据任务需求选择合适的模型作为基础进行微调。而Unslaw工具则提供了一套简单高效的微调流程,其优点包括出色的内存使用效率以及对扩展上下文窗口的支持。通过Unslaw,用户能够以较低的资源开销完成模型微调。 ✲ 在Google Colab上使用免费/付费GPU资源进行微调： Google Colab提供了免费和付费的GPU资源,用户可以根据任务的复杂程度选择使用T4或A100。对于大多数微调任务而言,免费的T4资源已经足够。但如果数据集较大或模型较为复杂,升级到A100可以获得更充裕的算力支持。Colab为用户提供了一个易于上手的模型微调环境。 ✲ 准备自定义的微调数据集：准备微调数据的过程并不复杂。用户可以直接使用纯文本文件作为数据来源,而无需进行额外的预处理。为了获得理想的微调效果,建议至少准备100-200个样本。在示例中,为了快速演示,仅使用了几个样本。通过一个简单的Python脚本,可以方便地将原始文本数据转换为微调所需的JSON格式。 ✲ 修改Colab笔记本中的参数设置：在Colab笔记本中,需要根据实际情况调整一些参数。例如,可以根据数据集的token数量来设置max_sequence_length参数,借助rope scaling技术,模型能够支持任意长度的上下文。此外,还可以选择使用Instruct系列模型作为base model,直接在其基础上进行指令微调。为了节省资源,可以启用4-bit量化。同时,参考Q-Lora论文的建议,调整R值和alpha值,以在资源占用和模型质量之间取得平衡。 ✲ 训练过程中的资源使用监控：在模型训练过程中,用户可以通过Colab的资源监控选项卡实时观察GPU、内存和硬盘的使用情况。如果发现资源不足,可以考虑从T4升级到A100。通过监控资源占用,用户能够及时调整配置,确保微调任务稳定高效地进行。 ✲ 模型训练的loss变化和最佳checkpoint的选择：通过记录不同训练步数下的loss值,可以判断模型的收敛情况。理想的做法是选择loss下降曲线趋于平缓的点作为最佳checkpoint,这样既能充分训练模型,又能避免过拟合。为了事后方便筛选,可以设置每隔一定步数保存一次checkpoint。 ✲ 模型微调完成后的保存与使用：微调完成后,可以选择只保存adapter layers以加快保存速度。但更推荐的做法是保存完整模型,并使用float16精度,这样可以得到一个更通用和标准的模型格式,方便后续的部署和使用。 ✲ 在Hugging Face上公开或私有发布微调后的模型：用户可以选择在Hugging Face的模型库中公开或私有地发布自己微调后的模型。发布之前,需要在Hugging Face账号中创建一个访问令牌,并在发布时提供相应的用户名和令牌信息。通过在Hugging Face上发布模型,用户可以方便地与他人分享自己的微调成果。 ✲ 使用微调后的模型进行推理(inference)：在使用微调后的模型进行推理时,首先需要加载保存的模型。接着,使用tokenizer对输入的文本进行处理,并将其传入模型。进行推理时,max_length参数需要与训练时保持一致,以确保生成的结果不会被截断。完成以上步骤后,就可以利用微调后的模型进行各种实际应用了。

歸藏(guizang.ai)

61,931 次观看 • 2 年前

又到了新品发布的时间（怎么晚了一天？本周的每周更新是 MouseDo —— Computer use 的独立 App！现在你可以直接让 LLM 控制你的电脑做「任何」事情了。今天 Agent 给你写代码，可以解决你 60% 的需求。通过定制化的 Cli，可以解决你剩下的 30% 需求。最后，GUI 操作，通过 Computer use 能够实现你最后 10% 的需求。相信各位用 Claw 的都遇到过，需要配置一个什么 key，必须要的点一下电脑的情况。现在你可以通过 MouseDo 自己化完成！亮点： 1. Codex 同款技术，不会 block 你的其他操作，Agent 用一套，你自己用一套。 2. MCP 支持，你可以让 Claude Code /OpenClaw Peter Steinberger 🦞 / Nous Research 用上 Codex 同款 Computer Use。 3. 使用 Codex 订阅。 4. 目前免费。欢迎下载体验

又到了新品发布的时间（怎么晚了一天？本周的每周更新是 MouseDo —— Computer use 的独立 App！现在你可以直接让 LLM 控制你的电脑做「任何」事情了。今天 Agent 给你写代码，可以解决你 60% 的需求。通过定制化的 Cli，可以解决你剩下的 30% 需求。最后，GUI 操作，通过 Computer use 能够实现你最后 10% 的需求。相信各位用 Claw 的都遇到过，需要配置一个什么 key，必须要的点一下电脑的情况。现在你可以通过 MouseDo 自己化完成！亮点： 1. Codex 同款技术，不会 block 你的其他操作，Agent 用一套，你自己用一套。 2. MCP 支持，你可以让 Claude Code /OpenClaw Peter Steinberger 🦞 / Nous Research 用上 Codex 同款 Computer Use。 3. 使用 Codex 订阅。 4. 目前免费。欢迎下载体验

Hwang

46,728 次观看 • 2 个月前

这是一个可以让你用手机随时使用 Claude Code 和 Codex 的神器——Happy Coder。在 GitHub 已经收获 16k+ Star。它彻底改变了 AI 编程助手的使用方式——你再也不用坐在电脑前才能查看进度或交互。想象一下：你在等咖啡、坐地铁，AI 正在跑代码、生成方案、修复 bug。需要确认输入或查看结果时，手机立刻收到提醒，打开就能看、回复、继续执行，实现随时随地掌控 AI 构建代码。核心特点： - 支持 iOS、Android 和 Web 客户端 - 端到端加密，保证数据安全 - 即时切换设备，一键将会话从电脑切到手机 - 完全开源，可自建服务，掌控所有细节核心组成： - happy-cli：替代本地 Claude/Codex 命令，将进程状态推送到客户端 - happy-server：加密中继，同步所有设备上的会话移动端 & Web 客户端：随时随地接管 AI 编程任务如果你是开发者或 AI 爱好者，想摆脱电脑束缚随时监控和驱动智能代码生成，这个项目绝对值得收藏和尝试。

这是一个可以让你用手机随时使用 Claude Code 和 Codex 的神器——Happy Coder。在 GitHub 已经收获 16k+ Star。它彻底改变了 AI 编程助手的使用方式——你再也不用坐在电脑前才能查看进度或交互。想象一下：你在等咖啡、坐地铁，AI 正在跑代码、生成方案、修复 bug。需要确认输入或查看结果时，手机立刻收到提醒，打开就能看、回复、继续执行，实现随时随地掌控 AI 构建代码。核心特点： - 支持 iOS、Android 和 Web 客户端 - 端到端加密，保证数据安全 - 即时切换设备，一键将会话从电脑切到手机 - 完全开源，可自建服务，掌控所有细节核心组成： - happy-cli：替代本地 Claude/Codex 命令，将进程状态推送到客户端 - happy-server：加密中继，同步所有设备上的会话移动端 & Web 客户端：随时随地接管 AI 编程任务如果你是开发者或 AI 爱好者，想摆脱电脑束缚随时监控和驱动智能代码生成，这个项目绝对值得收藏和尝试。

开发者Hailey

55,834 次观看 • 4 个月前