Video wird geladen...

Video konnte nicht geladen werden

Beim Laden dieses Videos ist ein Problem aufgetreten. Dies könnte an einem vorübergehenden Netzwerkproblem liegen oder das Video ist möglicherweise nicht verfügbar.

这位大佬已经成功的让 AI 模型在 iPhone 17 Pro 的 Apple Neural Engine（ANE）上进行训练。苹果的硬件还是有很多待挖掘的地方,一旦手机本地也能训练 AI，就意味着部分数据可以不上云端，在本地。根据用户数据，不断学习，更新个性化。这里面的玩法就非常多了。机会。😍

独立开发者William

9,038 subscribers

23,780 Aufrufe • vor 4 Monaten •via X (Twitter)

Anya Rossi• Live Now

Private livecam show

0 Kommentare

Keine Kommentare verfügbar

Kommentare vom Original-Post werden hier angezeigt

Ähnliche Videos

甲骨文(ORCL)老板埃里森强调：ChatGPT、Gemini、Grok和Llama等AI模型，都是基于大致相同的公共互联网数据进行训练的。当所有人都使用相同的信息进行训练时，模型必然会趋于一致。这就是AI走向商品化的原因。真正的护城河并非模型本身，而是其背后的专有数据。能够利用独家数据集进行训练的公司，将获得竞争对手无法复制的优势。埃里森(Larry Ellison)是商业策略大师，而AI正在进入下一个阶段。拥有别人没有的数据，就能让你在市场中占据主导地位。

甲骨文(ORCL)老板埃里森强调：ChatGPT、Gemini、Grok和Llama等AI模型，都是基于大致相同的公共互联网数据进行训练的。当所有人都使用相同的信息进行训练时，模型必然会趋于一致。这就是AI走向商品化的原因。真正的护城河并非模型本身，而是其背后的专有数据。能够利用独家数据集进行训练的公司，将获得竞争对手无法复制的优势。埃里森(Larry Ellison)是商业策略大师，而AI正在进入下一个阶段。拥有别人没有的数据，就能让你在市场中占据主导地位。

亚洲金融 Asia Finance

143,307 Aufrufe • vor 4 Monaten

🔥Chamath：马斯克打算用“人工合成数据”来训练未来的Grok版本，太疯狂了！ 🚨马斯克：早在去年，人类积累的所有知识在AI训练中就已经被用尽了。所以，唯一能继续推进的方法，就是让AI自己生成“合成数据”。 AI会自己提出问题和观点，再自己打分、评估，通过这种自我学习的方式不断进化。

🔥Chamath：马斯克打算用“人工合成数据”来训练未来的Grok版本，太疯狂了！ 🚨马斯克：早在去年，人类积累的所有知识在AI训练中就已经被用尽了。所以，唯一能继续推进的方法，就是让AI自己生成“合成数据”。 AI会自己提出问题和观点，再自己打分、评估，通过这种自我学习的方式不断进化。

谢嘉琪

76,826 Aufrufe • vor 1 Jahr

每个人都能买得起英伟达发布个人AI超级计算机，能运行2000亿参数的大模型。 NVIDIA 今天在CES 2025大会上发布了 NVIDIA Project DIGITS，这是一款能放在你桌面上的个人AI超级计算机。将传统上需要大型数据中心才能完成的 AI 计算，带到每个人的桌面。‘ Project DIGITS 采用全新的 NVIDIA GB10 Grace Blackwell Superchip，能够提供 1 PFLOP（每秒一千万亿次浮点运算）的AI计算性能。设计目的用于原型开发、微调以及运行大型AI模型，使用户能够在本地桌面系统上开发和运行推理模型，然后无缝部署到云或数据中心也就是它能在你的本地就能运行超大的AI模型，能够运行高达 2000亿参数的大语言模型。通过 NVIDIA ConnectX 网络，两台 Project DIGITS 超级计算机连接起来，可以运行 4050亿参数模型。而且支持在本地电脑上开发和测试AI模型，然后快速部署到云端或数据中心。简单来说，它就像是给每个开发者配了一台袖珍的AI超级计算机！

每个人都能买得起英伟达发布个人AI超级计算机，能运行2000亿参数的大模型。 NVIDIA 今天在CES 2025大会上发布了 NVIDIA Project DIGITS，这是一款能放在你桌面上的个人AI超级计算机。将传统上需要大型数据中心才能完成的 AI 计算，带到每个人的桌面。‘ Project DIGITS 采用全新的 NVIDIA GB10 Grace Blackwell Superchip，能够提供 1 PFLOP（每秒一千万亿次浮点运算）的AI计算性能。设计目的用于原型开发、微调以及运行大型AI模型，使用户能够在本地桌面系统上开发和运行推理模型，然后无缝部署到云或数据中心也就是它能在你的本地就能运行超大的AI模型，能够运行高达 2000亿参数的大语言模型。通过 NVIDIA ConnectX 网络，两台 Project DIGITS 超级计算机连接起来，可以运行 4050亿参数模型。而且支持在本地电脑上开发和测试AI模型，然后快速部署到云端或数据中心。简单来说，它就像是给每个开发者配了一台袖珍的AI超级计算机！

小互

85,697 Aufrufe • vor 1 Jahr

🔥马斯克：“未来只有视觉的光子数据才能规模化！其他数据都不行！” 所以未来特斯拉机器人采集光子数据，能够突破文本数据在规模和效率上的瓶颈！马斯克还曾指出，Grok已经训练了所有可用的数字化数据，包括互联网、书籍等内容，如今不得不依赖人工合成数据来继续训练。

🔥马斯克：“未来只有视觉的光子数据才能规模化！其他数据都不行！” 所以未来特斯拉机器人采集光子数据，能够突破文本数据在规模和效率上的瓶颈！马斯克还曾指出，Grok已经训练了所有可用的数字化数据，包括互联网、书籍等内容，如今不得不依赖人工合成数据来继续训练。

谢嘉琪

149,089 Aufrufe • vor 8 Monaten

AI开始抢彭博终端的饭碗了。一家叫Perplexity的AI公司，做了一个新东西。能直接生成一个金融终端，分析英伟达$NVDA。数据是实时的。还不需要任何本地设置。这说明什么？云服务本身已经不重要了，谁都能提供。真正的护城河，是上面跑的AI模型。一台彭博终端机一年要多少钱？三万美元。过去这是华尔街精英的专属玩具。现在，一个AI应用就能挑战它的核心功能。技术正在打破信息垄断。把权力从少数机构手里，还给普通人。华尔街的旧秩序，还能维持多久？

AI开始抢彭博终端的饭碗了。一家叫Perplexity的AI公司，做了一个新东西。能直接生成一个金融终端，分析英伟达$NVDA。数据是实时的。还不需要任何本地设置。这说明什么？云服务本身已经不重要了，谁都能提供。真正的护城河，是上面跑的AI模型。一台彭博终端机一年要多少钱？三万美元。过去这是华尔街精英的专属玩具。现在，一个AI应用就能挑战它的核心功能。技术正在打破信息垄断。把权力从少数机构手里，还给普通人。华尔街的旧秩序，还能维持多久？

墓碑科技

105,285 Aufrufe • vor 4 Monaten

甲骨文的拉里·埃里森，刚刚给所有AI公司判了死刑。他说，你们的模型，一文不值。不是技术不行，也不是人才不行。问题出在数据上。 ChatGPT，Gemini，Grok，Llama…… 所有这些模型，吃的都是同一锅饭。整个公共互联网。每一篇维基百科，每一个Reddit帖子，每一条新闻。结果是什么？它们正在趋同，变成贴着不同logo的同一个产品。用埃里森的话说，就是“大路货”。真正的黄金，不在网上。在私有数据里。医院系统里的病历。银行金库里的财务数据。财富500强公司的供应链机密。猜猜这些数据，大部分都存在哪里？不在谷歌，不在亚马逊，也不在微软。在甲骨文的数据库里。所以甲骨文出手了。他们推出了一个叫“AI数据库26ai”的东西。它允许所有顶级AI模型，直接在你公司的私有数据上进行推理。而且数据永远不用离开保险库。他们用的是一种叫RAG的技术。 AI不去“学习”你的数据，而是实时“检索”它。这意味着什么？银行可以分析它发放的每一笔贷款，而不用暴露任何一个客户记录。医院可以用AI诊断病人，而不用担心违反HIPAA法案。国防承包商能让AI分析机密行动，数据一步都离不开安全环境。埃里森在赌一个比GPU热潮、比数据中心建设更大的未来。他称之为“历史上最大、增长最快的市场”。数字很惊人。甲骨文的待履约收入刚刚达到5230亿美元。其中3000亿，来自OpenAI一家公司。但这里有个没人谈论的危险。如果私有数据是AI真正的护城河。那么谁控制了数据库，谁就控制了AI的未来。这种权力集中到一家公司手里。难道不该让每个人都感到不安吗？

甲骨文的拉里·埃里森，刚刚给所有AI公司判了死刑。他说，你们的模型，一文不值。不是技术不行，也不是人才不行。问题出在数据上。 ChatGPT，Gemini，Grok，Llama…… 所有这些模型，吃的都是同一锅饭。整个公共互联网。每一篇维基百科，每一个Reddit帖子，每一条新闻。结果是什么？它们正在趋同，变成贴着不同logo的同一个产品。用埃里森的话说，就是“大路货”。真正的黄金，不在网上。在私有数据里。医院系统里的病历。银行金库里的财务数据。财富500强公司的供应链机密。猜猜这些数据，大部分都存在哪里？不在谷歌，不在亚马逊，也不在微软。在甲骨文的数据库里。所以甲骨文出手了。他们推出了一个叫“AI数据库26ai”的东西。它允许所有顶级AI模型，直接在你公司的私有数据上进行推理。而且数据永远不用离开保险库。他们用的是一种叫RAG的技术。 AI不去“学习”你的数据，而是实时“检索”它。这意味着什么？银行可以分析它发放的每一笔贷款，而不用暴露任何一个客户记录。医院可以用AI诊断病人，而不用担心违反HIPAA法案。国防承包商能让AI分析机密行动，数据一步都离不开安全环境。埃里森在赌一个比GPU热潮、比数据中心建设更大的未来。他称之为“历史上最大、增长最快的市场”。数字很惊人。甲骨文的待履约收入刚刚达到5230亿美元。其中3000亿，来自OpenAI一家公司。但这里有个没人谈论的危险。如果私有数据是AI真正的护城河。那么谁控制了数据库，谁就控制了AI的未来。这种权力集中到一家公司手里。难道不该让每个人都感到不安吗？

墓碑科技

590,517 Aufrufe • vor 4 Monaten

用 iPhone 17 Pro MAX 试了一下本地 Qwen 3 1.7B 的推理速度，相当快啊，几乎感知不到延迟 A 19 Pro 芯片性能相当顶这个叫 Locally AI 的 APP 还能调用苹果放在本地的端侧模型进行测试，不过国行手机不行

用 iPhone 17 Pro MAX 试了一下本地 Qwen 3 1.7B 的推理速度，相当快啊，几乎感知不到延迟 A 19 Pro 芯片性能相当顶这个叫 Locally AI 的 APP 还能调用苹果放在本地的端侧模型进行测试，不过国行手机不行

歸藏(guizang.ai)

252,043 Aufrufe • vor 9 Monaten

什么才是数据中心最大的威胁？不是竞争。也不是监管。是去中心化。 Perplexity的CEO一语惊人。他说，真正的颠覆，是当AI被封装进你设备上的本地芯片里。到那时，还需要一个中心化的数据中心来处理一切吗？根本不需要。更进一步想。芯片自带的模型会不断适应你本人。 AI就在你的电脑上观察、学习、进化。因为它住在你的电脑里，而不是在遥远的服务器上，所以你很放心。你的数据，完全属于你。你的习惯，你的偏好，你的智能，都沉淀在你自己的设备里，成为你专属的“大脑”。你拥有它。这才是真正的数据主权。当这一切发生时，那些耗资数千亿、甚至数万亿建造的庞大中心化数据中心，还有存在的意义吗？建立在全球各地，为少数巨头收集和处理用户数据的模式，似乎走到了一个十字路口。这不仅是技术路线的改变。更是权力从少数中心化机构，回归到每一个普通人手中的开始。

什么才是数据中心最大的威胁？不是竞争。也不是监管。是去中心化。 Perplexity的CEO一语惊人。他说，真正的颠覆，是当AI被封装进你设备上的本地芯片里。到那时，还需要一个中心化的数据中心来处理一切吗？根本不需要。更进一步想。芯片自带的模型会不断适应你本人。 AI就在你的电脑上观察、学习、进化。因为它住在你的电脑里，而不是在遥远的服务器上，所以你很放心。你的数据，完全属于你。你的习惯，你的偏好，你的智能，都沉淀在你自己的设备里，成为你专属的“大脑”。你拥有它。这才是真正的数据主权。当这一切发生时，那些耗资数千亿、甚至数万亿建造的庞大中心化数据中心，还有存在的意义吗？建立在全球各地，为少数巨头收集和处理用户数据的模式，似乎走到了一个十字路口。这不仅是技术路线的改变。更是权力从少数中心化机构，回归到每一个普通人手中的开始。

墓碑科技

14,583 Aufrufe • vor 4 Monaten

又一个天王级项目浮出水面 AI 数据平台 Protege A 轮融资 3000 万美元，a16z 领投累计融资总额 6500 万美元 1/ 团队基因 Protege AI 联创 Travis May 为前 Datavant 创始人 Datavant 在 2021 年以 70 亿美元估值收购 Ciox Health，一跃成为美国最大的医疗数据交换平台另一位联创 Bobby Samuels 此前担任 Datavant 的 Privacy Hub 总监现在是 Protege AI 的 CEO 简而言之就是。两个在医疗数据领域已经跑通亿级市场的操盘手，试图重新定义 AI 训练数据的基础设施。 2/ Protege AI 的定位以及为什么是现在？ AI 进步有三大瓶颈：计算、模型、数据计算能力已经大幅扩展，模型架构也在持续优化。但获取高质量训练数据仍是最大难题。问题的核心在于：世界上最有价值的数据都是私有的、专有的这些数据分散在各个行业，缺乏统一的共享机制法律、隐私、知识产权壁垒让数据流通异常复杂 Protege 要做的就是成为 AI 开发中真实世界数据的基础设施。 3/ 结语随着 AI 变得更加多模态、更加嵌入现实世界工作流程，对特定领域授权数据的需求只会增长。这么一看，Protege 的叙事非常之性感。已加入追踪名单🫡

又一个天王级项目浮出水面 AI 数据平台 Protege A 轮融资 3000 万美元，a16z 领投累计融资总额 6500 万美元 1/ 团队基因 Protege AI 联创 Travis May 为前 Datavant 创始人 Datavant 在 2021 年以 70 亿美元估值收购 Ciox Health，一跃成为美国最大的医疗数据交换平台另一位联创 Bobby Samuels 此前担任 Datavant 的 Privacy Hub 总监现在是 Protege AI 的 CEO 简而言之就是。两个在医疗数据领域已经跑通亿级市场的操盘手，试图重新定义 AI 训练数据的基础设施。 2/ Protege AI 的定位以及为什么是现在？ AI 进步有三大瓶颈：计算、模型、数据计算能力已经大幅扩展，模型架构也在持续优化。但获取高质量训练数据仍是最大难题。问题的核心在于：世界上最有价值的数据都是私有的、专有的这些数据分散在各个行业，缺乏统一的共享机制法律、隐私、知识产权壁垒让数据流通异常复杂 Protege 要做的就是成为 AI 开发中真实世界数据的基础设施。 3/ 结语随着 AI 变得更加多模态、更加嵌入现实世界工作流程，对特定领域授权数据的需求只会增长。这么一看，Protege 的叙事非常之性感。已加入追踪名单🫡

小捕手 Chaos🦅

22,407 Aufrufe • vor 6 Monaten

Google的教学视频《Introduction to Large Language Models | 大语言模型介绍》（中英双语字幕）这个视频介绍了大型语言模型（Large Language Models，LLMs）的概念、使用场景、提示调整以及Google的Gen AI开发工具。大型语言模型是深度学习的一个子集，可以预训练并进行特定目的的微调。这些模型经过训练，可以解决诸如文本分类、问题回答、文档摘要、跨行业的文本生成等常见语言问题。然后，可以利用相对较小的领域数据集对这些模型进行定制，以解决零售、金融、娱乐等不同领域的特定问题。大型语言模型的三个主要特征是：大型、通用性和预训练微调。"大型"既指训练数据集的巨大规模，也指参数的数量。"通用性"意味着这些模型足够解决常见问题。"预训练和微调"是指用大型数据集对大型语言模型进行一般性的预训练，然后用较小的数据集对其进行特定目的的微调。使用大型语言模型的好处包括：一种模型可用于不同的任务；微调大型语言模型需要的领域训练数据较少；随着数据和参数的增加，大型语言模型的性能也在持续增长。此外，视频还解释了传统编程、神经网络和生成模型的不同，以及预训练模型的LLM开发与传统的ML开发的区别。在自然语言处理中，提示设计和提示工程是两个密切相关的概念，这两者都涉及创建清晰、简洁、富有信息的提示。视频中还提到了三种类型的大型语言模型：通用语言模型、指令调整模型和对话调整模型。每种模型都需要以不同的方式进行提示。原始视频链接：

Google的教学视频《Introduction to Large Language Models | 大语言模型介绍》（中英双语字幕）这个视频介绍了大型语言模型（Large Language Models，LLMs）的概念、使用场景、提示调整以及Google的Gen AI开发工具。大型语言模型是深度学习的一个子集，可以预训练并进行特定目的的微调。这些模型经过训练，可以解决诸如文本分类、问题回答、文档摘要、跨行业的文本生成等常见语言问题。然后，可以利用相对较小的领域数据集对这些模型进行定制，以解决零售、金融、娱乐等不同领域的特定问题。大型语言模型的三个主要特征是：大型、通用性和预训练微调。"大型"既指训练数据集的巨大规模，也指参数的数量。"通用性"意味着这些模型足够解决常见问题。"预训练和微调"是指用大型数据集对大型语言模型进行一般性的预训练，然后用较小的数据集对其进行特定目的的微调。使用大型语言模型的好处包括：一种模型可用于不同的任务；微调大型语言模型需要的领域训练数据较少；随着数据和参数的增加，大型语言模型的性能也在持续增长。此外，视频还解释了传统编程、神经网络和生成模型的不同，以及预训练模型的LLM开发与传统的ML开发的区别。在自然语言处理中，提示设计和提示工程是两个密切相关的概念，这两者都涉及创建清晰、简洁、富有信息的提示。视频中还提到了三种类型的大型语言模型：通用语言模型、指令调整模型和对话调整模型。每种模型都需要以不同的方式进行提示。原始视频链接：

宝玉

114,627 Aufrufe • vor 3 Jahren

CES 2026黄仁勋的演讲上，最抢戏的莫过于这两个机器人小家伙了。但是老黄真正想展示的是将他们训练出来的Omniverse，让机器人在虚拟空间中就能完成这些灵活动作的训练。换种说法就是让合成数据训练机器人、自动驾驶等物理AI应用成为可能。

CES 2026黄仁勋的演讲上，最抢戏的莫过于这两个机器人小家伙了。但是老黄真正想展示的是将他们训练出来的Omniverse，让机器人在虚拟空间中就能完成这些灵活动作的训练。换种说法就是让合成数据训练机器人、自动驾驶等物理AI应用成为可能。

傅盛

113,993 Aufrufe • vor 6 Monaten

卧槽，分享一个Google 官方神器：Google AI Edge Gallery ，可以直接在手机上运行Gemma4等本地模型‼️ 在你的手机上，纯本地、断网跑大语言模型。 📱 这是什么？能做什么？ 1. 官方出品：由 Google 团队发布，底层基于 LiteRT 框架。 2. 移动端跑大模型：直接在手机里下载并运行 Gemma、Llama、Qwen 等开源模型。 3. 榨干本地硬件：不调用任何云端 API，纯吃你手机的 CPU/GPU/NPU 算力进行推理。 4. 极客体验：完全断网可用，真正的零网络延迟，数据绝对隐私。 💡 为什么这个信号很重要？端侧算力（Edge AI）的叙事正在肉眼可见地落地。如果能把高频、轻量的 AI 任务下放到用户的设备端，不仅能砍掉海量的云端算力成本，还会催生出全新的 AI 应用形态。无论是关注“AI 手机”概念的投研玩家，还是做 AI 工具的开发者，都建议去 Google Play 下来当沙盒玩玩，亲自测一下现在的移动端硬件到底能把模型跑到什么水平。 #AI #EdgeAI #Google #大模型 #端侧算力 #Tech 教程👇👇👇👇

卧槽，分享一个Google 官方神器：Google AI Edge Gallery ，可以直接在手机上运行Gemma4等本地模型‼️ 在你的手机上，纯本地、断网跑大语言模型。 📱 这是什么？能做什么？ 1. 官方出品：由 Google 团队发布，底层基于 LiteRT 框架。 2. 移动端跑大模型：直接在手机里下载并运行 Gemma、Llama、Qwen 等开源模型。 3. 榨干本地硬件：不调用任何云端 API，纯吃你手机的 CPU/GPU/NPU 算力进行推理。 4. 极客体验：完全断网可用，真正的零网络延迟，数据绝对隐私。 💡 为什么这个信号很重要？端侧算力（Edge AI）的叙事正在肉眼可见地落地。如果能把高频、轻量的 AI 任务下放到用户的设备端，不仅能砍掉海量的云端算力成本，还会催生出全新的 AI 应用形态。无论是关注“AI 手机”概念的投研玩家，还是做 AI 工具的开发者，都建议去 Google Play 下来当沙盒玩玩，亲自测一下现在的移动端硬件到底能把模型跑到什么水平。 #AI #EdgeAI #Google #大模型 #端侧算力 #Tech 教程👇👇👇👇

比特币橙子Trader

24,419 Aufrufe • vor 3 Monaten

No Priors 对 Andrej Karpathy 很精彩的一期播客采访！虽然 Andrej 离开 Tesla 许久了，但作为纯视觉 FSD 的开创者，他依然十分看好 Telsa： - Tesla 面临软件问题，Waymo 则面临硬件问题，但软件比硬件问题容易； - Tesla 从基于规则的程序(C++)转向深度学习，端到端神经网络将最终将主导整个自动驾驶技术栈； - Tesla 是一家"大规模机器人公司”，而非汽车公司； - Optimus 只需要在自己的工厂孵化就行，无需依赖第三方的合作，这是巨大的优势； Andrej 认为，LLM 的主要挑战不再是底层架构，而是它们所训练的数据以及训练期间使用的损失函数。Transformer 架构在很多方面实际上优于人脑，它人脑更擅长记忆序列，用于训练神经网络的梯度下降优化比大脑的学习方式更有效，现在主要受限于数据问题；合成数据至关重要，但可能导致"静默崩溃”，为避免这种情况,我们需要在数据中保持“熵”。如何向训练数据中注入熵呢？ - 合成数据：这涉及创建补充真实数据的虚拟数据。然而，重要的是要确保此合成数据与真实世界数据具有相同水平的随机性和丰富性； - 角色数据：这是包含虚构人物背景信息的一种合成数据。在训练模型执行任务时，您可以想象您正在向具有此特定角色的人描述该任务。这迫使模型探索更广泛的可能性并有助于保持熵；接下来，随着对模型解释性研究的突破，能够提高模型参数的激活效率，可能只需要 10 亿参数的模型就能实现“核心认知”，并不需要把所有的知识都压缩到模型里面，核心认知模型可以调用其他模型或者工具。未来，高级的 AI 将会成为人类的外脑，贫富差距就是外脑 AI 性能的差距，穷人只能用便宜的开源的外脑 AI 做低级的工作，而且容易被控制；垄断企业和富人则会拥有更高级的人工智能加持。。主持人的科幻话题😄 最后 Andrej 对 AI 教育的看法：教师来设计课程，AI 将成为学生的前端界面，智能时代学习数学、物理和 CS 非常重要，这是逻辑推理的基础，在 AGI 到来之前很重要，但在后 AGI 时代，人类需要提升的就是提问的能力！

No Priors 对 Andrej Karpathy 很精彩的一期播客采访！虽然 Andrej 离开 Tesla 许久了，但作为纯视觉 FSD 的开创者，他依然十分看好 Telsa： - Tesla 面临软件问题，Waymo 则面临硬件问题，但软件比硬件问题容易； - Tesla 从基于规则的程序(C++)转向深度学习，端到端神经网络将最终将主导整个自动驾驶技术栈； - Tesla 是一家"大规模机器人公司”，而非汽车公司； - Optimus 只需要在自己的工厂孵化就行，无需依赖第三方的合作，这是巨大的优势； Andrej 认为，LLM 的主要挑战不再是底层架构，而是它们所训练的数据以及训练期间使用的损失函数。Transformer 架构在很多方面实际上优于人脑，它人脑更擅长记忆序列，用于训练神经网络的梯度下降优化比大脑的学习方式更有效，现在主要受限于数据问题；合成数据至关重要，但可能导致"静默崩溃”，为避免这种情况,我们需要在数据中保持“熵”。如何向训练数据中注入熵呢？ - 合成数据：这涉及创建补充真实数据的虚拟数据。然而，重要的是要确保此合成数据与真实世界数据具有相同水平的随机性和丰富性； - 角色数据：这是包含虚构人物背景信息的一种合成数据。在训练模型执行任务时，您可以想象您正在向具有此特定角色的人描述该任务。这迫使模型探索更广泛的可能性并有助于保持熵；接下来，随着对模型解释性研究的突破，能够提高模型参数的激活效率，可能只需要 10 亿参数的模型就能实现“核心认知”，并不需要把所有的知识都压缩到模型里面，核心认知模型可以调用其他模型或者工具。未来，高级的 AI 将会成为人类的外脑，贫富差距就是外脑 AI 性能的差距，穷人只能用便宜的开源的外脑 AI 做低级的工作，而且容易被控制；垄断企业和富人则会拥有更高级的人工智能加持。。主持人的科幻话题😄 最后 Andrej 对 AI 教育的看法：教师来设计课程，AI 将成为学生的前端界面，智能时代学习数学、物理和 CS 非常重要，这是逻辑推理的基础，在 AGI 到来之前很重要，但在后 AGI 时代，人类需要提升的就是提问的能力！

indigo

18,536 Aufrufe • vor 1 Jahr

发现一个讲的很细的大语言模型微调教程，详细介绍了整个流程,包括数据准备、参数设置、资源监控等关键步骤。基本没有技术能力也可以完成微调。想要了解 LLM 原理的可以按这个实践一下。时间轴： 0:00 概念概览 3:02 自定义数据的准备 8:17 微调操作演示（T4 版本） 16:52 微调操作演示（A100 版本） 19:13 在 Hugging Face 上的保存与使用方法文字版整理： ✲ 如何使用自己的数据对大语言模型进行微调(fine-tuning)：对大语言模型进行微调并不一定非常困难和昂贵。通过使用自己的数据集对预训练模型进行微调,可以让模型更好地适应特定的任务需求。微调过程能够在保留原模型语言理解能力的基础上,进一步提升其在特定领域或任务上的表现。 ✲ 使用Hugging Face模型库和Unslaw工具进行模型微调： Hugging Face提供了丰富的预训练语言模型资源,用户可以根据任务需求选择合适的模型作为基础进行微调。而Unslaw工具则提供了一套简单高效的微调流程,其优点包括出色的内存使用效率以及对扩展上下文窗口的支持。通过Unslaw,用户能够以较低的资源开销完成模型微调。 ✲ 在Google Colab上使用免费/付费GPU资源进行微调： Google Colab提供了免费和付费的GPU资源,用户可以根据任务的复杂程度选择使用T4或A100。对于大多数微调任务而言,免费的T4资源已经足够。但如果数据集较大或模型较为复杂,升级到A100可以获得更充裕的算力支持。Colab为用户提供了一个易于上手的模型微调环境。 ✲ 准备自定义的微调数据集：准备微调数据的过程并不复杂。用户可以直接使用纯文本文件作为数据来源,而无需进行额外的预处理。为了获得理想的微调效果,建议至少准备100-200个样本。在示例中,为了快速演示,仅使用了几个样本。通过一个简单的Python脚本,可以方便地将原始文本数据转换为微调所需的JSON格式。 ✲ 修改Colab笔记本中的参数设置：在Colab笔记本中,需要根据实际情况调整一些参数。例如,可以根据数据集的token数量来设置max_sequence_length参数,借助rope scaling技术,模型能够支持任意长度的上下文。此外,还可以选择使用Instruct系列模型作为base model,直接在其基础上进行指令微调。为了节省资源,可以启用4-bit量化。同时,参考Q-Lora论文的建议,调整R值和alpha值,以在资源占用和模型质量之间取得平衡。 ✲ 训练过程中的资源使用监控：在模型训练过程中,用户可以通过Colab的资源监控选项卡实时观察GPU、内存和硬盘的使用情况。如果发现资源不足,可以考虑从T4升级到A100。通过监控资源占用,用户能够及时调整配置,确保微调任务稳定高效地进行。 ✲ 模型训练的loss变化和最佳checkpoint的选择：通过记录不同训练步数下的loss值,可以判断模型的收敛情况。理想的做法是选择loss下降曲线趋于平缓的点作为最佳checkpoint,这样既能充分训练模型,又能避免过拟合。为了事后方便筛选,可以设置每隔一定步数保存一次checkpoint。 ✲ 模型微调完成后的保存与使用：微调完成后,可以选择只保存adapter layers以加快保存速度。但更推荐的做法是保存完整模型,并使用float16精度,这样可以得到一个更通用和标准的模型格式,方便后续的部署和使用。 ✲ 在Hugging Face上公开或私有发布微调后的模型：用户可以选择在Hugging Face的模型库中公开或私有地发布自己微调后的模型。发布之前,需要在Hugging Face账号中创建一个访问令牌,并在发布时提供相应的用户名和令牌信息。通过在Hugging Face上发布模型,用户可以方便地与他人分享自己的微调成果。 ✲ 使用微调后的模型进行推理(inference)：在使用微调后的模型进行推理时,首先需要加载保存的模型。接着,使用tokenizer对输入的文本进行处理,并将其传入模型。进行推理时,max_length参数需要与训练时保持一致,以确保生成的结果不会被截断。完成以上步骤后,就可以利用微调后的模型进行各种实际应用了。

发现一个讲的很细的大语言模型微调教程，详细介绍了整个流程,包括数据准备、参数设置、资源监控等关键步骤。基本没有技术能力也可以完成微调。想要了解 LLM 原理的可以按这个实践一下。时间轴： 0:00 概念概览 3:02 自定义数据的准备 8:17 微调操作演示（T4 版本） 16:52 微调操作演示（A100 版本） 19:13 在 Hugging Face 上的保存与使用方法文字版整理： ✲ 如何使用自己的数据对大语言模型进行微调(fine-tuning)：对大语言模型进行微调并不一定非常困难和昂贵。通过使用自己的数据集对预训练模型进行微调,可以让模型更好地适应特定的任务需求。微调过程能够在保留原模型语言理解能力的基础上,进一步提升其在特定领域或任务上的表现。 ✲ 使用Hugging Face模型库和Unslaw工具进行模型微调： Hugging Face提供了丰富的预训练语言模型资源,用户可以根据任务需求选择合适的模型作为基础进行微调。而Unslaw工具则提供了一套简单高效的微调流程,其优点包括出色的内存使用效率以及对扩展上下文窗口的支持。通过Unslaw,用户能够以较低的资源开销完成模型微调。 ✲ 在Google Colab上使用免费/付费GPU资源进行微调： Google Colab提供了免费和付费的GPU资源,用户可以根据任务的复杂程度选择使用T4或A100。对于大多数微调任务而言,免费的T4资源已经足够。但如果数据集较大或模型较为复杂,升级到A100可以获得更充裕的算力支持。Colab为用户提供了一个易于上手的模型微调环境。 ✲ 准备自定义的微调数据集：准备微调数据的过程并不复杂。用户可以直接使用纯文本文件作为数据来源,而无需进行额外的预处理。为了获得理想的微调效果,建议至少准备100-200个样本。在示例中,为了快速演示,仅使用了几个样本。通过一个简单的Python脚本,可以方便地将原始文本数据转换为微调所需的JSON格式。 ✲ 修改Colab笔记本中的参数设置：在Colab笔记本中,需要根据实际情况调整一些参数。例如,可以根据数据集的token数量来设置max_sequence_length参数,借助rope scaling技术,模型能够支持任意长度的上下文。此外,还可以选择使用Instruct系列模型作为base model,直接在其基础上进行指令微调。为了节省资源,可以启用4-bit量化。同时,参考Q-Lora论文的建议,调整R值和alpha值,以在资源占用和模型质量之间取得平衡。 ✲ 训练过程中的资源使用监控：在模型训练过程中,用户可以通过Colab的资源监控选项卡实时观察GPU、内存和硬盘的使用情况。如果发现资源不足,可以考虑从T4升级到A100。通过监控资源占用,用户能够及时调整配置,确保微调任务稳定高效地进行。 ✲ 模型训练的loss变化和最佳checkpoint的选择：通过记录不同训练步数下的loss值,可以判断模型的收敛情况。理想的做法是选择loss下降曲线趋于平缓的点作为最佳checkpoint,这样既能充分训练模型,又能避免过拟合。为了事后方便筛选,可以设置每隔一定步数保存一次checkpoint。 ✲ 模型微调完成后的保存与使用：微调完成后,可以选择只保存adapter layers以加快保存速度。但更推荐的做法是保存完整模型,并使用float16精度,这样可以得到一个更通用和标准的模型格式,方便后续的部署和使用。 ✲ 在Hugging Face上公开或私有发布微调后的模型：用户可以选择在Hugging Face的模型库中公开或私有地发布自己微调后的模型。发布之前,需要在Hugging Face账号中创建一个访问令牌,并在发布时提供相应的用户名和令牌信息。通过在Hugging Face上发布模型,用户可以方便地与他人分享自己的微调成果。 ✲ 使用微调后的模型进行推理(inference)：在使用微调后的模型进行推理时,首先需要加载保存的模型。接着,使用tokenizer对输入的文本进行处理,并将其传入模型。进行推理时,max_length参数需要与训练时保持一致,以确保生成的结果不会被截断。完成以上步骤后,就可以利用微调后的模型进行各种实际应用了。

歸藏(guizang.ai)

61,710 Aufrufe • vor 2 Jahren

未来三四年，全球最重要的事情是什么？答案是：太空数据中心。你可能会觉得奇怪，但从第一性原理出发，把数据中心建在地球上，其实从一开始就错了。一个数据中心，最核心的成本是什么？两样东西：电，还有散热。先说电。在太空，卫星可以24小时晒太阳。强度还比地面高30%。综合下来，辐射能量是地球的6倍！这意味着什么？你根本不需要昂贵的储能电池。在整个太阳系里，最便宜、最管够的能源，就是太空里的太阳能。再说散热。你在地球上建一个机房，整个机架一半的重量和成本，都是给空调、水冷系统这些复杂玩意儿准备的。但在太空呢？散热是免费的。你只要在卫星背对太阳的那一面，放一个散热器就行了。温度接近绝对零度。所有复杂的散热设备、巨大的成本，瞬间归零。还没完。数据中心里，一个个机柜是怎么连起来的？用光纤。本质是激光在缆线里跑。还有什么比这更快？有。让激光在真空里跑。当无数个卫星数据中心在太空用激光互联，你就拥有了一个比地球上任何网络都更快的超级数据中心。这对我们普通人意味着什么？现在，我手机发个指令，信号要先到基站，进光纤，绕过好几个城市路由器，才能到达数据中心，然后原路返回。未来呢？你的手机直接跟卫星对话，信号上去，算完，下来。 Boom，结束。更低的成本，更快的速度。这才是AI时代该有的样子。

未来三四年，全球最重要的事情是什么？答案是：太空数据中心。你可能会觉得奇怪，但从第一性原理出发，把数据中心建在地球上，其实从一开始就错了。一个数据中心，最核心的成本是什么？两样东西：电，还有散热。先说电。在太空，卫星可以24小时晒太阳。强度还比地面高30%。综合下来，辐射能量是地球的6倍！这意味着什么？你根本不需要昂贵的储能电池。在整个太阳系里，最便宜、最管够的能源，就是太空里的太阳能。再说散热。你在地球上建一个机房，整个机架一半的重量和成本，都是给空调、水冷系统这些复杂玩意儿准备的。但在太空呢？散热是免费的。你只要在卫星背对太阳的那一面，放一个散热器就行了。温度接近绝对零度。所有复杂的散热设备、巨大的成本，瞬间归零。还没完。数据中心里，一个个机柜是怎么连起来的？用光纤。本质是激光在缆线里跑。还有什么比这更快？有。让激光在真空里跑。当无数个卫星数据中心在太空用激光互联，你就拥有了一个比地球上任何网络都更快的超级数据中心。这对我们普通人意味着什么？现在，我手机发个指令，信号要先到基站，进光纤，绕过好几个城市路由器，才能到达数据中心，然后原路返回。未来呢？你的手机直接跟卫星对话，信号上去，算完，下来。 Boom，结束。更低的成本，更快的速度。这才是AI时代该有的样子。

墓碑科技

34,593 Aufrufe • vor 7 Monaten

不联网、不云端、不上传，iPhone 手机端侧即可拥有私人 AI Agent，效果嘎嘎香……😮 现在很多AI助手都要把数据上传到云端，隐私和响应速度都成问题……😭 有个开源项目直接把AI Agent跑在iPhone本地，不联网就能用，贴心的私人助理提供语音输入、日历管理、提醒事项、健康数据查询等功能！😄 这玩意就叫 PhoneClaw，一个基于Gemma 4 和 MiniCPM-V 多个本地模型的iPhone本地AI Agent，使用 Gemma 4 LiteRT-LM 在移动设备端侧可完成推理和 Skill 调用，无需云端 API 或外部模型接入，不上传聊天内容，能通过自然语言帮你管理手机里的各种数据。👍 核心亮点： 📍 完全本地运行，数据不上传，隐私安全 📍 支持自然语言操作日历、提醒、联系人、健康数据等 📍 内置LIVE模式（实时语音 + 摄像头视觉交互） 📍 可连接Mac进行更强模型推理（远程推理） 📍 支持中英文界面和提示词 🧰使用方法：通过TestFlight安装后，在App内下载模型并授权相关权限，即可开始使用，也支持与Mac配对进行更强推理。对iOS本地AI、隐私计算、手机Agent感兴趣的朋友，值得关注这个项目！🔥 转发+收藏，送给关注AI Agent的朋友～ #PhoneClaw #本地AI #iOS #Agent #Gemma #开源工具 #隐私AI

不联网、不云端、不上传，iPhone 手机端侧即可拥有私人 AI Agent，效果嘎嘎香……😮 现在很多AI助手都要把数据上传到云端，隐私和响应速度都成问题……😭 有个开源项目直接把AI Agent跑在iPhone本地，不联网就能用，贴心的私人助理提供语音输入、日历管理、提醒事项、健康数据查询等功能！😄 这玩意就叫 PhoneClaw，一个基于Gemma 4 和 MiniCPM-V 多个本地模型的iPhone本地AI Agent，使用 Gemma 4 LiteRT-LM 在移动设备端侧可完成推理和 Skill 调用，无需云端 API 或外部模型接入，不上传聊天内容，能通过自然语言帮你管理手机里的各种数据。👍 核心亮点： 📍 完全本地运行，数据不上传，隐私安全 📍 支持自然语言操作日历、提醒、联系人、健康数据等 📍 内置LIVE模式（实时语音 + 摄像头视觉交互） 📍 可连接Mac进行更强模型推理（远程推理） 📍 支持中英文界面和提示词 🧰使用方法：通过TestFlight安装后，在App内下载模型并授权相关权限，即可开始使用，也支持与Mac配对进行更强推理。对iOS本地AI、隐私计算、手机Agent感兴趣的朋友，值得关注这个项目！🔥 转发+收藏，送给关注AI Agent的朋友～ #PhoneClaw #本地AI #iOS #Agent #Gemma #开源工具 #隐私AI

Denzii 🕊️

24,229 Aufrufe • vor 25 Tagen

女朋友就这么的被劫走了。天天吹AI模型多强，全是虚的。现实里AI要用在仓库、机场、工地、交通这种地方，光靠概率判断根本不够用，出了事谁都担不起。真落地的AI看的是系统，不是参数。 AI一旦指挥实际操作，必须有据可查，不能瞎猜。 Inference Labs 做的可验证推理，就是把AI每一次决策变成可审计记录，不搞模糊判断，不搞盲目信任。工业级场景就得这么干，不然全是风险。关注这种能落地的项目，比追模型噱头有用得多。 #VerifiableAI #zkML #InferenceLabs Inference Labs

女朋友就这么的被劫走了。天天吹AI模型多强，全是虚的。现实里AI要用在仓库、机场、工地、交通这种地方，光靠概率判断根本不够用，出了事谁都担不起。真落地的AI看的是系统，不是参数。 AI一旦指挥实际操作，必须有据可查，不能瞎猜。 Inference Labs 做的可验证推理，就是把AI每一次决策变成可审计记录，不搞模糊判断，不搞盲目信任。工业级场景就得这么干，不然全是风险。关注这种能落地的项目，比追模型噱头有用得多。 #VerifiableAI #zkML #InferenceLabs Inference Labs

币自由 🐬

69,700 Aufrufe • vor 3 Monaten

“我们内部已经有 Gemini 3 水平的模型，并且有信心很快发布，之后还会有更强的型号！” OpenAI 首席研究负责人 Mark Chen 在 Core Memory 的播客上透露。Sam 的职责之一就是“放大紧迫感”，他自己的角色也类似，会刻意强调竞争压力让整个组织保持高压前进，所以大家才会看到那封内部的“红色警戒”备忘录🚨 前两天和 OpenAI 的同学吃饭还提到他们内部确实都在体验 Gemini 3。因为但单看公开基准测试不足以判断真实差距，让足够多的研究员在真实任务中摸一摸，再形成集体判断。 Mark 说自己有一个“私藏的数学难题”（“42 问题”），专门用来测试不同模型的推理能力 —— 包括最新的“思考模型”。到目前为止，所有模型都只能接近最优解，还没有完全攻克它，这对他来说是一件“好事”：说明还有空间可以继续前进。在 SWE‑bench 这类软件工程基准上，Google 模型的表现虽然不错，但在“用多少数据/算力达成一定效果”这件事上，还有明显的优化空间，而 OpenAI 在这方面的算法储备非常强，这是他们下一轮反击的一个核心筹码！过去两年。OpenAI 其实把大量资源都投向推理模型，预训练和后训练的“肌肉”有所退化；最近半年，在组织层面重新把焦点拉回预训练。Mark 明确反对“Scaling 已死”的说法，他认为在预训练和数据塑形上还有巨大空间；现在要做的是更精细的“数据塑形”和“合成数据”，通过更聪明的预训练策略，让模型从“模仿人类写作/代码”的模式，转向真正学会更高层次的抽象✨

“我们内部已经有 Gemini 3 水平的模型，并且有信心很快发布，之后还会有更强的型号！” OpenAI 首席研究负责人 Mark Chen 在 Core Memory 的播客上透露。Sam 的职责之一就是“放大紧迫感”，他自己的角色也类似，会刻意强调竞争压力让整个组织保持高压前进，所以大家才会看到那封内部的“红色警戒”备忘录🚨 前两天和 OpenAI 的同学吃饭还提到他们内部确实都在体验 Gemini 3。因为但单看公开基准测试不足以判断真实差距，让足够多的研究员在真实任务中摸一摸，再形成集体判断。 Mark 说自己有一个“私藏的数学难题”（“42 问题”），专门用来测试不同模型的推理能力 —— 包括最新的“思考模型”。到目前为止，所有模型都只能接近最优解，还没有完全攻克它，这对他来说是一件“好事”：说明还有空间可以继续前进。在 SWE‑bench 这类软件工程基准上，Google 模型的表现虽然不错，但在“用多少数据/算力达成一定效果”这件事上，还有明显的优化空间，而 OpenAI 在这方面的算法储备非常强，这是他们下一轮反击的一个核心筹码！过去两年。OpenAI 其实把大量资源都投向推理模型，预训练和后训练的“肌肉”有所退化；最近半年，在组织层面重新把焦点拉回预训练。Mark 明确反对“Scaling 已死”的说法，他认为在预训练和数据塑形上还有巨大空间；现在要做的是更精细的“数据塑形”和“合成数据”，通过更聪明的预训练策略，让模型从“模仿人类写作/代码”的模式，转向真正学会更高层次的抽象✨

indigo

72,121 Aufrufe • vor 7 Monaten

Figure AI 的创始人 Brett 说 Optimus 是最棒的，他们的排第二，软件（机器智能）是核心！最新一期 Indigo Talk 聊到机器人，FoundersX 的 Helen 分享了她的观点，大家对机器人过于乐观了，现在最缺的就是数据。地球生物的“行动智能”演化了数亿年，而代表逻辑推理的“语言智能”的出现不过几十万年，这是数亿年训练数据的差异。我们现在用 AI 先解决了从进化角度来看比较“简单”的语言问题，而真正的难题—— 具身智能才刚刚开始。机器人需要海量的、多样化的、充满细微差别的人机互动数据来训练，而这些数据在互联网上是不存在的，其采集成本极高。完整视频请看与硅谷 Deep Tech 投资团队 FoundersX 聊 AI 与深科技👀

Figure AI 的创始人 Brett 说 Optimus 是最棒的，他们的排第二，软件（机器智能）是核心！最新一期 Indigo Talk 聊到机器人，FoundersX 的 Helen 分享了她的观点，大家对机器人过于乐观了，现在最缺的就是数据。地球生物的“行动智能”演化了数亿年，而代表逻辑推理的“语言智能”的出现不过几十万年，这是数亿年训练数据的差异。我们现在用 AI 先解决了从进化角度来看比较“简单”的语言问题，而真正的难题—— 具身智能才刚刚开始。机器人需要海量的、多样化的、充满细微差别的人机互动数据来训练，而这些数据在互联网上是不存在的，其采集成本极高。完整视频请看与硅谷 Deep Tech 投资团队 FoundersX 聊 AI 与深科技👀

indigo

25,377 Aufrufe • vor 10 Monaten