Загрузка видео...

Не удалось загрузить видео

Возникла проблема при загрузке этого видео. Это может быть связано с временными проблемами сети или видео может быть недоступно.

На главную

这位大佬已经成功的让 AI 模型在 iPhone 17 Pro 的 Apple Neural Engine（ANE）上进行训练。苹果的硬件还是有很多待挖掘的地方,一旦手机本地也能训练 AI，就意味着部分数据可以不上云端，在本地。根据用户数据，不断学习，更新个性化。这里面的玩法就非常多了。机会。😍

独立开发者William

9,038 subscribers

23,780 просмотров • 6 месяцев назад •via X (Twitter)

Anya Rossi• Live Now

Private livecam show

Комментарии: 0

Нет доступных комментариев

Здесь появятся комментарии из оригинального поста

Похожие видео

甲骨文(ORCL)老板埃里森强调：ChatGPT、Gemini、Grok和Llama等AI模型，都是基于大致相同的公共互联网数据进行训练的。当所有人都使用相同的信息进行训练时，模型必然会趋于一致。这就是AI走向商品化的原因。真正的护城河并非模型本身，而是其背后的专有数据。能够利用独家数据集进行训练的公司，将获得竞争对手无法复制的优势。埃里森(Larry Ellison)是商业策略大师，而AI正在进入下一个阶段。拥有别人没有的数据，就能让你在市场中占据主导地位。

甲骨文(ORCL)老板埃里森强调：ChatGPT、Gemini、Grok和Llama等AI模型，都是基于大致相同的公共互联网数据进行训练的。当所有人都使用相同的信息进行训练时，模型必然会趋于一致。这就是AI走向商品化的原因。真正的护城河并非模型本身，而是其背后的专有数据。能够利用独家数据集进行训练的公司，将获得竞争对手无法复制的优势。埃里森(Larry Ellison)是商业策略大师，而AI正在进入下一个阶段。拥有别人没有的数据，就能让你在市场中占据主导地位。

亚洲金融 Asia Finance

143,307 просмотров • 6 месяцев назад

每个人都能买得起英伟达发布个人AI超级计算机，能运行2000亿参数的大模型。 NVIDIA 今天在CES 2025大会上发布了 NVIDIA Project DIGITS，这是一款能放在你桌面上的个人AI超级计算机。将传统上需要大型数据中心才能完成的 AI 计算，带到每个人的桌面。‘ Project DIGITS 采用全新的 NVIDIA GB10 Grace Blackwell Superchip，能够提供 1 PFLOP（每秒一千万亿次浮点运算）的AI计算性能。设计目的用于原型开发、微调以及运行大型AI模型，使用户能够在本地桌面系统上开发和运行推理模型，然后无缝部署到云或数据中心也就是它能在你的本地就能运行超大的AI模型，能够运行高达 2000亿参数的大语言模型。通过 NVIDIA ConnectX 网络，两台 Project DIGITS 超级计算机连接起来，可以运行 4050亿参数模型。而且支持在本地电脑上开发和测试AI模型，然后快速部署到云端或数据中心。简单来说，它就像是给每个开发者配了一台袖珍的AI超级计算机！

每个人都能买得起英伟达发布个人AI超级计算机，能运行2000亿参数的大模型。 NVIDIA 今天在CES 2025大会上发布了 NVIDIA Project DIGITS，这是一款能放在你桌面上的个人AI超级计算机。将传统上需要大型数据中心才能完成的 AI 计算，带到每个人的桌面。‘ Project DIGITS 采用全新的 NVIDIA GB10 Grace Blackwell Superchip，能够提供 1 PFLOP（每秒一千万亿次浮点运算）的AI计算性能。设计目的用于原型开发、微调以及运行大型AI模型，使用户能够在本地桌面系统上开发和运行推理模型，然后无缝部署到云或数据中心也就是它能在你的本地就能运行超大的AI模型，能够运行高达 2000亿参数的大语言模型。通过 NVIDIA ConnectX 网络，两台 Project DIGITS 超级计算机连接起来，可以运行 4050亿参数模型。而且支持在本地电脑上开发和测试AI模型，然后快速部署到云端或数据中心。简单来说，它就像是给每个开发者配了一台袖珍的AI超级计算机！

小互

85,716 просмотров • 1 год назад

🔥马斯克：“未来只有视觉的光子数据才能规模化！其他数据都不行！” 所以未来特斯拉机器人采集光子数据，能够突破文本数据在规模和效率上的瓶颈！马斯克还曾指出，Grok已经训练了所有可用的数字化数据，包括互联网、书籍等内容，如今不得不依赖人工合成数据来继续训练。

🔥马斯克：“未来只有视觉的光子数据才能规模化！其他数据都不行！” 所以未来特斯拉机器人采集光子数据，能够突破文本数据在规模和效率上的瓶颈！马斯克还曾指出，Grok已经训练了所有可用的数字化数据，包括互联网、书籍等内容，如今不得不依赖人工合成数据来继续训练。

谢嘉琪

149,089 просмотров • 10 месяцев назад

OpenAI 创始人 John Schulman 访谈节选：为什么 GPT-4 比一年前更“聪明”了？主要都是后训练（Post-Training）带来的！另外他认为，在强化学习研究领域，研究人员需要具备丰富的经验和敏锐的直觉。了解整个技术堆栈，并对各个部分充满好奇心是关键。此外，从第一性原理出发思考问题，而不仅仅依靠实验证据，也能够帮助研究人员在数据操控和环境设置方面做出更好的决策。 *** Dwarkesh Patel：在未来，用于训练的计算力中，预训练与后训练的比例是否会明显偏向后训练呢？ John Schulman：确实，有一些观点支持这种说法。 Dwarkesh Patel：我是说，现在这个比例非常不平衡。 John Schulman：但你可以认为，模型生成的输出质量比网上的大多数内容都要高。因此，让模型自己思考似乎更有道理，而不仅仅是训练来模仿网络上的内容。所以，我认为从第一性原理上来说，这是有说服力的。我会说，我们通过后训练取得了很多进步。因此，我不确定。所以，我希望我们会继续推动这种方法，并且可能会增加投入到后训练中的计算力。 Dwarkesh Patel：当前的 GPT-4 的 ELO 分数比最初发布的版本高出了大约 100 分。这是否全都是后训练带来的改进呢？ John Schulman：对，我会说大部分都是后训练带来的。 Dwarkesh Patel：这很有意思。 John Schulman：因此，有很多不同的改进方向。我们会考虑数据质量，数据数量，进行更多的部署和收集新数据的迭代，改变你收集的注解种类。因此，有很多因素叠加在一起。但是全部加在一起，就会带来一个相当不错的，有效的计算力提升。 Dwarkesh Patel：后训练的优化程度对于竞争优势有多大影响呢？ John Schulman：目前，我会区别公司是通过我们的模型有多大等等。那么，找出你之前提到的所有这些数据的复杂问题的公司，会占据大优势吗？ John Schulman：我认为这确实是一个优势，因为这是一个非常复杂的任务。因此，你必须有很多有技能的人来执行它。因此，存在大量的隐性知识。同时也需要大量的组织知识。我认为后训练的过程，创建一个具备人们所关心的所有功能的模型，是十分复杂的。这需要付出大量的努力，它是大量研发工作的积累。我会说这种情况在某种程度上形成了一种壁垒，要想立即启动这种模型并非易事。 Dwarkesh Patel：看起来那些正在进行最严肃的预训练努力的公司，也在进行严肃的后训练努力。因此，看起来这种模型有可能被复制或有更多的类似努力出现。 John Schulman：另外，还有一种情况使得这个壁垒并非那么明显，那就是你可以提取模型，或者复制别人的模型输出，或者使用别人的模型进行比较。我认为大公司可能并不会这样做，因为这违反了服务条款，也会损害他们的自尊心，但我预计一些规模较小的参与者可能正在这样做以便更好地起步。 Dwarkesh Patel：那些真正擅长进行这种强化学习（RL）研究的人有什么样的特质呢？我听说这种研究非常具有挑战性，但是什么样的直觉能帮助你找到操控数据和设置环境的方法呢？ John Schulman：我觉得有相当多的经验是关键。自从研究生时期以来，我一直在研究 RL 算法，涉及到数据收集、到注释过程，再到与语言模型的交互。所以，我算是涉猎了这些领域。我认为，在这类研究中表现出色的人通常对整个技术堆栈有全面的了解，并且对其中的各个部分充满好奇心。他们不仅依靠实验证据来更新自己的观点，还会从第一性原理出发思考问题。比如，假设深度学习是有效的，那么理想的收集数据的类型应该是什么，等等。

OpenAI 创始人 John Schulman 访谈节选：为什么 GPT-4 比一年前更“聪明”了？主要都是后训练（Post-Training）带来的！另外他认为，在强化学习研究领域，研究人员需要具备丰富的经验和敏锐的直觉。了解整个技术堆栈，并对各个部分充满好奇心是关键。此外，从第一性原理出发思考问题，而不仅仅依靠实验证据，也能够帮助研究人员在数据操控和环境设置方面做出更好的决策。 *** Dwarkesh Patel：在未来，用于训练的计算力中，预训练与后训练的比例是否会明显偏向后训练呢？ John Schulman：确实，有一些观点支持这种说法。 Dwarkesh Patel：我是说，现在这个比例非常不平衡。 John Schulman：但你可以认为，模型生成的输出质量比网上的大多数内容都要高。因此，让模型自己思考似乎更有道理，而不仅仅是训练来模仿网络上的内容。所以，我认为从第一性原理上来说，这是有说服力的。我会说，我们通过后训练取得了很多进步。因此，我不确定。所以，我希望我们会继续推动这种方法，并且可能会增加投入到后训练中的计算力。 Dwarkesh Patel：当前的 GPT-4 的 ELO 分数比最初发布的版本高出了大约 100 分。这是否全都是后训练带来的改进呢？ John Schulman：对，我会说大部分都是后训练带来的。 Dwarkesh Patel：这很有意思。 John Schulman：因此，有很多不同的改进方向。我们会考虑数据质量，数据数量，进行更多的部署和收集新数据的迭代，改变你收集的注解种类。因此，有很多因素叠加在一起。但是全部加在一起，就会带来一个相当不错的，有效的计算力提升。 Dwarkesh Patel：后训练的优化程度对于竞争优势有多大影响呢？ John Schulman：目前，我会区别公司是通过我们的模型有多大等等。那么，找出你之前提到的所有这些数据的复杂问题的公司，会占据大优势吗？ John Schulman：我认为这确实是一个优势，因为这是一个非常复杂的任务。因此，你必须有很多有技能的人来执行它。因此，存在大量的隐性知识。同时也需要大量的组织知识。我认为后训练的过程，创建一个具备人们所关心的所有功能的模型，是十分复杂的。这需要付出大量的努力，它是大量研发工作的积累。我会说这种情况在某种程度上形成了一种壁垒，要想立即启动这种模型并非易事。 Dwarkesh Patel：看起来那些正在进行最严肃的预训练努力的公司，也在进行严肃的后训练努力。因此，看起来这种模型有可能被复制或有更多的类似努力出现。 John Schulman：另外，还有一种情况使得这个壁垒并非那么明显，那就是你可以提取模型，或者复制别人的模型输出，或者使用别人的模型进行比较。我认为大公司可能并不会这样做，因为这违反了服务条款，也会损害他们的自尊心，但我预计一些规模较小的参与者可能正在这样做以便更好地起步。 Dwarkesh Patel：那些真正擅长进行这种强化学习（RL）研究的人有什么样的特质呢？我听说这种研究非常具有挑战性，但是什么样的直觉能帮助你找到操控数据和设置环境的方法呢？ John Schulman：我觉得有相当多的经验是关键。自从研究生时期以来，我一直在研究 RL 算法，涉及到数据收集、到注释过程，再到与语言模型的交互。所以，我算是涉猎了这些领域。我认为，在这类研究中表现出色的人通常对整个技术堆栈有全面的了解，并且对其中的各个部分充满好奇心。他们不仅依靠实验证据来更新自己的观点，还会从第一性原理出发思考问题。比如，假设深度学习是有效的，那么理想的收集数据的类型应该是什么，等等。

宝玉

57,175 просмотров • 2 лет назад

AI开始抢彭博终端的饭碗了。一家叫Perplexity的AI公司，做了一个新东西。能直接生成一个金融终端，分析英伟达$NVDA。数据是实时的。还不需要任何本地设置。这说明什么？云服务本身已经不重要了，谁都能提供。真正的护城河，是上面跑的AI模型。一台彭博终端机一年要多少钱？三万美元。过去这是华尔街精英的专属玩具。现在，一个AI应用就能挑战它的核心功能。技术正在打破信息垄断。把权力从少数机构手里，还给普通人。华尔街的旧秩序，还能维持多久？

AI开始抢彭博终端的饭碗了。一家叫Perplexity的AI公司，做了一个新东西。能直接生成一个金融终端，分析英伟达$NVDA。数据是实时的。还不需要任何本地设置。这说明什么？云服务本身已经不重要了，谁都能提供。真正的护城河，是上面跑的AI模型。一台彭博终端机一年要多少钱？三万美元。过去这是华尔街精英的专属玩具。现在，一个AI应用就能挑战它的核心功能。技术正在打破信息垄断。把权力从少数机构手里，还给普通人。华尔街的旧秩序，还能维持多久？

墓碑科技

105,410 просмотров • 6 месяцев назад

甲骨文的拉里·埃里森，刚刚给所有AI公司判了死刑。他说，你们的模型，一文不值。不是技术不行，也不是人才不行。问题出在数据上。 ChatGPT，Gemini，Grok，Llama…… 所有这些模型，吃的都是同一锅饭。整个公共互联网。每一篇维基百科，每一个Reddit帖子，每一条新闻。结果是什么？它们正在趋同，变成贴着不同logo的同一个产品。用埃里森的话说，就是“大路货”。真正的黄金，不在网上。在私有数据里。医院系统里的病历。银行金库里的财务数据。财富500强公司的供应链机密。猜猜这些数据，大部分都存在哪里？不在谷歌，不在亚马逊，也不在微软。在甲骨文的数据库里。所以甲骨文出手了。他们推出了一个叫“AI数据库26ai”的东西。它允许所有顶级AI模型，直接在你公司的私有数据上进行推理。而且数据永远不用离开保险库。他们用的是一种叫RAG的技术。 AI不去“学习”你的数据，而是实时“检索”它。这意味着什么？银行可以分析它发放的每一笔贷款，而不用暴露任何一个客户记录。医院可以用AI诊断病人，而不用担心违反HIPAA法案。国防承包商能让AI分析机密行动，数据一步都离不开安全环境。埃里森在赌一个比GPU热潮、比数据中心建设更大的未来。他称之为“历史上最大、增长最快的市场”。数字很惊人。甲骨文的待履约收入刚刚达到5230亿美元。其中3000亿，来自OpenAI一家公司。但这里有个没人谈论的危险。如果私有数据是AI真正的护城河。那么谁控制了数据库，谁就控制了AI的未来。这种权力集中到一家公司手里。难道不该让每个人都感到不安吗？

甲骨文的拉里·埃里森，刚刚给所有AI公司判了死刑。他说，你们的模型，一文不值。不是技术不行，也不是人才不行。问题出在数据上。 ChatGPT，Gemini，Grok，Llama…… 所有这些模型，吃的都是同一锅饭。整个公共互联网。每一篇维基百科，每一个Reddit帖子，每一条新闻。结果是什么？它们正在趋同，变成贴着不同logo的同一个产品。用埃里森的话说，就是“大路货”。真正的黄金，不在网上。在私有数据里。医院系统里的病历。银行金库里的财务数据。财富500强公司的供应链机密。猜猜这些数据，大部分都存在哪里？不在谷歌，不在亚马逊，也不在微软。在甲骨文的数据库里。所以甲骨文出手了。他们推出了一个叫“AI数据库26ai”的东西。它允许所有顶级AI模型，直接在你公司的私有数据上进行推理。而且数据永远不用离开保险库。他们用的是一种叫RAG的技术。 AI不去“学习”你的数据，而是实时“检索”它。这意味着什么？银行可以分析它发放的每一笔贷款，而不用暴露任何一个客户记录。医院可以用AI诊断病人，而不用担心违反HIPAA法案。国防承包商能让AI分析机密行动，数据一步都离不开安全环境。埃里森在赌一个比GPU热潮、比数据中心建设更大的未来。他称之为“历史上最大、增长最快的市场”。数字很惊人。甲骨文的待履约收入刚刚达到5230亿美元。其中3000亿，来自OpenAI一家公司。但这里有个没人谈论的危险。如果私有数据是AI真正的护城河。那么谁控制了数据库，谁就控制了AI的未来。这种权力集中到一家公司手里。难道不该让每个人都感到不安吗？

墓碑科技

594,690 просмотров • 6 месяцев назад

用 iPhone 17 Pro MAX 试了一下本地 Qwen 3 1.7B 的推理速度，相当快啊，几乎感知不到延迟 A 19 Pro 芯片性能相当顶这个叫 Locally AI 的 APP 还能调用苹果放在本地的端侧模型进行测试，不过国行手机不行

用 iPhone 17 Pro MAX 试了一下本地 Qwen 3 1.7B 的推理速度，相当快啊，几乎感知不到延迟 A 19 Pro 芯片性能相当顶这个叫 Locally AI 的 APP 还能调用苹果放在本地的端侧模型进行测试，不过国行手机不行

歸藏(guizang.ai)

261,755 просмотров • 11 месяцев назад

什么才是数据中心最大的威胁？不是竞争。也不是监管。是去中心化。 Perplexity的CEO一语惊人。他说，真正的颠覆，是当AI被封装进你设备上的本地芯片里。到那时，还需要一个中心化的数据中心来处理一切吗？根本不需要。更进一步想。芯片自带的模型会不断适应你本人。 AI就在你的电脑上观察、学习、进化。因为它住在你的电脑里，而不是在遥远的服务器上，所以你很放心。你的数据，完全属于你。你的习惯，你的偏好，你的智能，都沉淀在你自己的设备里，成为你专属的“大脑”。你拥有它。这才是真正的数据主权。当这一切发生时，那些耗资数千亿、甚至数万亿建造的庞大中心化数据中心，还有存在的意义吗？建立在全球各地，为少数巨头收集和处理用户数据的模式，似乎走到了一个十字路口。这不仅是技术路线的改变。更是权力从少数中心化机构，回归到每一个普通人手中的开始。

什么才是数据中心最大的威胁？不是竞争。也不是监管。是去中心化。 Perplexity的CEO一语惊人。他说，真正的颠覆，是当AI被封装进你设备上的本地芯片里。到那时，还需要一个中心化的数据中心来处理一切吗？根本不需要。更进一步想。芯片自带的模型会不断适应你本人。 AI就在你的电脑上观察、学习、进化。因为它住在你的电脑里，而不是在遥远的服务器上，所以你很放心。你的数据，完全属于你。你的习惯，你的偏好，你的智能，都沉淀在你自己的设备里，成为你专属的“大脑”。你拥有它。这才是真正的数据主权。当这一切发生时，那些耗资数千亿、甚至数万亿建造的庞大中心化数据中心，还有存在的意义吗？建立在全球各地，为少数巨头收集和处理用户数据的模式，似乎走到了一个十字路口。这不仅是技术路线的改变。更是权力从少数中心化机构，回归到每一个普通人手中的开始。

墓碑科技

14,583 просмотров • 6 месяцев назад

又一个天王级项目浮出水面 AI 数据平台 Protege A 轮融资 3000 万美元，a16z 领投累计融资总额 6500 万美元 1/ 团队基因 Protege AI 联创 Travis May 为前 Datavant 创始人 Datavant 在 2021 年以 70 亿美元估值收购 Ciox Health，一跃成为美国最大的医疗数据交换平台另一位联创 Bobby Samuels 此前担任 Datavant 的 Privacy Hub 总监现在是 Protege AI 的 CEO 简而言之就是。两个在医疗数据领域已经跑通亿级市场的操盘手，试图重新定义 AI 训练数据的基础设施。 2/ Protege AI 的定位以及为什么是现在？ AI 进步有三大瓶颈：计算、模型、数据计算能力已经大幅扩展，模型架构也在持续优化。但获取高质量训练数据仍是最大难题。问题的核心在于：世界上最有价值的数据都是私有的、专有的这些数据分散在各个行业，缺乏统一的共享机制法律、隐私、知识产权壁垒让数据流通异常复杂 Protege 要做的就是成为 AI 开发中真实世界数据的基础设施。 3/ 结语随着 AI 变得更加多模态、更加嵌入现实世界工作流程，对特定领域授权数据的需求只会增长。这么一看，Protege 的叙事非常之性感。已加入追踪名单🫡

又一个天王级项目浮出水面 AI 数据平台 Protege A 轮融资 3000 万美元，a16z 领投累计融资总额 6500 万美元 1/ 团队基因 Protege AI 联创 Travis May 为前 Datavant 创始人 Datavant 在 2021 年以 70 亿美元估值收购 Ciox Health，一跃成为美国最大的医疗数据交换平台另一位联创 Bobby Samuels 此前担任 Datavant 的 Privacy Hub 总监现在是 Protege AI 的 CEO 简而言之就是。两个在医疗数据领域已经跑通亿级市场的操盘手，试图重新定义 AI 训练数据的基础设施。 2/ Protege AI 的定位以及为什么是现在？ AI 进步有三大瓶颈：计算、模型、数据计算能力已经大幅扩展，模型架构也在持续优化。但获取高质量训练数据仍是最大难题。问题的核心在于：世界上最有价值的数据都是私有的、专有的这些数据分散在各个行业，缺乏统一的共享机制法律、隐私、知识产权壁垒让数据流通异常复杂 Protege 要做的就是成为 AI 开发中真实世界数据的基础设施。 3/ 结语随着 AI 变得更加多模态、更加嵌入现实世界工作流程，对特定领域授权数据的需求只会增长。这么一看，Protege 的叙事非常之性感。已加入追踪名单🫡

小捕手 Chaos

22,456 просмотров • 7 месяцев назад

Google的教学视频《Introduction to Large Language Models | 大语言模型介绍》（中英双语字幕）这个视频介绍了大型语言模型（Large Language Models，LLMs）的概念、使用场景、提示调整以及Google的Gen AI开发工具。大型语言模型是深度学习的一个子集，可以预训练并进行特定目的的微调。这些模型经过训练，可以解决诸如文本分类、问题回答、文档摘要、跨行业的文本生成等常见语言问题。然后，可以利用相对较小的领域数据集对这些模型进行定制，以解决零售、金融、娱乐等不同领域的特定问题。大型语言模型的三个主要特征是：大型、通用性和预训练微调。"大型"既指训练数据集的巨大规模，也指参数的数量。"通用性"意味着这些模型足够解决常见问题。"预训练和微调"是指用大型数据集对大型语言模型进行一般性的预训练，然后用较小的数据集对其进行特定目的的微调。使用大型语言模型的好处包括：一种模型可用于不同的任务；微调大型语言模型需要的领域训练数据较少；随着数据和参数的增加，大型语言模型的性能也在持续增长。此外，视频还解释了传统编程、神经网络和生成模型的不同，以及预训练模型的LLM开发与传统的ML开发的区别。在自然语言处理中，提示设计和提示工程是两个密切相关的概念，这两者都涉及创建清晰、简洁、富有信息的提示。视频中还提到了三种类型的大型语言模型：通用语言模型、指令调整模型和对话调整模型。每种模型都需要以不同的方式进行提示。原始视频链接：

Google的教学视频《Introduction to Large Language Models | 大语言模型介绍》（中英双语字幕）这个视频介绍了大型语言模型（Large Language Models，LLMs）的概念、使用场景、提示调整以及Google的Gen AI开发工具。大型语言模型是深度学习的一个子集，可以预训练并进行特定目的的微调。这些模型经过训练，可以解决诸如文本分类、问题回答、文档摘要、跨行业的文本生成等常见语言问题。然后，可以利用相对较小的领域数据集对这些模型进行定制，以解决零售、金融、娱乐等不同领域的特定问题。大型语言模型的三个主要特征是：大型、通用性和预训练微调。"大型"既指训练数据集的巨大规模，也指参数的数量。"通用性"意味着这些模型足够解决常见问题。"预训练和微调"是指用大型数据集对大型语言模型进行一般性的预训练，然后用较小的数据集对其进行特定目的的微调。使用大型语言模型的好处包括：一种模型可用于不同的任务；微调大型语言模型需要的领域训练数据较少；随着数据和参数的增加，大型语言模型的性能也在持续增长。此外，视频还解释了传统编程、神经网络和生成模型的不同，以及预训练模型的LLM开发与传统的ML开发的区别。在自然语言处理中，提示设计和提示工程是两个密切相关的概念，这两者都涉及创建清晰、简洁、富有信息的提示。视频中还提到了三种类型的大型语言模型：通用语言模型、指令调整模型和对话调整模型。每种模型都需要以不同的方式进行提示。原始视频链接：

宝玉

114,706 просмотров • 3 лет назад

CES 2026黄仁勋的演讲上，最抢戏的莫过于这两个机器人小家伙了。但是老黄真正想展示的是将他们训练出来的Omniverse，让机器人在虚拟空间中就能完成这些灵活动作的训练。换种说法就是让合成数据训练机器人、自动驾驶等物理AI应用成为可能。

CES 2026黄仁勋的演讲上，最抢戏的莫过于这两个机器人小家伙了。但是老黄真正想展示的是将他们训练出来的Omniverse，让机器人在虚拟空间中就能完成这些灵活动作的训练。换种说法就是让合成数据训练机器人、自动驾驶等物理AI应用成为可能。

傅盛

114,052 просмотров • 8 месяцев назад

俺上电视啦! 聊聊 kimi-k3 这么猛为什么还要开源上周有幸接受了深圳卫视-科创最前沿栏目的采访, 主要聊了聊 Kimi-K3 这次取得如此牛的成绩背后的意义. 以及SOTA级别的模型就这样开放权重了, 不怕别人抄吗? 在我来看是真不怕的, 想象一下一个武林高手, 把自己的秘籍写成书, 免费送. 那是不是就意味着这些武林秘籍不是谁都练的. 大模型的情况也是这样的, 虽然权重也开源了, 训练技术也开源了, 但是, 最重要的, 训练使用的数据和经验, 这个是没开源的. 举个最典型的例子, 现在个人拿到kimi-k3的模型权重, 然后自己租算力微调, 大概率是会把模型越调越拉跨的. 就是因为既没有优质的后训练数据, 也没有优秀的后训练能力. 而现在大模型训练的数据其实大部分都是AI合成的了. 护城河已经从“静态的代码和模型权重”转移到了“持续的进化能力和数据飞轮”了. 所以即使全面复刻了 kimi-k3 的技术架构, 但是没有高质量合成数据流和持续的后训练体系, 也是没有办法竞争的. 但是 kimi-k3 开源获得的收益却是事实存在的, 不但能获得超高的曝光, 而且还能提升自己的社区影响力, 并且还能收获社区的正向反馈. 开源出来的训练工具链, 社区优秀的工程师在使用中也会不断的帮助反馈和提升. 形成整个生态的进步. 得道者多助这个道理是不会变的. #kimik3 #深圳卫视 #科创最前沿

俺上电视啦! 聊聊 kimi-k3 这么猛为什么还要开源上周有幸接受了深圳卫视-科创最前沿栏目的采访, 主要聊了聊 Kimi-K3 这次取得如此牛的成绩背后的意义. 以及SOTA级别的模型就这样开放权重了, 不怕别人抄吗? 在我来看是真不怕的, 想象一下一个武林高手, 把自己的秘籍写成书, 免费送. 那是不是就意味着这些武林秘籍不是谁都练的. 大模型的情况也是这样的, 虽然权重也开源了, 训练技术也开源了, 但是, 最重要的, 训练使用的数据和经验, 这个是没开源的. 举个最典型的例子, 现在个人拿到kimi-k3的模型权重, 然后自己租算力微调, 大概率是会把模型越调越拉跨的. 就是因为既没有优质的后训练数据, 也没有优秀的后训练能力. 而现在大模型训练的数据其实大部分都是AI合成的了. 护城河已经从“静态的代码和模型权重”转移到了“持续的进化能力和数据飞轮”了. 所以即使全面复刻了 kimi-k3 的技术架构, 但是没有高质量合成数据流和持续的后训练体系, 也是没有办法竞争的. 但是 kimi-k3 开源获得的收益却是事实存在的, 不但能获得超高的曝光, 而且还能提升自己的社区影响力, 并且还能收获社区的正向反馈. 开源出来的训练工具链, 社区优秀的工程师在使用中也会不断的帮助反馈和提升. 形成整个生态的进步. 得道者多助这个道理是不会变的. #kimik3 #深圳卫视 #科创最前沿

karminski-牙医

17,354 просмотров • 29 дней назад

给广大女性朋友们提个醒，现在的新能源很多都带哨兵模式，大家一定要注意自己的行为，避免成为资源（下面就是示例）。感觉前两年大家还讨论 AI模型厉不厉害，准确率多少、测试分数多少。但现在大部分都已经超越了，如果 AI 以后真的要参与市场，那只看这些测试数据其实不够。看到 Inference Labs 的数据，他们做的 TruthTensor 已经跑出了 110 多万个 AI agents。这些 AI 不只是做测试，而是在一个有奖励、有反馈的环境里运行。信息一直在变化，AI 的行为会受到奖励影响，做出决定之后马上就会有结果反馈。这样做的目的其实很直接，就是看看 AI 在真实经济环境里会怎么表现。因为如果以后 AI 真的参与交易、市场分析或者做一些决策，那就不能只看模型测试成绩，还要看它在真实环境里的表现。所以像 TruthTensor 这种系统，本质上就是把 AI 放到真实环境里跑一跑，看它在压力下会怎么做。这样才能更真实地评估 AI 的能力。 #InferenceLabs Inference Labs

给广大女性朋友们提个醒，现在的新能源很多都带哨兵模式，大家一定要注意自己的行为，避免成为资源（下面就是示例）。感觉前两年大家还讨论 AI模型厉不厉害，准确率多少、测试分数多少。但现在大部分都已经超越了，如果 AI 以后真的要参与市场，那只看这些测试数据其实不够。看到 Inference Labs 的数据，他们做的 TruthTensor 已经跑出了 110 多万个 AI agents。这些 AI 不只是做测试，而是在一个有奖励、有反馈的环境里运行。信息一直在变化，AI 的行为会受到奖励影响，做出决定之后马上就会有结果反馈。这样做的目的其实很直接，就是看看 AI 在真实经济环境里会怎么表现。因为如果以后 AI 真的参与交易、市场分析或者做一些决策，那就不能只看模型测试成绩，还要看它在真实环境里的表现。所以像 TruthTensor 这种系统，本质上就是把 AI 放到真实环境里跑一跑，看它在压力下会怎么做。这样才能更真实地评估 AI 的能力。 #InferenceLabs Inference Labs

Michael 宝塔镇河妖🧙🏿‍♀️

12,963 просмотров • 5 месяцев назад

卧槽，分享一个Google 官方神器：Google AI Edge Gallery ，可以直接在手机上运行Gemma4等本地模型‼️ 在你的手机上，纯本地、断网跑大语言模型。 📱 这是什么？能做什么？ 1. 官方出品：由 Google 团队发布，底层基于 LiteRT 框架。 2. 移动端跑大模型：直接在手机里下载并运行 Gemma、Llama、Qwen 等开源模型。 3. 榨干本地硬件：不调用任何云端 API，纯吃你手机的 CPU/GPU/NPU 算力进行推理。 4. 极客体验：完全断网可用，真正的零网络延迟，数据绝对隐私。 💡 为什么这个信号很重要？端侧算力（Edge AI）的叙事正在肉眼可见地落地。如果能把高频、轻量的 AI 任务下放到用户的设备端，不仅能砍掉海量的云端算力成本，还会催生出全新的 AI 应用形态。无论是关注“AI 手机”概念的投研玩家，还是做 AI 工具的开发者，都建议去 Google Play 下来当沙盒玩玩，亲自测一下现在的移动端硬件到底能把模型跑到什么水平。 #AI #EdgeAI #Google #大模型 #端侧算力 #Tech 教程👇👇👇👇

卧槽，分享一个Google 官方神器：Google AI Edge Gallery ，可以直接在手机上运行Gemma4等本地模型‼️ 在你的手机上，纯本地、断网跑大语言模型。 📱 这是什么？能做什么？ 1. 官方出品：由 Google 团队发布，底层基于 LiteRT 框架。 2. 移动端跑大模型：直接在手机里下载并运行 Gemma、Llama、Qwen 等开源模型。 3. 榨干本地硬件：不调用任何云端 API，纯吃你手机的 CPU/GPU/NPU 算力进行推理。 4. 极客体验：完全断网可用，真正的零网络延迟，数据绝对隐私。 💡 为什么这个信号很重要？端侧算力（Edge AI）的叙事正在肉眼可见地落地。如果能把高频、轻量的 AI 任务下放到用户的设备端，不仅能砍掉海量的云端算力成本，还会催生出全新的 AI 应用形态。无论是关注“AI 手机”概念的投研玩家，还是做 AI 工具的开发者，都建议去 Google Play 下来当沙盒玩玩，亲自测一下现在的移动端硬件到底能把模型跑到什么水平。 #AI #EdgeAI #Google #大模型 #端侧算力 #Tech 教程👇👇👇👇

比特币橙子Trader

24,419 просмотров • 5 месяцев назад

看到这个机器人乞丐差点没把我笑坏不活了，真是有创意啊，就是肢体动作还是有点假！这不，Axis Robotics 就来了，其实他就是机器人核心数据集采的项目，数据越多，越逼真，未来的机器人就越逼真，拟人化越好！其实目前的机器人数据集采方式不多，有直接操控真实机器人采集的，这就是硬采，虽然精准，但成本太高！还有就是直接采集真人的动作，映射到机器人上，这个效率会很高，也是采用比较多的方式！还有那就是目前我们AXIS项目的采集方式，直接使用浏览器，模拟物理环境，让我们这些钳工模拟操作，可以效率很高，虽然轨迹的无效率也很高，但贵在可以让成千上万人生产提供，提高数据总量，采用有效数据量也就大大提高！简单说，让全球的人组织起来，提供数据贡献！并且通过web3方式分发激励，一举两得！未来一旦完善，我也可以弄个真正乞丐机器人去街头了，在家里数钱，哈哈！当然这是玩笑，未来随着数据采集的丰富，真正高仿真的拟人化的机器人来到我们身边，生活，生产，那才是绝对奇妙的事情！😆😆😆😆！

看到这个机器人乞丐差点没把我笑坏不活了，真是有创意啊，就是肢体动作还是有点假！这不，Axis Robotics 就来了，其实他就是机器人核心数据集采的项目，数据越多，越逼真，未来的机器人就越逼真，拟人化越好！其实目前的机器人数据集采方式不多，有直接操控真实机器人采集的，这就是硬采，虽然精准，但成本太高！还有就是直接采集真人的动作，映射到机器人上，这个效率会很高，也是采用比较多的方式！还有那就是目前我们AXIS项目的采集方式，直接使用浏览器，模拟物理环境，让我们这些钳工模拟操作，可以效率很高，虽然轨迹的无效率也很高，但贵在可以让成千上万人生产提供，提高数据总量，采用有效数据量也就大大提高！简单说，让全球的人组织起来，提供数据贡献！并且通过web3方式分发激励，一举两得！未来一旦完善，我也可以弄个真正乞丐机器人去街头了，在家里数钱，哈哈！当然这是玩笑，未来随着数据采集的丰富，真正高仿真的拟人化的机器人来到我们身边，生活，生产，那才是绝对奇妙的事情！😆😆😆😆！

龙神-Dragon God🐉 🌊🕊️

19,225 просмотров • 5 дней назад

发现一个讲的很细的大语言模型微调教程，详细介绍了整个流程,包括数据准备、参数设置、资源监控等关键步骤。基本没有技术能力也可以完成微调。想要了解 LLM 原理的可以按这个实践一下。时间轴： 0:00 概念概览 3:02 自定义数据的准备 8:17 微调操作演示（T4 版本） 16:52 微调操作演示（A100 版本） 19:13 在 Hugging Face 上的保存与使用方法文字版整理： ✲ 如何使用自己的数据对大语言模型进行微调(fine-tuning)：对大语言模型进行微调并不一定非常困难和昂贵。通过使用自己的数据集对预训练模型进行微调,可以让模型更好地适应特定的任务需求。微调过程能够在保留原模型语言理解能力的基础上,进一步提升其在特定领域或任务上的表现。 ✲ 使用Hugging Face模型库和Unslaw工具进行模型微调： Hugging Face提供了丰富的预训练语言模型资源,用户可以根据任务需求选择合适的模型作为基础进行微调。而Unslaw工具则提供了一套简单高效的微调流程,其优点包括出色的内存使用效率以及对扩展上下文窗口的支持。通过Unslaw,用户能够以较低的资源开销完成模型微调。 ✲ 在Google Colab上使用免费/付费GPU资源进行微调： Google Colab提供了免费和付费的GPU资源,用户可以根据任务的复杂程度选择使用T4或A100。对于大多数微调任务而言,免费的T4资源已经足够。但如果数据集较大或模型较为复杂,升级到A100可以获得更充裕的算力支持。Colab为用户提供了一个易于上手的模型微调环境。 ✲ 准备自定义的微调数据集：准备微调数据的过程并不复杂。用户可以直接使用纯文本文件作为数据来源,而无需进行额外的预处理。为了获得理想的微调效果,建议至少准备100-200个样本。在示例中,为了快速演示,仅使用了几个样本。通过一个简单的Python脚本,可以方便地将原始文本数据转换为微调所需的JSON格式。 ✲ 修改Colab笔记本中的参数设置：在Colab笔记本中,需要根据实际情况调整一些参数。例如,可以根据数据集的token数量来设置max_sequence_length参数,借助rope scaling技术,模型能够支持任意长度的上下文。此外,还可以选择使用Instruct系列模型作为base model,直接在其基础上进行指令微调。为了节省资源,可以启用4-bit量化。同时,参考Q-Lora论文的建议,调整R值和alpha值,以在资源占用和模型质量之间取得平衡。 ✲ 训练过程中的资源使用监控：在模型训练过程中,用户可以通过Colab的资源监控选项卡实时观察GPU、内存和硬盘的使用情况。如果发现资源不足,可以考虑从T4升级到A100。通过监控资源占用,用户能够及时调整配置,确保微调任务稳定高效地进行。 ✲ 模型训练的loss变化和最佳checkpoint的选择：通过记录不同训练步数下的loss值,可以判断模型的收敛情况。理想的做法是选择loss下降曲线趋于平缓的点作为最佳checkpoint,这样既能充分训练模型,又能避免过拟合。为了事后方便筛选,可以设置每隔一定步数保存一次checkpoint。 ✲ 模型微调完成后的保存与使用：微调完成后,可以选择只保存adapter layers以加快保存速度。但更推荐的做法是保存完整模型,并使用float16精度,这样可以得到一个更通用和标准的模型格式,方便后续的部署和使用。 ✲ 在Hugging Face上公开或私有发布微调后的模型：用户可以选择在Hugging Face的模型库中公开或私有地发布自己微调后的模型。发布之前,需要在Hugging Face账号中创建一个访问令牌,并在发布时提供相应的用户名和令牌信息。通过在Hugging Face上发布模型,用户可以方便地与他人分享自己的微调成果。 ✲ 使用微调后的模型进行推理(inference)：在使用微调后的模型进行推理时,首先需要加载保存的模型。接着,使用tokenizer对输入的文本进行处理,并将其传入模型。进行推理时,max_length参数需要与训练时保持一致,以确保生成的结果不会被截断。完成以上步骤后,就可以利用微调后的模型进行各种实际应用了。

发现一个讲的很细的大语言模型微调教程，详细介绍了整个流程,包括数据准备、参数设置、资源监控等关键步骤。基本没有技术能力也可以完成微调。想要了解 LLM 原理的可以按这个实践一下。时间轴： 0:00 概念概览 3:02 自定义数据的准备 8:17 微调操作演示（T4 版本） 16:52 微调操作演示（A100 版本） 19:13 在 Hugging Face 上的保存与使用方法文字版整理： ✲ 如何使用自己的数据对大语言模型进行微调(fine-tuning)：对大语言模型进行微调并不一定非常困难和昂贵。通过使用自己的数据集对预训练模型进行微调,可以让模型更好地适应特定的任务需求。微调过程能够在保留原模型语言理解能力的基础上,进一步提升其在特定领域或任务上的表现。 ✲ 使用Hugging Face模型库和Unslaw工具进行模型微调： Hugging Face提供了丰富的预训练语言模型资源,用户可以根据任务需求选择合适的模型作为基础进行微调。而Unslaw工具则提供了一套简单高效的微调流程,其优点包括出色的内存使用效率以及对扩展上下文窗口的支持。通过Unslaw,用户能够以较低的资源开销完成模型微调。 ✲ 在Google Colab上使用免费/付费GPU资源进行微调： Google Colab提供了免费和付费的GPU资源,用户可以根据任务的复杂程度选择使用T4或A100。对于大多数微调任务而言,免费的T4资源已经足够。但如果数据集较大或模型较为复杂,升级到A100可以获得更充裕的算力支持。Colab为用户提供了一个易于上手的模型微调环境。 ✲ 准备自定义的微调数据集：准备微调数据的过程并不复杂。用户可以直接使用纯文本文件作为数据来源,而无需进行额外的预处理。为了获得理想的微调效果,建议至少准备100-200个样本。在示例中,为了快速演示,仅使用了几个样本。通过一个简单的Python脚本,可以方便地将原始文本数据转换为微调所需的JSON格式。 ✲ 修改Colab笔记本中的参数设置：在Colab笔记本中,需要根据实际情况调整一些参数。例如,可以根据数据集的token数量来设置max_sequence_length参数,借助rope scaling技术,模型能够支持任意长度的上下文。此外,还可以选择使用Instruct系列模型作为base model,直接在其基础上进行指令微调。为了节省资源,可以启用4-bit量化。同时,参考Q-Lora论文的建议,调整R值和alpha值,以在资源占用和模型质量之间取得平衡。 ✲ 训练过程中的资源使用监控：在模型训练过程中,用户可以通过Colab的资源监控选项卡实时观察GPU、内存和硬盘的使用情况。如果发现资源不足,可以考虑从T4升级到A100。通过监控资源占用,用户能够及时调整配置,确保微调任务稳定高效地进行。 ✲ 模型训练的loss变化和最佳checkpoint的选择：通过记录不同训练步数下的loss值,可以判断模型的收敛情况。理想的做法是选择loss下降曲线趋于平缓的点作为最佳checkpoint,这样既能充分训练模型,又能避免过拟合。为了事后方便筛选,可以设置每隔一定步数保存一次checkpoint。 ✲ 模型微调完成后的保存与使用：微调完成后,可以选择只保存adapter layers以加快保存速度。但更推荐的做法是保存完整模型,并使用float16精度,这样可以得到一个更通用和标准的模型格式,方便后续的部署和使用。 ✲ 在Hugging Face上公开或私有发布微调后的模型：用户可以选择在Hugging Face的模型库中公开或私有地发布自己微调后的模型。发布之前,需要在Hugging Face账号中创建一个访问令牌,并在发布时提供相应的用户名和令牌信息。通过在Hugging Face上发布模型,用户可以方便地与他人分享自己的微调成果。 ✲ 使用微调后的模型进行推理(inference)：在使用微调后的模型进行推理时,首先需要加载保存的模型。接着,使用tokenizer对输入的文本进行处理,并将其传入模型。进行推理时,max_length参数需要与训练时保持一致,以确保生成的结果不会被截断。完成以上步骤后,就可以利用微调后的模型进行各种实际应用了。

歸藏(guizang.ai)

61,931 просмотров • 2 лет назад

女朋友就这么的被劫走了。天天吹AI模型多强，全是虚的。现实里AI要用在仓库、机场、工地、交通这种地方，光靠概率判断根本不够用，出了事谁都担不起。真落地的AI看的是系统，不是参数。 AI一旦指挥实际操作，必须有据可查，不能瞎猜。 Inference Labs 做的可验证推理，就是把AI每一次决策变成可审计记录，不搞模糊判断，不搞盲目信任。工业级场景就得这么干，不然全是风险。关注这种能落地的项目，比追模型噱头有用得多。 #VerifiableAI #zkML #InferenceLabs Inference Labs

女朋友就这么的被劫走了。天天吹AI模型多强，全是虚的。现实里AI要用在仓库、机场、工地、交通这种地方，光靠概率判断根本不够用，出了事谁都担不起。真落地的AI看的是系统，不是参数。 AI一旦指挥实际操作，必须有据可查，不能瞎猜。 Inference Labs 做的可验证推理，就是把AI每一次决策变成可审计记录，不搞模糊判断，不搞盲目信任。工业级场景就得这么干，不然全是风险。关注这种能落地的项目，比追模型噱头有用得多。 #VerifiableAI #zkML #InferenceLabs Inference Labs

币自由 🐬

69,739 просмотров • 4 месяцев назад