Video wird geladen...

Video konnte nicht geladen werden

Beim Laden dieses Videos ist ein Problem aufgetreten. Dies könnte an einem vorübergehenden Netzwerkproblem liegen oder das Video ist möglicherweise nicht verfügbar.

💥超乎想象！Qwen3.8-27B Q5本地量化，纯对话写了整整一小时…… 结果直接生成出了一座【星夜摩天轮】——星空倒映在摩天轮上，轮舱里全是光点，夜风吹过金属骨架还带点浪漫赛博感。 27B本地模型，不联网不充钱，就能稳定输出这种连贯又有画面感的长文？性能远超预期！以前觉得本地小模型只是玩具，现在直接封神。谁还没用赶紧去下，消费级显卡就能跑！ #Qwen38 #本地AI #开源模型 #星夜摩天轮 #阿里巴巴

SuSu_酥酥👅

9,155 subscribers

13,870 Aufrufe • vor 2 Tagen •via X (Twitter)

Anya Rossi• Live Now

Private livecam show

0 Kommentare

Keine Kommentare verfügbar

Kommentare vom Original-Post werden hier angezeigt

Ähnliche Videos

阿里这次有点猛：最新旗舰模型，直接免费开放。 Qwen3.8-Max-Preview 已经上线不用 API Key，不用绑卡，登录账号、选中模型、打开 Web Dev 模式，就能直接用。它最值得试的不是聊天，而是一句话生成完整网站。页面、动画、响应式布局、实时预览，基本都能一次给你搭出来。甚至只输入一句“hello”，它都能生成一个能交互的 Landing Page。更关键的是，现在还处于免费 Preview 阶段。这意味着你可以先拿它和 Claude Code、Codex、Cursor 跑同一个真实任务，再决定值不值得接入工作流。不过先别急着吹性能：官方 Benchmark 还没公布，网上的跑分和“碾压”结论都只能当参考。模型强不强，别看宣传，丢个真实项目进去跑一遍就知道了。

阿里这次有点猛：最新旗舰模型，直接免费开放。 Qwen3.8-Max-Preview 已经上线不用 API Key，不用绑卡，登录账号、选中模型、打开 Web Dev 模式，就能直接用。它最值得试的不是聊天，而是一句话生成完整网站。页面、动画、响应式布局、实时预览，基本都能一次给你搭出来。甚至只输入一句“hello”，它都能生成一个能交互的 Landing Page。更关键的是，现在还处于免费 Preview 阶段。这意味着你可以先拿它和 Claude Code、Codex、Cursor 跑同一个真实任务，再决定值不值得接入工作流。不过先别急着吹性能：官方 Benchmark 还没公布，网上的跑分和“碾压”结论都只能当参考。模型强不强，别看宣传，丢个真实项目进去跑一遍就知道了。

阿良｜AI 工作流

76,745 Aufrufe • vor 28 Tagen

NVIDIA 刚开源的这个 LocateAnything 模型，真的有点强。🤯 以前那种视觉定位模型，生成坐标是一个数字一个数字往外蹦（像挤牙膏一样），又慢又不稳定。这个新模型用了“并行边界框解码”，直接一步预测完整坐标，速度快多了，框得也准。不管是找视频里的物体，还是识别UI界面、OCR文字，它都能搞定。最关键是模型很小，只有 3B 参数（约7.8GB），消费级显卡也能本地跑！🏠💻 做计算机视觉或者多模态的朋友，这个必须得试试。项目已开源，手慢无！👇

NVIDIA 刚开源的这个 LocateAnything 模型，真的有点强。🤯 以前那种视觉定位模型，生成坐标是一个数字一个数字往外蹦（像挤牙膏一样），又慢又不稳定。这个新模型用了“并行边界框解码”，直接一步预测完整坐标，速度快多了，框得也准。不管是找视频里的物体，还是识别UI界面、OCR文字，它都能搞定。最关键是模型很小，只有 3B 参数（约7.8GB），消费级显卡也能本地跑！🏠💻 做计算机视觉或者多模态的朋友，这个必须得试试。项目已开源，手慢无！👇

Vincent

37,352 Aufrufe • vor 2 Monaten

Dario Amodei 这段谈 AI 竞争，信息量挺大。很多人以为中国开源模型追上来以后，前沿模型公司的护城河就没了。但 Dario 的判断刚好相反：在 AI 里，真正的护城河不是开不开源，也不是谁模型更多。而是 intelligence 本身。他说得很直白：大家不会为了便宜一点、开放一点，就长期接受“没那么聪明”的模型。只要前沿模型每年还在 10 倍级别增长，领先者和追赶者之间就不是差一点，而是可能差一个时代。

Dario Amodei 这段谈 AI 竞争，信息量挺大。很多人以为中国开源模型追上来以后，前沿模型公司的护城河就没了。但 Dario 的判断刚好相反：在 AI 里，真正的护城河不是开不开源，也不是谁模型更多。而是 intelligence 本身。他说得很直白：大家不会为了便宜一点、开放一点，就长期接受“没那么聪明”的模型。只要前沿模型每年还在 10 倍级别增长，领先者和追赶者之间就不是差一点，而是可能差一个时代。

Vincent

73,166 Aufrufe • vor 2 Monaten

Google刚发布了 Gemma 4，260 亿参数，开源免费，能在本地设备上离线运行。讲真，这才是 2026 年最合理的 AI 技术栈: 本地模型兜底，顶级模型按需调用。但我认为参数和免费都不是重点，真正值得注意的是它原生支持函数调用，意味着这个模型能自主使用工具，浏览网页，执行代码，调用 API，直接充当一个完整的本地智能体，全程不联网，全程不花钱。 260 亿参数，实测性能对标 6850 亿参数级别的行业顶级模型，跑在普通笔记本上就行。部署只要三行命令： - 安装 Ollama： - curl -fsSL | sh - 拉取模型： ollama pull gemma4 两分钟，顶级本地 AI 就绑在你自己的硬件上了。我计划的用法是这样的，欢迎交流：日常的研究分析、代码审查、文稿起草、数据处理，全扔给本地 Gemma 4，用 MCP 服务器接上工具调用能力，网页浏览、数据库对接、API 接入都能覆盖，只有遇到真正需要顶级推理的硬核任务时，才请 Claude Code 出场。以前每个月在 AI 服务上花几百美元，现在 90% 的日常场景本地免费搞定，只为那 10% 的高难度任务付费。

Google刚发布了 Gemma 4，260 亿参数，开源免费，能在本地设备上离线运行。讲真，这才是 2026 年最合理的 AI 技术栈: 本地模型兜底，顶级模型按需调用。但我认为参数和免费都不是重点，真正值得注意的是它原生支持函数调用，意味着这个模型能自主使用工具，浏览网页，执行代码，调用 API，直接充当一个完整的本地智能体，全程不联网，全程不花钱。 260 亿参数，实测性能对标 6850 亿参数级别的行业顶级模型，跑在普通笔记本上就行。部署只要三行命令： - 安装 Ollama： - curl -fsSL | sh - 拉取模型： ollama pull gemma4 两分钟，顶级本地 AI 就绑在你自己的硬件上了。我计划的用法是这样的，欢迎交流：日常的研究分析、代码审查、文稿起草、数据处理，全扔给本地 Gemma 4，用 MCP 服务器接上工具调用能力，网页浏览、数据库对接、API 接入都能覆盖，只有遇到真正需要顶级推理的硬核任务时，才请 Claude Code 出场。以前每个月在 AI 服务上花几百美元，现在 90% 的日常场景本地免费搞定，只为那 10% 的高难度任务付费。

AYi

202,627 Aufrufe • vor 4 Monaten

单卡 700TPS! Diffusion Gemma 来了! Google 刚刚发布了 Gemma 小模型的 Diffusion 版本! 大小26B, 激活参数量4B, 最重要的是, 这次还跟 NVIDIA 合作针对4090和5090优化了一波, 5090每秒能生成700+token! 给不知道什么是 Diffusion 大模型的同学科普一下, 传统大模型都是一个字一个字吐出来的, 而 Diffusion 大模型则是如同刮奖一样, 是一片一片出来的, 速度高是 Diffusion 大模型的优点. 有得必有失, 缺点当然就是输出质量没有传统大模型好了. 不过这次的 Diffusion Gemma 还是比之前的 Diffusion 文本大模型好不少, AIME 2026(数学能力测试) 能达到 Gemma4-26B-A4B 的94%的水平, 最差的是tau2 bench(考验Agent能力的测试), 也能达到82%. 这个模型大小 4bit 量化版本 16G 显存就能运行了, 另外, 我突发奇想, 这个模型能不能作为 gemma4 dense 模型的草稿模型用来投机解码? 感兴趣的同学可以试试! #diffusiongemma #gemma #gemma4 #google

单卡 700TPS! Diffusion Gemma 来了! Google 刚刚发布了 Gemma 小模型的 Diffusion 版本! 大小26B, 激活参数量4B, 最重要的是, 这次还跟 NVIDIA 合作针对4090和5090优化了一波, 5090每秒能生成700+token! 给不知道什么是 Diffusion 大模型的同学科普一下, 传统大模型都是一个字一个字吐出来的, 而 Diffusion 大模型则是如同刮奖一样, 是一片一片出来的, 速度高是 Diffusion 大模型的优点. 有得必有失, 缺点当然就是输出质量没有传统大模型好了. 不过这次的 Diffusion Gemma 还是比之前的 Diffusion 文本大模型好不少, AIME 2026(数学能力测试) 能达到 Gemma4-26B-A4B 的94%的水平, 最差的是tau2 bench(考验Agent能力的测试), 也能达到82%. 这个模型大小 4bit 量化版本 16G 显存就能运行了, 另外, 我突发奇想, 这个模型能不能作为 gemma4 dense 模型的草稿模型用来投机解码? 感兴趣的同学可以试试! #diffusiongemma #gemma #gemma4 #google

karminski-牙医

12,374 Aufrufe • vor 2 Monaten

更新 Intel B580 显卡最新驱动之后，我其他啥都没改，Win11 下本地跑 AI 正常了， 7b 能到 50+tokens/s, 14b 模型则能到 30t/s。看到「本地跑模型无用」的论调，实际上我自己就已经在本地使用了，对于强隐私性需求(比如邮件摘要)，应该不会有人想交给第三方，如果能用不高的成本，self-host 一个「智商还行」且安全的的本地大模型，不需要很聪明，恰好能满足我这种用户需求。

更新 Intel B580 显卡最新驱动之后，我其他啥都没改，Win11 下本地跑 AI 正常了， 7b 能到 50+tokens/s, 14b 模型则能到 30t/s。看到「本地跑模型无用」的论调，实际上我自己就已经在本地使用了，对于强隐私性需求(比如邮件摘要)，应该不会有人想交给第三方，如果能用不高的成本，self-host 一个「智商还行」且安全的的本地大模型，不需要很聪明，恰好能满足我这种用户需求。

luolei

35,340 Aufrufe • vor 1 Jahr

AI界大佬李飞飞眼光和远见是真的超前啊！直言：“空间智能是人工智能的下一个前沿” 在11个月年YC 的访谈中李飞飞 Fei-Fei Li ： “世界模型要超越平面像素、超越语言，真正捕捉3D结构和空间智能。” 这句话和因果世界模型简直是天作之合。杨立昆、李飞飞这些人在推的世界模型，本质上都在往“真正理解物理世界”这个方向走。但光有3D结构和空间智能还不够，如果模型只学会了相关性，桌子高了2cm还是会直接翻车。 Aether AI的因果世界模型正好补上了这一块：不只是看到“手伸过去物体掉下来”，而是理解“为什么掉、怎样才能不掉”。因果结构让世界模型从“看起来像”进化到“真正懂”。现在两条路线在同时推进：一条是让世界模型拥有更强的3D和空间表征，另一条是给它装上因果推理引擎。两者结合之后，物理AI才有可能从“会模仿”变成“会思考”。这波理念上的对齐，感觉具身智能的下一个范式已经在慢慢成形了。原访谈完整版地址见评论区👇🏻

AI界大佬李飞飞眼光和远见是真的超前啊！直言：“空间智能是人工智能的下一个前沿” 在11个月年YC 的访谈中李飞飞 Fei-Fei Li ： “世界模型要超越平面像素、超越语言，真正捕捉3D结构和空间智能。” 这句话和因果世界模型简直是天作之合。杨立昆、李飞飞这些人在推的世界模型，本质上都在往“真正理解物理世界”这个方向走。但光有3D结构和空间智能还不够，如果模型只学会了相关性，桌子高了2cm还是会直接翻车。 Aether AI的因果世界模型正好补上了这一块：不只是看到“手伸过去物体掉下来”，而是理解“为什么掉、怎样才能不掉”。因果结构让世界模型从“看起来像”进化到“真正懂”。现在两条路线在同时推进：一条是让世界模型拥有更强的3D和空间表征，另一条是给它装上因果推理引擎。两者结合之后，物理AI才有可能从“会模仿”变成“会思考”。这波理念上的对齐，感觉具身智能的下一个范式已经在慢慢成形了。原访谈完整版地址见评论区👇🏻

Berryxia.AI

21,422 Aufrufe • vor 2 Monaten

可以让你的 OpenClaw 在 mac mini m4 上装一下这个，qwen3-tts 本地小模型 Mac 量化版，如果是其他机器，应该也有对应的可以跑。然后，你让它用 Serena 的温柔正常语速讲一段小故事。你就可以得到这个视频里的语音效果。我之前没咋研究过本地语音模型，我感觉挺不错的。

可以让你的 OpenClaw 在 mac mini m4 上装一下这个，qwen3-tts 本地小模型 Mac 量化版，如果是其他机器，应该也有对应的可以跑。然后，你让它用 Serena 的温柔正常语速讲一段小故事。你就可以得到这个视频里的语音效果。我之前没咋研究过本地语音模型，我感觉挺不错的。

马天翼

28,452 Aufrufe • vor 6 Monaten

发现一个能直接省掉每天2小时重复劳动的东西。文档提取、信息结构化这块，之前靠正则、靠手写NER、靠天价API、靠人工熬夜抄数据，现在基本可以宣布进入倒计时了。 Google 刚开源了 LangExtract。一句话讲清楚它能干嘛：把任何乱七八糟的长文本（合同、报告、论文、会议纪要，哪怕上百页），直接变成干净、结构化、还能回溯原文的数据。而且不是那种“大概提取一下就行”的半成品。它会把每一条结果精确映射回原文的具体位置，生成一个可交互的HTML页面，点进去就能核对。做合规、做审计、做知识库的人，看到这个功能基本会直接尖叫。支持 Gemini、Ollama、本地模型，想省钱就本地跑，想效果好就上云。安装极其简单：pip install langextract，几分钟就能跑起来。以前那些脆弱的正则表达式、自己维护的NER管道、一年几十万的提取服务，现在看着都有点滑稽了。免费、开源、真能干活。

发现一个能直接省掉每天2小时重复劳动的东西。文档提取、信息结构化这块，之前靠正则、靠手写NER、靠天价API、靠人工熬夜抄数据，现在基本可以宣布进入倒计时了。 Google 刚开源了 LangExtract。一句话讲清楚它能干嘛：把任何乱七八糟的长文本（合同、报告、论文、会议纪要，哪怕上百页），直接变成干净、结构化、还能回溯原文的数据。而且不是那种“大概提取一下就行”的半成品。它会把每一条结果精确映射回原文的具体位置，生成一个可交互的HTML页面，点进去就能核对。做合规、做审计、做知识库的人，看到这个功能基本会直接尖叫。支持 Gemini、Ollama、本地模型，想省钱就本地跑，想效果好就上云。安装极其简单：pip install langextract，几分钟就能跑起来。以前那些脆弱的正则表达式、自己维护的NER管道、一年几十万的提取服务，现在看着都有点滑稽了。免费、开源、真能干活。

开发者Hailey

22,868 Aufrufe • vor 7 Tagen

Deepseek V4 Flash 真的惊艳到我了，我就用一句话就生成了一个AI控制台。我使用open code+Deepseek V4 Flash测试了一下模型的能力，总共不到五十秒，就给我生成了对应能力了。主要是该有的模块都有，而且很多细节上面做了特定的优化。模块划分： 1、仪表盘：做中央把控看模型消耗。 2、任务：看任务指派和模型上下文处理。 3、对话：直接在网页上可以和AI直接对话。现在最重要的是open code还能免费使用，可以马上上手体验一下，国产模型是越来越强了，以后真的可以不使用国外模型了。

Deepseek V4 Flash 真的惊艳到我了，我就用一句话就生成了一个AI控制台。我使用open code+Deepseek V4 Flash测试了一下模型的能力，总共不到五十秒，就给我生成了对应能力了。主要是该有的模块都有，而且很多细节上面做了特定的优化。模块划分： 1、仪表盘：做中央把控看模型消耗。 2、任务：看任务指派和模型上下文处理。 3、对话：直接在网页上可以和AI直接对话。现在最重要的是open code还能免费使用，可以马上上手体验一下，国产模型是越来越强了，以后真的可以不使用国外模型了。

小墨同学

27,520 Aufrufe • vor 16 Tagen

Codex做视频的工作流基本跑的差不多了。目前还差一个中文断句+语句组织skill、好一点的钩子skill(不同类型的视频需要不同类型的钩子) 总体上细节能够完善的地方还有不少，但是能够确定的是以后也不用自己费劲录自己的口播视频了，自己的数字人也能够P好看一点，减少出镜容貌焦虑。感谢AI大时代。下面这个视频就是寥寥两轮提示词三四句话做出来的(其中一个风格模板)。等我整理一下，明天开源😋

Codex做视频的工作流基本跑的差不多了。目前还差一个中文断句+语句组织skill、好一点的钩子skill(不同类型的视频需要不同类型的钩子) 总体上细节能够完善的地方还有不少，但是能够确定的是以后也不用自己费劲录自己的口播视频了，自己的数字人也能够P好看一点，减少出镜容貌焦虑。感谢AI大时代。下面这个视频就是寥寥两轮提示词三四句话做出来的(其中一个风格模板)。等我整理一下，明天开源😋

雪踏乌云

24,790 Aufrufe • vor 23 Tagen

著名机构SemiAnalysis的研究员给了一个很有趣的观点--关于中国的开源模型 Jordan Nanos Jordan Nanos 是 SemiAnalysi 的AI 研究员，他说：开源模型现在看起来追上了前沿闭源模型，其实完全是“人为”追平的直接原因就在美国政府身上——他们对Anthropic施加了限制，导致我们根本拿不到这些实验室真正最强的模型最明显的例子就是Mythos和Fable：我根本用不了Mythos，只能偶尔“好好求一下”才能用上Fable 至于OpenAI的5.6 Sol，我们的判断是它甚至都不是OpenAI训练过的最大模型，规模都没到4.5那个级别，他们肯定在某个地方还藏着更大的模型

著名机构SemiAnalysis的研究员给了一个很有趣的观点--关于中国的开源模型 Jordan Nanos Jordan Nanos 是 SemiAnalysi 的AI 研究员，他说：开源模型现在看起来追上了前沿闭源模型，其实完全是“人为”追平的直接原因就在美国政府身上——他们对Anthropic施加了限制，导致我们根本拿不到这些实验室真正最强的模型最明显的例子就是Mythos和Fable：我根本用不了Mythos，只能偶尔“好好求一下”才能用上Fable 至于OpenAI的5.6 Sol，我们的判断是它甚至都不是OpenAI训练过的最大模型，规模都没到4.5那个级别，他们肯定在某个地方还藏着更大的模型

梭哈.AI

90,037 Aufrufe • vor 1 Monat

每个人都能买得起英伟达发布个人AI超级计算机，能运行2000亿参数的大模型。 NVIDIA 今天在CES 2025大会上发布了 NVIDIA Project DIGITS，这是一款能放在你桌面上的个人AI超级计算机。将传统上需要大型数据中心才能完成的 AI 计算，带到每个人的桌面。‘ Project DIGITS 采用全新的 NVIDIA GB10 Grace Blackwell Superchip，能够提供 1 PFLOP（每秒一千万亿次浮点运算）的AI计算性能。设计目的用于原型开发、微调以及运行大型AI模型，使用户能够在本地桌面系统上开发和运行推理模型，然后无缝部署到云或数据中心也就是它能在你的本地就能运行超大的AI模型，能够运行高达 2000亿参数的大语言模型。通过 NVIDIA ConnectX 网络，两台 Project DIGITS 超级计算机连接起来，可以运行 4050亿参数模型。而且支持在本地电脑上开发和测试AI模型，然后快速部署到云端或数据中心。简单来说，它就像是给每个开发者配了一台袖珍的AI超级计算机！

每个人都能买得起英伟达发布个人AI超级计算机，能运行2000亿参数的大模型。 NVIDIA 今天在CES 2025大会上发布了 NVIDIA Project DIGITS，这是一款能放在你桌面上的个人AI超级计算机。将传统上需要大型数据中心才能完成的 AI 计算，带到每个人的桌面。‘ Project DIGITS 采用全新的 NVIDIA GB10 Grace Blackwell Superchip，能够提供 1 PFLOP（每秒一千万亿次浮点运算）的AI计算性能。设计目的用于原型开发、微调以及运行大型AI模型，使用户能够在本地桌面系统上开发和运行推理模型，然后无缝部署到云或数据中心也就是它能在你的本地就能运行超大的AI模型，能够运行高达 2000亿参数的大语言模型。通过 NVIDIA ConnectX 网络，两台 Project DIGITS 超级计算机连接起来，可以运行 4050亿参数模型。而且支持在本地电脑上开发和测试AI模型，然后快速部署到云端或数据中心。简单来说，它就像是给每个开发者配了一台袖珍的AI超级计算机！

小互

85,713 Aufrufe • vor 1 Jahr

昨天我随手输入一句“做一个CS风格的射击游戏”， Makeplay.ai | Free AI Game Maker 直接给我整出了完整可玩的FPS：枪、地图、音效、敌人全自动生成！今天又输入一句“做一款超级玛丽游戏”，结果仿照矿工马里奥、跳跃、吃蘑菇、关卡音乐……全部一次成型，电脑和手机浏览器就能开玩！完全0代码、0素材、0学习成本，一句话就生成完整游戏，还免费！这已经不是做游戏了，是在“导演”游戏。谁还没试过的，赶紧试试：真的会上瘾……

昨天我随手输入一句“做一个CS风格的射击游戏”， Makeplay.ai | Free AI Game Maker 直接给我整出了完整可玩的FPS：枪、地图、音效、敌人全自动生成！今天又输入一句“做一款超级玛丽游戏”，结果仿照矿工马里奥、跳跃、吃蘑菇、关卡音乐……全部一次成型，电脑和手机浏览器就能开玩！完全0代码、0素材、0学习成本，一句话就生成完整游戏，还免费！这已经不是做游戏了，是在“导演”游戏。谁还没试过的，赶紧试试：真的会上瘾……

DeFi狙击手 | Ai🕊️｜Gate美股0费率

19,136 Aufrufe • vor 17 Tagen

🎉Nice！实测在 DGX Spark 上成功部署千亿级大模型！！单机千亿，速度飞起！（见录屏👇🏻）不过，据说 SGLang (SGLang )更快！不得不说，眼下国产开源生态真的越来越强了！强烈建议大家都学一下本地模型部署：装上 Ling-3.0、 Qwen 3.8 27B 、Minimax H3，接入多模态，用各种开源大模型搭建出专属的本地工作流，轻松实现 Token 自由！教程极简，有手就行。不，还得有显卡🤣🤣

🎉Nice！实测在 DGX Spark 上成功部署千亿级大模型！！单机千亿，速度飞起！（见录屏👇🏻）不过，据说 SGLang (SGLang )更快！不得不说，眼下国产开源生态真的越来越强了！强烈建议大家都学一下本地模型部署：装上 Ling-3.0、 Qwen 3.8 27B 、Minimax H3，接入多模态，用各种开源大模型搭建出专属的本地工作流，轻松实现 Token 自由！教程极简，有手就行。不，还得有显卡🤣🤣

Lonely

96,613 Aufrufe • vor 1 Tag

Anthropic 今天直接点名阿里巴巴，说它动用了 2.5 万个虚假账号来窃取 Claude AI 的能力。从 4 月 22 日到 6 月 5 日，交互次数超过 2880 万次，这规模太夸张了。 Anthropic 称这是模型蒸馏攻击，想低成本复制高级模型。但阿里那边还没发声，真是耐人寻味。 AI 领域的竞争越来越激烈，但用这种手段，是不是有点过了？

Anthropic 今天直接点名阿里巴巴，说它动用了 2.5 万个虚假账号来窃取 Claude AI 的能力。从 4 月 22 日到 6 月 5 日，交互次数超过 2880 万次，这规模太夸张了。 Anthropic 称这是模型蒸馏攻击，想低成本复制高级模型。但阿里那边还没发声，真是耐人寻味。 AI 领域的竞争越来越激烈，但用这种手段，是不是有点过了？

奶牛叔

17,335 Aufrufe • vor 1 Monat

前 OpenAI CTO Mira 的公司 Thinking Machines 发了一个非常创新的模型，他们叫交互模型。这个模型能够持续接收音频、视频、文本等原生的多模态内容，并且实时进行思考、响应和行动。它不像之前那种 Agent 脚手架，把多个模型、多个模态的模型通过 Agent 串起来，而是所有模态都在一整个模型里。这样就可以让用户和 AI 在任意模态下实时进行交互：你可以随时打断它，随时进行补充，AI 会实时关注你的状态，输出结果，不会像之前一样，必须等一句话结束了才能跟模型交互。核心思路就是把交互部分训练到了模型里。他们从零训练的这个交互模型主要包括两部分：前台交互模型： (a) 一直在线，一直在听、看和读用户提供的内容 (b) 每 200 毫秒作为一个节点，同时处理输入并产出一小段输出 (c) 负责照顾用户的在场感，支持用户打断、插话，并能对屏幕和视频内容做出反应后台推理模型： (a) 用来处理需要持续推理、工具调用以及长上下文、长规划的任务 (b) 交互模型会在合适的时候，将推理模型的结果放回到对话里，不会插入突兀的内容用户最终看到的结果，就是一个既能实时交互，又能够处理重度任务的界面。

前 OpenAI CTO Mira 的公司 Thinking Machines 发了一个非常创新的模型，他们叫交互模型。这个模型能够持续接收音频、视频、文本等原生的多模态内容，并且实时进行思考、响应和行动。它不像之前那种 Agent 脚手架，把多个模型、多个模态的模型通过 Agent 串起来，而是所有模态都在一整个模型里。这样就可以让用户和 AI 在任意模态下实时进行交互：你可以随时打断它，随时进行补充，AI 会实时关注你的状态，输出结果，不会像之前一样，必须等一句话结束了才能跟模型交互。核心思路就是把交互部分训练到了模型里。他们从零训练的这个交互模型主要包括两部分：前台交互模型： (a) 一直在线，一直在听、看和读用户提供的内容 (b) 每 200 毫秒作为一个节点，同时处理输入并产出一小段输出 (c) 负责照顾用户的在场感，支持用户打断、插话，并能对屏幕和视频内容做出反应后台推理模型： (a) 用来处理需要持续推理、工具调用以及长上下文、长规划的任务 (b) 交互模型会在合适的时候，将推理模型的结果放回到对话里，不会插入突兀的内容用户最终看到的结果，就是一个既能实时交互，又能够处理重度任务的界面。

歸藏(guizang.ai)

47,074 Aufrufe • vor 3 Monaten

只要 2小时 + 几块钱 + 一张普通显卡，你就能从0训练一个 GPT。 MiniMind 这个开源项目已经冲上 GitHub Trending，斩获 47k ⭐。这是一个把大模型带回普通人手里的项目：不是调 API，而是真正从0造模型。核心亮点 1. 门槛极低 - 26M 参数，小到个人设备可跑 - 单卡即可训练 - 成本极低过去是大厂专属，现在个人也能实践。 2. 全流程完整覆盖整个大模型训练链路：数据处理 → 预训练 → SFT → RLHF → 蒸馏把主流大模型的训练流程完整拆解出来。 3. 实现透明 - 基于 PyTorch 原生实现 - 几乎没有黑盒 - 核心结构手写重点不只是能用，而是能看懂。 4. 能力完整 - 支持推理能力扩展 - 支持多模态 - 支持工具调用已经具备完整 AI 系统雏形。 5. 可本地部署 - 兼容 OpenAI API - 可接 ChatUI - 支持私有化可以直接当本地 AI 用。核心价值让训练大模型从少数人的能力，变成普通开发者也能掌握的技能。如果你想真正理解大模型，MiniMind 是一个很好的起点。

只要 2小时 + 几块钱 + 一张普通显卡，你就能从0训练一个 GPT。 MiniMind 这个开源项目已经冲上 GitHub Trending，斩获 47k ⭐。这是一个把大模型带回普通人手里的项目：不是调 API，而是真正从0造模型。核心亮点 1. 门槛极低 - 26M 参数，小到个人设备可跑 - 单卡即可训练 - 成本极低过去是大厂专属，现在个人也能实践。 2. 全流程完整覆盖整个大模型训练链路：数据处理 → 预训练 → SFT → RLHF → 蒸馏把主流大模型的训练流程完整拆解出来。 3. 实现透明 - 基于 PyTorch 原生实现 - 几乎没有黑盒 - 核心结构手写重点不只是能用，而是能看懂。 4. 能力完整 - 支持推理能力扩展 - 支持多模态 - 支持工具调用已经具备完整 AI 系统雏形。 5. 可本地部署 - 兼容 OpenAI API - 可接 ChatUI - 支持私有化可以直接当本地 AI 用。核心价值让训练大模型从少数人的能力，变成普通开发者也能掌握的技能。如果你想真正理解大模型，MiniMind 是一个很好的起点。

开发者Hailey

73,648 Aufrufe • vor 4 Monaten

李彦宏：开源模型是智商税，闭源模型更强大，推理成本更低 7月5日，2024世界人工智能大会（WAIC 2024）期间，百度创始人、董事长兼首席执行官李彦宏接受采访时表示，开源其实是一种智商税。“当你理性地去想，大模型能够带来什么价值，以什么样的成本带来价值的时候，就会发现，你永远应该选择闭源模型。今天无论是ChatGPT、还是文心一言等闭源模型，一定比开源模型更强大，推理成本更低。”

李彦宏：开源模型是智商税，闭源模型更强大，推理成本更低 7月5日，2024世界人工智能大会（WAIC 2024）期间，百度创始人、董事长兼首席执行官李彦宏接受采访时表示，开源其实是一种智商税。“当你理性地去想，大模型能够带来什么价值，以什么样的成本带来价值的时候，就会发现，你永远应该选择闭源模型。今天无论是ChatGPT、还是文心一言等闭源模型，一定比开源模型更强大，推理成本更低。”

宝玉

77,114 Aufrufe • vor 2 Jahren

8GB显存也能本地做AI短剧：这次测试我用一句中文，抽出了4张女警角色卡，并且做了首帧2秒视频。很多人一提到本地AI视频，第一反应就是：需要24GB或者更大显卡、几十B参数的大模型，普通电脑根本跑不动。但我终于用一台搭载外星人笔记本5060 8GB显存和32GB内存，实际跑通了一套本地AI短剧工作流。不需要H3，也不需要14B视频模型。只要输入一句中文，就可以完成人物抽卡、角色锁定、短镜头生成和720P放大。整个过程都在本地运行，不产生视频API调用费用。我是这样做的👇👇

8GB显存也能本地做AI短剧：这次测试我用一句中文，抽出了4张女警角色卡，并且做了首帧2秒视频。很多人一提到本地AI视频，第一反应就是：需要24GB或者更大显卡、几十B参数的大模型，普通电脑根本跑不动。但我终于用一台搭载外星人笔记本5060 8GB显存和32GB内存，实际跑通了一套本地AI短剧工作流。不需要H3，也不需要14B视频模型。只要输入一句中文，就可以完成人物抽卡、角色锁定、短镜头生成和720P放大。整个过程都在本地运行，不产生视频API调用费用。我是这样做的👇👇

DeFi狙击手 | Ai🕊️｜Gate美股0费率

31,390 Aufrufe • vor 9 Tagen