🤯炸了！本地开源 27B，把 JevBench 打成实时赛！ 同样是 Open-Jev-27B，同一张 NVIDIA B300，231 个公开任务一个接一个发，HTTP、预热后、按真实延迟... 1× 重放： 🔹左侧 Open-Jev（jev.server + FLA） 还在 65 / 231，全跑完要 59.5 秒 🔸右侧 OpenJev-Fast 9.7 秒全部打完，6.1 倍。 平均延迟从 258 ms 压到 42 ms，而准确率几乎持平（197/231 vs 198/231）。 不量化、接口兼容、本地就能跑。 开源决策模型第一次看起来像“实时系统”，而不只是能出分的模型。 详解： GitHub： #OpenJev #OpenJevFast #JevBench #开源AI #本地部署 #27B #LLMInference #NVIDIA #B300show more

💥卧槽！一台 MacBook 就能训出“超级 Jev”？！Naive N0.5 Flash 把决策模型 Jev 玩成了代差，性能碾压... Laya ! 同一套俄罗斯方块、同一序列、同一时钟： ▫️ Jev（云端） 消行 49｜延迟 220.9ms｜直接 TOP OUT ▫️ Laya（本地） 消行 69｜延迟 21.8ms｜快，但打不深 ▫️ Naive N0.5 Flash 自主训出的类 Jev 消行 223｜延迟 52.5ms｜局数直接翻 3～4 倍 这才叫快准狠： 快：本地 50ms 级决策，不跪云端往返 准：不是瞎快，是真清行、真堆低 狠：用 coding / AI4AI 模型自己训领域决策模型，成本比调成熟通用 API 还低 训练和部署都能在 MacBook 上跑完。这不是“调用大模型玩游戏”，是 AI 自己造出一个会打方块的 System-1。 未来可能真是：每个人 DIY 一个领域模型，比天天烧 API 更划算。 #NaiveAIN05 #Jev #Laya #vibe编码 #AI4AI #清华大学 #大模型 #俄罗斯方块show more

介绍比Jev快50倍，在你设备上跑的laya-mlx! 只在你的设备上占用最高1G内存 Laya是一个开源的类似于Jev的,基于文本输出概率的分类系统 我将其移植到MLX,并且做了一些性能优化! 视频中就是这个模型在我的本地M3Max上玩贪吃蛇 这个模型能够以每秒决策60次的速度玩贪吃蛇！

Github上有个开源项目，把12家主流大模型平台的免费额度打通成一个统一入口 你把零散的API key往里一填，转手就能薅几亿token 用法也很简单： 1、clone到本地，打开管理后台 2、把手头的key依次填进去 3、去Playground发条测试消息，会直接显示是哪家模型在答、延迟多少ms 配完之后复制统一的URL和API key，给模型排好优先级 有任务进来会自动按顺序轮询，某家限速了就自动跳下一家，直到把活干完

谁还质疑JEV没用？实测JEV真实的应用场景 我继续用 JEV 和 DeepSeek 跑了同一个任务：模拟企业真实海量收件箱，把 300 封乱七八糟的来信（商务采购、线上故障、合规法务、推销垃圾），实时分流到 15... 个业务部门，并打上意图标签 左边：TypeSafe Jev（jev-latest） 右边：DeepSeek（deepseek-v4.1-flash） 实测结果： • Jev 9.9秒完成了任务，300 封杂乱的邮件全部按 15 个部门发牌入槽，总共只花了 $0.036 • DeepSeek 相同时间才堪堪读完 10 封，右边牌桌几乎还是空的，速度相差近 30 倍 说句实话，Jev 的价值被很多人看偏了，它就不是用来聊天写文章的，它的真正统治区，全在那些【高实时性、只要确定性结果】的场景，比如：量化交易， 社交APP风控审核，设备监控，工单分流，浏览器自动化 Agent等等 这些场景的共同点是：只要毫秒级给结论，容不得半句废话 把 Jev 这种快反射模型放在最前面做发牌，才算把 Agent 真正用对了地方🫡show more

我去，美团把数字人视频生成模型开源了。外面数字人 Agent 一天卖 50 万，美团直接做了个 LongCat-Video-Avatar 塞进同一个仓库里开源了。 给一张人脸图加一段音频，数字人张嘴念稿，嘴唇、眼神、表情全自动对上。 它不是那种玩具开源，是实打实对标... Sora、Veo3、Kling 那种商业模型。 13.6B 参数，文生视频、图生视频、视频续写，一个模型全干完，720p 30 帧，长视频一口气跑几分钟不崩画质。而且你敢信？推理还比同级快了 10 倍。 坦率的讲，我看到技术报告的时候是有点懵的。因为 benchmark 上它一个 Dense 架构的 13.6B 模型，追着人家 28B 的 MoE 打。更让我愣住的是数字人那块。 你想想看，这事以前怎么搞。 要么自己录真人，要么掏钱买方案，几百块一条起步。现在一个开源模型，丢段文案给 TTS 一念，画面它自己出。而且 1.5 版做了蒸馏，推理从几十步压到 8 步，快了 15 倍。还加了 INT8 量化省显存。 说实话，这种东西别只收藏。 想试的，先跑 一下我下面的文章教程，参考就能部署。 GitHub 搜 meituan-longcat / LongCat-Video，权重在 HuggingFace 上直接下。show more

接下来请大家狠狠地关注JEV，真是惊艳啊 Monad 团队的开发者 Jarrod Watts 把全网刷屏的 JEV，做成了一套纯 AI 原生的链上自动交易系统，并且把代码和前端全部开源了... 目前这个演示跑了14 个小时、亏了 300% 多🤣，但抛开实盘收益不谈，这套技术架构确实很惊艳 过去大家拿 GPT、Claude 做自动化交易，最大的硬伤就是延迟和幻觉： 你想让它判断个多空，它非得先在 API 里吐出 500 字的宏观研报，工程师还得苦哈哈写一堆正则从废话里抠 JSON 标签，等数据解析出来，盘口早插针爆仓了 而 JEV 走了一条极其极端的路：它干脆把“说话”这个功能给物理阉割了 它不生成任何人类可读的文字，只负责做纯粹的分类与概率预测： • 彻底干掉了 Tokenizer 瓶颈，输入每百万 Token 只要 4 分钱，输出直接免费 • 推理速度比传统大模型快 20~200 倍，延迟压到毫秒级 • 完美咬合 Monad 300ms 的出块节拍，行情进来秒级决策，直接打入 Kuru 链上订单簿撮合成交 Demo 体验地址： Github 开源仓库：show more

谁能想到Claude和GPT双头统治的时代，居然就这么被中国模型撕开了口子。 Kimi K3登顶Frontend Code Arena总榜第一，1679分同时力压Claude Fable 5与GPT-5.6 Sol。 从上一代第18名直冲榜首，整整跃升17个名次，完成了同级模型里绝无仅有的跨越式爆发。... 7个前端细分赛道拿下6个第一，品牌营销参考设计数据分析消费产品模拟工具内容创建全线领跑，仅游戏赛道暂居第二。 这不是刷题库的纸面跑分，是全球开发者匿名盲测投出来的真实战力，代码质量交互体验全维度硬碰硬。 更炸裂的是完整模型权重7月27日前就会开放，顶级前端编码能力直接无差别下放给所有开发者。 当开放权重的中国模型能在核心开发赛道正面打赢闭源顶流，维持多年的双巨头格局是不是真的要改写了。 #KimiK3 #Moonshot #AI大模型 #前端开发 #开源AIshow more

感觉现在开源的速度已经疯了。。。 Kimi.ai 家的K3开源才两天，已经被Unsloth AI 干到能在Mac Studio上跑了🤯！！！ 2.8万亿参数的模型，原始大小1.56T， 他们用动态1-bit量化，直接压到594G，缩了62%， 还保留了78.9%的精度，... 128G内存的Mac Studio就能跑， 虽然速度不快，但它真的能跑。 谁能想到半个月前，这个级别的模型还只有大厂有算力碰， 现在我们在家，在自己的消费级电脑上，就能跑全球最顶尖的开源大模型了，damn！ 权重放出来48小时，量化、适配、教程全给你整完了， Unsloth这速度，真的离谱。 不得不说这就是开源最恐怖的地方啊， 模型放出来第一天， 全世界最聪明的工程师都在帮你压体积、提速度、做适配， 闭源模型，永远享受不到这个待遇。show more

😱 4GB 显存跑 70B 大模型？真的不是在开玩笑！ 刚刷到这个开源神器 AirLLM，直接颠覆了我的认知： ✅ 单卡... 4GB 就能跑 Llama3 70B ✅ 8GB 可以上 405B ✅ 甚至 2.8T 的超大模型也能硬刚（最新已支持） ✅ 全程无需量化、蒸馏、剪枝，原汁原味精度 原理超聪明：把模型按层拆开，推理时一次只加载一层到显存，用完就扔。显存占用直接降到只跟「单层大小」有关！ MoE 模型还能只加载当前用到的专家，更省。 现在低配显卡党也能本地玩超大模型了，真的香到爆！ GitHub 直达： 赶紧去 star，低配自由来了！🚀 #AI #大模型 #开源 #AirLLM #LLMshow more

听说短剧公司都在搞Minimax H3 本地版 这是视频生成的 Deepseek 时刻 音视频同出，中国的蒜真的不一样 这蒜力，拿来做口播，要起飞 口播的几个流派：... 1. 不露脸 2. 嘴唇模型，分本地和线上 3. 专属数字人模型 4. 视频生成模型 接下来我口播的一个最后的版图，就是使用音视频同出的模型去做数字人，看看接下来能不能保持人物的一致性，应该问题不大。show more

AI又有新气象……抓紧体验🔥 Google 悄悄发布了一个东西，可能比 Gemini App 更值得关注——AI Edge Gallery 它不是又一个... AI 聊天软件。 本质上，它是一个本地 AI 运行平台：模型直接跑在手机芯片上，推理全程离线，数据不经过任何服务器。 目前已支持 Gemma 3/4 系列模型，最新版本还加入了 Thinking Mode 和 Agent Skills——也就是说，手机本身可以完成多步骤任务推理，而不只是回答问题。 ▍实际能用来做什么？ ∙拍照提问、文档理解，完全本地处理 ∙没网络也能用的实时翻译、语音转写 ∙敏感文件分析，内容不出设备 ∙未来可能支持本地 Agent 自动完成任务流 这件事真正的意义，不在于”又多了一个 AI App”——而在于 Google 正在验证一件事：AI 能不能成为每台 Android 手机的底层能力，而不是需要联网调用的云端服务？ ▍如果这条路跑通 手机 AI 的竞争格局会重写。 苹果有 Apple Intelligence，高通在推 AI PC，现在 Google 在 Android 端下这步棋。 ► 端侧 AI 的入口之争，已经开始了。show more

牛逼，我真没想到，Dethink 居然把 Claude Code、Codex、各种大模型、不同的 Harness 还有 X、抖音、小红书、YouTube、SEO 的实时数据，甚至电商和金融数据，全塞进一个工作台了？？？ 一个窗口解决所有问题，随时切模型、切... harness，支持 BYOK 自己配置模型 Dethink 可以跑通这整个流程： 1、先接 X、抖音、小红书、YouTube、Instagram、Semrush 等实时数据，查趋势、关键词、竞品和用户反馈。 2、然后随时切 Claude、GPT、Grok、Gemini、DeepSeek、Kimi，同一窗口调用不同模型分析、写作、改方案、做图。 3、你还可以直接切 Claude Code 或 Codex 等不同的 Harness，并且同一窗口，前面的文件和上下文还在。 一条内容从找题、研究、成稿到配图，全在一个地方跑完。开发任务也一样，你可以随时切换不同的 Harness： Claude Code、Codex等，还能随时切换不同的模型，比如 Claude 规划、Codex 实现、Grok 来做快速任务...... 这个组合确实有点牛逼，还能稳定使用的 Claude Code / Codex 官方订阅，支持国内支付方式，🔗和优惠码放评论区show more

这个 AI 编程工具叫 Pi，用了以后再也不想回 Claude Code 了！ • 32K... 上下文的本地模型跑多轮任务，比 Cline、OpenCode 更轻、更省上下文 • 把 OpenCode 换成 Pi，同一个任务从反复返工变成一次做对 • 缺什么能力，就让 Pi 自己做，或者装别人做好的扩展 100% 开源，完全免费。show more

还在为端侧AI推理又慢又耗电、隐私还担心云端上传而头疼吗？ Google开源的MediaPipe直接把实时ML带到你手机/浏览器/嵌入式设备上！ 已有3.6万+ Star，真正做到： 1. 人脸/手部/姿态/手势/物体检测/图像分割一键搞定 2. 全平台覆盖：Android /... iOS / Web / Python / 桌面 / 边缘设备 3. 端侧实时跑，CPU/GPU加速，延迟低至几十毫秒 4. 数据完全本地处理，隐私零上传 5. 5行代码就能集成，还能用自己的数据定制模型 完全开源免费（Apache 2.0），Google原厂出品，性能经过百万级验证。 无论是做AR滤镜、体感交互还是智能相机，这个工具都能让你少写90%的底层代码。show more

我快速看了Jev的一些公开帖子和官方文档说明以及例子，终于有人AI模型关心速度，幻觉和成本，而且Jev不是一个大语言模型，这是它能做到这么极致的原因！ 官方也给出了好几个例子，比如模型路由和LLM安全护栏。 所以在大语言模型狂奔3年后，AI模型的新的分叉出现了： 不是大尺寸，不是语言模型，极低的幻觉，成本，极快的速度和准确率，没有太多的推理。 几乎每一条都是和LLM反着来的。 不得不多，这个方向真的非常对，希望早点体验到它。 下面这个视频来自官方demo一个并行化的例子，真的快如闪电，成本极低！ 这几篇来自官方的文章一定要看看：

很多人觉得AI智能=模型规模膨胀，参数越多越牛？ 大错特错！ Inference Labs 直接戳破真相：智能的核心，是延迟、成本、故障下的精准抉择，这比参数数量重要一万倍！ 他们不跟风训练的热闹，专啃推理执行的硬骨头。毕竟再厉害的模型，没法稳定、快速交付响应，都是白搭,就像飞机再先进，不能安全准点起降，一切都是空谈。 现在的AI瓶颈，根本不是精度不够，而是高压下的韧性不足。 Inference Labs... 就像AI界的“运维专家”，把模型从实验室奇观，变成了实打实的可靠基础设施。 旗下的 TruthTensor 更绝，能让用户在预测市场部署智能代理，全天候交易、灵活试策略。 原来AI的跃进，靠的不是空想的发明，而是脚踏实地的工程纪律！ #inference #zkML #TruthTensorshow more

我去，MiniMax H3 这次真的有点猛。Seedance 2.0终于有对手了！ 同样一个【平地起高楼】，我早上用 Seedance 2.0 跑了一版，刚刚又拿同一个 Prompt... 去测 MiniMax H3。 结果上下分屏一放，我第一反应就是： H3 这个冲击力也太强了！ 上：MiniMax H3 下：Seedance 2.0 整体上都挺强的，Seedance 2.0更像真实工地缩时。 但 MiniMax H3 不管是体量感、光影，还是建筑一点点拔地而起的感觉，都更有大片感。 同一个创意，换一个模型，出来的质感真的完全不一样。 AI 视频现在越来越好玩了。同一个想法多丢几个模型跑一遍，经常会有意外惊喜。 你更喜欢哪一个？Prompt 放评论区，来试试👇show more

强烈推荐所有做 RAG 的人收着这个项目，这款 PDF 解析器比 Marker 快 116 倍，准确率更高，本地... CPU 就能跑还完全开源。 叫做OpenDataLoader PDF， 专为 RAG 管道打造的 PDF 解析器， 基准综合第一，得分 0.907，GitHub 2.4 万星🌟， 搭过 RAG 的朋友应该都懂那种绝望， PDF 进去之后，阅读顺序乱了，表格压成一行， 公式变成一堆符号，多栏排版全错位， 大模型再强也没用，毕竟进来的就是烂的， 几个我觉得做得比较扎实的地方： 1、200 份真实文档测出来的（含多栏/学术论文/财报） 2、本地 CPU 运行，不需要 GPU，每页只要 0.46 秒 3、表格/公式/图片/图表 + OCR 80+ 语言，扫描件直接能进 4、输出 Markdown / JSON（含坐标边界框）/ HTML，LangChain 原生集成 有个对比数据看了有点炸， Marker 跑一页 PDF 要 53.9 秒， OpenDataLoader 跑一页 0.46 秒， 快了 116 倍，综合准确率还比它高， 常规页面本地规则高效搞定， 遇到极度复杂的特殊页面才交 AI 增强， 不是脑子一热全交大模型烧钱那种， Apache 2.0，商用完全没顾虑， 支持知识库入库/文档问答/论文解析/合同分析， 在RAG 管道里这一环，终于有人做得比较扎实了， LangChain 原生集成：pip install langchain-opendataloader-pdf GitHub 🔗评论区一楼见⬇️show more

1 一个人走进 AI 生成的巷子，说了句召唤——天上真飞下来一只鹰。🦅 这不就是《盗梦空间》么？ Alaya World 干的就是这种事：一句话、一张图丢进去，实时长出一个能逛的世界。你挪视角，街巷往前展开；走到一半打一句提示词，里面真会跟着变。不是后期特效，是当场生成的。 说个暴论：未来游戏开发可能要变天了——先生成一个可玩的... demo，然后就直接上线了。🎮 我们现在用的 AI，多半还是打字进、文字出，最多再给你一张图、一段视频。看完就结束，你始终站在屏幕外面。 可以这么理解： • 💬 聊天模型陪你说话 • 🎬 视频模型给你放片 • 🌍 世界模型开始给你一个能走进去晃两下的地方 它还不完美，偏研究向，家用电脑也跑不动——别当成明天就能下载开玩的游戏。但代码开源了，主页上 Demo 很多，光看就能明白：AI 下一步可能不只是更会聊天，而是开始撑起一个空间。 想直观感受，直接刷 Alaya Lab 的 Demo，比看任何介绍都快。 1.🐦‍ 召唤火鸟 冷却好了，点火鸟技能。烟尘里冲出一只燃烧的凤凰，双翼一展，脚下黑烟烈焰show more