karminski-牙医's banner
karminski-牙医's profile picture

karminski-牙医

@karminski3 • 39,864 subscribers

A coder, road bike rider, server fortune teller, electronic waste collector, co-founder of KCORES, ex-director at IllaSoft, KingsoftOffice, Juejin.

Shorts

为什么Jev有些时候不如随机数发生器? 整了个活, 突然想着Jev会不会某些时候还不如纯正态分布决策效果好, 直接用随机数发生器(甚至也可以叫它 System-1)的高 QPS 硬怼?毕竟猴子在打字机前也能敲出莎士比亚. 而且这事在数学上这其实是有正经定理撑腰的, 著名的波利亚随机游走定理(Pólya's Random Walk Theorem),在有限的二维连通网格里, 简单随机游走是常返的(Recurrent), 也就是说, 一个毫无思想的醉汉在迷宫里瞎晃, 以概率 1 最终必定能摸到终点. 神奇吧?理论有了, 于是我写了个测试环境, 拉来 Jev 和纯随机做了一波迷宫寻路对抗测试. 为了不亏待Jev, 我把规则和特征给足, 把曼哈顿距离作为启发式指标塞进输入, 并告诉它尽量减小与终点的距离. 然后用Rust + xoshiro256++ + bit reservoir + Tokio/Hyper. 包了个API格式与Jev一样的随机数server. 注意 xoshiro256++ 作为随机数发生器算法很牛逼, 这玩意是2018年设计的, 运行一次只要 1 ~ 2 个时钟周期(约 0.5 ~ 0.8 纳秒). 测了一波后直接说结论:纯随机赢麻了, Jev 被系统性打崩了 纯随机虽然无脑, 但是性能极高, 即使无并发顺序请求, 892 步也直接通关了. 总计花费不到300ms. 而正 Jev 跑了 2306 步, 其中 2295 步把自己死死困在了 (7,4) 这个拐角的 3 个格子里疯狂原地打转, 直到测试超时(看视频). 有人可能会说:你是不是没给它历史轨迹?给它记忆不就行了? 别急带了的, 我明确带上了 last_move, 每个邻居格子的 visited_count, 指令里还特意写明了当更近的格子被堵或访问过多时, 优先选访问最少的开口. 结果它根本不听. 因为在它的理解里, 这个拐角向右/向下曼哈顿距离更近, "如果尝试过多再xxx"是次要规则, 永远轮不到触发. 它陷入局部最优了. 所以, Jev 它只是一个极速的单步结构化判断器, 但绝不是规划器. 最好还是带一个System-2模型才能进行复杂任务. 最后给大家整理慎用 Jev 的场景: 需要绕路, 回溯, 多步规划的:迷宫, 装箱, 调度等局部启发和全局最优不一致的图问题. 突然死亡型控制:贪吃蛇, 俄罗斯方块, 自动驾驶等. 一步踏错当场GG. 不可逆高代价决策:删库, 事务操作, 尤其是需要审计的场景. 项目在这里: #Jev #TypeSafeAI #SystemOne #AI评测 #强化学习

为什么Jev有些时候不如随机数发生器? 整了个活, 突然想着Jev会不会某些时候还不如纯正态分布决策效果好, 直接用随机数发生器(甚至也可以叫它 System-1)的高 QPS 硬怼?毕竟猴子在打字机前也能敲出莎士比亚. 而且这事在数学上这其实是有正经定理撑腰的, 著名的波利亚随机游走定理(Pólya's Random Walk Theorem),在有限的二维连通网格里, 简单随机游走是常返的(Recurrent), 也就是说, 一个毫无思想的醉汉在迷宫里瞎晃, 以概率 1 最终必定能摸到终点. 神奇吧?理论有了, 于是我写了个测试环境, 拉来 Jev 和纯随机做了一波迷宫寻路对抗测试. 为了不亏待Jev, 我把规则和特征给足, 把曼哈顿距离作为启发式指标塞进输入, 并告诉它尽量减小与终点的距离. 然后用Rust + xoshiro256++ + bit reservoir + Tokio/Hyper. 包了个API格式与Jev一样的随机数server. 注意 xoshiro256++ 作为随机数发生器算法很牛逼, 这玩意是2018年设计的, 运行一次只要 1 ~ 2 个时钟周期(约 0.5 ~ 0.8 纳秒). 测了一波后直接说结论:纯随机赢麻了, Jev 被系统性打崩了 纯随机虽然无脑, 但是性能极高, 即使无并发顺序请求, 892 步也直接通关了. 总计花费不到300ms. 而正 Jev 跑了 2306 步, 其中 2295 步把自己死死困在了 (7,4) 这个拐角的 3 个格子里疯狂原地打转, 直到测试超时(看视频). 有人可能会说:你是不是没给它历史轨迹?给它记忆不就行了? 别急带了的, 我明确带上了 last_move, 每个邻居格子的 visited_count, 指令里还特意写明了当更近的格子被堵或访问过多时, 优先选访问最少的开口. 结果它根本不听. 因为在它的理解里, 这个拐角向右/向下曼哈顿距离更近, "如果尝试过多再xxx"是次要规则, 永远轮不到触发. 它陷入局部最优了. 所以, Jev 它只是一个极速的单步结构化判断器, 但绝不是规划器. 最好还是带一个System-2模型才能进行复杂任务. 最后给大家整理慎用 Jev 的场景: 需要绕路, 回溯, 多步规划的:迷宫, 装箱, 调度等局部启发和全局最优不一致的图问题. 突然死亡型控制:贪吃蛇, 俄罗斯方块, 自动驾驶等. 一步踏错当场GG. 不可逆高代价决策:删库, 事务操作, 尤其是需要审计的场景. 项目在这里: #Jev #TypeSafeAI #SystemOne #AI评测 #强化学习

42,812 次观看

来,10x 龙虾(openclaw)🦞烤串给大家安排上,其实春节前就在搞了,结果一波铺天盖地的新模型发布让我忙于评测就搁置了。 从周末开始陆续给大家带来从0开始的入门级openclaw教程(不会写代码也能看懂那种)到超进阶究极玩法(比如我这个10龙虾🦞集群)欢迎关注~ 📷 #OpenClaw #龙虾 #AI教程

来,10x 龙虾(openclaw)🦞烤串给大家安排上,其实春节前就在搞了,结果一波铺天盖地的新模型发布让我忙于评测就搁置了。 从周末开始陆续给大家带来从0开始的入门级openclaw教程(不会写代码也能看懂那种)到超进阶究极玩法(比如我这个10龙虾🦞集群)欢迎关注~ 📷 #OpenClaw #龙虾 #AI教程

27,519 次观看

做RAG的朋友一定要看看 Google 这个新论文——MUVERA:让多向量检索与单向量搜索一样快 大家在RAG的检索内容过程都会遇到这种情况,如果用传统搜索(例如ElasticSearch),文档 = 1 个向量 → 快速但不准确。如果用向量数据库,现代多向量搜索:文档 = 数百个向量 → 准确但极其缓慢。 于是谷歌提出了 DFEs (固定维度编码) 将多个向量转换为单个固定长度的向量,同时保留相似性关系。其神奇之处在于,两个 FDE 向量之间的点积近似于多向量集合之间的原始 Chamfer 相似度。(Chamfer 相似度是啥详见文尾的文章) MUVERA 的一个关键优势是 FDE 变换是无数据的。这意味着它不依赖于特定的数据集,使其既能够抵抗数据分布的变化,又适合流式应用。此外,与模型产生的单向量不同,FDE 保证在指定的误差范围内近似真实的 Chamfer 相似度。因此,在重排序阶段之后,MUVERA 保证能够找到最相似的多向量表示。 所以这个新方法能有效地提升RAG检索阶段的效率,现阶段连Python库都有了,需要的同学可以试试。 论文地址: Chamfer 相似度: python库:

做RAG的朋友一定要看看 Google 这个新论文——MUVERA:让多向量检索与单向量搜索一样快 大家在RAG的检索内容过程都会遇到这种情况,如果用传统搜索(例如ElasticSearch),文档 = 1 个向量 → 快速但不准确。如果用向量数据库,现代多向量搜索:文档 = 数百个向量 → 准确但极其缓慢。 于是谷歌提出了 DFEs (固定维度编码) 将多个向量转换为单个固定长度的向量,同时保留相似性关系。其神奇之处在于,两个 FDE 向量之间的点积近似于多向量集合之间的原始 Chamfer 相似度。(Chamfer 相似度是啥详见文尾的文章) MUVERA 的一个关键优势是 FDE 变换是无数据的。这意味着它不依赖于特定的数据集,使其既能够抵抗数据分布的变化,又适合流式应用。此外,与模型产生的单向量不同,FDE 保证在指定的误差范围内近似真实的 Chamfer 相似度。因此,在重排序阶段之后,MUVERA 保证能够找到最相似的多向量表示。 所以这个新方法能有效地提升RAG检索阶段的效率,现阶段连Python库都有了,需要的同学可以试试。 论文地址: Chamfer 相似度: python库:

30,092 次观看

现在头部大模型厂商在 Chat 界面都能所见即所得的生成网页了,那么有没有开源替代呢?我找到了一个—— davia 这个项目使用 FastAPI 构建,直接 pip install davia 就能安装,UI 组件使用 shadcn/ui,支持 Tailwind 颜色自定义,响应式布局,以及黑暗模式。 项目地址:

现在头部大模型厂商在 Chat 界面都能所见即所得的生成网页了,那么有没有开源替代呢?我找到了一个—— davia 这个项目使用 FastAPI 构建,直接 pip install davia 就能安装,UI 组件使用 shadcn/ui,支持 Tailwind 颜色自定义,响应式布局,以及黑暗模式。 项目地址:

21,904 次观看

Videos

karminski3's profile picture

再给 Grok 4 一次机会哈 上个20小球测试有朋友说一个case不能代表什么, 我就问一句, 如果你写代码, 上来的第一个 case 就拉跨, 你还会再用这个模型吗? 两个 case 也拉跨呢? 汰欧蜜!撸可英买埃斯! 这个是上个月我做出来的拆烟囱测试, 主要是使用 Three.js 来模拟一个三维场景, 尤其是这个烟囱完全需要大模型生成代码自己搭起来. 然后在烟囱底部设置爆炸点, 炸掉一部分砖块后, 影响烟囱的平衡导致烟囱倒塌。 这个测试相对于20小球七边形测试来说, 考察物理效果其实没有 20 小球复杂, 它只有碰撞和重力, 并且都能依靠 Three.js 库的插件来实现. 所以考察项目更多聚焦于 prompt 的指令遵循和前端代码的能力以及创造性. 直接来看 Grok4 表现好的和不好的地方。 好的: 倒塌的模拟不错, 模型的放置, 重力方向起码没有搞错 不好的: 默认的烟囱就是个已经爆炸到一半的烟囱是绷不住了,这个连上个月测试的 kimi 和 minimax 的开源模型都不至于这么抽象 爆炸的粒子模拟很怪,勉强能理解那个白色的是一团烟雾 光影效果特别差,对比左边的 DeepSeek 一眼就能看出来了 web 交互写得也很差, 看 DeepSeek 的按钮, 这个的按钮就是个灰色的按钮 (在画面外) 以及最重要的, 它生成其实是失败的!我反复测试3次都有代码错误。它引用库的方法有问题 (Uncaught TypeError: Failed to resolve module specifier "three". Relative references must start with either "/", "./", or "../".),并且它自己修不好这个报错。我只能用 Claude-4-Sonnet 修了一下才能正确运行........ 结论:别用这玩意写代码, 爱咋咋地吧, 累了 #Grok4

karminski-牙医

162,929 次观看 • 1 年前

karminski3's profile picture

给大家带来小米 MiMo-v2.6-pro 的测试速报! 简单来讲, 这次不愧是直播RL带来的效果, AgenticCoding 能力提升明显, 之前的 MiMo-v2.5-Pro 在我的向量数据库测试中得分只有2505, 而这次直接翻了3倍, 得分来到了7810. 与 Claude Fable-5 分数接近了. 而且算法也进化为了单图HNSW分层近邻图(M=16/M0=28) + AVX-512精确距离 + 每线程visited stamp. 可以说只要再优化一下算法细节就是SOTA水平了. 而前端测试则是MiMo需要提升的重点了, 这次演示效果虽然有提升, 但是无奈横评的其他模型都太强大了, 而小米的加分项也是本身的算法Coding能力, 比如它是可以 one-shot 写出一个光追引擎的. 但是由于空间理解/物理模拟能力不到位, 小球没办法完成把墙壁撞破的演示. 另外本次还给大家测试了输出速度, MiMo-v2.6-pro-ultraspeed 版本可以达到464tps的速度, 着实恐怖. 而根据MiMo的技术报告, 峰值可以达到900tps, 常态化请求也可以稳定在500tps左右, 考虑到模型 1.02T 的总参数量, 以及高达 42B 的激活参数量, 再加上同等规模模型一般都在60-80tps的水平, 这个成绩相当亮眼. 当然也有值得注意的点, 比如这次测试我发现它还是有早停的问题的, 上面的向量数据库测试, 每轮最大迭代50次, 但是三次测试中, 有两次它迭代到30轮左右就没办法提升分数, 于是选择了直接交卷, 浪费了测试机会. 以及, 模型思考偏长, 而且暂时不支持调整思考强度, 加上普速接口现在异常火爆, 所以最好给大一些超时, 避免无法输出结果. 总结: MiMo-v2.6-Pro 适合搞后端AgenticCoding开发! 要算法有算法要质量有质量. 但是前端空间理解和美学还需要加强. 考虑到直播后训练的时候看到的67%的训练语料都是Coding, 这个结果丝毫不惊讶了. 希望下个版本前端能力也有提升! #mimo #mimov26 #mimov26pro #x小米mimo

karminski-牙医

12,931 次观看 • 29 天前