正在加载视频...
视频加载失败
🤯炸了!本地开源 27B,把 JevBench 打成实时赛! 同样是 Open-Jev-27B,同一张 NVIDIA B300,231 个公开任务一个接一个发,HTTP、预热后、按真实延迟 1× 重放: 🔹左侧 Open-Jev(jev.server + FLA) 还在 65 / 231,全跑完要 59.5 秒 🔸右侧 OpenJev-Fast 9.7 秒全部打完,6.1 倍。 平均延迟从 258 ms 压到 42 ms,而准确率几乎持平(197/231 vs 198/231)。 不量化、接口兼容、本地就能跑。 开源决策模型第一次看起来像“实时系统”,而不只是能出分的模型。 详解: GitHub: #OpenJev #OpenJevFast #JevBench #开源AI #本地部署 #27B #LLMInference #NVIDIA #B300
0 条评论
暂无评论
原始帖子的评论将显示在这里
