正在加载视频...

视频加载失败

小米玄戒这推理速度,有点厉害

25,874 次观看 • 2 个月前 •via X (Twitter)

14 条评论

另外1人 的头像
另外1人2 个月前

雷总:支持千亿级别大模型本地部署推理速度1000tps..(右下角小字fp0.5精度)

拖拉机 的头像
拖拉机2 个月前

3b 是个商标,更适合

TKF 的头像
TKF2 个月前

外行看滚动速度...

拖拉机 的头像
拖拉机2 个月前

本地部署 3b!

纳米AI 的头像
纳米AI2 个月前

一堆文字,看出推理能力

拖拉机 的头像
拖拉机2 个月前

本地部署的 mimo 3b ,这算非常可以了,况且也没提推理能力,是推理速度!

纳米AI 的头像
纳米AI2 个月前

估计跟deepseek MLA架构类似 基本相当于kv cache查询 这个演示太简单了

拖拉机 的头像
拖拉机2 个月前

这都不是重点,重点是玄戒的架构

Windskeleton 的头像
Windskeleton2 个月前

你拉稀拉的也很快 但是那样好吗?🤣

•J• 的头像
•J•2 个月前

我一直以为是中国所有公司都不能和台积电合作了 原来不是

Gate高返85阿满 的头像
Gate高返85阿满2 个月前

这玩意确实挺有意思反应够快的啊

John max 的头像
John max2 个月前

可以在手机上面部署大模型了

jackma 的头像
jackma2 个月前

上一代也没少吹。

kenyon 的头像
kenyon2 个月前

@grok 全网确认一下,小米这玩意能不能跑无量化版本的 deepseek v4 pro,能的话,效果怎么样

相关视频