t.toda's banner

t.toda

@Trtd6Trtd • 1,676 subscribers

ML Engineer / NLP / 音声対話 / Kaggle Master / #AI砂場 / #ロボ漫才

Shorts

8Bの1bitモデルだって Qwenベースで日本語もいける試してみたけど爆速ですげぇ

8Bの1bitモデルだって Qwenベースで日本語もいける試してみたけど爆速ですげぇ

129,929 просмотров

LiquidAI/LFM2.5-1.2B-JPを富士通のOneCompで量子化したら200t/s出てびびった今朝感激してた盆栽の倍🪴🪴 体感だがRepetition率が上がってる気がするので性能は落ちちゃってる印象パラメータ次第かもだが

LiquidAI/LFM2.5-1.2B-JPを富士通のOneCompで量子化したら200t/s出てびびった今朝感激してた盆栽の倍🪴🪴 体感だがRepetition率が上がってる気がするので性能は落ちちゃってる印象パラメータ次第かもだが

18,432 просмотров

Videos

Anya Rossi

sweetdream.ai

SweetDream.ai•Sponsored•Livecam

Watch Anya Live

Anya is streaming live right now! Join her private show and enjoy exclusive content.

Exclusive private shows

1.2k viewers online

Private Show

Join now for exclusive access

Free preview available • Premium content

#ｽﾀｯｸﾁｬﾝと #ReachyMini に漫才をしてもらった

#ｽﾀｯｸﾁｬﾝと #ReachyMini に漫才をしてもらった

17,359 просмотров • 2 месяцев назад

Больше нет контента для загрузки