
きしだൠ(K1S)
@kis • 25,510 subscribers
楽しく仲よく
Shorts
Videos

天才! llama.cppにjev互換サーバー組み込んだら、どんなモデルでも無改造でjevっぽくふるまえる! Qwen3.5-2Bが画像に対する4つの質問に800msで答えている!画像は448x448
きしだൠ(K1S)84,017 görüntüleme • 1 ay önce

AIに書かせるならMarkdownよりHTML、なるほどなぁ。 人間が見るならHTML+SVG+Marmaidにしたほうがいいし、AIが読むにしてもアスキーアート使った図よりはMarmaidのほうがいいな。
きしだൠ(K1S)238,884 görüntüleme • 6 ay önce

Qwen3.8-Flash-NextのIQ1_S(67GB)がRTX 4060 Ti 16GBで3.3tok/secで動いたw ハードディスクオフロードなので、SSDにすればもっと速いはず。
きしだൠ(K1S)19,190 görüntüleme • 2 ay önce
Daha fazla içerik yok.