
きしだൠ(K1S)
@kis • 25,510 subscribers
楽しく仲よく
Shorts
Videos

天才! llama.cppにjev互換サーバー組み込んだら、どんなモデルでも無改造でjevっぽくふるまえる! Qwen3.5-2Bが画像に対する4つの質問に800msで答えている!画像は448x448
きしだൠ(K1S)84,017 Aufrufe • vor 1 Monat

AIに書かせるならMarkdownよりHTML、なるほどなぁ。 人間が見るならHTML+SVG+Marmaidにしたほうがいいし、AIが読むにしてもアスキーアート使った図よりはMarmaidのほうがいいな。
きしだൠ(K1S)238,884 Aufrufe • vor 6 Monaten

Qwen3.8-Flash-NextのIQ1_S(67GB)がRTX 4060 Ti 16GBで3.3tok/secで動いたw ハードディスクオフロードなので、SSDにすればもっと速いはず。
きしだൠ(K1S)19,190 Aufrufe • vor 2 Monaten
Keine weiteren Inhalte verfügbar