
きしだൠ(K1S)
@kis • 26,632 subscribers
楽しく仲よく前にいく
Shorts
Videos

天才! llama.cppにjev互換サーバー組み込んだら、どんなモデルでも無改造でjevっぽくふるまえる! Qwen3.5-2Bが画像に対する4つの質問に800msで答えている!画像は448x448
きしだൠ(K1S)79,551 Aufrufe • vor 2 Tagen

AIに書かせるならMarkdownよりHTML、なるほどなぁ。 人間が見るならHTML+SVG+Marmaidにしたほうがいいし、AIが読むにしてもアスキーアート使った図よりはMarmaidのほうがいいな。
きしだൠ(K1S)238,884 Aufrufe • vor 4 Monaten

Qwen3.8-Flash-NextのIQ1_S(67GB)がRTX 4060 Ti 16GBで3.3tok/secで動いたw ハードディスクオフロードなので、SSDにすればもっと速いはず。
きしだൠ(K1S)19,136 Aufrufe • vor 26 Tagen
Keine weiteren Inhalte verfügbar