
jun
@jun1228909 • 1,529 subscribers
IT系社会人。Linux MW/組込SW/SWテスト等。 最近はローカルLLMにお熱🔥 💻️①RTX5090, DDR5 128GB 💻️②RTX2070, DDR5 64GB m5stack StackChan/Adventurer 3 ChatGPT Plus/Claude Pro/Copilot Pro
Shorts
Videos

今日地元の LLM ディスコで教わった、Qwen3.8 Flash Next を高速に動かすことに特化した謎の有志開発エンジン わいの 5090 + DDR5 128GB 環境 llama.cpp で 30tok/s くらいしか出てなかったのが 使うだけでいきなり 100tok/s 出て横転 llama.cpp 側の設定チューニングとか何もやってないから完全にはフェアではないかもしれんけど しかし 100tok/s 出たらもう体感としてはオンラインモデルの応答くらいの速さで表示されてるようには見えるからなぁ flash next 専用でオフライン開発環境を固めちゃうのもアリな気がしてきたな、、
jun126,076 Aufrufe • vor 1 Monat

tobidas — 飛び出す絵本風Webビルダー 公開してみました🥳 作例だけでも見ていってね😉 ↓作例 アセットを用意して絵本風のページを組み立て📖 音も乗せれます🎵 単一 html を書き出します✍️ ↓アプリ ↓リポ
jun54,167 Aufrufe • vor 3 Monaten
Keine weiteren Inhalte verfügbar