Video yükleniyor...
Video Yüklenemedi
llamacpp vs omlx with Gemma-4-26B-A4B-it 🔥 🥇 llamacpp 🥈 oMLX Notes: - 11 parallel tasks - qat-Q4_0 vs OptiQ-4bit on omlx. - M5 Max 128GB macOS 27 Beta 1, relevant read below. - Fork of Gemma cookbook repo used with oMLX and iTerm2 usage added. Here: Observations: - llamacpp... show more
16,482 görüntüleme • 1 ay önce •via X (Twitter)
0 Yorum
Yorum bulunmuyor
Orijinal gönderinin yorumları burada görünecek
