Загрузка видео...
Не удалось загрузить видео
【MacのローカルLLMが4.1倍速!新技術「DFlash」が革命的🚀】 Apple Silicon(M4/M5 Maxなど)でLLMを爆速化させる「DFlash」のオープンソース実装が公開されました!Qwen3.5-9Bで4.1倍の高速化を達成しています。 💡 注目ポイント ・精度を落とさず速度だけを上げる「推測デコード」 ・16トークンを並列で一気に生成する「ブロック拡散」 ・Apple独自のMLXフレームワークへの最適化 27Bの大規模モデルでもクラウドAPI並みの速度で動作します。機密情報の要約や超高速コーディングなど、ローカル環境での実務が劇的に捗ります!💻 #生成AI #AppleSilicon
34,891 просмотров • 4 месяцев назад •via X (Twitter)
Комментарии: 0
Нет доступных комментариев
Здесь появятся комментарии из оригинального поста
