lifcc

@mylifcc • 4,938 subscribers

每天用 AI 写代码的工程师 Claude Code ｜ Codex深度用户｜Agentic engineering 在这里分享 AI 工具实测和开发者工作流

Shorts

用K3和qwen-3.8做了两个雷电，左边k3，右边qwen

用K3和qwen-3.8做了两个雷电，左边k3，右边qwen

117,367 Aufrufe

Videos

Anya Rossi

sweetdream.ai

SweetDream.ai•Sponsored•Livecam

Watch Anya Live

Anya is streaming live right now! Join her private show and enjoy exclusive content.

Exclusive private shows

1.2k viewers online

Private Show

Join now for exclusive access

Free preview available • Premium content

我已经在mac上用上Gemma-4-12b了，技术栈是： llama.cpp + GGUF Q4_K_M + Metal 32K context，本地 OpenAI-compatible API 实测约 36 tok/s，常驻 RSS 约 10GB 难以想象，只有10GB的内存占用！如果你也有一台16GB以上的MAC，看我的方案，你可以不一直用，但你能忍住不试试吗？

我已经在mac上用上Gemma-4-12b了，技术栈是： llama.cpp + GGUF Q4_K_M + Metal 32K context，本地 OpenAI-compatible API 实测约 36 tok/s，常驻 RSS 约 10GB 难以想象，只有10GB的内存占用！如果你也有一台16GB以上的MAC，看我的方案，你可以不一直用，但你能忍住不试试吗？

150,540 Aufrufe • vor 2 Monaten

Google再次发力，昨天Google 丢出了Gemma4 系列的QAT模型，直接让16GB MAC可以跑256k上下文的agent了。之前有人说Gemma 4 12B 本地部署30k上下文没啥用，我用 Google QAT 尝试了一下，只要增加1.5GB内存就能打开256k上下文！左边：常规 Q4_K_M @ 32K 右边：Google QAT Q4_0 @ 256K 同一台 Mac、同一 prompt、两个 llama-server 同时跑，实时对比内存、CPU、tok/s。

Google再次发力，昨天Google 丢出了Gemma4 系列的QAT模型，直接让16GB MAC可以跑256k上下文的agent了。之前有人说Gemma 4 12B 本地部署30k上下文没啥用，我用 Google QAT 尝试了一下，只要增加1.5GB内存就能打开256k上下文！左边：常规 Q4_K_M @ 32K 右边：Google QAT Q4_0 @ 256K 同一台 Mac、同一 prompt、两个 llama-server 同时跑，实时对比内存、CPU、tok/s。

110,414 Aufrufe • vor 2 Monaten

用Kimi-k3做了3个前端页面，我认为他并没有Fable5的级别，甚至有一些测评结果很奇怪，我感觉是特意刷了

用Kimi-k3做了3个前端页面，我认为他并没有Fable5的级别，甚至有一些测评结果很奇怪，我感觉是特意刷了

11,518 Aufrufe • vor 25 Tagen

Keine weiteren Inhalte verfügbar