lifcc's banner
lifcc's profile picture

lifcc

@mylifcc • 4,938 subscribers

每天用 AI 写代码的工程师 Claude Code ｜ Codex深度用户 ｜Agentic engineering 在这里分享 AI 工具实测和开发者工作流

Shorts

用K3和qwen-3.8做了两个雷电，左边k3，右边qwen

用K3和qwen-3.8做了两个雷电，左边k3，右边qwen

117,367 görüntüleme

Videos

LIVE
1.2k

Anya Rossi

sweetdream.ai

SweetDream.aiSponsored•Livecam
Streaming Now

Watch Anya Live

Anya is streaming live right now! Join her private show and enjoy exclusive content.

HD live stream
Exclusive private shows
1.2k viewers online

Free preview available • Premium content

我已经在mac上用上Gemma-4-12b了，技术栈是： llama.cpp + GGUF Q4_K_M + Metal 32K context，本地 OpenAI-compatible API 实测约 36 tok/s，常驻 RSS 约 10GB 难以想象，只有10GB的内存占用！ 如果你也有一台16GB以上的MAC，看我的方案，你可以不一直用，但你能忍住不试试吗？
0:41
mylifcc's profile picture

我已经在mac上用上Gemma-4-12b了，技术栈是： llama.cpp + GGUF Q4_K_M + Metal 32K context，本地 OpenAI-compatible API 实测约 36 tok/s，常驻 RSS 约 10GB 难以想象，只有10GB的内存占用！ 如果你也有一台16GB以上的MAC，看我的方案，你可以不一直用，但你能忍住不试试吗？

lifcc

150,540 görüntüleme • 2 ay önce

Google再次发力，昨天Google 丢出了Gemma4 系列的QAT模型，直接让16GB MAC可以跑256k上下文的agent了。 之前有人说Gemma 4 12B 本地部署30k上下文没啥用，我用 Google QAT 尝试了一下，只要增加1.5GB内存就能打开256k上下文！ 左边：常规 Q4_K_M @ 32K 右边：Google QAT Q4_0 @ 256K 同一台 Mac、同一 prompt、两个 llama-server 同时跑，实时对比内存、CPU、tok/s。
0:26
mylifcc's profile picture

Google再次发力，昨天Google 丢出了Gemma4 系列的QAT模型，直接让16GB MAC可以跑256k上下文的agent了。 之前有人说Gemma 4 12B 本地部署30k上下文没啥用，我用 Google QAT 尝试了一下，只要增加1.5GB内存就能打开256k上下文！ 左边：常规 Q4_K_M @ 32K 右边：Google QAT Q4_0 @ 256K 同一台 Mac、同一 prompt、两个 llama-server 同时跑，实时对比内存、CPU、tok/s。

lifcc

110,414 görüntüleme • 2 ay önce

用Kimi-k3做了3个前端页面，我认为他并没有Fable5的级别，甚至有一些测评结果很奇怪，我感觉是特意刷了
0:20
mylifcc's profile picture

用Kimi-k3做了3个前端页面，我认为他并没有Fable5的级别，甚至有一些测评结果很奇怪，我感觉是特意刷了

lifcc

11,518 görüntüleme • 25 gün önce

Daha fazla içerik yok.