Laughing🪁's banner
Laughing🪁's profile picture

Laughing🪁

@0xLaughing • 16,818 subscribers

👨🏻‍🍳 apac lead aka chief reply guy @GoKiteAI @MarathonBuild @KiteAIChinese @Kite_Frens_Eco @KiteAIFDN | prev: solution architect @AlibabaGroup

Shorts

好多人吐槽 Astra 上线以后额度用得很快，这次我可能站 Astra，不要再无脑选 xhigh 甚至 ultra 了 大多数人选档位，是把自己「觉得有多难」投影给模型，是一种主观的「感受」，而不是按任务的客观复杂度来配算力。 思维惯性会让人默认：更高档 = 更认真、更聪明 真正该看的是 ROI，且模型自己也会在简单题上 overthink，用户再叠一层复杂解释，token 浪费就显得更明显。 另外从厂商侧也说的通，如果没有档位、人人默认拉满，GPU 集群会被简单问答占满（尤其是长思维链占用的 KV cache），延迟变差，用户额度也很快耗尽。 让用户自己选档位，等于把「这笔请求值不值得多烧算力」的问题还给用户，同时保护供给。 对 vibe coding 来说，选档位是人类为数不多还需要亲自想一想的事了，不过我挺好奇为什么 coding 模型迟迟不出自动路由？是怕分流错了要背锅吗？

好多人吐槽 Astra 上线以后额度用得很快，这次我可能站 Astra，不要再无脑选 xhigh 甚至 ultra 了 大多数人选档位，是把自己「觉得有多难」投影给模型，是一种主观的「感受」，而不是按任务的客观复杂度来配算力。 思维惯性会让人默认：更高档 = 更认真、更聪明 真正该看的是 ROI，且模型自己也会在简单题上 overthink，用户再叠一层复杂解释，token 浪费就显得更明显。 另外从厂商侧也说的通，如果没有档位、人人默认拉满，GPU 集群会被简单问答占满（尤其是长思维链占用的 KV cache），延迟变差，用户额度也很快耗尽。 让用户自己选档位，等于把「这笔请求值不值得多烧算力」的问题还给用户，同时保护供给。 对 vibe coding 来说，选档位是人类为数不多还需要亲自想一想的事了，不过我挺好奇为什么 coding 模型迟迟不出自动路由？是怕分流错了要背锅吗？

36,583 Aufrufe

最近一个月真有点 #Gemini 成瘾了 等飞机有点无聊 10分钟做了一个手势控制的圣诞树应用出来

最近一个月真有点 #Gemini 成瘾了 等飞机有点无聊 10分钟做了一个手势控制的圣诞树应用出来

147,754 Aufrufe

ETH杭州很精彩了 还得是年轻人🥹 （随处可见gmgn打狗 Haze 𝓰𝓶𝓰𝓷𝓪𝓲 ）

ETH杭州很精彩了 还得是年轻人🥹 （随处可见gmgn打狗 Haze 𝓰𝓶𝓰𝓷𝓪𝓲 ）

84,934 Aufrufe

Videos

LIVE
1.2k

Anya Rossi

sweetdream.ai

SweetDream.aiSponsored•Livecam
Streaming Now

Watch Anya Live

Anya is streaming live right now! Join her private show and enjoy exclusive content.

HD live stream
Exclusive private shows
1.2k viewers online

Free preview available • Premium content

用一小时在本地从0复现了一个Typeless 个别的单词有识别不准确的情况，长文本分段需要自己个性化调优，其他的几乎和原版98%一致 现在看，Typeless 底层大概率并不是什么神秘牛逼的模型，更像是高性价比语音转写模型 + 一整套工程化后处理 真正拉开体验差距的，不一定是ASR本身，还可能是：分段、断句、术语词典、上下文 prompt、口语清洗、改口修正、LLM 重写等等 也就是说，复现Typeless的关键不是找个更强的模型，而是把 ASR + context + rewrite 这条链路打磨到位
0:46
0xLaughing's profile picture

用一小时在本地从0复现了一个Typeless 个别的单词有识别不准确的情况，长文本分段需要自己个性化调优，其他的几乎和原版98%一致 现在看，Typeless 底层大概率并不是什么神秘牛逼的模型，更像是高性价比语音转写模型 + 一整套工程化后处理 真正拉开体验差距的，不一定是ASR本身，还可能是：分段、断句、术语词典、上下文 prompt、口语清洗、改口修正、LLM 重写等等 也就是说，复现Typeless的关键不是找个更强的模型，而是把 ASR + context + rewrite 这条链路打磨到位

Laughing🪁

18,979 Aufrufe • vor 6 Monaten

🏬罗森LAWSON x 小幽灵WGG👻 推进了半年多的 Weirdo Ghost Gang 万圣节主题合作终于要和大家见面了，预告一下我们的多个联名产品会上架几千家罗森的门店，还会有几家线下联名快闪店同步开放～🔥 敬请期待！👀👻
0:48
0xLaughing's profile picture

🏬罗森LAWSON x 小幽灵WGG👻 推进了半年多的 Weirdo Ghost Gang 万圣节主题合作终于要和大家见面了，预告一下我们的多个联名产品会上架几千家罗森的门店，还会有几家线下联名快闪店同步开放～🔥 敬请期待！👀👻

Laughing🪁

26,106 Aufrufe • vor 1 Jahr

Keine weiteren Inhalte verfügbar