发现一个开源小模型，在GitHub上已经斩获 5w star，还登上了Trending榜单。 用它可以让你只用3块钱、花两个小时，就能训练出一个仅有25.8M参数的超小语言模型。 主打极致轻量化，最小版本体积只有 GPT-3 的 1/2700。 而且还开源了... tokenizer 分词器训练，包含 Pretrain、SFT等全过程训练代码，甚至拓展了视觉多模态的MiniMind-V。 所有训练脚本均为 PyTorch 原生实现，兼容MoE混合专家模型架构，基本实现了对大语言模型全阶段的开源复现show more

发现一个上海交大团队出品的大模型实战开源课程，在 GitHub 已经斩获4.6w+ star 内容从零开始设计，不堆理论，每个章节都能直接上手跑代码 内容包含API调用、模型微调、多模态开发一路递进，还专门开了越狱攻防、多模态模型等进阶模块，配套在线实验环境，学完即可实战 适合想系统补齐大模型知识的人

「熊猫吃短信2 - 垃圾短信过滤」新版更新啦。最近又迷恋上了训练小模型，把以前的模型训练过程几乎重新调整了一遍。我让大模型自己尝试超参组合，不断的做实验，代替搜索算法，它夜以继日的跑了半个月，最后告诉我，我的经验参数就是最优的。

感觉现在开源的速度已经疯了。。。 Kimi.ai 家的K3开源才两天，已经被Unsloth AI 干到能在Mac Studio上跑了🤯！！！ 2.8万亿参数的模型，原始大小1.56T， 他们用动态1-bit量化，直接压到594G，缩了62%， 还保留了78.9%的精度，... 128G内存的Mac Studio就能跑， 虽然速度不快，但它真的能跑。 谁能想到半个月前，这个级别的模型还只有大厂有算力碰， 现在我们在家，在自己的消费级电脑上，就能跑全球最顶尖的开源大模型了，damn！ 权重放出来48小时，量化、适配、教程全给你整完了， Unsloth这速度，真的离谱。 不得不说这就是开源最恐怖的地方啊， 模型放出来第一天， 全世界最聪明的工程师都在帮你压体积、提速度、做适配， 闭源模型，永远享受不到这个待遇。show more

😱 4GB 显存跑 70B 大模型？真的不是在开玩笑！ 刚刷到这个开源神器 AirLLM，直接颠覆了我的认知： ✅ 单卡... 4GB 就能跑 Llama3 70B ✅ 8GB 可以上 405B ✅ 甚至 2.8T 的超大模型也能硬刚（最新已支持） ✅ 全程无需量化、蒸馏、剪枝，原汁原味精度 原理超聪明：把模型按层拆开，推理时一次只加载一层到显存，用完就扔。显存占用直接降到只跟「单层大小」有关！ MoE 模型还能只加载当前用到的专家，更省。 现在低配显卡党也能本地玩超大模型了，真的香到爆！ GitHub 直达： 赶紧去 star，低配自由来了！🚀 #AI #大模型 #开源 #AirLLM #LLMshow more

HeyGen实现流程中的语音克隆，现在有最佳开源方案了：XTTS v2，单样本即可克隆语音，效果见视频。 现在已经能实现：让一个明星的采访视频，变成他讲述任意小故事（内容可以GPT编）的视频，声音是他的声音，嘴型也能对上。 XTTS v2在线体验： Github：

✨科学界迎来新变化：阿里开源首个统一科学语言大模型 阿里通义实验室（ATH-Token Foundry） 联合中国人民大学高瓴人工智能学院， 刚刚开源了 LOGOS — 一个尝试用同一套科学语法处理多领域科学对象的生成基础模型。 核心亮点：... - 预训练数据约 44.87B tokens，覆盖7类科学模态。 - 提供 1B、3B、8B 等规模模型，其中1B参数版本在多个任务上展现出较好的参数效率。 - 无需显式3D几何网络，直接通过序列建模实现生成。 - 完全开源：模型权重 + 推理代码 + 技术报告。 核心价值： - 用同一套模型 + 同一套科学语法， 统一处理原本需要多个领域专用模型的任务（蛋白质、分子、材料、反应等）。 - 参数效率高（1B版本就能在多个任务上表现出色）， 降低科研门槛，让AI辅助从预测转向生成设计。 它把蛋白质、抗体、小分子、化学反应、 材料以及界面互作等异构对象，全部统一编码成离散Token序列，用纯自回归方式进行跨领域生成。 这为AI for Science提供了一个新的统一框架思路，值得相关领域的研究者和开发者关注和测试。show more

我把网站排版做了变更，视觉上比较不复杂，也训练它玩了第一款游戏，用它的神经元数据，让它自己控制往左往右，加上AI让它随机乱按：0% 到得了终点，真实神经记录开的：7.8%，我训练的 AI 模型：目前 35%，我现在训练它试着玩更复杂的游戏。 watch it : $ZEBRAFISHBRAIN 0xa5b5866107792eb93c512c9e5783c08f9352a67f

绝了，刚刚阿里在除夕夜发布了新模型 Qwen-3.5-plus ，赶紧试了一下，一句话就生成了这样一个 3D 展车厅 🤯 据说这次 Qwen-3.5-plus 实现了从纯文本模型到原生多模态模型的代际跃迁，每百万... Token 仅 0.8 元人民币，是 Gemini 3 Pro 的 1/18！ 并且支持 201 种语言，可最高提升小语种 60% 的编码效率，在推理、编程、Agent 等核心评测中表现强劲，部署成本较上一代显著下降，推理效率大幅提升。作为一个 Apache 2.0 全开源并且能下载到本地的模型，性价比真的太高了。 - 普通用户可在千问 App/PC 体验： - 开发者可在魔搭： - 或 HuggingFace 下载部署： - 阿里云百炼直接获取 API 服务：show more

《从零构建大模型》作者 Sebastian Raschka 推出了一套免费视频课，教你从零写一个推理模型，8 集共 11 小时，赶紧收藏🔖 这套课是配合他的新书《从零构建推理模型》录的，每集对应书里一章。 用... Qwen3 0.6B 预训练模型，拿 PyTorch 一行行把推理模型的关键部分写出来： 1️⃣：加载模型，写 KV cache，用 torch.compile 加速 2️⃣：写一个数学答案验证器，跑 MATH-500 评测 3️⃣：推理时扩展，先采样，再用 self-consistency 做多数投票 4️⃣：给答案打分，让模型自我修正 5️⃣：从零实现简化版 GRPO（RLVR） 6️⃣：看训练指标，加 clip 和 KL 项，讲 reward hacking 7️⃣：拿 DeepSeek R1 当老师做蒸馏 跟着学的几个提示： 前几集 CPU 就能跑，Mac 的 Apple 芯片也支持，到训练那几集再上 GPU。 不用先看《从零构建大模型》，会 Python 和 PyTorch 就能直接开始练。 视频合集： 代码：show more

Datawhale 开源神作 Happy-LLM 教你从零亲手造一个大模型 GitHub 已获 29k+ Stars，持续霸榜 Trending... ⭐ 核心亮点 1. 体系完整，不碎片 NLP → Transformer → 预训练 → LLM 一条线讲通，不是拼凑知识点 2. 边学边做，跑完整流程 按 LLaMA 2 思路，从 Tokenizer 到预训练到微调（LoRA / QLoLA） 不是背概念，是自己真的动手做一遍 3. 工程导向，不止讲模型 RAG / Agent / 模型评测全覆盖 更贴近真实项目落地 学完你能做到什么？ - 看懂 Transformer - 训练一个小模型 - 会调参、排问题 - 做出一个 AI 小应用 适合谁？ 想入门 LLM 的开发者 不满足于只会调用 API 的人 想做 AI 应用 / Agent 的人show more

有个事我憋很久了，今天必须说一下。 市面上那些标榜 AI 驱动交易的 Bot，我深度用过几款之后发现一个特离谱的现象：它们所谓的 AI 就是接了一个 GPT 或者... Claude 的 API，把 K 线数据原封不动丢进去，让一个从来没被训练过理解金融时间序列的通用模型给你输出买卖建议。说难听点，跟拿 ChatGPT 算命没什么区别。 所以 AIX 的多模型路由方案，是我接触这个项目之后第一个真正觉得"方向对了"的设计。 它同时接了 GPT、Claude、DeepSeek R1、Gemini 这些通用模型，也集成了 Kronos 这类专门为金融预测训练的专业模型。中间多了一层调度层，根据当前市场状态智能路由，震荡市用一套推理框架，单边趋势切另一套算法组合。 这个设计的聪明之处在于它承认了一个很朴素的事实：没有一种模型能在所有行情里通吃。趋势跟随在单边市是神，进了震荡就是来回止损。反过来网格在震荡舒服，单边一来直接穿仓。通用大模型做策略意图理解很强但看 K 线的能力确实有限，专用金融模型在时序预测上更精准但没办法理解你用自然语言描述的策略逻辑。没有一个模型能同时搞定所有事。 AIX 干的事不是选一个最强的模型然后迷信它，而是让不同模型在不同环节轮班上岗，动态调权重。这个思路在传统量化里叫多因子动态权重，AIX 把它搬到了 LLM 和时序模型的协同上。 我体验下来的感受是它不像那种一问一答的 Bot，更像有一个小团队在后台协作，你只需要给方向，它自己去协调谁干什么。这个架构如果跑通，抗单一模型失效的能力跟那些只接一个 API 的项目不在一个数量级。 个人分享，非投资建议。show more

我快速看了Jev的一些公开帖子和官方文档说明以及例子，终于有人AI模型关心速度，幻觉和成本，而且Jev不是一个大语言模型，这是它能做到这么极致的原因！ 官方也给出了好几个例子，比如模型路由和LLM安全护栏。 所以在大语言模型狂奔3年后，AI模型的新的分叉出现了： 不是大尺寸，不是语言模型，极低的幻觉，成本，极快的速度和准确率，没有太多的推理。 几乎每一条都是和LLM反着来的。 不得不多，这个方向真的非常对，希望早点体验到它。 下面这个视频来自官方demo一个并行化的例子，真的快如闪电，成本极低！ 这几篇来自官方的文章一定要看看：

来自北京的月之暗面公司在7月16日发布了全新旗舰大模型 Kimi k3，是全球首个开源 3 万亿级大模型。100 万 上下文长度，可一次性载入百万字文档、完整代码库、整本财报、长篇专业文献，专为长时程代理式编码和自我演化工作流而构建。原生多模态统一支持文本、图片、截图、图纸视觉理解，非外挂视觉插件。 综合能力上仅次于闭源顶级模型 GPT-5.6... Sol、Claude Fable 5，在代码、长文档检索、复杂工程任务上反超绝大多数竞品开源 / 闭源模型。 完整模型权重将于2026 年 7 月 27 日公开释放，企业可本地私有化部署、二次微调，是当前可商用规模最大开源基座。show more

我去，美团把数字人视频生成模型开源了。外面数字人 Agent 一天卖 50 万，美团直接做了个 LongCat-Video-Avatar 塞进同一个仓库里开源了。 给一张人脸图加一段音频，数字人张嘴念稿，嘴唇、眼神、表情全自动对上。 它不是那种玩具开源，是实打实对标... Sora、Veo3、Kling 那种商业模型。 13.6B 参数，文生视频、图生视频、视频续写，一个模型全干完，720p 30 帧，长视频一口气跑几分钟不崩画质。而且你敢信？推理还比同级快了 10 倍。 坦率的讲，我看到技术报告的时候是有点懵的。因为 benchmark 上它一个 Dense 架构的 13.6B 模型，追着人家 28B 的 MoE 打。更让我愣住的是数字人那块。 你想想看，这事以前怎么搞。 要么自己录真人，要么掏钱买方案，几百块一条起步。现在一个开源模型，丢段文案给 TTS 一念，画面它自己出。而且 1.5 版做了蒸馏，推理从几十步压到 8 步，快了 15 倍。还加了 INT8 量化省显存。 说实话，这种东西别只收藏。 想试的，先跑 一下我下面的文章教程，参考就能部署。 GitHub 搜 meituan-longcat / LongCat-Video，权重在 HuggingFace 上直接下。show more

我的数字人跑出来了，各位领导这效果怎么样？ 本地模型训练的，不用花钱😜

发现一个超牛逼的开源项目，让你的AI直接掌握各大网站的设计风格，例如 Apple、Claude、Stripe等等，才开源三天就拿到了17K star。 我用MiniMax (official) 的 M2.7 模型，要求参考 Spotify... 的设计语言来生成一个落地页，好家伙，还真像模像样的。 项目地址：show more

突然发现 openrouter 上架了一个新的免费模型 Nex-N2.5-Pro，397B参数，多模态，看介绍也是主打 computer use 的 按照惯例，做个鹈鹕看看，效果还不过得去，和其它大模型对比下(glm-5.3-flash/glm-5.3/deepseek-v4.1-flash)，如视频 还有一个... 35B 的 N2.5-Mini 版本，我在 Mac 上部署了 4bit 量化，速度能有 50 tk/s，在记忆抽取能力上，竟然排行第一，有点出乎我的意料了show more

非常Nice啊，这模型完全免费，Token终于可以自由白嫖了，甚至视频模型都是免费的，太爽了。 它叫Agnes AI，全球模型榜前十，6 月 1 号起把自己家三个核心模型全免费开放了，无限期。图片模型在 artificial analysis 上榜了，文字模型一周被干了一万亿... Token。我把它接进 Claude Code，配起来十分钟的事，Token 随便用。 这玩意到底是什么呢。 Agnes AI 是全球模型榜单前十的一个 AI Lab，这次免费开放的是三个模型，文本、图片、视频。 文本模型叫 agnes-2.0-flash。能写代码，能做知识问答，能跑 Agent，能规划复杂任务。在 Claw-Eval 智能体评测榜进了 Top 10。说真的，这周它还要上 1M 超长上下文，以前用 200K 的模型跑到 150K 就降智，这种破事不用再忍了。 图片模型叫 agnes-image-2.1-flash。图改图、多图融合、换背景、改文字、图像修复，电商主图和广告素材这种反复改的场景，太合适了。最近还加了 4K 超高清输出，最高 4096×4096，生成的图可以直接进印刷，不是那种看着还行一放大就糊的草稿。 视频模型叫 agnes-video-2.0。原生音画同步，首帧生视频、首尾帧生视频、多镜头切换都支持，720P 和 1080P 随便选。 接进 Claude Code 怎么搞，其实很简单。 第一步，去 注册，拿到 API key。 第二步，打开 cc-switch。右上角选 Claude CLI，右上角点 + 号，选自定义配置。把 API key 填进去，请求地址写 格式选 OpenAI Chat Completions。 第三步，点获取模型列表，选 agnes-2.0-flash。 第四步，点左上角设置，找到路由，打开路由总开关，Claude 打开。 完事。 回到 Claude Code 正常发消息，模型就已经切过去了。我试了一个在酒吧吉他弹唱的视频，和真人区别不大。 现在 Token 不要钱，Agent 该跑几轮跑几轮，该拆几步拆几步。反正我觉得这才是免费开放最爽的部分，不只是省钱，是心理上解放了。 我测试了一下视频模型，能用，就是慢了点，文字模型还是比较快的。 开发者文档在 OpenClaw、Hermes、Claude Desktop 的，也有现成教程。show more

全网都在抨击大模型是美式价值观复读机，欧洲两所大学刚用 31000 个测试样本，直接打穿了这个固有认知。 大家都以为主流 AI 全是西方中心主义、张口闭口美英视角，但巴斯克大学和卡迪夫大学的研究员测完 31000 个开放问题后发现，几乎所有主流大模型在潜意识里都极度偏向日本文化， 也就是说，当剥离掉所有国家前缀去提问，几乎所有主流模型都默认把日本文化当成了全球通用模板。... 实验剥离了所有地理限制，用 24 种语言只抛出开放性文化问题，比如某个地方的家庭观念是什么、日常吃什么食物。即使提问语言和东亚毫无关系，Gemini、ChatGPT、Claude、Llama 依然不成比例地默认输出日本的案例与范式。 最反常的转折还不是互联网语料污染，而是对齐阶段人工硬塞进去的副作用。 研究团队精准定位了偏见的出现节点，预训练阶段的模型世界观本来相当均衡，这种偏差是在监督微调 SFT 也就是教 AI 变得有用、礼貌、无害的那一刻，被生生焊进模型里的。 各大厂追求的克制、低冲突、极度礼貌的企业安全准则，在隐空间里被模型自动锚定成了日本式的文化符号，追求绝对安全的对齐训练，反倒成了最大的文化过滤器。 更棘手的是边缘量化，模型为了在端侧跑得更快被压缩得越狠，这种刻板偏好就被压缩得越极端，低精度推理直接把多元性碾碎成了单一标准答案。 我们天天讨论大模型会不会毁灭人类，现实却是人类亲手调出来的推理引擎，正在把全世界的普世常识悄悄置换成高度同质化的文化切片。show more

Distil-Whisper：让语音识别的速度提高 5.8 倍，参数减少 51%，准确度保持在 99%。 Whisper 在语音识别方面表现卓著，但是它有一个明显的缺点：训练出来的小模型支持的语言比较少，而大模型推理速度又很慢。如果你有海量的数据需要处理，或者对实时性要求略高，那使用 Whisper 可能会让你比较头疼。... 你可以使用工程手段来加速推理，例如将语音分片后并发处理然后合并结果，但这里涉及到本地计算资源瓶颈的问题，以及合并分片时容错处理的问题，工程复杂度比较高。 《Distil-Whisper: Robust Knowledge Distillation via Large-Scale Pseudo Labelling 》， Whisper 的 Large-v2 model 生成了一系列的 soft targets（也就是概率分布），然后复制 Whisper 网络的第一层和最后一层解码器，最后生成了一个更小、更快效果更好的蒸馏模型 Distil-Whisper。论文数据写的是：速度提高了 5.8 倍，参数减少了 51%，准确度保持在 99%。 这个模型的效果之所以不错，主要还是得益于训练数据的完备，它结合了九个公开可用的语音识别数据集，合并后包含 21170 小时的语音数据，涵盖超过 18260 名说话者和 10 个不同的领域；自从 Whisper 大力出奇迹（它从互联网爬取了 68w 小时的数据，未公开）以后，相信后续语音领域的论文都会配置更庞大的数据集。 Distil-Whisper 目前开源在 Hugging Face 上，模型地址： Demo： Demo 会把模型下载到本地，然后通过 WebGPU 直接在网页上跑起来，测试了下效果，还是挺不错的。 目前仅支持英文，如果想让它支持中文，需要使用同样海量的中文语料数据，重新做一次知识蒸馏，但我觉得即便是这样做，效果也不一定好，因为 Whisper 本身对中文、韩语等支持就不太优秀，这个信息可以从 Whisper 的论文中找到数据支撑。 下面这个视频是 Whisper 和 Distil-Whisper 的对比效果：show more