Загрузка видео...

Не удалось загрузить видео

На главную

本地小模型今年进入非常可用的状态了，真的能干一些事情了。

Lakr233's profile picture

砍砍.ᐟ

38,152 subscribers

72,582 просмотров • 1 месяц назад •via X (Twitter)

Наука и технологии
LIVE

Anya Rossi• Live Now

Private livecam show

Комментарии: 9

Фото профиля Wiedy Mi
Wiedy Mi1 месяц назад

if only prices on hardware were accessible 🥲

Фото профиля  快乐永远 
 快乐永远 1 месяц назад

但是对个人而言，本地小模型能干的这些事，基本在云端大模型的最低一档模型（通常很快， 而且额度多）免费额度里就快速干完了。。。

Фото профиля Broooooklyn
Broooooklyn1 месяц назад

要不要试试我的量化版本, 绝壁比这个 4bit Affine 均匀量化版本好用

Фото профиля Fndroid
Fndroid1 месяц назад

🤣我的mac上直接跑了一个24小时在线的，做翻译和私信bot

Фото профиля Sky99
Sky991 месяц назад

找不到理由用本地小模型诶

Фото профиля Wilf Lin
Wilf Lin1 месяц назад

我常态运行35b a3b在某微服上

Фото профиля Jeffrey Li
Jeffrey Li1 месяц назад

为啥最后pause那么久

Фото профиля AaronConlonDev
AaronConlonDev1 месяц назад

开源还是闭源app？

Фото профиля rfiacne
rfiacne1 месяц назад

3.8不是要出了么。可能可用性还能在上一层吧

Похожие видео

一个全平台的本地 LLM 聊天软件Jan，支持自动下载模型以及非常详细的设置。懒得配置 Ollama 的可以试试。 除了支持本地模型以外，在线的模型可以使用 API 接入，All in one 的模型管理。交互和 UI 也都很合理。 同时支持在系统的任何可以输入的地方调取模型能力。
0:26

一个全平台的本地 LLM 聊天软件Jan，支持自动下载模型以及非常详细的设置。懒得配置 Ollama 的可以试试。 除了支持本地模型以外，在线的模型可以使用 API 接入，All in one 的模型管理。交互和 UI 也都很合理。 同时支持在系统的任何可以输入的地方调取模型能力。

歸藏(guizang.ai)

47,533 просмотров • 2 лет назад

成田机场又拦下了一大堆中国人，他们的行李箱里又装了哪些不能带进日本的食品呢？ 本次被查出的食品非常有参考意义，可能很多人都不知道这些是不能带入日本海关的，建议认真学习——
6:04

成田机场又拦下了一大堆中国人，他们的行李箱里又装了哪些不能带进日本的食品呢？ 本次被查出的食品非常有参考意义，可能很多人都不知道这些是不能带入日本海关的，建议认真学习——

縱橫日本

618,360 просмотров • 2 лет назад

gemini 帮我用 rust 实现了换脸模型的推理，还进行了一点小小的优化
0:29

gemini 帮我用 rust 实现了换脸模型的推理，还进行了一点小小的优化

辉小志

37,235 просмотров • 9 месяцев назад

前 OpenAI CTO Mira 的公司 Thinking Machines 发了一个非常创新的模型，他们叫交互模型。 这个模型能够持续接收音频、视频、文本等原生的多模态内容，并且实时进行思考、响应和行动。 它不像之前那种 Agent 脚手架，把多个模型、多个模态的模型通过 Agent 串起来，而是所有模态都在一整个模型里。 这样就可以让用户和 AI 在任意模态下实时进行交互： 你可以随时打断它，随时进行补充，AI 会实时关注你的状态，输出结果，不会像之前一样，必须等一句话结束了才能跟模型交互。 核心思路就是把交互部分训练到了模型里。他们从零训练的这个交互模型主要包括两部分： 前台交互模型： (a) 一直在线，一直在听、看和读用户提供的内容 (b) 每 200 毫秒作为一个节点，同时处理输入并产出一小段输出 (c) 负责照顾用户的在场感，支持用户打断、插话，并能对屏幕和视频内容做出反应 后台推理模型： (a) 用来处理需要持续推理、工具调用以及长上下文、长规划的任务 (b) 交互模型会在合适的时候，将推理模型的结果放回到对话里，不会插入突兀的内容 用户最终看到的结果，就是一个既能实时交互，又能够处理重度任务的界面。
2:15

前 OpenAI CTO Mira 的公司 Thinking Machines 发了一个非常创新的模型，他们叫交互模型。 这个模型能够持续接收音频、视频、文本等原生的多模态内容，并且实时进行思考、响应和行动。 它不像之前那种 Agent 脚手架，把多个模型、多个模态的模型通过 Agent 串起来，而是所有模态都在一整个模型里。 这样就可以让用户和 AI 在任意模态下实时进行交互： 你可以随时打断它，随时进行补充，AI 会实时关注你的状态，输出结果，不会像之前一样，必须等一句话结束了才能跟模型交互。 核心思路就是把交互部分训练到了模型里。他们从零训练的这个交互模型主要包括两部分： 前台交互模型： (a) 一直在线，一直在听、看和读用户提供的内容 (b) 每 200 毫秒作为一个节点，同时处理输入并产出一小段输出 (c) 负责照顾用户的在场感，支持用户打断、插话，并能对屏幕和视频内容做出反应 后台推理模型： (a) 用来处理需要持续推理、工具调用以及长上下文、长规划的任务 (b) 交互模型会在合适的时候，将推理模型的结果放回到对话里，不会插入突兀的内容 用户最终看到的结果，就是一个既能实时交互，又能够处理重度任务的界面。

歸藏(guizang.ai)

47,074 просмотров • 5 месяцев назад

各位老师，Kimi 发布了他最强大的 K3 模型的前端能力非常强大，甚至可以用它来方便地生成胚胎学动画，用下面的提示词，我完整的获得了中肠袢旋转的动画，在 YouTube 上，很多国外的高校也没有能够做出连续的动画。模型有一些小的穿透问题，不过那个改起来很方便。
0:25

各位老师，Kimi 发布了他最强大的 K3 模型的前端能力非常强大，甚至可以用它来方便地生成胚胎学动画，用下面的提示词，我完整的获得了中肠袢旋转的动画，在 YouTube 上，很多国外的高校也没有能够做出连续的动画。模型有一些小的穿透问题，不过那个改起来很方便。

杀马特宅主

43,959 просмотров • 2 месяцев назад

union-alpha 应该不是国产模型? 给大家简单测一下 openrouter 上这个匿名模型 union-alpha. 简单来说, 看上去并不是一个2026年现阶段的旗舰级模型. 一个重要特征是, 构建3D场景需要用到three.js库, 在我测试的今年的这些模型中, 大家都已经迭代到了 three.js r160版本(23年底发布的). 而这个模型还在用three.js r127(2021年的版本). 所以这个模型明显不像是国内的旗舰模型, 也不可能是 OpenAI/Anthropic 的模型了. 实际效果嘛, 大家自己看吧. 我就不安排详细测试了. > #unionalpha
0:29

union-alpha 应该不是国产模型? 给大家简单测一下 openrouter 上这个匿名模型 union-alpha. 简单来说, 看上去并不是一个2026年现阶段的旗舰级模型. 一个重要特征是, 构建3D场景需要用到three.js库, 在我测试的今年的这些模型中, 大家都已经迭代到了 three.js r160版本(23年底发布的). 而这个模型还在用three.js r127(2021年的版本). 所以这个模型明显不像是国内的旗舰模型, 也不可能是 OpenAI/Anthropic 的模型了. 实际效果嘛, 大家自己看吧. 我就不安排详细测试了. > #unionalpha

karminski-牙医

18,054 просмотров • 22 дней назад

今天 Meta 发布了最新的开源模型的 Llama 3 首发和之前一样，包括了 8B 和 70B 两个版本，小扎说还有个 400B 参数的大号版预计在夏天发布，这可能是第一个 GPT-4 级别的开源模型！Meta 这次在 15T 的数据集上训练了一个 8B 的小模型，在参数规模、易用性和推理能力上做了最佳平衡，看来有算力真香😄 同时 Meta 也推出了自己的 ChatGPT 产品 Chat AI 了。。 其实 HuggingChat 也不错的 你可以在这里体验所有的开源大语言模型
2:38

今天 Meta 发布了最新的开源模型的 Llama 3 首发和之前一样，包括了 8B 和 70B 两个版本，小扎说还有个 400B 参数的大号版预计在夏天发布，这可能是第一个 GPT-4 级别的开源模型！Meta 这次在 15T 的数据集上训练了一个 8B 的小模型，在参数规模、易用性和推理能力上做了最佳平衡，看来有算力真香😄 同时 Meta 也推出了自己的 ChatGPT 产品 Chat AI 了。。 其实 HuggingChat 也不错的 你可以在这里体验所有的开源大语言模型

indigo

183,917 просмотров • 2 лет назад

接近生产级别的的3D生成模型 Rodin Gen-1 正式上发布 可以在几十秒内通过文本生成高质量可直接使用的3D模型，这些模型使用四边形构造，并具有逼真的材质效果（看起来很真实）。 Rodin几乎达到了可以在实际项目和商业用途中直接应用的标准。 生成的3D模型质量非常高，细节丰富，足以满足生产级别的要求。
0:39

接近生产级别的的3D生成模型 Rodin Gen-1 正式上发布 可以在几十秒内通过文本生成高质量可直接使用的3D模型，这些模型使用四边形构造，并具有逼真的材质效果（看起来很真实）。 Rodin几乎达到了可以在实际项目和商业用途中直接应用的标准。 生成的3D模型质量非常高，细节丰富，足以满足生产级别的要求。

小互

16,469 просмотров • 2 лет назад

【 💛 Live2D 模型展示 🐈 】 負責了Mobi摸鼻新型態的Live2D建模！！ 今天是黃色情人節，就用摸鼻開啟美好大家的一天吧✨ 我自己最喜歡的地方是摸鼻的耳朵，為了擁有又軟又生動的效果，做了很多細微的調製 也很滿意揮手時的那種抓抓的感覺🥰 真的非常感謝Aoi給我這個機會 能夠參與製作如此美麗可愛的摸鼻 我真的感到非常榮幸😭💛💛 #Live2D #Live2dCommissions #Live2DShowcase
1:29

【 💛 Live2D 模型展示 🐈 】 負責了Mobi摸鼻新型態的Live2D建模！！ 今天是黃色情人節，就用摸鼻開啟美好大家的一天吧✨ 我自己最喜歡的地方是摸鼻的耳朵，為了擁有又軟又生動的效果，做了很多細微的調製 也很滿意揮手時的那種抓抓的感覺🥰 真的非常感謝Aoi給我這個機會 能夠參與製作如此美麗可愛的摸鼻 我真的感到非常榮幸😭💛💛 #Live2D #Live2dCommissions #Live2DShowcase

筱星 朔光 💜 2026 Live2D委託開放中

11,105 просмотров • 4 месяцев назад

作为一个学了7年建筑，现在又转行AI的人，对着gpt6Astra陷入了思考模式，感觉我们大学的时候，花了非常多的时间和精力去做一些手工活，但是这个手工活的本质可能只有10%真正起到了空间推敲的作用。如今模型升级到可以把空间关系全部都做对了之后，回过头看那段时间花的精力，好像都没有太大的意义和价值。反而是真正的去思考，推敲，研究，如何去平衡实用坚固美观的底层逻辑在30岁转行的今天依然适用。
2:33

作为一个学了7年建筑，现在又转行AI的人，对着gpt6Astra陷入了思考模式，感觉我们大学的时候，花了非常多的时间和精力去做一些手工活，但是这个手工活的本质可能只有10%真正起到了空间推敲的作用。如今模型升级到可以把空间关系全部都做对了之后，回过头看那段时间花的精力，好像都没有太大的意义和价值。反而是真正的去思考，推敲，研究，如何去平衡实用坚固美观的底层逻辑在30岁转行的今天依然适用。

Esther

77,319 просмотров • 1 месяц назад

Agent 能力有多强? 来看豆包Seed2.0实测! 这次给大家用字节跳动新推出的豆包 Seed-2.0-Pro 大模型做了一个能连接 RPGMaker 的 AI Agent 框架, 只需要把小说粘贴进去, 就能变成可玩的RPG游戏啦! 另外本次还对豆包 Seed-2.0-Pro 模型的 Agent 能力和多模态进行了详细评测: Agent 能力比 1.8 版本有了更进一步的提升, 最大的感受是策略更强了, 同时提升了 Tool Call 效率, 在测试中对比 1.8 版本提升了接近40%的分数. 多模态能力在UI还原上非常给力, UI的细节元素均可以正确还原, 复杂的网站直接录屏然后丢给 Seed-2.0-Pro 就可以搞定了, 不过交互和动效上有待加强, 我也给大家想了个办法, 直接在上下文中描补充述一下想要的交互效果就可以了. 总结是: Seed-2.0 是一个拥有强大 Agent 能力的模型, 特别适合处理各种复杂任务,借助它的多模态能力, 与框架和系统融合作为内嵌AI使用是我认为的最佳适用场景. 而如果需要用它来写代码, 可以尝试使用 code 版本, 会有一定的提升. #豆包大模型 #Seed20Pro #豆包Seed #AIAgent #AI教程
6:07

Agent 能力有多强? 来看豆包Seed2.0实测! 这次给大家用字节跳动新推出的豆包 Seed-2.0-Pro 大模型做了一个能连接 RPGMaker 的 AI Agent 框架, 只需要把小说粘贴进去, 就能变成可玩的RPG游戏啦! 另外本次还对豆包 Seed-2.0-Pro 模型的 Agent 能力和多模态进行了详细评测: Agent 能力比 1.8 版本有了更进一步的提升, 最大的感受是策略更强了, 同时提升了 Tool Call 效率, 在测试中对比 1.8 版本提升了接近40%的分数. 多模态能力在UI还原上非常给力, UI的细节元素均可以正确还原, 复杂的网站直接录屏然后丢给 Seed-2.0-Pro 就可以搞定了, 不过交互和动效上有待加强, 我也给大家想了个办法, 直接在上下文中描补充述一下想要的交互效果就可以了. 总结是: Seed-2.0 是一个拥有强大 Agent 能力的模型, 特别适合处理各种复杂任务,借助它的多模态能力, 与框架和系统融合作为内嵌AI使用是我认为的最佳适用场景. 而如果需要用它来写代码, 可以尝试使用 code 版本, 会有一定的提升. #豆包大模型 #Seed20Pro #豆包Seed #AIAgent #AI教程

karminski-牙医

20,689 просмотров • 7 месяцев назад

感觉又回到了1990年代！ 不过随着技术的升级换代，可能这些精神小伙行动能力上会比1990年更加强一些。 要知道，1990年是经历了1983年所谓的严打，但是效果几乎为零！ 后来是外资进入，加入WTO，使得经济状况发生了根本的改变，从而使得进厂打工更经济、更合算，才有效地缓解了社会治安矛盾。 而今天，却面临相反的从奢入简的过程，如何解决这些问题，是一个严峻挑战。
0:22

感觉又回到了1990年代！ 不过随着技术的升级换代，可能这些精神小伙行动能力上会比1990年更加强一些。 要知道，1990年是经历了1983年所谓的严打，但是效果几乎为零！ 后来是外资进入，加入WTO，使得经济状况发生了根本的改变，从而使得进厂打工更经济、更合算，才有效地缓解了社会治安矛盾。 而今天，却面临相反的从奢入简的过程，如何解决这些问题，是一个严峻挑战。

老骥

27,915 просмотров • 2 месяцев назад

前两天Zapier发布的史上最强的MCP，涵盖了过去20年主流的软件和saas工具，一下带着他们接入了MCP生态，对MCP生态的发展价值和意义非常大，相当于将除模型和智能体之外的软件、工具的mcp支持拉满了，牛逼plus #zapier_mcp #MCP #mcp生态 #mcp服务
14:20

前两天Zapier发布的史上最强的MCP，涵盖了过去20年主流的软件和saas工具，一下带着他们接入了MCP生态，对MCP生态的发展价值和意义非常大，相当于将除模型和智能体之外的软件、工具的mcp支持拉满了，牛逼plus #zapier_mcp #MCP #mcp生态 #mcp服务

AIGCLINK

34,804 просмотров • 1 год назад

Lisa Su 把大模型的本地运行门槛直接打了下来。一个午餐盒大小的 Mini PC，无需云端、无需独立显卡，就能跑通完整的 Qwen3 235B。 靠着 Ryzen AI Max+ 395 和 128GB 统一内存（Linux 下可用 VRAM 高达 ~110GB），x86 芯片终于具备了在本地接管超大规模模型的硬实力。
0:31

Lisa Su 把大模型的本地运行门槛直接打了下来。一个午餐盒大小的 Mini PC，无需云端、无需独立显卡，就能跑通完整的 Qwen3 235B。 靠着 Ryzen AI Max+ 395 和 128GB 统一内存（Linux 下可用 VRAM 高达 ~110GB），x86 芯片终于具备了在本地接管超大规模模型的硬实力。

Bill The Investor

22,138 просмотров • 3 месяцев назад

一个小粉红把自己的房子亏血本卖了，只为了能去一个正常的地方
4:36

Sensitive content

一个小粉红把自己的房子亏血本卖了，只为了能去一个正常的地方

所谓伊人 在水一方

74,303 просмотров • 1 год назад

深度使用ox alpha，用了1Btoken ，这其中有一部分做了一个游戏 我的评价是可以散了，这个模型不能用来生产，如果你有Grok 4.6、K3级别的模型，不需要用这个模型 请大家欣赏用ox alpha + 多workflow agent做了一天半的游戏：
0:59

深度使用ox alpha，用了1Btoken ，这其中有一部分做了一个游戏 我的评价是可以散了，这个模型不能用来生产，如果你有Grok 4.6、K3级别的模型，不需要用这个模型 请大家欣赏用ox alpha + 多workflow agent做了一天半的游戏：

lifcc

25,355 просмотров • 1 месяц назад