正在加载视频...

视频加载失败

加载此视频时出现问题。这可能是由于临时网络问题，或视频可能不可用。

gemini 帮我用 rust 实现了换脸模型的推理，还进行了一点小小的优化

辉小志

7,772 subscribers

37,235 次观看 • 8 个月前 •via X (Twitter)

Anya Rossi• Live Now

Private livecam show

0 条评论

暂无评论

原始帖子的评论将显示在这里

相关视频

本地小模型今年进入非常可用的状态了，真的能干一些事情了。

本地小模型今年进入非常可用的状态了，真的能干一些事情了。

砍砍.ᐟ

70,769 次观看 • 14 天前

最佳本地MCP调用模型来了？——Jan-Nano-4B 这是个使用 DAPO 在 Qwen3-4B 上微调的模型。但是它在MCP调用方面的评测分数甚至超过了 Deepseek-R1-671B ! 另外团队还放出了GGUF量化版本，推荐使用Q8，更小的量化质量不太行模型地址：量化版本地址：

最佳本地MCP调用模型来了？——Jan-Nano-4B 这是个使用 DAPO 在 Qwen3-4B 上微调的模型。但是它在MCP调用方面的评测分数甚至超过了 Deepseek-R1-671B ! 另外团队还放出了GGUF量化版本，推荐使用Q8，更小的量化质量不太行模型地址：量化版本地址：

karminski-牙医

24,155 次观看 • 1 年前

展示一下我的B站评论处理的工作流，模型换成了3.5，体验太棒了！

展示一下我的B站评论处理的工作流，模型换成了3.5，体验太棒了！

李博

56,076 次观看 • 3 年前

去年九月 ChatGPT 还没推出之前 Reid Hoffman 与 Sam Altman 的一场对话，这一段是 Sam 对 AI 下一个发展阶段的描述：大型语言模型的进化将超出大家想象，会出现不同模态相互转换的多模态模型，一些 AI 应用还可令科学家如虎添翼，AI 将是一个可以孵化出无数工具，推动各行各业前进的基础平台🧵

去年九月 ChatGPT 还没推出之前 Reid Hoffman 与 Sam Altman 的一场对话，这一段是 Sam 对 AI 下一个发展阶段的描述：大型语言模型的进化将超出大家想象，会出现不同模态相互转换的多模态模型，一些 AI 应用还可令科学家如虎添翼，AI 将是一个可以孵化出无数工具，推动各行各业前进的基础平台🧵

indigo

27,533 次观看 • 3 年前

《一墙之隔》（ntr “小宝你脸好红呀！” “嘘，我说了，小声点。” “小宝的小穴快要把哥哥融化了” “到底是慢一点还是快一点?” 台本授权：宁檬檬檬

Sensitive content

《一墙之隔》（ntr “小宝你脸好红呀！” “嘘，我说了，小声点。” “小宝的小穴快要把哥哥融化了” “到底是慢一点还是快一点?” 台本授权：宁檬檬檬

散落的星✨

82,660 次观看 • 1 个月前

单卡 700TPS! Diffusion Gemma 来了! Google 刚刚发布了 Gemma 小模型的 Diffusion 版本! 大小26B, 激活参数量4B, 最重要的是, 这次还跟 NVIDIA 合作针对4090和5090优化了一波, 5090每秒能生成700+token! 给不知道什么是 Diffusion 大模型的同学科普一下, 传统大模型都是一个字一个字吐出来的, 而 Diffusion 大模型则是如同刮奖一样, 是一片一片出来的, 速度高是 Diffusion 大模型的优点. 有得必有失, 缺点当然就是输出质量没有传统大模型好了. 不过这次的 Diffusion Gemma 还是比之前的 Diffusion 文本大模型好不少, AIME 2026(数学能力测试) 能达到 Gemma4-26B-A4B 的94%的水平, 最差的是tau2 bench(考验Agent能力的测试), 也能达到82%. 这个模型大小 4bit 量化版本 16G 显存就能运行了, 另外, 我突发奇想, 这个模型能不能作为 gemma4 dense 模型的草稿模型用来投机解码? 感兴趣的同学可以试试! #diffusiongemma #gemma #gemma4 #google

单卡 700TPS! Diffusion Gemma 来了! Google 刚刚发布了 Gemma 小模型的 Diffusion 版本! 大小26B, 激活参数量4B, 最重要的是, 这次还跟 NVIDIA 合作针对4090和5090优化了一波, 5090每秒能生成700+token! 给不知道什么是 Diffusion 大模型的同学科普一下, 传统大模型都是一个字一个字吐出来的, 而 Diffusion 大模型则是如同刮奖一样, 是一片一片出来的, 速度高是 Diffusion 大模型的优点. 有得必有失, 缺点当然就是输出质量没有传统大模型好了. 不过这次的 Diffusion Gemma 还是比之前的 Diffusion 文本大模型好不少, AIME 2026(数学能力测试) 能达到 Gemma4-26B-A4B 的94%的水平, 最差的是tau2 bench(考验Agent能力的测试), 也能达到82%. 这个模型大小 4bit 量化版本 16G 显存就能运行了, 另外, 我突发奇想, 这个模型能不能作为 gemma4 dense 模型的草稿模型用来投机解码? 感兴趣的同学可以试试! #diffusiongemma #gemma #gemma4 #google

karminski-牙医

12,374 次观看 • 2 个月前

对不起，我不是在用 AI，我是在开公司！看到 Kimi 2.5 的集群模式，我直接看呆了…… 以前是“一个模型干所有活”，现在是“模型现场帮我招员工” 只要跟它说你的需求，它会自动分身：有的负责调研，有的负责写代码，有的负责整合最高100个 Agent 并发处理！这种串行+平行的调度能力，以前想都不敢想 “一人公司”的时代真的来了吗唯一的缺点？贵现在的我只想大喊：友商们快跟进！早日实现“数字员工自由”！

对不起，我不是在用 AI，我是在开公司！看到 Kimi 2.5 的集群模式，我直接看呆了…… 以前是“一个模型干所有活”，现在是“模型现场帮我招员工” 只要跟它说你的需求，它会自动分身：有的负责调研，有的负责写代码，有的负责整合最高100个 Agent 并发处理！这种串行+平行的调度能力，以前想都不敢想 “一人公司”的时代真的来了吗唯一的缺点？贵现在的我只想大喊：友商们快跟进！早日实现“数字员工自由”！

XDmnnn不淡

50,270 次观看 • 5 个月前

现身说法一下为啥龙虾出现的时候我这么激动，因为它是实打实的能帮我干活了，我自己搞了个龙虾，春节期间它帮我更新了7篇公众号，1篇100阅读的推文，还帮我涨了5000粉丝

现身说法一下为啥龙虾出现的时候我这么激动，因为它是实打实的能帮我干活了，我自己搞了个龙虾，春节期间它帮我更新了7篇公众号，1篇100阅读的推文，还帮我涨了5000粉丝

傅盛

25,065 次观看 • 5 个月前

Google 悄悄推出了 Gemini 2.0 flash 的 Thinking 模型，专门为推理优化，类似与 OpenAI o1，但不同的是 Thinking 给出了完整的思考步骤和自己的选择，而且速度极快！用上个月 AI 工作坊的填数题试了试，o1 花了 40 秒还做错了，Thinking 每次只需 20 秒，而且每次都正确✨

Google 悄悄推出了 Gemini 2.0 flash 的 Thinking 模型，专门为推理优化，类似与 OpenAI o1，但不同的是 Thinking 给出了完整的思考步骤和自己的选择，而且速度极快！用上个月 AI 工作坊的填数题试了试，o1 花了 40 秒还做错了，Thinking 每次只需 20 秒，而且每次都正确✨

indigo

57,728 次观看 • 1 年前

前 OpenAI CTO Mira 的公司 Thinking Machines 发了一个非常创新的模型，他们叫交互模型。这个模型能够持续接收音频、视频、文本等原生的多模态内容，并且实时进行思考、响应和行动。它不像之前那种 Agent 脚手架，把多个模型、多个模态的模型通过 Agent 串起来，而是所有模态都在一整个模型里。这样就可以让用户和 AI 在任意模态下实时进行交互：你可以随时打断它，随时进行补充，AI 会实时关注你的状态，输出结果，不会像之前一样，必须等一句话结束了才能跟模型交互。核心思路就是把交互部分训练到了模型里。他们从零训练的这个交互模型主要包括两部分：前台交互模型： (a) 一直在线，一直在听、看和读用户提供的内容 (b) 每 200 毫秒作为一个节点，同时处理输入并产出一小段输出 (c) 负责照顾用户的在场感，支持用户打断、插话，并能对屏幕和视频内容做出反应后台推理模型： (a) 用来处理需要持续推理、工具调用以及长上下文、长规划的任务 (b) 交互模型会在合适的时候，将推理模型的结果放回到对话里，不会插入突兀的内容用户最终看到的结果，就是一个既能实时交互，又能够处理重度任务的界面。

前 OpenAI CTO Mira 的公司 Thinking Machines 发了一个非常创新的模型，他们叫交互模型。这个模型能够持续接收音频、视频、文本等原生的多模态内容，并且实时进行思考、响应和行动。它不像之前那种 Agent 脚手架，把多个模型、多个模态的模型通过 Agent 串起来，而是所有模态都在一整个模型里。这样就可以让用户和 AI 在任意模态下实时进行交互：你可以随时打断它，随时进行补充，AI 会实时关注你的状态，输出结果，不会像之前一样，必须等一句话结束了才能跟模型交互。核心思路就是把交互部分训练到了模型里。他们从零训练的这个交互模型主要包括两部分：前台交互模型： (a) 一直在线，一直在听、看和读用户提供的内容 (b) 每 200 毫秒作为一个节点，同时处理输入并产出一小段输出 (c) 负责照顾用户的在场感，支持用户打断、插话，并能对屏幕和视频内容做出反应后台推理模型： (a) 用来处理需要持续推理、工具调用以及长上下文、长规划的任务 (b) 交互模型会在合适的时候，将推理模型的结果放回到对话里，不会插入突兀的内容用户最终看到的结果，就是一个既能实时交互，又能够处理重度任务的界面。

歸藏(guizang.ai)

47,074 次观看 • 3 个月前

Deepseek V4 Flash 真的惊艳到我了，我就用一句话就生成了一个AI控制台。我使用open code+Deepseek V4 Flash测试了一下模型的能力，总共不到五十秒，就给我生成了对应能力了。主要是该有的模块都有，而且很多细节上面做了特定的优化。模块划分： 1、仪表盘：做中央把控看模型消耗。 2、任务：看任务指派和模型上下文处理。 3、对话：直接在网页上可以和AI直接对话。现在最重要的是open code还能免费使用，可以马上上手体验一下，国产模型是越来越强了，以后真的可以不使用国外模型了。

Deepseek V4 Flash 真的惊艳到我了，我就用一句话就生成了一个AI控制台。我使用open code+Deepseek V4 Flash测试了一下模型的能力，总共不到五十秒，就给我生成了对应能力了。主要是该有的模块都有，而且很多细节上面做了特定的优化。模块划分： 1、仪表盘：做中央把控看模型消耗。 2、任务：看任务指派和模型上下文处理。 3、对话：直接在网页上可以和AI直接对话。现在最重要的是open code还能免费使用，可以马上上手体验一下，国产模型是越来越强了，以后真的可以不使用国外模型了。

小墨同学

27,520 次观看 • 24 天前

AigcPanel 一款由 Vue 实现的简单易用一站式 AI 数字人系统，小白也可使用。支持视频合成、声音合成、声音克隆，简化本地模型管理、一键导入和使用AI模型。

AigcPanel 一款由 Vue 实现的简单易用一站式 AI 数字人系统，小白也可使用。支持视频合成、声音合成、声音克隆，简化本地模型管理、一键导入和使用AI模型。

Geek

58,784 次观看 • 1 年前

谁能帮我优化一下，搞了好久这地图轨迹还是卡卡的🤪

谁能帮我优化一下，搞了好久这地图轨迹还是卡卡的🤪

banboo

15,082 次观看 • 1 年前

今天 Meta 发布了最新的开源模型的 Llama 3 首发和之前一样，包括了 8B 和 70B 两个版本，小扎说还有个 400B 参数的大号版预计在夏天发布，这可能是第一个 GPT-4 级别的开源模型！Meta 这次在 15T 的数据集上训练了一个 8B 的小模型，在参数规模、易用性和推理能力上做了最佳平衡，看来有算力真香😄 同时 Meta 也推出了自己的 ChatGPT 产品 Chat AI 了。。其实 HuggingChat 也不错的你可以在这里体验所有的开源大语言模型

今天 Meta 发布了最新的开源模型的 Llama 3 首发和之前一样，包括了 8B 和 70B 两个版本，小扎说还有个 400B 参数的大号版预计在夏天发布，这可能是第一个 GPT-4 级别的开源模型！Meta 这次在 15T 的数据集上训练了一个 8B 的小模型，在参数规模、易用性和推理能力上做了最佳平衡，看来有算力真香😄 同时 Meta 也推出了自己的 ChatGPT 产品 Chat AI 了。。其实 HuggingChat 也不错的你可以在这里体验所有的开源大语言模型

indigo

183,917 次观看 • 2 年前

OpenAI没选NVIDIA。 Sam Altman亲手选了AMD，用来做AI推理。他和苏姿丰一起，从头参与了MI450芯片的设计。这不是合作，这是共建。 MI450最大优势是啥？推理效率，特别是大模型低功耗推理。你以为GPU只卷训练？2024之后，比的是谁能推得更省、更快、更稳。 OpenAI已经开始在MI300X运行模型了，MI450只是更激进的延续。接下来的大模型，不一定长在N卡上。

OpenAI没选NVIDIA。 Sam Altman亲手选了AMD，用来做AI推理。他和苏姿丰一起，从头参与了MI450芯片的设计。这不是合作，这是共建。 MI450最大优势是啥？推理效率，特别是大模型低功耗推理。你以为GPU只卷训练？2024之后，比的是谁能推得更省、更快、更稳。 OpenAI已经开始在MI300X运行模型了，MI450只是更激进的延续。接下来的大模型，不一定长在N卡上。

墓碑科技

107,298 次观看 • 10 个月前