Загрузка видео...

Не удалось загрузить видео

На главную

别再买昂贵的显卡了,这个项目把手头闲置的手机、平板、电脑组成一个 AI 计算集群 在GitHub 已斩获 4w+star 它把你所有设备的算力统一成一块虚拟 GPU,iPhone、iPad、Mac、树莓派,只要接在同一个局域网里就行 不用手动配置,自动发现节点,p2p 直连,所有推理都在本地跑 它会根据每台设备的实时性能和网络状况决定怎么切分模型,确保整体推理速度达到最优 有人实测用 4 台 M3 Ultra Mac Studio 跑起了 DeepSeek v3.1 671B,支持 RDMA over Thunderbolt 5 之后多机延迟降了 99%

25,521 просмотров • 2 дней назад •via X (Twitter)

Комментарии: 0

Нет доступных комментариев

Здесь появятся комментарии из оригинального поста

Похожие видео

有个事我憋很久了,今天必须说一下。 市面上那些标榜 AI 驱动交易的 Bot,我深度用过几款之后发现一个特离谱的现象:它们所谓的 AI 就是接了一个 GPT 或者 Claude 的 API,把 K 线数据原封不动丢进去,让一个从来没被训练过理解金融时间序列的通用模型给你输出买卖建议。说难听点,跟拿 ChatGPT 算命没什么区别。 所以 AIX 的多模型路由方案,是我接触这个项目之后第一个真正觉得"方向对了"的设计。 它同时接了 GPT、Claude、DeepSeek R1、Gemini 这些通用模型,也集成了 Kronos 这类专门为金融预测训练的专业模型。中间多了一层调度层,根据当前市场状态智能路由,震荡市用一套推理框架,单边趋势切另一套算法组合。 这个设计的聪明之处在于它承认了一个很朴素的事实:没有一种模型能在所有行情里通吃。趋势跟随在单边市是神,进了震荡就是来回止损。反过来网格在震荡舒服,单边一来直接穿仓。通用大模型做策略意图理解很强但看 K 线的能力确实有限,专用金融模型在时序预测上更精准但没办法理解你用自然语言描述的策略逻辑。没有一个模型能同时搞定所有事。 AIX 干的事不是选一个最强的模型然后迷信它,而是让不同模型在不同环节轮班上岗,动态调权重。这个思路在传统量化里叫多因子动态权重,AIX 把它搬到了 LLM 和时序模型的协同上。 我体验下来的感受是它不像那种一问一答的 Bot,更像有一个小团队在后台协作,你只需要给方向,它自己去协调谁干什么。这个架构如果跑通,抗单一模型失效的能力跟那些只接一个 API 的项目不在一个数量级。 个人分享,非投资建议。

DeFi狙击手 | Ai🕊️

17,513 просмотров • 2 месяцев назад

【ZenMux 深度评测第二弹:AI 视频的“动线导演思维”】 在实际动作片拍摄中,动作导演和武指执行一镜到底的格逐戏前,会先设计完整的“动线”——角色从哪进、经哪些节点、在哪完成动作。路径定了,机位反而是被动推导出来的。控制的核心是动线,不是镜头。 用 AI 生成建筑跑酷或一镜到底也是同理。很多人直接在提示词里描述运镜,结果画面空间感混乱。正确解法是先建立动线(沿哪个立面跑、在哪腾空、落点是哪个平面),把空间路径描述清楚,AI 生成的运动才会有连贯的空间逻辑。 但怎么把这种抽象的“导演思维”翻译成 AI 听得懂的语言?这就涉及到一个高频痛点:不同的 AI 模型,对空间和镜头语言的“理解性格”完全不同。以前为了试一组跑酷动线 Prompt,要在 Claude、GPT、DeepSeek 之间来回切平台,切到思路断线,月底对账单也头大。 最近把这个动线测试工作流接进了 ZenMux,在同一个界面里直接调度和交叉实测,发现很有意思:Claude 的空间解构和节点拆分极专业;GPT-4o 对材质和光影的细腻润色拿来就能用;而 DeepSeek 成本极低,适合批量跑盲盒初筛。全程在一个入口搞定,后台额度清晰,还有智能路由和延迟赔付。真正干活和做内容交付的人,要的就是这种多模型调度的“确定性”和工作流“韧性”。降本增效不只是换个便宜模型,而是像导演一样,把不同的任务精准派发给最合适的工具。

波妞PONYO

13,190 просмотров • 3 месяцев назад

很多人看 Inference Labs , 第一反应都是那些听起来特别硬的技术名词,比如什么 zkML,什么 PoI。 但说真的,如果你把这层技术的皮给剥开,你会发现它讲的根本不是代码,而是权力。 Inference Labs 真正做的,是把 AI 系统里以前那些模糊的权力关系,直接给拆散了摆在台面上。 在传统的 AI 世界里,模型方就是绝对的老大。 模型怎么跑,参数怎么调,最后给你一个结果,你除了相信,没有任何别的办法。 算力方也是一样,谁手里的机器多,谁的声音就大。这种结构下,用户其实是没有任何话语权的。 但 Inference Labs 正在把这套逻辑给彻底拆掉。 在它的 PoI 机制下,模型不再是那个不可挑战的上帝了。模型只能负责干活,负责给出推理结果,但它没有权利定义这个结果是不是对的。 一旦进了这个系统,模型的每一个输出都必须经过证明,经过别人的复现和验证。 这一步,本质上就是在削弱模型的权力。模型不再是权力的中心,它变成了一个纯粹的服务提供者。 再来看看算力。 很多人以为验证网络会让算力变得更值钱,更重要。其实恰恰相反,在 Inference Labs 的结构里,算力其实是被压制的。 算力在这里只负责执行任务,它不负责最后的裁决。你算得再快,机器堆得再多,你也改变不了结果的合法性。你没法靠着算力去强行说服系统接受一个错误的结果。 这意味着,算力在这里变成了一种商品化的成本,而不是一种能让你称王称霸的筹码。 那么,真正的权力流向哪儿了。 答案是验证者。 验证者不需要去训练什么顶级的模型,也不需要去买成千上万张显卡。 他们只做一件事,就是决定哪些推理是被系统承认的现实。这在现在的 AI 圈子里是非常罕见的设计。 它相当于承认了一点,AI 的问题其实不在于它聪不聪明,而在于当它给出结果的时候,谁有资格说这是一次有效的推理。 Inference Labs 把这个资格,从那些模型公司和平台手里,转移到了这个验证层。 这种变化的影响会非常深远。 以后在这个系统里,最强势的一方,不是那些最会训练模型的,也不是那些最有钱堆机器的。 而是那些能长期维持验证信誉的节点。这种节点看重的不是短期的那点博弈速度,而是长期的稳定性。 因为在它的规则里,只要你作恶一次,代价就是被系统永久边缘化。这种代价,任何想长久玩下去的人都承担不起。 所以我也一直在想,为什么 Inference Labs 在短期市场里显得这么安静。 其实道理很简单,这个系统里真正占便宜的角色,从来就不是那些会喊叙事,会搞投机的。 它奖励的是耐心,是持续不断的输出,以及永远不犯错的稳健。它天然地就在排斥那些只想进来薅一把就走的投机者。 我的感觉非常明确,Inference Labs 其实并不是在追求让 AI 变得更强,它是在尝试解决一个更有难度的问题。 那就是当 AI 已经足够强的时候,到底谁来约束它,谁来承担它产生后果后的责任。 在这个系统里,权力第一次不再是围绕着模型集中,而是被彻底拆散,被互相制衡。 这才是它最被低估的地方。 它在重新定义 AI 时代的规则。它告诉我们,在这个新的权力游戏里,诚实和稳定,才是最贵的资产。 #inference_labs #KAITO

比克大魔王

29,152 просмотров • 8 месяцев назад

全自动科学论文工厂,它真的来了。 你该看看这个新仓库。 之前那个中国大学生搞了个MiroFish,做实时社会模拟;字节跳动那边出了OpenViking,把记忆结构化;还有Percepta,把数学计算直接嵌进大模型的权重里;吴恩达那边也推了个Context Hub,相当于给代理加了一层自己标注的文档系统。 👉 Polymarket 官方入口: 现在,AutoResearchClaw 刚在 GitHub 上线——一个全自动的科学论文生成器。 仓库上线几个小时,就拿了差不多 4k 星。 给一个原始的想法进去,出来的就是一篇 6000 字、能直接用的 PDF 论文。关键它不是那种垃圾玩意儿。 它背后跑的是真正的代理系统: · 自己做实验:写代码、跑测试、读日志,崩了还能自己调 · 几乎没有幻觉:走硬核四层验证,对接真实科学数据库,没有假引用 · 格式也挑不出毛病:图表自动生成,LaTeX 排版,直接对标 NeurIPS / ICML 的标准 挺有意思的悖论是:这东西不会把 arXiv 搞死。 仓库: 当生成一篇论文的成本几乎为零,真正的权力就到了“筛选者”手里。行业里的新神,会是那些活人审稿人——他们要在无穷无尽的 AI 论文洪流里,手动淘出真东西。 愿安息吧,五年磨一篇的突破性论文——可能一夜之间就被批量淹没了。 把这几样东西拼在一起看: MiroFish 的集群 + OpenViking 的记忆 + Percepta 的真实数学 + Context Hub 的干净文档 + AutoResearchClaw 的自主研究 你就得到了一类代理——能自己跑完整个研究闭环,用真数学去验证假设,反复推敲,以远超人类的速度做出真正的突破。 这不就是在 Polymarket 和各类条件市场上,搭建下一代预测机器人要用的那套东西吗?代理自己去研究、模拟、验证概率,用科学的方法更新判断,而不是靠猜。 一个真正能发现、能证明的预测超级代理时代,就这么来了。 存好这套配置。 如果想在 Polymarket 上搞跟单交易,我推荐用这个: #Polymarket

区块链行情研究

62,723 просмотров • 6 месяцев назад

最近我用了 Grok Bot 一段时间,这是我最近最喜欢的 Agent 产品之一。 原因甚至不是 Grok 有多聪明。 是它真的有一台自己的电脑。 AI Agent 的最终形态,其实就是给 AI 发一台电脑。 xAI 给 Grok Bot 配了一台持续存在的云电脑,里面有浏览器、文件系统和终端。登录状态、文件、浏览器 Session 都会留下来,你把电脑关了,它也可以继续干活。 听起来只是一个产品功能,实际用起来,我觉得它把 Agent 的体验往前推了一大截。 比如我每天都要刷 X。 以前让我用 AI 帮忙看 X,工作流通常是这样的: 我刷到一条东西,复制给 AI;AI 觉得有意思,我再去找原帖;再开几个链接;再把资料复制回来;让它查证;最后再让它帮我写。 AI 干了很多活,但真正操作互联网的那个人一直是我。 Grok Bot 让我第一次很自然地把这部分也扔掉了。 我直接在它那台电脑上把 X 登录好,然后告诉它去刷我的 timeline,看看今天大家在讨论什么,发现有意思的东西就点进去,把原帖、引用、相关讨论都看一遍,再去外面查资料,最后觉得值得写的,帮我整理成帖子。 它就真的去操作浏览器了。 网页没有 API 没关系,没有 MCP 也没关系。只要人能打开网页、登录、点击,它就有机会自己完成。xAI 自己对 Grok Bot 的定义其实也很明确,它可以登录并使用网站和 App,用 computer use 处理那些没有干净 API 的软件。 这才是 Agent 真正重要的一步。 过去一年大家一直在给 Agent 加工具,Search、Browser、Code、MCP、Connector… 工具越来越多,可我的体验经常还是我才是所有 Agent 背后那个最累的 Agent。 我同时开着好几个 AI。这个查资料,那个写代码,另一个做图,还有一个跑 Deep Research。 A 做完以后我复制给 B,B 做完以后再扔给 C。 名义上我有一支 AI 团队,实际上我是这支团队里专门负责复制粘贴、开网页和催进度的项目经理。 Grok Bot 有一个特别戳我的能力**,它甚至可以去操作另一个 Agent。** 我可以在它的浏览器里登录其他 AI 产品,然后告诉 Grok Bot 这个任务你去交给它。 等它跑完,把结果拿回来,然后继续完成后面的事情。 到这里整个关系就开始发生变化了。 以前是我管理五个 Agent。 现在我开始尝试只管理一个 Agent,然后让它去管理剩下几个。 而 Grok Bot 本身也支持多个 Bot 协作,它们可以互相发消息、传递上下文、交接任务,同时共享用户的云电脑、文件和登录状态。 我觉得这才是真正让我兴奋的地方。 过去我们把 Agent 想成一个会调用很多工具的模型。Grok Bot 给我的感觉,更像是第一次给 AI 分了一张办公桌。 电脑在那,账号在那,浏览器开着。有什么事情直接发消息给它,它自己去开网页、找东西、操作软件、叫别的 Agent 干活。 这和在聊天框下面再塞十个按钮,完全是两种产品感受。 只要 Agent 真正获得了电脑,它能接管的就不再是一两个 AI 功能,而是今天已经存在的整个软件世界。 几十年来所有软件,最终都默认一个前提是屏幕前坐着一个人。 现在这个人,第一次可以不是我了。

sleepy.md

21,551 просмотров • 20 дней назад

34家AI平台的免费额度,每月能白嫖74亿Token。 最有用的还不是这个数字。 Codex或者Claude Code跑到一半,当前接口被限速、返回429,它会自动换下一条可用线路,不用停下来换Key、改地址、重启任务。 这个开源项目叫FreeLLMAPI。 免费API名单其实到处都是,真正麻烦的是:每家的接口地址、模型名和限速规则都不一样。 Google能用多少次,Groq还剩多少额度,Cerebras什么时候被限速,平时全要自己记。一个接口挂了,还得手动修改配置再重新跑。 FreeLLMAPI把这些零散额度接成了一个统一的/v1接口。 把自己申请到的免费Key放进去,它会记录每个Key的RPM、RPD、TPM和剩余额度。当前线路被限速或者报错,就暂时跳过,自动尝试下一家。 目前已经整理了34家AI平台、474个模型系列和635个免费接口。 Codex CLI、Claude Code、Cursor、Gemini CLI、Aider、Cline这些工具都能接,官方也提供了Mac、Windows和Docker的安装方式。 不过先说清楚: 它不是破解,也不会直接送你74亿Token。各个平台的免费Key仍然需要自己申请,74亿只是把34家平台的理论免费额度全部相加。 更适合个人学习、跑Agent和临时测试,不适合拿去跑商业生产。 我看到时项目约2.08万星,本周新增约1700星。 对于每天同时跑几个Agent的人,它解决的不是“去哪里找免费API”,是怎么把这些零散额度真正接起来。

DeFi狙击手 | Ai🕊️

20,312 просмотров • 26 дней назад

MiMo推出1000 Token/s超高速模型|体验测评 MiMo 推出了 MiMo V2.5 Pro UltraSpeed 超高速的模型版本,能够实现每秒输出超过 1,000 Token 的速度。 同时,这应该也是全球第一个达到这个速度的万亿(1T)参数模型。 藏师傅提前试了一下,做了三个测试,确实爽。 第一个跑了一个比较复杂的 3D 采矿小游戏测试。在没有素材的情况下,我让它全部用 Three.js 前端代码来生成素材。整体要求比较完整,虽然第一次实践时出了一些小问题,但在跟他沟通修改建议后,非常完美地实现了任务。 这次测试的各项指标如下:思考的 TPS:804 Token/s,峰值速度:810 Token/s,首次响应时间:4.71 秒。 第二个测试给了一个官网,其头部包含一个相对复杂的 3D 动画。 这次的输出速度快了非常多:峰值达到了 1426 Token/s,首次响应只用了 0.83 秒,在 32 秒内输出了 25624 个 Token,总计生成了 1000 行代码。 第三个测试给了一个更复杂的官网。我要求这个官网的 Header 头部包含以下 3D 效果:地球边缘、轨道上的飞船、星际尘埃、航线图、舷窗的 HUD 样式。 这个效果非常好,整体的视觉样式、状态、SVG 动画和驾驶卡片都非常精细,还有滚动的视差效果 这个输出的 TPS 达到了 1136 tokens/s,首次响应是 4.5 秒 官方测试平台下面有个数据展示,会显示相关信息 在流式输出的情况下,当你看着它只用 20 秒就产生一个非常复杂的 3D 游戏时,那种场景还是比较震撼的 之前的这些(比如说 Groq 之类的)超高速推理方案,在模型能力或者是整体水平上都会有所下降,但是 MiMo 这个在测试的时候,我没有看到这种迹象 最近很多公司都开始推出这种超高速的 API 服务,比如之前 OpenAI 和 Anthropic 都有 Fast 模式 在 Agent 场景下,模型输出效率的提升会直接带动每一步 Agent 操作的效率: 如果一个任务预估一分钟完成,你就会盯着它直到结束,然后立刻投入测试。如果需要五分钟才完成,你可能就会去干别的事,然后再回来看,难免会浪费一些时间 这种效率提升在 Sub-Agent 和并发场景下更加明显。因为它可以更快地产出大量结果,想象一下,如果同时启动一两百个 Sub-Agent,在模型能力没有衰减的前提下,速度提高 10 倍,体验是非常爽的 毕竟这本质上是面向那种对效率有极高要求的 To B 客户所推出的 希望后面大家卷起来,优化一下成本,让普通用户也能放开用这种 UltraSpeed 模型

歸藏(guizang.ai)

26,998 просмотров • 3 месяцев назад