Video yükleniyor...
Video Yüklenemedi
牛逼,AI操控IPhone的开源项目来了 之前一直觉得Codex操控Mac的IPhone镜像太慢,这下问题直接被这个开源项目解决了 开源地址:
139,993 görüntüleme • 2 gün önce •via X (Twitter)
19 Yorum

我前端时间也探索了一些方案,没想到又出了一个新的,就是不知道速度怎么样

手机端 agent 一直卡在最后一公里:模型能做什么,但在真机上做出来,要人把输入通道打通。 镜像方案多了一层——屏幕编码发过去、点击指令转回来,每一步都要等一个来回。瓶颈通常在这里,不在模型。 这类项目的意义不在"能不能操控",而在 agent 的执行半径从对话窗口扩到了整台设备。

这个方向很有意思,自动化测试iOS App一直是痛点。如果能稳定跑完整个用户流程,独立开发者能省下大量回归测试时间。

大佬们甚至都能从外部工具实现这些功能了,倒是狗屎siri到现在还不能多语言识别,烂得一批

镜像慢的核心其实不在操控本身,是每一步都要截图→视觉模型定位→再点回去,一轮就是好几秒。这个项目如果绕开了 iPhone Mirroring 的截图回路,延迟应该能差一个数量级。它是走真机直控读元素树,还是仍然截图找坐标?实测单步延迟大概多少?

我想请教下,这种白布画报视频是如何做的?

ok,谢谢,我去学习下

这下 Codex 的活动范围又扩大了,连 iPhone 都能直接上手了

下一步就是 AI 帮你回微信

直接跑真机比镜像稳多了,实测需要越狱还是非越狱就行?

实测门槛不低:要完整 Xcode、开发者签名,手机还得插线保持解锁。但能让 Codex 直接操作真机,风险也高,双刃剑吧

就想看看遇到弹窗会不会也开始乱点

啊还是wda那一套

@grok how does this work

Thx

刚好之前用Codex卡得我头疼,已经去记下这个项目了,回头试试体验怎么样。

它是在手机上自己跑,还是从电脑上控制真机?指令还是电脑发的话,镜像那段链路就还在,不能算直接绕开。

如果他这个东西能做到比原来的速度更快的话,我觉得这就很香啊!

这个是真实用 真痛点
