Загрузка видео...
Не удалось загрузить видео
【個人開発者必見】Androidのネイティブアプリを直接操作できるAIエージェントがオープンソースで公開され、海外で話題になっています。 ・スマホ操作をAIが代行 ・高速&低コスト ・仕事の業務をそのまま自動化 具体的に何が開発できるのか解説します👇
30,244 просмотров • 9 месяцев назад •via X (Twitter)
Комментарии: 14

このAIエージェントはAndroidの既存ネイティブアプリを、人間の代わりに操作するためのOSSです。アプリを開発するAIではなく、すでに入っているアプリを操作するAI。名前はAndroid Use(android-action-kernel)。

従来のAIエージェントは ・ブラウザ操作が前提 ・PCやラップトップが必要 ・現場や移動中では使えない このOSSは「スマホしか使えない環境」を前提に作られています。

最大の特徴はここ ❌ 画面スクショ → OCR / Visionモデル ⭕ AndroidのアクセシビリティAPIを直接利用 つまり画像認識に頼らず、UI構造(XML)を読む仕組みです。

構造化されたUIデータを使うことで ・Visionモデル不要 ・1アクション 約$0.15 → 約$0.01(95%削減) ・レイテンシ 1秒未満(約5倍速) これが「高速&低コスト」と言われる理由。

動作の流れはシンプル 1. アクセシビリティツリーを取得 2. LLM(GPT-4など)が次の操作を判断 3. ADB経由で「タップ、文字入力、画面遷移」を実行 人間のスマホ操作をそのままAIが再現します。

READMEにある例 ・ドライバーがWhatsAppで写真送信 → AIが画像を取得 → ネイティブのスキャナーアプリで処理 → 請求書アプリに入力 → アップロード&支払い完了 現場の手作業を丸ごと自動化。

・DoorDash ・Uber Eats など複数のアプリを監視し、最も高収入の注文を自動で受け付けることも可能。

・複数の銀行アプリにログイン ・当日の送金履歴を取得 ・取引内容を自動照合 モバイル中心の金融業務自動化にも使える。

業務だけでなく ・アカウント作成 ・オンボーディング ・テスト購入 AndroidアプリのE2Eテスト自動化にも使えます。

GitHubはこちら👇

この投稿が役に立ったなら ・えいと(@7_eito_7)をフォロー。 ・いいねとリポストもお願いします。

ついに解明された、ChatGPTのメモリ機能についてはこちら👇

毎回手でやっている操作をお願いして放置に寄せられるのは大きいですね。定型の確認を減らせれば、他の作業に時間を回しやすくなりそうです。

会社員の定型スマホ作業を減らせる余地はありそうですね。毎回手でやっていた操作を任せられるなら、かなり使い道が広がりそうです。
