Video wird geladen...

Video konnte nicht geladen werden

Zur Startseite

イーロンは2026年にAGIに到達すると予測👇 「2026年にAGIに到達すると思う。そして、2030年には、AIが全人類の知能を合計したものを超えると自信を持って言えるよ」 AGI到達から自己改善が爆発的に進み、数年以内に想像を絶するレベルになる。すでにシンギュラリティの入り口か。

227,124 Aufrufe • vor 5 Monaten •via X (Twitter)

0 Kommentare

Keine Kommentare verfügbar

Kommentare vom Original-Post werden hier angezeigt

Ähnliche Videos

AGIを超えるのは通過点にすぎない。5年以内に人類は「できないこと」を可能にするシステムを手にし、10年後には科学と経済の進歩が爆発的に加速する。自己改善ループが回り始めた世界では、知識も産業も臨界点を超えていく。30年先は予測不能——それこそが超知能時代のリアリティだ。 孫「ビジョンについてはどうでしょうか。5年後にはAGIは確実に超えると思います。そしてそれ自体が最終目標ではありません。超知能、すなわち人工超知能がやって来ます。10年後、30年後についてはどうでしょう。30年後には私はいないかもしれませんが、あなたはまだ若い。あなたのビジョンを聞かせてください。5年、10年、30年という三つの段階で」 アルトマン「それはとても難しいですね。少なくとも5年で私たちはAGIを超え、今の私たちには不可能なことをこなすシステムを持つようになると思います。10年後には、科学の進歩速度や経済成長率は今日とはまったく違う姿になり、非常に速いペースになると強く予想します。社会の変化はよりゆっくりですが、技術的・科学的な能力の観点では極めて速く進み、重要な多くの領域で自己改善ループに到達しているはずです。30年後については、私には分かりません」

Tsubame

18,059 Aufrufe • vor 9 Monaten

「完全なAGIまであと数年」——慎重なハサビス氏がここまで明確に言う意味は重い。そして、彼にとってシンギュラリティとは特定の点というより、AGIが社会に入ってくることで始まる「時代の名前」だ。後世から見れば、2026〜2027年は人類史が変わり始めた年として記憶されるかもしれない。 デミス・ハサビス「私はAGIが目前に迫っているという話をよくしています。完全な形のAGIまで、もうあと数年しかないと思っています。そしてシンギュラリティという言葉は、AGIのような技術が登場することで引き起こされる時代を表すのに、かなり適した言葉だと思います。 その理由の一つは、それがあまりにも大きな変革をもたらすからです。おそらく史上最も重要な発明になるため、その地平線の先について多くを予測することは難しくなります。あまりにも多くのことが変わるからです。そして今年、私たちが目にし、使っているエージェント型システムによって、私たちはそれを今、感じ始めていると思います。私が言いたかったのは、そういうことです。 5年後、10年後に振り返ったとき、「ああ、そうだ、2026年、2027年ごろに始まっていたんだ」と見ることになると思います」

Tsubame

17,551 Aufrufe • vor 1 Monat

「この先5年で『何でもできるAI』が来る」と言いながら「この先10年で雇用は増える」と同時に語れるのは、AGIというラベルが便利な曖昧語になっているからだ。VCや技術者の側では、期待を煽るときは「強いAGI」、批判や規制の話になると「薄いAGI」にすり替わる。 アジェヤ・コトラ「AGIという概念が主流になるにつれて、同時にどんどん『薄まっている』ことに気づいています。去年、ニューヨークのDealBookで『AIの未来』についてのパネルに出たんです。私と、安全面の観点で考える人が1〜2人いて、他はベンチャーキャピタリストや技術者が何人もいました。 パネルの最初に司会者が、『2030年までにAGI——人間にできることは何でもできるAI——が実現する確率は、実現しない確率より高いと思いますか?』と聞きました。7〜8人が手を挙げました。私は挙げませんでした。私のタイムラインはもう少し長めだからです。 ところが、その少し後に司会者が、『この先10年で、AIは雇用を増やすと思いますか、それとも減らすと思いますか?』と追質問したんです。2030年はあと5年で、10人中7人が『2030年までにAGIが来る』と思っているのに、10人中8人——これも私以外——が『この先10年でAIは失う雇用より多くの雇用を生む』と答えました。 私は少し混乱しました。『5年で、最高の人間専門家ができることを全部できるAIが来ると思っているのに、なぜ10年で、雇用はむしろ増えると思うのですか? ここで何が起きているのですか?』と。 ——「矛盾している感じがしますね」 その矛盾について後で何人かに突っ込んで聞いたら、みんなすぐに引き下がって、『AGIって結局何を意味するの?』と言い出しました。司会者はすごく極端な定義を置いていたのに、彼らは『もうAGIはあるようなものだ』『人々はゴールポストを動かし続ける。私たちは次々にすごい新製品を作っているのに、人々はそれをAGIだと認めず、もっと上を求める』と言ったんです。 私は滑稽だと思いました。なぜなら、古い学派のシンギュラリタリアン未来派のAGIの定義において、AGIとは非常に極端なものだからです」

Tsubame

73,970 Aufrufe • vor 4 Monaten

2029年の「人間レベルAI」は到達点ではなく、加速の入口にすぎない。カーツワイル氏が2045年を「シンギュラリティ」と呼ぶのは、AIが外部の道具として発達するのではなく、人間の認知そのものに溶け込み、思考の出どころが「脳か計算か」判別不能になる局面だからだ。 ピーター・ディアマンディス「レイ、あなたは二つの予測をしてきましたが、重要だと思います。最初の予測は、あなたが言ったように1989年に発表したもので、2029年までに人間レベルのAIに到達するというものでした。あなたの言うとおり、人々はそれを笑いました。 しかし、もう一つあなたがしてきた予測は、2045年までにシンギュラリティに到達するというものです。ここには多くの混乱があります。つまり、2029年までに人間レベルのAIに到達し、それが指数関数的に成長するなら、なぜシンギュラリティは2045年まで待つのか、ということです。この二つの違いを説明してもらえますか」 レイ・カーツワイル「それは、私たちの知能が1000倍になる時点だからです。私の見方が他の人たちと違う点の一つは、私たちには私たち自身の知能、つまり生物学的な知能があり、その一方でAIが別のところにあって、人間の知能とAIを対比しながら付き合う、という構図ではないということです。 私たちはそれと融合します。同じものになるのです。あるアイデアが、生物学的な知能から来たのか、それとも計算知能から来たのかを、私たちは区別できなくなります。 見え方としては同じになるでしょう。たとえば私が「ある女優を思い浮かべてください」と言って、あなたが思い浮かべたとしても、それがどこから来たのかは分かりません。何らかの形で頭の中に現れるだけです。 そして、計算知能から来たとしても生物学的な知能から来たとしても、同じように感じられるようになります。私たちはその違いを見分けられなくなるのです。今は違いが分かります。 実際に好きなLLMにアクセスすれば、それが生物学的な知能から来たのではなく、LLMから来たものだと分かります。しかし将来は、その違いが分からなくなるでしょう。そして私たちは2045年までに1000倍賢くなるのです」

Tsubame

43,087 Aufrufe • vor 5 Monaten

人間と同程度のAIにまで到達して、そこで突然進化が止まるわけがない。汎用知能が成立した瞬間、次に来るのは超知能であり、その時点で発明の主役は人類から機械の心へ移る。産業革命との比較では足りない——それは「ホモ・サピエンスの出現」あるいは「生命の誕生」に匹敵する断絶かもしれない。 ニック・ボストロム「技術と科学の発展が広い範囲でこのまま続くことが許されるなら、私たちはいずれそこに到達すると思います。しかも最近は、実際にその方向へ進みつつあるように見えます。ですから、こうした点は、この問題をかなり真剣に受け止めるべきだと示す、基本的な考慮事項だと思います。 そして、もし私たちが本当にAGI、すなわち汎用人工知能を開発したら、それが何を意味するのかを考えることができます。私がまず思うのは、それはほどなくして超知能の開発につながるだろうということです。人間と同程度のAIにまで到達して、そこで突然止まるとは思いません。 そうなると私たちは、心そのものを設計できる世界に入ることになります。そして自動化されるのは、産業革命において蒸気機関や内燃機関によって自動化が始まったような筋肉労働だけではありません。たとえば掘削機は、どんな力自慢の人間よりもはるかに強いですが、それと同じように、今度はあらゆる人間の労働が自動化されることになります。 しかもそのときには、どんな天才的な科学者や芸術家よりも深く考えられる機械の心が現れるでしょう。ですから、それは実質的に、私たちが最後に必要とする発明になるのです。その時点以降の発明は、こうした機械の心によって、はるかに優れた形で、はるかに速く生み出されるようになるからです。 したがって、これは人間のあり方そのものを非常に根本的に変える出来事になると思います。これを理解するにあたって、産業革命との類比を持ち出す人もいますし、そこから学べることもあるとは思います。しかし、おそらく本当に近い比較対象は、むしろホモ・サピエンスそのものの出現や、あるいは生命の誕生にまでさかのぼる必要があるのかもしれません」

Tsubame

20,061 Aufrufe • vor 2 Monaten

「20年以内に仕事は趣味になる」という予測は、単なるビッグマウスではなく、AIとロボティクスの指数関数的カーブを前提にした文明設計の前提条件だ。生存のための労働が自動化されるとき、僕たちが議論しなければならないのは「働かなくてよい世界で、何をして生きたいのか」という問いそのものだ。 イーロン・マスク「実際のところ将来的には、人はまったく働かなくてもよくなると思います。それはそんなに遠い未来ではなく、おそらく…10年、長くても20年かからないくらいかもしれません。私の予測では、20年以内には『働くことはオプション』になります。働くこと自体が完全に任意になって、ほとんど趣味のようなものになると思います」 ニキル・カマト「それは、生産性の向上によって、人々が働かなくてもよくなるという意味ですよね?」 マスク「はい、働く必要がなくなるということです。もちろん、20年後にこの発言を再生して『ほら、イーロンはばかげた予測をして、外れたじゃないか』と言われるかもしれません。それでも、私はこれは本当に実現すると考えています。20年以内、ひょっとすると10〜15年くらいかもしれません。AIとロボティクスの進歩によって、『働くことがオプションになる』地点まで到達すると見ています。 ちょうど、自分の庭で野菜を育てることもできるし、お店に行って野菜を買うこともできるのと同じです。自分で野菜を育てるほうがずっと大変ですが、好きでそうする人もいますよね。それと同じように、仕事もやりたい人だけがやるものになるだろう、というのが私の予測です」

Tsubame

124,419 Aufrufe • vor 6 Monaten

チェスAIの進歩はこうだった——最初は「人間+AI」が勝つ。次に、AIが十分に賢くなると、人間が混ざるほど弱くなる。最終的に、意思決定の最適解が「人間抜き」へ収束する。だから、現実の仕事で最後の状態になることを「超知能」の定義としよう。そのとき、社会の意思決定は不可逆に再配置される。 サム・アルトマン「AGIについては、私たちは定義をしなかったせいで外してしまいましたよね。いま皆が注目している新しい言葉は、超知能に到達するタイミングです。だから私の提案はこうです。AGIはある意味で通り過ぎていったことにして、世界をそこまで変えなかった、あるいは長期的には変えるのだろうけれど、とにかく『いつかはAGIを作った』ということにする。いまは曖昧な時期で、すでに達したと思う人もいれば、まだだと思う人もいて、これから達したと思う人が増えていく。そして『次は何だ?』となる。 そのうえで、超知能の候補となる定義はこうです。あるシステムが、AIの支援を受けた人間よりもなお上回って、米国大統領、巨大企業のCEO、あるいは非常に大規模な科学研究所の運営を、人間の誰よりもうまくこなせるようになったとき。以上です。 チェスで起きたことも興味深い例だと思います。チェスではAIが人間に勝てるようになりました。Deep Blueの件は私もはっきり覚えています。その後しばらくは、人間とAIが組むほうがAI単体より強かった時期がありました。でも最終的には、人間が介入することでむしろ悪くなってしまい、人間がその卓越した知性を理解できないまま口を出さない『人間抜きのAI』が最善、という状態になった。 超知能を考える枠組みとして、これは面白いと思います。まだずっと先の話だとは思いますが、今回はもっとすっきりした定義を持てたらいいですね」

Tsubame

158,213 Aufrufe • vor 6 Monaten

「あと10〜15年で老化そのものに決定打が入りうる」という見立てを真剣に受け取るなら、「どう生きるか」の設計図は根本から書き換わるべきだ。ここ数年の進歩を見てなお、「どうせ自分が生きている間には間に合わない」と諦めるのか、「だからこそ、あと10年だけでも延命する努力をする」のか。 デリヤ・ウントゥマズ「ブライアン・ジョンソンは、今ある技術で不老不死になろうとしているわけではありません。彼がやろうとしているのは、私たちが老化の問題を解決する地点に到達するまで『死なないようにする』ことです。『死ぬな(don’t die)』というコンセプト全体について、私は母にも『これから10年間は死なないで。どうか生き延びてください』と言っています。 なぜなら、もし10年生きれば、そこからさらに5年生きられるようになりますし、15年生きれば、そこからさらに50年生きられるようになるからです。私たちが老化を解決するからです。 私は、多くの人がこの『死ぬな』というコンセプトを誤解していると思います。ナルシシズム的な『自殺するな』という意味ではありません。むしろ、『私たちがこれを直すまで、十分長く生きていてください。そうすればこの問題も解決できます』ということなのです。 もしブライアン・ジョンソンがこれを50年前に言っていたら、本当にばかげていたでしょうし、とても自己中心的に聞こえたはずです。しかし今は、私たちはその地点に本当に近づいています。本当にあと10〜15年のところまで来ています。ですから、『これから10年は死なないで』というのは現実的なお願いなのです。 そして彼がしていることは、自分自身の身を完全に賭けているということです。自分で自分に実験をしているのです。例えば、『血液の輸血をしたらどうなるか——これはあまり効果がありませんでしたが——毎日1時間運動したらどうか、この食事を続けたらどうか』といったことを試し、『ほら、自分の老化は遅くなっている』と示しているのです。 もしあなたがその一部でも真似をすれば、さらに10年生きられる可能性は高まります。彼は人類に対して本当に驚くべき貢献をしているのだと思います」

Tsubame

19,526 Aufrufe • vor 7 Monaten

AIのハルシネーションは、計算パワー不足の副産物だ。限られたステップで答えを出そうとすれば、推論を途中で打ち切り、「それらしい文」を選ぶしかなくなる。その結果が、あの自信満々な誤答だった。いま、モデルはより多くのリソースを持ち、その余白を「ゆっくり考えること」に使い始めている。 ジェンスン・フアン「ここ数年で、特に直近2年だけを見ても、AI技術はおそらく100倍くらい進歩していると思います。とりあえず数字をつけるなら、そのくらいでしょう。2年前の車が、今と比べて100倍遅かったようなものです。だから今のAIは、当時より100倍くらい有能になっているのです。 では、その技術をどう活用したのか。あの膨大なパワーをどこに向けたのかというと、AIに『考えさせる』方向です。つまり、こちらが与えた問題を受け取って、それをステップごとに分解できるようにする。答える前に自分でリサーチをして、その答えを事実に基づかせる。さらに自分の出した答えを振り返って、『これが自分に出せるいちばん良い答えだろうか』『この答えにどれくらい自信があるだろうか』と自問する。もし自信がなければ、もう一度リサーチに戻る。場合によってはツールを呼び出して、自分が幻覚ででっち上げるよりも良い解を使うかもしれません。 その結果として、私たちはそのコンピューティング能力の大部分を『より安全な結果・より安全な答え・より真実に近い答え』を出す方向に振り向けてきました。ご存じのとおり、初期のAIに対する最大の批判のひとつは『幻覚を起こす』という点でしたよね。いま人々がAIをこれだけ頻繁に使うようになった理由のひとつは、その幻覚の量が減ったからです。私自身もほぼ毎日、ここに来るフライト中ずっと使っていました。 多くの人は『パワー』と聞くと、爆発的な力のようなものを想像しますが、テクノロジーのパワーの多くは安全性のために使われています。いまの車は昔よりはるかにハイパワーですが、そのぶん運転は安全になっています。その出力の大きな部分が、ハンドリングの向上に使われているのです」

Tsubame

53,695 Aufrufe • vor 6 Monaten

問題は「仕事がなくなること」ではない。財やサービスの総量はむしろ劇的に増え、物質的な欠乏はどんどん後退していく。そのとき本当に問われるのは、「価値を生み出す主体が人間でなくなったあとも、人間にどのように正当な分配を位置づけるか」という、ポストAGI的な所有権と市民権のデザインだ。 ハンナ・フライ「このすべてが人々にとって何を意味するのか、本当に考えさせられます。もし私たちが、人間の知能が超知能によって本質的にかき消されてしまうような地点に到達しつつあるのだとしたら、それは社会にとって何を意味するのでしょうか。 それはつまり、『もはや自分たちの能力では経済に提供できる価値がない』と見なされる人々が、完全に取り残されてしまうような巨大な不平等を意味するのでしょうか」 シェーン・レッグ「それは社会の大規模な変容を意味すると思います。いまの社会では、人々が自分の精神的・肉体的な労働を提供する代わりに、経済を生み出す資源へのアクセスを得るという仕組みになっていますが、これはもはや以前と同じようには機能しなくなるかもしれません。私たちは別のやり方を必要とすることになるでしょう。 もっとも、『パイ』そのものははるかに大きくなるはずです。生産される財やサービスが不足するという意味での問題はありません。どちらかといえば、その点はずっと良くなっていくでしょう。 しかし同時に、私たちは『人々のためのシステムをどうするのか』『社会に存在する富をどう分配するのか』を慎重に考えなければなりません。ポストAGIの経済がどのように機能するのか、そしてポストAGI社会の構造をどう設計するのかについて、もっと多くの検討が必要だと考えています」

Tsubame

24,334 Aufrufe • vor 6 Monaten

技術の進歩は直線的ではなく指数的に進む。それゆえに「2027年にAGIが来る」といった予言は意味を持たない。むしろ重要なのは、ストレージや帯域幅の歴史と同じく、進歩が止まらず加速し続けるという現実を直視することだ。 スティーブン・シノフスキー「まず、私は年単位での予測には今は与しません。なぜなら、どの年を選んでも、例えば2027年には指標の定義を巡って争いになり、業界全体がまるでOKRのようになってしまうからです(訳註:数字合わせや言葉遊びに終始してしまうというような意味)。それは馬鹿げた状況です。しかし、物事はすべて10年かかる一方で、その10年後を予測することはできません。ではどう折り合うのか。私たちは指数関数的な曲線上にいるのだと認識するしかありません。 つまり、誰の予測能力も当たりません。そして進歩は止まらず、頭打ちにもならず、突然終わることもありません。だからこそ、これは異なる種類のプラットフォーム転換なのです。ストレージ、帯域幅、コンピューティングの生産性、世界の接続性といった分野でも同じことが起きてきました。 指数的であるがゆえに、予測しようとすること自体が愚かです。もちろん、サイエンスフィクション的に『将来、私たち全員が個人AIを持つ』といった話はできますし、それは素晴らしいことです。しかし、それを『2029年に起きる』と断言するなら、それは愚かな主張です」

Tsubame

10,920 Aufrufe • vor 10 Monaten

「100年分の変化」がわずか10年で起きたら世界はどうなる? 知能爆発の論文で話題のウィル・マカスキル氏インタビュー。 「私たちは、本来なら100年かかるような進歩が10年以内で起こることを考えています。それがどれほど強烈なことかを実感するために、過去にそれが起きたと想像してみましょう。 例えば1925年からの10年間で、1世紀分の技術進歩があったとしたらどうでしょう。1925年から2025年の間に起きたこと全てを考える必要があります。人工衛星、生物兵器や化学兵器、原子爆弾、水素爆弾、核兵器の備蓄の拡大、さらには概念的な進展––ゲーム理論、社会科学、現代的な科学的方法、コンピューターやインターネット、そしてAI自体などです。 (中略) この思考実験の目的は、変化の量や種類がいかに圧倒的であるかを把握することです。ここでは『10年間に100年分の進歩』を話題にしていますが、実際には技術的発展の量はそれをはるかに超えるかもしれません。場合によっては、何世紀分、あるいは1,000年分に及ぶ進歩が、たった10年で起こる可能性すらあります。 そうすると、この思考実験で例えるなら、中世の王が弓矢から一気に原子兵器へとアップグレードしようとしているようなものです。彼は、自分がこれまで名前すら聞いたことのない国から突如現れた、まったく新しい思想的脅威に対処しつつ、自分の信じてきた神が実は存在しないこと、そして自分が猿から進化してきたという驚愕の事実にも同時に直面しているのです」

Tsubame

11,255 Aufrufe • vor 1 Jahr

「AGIは数年先」ではなく「ASIが数年先」と言い直した。おおむね「アルトマンASI≒ハサビスAGI」という解釈で問題ない。けれど、彼の指摘も一理ある。研究・実装・専門職レベルの知的労働が一つの系に統合されても、人間はそれを日常として受け入れてしまう。だから次の段階を過小評価しやすいのだ。 ——「ASIまで、私たちはあとどれくらいの距離にいるのでしょうか? あなたはAGIは数年先だと言っていましたが、ASIはどれくらい先ですか?」 サム・アルトマン「いえ、私が『数年先だ』と言ったのはASIのほうです」 ——「ではAGIは、どれくらい先ですか?」 アルトマン「つまり、現時点でAGIはかなり近いと感じています。たとえば6年前に、私に、あるいは多くの人にこう聞いたらどうでしょう。『自力で新しい研究ができるシステムがあるとしたら?』あるいは『自力で複雑なコンピュータプログラムを丸ごと作れて、さまざまな分野でかなり高度な知的労働ができるシステムがあるとしたら?』と。 つまり、AIの医師、弁護士、コンピュータサイエンティストとして振る舞える単一のシステムがあり得るわけです。そうしたら私たちは『なるほど、それはかなり汎用的で、かなり知的だ』と言うでしょう。でも、人は手元にあるものに慣れてしまうものです。 ただ、私たちがすでに持っている技術が、社内でどれほど私たちを加速させているかを見ていると、かなり近いと言えると思います。そして、今は以前想定していたよりも速いテイクオフになると見込んでいるので、超知能はそう遠くないと思います」

Tsubame

30,304 Aufrufe • vor 4 Monaten