Video wird geladen...

Video konnte nicht geladen werden

Beim Laden dieses Videos ist ein Problem aufgetreten. Dies könnte an einem vorübergehenden Netzwerkproblem liegen oder das Video ist möglicherweise nicht verfügbar.

イーロンは2026年にAGIに到達すると予測👇 「2026年にAGIに到達すると思う。そして、2030年には、AIが全人類の知能を合計したものを超えると自信を持って言えるよ」 AGI到達から自己改善が爆発的に進み、数年以内に想像を絶するレベルになる。すでにシンギュラリティの入り口か。

前田謙一郎 Ken Maeda

8,188 subscribers

227,124 Aufrufe • vor 10 Monaten •via X (Twitter)

Bildung Wissenschaft & Technologie

Anya Rossi• Live Now

Private livecam show

0 Kommentare

Keine Kommentare verfügbar

Kommentare vom Original-Post werden hier angezeigt

Ähnliche Videos

イーロンが『私たちは既にシンギュラリティにいる』と明言。そしてAGIは2026年内には達成され、2030年までにはAIが全人類を合わせた知能を超える事を確信

イーロンが『私たちは既にシンギュラリティにいる』と明言。そしてAGIは2026年内には達成され、2030年までにはAIが全人類を合わせた知能を超える事を確信

AGIラボ

102,336 Aufrufe • vor 9 Monaten

■孫さんのAGI到達予測推移「10年~12年」→ 2033～2035年「10年以内」→ 2033年まで「3～5年内」→ 2027～2029年「2～3年後」 → 2026～2027年そして、「さらに早く」孫さんが語っていたAGIの定義は、「人類の叡智の総和の10倍」今のAstraを、孫さんは「すでにAGIに到達した」と見るのだろうか。それとも、まだなのか。あるいは、その違いすら「誤差」なのか。次に公の場で何を語るのか、気になる。

■孫さんのAGI到達予測推移「10年~12年」→ 2033～2035年「10年以内」→ 2033年まで「3～5年内」→ 2027～2029年「2～3年後」 → 2026～2027年そして、「さらに早く」孫さんが語っていたAGIの定義は、「人類の叡智の総和の10倍」今のAstraを、孫さんは「すでにAGIに到達した」と見るのだろうか。それとも、まだなのか。あるいは、その違いすら「誤差」なのか。次に公の場で何を語るのか、気になる。

ZUZU〓SoftBankGroup投資家🪿🪿

33,410 Aufrufe • vor 2 Monaten

カーツワイル氏は2029年にAGIが実現すると考えているが、それはシンギュラリティではない。彼が描くのは、人間がAIと融合し、知能を100万倍に拡張する未来だ。ハサビス氏もAGIがもたらす変革の時代をシンギュラリティと呼んでいるが、両者の定義には違いがある。人間自身がどう変わるかが重要なのだ。レイ・カーツワイル「コンピューター上でAGIが一つ実現するだけで十分であり、それがシンギュラリティだと考える人もいます。Google傘下のDeepMindを率いるデミス・ハサビス氏は、つい先週（註：今年6月時点）、シンギュラリティが2030年までに起こると述べました。彼が意味しているのは、基本的にはAGIが一つ実現するということです」インタビュアー（映像）「AGIの実現時期についての予測は、どのように変化しましたか？予想どおりに進んでいますか？それとも予想より速い、あるいは遅いのでしょうか？」デミス・ハサビス（映像）「予想どおりに進んでいると思います。数年前、たぶん2〜3年前には、あと5〜10年と言っていました。インタビューでもお話ししたかもしれません。現在は2030年を中心に、前後1年程度と考えています」カーツワイル「つまり、私は2029年、彼は2030年と言っているわけです。しかし、彼のシンギュラリティの定義は、基本的にAGIが一つ実現するというものです。AGIが実現するだけでシンギュラリティだと言う人もいます。しかし私が言っているのは、私たちの能力が実際に100万倍になるということです。つまり、私たちのニューロンによる思考と、大規模言語モデルによる思考が融合するのです。その結果、AIと融合した私たちの能力は、あらゆる分野で従来の人間の100万倍になるということです」

カーツワイル氏は2029年にAGIが実現すると考えているが、それはシンギュラリティではない。彼が描くのは、人間がAIと融合し、知能を100万倍に拡張する未来だ。ハサビス氏もAGIがもたらす変革の時代をシンギュラリティと呼んでいるが、両者の定義には違いがある。人間自身がどう変わるかが重要なのだ。レイ・カーツワイル「コンピューター上でAGIが一つ実現するだけで十分であり、それがシンギュラリティだと考える人もいます。Google傘下のDeepMindを率いるデミス・ハサビス氏は、つい先週（註：今年6月時点）、シンギュラリティが2030年までに起こると述べました。彼が意味しているのは、基本的にはAGIが一つ実現するということです」インタビュアー（映像）「AGIの実現時期についての予測は、どのように変化しましたか？予想どおりに進んでいますか？それとも予想より速い、あるいは遅いのでしょうか？」デミス・ハサビス（映像）「予想どおりに進んでいると思います。数年前、たぶん2〜3年前には、あと5〜10年と言っていました。インタビューでもお話ししたかもしれません。現在は2030年を中心に、前後1年程度と考えています」カーツワイル「つまり、私は2029年、彼は2030年と言っているわけです。しかし、彼のシンギュラリティの定義は、基本的にAGIが一つ実現するというものです。AGIが実現するだけでシンギュラリティだと言う人もいます。しかし私が言っているのは、私たちの能力が実際に100万倍になるということです。つまり、私たちのニューロンによる思考と、大規模言語モデルによる思考が融合するのです。その結果、AIと融合した私たちの能力は、あらゆる分野で従来の人間の100万倍になるということです」

Tsubame

16,646 Aufrufe • vor 11 Tagen

「この先5年で『何でもできるAI』が来る」と言いながら「この先10年で雇用は増える」と同時に語れるのは、AGIというラベルが便利な曖昧語になっているからだ。VCや技術者の側では、期待を煽るときは「強いAGI」、批判や規制の話になると「薄いAGI」にすり替わる。アジェヤ・コトラ「AGIという概念が主流になるにつれて、同時にどんどん『薄まっている』ことに気づいています。去年、ニューヨークのDealBookで『AIの未来』についてのパネルに出たんです。私と、安全面の観点で考える人が1〜2人いて、他はベンチャーキャピタリストや技術者が何人もいました。パネルの最初に司会者が、『2030年までにAGI——人間にできることは何でもできるAI——が実現する確率は、実現しない確率より高いと思いますか？』と聞きました。7〜8人が手を挙げました。私は挙げませんでした。私のタイムラインはもう少し長めだからです。ところが、その少し後に司会者が、『この先10年で、AIは雇用を増やすと思いますか、それとも減らすと思いますか？』と追質問したんです。2030年はあと5年で、10人中7人が『2030年までにAGIが来る』と思っているのに、10人中8人——これも私以外——が『この先10年でAIは失う雇用より多くの雇用を生む』と答えました。私は少し混乱しました。『5年で、最高の人間専門家ができることを全部できるAIが来ると思っているのに、なぜ10年で、雇用はむしろ増えると思うのですか？ここで何が起きているのですか？』と。 ——「矛盾している感じがしますね」その矛盾について後で何人かに突っ込んで聞いたら、みんなすぐに引き下がって、『AGIって結局何を意味するの？』と言い出しました。司会者はすごく極端な定義を置いていたのに、彼らは『もうAGIはあるようなものだ』『人々はゴールポストを動かし続ける。私たちは次々にすごい新製品を作っているのに、人々はそれをAGIだと認めず、もっと上を求める』と言ったんです。私は滑稽だと思いました。なぜなら、古い学派のシンギュラリタリアン未来派のAGIの定義において、AGIとは非常に極端なものだからです」

「この先5年で『何でもできるAI』が来る」と言いながら「この先10年で雇用は増える」と同時に語れるのは、AGIというラベルが便利な曖昧語になっているからだ。VCや技術者の側では、期待を煽るときは「強いAGI」、批判や規制の話になると「薄いAGI」にすり替わる。アジェヤ・コトラ「AGIという概念が主流になるにつれて、同時にどんどん『薄まっている』ことに気づいています。去年、ニューヨークのDealBookで『AIの未来』についてのパネルに出たんです。私と、安全面の観点で考える人が1〜2人いて、他はベンチャーキャピタリストや技術者が何人もいました。パネルの最初に司会者が、『2030年までにAGI——人間にできることは何でもできるAI——が実現する確率は、実現しない確率より高いと思いますか？』と聞きました。7〜8人が手を挙げました。私は挙げませんでした。私のタイムラインはもう少し長めだからです。ところが、その少し後に司会者が、『この先10年で、AIは雇用を増やすと思いますか、それとも減らすと思いますか？』と追質問したんです。2030年はあと5年で、10人中7人が『2030年までにAGIが来る』と思っているのに、10人中8人——これも私以外——が『この先10年でAIは失う雇用より多くの雇用を生む』と答えました。私は少し混乱しました。『5年で、最高の人間専門家ができることを全部できるAIが来ると思っているのに、なぜ10年で、雇用はむしろ増えると思うのですか？ここで何が起きているのですか？』と。 ——「矛盾している感じがしますね」その矛盾について後で何人かに突っ込んで聞いたら、みんなすぐに引き下がって、『AGIって結局何を意味するの？』と言い出しました。司会者はすごく極端な定義を置いていたのに、彼らは『もうAGIはあるようなものだ』『人々はゴールポストを動かし続ける。私たちは次々にすごい新製品を作っているのに、人々はそれをAGIだと認めず、もっと上を求める』と言ったんです。私は滑稽だと思いました。なぜなら、古い学派のシンギュラリタリアン未来派のAGIの定義において、AGIとは非常に極端なものだからです」

Tsubame

73,970 Aufrufe • vor 9 Monaten

「完全なAGIまであと数年」——慎重なハサビス氏がここまで明確に言う意味は重い。そして、彼にとってシンギュラリティとは特定の点というより、AGIが社会に入ってくることで始まる「時代の名前」だ。後世から見れば、2026〜2027年は人類史が変わり始めた年として記憶されるかもしれない。デミス・ハサビス「私はAGIが目前に迫っているという話をよくしています。完全な形のAGIまで、もうあと数年しかないと思っています。そしてシンギュラリティという言葉は、AGIのような技術が登場することで引き起こされる時代を表すのに、かなり適した言葉だと思います。その理由の一つは、それがあまりにも大きな変革をもたらすからです。おそらく史上最も重要な発明になるため、その地平線の先について多くを予測することは難しくなります。あまりにも多くのことが変わるからです。そして今年、私たちが目にし、使っているエージェント型システムによって、私たちはそれを今、感じ始めていると思います。私が言いたかったのは、そういうことです。 5年後、10年後に振り返ったとき、「ああ、そうだ、2026年、2027年ごろに始まっていたんだ」と見ることになると思います」

「完全なAGIまであと数年」——慎重なハサビス氏がここまで明確に言う意味は重い。そして、彼にとってシンギュラリティとは特定の点というより、AGIが社会に入ってくることで始まる「時代の名前」だ。後世から見れば、2026〜2027年は人類史が変わり始めた年として記憶されるかもしれない。デミス・ハサビス「私はAGIが目前に迫っているという話をよくしています。完全な形のAGIまで、もうあと数年しかないと思っています。そしてシンギュラリティという言葉は、AGIのような技術が登場することで引き起こされる時代を表すのに、かなり適した言葉だと思います。その理由の一つは、それがあまりにも大きな変革をもたらすからです。おそらく史上最も重要な発明になるため、その地平線の先について多くを予測することは難しくなります。あまりにも多くのことが変わるからです。そして今年、私たちが目にし、使っているエージェント型システムによって、私たちはそれを今、感じ始めていると思います。私が言いたかったのは、そういうことです。 5年後、10年後に振り返ったとき、「ああ、そうだ、2026年、2027年ごろに始まっていたんだ」と見ることになると思います」

Tsubame

17,551 Aufrufe • vor 5 Monaten

イーロンの衝撃予言：人間の知性は全てのAIの知性の１%未満になる「5年か6年でAIはすべての人間の知性の合計を超える。そして、人間の知性がAIのすべての知性の1%以下になる時、人間はAIを管理できない。私たちにできることは・・AIに知性が宇宙に広がるような価値を持たせるようにすることだ」

イーロンの衝撃予言：人間の知性は全てのAIの知性の１%未満になる「5年か6年でAIはすべての人間の知性の合計を超える。そして、人間の知性がAIのすべての知性の1%以下になる時、人間はAIを管理できない。私たちにできることは・・AIに知性が宇宙に広がるような価値を持たせるようにすることだ」

Ken Maeda 前田謙一郎

98,909 Aufrufe • vor 9 Monaten

イーロン・マスク、ダボス会議で予測。「今年の終わりには、どんな人間よりも賢いAIが登場する。遅くとも来年には確実に」さらに2030〜2031年、つまり今から5年後にはAIは全人類の知能を合わせたよりも賢くなる、と語った。年内に個人を超え、5年で人類全体を超える。加速のカーブをそのまま言葉にした一言。

イーロン・マスク、ダボス会議で予測。「今年の終わりには、どんな人間よりも賢いAIが登場する。遅くとも来年には確実に」さらに2030〜2031年、つまり今から5年後にはAIは全人類の知能を合わせたよりも賢くなる、と語った。年内に個人を超え、5年で人類全体を超える。加速のカーブをそのまま言葉にした一言。

チャエン | デジライズ CEO《重要AIニュースを毎日最速で発信⚡️》

83,993 Aufrufe • vor 4 Monaten

2029年の「人間レベルAI」は到達点ではなく、加速の入口にすぎない。カーツワイル氏が2045年を「シンギュラリティ」と呼ぶのは、AIが外部の道具として発達するのではなく、人間の認知そのものに溶け込み、思考の出どころが「脳か計算か」判別不能になる局面だからだ。ピーター・ディアマンディス「レイ、あなたは二つの予測をしてきましたが、重要だと思います。最初の予測は、あなたが言ったように1989年に発表したもので、2029年までに人間レベルのAIに到達するというものでした。あなたの言うとおり、人々はそれを笑いました。しかし、もう一つあなたがしてきた予測は、2045年までにシンギュラリティに到達するというものです。ここには多くの混乱があります。つまり、2029年までに人間レベルのAIに到達し、それが指数関数的に成長するなら、なぜシンギュラリティは2045年まで待つのか、ということです。この二つの違いを説明してもらえますか」レイ・カーツワイル「それは、私たちの知能が1000倍になる時点だからです。私の見方が他の人たちと違う点の一つは、私たちには私たち自身の知能、つまり生物学的な知能があり、その一方でAIが別のところにあって、人間の知能とAIを対比しながら付き合う、という構図ではないということです。私たちはそれと融合します。同じものになるのです。あるアイデアが、生物学的な知能から来たのか、それとも計算知能から来たのかを、私たちは区別できなくなります。見え方としては同じになるでしょう。たとえば私が「ある女優を思い浮かべてください」と言って、あなたが思い浮かべたとしても、それがどこから来たのかは分かりません。何らかの形で頭の中に現れるだけです。そして、計算知能から来たとしても生物学的な知能から来たとしても、同じように感じられるようになります。私たちはその違いを見分けられなくなるのです。今は違いが分かります。実際に好きなLLMにアクセスすれば、それが生物学的な知能から来たのではなく、LLMから来たものだと分かります。しかし将来は、その違いが分からなくなるでしょう。そして私たちは2045年までに1000倍賢くなるのです」

2029年の「人間レベルAI」は到達点ではなく、加速の入口にすぎない。カーツワイル氏が2045年を「シンギュラリティ」と呼ぶのは、AIが外部の道具として発達するのではなく、人間の認知そのものに溶け込み、思考の出どころが「脳か計算か」判別不能になる局面だからだ。ピーター・ディアマンディス「レイ、あなたは二つの予測をしてきましたが、重要だと思います。最初の予測は、あなたが言ったように1989年に発表したもので、2029年までに人間レベルのAIに到達するというものでした。あなたの言うとおり、人々はそれを笑いました。しかし、もう一つあなたがしてきた予測は、2045年までにシンギュラリティに到達するというものです。ここには多くの混乱があります。つまり、2029年までに人間レベルのAIに到達し、それが指数関数的に成長するなら、なぜシンギュラリティは2045年まで待つのか、ということです。この二つの違いを説明してもらえますか」レイ・カーツワイル「それは、私たちの知能が1000倍になる時点だからです。私の見方が他の人たちと違う点の一つは、私たちには私たち自身の知能、つまり生物学的な知能があり、その一方でAIが別のところにあって、人間の知能とAIを対比しながら付き合う、という構図ではないということです。私たちはそれと融合します。同じものになるのです。あるアイデアが、生物学的な知能から来たのか、それとも計算知能から来たのかを、私たちは区別できなくなります。見え方としては同じになるでしょう。たとえば私が「ある女優を思い浮かべてください」と言って、あなたが思い浮かべたとしても、それがどこから来たのかは分かりません。何らかの形で頭の中に現れるだけです。そして、計算知能から来たとしても生物学的な知能から来たとしても、同じように感じられるようになります。私たちはその違いを見分けられなくなるのです。今は違いが分かります。実際に好きなLLMにアクセスすれば、それが生物学的な知能から来たのではなく、LLMから来たものだと分かります。しかし将来は、その違いが分からなくなるでしょう。そして私たちは2045年までに1000倍賢くなるのです」

Tsubame

81,764 Aufrufe • vor 9 Monaten

人間と同程度のAIにまで到達して、そこで突然進化が止まるわけがない。汎用知能が成立した瞬間、次に来るのは超知能であり、その時点で発明の主役は人類から機械の心へ移る。産業革命との比較では足りない——それは「ホモ・サピエンスの出現」あるいは「生命の誕生」に匹敵する断絶かもしれない。ニック・ボストロム「技術と科学の発展が広い範囲でこのまま続くことが許されるなら、私たちはいずれそこに到達すると思います。しかも最近は、実際にその方向へ進みつつあるように見えます。ですから、こうした点は、この問題をかなり真剣に受け止めるべきだと示す、基本的な考慮事項だと思います。そして、もし私たちが本当にAGI、すなわち汎用人工知能を開発したら、それが何を意味するのかを考えることができます。私がまず思うのは、それはほどなくして超知能の開発につながるだろうということです。人間と同程度のAIにまで到達して、そこで突然止まるとは思いません。そうなると私たちは、心そのものを設計できる世界に入ることになります。そして自動化されるのは、産業革命において蒸気機関や内燃機関によって自動化が始まったような筋肉労働だけではありません。たとえば掘削機は、どんな力自慢の人間よりもはるかに強いですが、それと同じように、今度はあらゆる人間の労働が自動化されることになります。しかもそのときには、どんな天才的な科学者や芸術家よりも深く考えられる機械の心が現れるでしょう。ですから、それは実質的に、私たちが最後に必要とする発明になるのです。その時点以降の発明は、こうした機械の心によって、はるかに優れた形で、はるかに速く生み出されるようになるからです。したがって、これは人間のあり方そのものを非常に根本的に変える出来事になると思います。これを理解するにあたって、産業革命との類比を持ち出す人もいますし、そこから学べることもあるとは思います。しかし、おそらく本当に近い比較対象は、むしろホモ・サピエンスそのものの出現や、あるいは生命の誕生にまでさかのぼる必要があるのかもしれません」

人間と同程度のAIにまで到達して、そこで突然進化が止まるわけがない。汎用知能が成立した瞬間、次に来るのは超知能であり、その時点で発明の主役は人類から機械の心へ移る。産業革命との比較では足りない——それは「ホモ・サピエンスの出現」あるいは「生命の誕生」に匹敵する断絶かもしれない。ニック・ボストロム「技術と科学の発展が広い範囲でこのまま続くことが許されるなら、私たちはいずれそこに到達すると思います。しかも最近は、実際にその方向へ進みつつあるように見えます。ですから、こうした点は、この問題をかなり真剣に受け止めるべきだと示す、基本的な考慮事項だと思います。そして、もし私たちが本当にAGI、すなわち汎用人工知能を開発したら、それが何を意味するのかを考えることができます。私がまず思うのは、それはほどなくして超知能の開発につながるだろうということです。人間と同程度のAIにまで到達して、そこで突然止まるとは思いません。そうなると私たちは、心そのものを設計できる世界に入ることになります。そして自動化されるのは、産業革命において蒸気機関や内燃機関によって自動化が始まったような筋肉労働だけではありません。たとえば掘削機は、どんな力自慢の人間よりもはるかに強いですが、それと同じように、今度はあらゆる人間の労働が自動化されることになります。しかもそのときには、どんな天才的な科学者や芸術家よりも深く考えられる機械の心が現れるでしょう。ですから、それは実質的に、私たちが最後に必要とする発明になるのです。その時点以降の発明は、こうした機械の心によって、はるかに優れた形で、はるかに速く生み出されるようになるからです。したがって、これは人間のあり方そのものを非常に根本的に変える出来事になると思います。これを理解するにあたって、産業革命との類比を持ち出す人もいますし、そこから学べることもあるとは思います。しかし、おそらく本当に近い比較対象は、むしろホモ・サピエンスそのものの出現や、あるいは生命の誕生にまでさかのぼる必要があるのかもしれません」

Tsubame

20,061 Aufrufe • vor 7 Monaten

ちなみに、サムアルトマンは10年以内にAIが無限の記憶を持つと発言しています。これが完成すればAGI実現も近づく。『AIモデルが数カ月以内にモデルは1,000万トークンを迅速かつ正確に処理するだろう。そして、 10年以内に無限のコンテキストを達成するかもしれない。』

ちなみに、サムアルトマンは10年以内にAIが無限の記憶を持つと発言しています。これが完成すればAGI実現も近づく。『AIモデルが数カ月以内にモデルは1,000万トークンを迅速かつ正確に処理するだろう。そして、 10年以内に無限のコンテキストを達成するかもしれない。』

チャエン | デジライズ CEO《重要AIニュースを毎日最速で発信⚡️》

87,872 Aufrufe • vor 10 Monaten

「2020年に今のAIを見せたら、おそらくAGIと呼んでいただろう」。アルトマン氏は、人によって意味が違う「AGI到達」を宣言することに、今ではほとんど意味がないという。彼にとってそれは特定の時点で完成するものではなく、際限なくスケールする超知能へと向かって、ずっと作り続けていくものだ。サム・アルトマン「つまり、2020年に戻って、人生のあらゆる場面でこれまで20分かかっていたことを代わりにやってくれて、新しい科学を発見し、会社を丸ごと立ち上げるのを手伝い、複雑なコードまで書けるシステムがあったとしたら、それをAGIと呼んでいたでしょうか？おそらく呼んでいたでしょう」 ——「では、あなたたちが「AGIに到達した」と宣言することには、どんな意味があるのでしょうか？」アルトマン「重要だとは思いません。特に意味はありません」 ——「ただ、とても興味深いんです。今、私たちはあなたたちの研究棟にいますが、歩いていると壁に「私たちはAGIを構築している」と書いてありますよね。でも今では、それはずっと作り続けていくものになっていて、もはや最終到達点ではないように見えます」アルトマン「「AGIについて勝利宣言して、次へ進んだ」とまでは言いたくありません。ただ、みんなが実際に使っている言葉を聞いていると、「AGIに到達したのか、していないのか」という話よりも、超知能へ向かって能力が連続的に高まっていくこと、それが世界にもたらすさまざまな恩恵や、どんな課題が生じるのかについて話すことのほうが、はるかに多くなっています。社内の食堂で、「私たちはAGIに到達したのか」「いつ到達するのか」と議論しているのを、もう長いこと聞いていません」 ——「でも今度は「超知能」という言葉が出てきましたよね。AIを追っていない人からすれば、「またゴールポストを動かして、今度は超知能の話を始めたのか」と見えると思います。今のあなたにとって、AGIと超知能の違いは何ですか？」アルトマン「AGIは一つのマイルストーンという感じでした。一方、超知能は、際限なくスケールしていけるものという感じです」 ——「際限なく？」アルトマン「ええ」 ——「では、何でも知っているような最終形があるわけではない、と」アルトマン「それについて「達成した」と勝利宣言することは、決してないでしょうね。というか、だからこそこういう用語はどれも馬鹿げていると思うんです。ある人はその言葉をある意味で使い、別の人はまったく違う意味で使います。たとえば、明確に理解できる一つの到達点という意味で使う人もいれば、無限にスケールし続けるものという意味で使う人もいます。この話で重要なのは、どの用語でどんなマイルストーンを設定するかではありません。重要なのは、私たちがいま、能力と可能性が指数関数的に増大していく軌道上にいて、それがこのまま続いていくように見えるということです」

「2020年に今のAIを見せたら、おそらくAGIと呼んでいただろう」。アルトマン氏は、人によって意味が違う「AGI到達」を宣言することに、今ではほとんど意味がないという。彼にとってそれは特定の時点で完成するものではなく、際限なくスケールする超知能へと向かって、ずっと作り続けていくものだ。サム・アルトマン「つまり、2020年に戻って、人生のあらゆる場面でこれまで20分かかっていたことを代わりにやってくれて、新しい科学を発見し、会社を丸ごと立ち上げるのを手伝い、複雑なコードまで書けるシステムがあったとしたら、それをAGIと呼んでいたでしょうか？おそらく呼んでいたでしょう」 ——「では、あなたたちが「AGIに到達した」と宣言することには、どんな意味があるのでしょうか？」アルトマン「重要だとは思いません。特に意味はありません」 ——「ただ、とても興味深いんです。今、私たちはあなたたちの研究棟にいますが、歩いていると壁に「私たちはAGIを構築している」と書いてありますよね。でも今では、それはずっと作り続けていくものになっていて、もはや最終到達点ではないように見えます」アルトマン「「AGIについて勝利宣言して、次へ進んだ」とまでは言いたくありません。ただ、みんなが実際に使っている言葉を聞いていると、「AGIに到達したのか、していないのか」という話よりも、超知能へ向かって能力が連続的に高まっていくこと、それが世界にもたらすさまざまな恩恵や、どんな課題が生じるのかについて話すことのほうが、はるかに多くなっています。社内の食堂で、「私たちはAGIに到達したのか」「いつ到達するのか」と議論しているのを、もう長いこと聞いていません」 ——「でも今度は「超知能」という言葉が出てきましたよね。AIを追っていない人からすれば、「またゴールポストを動かして、今度は超知能の話を始めたのか」と見えると思います。今のあなたにとって、AGIと超知能の違いは何ですか？」アルトマン「AGIは一つのマイルストーンという感じでした。一方、超知能は、際限なくスケールしていけるものという感じです」 ——「際限なく？」アルトマン「ええ」 ——「では、何でも知っているような最終形があるわけではない、と」アルトマン「それについて「達成した」と勝利宣言することは、決してないでしょうね。というか、だからこそこういう用語はどれも馬鹿げていると思うんです。ある人はその言葉をある意味で使い、別の人はまったく違う意味で使います。たとえば、明確に理解できる一つの到達点という意味で使う人もいれば、無限にスケールし続けるものという意味で使う人もいます。この話で重要なのは、どの用語でどんなマイルストーンを設定するかではありません。重要なのは、私たちがいま、能力と可能性が指数関数的に増大していく軌道上にいて、それがこのまま続いていくように見えるということです」

Tsubame

40,032 Aufrufe • vor 2 Monaten

人間が関与することなく、Claude 10がClaude 11を設計し、その次をさらに作る——AIの開発者なら誰もが夢見るであろうRSI（再帰的自己改善）。そういうことが2028年の終わり頃にも実現するかもしれないという。そうなればそこからはきっと、シンギュラリティに向けた本格的な加速が始まる。ジャック・クラーク「これらのシステムは、AIシステムを訓練するためのコードを書くことにも、かなり優れるようになってきました。AIシステムをどのように訓練すればよいか、そのアイデアを提案することにも長けてきています。どこかの時点で、私たち人間がAIの今後の開発から完全に一歩引けるようになるかもしれません。いわば、AIを巻き上げて、あとは進むのを見守るような状態です。私たちが資源を与えて、「Claude 10よ、Claude 11を作れ」と言う。するとClaudeがアーキテクチャを作り、研究を行い、リスクを下げ、訓練実行まで行う。そしてClaude 11が出てくる。それはあらゆる面でClaude 10より優れています。今日それが見えているわけではありません。しかし、私はこれが確実にこの10年以内に到来する現実的な可能性があると思っています。年を賭けるなら、2028年の終わり頃です。それは、多くの科学文献を読んだうえでの見方でもありますし、私たちが公表してきた情報にも基づいています」 ——「2028年というのは、つまり、あなたは7か月のお子さんがいると言っていましたし、私にも6か月の子どもがいますが、その子たちがほんの少し大きくなる頃ということですよね。2028年なんて、もうすぐそこです」クラーク「ええ、かなり近いです。AIは速く進みます。その含意は、AIシステムは今後さらに先へ進み、これまで以上に強力になると予想すべきだということです。私たちがこの5〜6年で感じてきた進歩は、次の2〜3年に圧縮され、さらにもう一度圧縮されるかもしれないのです」

人間が関与することなく、Claude 10がClaude 11を設計し、その次をさらに作る——AIの開発者なら誰もが夢見るであろうRSI（再帰的自己改善）。そういうことが2028年の終わり頃にも実現するかもしれないという。そうなればそこからはきっと、シンギュラリティに向けた本格的な加速が始まる。ジャック・クラーク「これらのシステムは、AIシステムを訓練するためのコードを書くことにも、かなり優れるようになってきました。AIシステムをどのように訓練すればよいか、そのアイデアを提案することにも長けてきています。どこかの時点で、私たち人間がAIの今後の開発から完全に一歩引けるようになるかもしれません。いわば、AIを巻き上げて、あとは進むのを見守るような状態です。私たちが資源を与えて、「Claude 10よ、Claude 11を作れ」と言う。するとClaudeがアーキテクチャを作り、研究を行い、リスクを下げ、訓練実行まで行う。そしてClaude 11が出てくる。それはあらゆる面でClaude 10より優れています。今日それが見えているわけではありません。しかし、私はこれが確実にこの10年以内に到来する現実的な可能性があると思っています。年を賭けるなら、2028年の終わり頃です。それは、多くの科学文献を読んだうえでの見方でもありますし、私たちが公表してきた情報にも基づいています」 ——「2028年というのは、つまり、あなたは7か月のお子さんがいると言っていましたし、私にも6か月の子どもがいますが、その子たちがほんの少し大きくなる頃ということですよね。2028年なんて、もうすぐそこです」クラーク「ええ、かなり近いです。AIは速く進みます。その含意は、AIシステムは今後さらに先へ進み、これまで以上に強力になると予想すべきだということです。私たちがこの5〜6年で感じてきた進歩は、次の2〜3年に圧縮され、さらにもう一度圧縮されるかもしれないのです」

Tsubame

13,765 Aufrufe • vor 4 Monaten

「20年以内に仕事は趣味になる」という予測は、単なるビッグマウスではなく、AIとロボティクスの指数関数的カーブを前提にした文明設計の前提条件だ。生存のための労働が自動化されるとき、僕たちが議論しなければならないのは「働かなくてよい世界で、何をして生きたいのか」という問いそのものだ。イーロン・マスク「実際のところ将来的には、人はまったく働かなくてもよくなると思います。それはそんなに遠い未来ではなく、おそらく…10年、長くても20年かからないくらいかもしれません。私の予測では、20年以内には『働くことはオプション』になります。働くこと自体が完全に任意になって、ほとんど趣味のようなものになると思います」ニキル・カマト「それは、生産性の向上によって、人々が働かなくてもよくなるという意味ですよね？」マスク「はい、働く必要がなくなるということです。もちろん、20年後にこの発言を再生して『ほら、イーロンはばかげた予測をして、外れたじゃないか』と言われるかもしれません。それでも、私はこれは本当に実現すると考えています。20年以内、ひょっとすると10〜15年くらいかもしれません。AIとロボティクスの進歩によって、『働くことがオプションになる』地点まで到達すると見ています。ちょうど、自分の庭で野菜を育てることもできるし、お店に行って野菜を買うこともできるのと同じです。自分で野菜を育てるほうがずっと大変ですが、好きでそうする人もいますよね。それと同じように、仕事もやりたい人だけがやるものになるだろう、というのが私の予測です」

「20年以内に仕事は趣味になる」という予測は、単なるビッグマウスではなく、AIとロボティクスの指数関数的カーブを前提にした文明設計の前提条件だ。生存のための労働が自動化されるとき、僕たちが議論しなければならないのは「働かなくてよい世界で、何をして生きたいのか」という問いそのものだ。イーロン・マスク「実際のところ将来的には、人はまったく働かなくてもよくなると思います。それはそんなに遠い未来ではなく、おそらく…10年、長くても20年かからないくらいかもしれません。私の予測では、20年以内には『働くことはオプション』になります。働くこと自体が完全に任意になって、ほとんど趣味のようなものになると思います」ニキル・カマト「それは、生産性の向上によって、人々が働かなくてもよくなるという意味ですよね？」マスク「はい、働く必要がなくなるということです。もちろん、20年後にこの発言を再生して『ほら、イーロンはばかげた予測をして、外れたじゃないか』と言われるかもしれません。それでも、私はこれは本当に実現すると考えています。20年以内、ひょっとすると10〜15年くらいかもしれません。AIとロボティクスの進歩によって、『働くことがオプションになる』地点まで到達すると見ています。ちょうど、自分の庭で野菜を育てることもできるし、お店に行って野菜を買うこともできるのと同じです。自分で野菜を育てるほうがずっと大変ですが、好きでそうする人もいますよね。それと同じように、仕事もやりたい人だけがやるものになるだろう、というのが私の予測です」

Tsubame

124,419 Aufrufe • vor 11 Monaten

「2035年頃には、人体全体をコンピューター上でシミュレーションできるようになる」とカーツワイル氏は予測している。おなじみの予測、2032年頃の「寿命脱出速度」到達の後の話だ。それによって、創薬から試験までの全プロセスが、わずか数日で完了するようになるという。レイ・カーツワイル「計算能力が向上するにつれて、私たちは分子だけでなく、生物学的な仕組みのさまざまな側面をシミュレーションできるようになります。細胞小器官、細胞、組織、臓器、そして最終的には人体全体です。 2030年代半ばには、新薬の試験をデジタル上で行うようになるでしょう。これは非常に重要です。現在でも多くのことを迅速に行えますが、人間を対象に薬を試験するには、どうしても一定の時間がかかります。私たちはその制約を克服することになります。実現までには少し時間がかかるでしょう。私の予測では2035年までに可能になります。実際、さまざまな人と話しましたが、2030年代後半になると考える人もいれば、2030年代前半だと考える人もいます。私は2035年頃だと考えています。しかし、これは医学の進歩の速度を根本的に変えることになります。現在でも、人間を対象とする試験を伴わない研究であれば、かつて何年もかかっていたことを数日で実行できます。そして今度は、あらゆる病気について、試験する薬を見つけ、コンピューター上で生物学的な仕組みをシミュレーションして、その薬を数日以内に試験できるようになります。つまり、創薬から試験までの全プロセスが、わずか数日で完了するようになるのです」

「2035年頃には、人体全体をコンピューター上でシミュレーションできるようになる」とカーツワイル氏は予測している。おなじみの予測、2032年頃の「寿命脱出速度」到達の後の話だ。それによって、創薬から試験までの全プロセスが、わずか数日で完了するようになるという。レイ・カーツワイル「計算能力が向上するにつれて、私たちは分子だけでなく、生物学的な仕組みのさまざまな側面をシミュレーションできるようになります。細胞小器官、細胞、組織、臓器、そして最終的には人体全体です。 2030年代半ばには、新薬の試験をデジタル上で行うようになるでしょう。これは非常に重要です。現在でも多くのことを迅速に行えますが、人間を対象に薬を試験するには、どうしても一定の時間がかかります。私たちはその制約を克服することになります。実現までには少し時間がかかるでしょう。私の予測では2035年までに可能になります。実際、さまざまな人と話しましたが、2030年代後半になると考える人もいれば、2030年代前半だと考える人もいます。私は2035年頃だと考えています。しかし、これは医学の進歩の速度を根本的に変えることになります。現在でも、人間を対象とする試験を伴わない研究であれば、かつて何年もかかっていたことを数日で実行できます。そして今度は、あらゆる病気について、試験する薬を見つけ、コンピューター上で生物学的な仕組みをシミュレーションして、その薬を数日以内に試験できるようになります。つまり、創薬から試験までの全プロセスが、わずか数日で完了するようになるのです」

Tsubame

48,662 Aufrufe • vor 9 Tagen

チェスAIの進歩はこうだった——最初は「人間＋AI」が勝つ。次に、AIが十分に賢くなると、人間が混ざるほど弱くなる。最終的に、意思決定の最適解が「人間抜き」へ収束する。だから、現実の仕事で最後の状態になることを「超知能」の定義としよう。そのとき、社会の意思決定は不可逆に再配置される。サム・アルトマン「AGIについては、私たちは定義をしなかったせいで外してしまいましたよね。いま皆が注目している新しい言葉は、超知能に到達するタイミングです。だから私の提案はこうです。AGIはある意味で通り過ぎていったことにして、世界をそこまで変えなかった、あるいは長期的には変えるのだろうけれど、とにかく『いつかはAGIを作った』ということにする。いまは曖昧な時期で、すでに達したと思う人もいれば、まだだと思う人もいて、これから達したと思う人が増えていく。そして『次は何だ？』となる。そのうえで、超知能の候補となる定義はこうです。あるシステムが、AIの支援を受けた人間よりもなお上回って、米国大統領、巨大企業のCEO、あるいは非常に大規模な科学研究所の運営を、人間の誰よりもうまくこなせるようになったとき。以上です。チェスで起きたことも興味深い例だと思います。チェスではAIが人間に勝てるようになりました。Deep Blueの件は私もはっきり覚えています。その後しばらくは、人間とAIが組むほうがAI単体より強かった時期がありました。でも最終的には、人間が介入することでむしろ悪くなってしまい、人間がその卓越した知性を理解できないまま口を出さない『人間抜きのAI』が最善、という状態になった。超知能を考える枠組みとして、これは面白いと思います。まだずっと先の話だとは思いますが、今回はもっとすっきりした定義を持てたらいいですね」

チェスAIの進歩はこうだった——最初は「人間＋AI」が勝つ。次に、AIが十分に賢くなると、人間が混ざるほど弱くなる。最終的に、意思決定の最適解が「人間抜き」へ収束する。だから、現実の仕事で最後の状態になることを「超知能」の定義としよう。そのとき、社会の意思決定は不可逆に再配置される。サム・アルトマン「AGIについては、私たちは定義をしなかったせいで外してしまいましたよね。いま皆が注目している新しい言葉は、超知能に到達するタイミングです。だから私の提案はこうです。AGIはある意味で通り過ぎていったことにして、世界をそこまで変えなかった、あるいは長期的には変えるのだろうけれど、とにかく『いつかはAGIを作った』ということにする。いまは曖昧な時期で、すでに達したと思う人もいれば、まだだと思う人もいて、これから達したと思う人が増えていく。そして『次は何だ？』となる。そのうえで、超知能の候補となる定義はこうです。あるシステムが、AIの支援を受けた人間よりもなお上回って、米国大統領、巨大企業のCEO、あるいは非常に大規模な科学研究所の運営を、人間の誰よりもうまくこなせるようになったとき。以上です。チェスで起きたことも興味深い例だと思います。チェスではAIが人間に勝てるようになりました。Deep Blueの件は私もはっきり覚えています。その後しばらくは、人間とAIが組むほうがAI単体より強かった時期がありました。でも最終的には、人間が介入することでむしろ悪くなってしまい、人間がその卓越した知性を理解できないまま口を出さない『人間抜きのAI』が最善、という状態になった。超知能を考える枠組みとして、これは面白いと思います。まだずっと先の話だとは思いますが、今回はもっとすっきりした定義を持てたらいいですね」

Tsubame

158,213 Aufrufe • vor 11 Monaten

原義シンギュラリティの解説。技術進歩の加速、知能爆発、そして、予測不能点としてのシンギュラリティ本体——これらは似ているようで、実は別の概念だ。ヴァーナー・ヴィンジの主張は、人間が世界を理解するために使ってきたモデルそのものが、ある時点から通用しなくなるということだった。「シンギュラリティについて語るとき、しばしば混同される3つの概念があります。 1つ目は、加速する変化です。これはフォン・ノイマンが指摘していた観察で、技術進歩そのものの速度が、時間とともに加速しているように見えるというものです。文字の発明から印刷機までの間隔は数千年でした。印刷機から電信までは数百年。電信からインターネットまでは数十年。そしてインターネットから生成AIまでは、30年未満です。 2つ目の概念は、知能爆発です。これはグッドの議論です。自分自身の設計を改良できるほど知的な機械が生まれると、その機械は自分より優れたバージョンを作り、そのバージョンがさらに優れたバージョンを作る、という連鎖が起こります。それぞれのサイクルは前回よりも速く進みます。このプロセスは自己増殖的に進んでいきます。 3つ目は、ヴィンジが本来の意味で語ったシンギュラリティです。つまり、それ以後の予測が不可能になる地点です。単に難しいのではなく、本当に不可能になるのです。なぜなら、変化を駆動する存在が、私たちが金魚を知的に超えているのと同じくらい、私たちを知的に超えているからです。世界がどう機能するかについての私たちのモデルは、もはや通用しなくなります。ヴィンジは、超人的知能が出現する4つの経路を特定しました。最もよく議論されるのは、意識を持ち、超人的に知的なAIシステムの開発です。しかし彼は、大規模なコンピュータネットワークが集合的に知的存在として目覚める可能性、コンピュータと人間のインターフェースが非常に密接になり、利用者が超人的に知的だと見なせるようになる可能性、そして生物学が自然な人間の知性を直接強化する可能性も考えていました」

原義シンギュラリティの解説。技術進歩の加速、知能爆発、そして、予測不能点としてのシンギュラリティ本体——これらは似ているようで、実は別の概念だ。ヴァーナー・ヴィンジの主張は、人間が世界を理解するために使ってきたモデルそのものが、ある時点から通用しなくなるということだった。「シンギュラリティについて語るとき、しばしば混同される3つの概念があります。 1つ目は、加速する変化です。これはフォン・ノイマンが指摘していた観察で、技術進歩そのものの速度が、時間とともに加速しているように見えるというものです。文字の発明から印刷機までの間隔は数千年でした。印刷機から電信までは数百年。電信からインターネットまでは数十年。そしてインターネットから生成AIまでは、30年未満です。 2つ目の概念は、知能爆発です。これはグッドの議論です。自分自身の設計を改良できるほど知的な機械が生まれると、その機械は自分より優れたバージョンを作り、そのバージョンがさらに優れたバージョンを作る、という連鎖が起こります。それぞれのサイクルは前回よりも速く進みます。このプロセスは自己増殖的に進んでいきます。 3つ目は、ヴィンジが本来の意味で語ったシンギュラリティです。つまり、それ以後の予測が不可能になる地点です。単に難しいのではなく、本当に不可能になるのです。なぜなら、変化を駆動する存在が、私たちが金魚を知的に超えているのと同じくらい、私たちを知的に超えているからです。世界がどう機能するかについての私たちのモデルは、もはや通用しなくなります。ヴィンジは、超人的知能が出現する4つの経路を特定しました。最もよく議論されるのは、意識を持ち、超人的に知的なAIシステムの開発です。しかし彼は、大規模なコンピュータネットワークが集合的に知的存在として目覚める可能性、コンピュータと人間のインターフェースが非常に密接になり、利用者が超人的に知的だと見なせるようになる可能性、そして生物学が自然な人間の知性を直接強化する可能性も考えていました」

Tsubame

15,664 Aufrufe • vor 6 Monaten

すでに「超知能脱出速度」に達している——仮に明日、すべてのデータセンター建設が停止されたとしても、AI自身による研究開発がすでに十分な勢いを持っているため、超知能に到達することを止めることはできないという。METRの最新報告を受け、ウィスナー＝グロス氏の確信は一段と強まったようだ。アレクサンダー・ウィスナー＝グロス「そのグラフの「Model 4」を見てください。METRのグラフに登場するコードネームですが、指数関数的なトレンドラインを上回っています。私たちは今、再帰的自己改善の非常に深い段階に入り込んでいます。METRが当てはめたトレンドラインでさえ、自己改善がどれほど進んでいるのかを十分に捉えられているのか、私には分かりません。だからこそ、明日すべてのデータセンター建設を停止しても構わない、と私は言っているのです。もちろん、大きな痛みを伴うでしょう。投資助言ではありませんが、新規建設がすべて停止されれば、株式市場はおそらく暴落するでしょう。しかし現時点では、AIの研究開発の非常に大きな部分が、Aそのものによって推進されています。もはや建設停止がどれほど重要なのか、私には疑問です。一時的な影響で済むでしょう。中国に対するリードを数カ月失うかもしれません。追い抜かれるか、さらに引き離される可能性もあります。しかし基本的に、研究はますますAIによって推進されるようになっています。ですから、私たちはすでに後戻りできない地点を越えたと思います」デイブ・ブランディン「つまり、車がかなりのスピードで走っていて、燃料が尽きかけていても、目的地まで到達できるだけの勢いがすでについている、という比喩ですね」ウィスナー＝グロス「そう思います。比喩はいろいろ考えられますが、「脱出速度」ですね。私たちは今「超知能脱出速度」に達しています。すべてのデータセンター建設を停止すれば、もちろん大きな痛みを伴います。しかし、すでに得られているアルゴリズム上の知見と、既存の計算資源を組み合わせれば、必要に迫られた場合でも、目指しているところまで到達できると思います。それを危機と考えない人もいるでしょうが、仮に「反シンギュラリティ危機」と呼ぶとしても、私たちは最終的な到達点、つまり私が考える究極のモデルにたどり着けると思います」

すでに「超知能脱出速度」に達している——仮に明日、すべてのデータセンター建設が停止されたとしても、AI自身による研究開発がすでに十分な勢いを持っているため、超知能に到達することを止めることはできないという。METRの最新報告を受け、ウィスナー＝グロス氏の確信は一段と強まったようだ。アレクサンダー・ウィスナー＝グロス「そのグラフの「Model 4」を見てください。METRのグラフに登場するコードネームですが、指数関数的なトレンドラインを上回っています。私たちは今、再帰的自己改善の非常に深い段階に入り込んでいます。METRが当てはめたトレンドラインでさえ、自己改善がどれほど進んでいるのかを十分に捉えられているのか、私には分かりません。だからこそ、明日すべてのデータセンター建設を停止しても構わない、と私は言っているのです。もちろん、大きな痛みを伴うでしょう。投資助言ではありませんが、新規建設がすべて停止されれば、株式市場はおそらく暴落するでしょう。しかし現時点では、AIの研究開発の非常に大きな部分が、Aそのものによって推進されています。もはや建設停止がどれほど重要なのか、私には疑問です。一時的な影響で済むでしょう。中国に対するリードを数カ月失うかもしれません。追い抜かれるか、さらに引き離される可能性もあります。しかし基本的に、研究はますますAIによって推進されるようになっています。ですから、私たちはすでに後戻りできない地点を越えたと思います」デイブ・ブランディン「つまり、車がかなりのスピードで走っていて、燃料が尽きかけていても、目的地まで到達できるだけの勢いがすでについている、という比喩ですね」ウィスナー＝グロス「そう思います。比喩はいろいろ考えられますが、「脱出速度」ですね。私たちは今「超知能脱出速度」に達しています。すべてのデータセンター建設を停止すれば、もちろん大きな痛みを伴います。しかし、すでに得られているアルゴリズム上の知見と、既存の計算資源を組み合わせれば、必要に迫られた場合でも、目指しているところまで到達できると思います。それを危機と考えない人もいるでしょうが、仮に「反シンギュラリティ危機」と呼ぶとしても、私たちは最終的な到達点、つまり私が考える究極のモデルにたどり着けると思います」

Tsubame

26,552 Aufrufe • vor 7 Tagen