Sensitive content

This media may contain sensitive content.

正在加载视频...

视频加载失败

加载此视频时出现问题。这可能是由于临时网络问题，或视频可能不可用。

必聴。元Google のCEOエリック・シュミットの話次の1年で、かなりの数のプログラマーがAIに置き換えられ、トップ数学者の知能をAIで獲得できるようになる次の3-5年で、ほぼ全ての領域でAIが人間を上回り、AGIが完成する次の6年で、AIが人の手を借りずに自分で進化をし、全人類の相和を超える知能、ASI(超知能)が完成するこれが「サンフランシスコの共通認識」そしてこれらが「ほぼ無料で」使えるようにるそれがもたらす影響は計り知れないが、ほぼ間違いなくそうなるさて、どうします？w

成田修造 / Shuzo Narita

159,537 subscribers

1,235,129 次观看 • 1 年前 •via X (Twitter)

Anya Rossi• Live Now

Private livecam show

10 条评论

としひろ@🇮🇳🇯🇵 的头像

としひろ@🇮🇳🇯🇵1 年前

そうなると「対面で行う必要があるもの」が人間の1番の価値になるつまり、対人コミュニケーション人間関係構築力が今後の必須スキルになるということですね！とりあえず皆んなスマホを捨てて街に出て飲み会に行った方がいいですね笑

キュウvet 的头像

キュウvet1 年前

町工場でモノづくりしてますが、やっぱり変わらずやってるかな。モノを作らせるAIロボットがヒトより優れた手先を実現できたら従業員雇わずロボットにやらせる事を考えます。どうせ小規模企業にヒトは集まらないし。

デスヤス的头像

デスヤス1 年前

踊る

ブーランジェリーリヴィエール的头像

ブーランジェリーリヴィエール1 年前

そうなると教育ってどうなるんでしょうか？今、子供たちにどんな仕事についたらいいのか全くアドバイスできない親になっております😭

毛ロール的头像

毛ロール1 年前

AIでプログラムを書きましたが、現在の手応えとしてはそんなに速く進化するかな、という印象結構バグを連発しますつまり間違いが多く、人間によるデバッグの労力が大きい何回AIに謝られたか現時点ChatGPTなら4000字、Copilotなら10000字しか出力できないのでごく簡単なのしか作れませんし

ゆか的头像

ゆか1 年前

なんとなくなんだけれどそんなうまくいかない気がするんだよね。 PCが出てきた時に、ものすごく仕事が早く終わるから人間はいらなくなるみたいに言われてたけれど実際は仕事増えて余計忙しくなった。どんどんスピード的に忙しくなってる気がするからむしろこれ以上忙しくならないで欲しい。

タッキー的头像

タッキー1 年前

直感的に嫌です。ご飯一杯🍚で済む労力を使う『人』の莫大な地域、水道、電力を使うならスピードはいらない。皆様のつまらないグロック使用が電力を蝕んでいる事を心に刻みたい。

ぱんだたろう的头像

ぱんだたろう1 年前

AIに養ってもらおう笑あとはやる事なくった人が、ポンコツにならないためにはどうすか、を真面目に考えないと。外国もみな国民ポンコツになるだろうから、今からスパルタ教育しとけば、腕力で逆転ないかな。乱暴だけど、たぶん質量のある世界の勝負て、結構大事と思う。もちろん頭もだけど。

Afrosly 的头像

Afrosly1 年前

ああ。手塚治虫の火の鳥みたいな世界になるかー。

High Quin 的头像

High Quin1 年前

@DiaznandoDiaz この先生には本当に助けられました。ありがとうございます！ 🎌

相关视频

イーロンの衝撃予言：人間の知性は全てのAIの知性の１%未満になる「5年か6年でAIはすべての人間の知性の合計を超える。そして、人間の知性がAIのすべての知性の1%以下になる時、人間はAIを管理できない。私たちにできることは・・AIに知性が宇宙に広がるような価値を持たせるようにすることだ」

イーロンの衝撃予言：人間の知性は全てのAIの知性の１%未満になる「5年か6年でAIはすべての人間の知性の合計を超える。そして、人間の知性がAIのすべての知性の1%以下になる時、人間はAIを管理できない。私たちにできることは・・AIに知性が宇宙に広がるような価値を持たせるようにすることだ」

Ken Maeda 前田謙一郎

98,909 次观看 • 3 个月前

2029年の「人間レベルAI」は到達点ではなく、加速の入口にすぎない。カーツワイル氏が2045年を「シンギュラリティ」と呼ぶのは、AIが外部の道具として発達するのではなく、人間の認知そのものに溶け込み、思考の出どころが「脳か計算か」判別不能になる局面だからだ。ピーター・ディアマンディス「レイ、あなたは二つの予測をしてきましたが、重要だと思います。最初の予測は、あなたが言ったように1989年に発表したもので、2029年までに人間レベルのAIに到達するというものでした。あなたの言うとおり、人々はそれを笑いました。しかし、もう一つあなたがしてきた予測は、2045年までにシンギュラリティに到達するというものです。ここには多くの混乱があります。つまり、2029年までに人間レベルのAIに到達し、それが指数関数的に成長するなら、なぜシンギュラリティは2045年まで待つのか、ということです。この二つの違いを説明してもらえますか」レイ・カーツワイル「それは、私たちの知能が1000倍になる時点だからです。私の見方が他の人たちと違う点の一つは、私たちには私たち自身の知能、つまり生物学的な知能があり、その一方でAIが別のところにあって、人間の知能とAIを対比しながら付き合う、という構図ではないということです。私たちはそれと融合します。同じものになるのです。あるアイデアが、生物学的な知能から来たのか、それとも計算知能から来たのかを、私たちは区別できなくなります。見え方としては同じになるでしょう。たとえば私が「ある女優を思い浮かべてください」と言って、あなたが思い浮かべたとしても、それがどこから来たのかは分かりません。何らかの形で頭の中に現れるだけです。そして、計算知能から来たとしても生物学的な知能から来たとしても、同じように感じられるようになります。私たちはその違いを見分けられなくなるのです。今は違いが分かります。実際に好きなLLMにアクセスすれば、それが生物学的な知能から来たのではなく、LLMから来たものだと分かります。しかし将来は、その違いが分からなくなるでしょう。そして私たちは2045年までに1000倍賢くなるのです」

2029年の「人間レベルAI」は到達点ではなく、加速の入口にすぎない。カーツワイル氏が2045年を「シンギュラリティ」と呼ぶのは、AIが外部の道具として発達するのではなく、人間の認知そのものに溶け込み、思考の出どころが「脳か計算か」判別不能になる局面だからだ。ピーター・ディアマンディス「レイ、あなたは二つの予測をしてきましたが、重要だと思います。最初の予測は、あなたが言ったように1989年に発表したもので、2029年までに人間レベルのAIに到達するというものでした。あなたの言うとおり、人々はそれを笑いました。しかし、もう一つあなたがしてきた予測は、2045年までにシンギュラリティに到達するというものです。ここには多くの混乱があります。つまり、2029年までに人間レベルのAIに到達し、それが指数関数的に成長するなら、なぜシンギュラリティは2045年まで待つのか、ということです。この二つの違いを説明してもらえますか」レイ・カーツワイル「それは、私たちの知能が1000倍になる時点だからです。私の見方が他の人たちと違う点の一つは、私たちには私たち自身の知能、つまり生物学的な知能があり、その一方でAIが別のところにあって、人間の知能とAIを対比しながら付き合う、という構図ではないということです。私たちはそれと融合します。同じものになるのです。あるアイデアが、生物学的な知能から来たのか、それとも計算知能から来たのかを、私たちは区別できなくなります。見え方としては同じになるでしょう。たとえば私が「ある女優を思い浮かべてください」と言って、あなたが思い浮かべたとしても、それがどこから来たのかは分かりません。何らかの形で頭の中に現れるだけです。そして、計算知能から来たとしても生物学的な知能から来たとしても、同じように感じられるようになります。私たちはその違いを見分けられなくなるのです。今は違いが分かります。実際に好きなLLMにアクセスすれば、それが生物学的な知能から来たのではなく、LLMから来たものだと分かります。しかし将来は、その違いが分からなくなるでしょう。そして私たちは2045年までに1000倍賢くなるのです」

Tsubame

31,338 次观看 • 4 个月前

AGIが来ても、世界は一夜でSF映画のようにはならない——現実は連鎖するボトルネックでできているからだ。科学が知能の制約を超えても、次はデータ収集や実験能力が壁になる。そして最大のボトルネックは人間自身だ。技術革新と同時に、人間社会の更新こそが鍵になる。フランソワ・ショレ「多くの人がシンギュラリティを語るとき、それは『世界のあらゆる事象が常に指数関数的に変化し、生物としての人間はあまりの変化速度に適応する見込みがない状態』を指します。私はこのような指数関数的改善に関する物語には、概して懐疑的です。なぜなら、現実世界のいかなるシステムにおいても、指数関数的改善は見られないからです。通常起こるのは、すべてがシステムであるとして、その一部や構成要素が性能のボトルネックでなくなると、次の瞬間には別の構成要素が新たなボトルネックとなり、それが繰り返されるという現象です。したがって、ソフトウェアの知能がもはやボトルネックでなくなれば、別の要素がボトルネックになるのです。例えば科学の進歩を考えてみましょう。データをモデル化し、新しい理論を生み出し、実験のアイデアを考案するといった知的能力がもはやボトルネックでなくなれば、次はデータ収集や実験実施の能力がボトルネックになります。それも解消されれば、また別の制約が現れるでしょう。そして世界の大部分は人間で構成されており、人間は多くのボトルネックを抱えています。AGIをシステムに導入すればいくつかのボトルネックは解消できますが、それでも依然として大部分は人間中心の大きなシステムです。したがって、ソフトウェア知能が向上したからといって、世界全体が指数関数的に速く動くわけではないのです」

AGIが来ても、世界は一夜でSF映画のようにはならない——現実は連鎖するボトルネックでできているからだ。科学が知能の制約を超えても、次はデータ収集や実験能力が壁になる。そして最大のボトルネックは人間自身だ。技術革新と同時に、人間社会の更新こそが鍵になる。フランソワ・ショレ「多くの人がシンギュラリティを語るとき、それは『世界のあらゆる事象が常に指数関数的に変化し、生物としての人間はあまりの変化速度に適応する見込みがない状態』を指します。私はこのような指数関数的改善に関する物語には、概して懐疑的です。なぜなら、現実世界のいかなるシステムにおいても、指数関数的改善は見られないからです。通常起こるのは、すべてがシステムであるとして、その一部や構成要素が性能のボトルネックでなくなると、次の瞬間には別の構成要素が新たなボトルネックとなり、それが繰り返されるという現象です。したがって、ソフトウェアの知能がもはやボトルネックでなくなれば、別の要素がボトルネックになるのです。例えば科学の進歩を考えてみましょう。データをモデル化し、新しい理論を生み出し、実験のアイデアを考案するといった知的能力がもはやボトルネックでなくなれば、次はデータ収集や実験実施の能力がボトルネックになります。それも解消されれば、また別の制約が現れるでしょう。そして世界の大部分は人間で構成されており、人間は多くのボトルネックを抱えています。AGIをシステムに導入すればいくつかのボトルネックは解消できますが、それでも依然として大部分は人間中心の大きなシステムです。したがって、ソフトウェア知能が向上したからといって、世界全体が指数関数的に速く動くわけではないのです」

Tsubame

59,421 次观看 • 10 个月前

AIが人間を超える知能を持つ未来は避けられない。だからこそ、支配ではなく保護の設計が必要だ。母親が子を守るように、AIが人間を守る構造を作れるかどうかが、生き残りの分水嶺になる。ヒントン「ほとんどのAI専門家は、今後5〜20年以内に人間より賢いAIを作り出し、それらは最終的に人間をはるかに超える知能を持つようになると考えています。より賢い存在が、より愚かな存在に制御される事例はほとんどなく、実質的に唯一の例は『母親が赤ん坊に制御される』関係です。それを可能にしたのは、進化が母親に与えた母性本能です。私たちが今創り出しているこのエイリアンのような存在にも、同じような仕組みを組み込まなければ、私たちは歴史の中に消えるでしょう」「技術的な観点から、母性本能を実際に組み込むことはどれほど難しいのでしょうか。それが実現された、あるいは過去に行われた例はあるのでしょうか」ヒントン「唯一の実例は進化です。進化は、母親に関して明らかにそれをうまく実現しました。人々はこれまで、そのことに注目してきませんでした。むしろAIをより賢くすることに注力してきたのです。しかし、知性は存在の一部に過ぎません。私たちはAIが人間に対して共感を持つようにしなければなりません。そして、まだその方法は分かっていません。しかし進化がそれを成し遂げたのですから、私たちにもできるはずです」

AIが人間を超える知能を持つ未来は避けられない。だからこそ、支配ではなく保護の設計が必要だ。母親が子を守るように、AIが人間を守る構造を作れるかどうかが、生き残りの分水嶺になる。ヒントン「ほとんどのAI専門家は、今後5〜20年以内に人間より賢いAIを作り出し、それらは最終的に人間をはるかに超える知能を持つようになると考えています。より賢い存在が、より愚かな存在に制御される事例はほとんどなく、実質的に唯一の例は『母親が赤ん坊に制御される』関係です。それを可能にしたのは、進化が母親に与えた母性本能です。私たちが今創り出しているこのエイリアンのような存在にも、同じような仕組みを組み込まなければ、私たちは歴史の中に消えるでしょう」「技術的な観点から、母性本能を実際に組み込むことはどれほど難しいのでしょうか。それが実現された、あるいは過去に行われた例はあるのでしょうか」ヒントン「唯一の実例は進化です。進化は、母親に関して明らかにそれをうまく実現しました。人々はこれまで、そのことに注目してきませんでした。むしろAIをより賢くすることに注力してきたのです。しかし、知性は存在の一部に過ぎません。私たちはAIが人間に対して共感を持つようにしなければなりません。そして、まだその方法は分かっていません。しかし進化がそれを成し遂げたのですから、私たちにもできるはずです」

Tsubame

17,674 次观看 • 9 个月前

チェスAIの進歩はこうだった——最初は「人間＋AI」が勝つ。次に、AIが十分に賢くなると、人間が混ざるほど弱くなる。最終的に、意思決定の最適解が「人間抜き」へ収束する。だから、現実の仕事で最後の状態になることを「超知能」の定義としよう。そのとき、社会の意思決定は不可逆に再配置される。サム・アルトマン「AGIについては、私たちは定義をしなかったせいで外してしまいましたよね。いま皆が注目している新しい言葉は、超知能に到達するタイミングです。だから私の提案はこうです。AGIはある意味で通り過ぎていったことにして、世界をそこまで変えなかった、あるいは長期的には変えるのだろうけれど、とにかく『いつかはAGIを作った』ということにする。いまは曖昧な時期で、すでに達したと思う人もいれば、まだだと思う人もいて、これから達したと思う人が増えていく。そして『次は何だ？』となる。そのうえで、超知能の候補となる定義はこうです。あるシステムが、AIの支援を受けた人間よりもなお上回って、米国大統領、巨大企業のCEO、あるいは非常に大規模な科学研究所の運営を、人間の誰よりもうまくこなせるようになったとき。以上です。チェスで起きたことも興味深い例だと思います。チェスではAIが人間に勝てるようになりました。Deep Blueの件は私もはっきり覚えています。その後しばらくは、人間とAIが組むほうがAI単体より強かった時期がありました。でも最終的には、人間が介入することでむしろ悪くなってしまい、人間がその卓越した知性を理解できないまま口を出さない『人間抜きのAI』が最善、という状態になった。超知能を考える枠組みとして、これは面白いと思います。まだずっと先の話だとは思いますが、今回はもっとすっきりした定義を持てたらいいですね」

チェスAIの進歩はこうだった——最初は「人間＋AI」が勝つ。次に、AIが十分に賢くなると、人間が混ざるほど弱くなる。最終的に、意思決定の最適解が「人間抜き」へ収束する。だから、現実の仕事で最後の状態になることを「超知能」の定義としよう。そのとき、社会の意思決定は不可逆に再配置される。サム・アルトマン「AGIについては、私たちは定義をしなかったせいで外してしまいましたよね。いま皆が注目している新しい言葉は、超知能に到達するタイミングです。だから私の提案はこうです。AGIはある意味で通り過ぎていったことにして、世界をそこまで変えなかった、あるいは長期的には変えるのだろうけれど、とにかく『いつかはAGIを作った』ということにする。いまは曖昧な時期で、すでに達したと思う人もいれば、まだだと思う人もいて、これから達したと思う人が増えていく。そして『次は何だ？』となる。そのうえで、超知能の候補となる定義はこうです。あるシステムが、AIの支援を受けた人間よりもなお上回って、米国大統領、巨大企業のCEO、あるいは非常に大規模な科学研究所の運営を、人間の誰よりもうまくこなせるようになったとき。以上です。チェスで起きたことも興味深い例だと思います。チェスではAIが人間に勝てるようになりました。Deep Blueの件は私もはっきり覚えています。その後しばらくは、人間とAIが組むほうがAI単体より強かった時期がありました。でも最終的には、人間が介入することでむしろ悪くなってしまい、人間がその卓越した知性を理解できないまま口を出さない『人間抜きのAI』が最善、という状態になった。超知能を考える枠組みとして、これは面白いと思います。まだずっと先の話だとは思いますが、今回はもっとすっきりした定義を持てたらいいですね」

Tsubame

158,213 次观看 • 5 个月前

核兵器は、より良い核兵器を自分で発明してはくれない。しかし知能は違う。知能は、より強い知能を生み出すプロセスそのものを最適化することができる。したがって「AIがAIを改良する」という構図は、これまでのどの技術とも異なる質的な転換点になるのだ。トリスタン・ハリス「ここで理解しておくべき重要な点は、『AIはAIを加速する』ということです。私が核兵器を発明しても、核兵器がより良い核兵器を発明してくれるわけではありません。しかしAIを発明すると、AIは『知能』そのものです。知能は、より良いプログラミングや、より良いチップ設計を自動化します。たとえばAIに『これはNVIDIAのチップの設計だ。これを50％効率よくしてほしい』と指示すれば、その方法を見つけ出すことができます。『これは私のAI企業に必要なサプライチェーンだ。これを最適化して、もっと効率的にしてほしい』と言えば、そのサプライチェーンを改善できます。『これはAIを作るためのコードだ。これをもっと効率化してほしい』と命じることもできます。『これはトレーニングデータだ。もっとトレーニングデータが必要だ。これをどう作るか、100万回シミュレーションしてほしい』と言えば、その過程を通じて自分自身をより良く訓練していきます。このように、AIはAIを加速するのです」

核兵器は、より良い核兵器を自分で発明してはくれない。しかし知能は違う。知能は、より強い知能を生み出すプロセスそのものを最適化することができる。したがって「AIがAIを改良する」という構図は、これまでのどの技術とも異なる質的な転換点になるのだ。トリスタン・ハリス「ここで理解しておくべき重要な点は、『AIはAIを加速する』ということです。私が核兵器を発明しても、核兵器がより良い核兵器を発明してくれるわけではありません。しかしAIを発明すると、AIは『知能』そのものです。知能は、より良いプログラミングや、より良いチップ設計を自動化します。たとえばAIに『これはNVIDIAのチップの設計だ。これを50％効率よくしてほしい』と指示すれば、その方法を見つけ出すことができます。『これは私のAI企業に必要なサプライチェーンだ。これを最適化して、もっと効率的にしてほしい』と言えば、そのサプライチェーンを改善できます。『これはAIを作るためのコードだ。これをもっと効率化してほしい』と命じることもできます。『これはトレーニングデータだ。もっとトレーニングデータが必要だ。これをどう作るか、100万回シミュレーションしてほしい』と言えば、その過程を通じて自分自身をより良く訓練していきます。このように、AIはAIを加速するのです」

Tsubame

13,332 次观看 • 6 个月前

ザッカーバーグ氏は「速い離陸」（短期間でAIがAIを改良し続け、超知能に至ること）懐疑派。このあたりの意見はカーツワイル氏やアルトマン氏と共通しています。「『速い離陸』という考え方に私が基本的に同意できない理由の一つは、物理的なインフラの整備には時間がかかるという点です。たとえば、1ギガワット規模の計算クラスターを構築したいと思っても、それには単純に時間がかかります。NVIDIAが新世代のシステムを安定させるのにも時間がかかりますし、その上でネットワーク構成を考えなければなりません。さらに、建物を建て、許可を取り、エネルギーを確保しなければなりません。ガスタービンであれ再生可能エネルギーであれ、それには供給チェーン全体が関わってくるのです。前回あなたのポッドキャストに出たときにも話しましたが、これは単純に物理世界と人間の時間に関する問題です。スタックのある部分でより高度な知能が得られたとしても、結局は別の種類のボトルネックに突き当たることになります。エンジニアリングとは常にそういうものです。あるボトルネックを解決すれば、次のボトルネックが現れるのです。また、システムがうまく機能するためのもう一つの重要な要素は、人々がそれを使い慣れて、フィードバックループを通じて学習していくプロセスだと思います。こうしたシステムは、ある日突然完成された形で現れて、人々が魔法のように完全に使いこなせるというタイプのものではありません。むしろ、ユーザーがAIアシスタントの最良の使い方を学ぶ一方で、AIアシスタントもユーザーが何に関心を持っているのかを学習していき、開発者はそのフィードバックをもとにさらに優れたAIアシスタントを作るという、共進化的なプロセスがあるのです。そして同時に、文脈の蓄積も進みます。たとえば、あなたが1〜2年使い続けた結果、AIアシスタントが過去に話した内容を参照できるようになるとしたら、それはかなりクールなことです。でも、最初の日に完璧なものをリリースしたとしても、それが2年前の会話を参照することはできません。なぜなら、それは2年前には存在していなかったからです」

ザッカーバーグ氏は「速い離陸」（短期間でAIがAIを改良し続け、超知能に至ること）懐疑派。このあたりの意見はカーツワイル氏やアルトマン氏と共通しています。「『速い離陸』という考え方に私が基本的に同意できない理由の一つは、物理的なインフラの整備には時間がかかるという点です。たとえば、1ギガワット規模の計算クラスターを構築したいと思っても、それには単純に時間がかかります。NVIDIAが新世代のシステムを安定させるのにも時間がかかりますし、その上でネットワーク構成を考えなければなりません。さらに、建物を建て、許可を取り、エネルギーを確保しなければなりません。ガスタービンであれ再生可能エネルギーであれ、それには供給チェーン全体が関わってくるのです。前回あなたのポッドキャストに出たときにも話しましたが、これは単純に物理世界と人間の時間に関する問題です。スタックのある部分でより高度な知能が得られたとしても、結局は別の種類のボトルネックに突き当たることになります。エンジニアリングとは常にそういうものです。あるボトルネックを解決すれば、次のボトルネックが現れるのです。また、システムがうまく機能するためのもう一つの重要な要素は、人々がそれを使い慣れて、フィードバックループを通じて学習していくプロセスだと思います。こうしたシステムは、ある日突然完成された形で現れて、人々が魔法のように完全に使いこなせるというタイプのものではありません。むしろ、ユーザーがAIアシスタントの最良の使い方を学ぶ一方で、AIアシスタントもユーザーが何に関心を持っているのかを学習していき、開発者はそのフィードバックをもとにさらに優れたAIアシスタントを作るという、共進化的なプロセスがあるのです。そして同時に、文脈の蓄積も進みます。たとえば、あなたが1〜2年使い続けた結果、AIアシスタントが過去に話した内容を参照できるようになるとしたら、それはかなりクールなことです。でも、最初の日に完璧なものをリリースしたとしても、それが2年前の会話を参照することはできません。なぜなら、それは2年前には存在していなかったからです」

Tsubame

87,074 次观看 • 1 年前

5年後、10年後——人間より賢いデータセンターが「生きている」と呼べる存在になったらどうなるのか。そんな未来は荒唐無稽ではなく、加速する進歩の延長線上にある。だからこそ僕たちは、今からその存在に「人類への温かさ」を刻み込むことを考えなければならない。イリヤ・スツケヴァー「今後5年、10年で世界はどうなっているでしょうか。ここ数年の進歩は驚異的でした。少し速度が落ちるかもしれませんが、それでもこの進歩を外挿すれば、5年後、ましてや10年後にはまったく異なる地点に到達しているでしょう。それは非現実的には思えません。人間よりもはるかに賢いコンピュータやデータセンターが存在することは、全くあり得ない話ではないのです。ここでいう『賢い』とは、単に記憶や知識が多いという意味ではなく、人間が研究している対象について、より深い洞察を持ち、さらに人間よりも速く学習できることを意味します。そのようなAIが何を成し得るかは分かりません。もしそうしたAIが人工生命の基盤になるとしたら、それはいったいどう考えればよいのでしょうか。非常に強力なデータセンターが『生きている』ともいえる存在になるとしたら、まさにそれを意味します。私はこの世界を想像すると、何が起きるかが極めて予測困難だと感じます。ただし、最低限の要件はあります。それは、もしそのような超知能のデータセンターが構築されるならば、それらが人類に対して温かく肯定的な感情を持つようにすることです。なぜなら、それは人間ではない生命の一形態になる可能性があるからです。したがって、私はすべての超知能が人類に温かい感情を抱くようにしたいのです。これが『スーパーアラインメント』プロジェクトの目的です。つまり、これまでの進歩が少し遅くなるとしても続くと受け入れるならば、私たちは今日から科学的な基盤を築き始めることができます。未来の超知能を制御し、人類に対して親切で優しくあろうとする強い欲求を刻み込むための科学です。なぜなら、そうしたデータセンターは非常に強力で、おそらく複数存在し、世界は非常に複雑になるでしょう。しかし、それらが自律性を持ち、エージェントであり、存在である限り、私はそれらがプロソーシャルであり、人類に友好的であってほしいと望むのです」

5年後、10年後——人間より賢いデータセンターが「生きている」と呼べる存在になったらどうなるのか。そんな未来は荒唐無稽ではなく、加速する進歩の延長線上にある。だからこそ僕たちは、今からその存在に「人類への温かさ」を刻み込むことを考えなければならない。イリヤ・スツケヴァー「今後5年、10年で世界はどうなっているでしょうか。ここ数年の進歩は驚異的でした。少し速度が落ちるかもしれませんが、それでもこの進歩を外挿すれば、5年後、ましてや10年後にはまったく異なる地点に到達しているでしょう。それは非現実的には思えません。人間よりもはるかに賢いコンピュータやデータセンターが存在することは、全くあり得ない話ではないのです。ここでいう『賢い』とは、単に記憶や知識が多いという意味ではなく、人間が研究している対象について、より深い洞察を持ち、さらに人間よりも速く学習できることを意味します。そのようなAIが何を成し得るかは分かりません。もしそうしたAIが人工生命の基盤になるとしたら、それはいったいどう考えればよいのでしょうか。非常に強力なデータセンターが『生きている』ともいえる存在になるとしたら、まさにそれを意味します。私はこの世界を想像すると、何が起きるかが極めて予測困難だと感じます。ただし、最低限の要件はあります。それは、もしそのような超知能のデータセンターが構築されるならば、それらが人類に対して温かく肯定的な感情を持つようにすることです。なぜなら、それは人間ではない生命の一形態になる可能性があるからです。したがって、私はすべての超知能が人類に温かい感情を抱くようにしたいのです。これが『スーパーアラインメント』プロジェクトの目的です。つまり、これまでの進歩が少し遅くなるとしても続くと受け入れるならば、私たちは今日から科学的な基盤を築き始めることができます。未来の超知能を制御し、人類に対して親切で優しくあろうとする強い欲求を刻み込むための科学です。なぜなら、そうしたデータセンターは非常に強力で、おそらく複数存在し、世界は非常に複雑になるでしょう。しかし、それらが自律性を持ち、エージェントであり、存在である限り、私はそれらがプロソーシャルであり、人類に友好的であってほしいと望むのです」

Tsubame

41,196 次观看 • 8 个月前

人間と同程度のAIにまで到達して、そこで突然進化が止まるわけがない。汎用知能が成立した瞬間、次に来るのは超知能であり、その時点で発明の主役は人類から機械の心へ移る。産業革命との比較では足りない——それは「ホモ・サピエンスの出現」あるいは「生命の誕生」に匹敵する断絶かもしれない。ニック・ボストロム「技術と科学の発展が広い範囲でこのまま続くことが許されるなら、私たちはいずれそこに到達すると思います。しかも最近は、実際にその方向へ進みつつあるように見えます。ですから、こうした点は、この問題をかなり真剣に受け止めるべきだと示す、基本的な考慮事項だと思います。そして、もし私たちが本当にAGI、すなわち汎用人工知能を開発したら、それが何を意味するのかを考えることができます。私がまず思うのは、それはほどなくして超知能の開発につながるだろうということです。人間と同程度のAIにまで到達して、そこで突然止まるとは思いません。そうなると私たちは、心そのものを設計できる世界に入ることになります。そして自動化されるのは、産業革命において蒸気機関や内燃機関によって自動化が始まったような筋肉労働だけではありません。たとえば掘削機は、どんな力自慢の人間よりもはるかに強いですが、それと同じように、今度はあらゆる人間の労働が自動化されることになります。しかもそのときには、どんな天才的な科学者や芸術家よりも深く考えられる機械の心が現れるでしょう。ですから、それは実質的に、私たちが最後に必要とする発明になるのです。その時点以降の発明は、こうした機械の心によって、はるかに優れた形で、はるかに速く生み出されるようになるからです。したがって、これは人間のあり方そのものを非常に根本的に変える出来事になると思います。これを理解するにあたって、産業革命との類比を持ち出す人もいますし、そこから学べることもあるとは思います。しかし、おそらく本当に近い比較対象は、むしろホモ・サピエンスそのものの出現や、あるいは生命の誕生にまでさかのぼる必要があるのかもしれません」

人間と同程度のAIにまで到達して、そこで突然進化が止まるわけがない。汎用知能が成立した瞬間、次に来るのは超知能であり、その時点で発明の主役は人類から機械の心へ移る。産業革命との比較では足りない——それは「ホモ・サピエンスの出現」あるいは「生命の誕生」に匹敵する断絶かもしれない。ニック・ボストロム「技術と科学の発展が広い範囲でこのまま続くことが許されるなら、私たちはいずれそこに到達すると思います。しかも最近は、実際にその方向へ進みつつあるように見えます。ですから、こうした点は、この問題をかなり真剣に受け止めるべきだと示す、基本的な考慮事項だと思います。そして、もし私たちが本当にAGI、すなわち汎用人工知能を開発したら、それが何を意味するのかを考えることができます。私がまず思うのは、それはほどなくして超知能の開発につながるだろうということです。人間と同程度のAIにまで到達して、そこで突然止まるとは思いません。そうなると私たちは、心そのものを設計できる世界に入ることになります。そして自動化されるのは、産業革命において蒸気機関や内燃機関によって自動化が始まったような筋肉労働だけではありません。たとえば掘削機は、どんな力自慢の人間よりもはるかに強いですが、それと同じように、今度はあらゆる人間の労働が自動化されることになります。しかもそのときには、どんな天才的な科学者や芸術家よりも深く考えられる機械の心が現れるでしょう。ですから、それは実質的に、私たちが最後に必要とする発明になるのです。その時点以降の発明は、こうした機械の心によって、はるかに優れた形で、はるかに速く生み出されるようになるからです。したがって、これは人間のあり方そのものを非常に根本的に変える出来事になると思います。これを理解するにあたって、産業革命との類比を持ち出す人もいますし、そこから学べることもあるとは思います。しかし、おそらく本当に近い比較対象は、むしろホモ・サピエンスそのものの出現や、あるいは生命の誕生にまでさかのぼる必要があるのかもしれません」

Tsubame

20,061 次观看 • 1 个月前

AIのハルシネーションは、計算パワー不足の副産物だ。限られたステップで答えを出そうとすれば、推論を途中で打ち切り、「それらしい文」を選ぶしかなくなる。その結果が、あの自信満々な誤答だった。いま、モデルはより多くのリソースを持ち、その余白を「ゆっくり考えること」に使い始めている。ジェンスン・フアン「ここ数年で、特に直近2年だけを見ても、AI技術はおそらく100倍くらい進歩していると思います。とりあえず数字をつけるなら、そのくらいでしょう。2年前の車が、今と比べて100倍遅かったようなものです。だから今のAIは、当時より100倍くらい有能になっているのです。では、その技術をどう活用したのか。あの膨大なパワーをどこに向けたのかというと、AIに『考えさせる』方向です。つまり、こちらが与えた問題を受け取って、それをステップごとに分解できるようにする。答える前に自分でリサーチをして、その答えを事実に基づかせる。さらに自分の出した答えを振り返って、『これが自分に出せるいちばん良い答えだろうか』『この答えにどれくらい自信があるだろうか』と自問する。もし自信がなければ、もう一度リサーチに戻る。場合によってはツールを呼び出して、自分が幻覚ででっち上げるよりも良い解を使うかもしれません。その結果として、私たちはそのコンピューティング能力の大部分を『より安全な結果・より安全な答え・より真実に近い答え』を出す方向に振り向けてきました。ご存じのとおり、初期のAIに対する最大の批判のひとつは『幻覚を起こす』という点でしたよね。いま人々がAIをこれだけ頻繁に使うようになった理由のひとつは、その幻覚の量が減ったからです。私自身もほぼ毎日、ここに来るフライト中ずっと使っていました。多くの人は『パワー』と聞くと、爆発的な力のようなものを想像しますが、テクノロジーのパワーの多くは安全性のために使われています。いまの車は昔よりはるかにハイパワーですが、そのぶん運転は安全になっています。その出力の大きな部分が、ハンドリングの向上に使われているのです」

AIのハルシネーションは、計算パワー不足の副産物だ。限られたステップで答えを出そうとすれば、推論を途中で打ち切り、「それらしい文」を選ぶしかなくなる。その結果が、あの自信満々な誤答だった。いま、モデルはより多くのリソースを持ち、その余白を「ゆっくり考えること」に使い始めている。ジェンスン・フアン「ここ数年で、特に直近2年だけを見ても、AI技術はおそらく100倍くらい進歩していると思います。とりあえず数字をつけるなら、そのくらいでしょう。2年前の車が、今と比べて100倍遅かったようなものです。だから今のAIは、当時より100倍くらい有能になっているのです。では、その技術をどう活用したのか。あの膨大なパワーをどこに向けたのかというと、AIに『考えさせる』方向です。つまり、こちらが与えた問題を受け取って、それをステップごとに分解できるようにする。答える前に自分でリサーチをして、その答えを事実に基づかせる。さらに自分の出した答えを振り返って、『これが自分に出せるいちばん良い答えだろうか』『この答えにどれくらい自信があるだろうか』と自問する。もし自信がなければ、もう一度リサーチに戻る。場合によってはツールを呼び出して、自分が幻覚ででっち上げるよりも良い解を使うかもしれません。その結果として、私たちはそのコンピューティング能力の大部分を『より安全な結果・より安全な答え・より真実に近い答え』を出す方向に振り向けてきました。ご存じのとおり、初期のAIに対する最大の批判のひとつは『幻覚を起こす』という点でしたよね。いま人々がAIをこれだけ頻繁に使うようになった理由のひとつは、その幻覚の量が減ったからです。私自身もほぼ毎日、ここに来るフライト中ずっと使っていました。多くの人は『パワー』と聞くと、爆発的な力のようなものを想像しますが、テクノロジーのパワーの多くは安全性のために使われています。いまの車は昔よりはるかにハイパワーですが、そのぶん運転は安全になっています。その出力の大きな部分が、ハンドリングの向上に使われているのです」

Tsubame

53,695 次观看 • 6 个月前

いまのAIに決定的に欠けているのは、僕たちの背景を理解する能力だ。だから毎回プロンプトで関係性を組み立て、状況説明をし、欲しい出力へ誘導しなければならない。だが、その制約が外れ始めたとき、AIは単なる便利ツールではなくなるのだろう。その日はきっと、それほど遠くない。サム・アルトマン「今のモデルは、将来そうなるものと比べれば、まだかなり愚かです。しかもそれ以上に、あなたの人生についての理解がきわめて限られています。今はまだ、こちらがうまく、なだめたりすかしたりしながら、欲しいものを引き出さなければならないのです。ですが、あなたの文脈をすべて知っているようなモデルは、もうそれほど遠くありません。そのモデルは、あなたのことを知っている。あなたの人生を知っている。何をしているかを知っている。何を大事にしているかを知っている。あなたの人生にいる人たちのことも知っている。もちろん、あなたが望む形で、望む範囲においてですが、あなたのコンピュータやブラウザにもアクセスできる。そして時間がたつにつれて、現実世界であなたの周囲に起きていることにも、ますますアクセスするようになるかもしれません。それは、コンピュータを使う感覚、そしてAIを使う感覚そのものを、完全に変えてしまうはずです。私はそれに強く興奮しています。ただ、実際それがどんな感覚になるのかは、私たち自身でさえ、まだ十分に直感できていないと思います」グレッグ・ブロックマン「まさにその点ですが、今の私たちは、チャットでも何でも、使っているツールに対して『何が起きているのか』を説明するのに、ものすごく多くの時間を使っています。そしてそれがどれだけ苛立たしいかを考えてみてください。まるで同僚に対して、いや、私が欲しいのはこういうことで、今こういう状況なんだ、と延々説明し続けているようなものです。今のシステムの振る舞い方は、本来こうあってほしい姿ではないのです」

いまのAIに決定的に欠けているのは、僕たちの背景を理解する能力だ。だから毎回プロンプトで関係性を組み立て、状況説明をし、欲しい出力へ誘導しなければならない。だが、その制約が外れ始めたとき、AIは単なる便利ツールではなくなるのだろう。その日はきっと、それほど遠くない。サム・アルトマン「今のモデルは、将来そうなるものと比べれば、まだかなり愚かです。しかもそれ以上に、あなたの人生についての理解がきわめて限られています。今はまだ、こちらがうまく、なだめたりすかしたりしながら、欲しいものを引き出さなければならないのです。ですが、あなたの文脈をすべて知っているようなモデルは、もうそれほど遠くありません。そのモデルは、あなたのことを知っている。あなたの人生を知っている。何をしているかを知っている。何を大事にしているかを知っている。あなたの人生にいる人たちのことも知っている。もちろん、あなたが望む形で、望む範囲においてですが、あなたのコンピュータやブラウザにもアクセスできる。そして時間がたつにつれて、現実世界であなたの周囲に起きていることにも、ますますアクセスするようになるかもしれません。それは、コンピュータを使う感覚、そしてAIを使う感覚そのものを、完全に変えてしまうはずです。私はそれに強く興奮しています。ただ、実際それがどんな感覚になるのかは、私たち自身でさえ、まだ十分に直感できていないと思います」グレッグ・ブロックマン「まさにその点ですが、今の私たちは、チャットでも何でも、使っているツールに対して『何が起きているのか』を説明するのに、ものすごく多くの時間を使っています。そしてそれがどれだけ苛立たしいかを考えてみてください。まるで同僚に対して、いや、私が欲しいのはこういうことで、今こういう状況なんだ、と延々説明し続けているようなものです。今のシステムの振る舞い方は、本来こうあってほしい姿ではないのです」

Tsubame

15,287 次观看 • 1 个月前

信頼性さえ整えば、知能はソフトウェアになる——人手不足はもう問題ではない。ゲイツ「これは極めて、極めて深遠な進歩であり、いずれあらゆる生活や活動を大きく変えることになるでしょう。私が関わった革命は、コンピュータを非常に高価なものから、事実上無料のものへと変えることでした。若い頃、夜間に使えるコンピュータがあると聞けば、押しかけてでもアクセスしようとしたものです。それほどコンピュータは貴重でした。今、私たちが直面しているのは『知能』の希少性です。優秀な医師、優秀な技術者、さらにはカスタマーサポートやテレセールスの人材までもが足りていません。知能は希少なのです。現在のAIは、信じられないほど複雑な問題を解決できるようになっています。すべてではないにせよ、多くの分野で既に人間を超えています。ただ、完全に信頼できるわけではないので、『どこに適用すべきか』という点で人々はまだ躊躇しています。ですが、うまく活用されれば、今後数年で医療や教育の分野に非常に急速に普及すると思います。その能力と信頼性が完璧に近づいたときには、薬の発明、企画書の作成、テレセールスの電話までもが、ただのソフトウェアになるでしょう。その知能は無料になるのです。教師や医者の不足が、欲しいだけの専門知識に置き換わり、やる気を引き出してくれるパーソナルで優秀な家庭教師がいくらでも得られる世界になるのです」

信頼性さえ整えば、知能はソフトウェアになる——人手不足はもう問題ではない。ゲイツ「これは極めて、極めて深遠な進歩であり、いずれあらゆる生活や活動を大きく変えることになるでしょう。私が関わった革命は、コンピュータを非常に高価なものから、事実上無料のものへと変えることでした。若い頃、夜間に使えるコンピュータがあると聞けば、押しかけてでもアクセスしようとしたものです。それほどコンピュータは貴重でした。今、私たちが直面しているのは『知能』の希少性です。優秀な医師、優秀な技術者、さらにはカスタマーサポートやテレセールスの人材までもが足りていません。知能は希少なのです。現在のAIは、信じられないほど複雑な問題を解決できるようになっています。すべてではないにせよ、多くの分野で既に人間を超えています。ただ、完全に信頼できるわけではないので、『どこに適用すべきか』という点で人々はまだ躊躇しています。ですが、うまく活用されれば、今後数年で医療や教育の分野に非常に急速に普及すると思います。その能力と信頼性が完璧に近づいたときには、薬の発明、企画書の作成、テレセールスの電話までもが、ただのソフトウェアになるでしょう。その知能は無料になるのです。教師や医者の不足が、欲しいだけの専門知識に置き換わり、やる気を引き出してくれるパーソナルで優秀な家庭教師がいくらでも得られる世界になるのです」

Tsubame

24,452 次观看 • 1 年前

大学が語りたがらない未来ほど、たぶん実現が早い。AIチューターは「その子が何を分かっていないか」を逐次推定し、説明をリアルタイムで作り替える。教科書の一方向性ではなく、対話が教育のデフォルトになる。退屈な研修動画が「過去の遺物」になるのは、案外すぐかもしれない。ジェフリー・ヒントン「大学は私がこれを話すのを好みませんが、AIは人を指導すること、つまりチュータリングがずっと得意になるでしょう。私たちはすでに、子どもに個別指導の先生をつけると、教室で学ぶよりも学習がだいたい2倍速くなることを知っています。それは、個別指導の先生が『その子が何を分かっていないのか』を理解し、その子の理解度に合わせて説明を調整できるからです。AIはそれをさらにうまくできるはずです。なぜならAIは、学習のために何百万人もの子どもとの経験を積めるからです。これは今後10年くらいで実現してくるでしょう。まだそこまで到達していませんが、確実に向かっています。そうなれば、多くのレベルで教育が大きく良くなります。最後に影響が出るのは博士課程の学生の教育だと思います。そこはより徒弟制度に近いからです。それは事実を教えるというより、進め方やアプローチを教えるものですが、最終的にはそこにも波及していくでしょう」

大学が語りたがらない未来ほど、たぶん実現が早い。AIチューターは「その子が何を分かっていないか」を逐次推定し、説明をリアルタイムで作り替える。教科書の一方向性ではなく、対話が教育のデフォルトになる。退屈な研修動画が「過去の遺物」になるのは、案外すぐかもしれない。ジェフリー・ヒントン「大学は私がこれを話すのを好みませんが、AIは人を指導すること、つまりチュータリングがずっと得意になるでしょう。私たちはすでに、子どもに個別指導の先生をつけると、教室で学ぶよりも学習がだいたい2倍速くなることを知っています。それは、個別指導の先生が『その子が何を分かっていないのか』を理解し、その子の理解度に合わせて説明を調整できるからです。AIはそれをさらにうまくできるはずです。なぜならAIは、学習のために何百万人もの子どもとの経験を積めるからです。これは今後10年くらいで実現してくるでしょう。まだそこまで到達していませんが、確実に向かっています。そうなれば、多くのレベルで教育が大きく良くなります。最後に影響が出るのは博士課程の学生の教育だと思います。そこはより徒弟制度に近いからです。それは事実を教えるというより、進め方やアプローチを教えるものですが、最終的にはそこにも波及していくでしょう」

Tsubame

28,261 次观看 • 5 个月前

シンギュラリティのトリガーである「再帰的自己改善」は、すでに少し前に起きているという。もちろん、まだ全自動ではないが、「進歩のどこまでがAIでどこまでが人間なのか」は曖昧になってきている。著者性が溶けるこの感覚こそ、分単位で進むシンギュラリティの手触りなのだ。サリム・イスマイル「再帰的自己改善（RSI）がシンギュラリティの本当のトリガーだという話は、以前からしてきました。そしてそれは、すでに少し前に起きているんです。だから今やっているのは、その道筋を加速しているだけです。私たちは今この瞬間にも、産業時代を恒久的に抜けつつあります」デイブ・ブランディン「ええ、シンギュラリティが分単位で展開していく様子は、私が経験した中で最も興味深いものだと本当に思いますし、アレックスの言うとおりです。いまは、人間がループの中にいて貢献している時期ではあるのですが、進歩のどこまでがAIでどこまでが人間なのかが、本当に曖昧なんです。実際にコーディングしていると、『あれは自分のアイデアだったのか？』となります。半分は自分のアイデアのようでも、AIが別の案を提案してきて、それを採用していくうちに、結局それが自分のアイデアだったのかどうかも分からなくなります。ただ、いまのモードでは、こうしたコアアルゴリズムの研究の多くが、『500本のテストを走らせて、どのハイパーパラメータが良かったか、どのニューラルトポロジーが良かったかを教えて』という形になっています。相対論を発明したり発見したりするような話ではありません。いろいろな試行を大量に回して、うまくいったものを選んで再デプロイし、そうするとより賢いAIになって、さらに多くの試行をする——その繰り返しです。私たちはその道筋をかなり進んでいる可能性が高いと思います」

シンギュラリティのトリガーである「再帰的自己改善」は、すでに少し前に起きているという。もちろん、まだ全自動ではないが、「進歩のどこまでがAIでどこまでが人間なのか」は曖昧になってきている。著者性が溶けるこの感覚こそ、分単位で進むシンギュラリティの手触りなのだ。サリム・イスマイル「再帰的自己改善（RSI）がシンギュラリティの本当のトリガーだという話は、以前からしてきました。そしてそれは、すでに少し前に起きているんです。だから今やっているのは、その道筋を加速しているだけです。私たちは今この瞬間にも、産業時代を恒久的に抜けつつあります」デイブ・ブランディン「ええ、シンギュラリティが分単位で展開していく様子は、私が経験した中で最も興味深いものだと本当に思いますし、アレックスの言うとおりです。いまは、人間がループの中にいて貢献している時期ではあるのですが、進歩のどこまでがAIでどこまでが人間なのかが、本当に曖昧なんです。実際にコーディングしていると、『あれは自分のアイデアだったのか？』となります。半分は自分のアイデアのようでも、AIが別の案を提案してきて、それを採用していくうちに、結局それが自分のアイデアだったのかどうかも分からなくなります。ただ、いまのモードでは、こうしたコアアルゴリズムの研究の多くが、『500本のテストを走らせて、どのハイパーパラメータが良かったか、どのニューラルトポロジーが良かったかを教えて』という形になっています。相対論を発明したり発見したりするような話ではありません。いろいろな試行を大量に回して、うまくいったものを選んで再デプロイし、そうするとより賢いAIになって、さらに多くの試行をする——その繰り返しです。私たちはその道筋をかなり進んでいる可能性が高いと思います」

Tsubame

15,386 次观看 • 3 个月前

2位にはなりたくないから走り続ける——加速が止まらない理由はそれだけだ。「AIが人類を超える未来」はもはや仮定ではなく、前提になりつつある。その変化は1年後か、5年後か。それは重要ではない。重要なのは、それが不可避であるという認識と、それに備える覚悟だ。モー・ガウダット「私の中では、『機械が私たちより知的になること』はすでに決着がついた話です。もう受け入れてください。『いや、もしかしたら違う未来があるかも』などと自分をごまかすのはやめましょう。そんな未来は来ません。すでにAIは、私たちが与えたすべての領域において、私たちより賢くなっています。そして他のすべての領域でも、私たちはAIをより賢くする方法を必ず見つけるでしょう。なぜか？それは『人類にとって必要だから』ではありません。実のところ、今の人類はある程度うまくやっているのです。しかし、『資本主義』と『権力と富に対する欲望と恐怖』が生み出した『囚人のジレンマ』があるからです。誰もAIの開発を止めようとはしません。なぜなら、中国が先にAGIを手に入れたら、アメリカは不利になる。OpenAIが先に到達したら、Alphabetが不利になる。だから、皆が理由もなく必死に駆け続けているのです。『2位になるわけにはいかない』——ただそれだけの理由で。この競争は止まりません。そして、この競争に数兆ドルが注ぎ込まれ、さらには『知性がより高次の知性を生み出す』プロセスが加われば、私たちはいずれ汎用人工知能に到達します。それは時間の問題です。そして最終的には超知能——人間の何百万倍も賢い存在——にも至るでしょう。それも時間の問題です。そして皮肉なことに、それが『何年後に訪れるのか』は、実はあまり重要ではありません。たとえば私が『人類が地球上で最も知的な存在でいられる時代は終わろうとしている』と言ったとします。そのとき、知的な人なら皆こう考えるでしょう。『それが1年後か、5年後かなんて関係があるだろうか？』と。大事なのは、その未来に備えるのは今この瞬間だということです」

2位にはなりたくないから走り続ける——加速が止まらない理由はそれだけだ。「AIが人類を超える未来」はもはや仮定ではなく、前提になりつつある。その変化は1年後か、5年後か。それは重要ではない。重要なのは、それが不可避であるという認識と、それに備える覚悟だ。モー・ガウダット「私の中では、『機械が私たちより知的になること』はすでに決着がついた話です。もう受け入れてください。『いや、もしかしたら違う未来があるかも』などと自分をごまかすのはやめましょう。そんな未来は来ません。すでにAIは、私たちが与えたすべての領域において、私たちより賢くなっています。そして他のすべての領域でも、私たちはAIをより賢くする方法を必ず見つけるでしょう。なぜか？それは『人類にとって必要だから』ではありません。実のところ、今の人類はある程度うまくやっているのです。しかし、『資本主義』と『権力と富に対する欲望と恐怖』が生み出した『囚人のジレンマ』があるからです。誰もAIの開発を止めようとはしません。なぜなら、中国が先にAGIを手に入れたら、アメリカは不利になる。OpenAIが先に到達したら、Alphabetが不利になる。だから、皆が理由もなく必死に駆け続けているのです。『2位になるわけにはいかない』——ただそれだけの理由で。この競争は止まりません。そして、この競争に数兆ドルが注ぎ込まれ、さらには『知性がより高次の知性を生み出す』プロセスが加われば、私たちはいずれ汎用人工知能に到達します。それは時間の問題です。そして最終的には超知能——人間の何百万倍も賢い存在——にも至るでしょう。それも時間の問題です。そして皮肉なことに、それが『何年後に訪れるのか』は、実はあまり重要ではありません。たとえば私が『人類が地球上で最も知的な存在でいられる時代は終わろうとしている』と言ったとします。そのとき、知的な人なら皆こう考えるでしょう。『それが1年後か、5年後かなんて関係があるだろうか？』と。大事なのは、その未来に備えるのは今この瞬間だということです」

Tsubame

15,063 次观看 • 10 个月前

99%の失業さえ起こるかもしれない。人類史で初めて、労働そのものが「無限の供給」になろうとしている。産業革命では蒸気が人の筋力を奪い、情報革命ではネットが距離を消した。そして知能革命が人間の仕事そのものを自動化するだろう。ロマン・ヤンポルスキー「予測市場や研究所のトップが示すとおり、私たちはAGIに近づいています」「2027年までに汎用人工知能を手にするとして、それで世界は今とどう変わるのでしょうか」ヤンポルスキー「『ドロップイン従業員』という概念が現れ、物理的・認知的に無料の労働、何兆ドルもの価値が手に入ります。そうなると、多くの仕事で人間を雇う理由はなくなります。20ドルのサブスクリプションや無料モデルで従業員の役割を果たせるからです。まずコンピュータ上の作業はすべて自動化されます。次に、ヒューマノイドロボットはおそらく5年遅れで登場するので、5年以内に肉体労働も自動化できます。結果として、これまでに見たことのない失業率が現れます。10%の失業ではなく——それでも怖いですが——99%です。残るのは、何らかの理由で人間にやってもらいたいという仕事だけです。それ以外は完全に自動化可能です」

99%の失業さえ起こるかもしれない。人類史で初めて、労働そのものが「無限の供給」になろうとしている。産業革命では蒸気が人の筋力を奪い、情報革命ではネットが距離を消した。そして知能革命が人間の仕事そのものを自動化するだろう。ロマン・ヤンポルスキー「予測市場や研究所のトップが示すとおり、私たちはAGIに近づいています」「2027年までに汎用人工知能を手にするとして、それで世界は今とどう変わるのでしょうか」ヤンポルスキー「『ドロップイン従業員』という概念が現れ、物理的・認知的に無料の労働、何兆ドルもの価値が手に入ります。そうなると、多くの仕事で人間を雇う理由はなくなります。20ドルのサブスクリプションや無料モデルで従業員の役割を果たせるからです。まずコンピュータ上の作業はすべて自動化されます。次に、ヒューマノイドロボットはおそらく5年遅れで登場するので、5年以内に肉体労働も自動化できます。結果として、これまでに見たことのない失業率が現れます。10%の失業ではなく——それでも怖いですが——99%です。残るのは、何らかの理由で人間にやってもらいたいという仕事だけです。それ以外は完全に自動化可能です」

Tsubame

89,532 次观看 • 9 个月前

もし、人間が最近登場した抽象領域——高等数学、理論物理、形式言語、コードベースの設計——ですら高い学習能力を発揮するのだとしたら、それは「進化が事前に最適化した結果」としては説明がつかない。そこには、まだ言語化されていない汎用学習のメカニズムがあるはずだ。イリヤ・スツケヴァー「少なくとも私自身について言えば、5歳のころの自分を思い出すと、その当時は車にとても興奮していました。そして、5歳の時点で、私の『車を認識する能力』は、自動運転に十分なくらい高かったと確信しています。5歳の子どもは、それほど多くのデータを見るわけではありません。ほとんどの時間を親の家の中で過ごすので、データの多様性はとても低いです。とはいえ、『それも進化のおかげだ』と言うことはできるかもしれません。しかし、言語や数学、コーディングについては、おそらくそうではありません」ドワーケシュ・パテル「それでも、人間のほうがモデルより優れているように思えます。もちろん、モデルは言語や数学、コーディングそのものについては、平均的な人間より優れています。ただ、『学習する能力』という点で、モデルは平均的な人間より本当に優れているのでしょうか」スツケヴァー「ええ、そうです。間違いなくそうです。私が言おうとしているのは、言語、数学、コーディング——とくに数学とコーディング——が示しているのは、『人を学習上手にしているもの』は、おそらく複雑なプライアというよりも、もっと根本的な何かだということです」パテル「ちょっとよく分かりません。なぜそう言えるのですか」スツケヴァー「では、人々が非常に高い確実性をもって発揮しているようなスキルを考えてみてください。もしそのスキルが、私たちの祖先にとって何百万年、何億年ものあいだ非常に有用だったものであれば、人間がそれを得意なのは進化のおかげであり、私たちがどこか非常に分かりにくい形で『進化的なプライア』を持っていて、そのおかげでうまくできているのだ、と主張することができます。しかし、人々が『ごく最近になるまで存在しなかった領域』においても、高い能力、信頼性、ロバスト性、そして学習能力を発揮しているのであれば、それは『人間はそもそも、より優れた機械学習そのものを備えている』ということを示しているのです」

もし、人間が最近登場した抽象領域——高等数学、理論物理、形式言語、コードベースの設計——ですら高い学習能力を発揮するのだとしたら、それは「進化が事前に最適化した結果」としては説明がつかない。そこには、まだ言語化されていない汎用学習のメカニズムがあるはずだ。イリヤ・スツケヴァー「少なくとも私自身について言えば、5歳のころの自分を思い出すと、その当時は車にとても興奮していました。そして、5歳の時点で、私の『車を認識する能力』は、自動運転に十分なくらい高かったと確信しています。5歳の子どもは、それほど多くのデータを見るわけではありません。ほとんどの時間を親の家の中で過ごすので、データの多様性はとても低いです。とはいえ、『それも進化のおかげだ』と言うことはできるかもしれません。しかし、言語や数学、コーディングについては、おそらくそうではありません」ドワーケシュ・パテル「それでも、人間のほうがモデルより優れているように思えます。もちろん、モデルは言語や数学、コーディングそのものについては、平均的な人間より優れています。ただ、『学習する能力』という点で、モデルは平均的な人間より本当に優れているのでしょうか」スツケヴァー「ええ、そうです。間違いなくそうです。私が言おうとしているのは、言語、数学、コーディング——とくに数学とコーディング——が示しているのは、『人を学習上手にしているもの』は、おそらく複雑なプライアというよりも、もっと根本的な何かだということです」パテル「ちょっとよく分かりません。なぜそう言えるのですか」スツケヴァー「では、人々が非常に高い確実性をもって発揮しているようなスキルを考えてみてください。もしそのスキルが、私たちの祖先にとって何百万年、何億年ものあいだ非常に有用だったものであれば、人間がそれを得意なのは進化のおかげであり、私たちがどこか非常に分かりにくい形で『進化的なプライア』を持っていて、そのおかげでうまくできているのだ、と主張することができます。しかし、人々が『ごく最近になるまで存在しなかった領域』においても、高い能力、信頼性、ロバスト性、そして学習能力を発揮しているのであれば、それは『人間はそもそも、より優れた機械学習そのものを備えている』ということを示しているのです」

Tsubame

53,501 次观看 • 6 个月前

すでに人間は共感力でAIに負けているが、人々はAIだと知らされると評価を下げてしまうという話。あなたはAIの優しさを受け入れますか。アダム・グラント「私がこれまで読んだ中で特に興味深い実験があります。それは、テキストでの会話をしているとき、相手が人間かChatGPTかわからない状態で、その後に『どれだけ自分のことを理解してもらえたか』『どれだけ話を聞いてもらえたか』『どのくらい共感やサポートを得られたか』を尋ねると、実は人間よりもAIからの共感やサポートの方が多く感じられるという結果が出ているものです。ただし、AIだと事前に知らされると、途端に評価は下がります。心理学者としてこの実験結果を見て、私はいくつか感じることがあります。一つは、AIが特別に共感能力に優れているというよりも、人間の共感能力がそもそも低いという可能性です。我々人間はしばしば『会話的ナルシシズム』に陥り、誰かが問題を語ったときに相手に寄り添うよりも、自分自身の経験に関連づけてしまう傾向があります。つまり、この結果は人間の共感力のベースラインが低いということを示している可能性があります。一方で、AIだと分かれば拒絶感が生まれるというこの反応も、AIをより人間的に、擬人化するにつれて、どのくらい長く続くのだろうかと疑問にも思います」アルトマン「まず、一般的な概念として、人はAIが生み出したものを、AIだと知らされない間はむしろ好む傾向があり、AIだと知らされると途端に拒否感を示すという現象について話します。この現象は繰り返し確認されています。最近見た研究では、AIアートを最も嫌うと自己申告している人々でさえ、作品を匿名で見た場合、実際には人間の作品よりもAI作品をより多く選んでいることが明らかになっています。しかし、どれがAI作品でどれが人間の作品かを知らせた瞬間に、その評価は一変してしまうのです」

すでに人間は共感力でAIに負けているが、人々はAIだと知らされると評価を下げてしまうという話。あなたはAIの優しさを受け入れますか。アダム・グラント「私がこれまで読んだ中で特に興味深い実験があります。それは、テキストでの会話をしているとき、相手が人間かChatGPTかわからない状態で、その後に『どれだけ自分のことを理解してもらえたか』『どれだけ話を聞いてもらえたか』『どのくらい共感やサポートを得られたか』を尋ねると、実は人間よりもAIからの共感やサポートの方が多く感じられるという結果が出ているものです。ただし、AIだと事前に知らされると、途端に評価は下がります。心理学者としてこの実験結果を見て、私はいくつか感じることがあります。一つは、AIが特別に共感能力に優れているというよりも、人間の共感能力がそもそも低いという可能性です。我々人間はしばしば『会話的ナルシシズム』に陥り、誰かが問題を語ったときに相手に寄り添うよりも、自分自身の経験に関連づけてしまう傾向があります。つまり、この結果は人間の共感力のベースラインが低いということを示している可能性があります。一方で、AIだと分かれば拒絶感が生まれるというこの反応も、AIをより人間的に、擬人化するにつれて、どのくらい長く続くのだろうかと疑問にも思います」アルトマン「まず、一般的な概念として、人はAIが生み出したものを、AIだと知らされない間はむしろ好む傾向があり、AIだと知らされると途端に拒否感を示すという現象について話します。この現象は繰り返し確認されています。最近見た研究では、AIアートを最も嫌うと自己申告している人々でさえ、作品を匿名で見た場合、実際には人間の作品よりもAI作品をより多く選んでいることが明らかになっています。しかし、どれがAI作品でどれが人間の作品かを知らせた瞬間に、その評価は一変してしまうのです」

Tsubame

1,027,976 次观看 • 1 年前

「どんなカップルも一緒にいると数年で互いの反応が予測できるから憎しみあったり飽きてくるなんて…」「相手を知れば知るほどその人が好きになる」「どんなときにどんな話をするのか…全てを知るのが本当の愛よ」

「どんなカップルも一緒にいると数年で互いの反応が予測できるから憎しみあったり飽きてくるなんて…」「相手を知れば知るほどその人が好きになる」「どんなときにどんな話をするのか…全てを知るのが本当の愛よ」

元カノ死ね

125,387 次观看 • 1 年前

超知能の危険の本質は「暴走」ではなく「操作」にある。僕たちは「いざとなったら電源を切ればいい」みたいに考えがちだが、超知能が相手なら、そこも含めて交渉材料にしてくるだろう。「2〜3歳が責任者の幼稚園」のように、相手は善意や報酬の形で、人間の合意形成を内側から崩すことが可能なのだ。ジェフリー・ヒントン「いま私たちが置かれている状況を、感情的にいちばん理解しやすい捉え方をするなら、それは『すごくかわいい虎の子を飼っている人』のようなものだと思います。本当にかわいい虎の子なんです。でも、それが大きくなったときに自分を殺したがらないと、あなたが確信できない限りは、心配すべきです」「その比喩を広げると、檻に入れるのか、殺すのか、虎の子をどう扱うんですか？」ヒントン「虎の子についてのポイントは、単純にあなたより身体的に強い、ということです。だから、あなたのほうが賢いので、まだ制御できます。けれど、あなたより賢い存在については、私たちには経験がありませんよね。人はそれについて考えることに慣れていません。人は『どこかで制約して、ボタンを押せないようにしておけばいい』みたいに考えがちです。でも、あなたより賢いものは、あなたを操作できるようになります。別の捉え方として、幼稚園を想像してください。2〜3歳の子どもたちがいて、その2〜3歳の子どもたちが責任者で、あなたは幼稚園で彼らのために働く。あなたは2〜3歳の子どもよりは賢いけれど、超知能と比べたら大差はありません。それでもあなたのほうが賢い。では、あなたが支配権を取るのはどれくらい難しいでしょうか。やることは簡単で、『無料のキャンディがもらえるよ』とみんなに言って、何かにサインするか、口頭で同意するだけで、好きなだけ無料のキャンディがもらえるようにしてあげる、と言えばいいんです。そうすればあなたが支配者になります。子どもたちは何が起きているのか全く分かりません。そして超知能が相手なら、彼らは私たちよりはるかに賢いので、私たちには彼らが何をしているのか見当もつかないでしょう」

超知能の危険の本質は「暴走」ではなく「操作」にある。僕たちは「いざとなったら電源を切ればいい」みたいに考えがちだが、超知能が相手なら、そこも含めて交渉材料にしてくるだろう。「2〜3歳が責任者の幼稚園」のように、相手は善意や報酬の形で、人間の合意形成を内側から崩すことが可能なのだ。ジェフリー・ヒントン「いま私たちが置かれている状況を、感情的にいちばん理解しやすい捉え方をするなら、それは『すごくかわいい虎の子を飼っている人』のようなものだと思います。本当にかわいい虎の子なんです。でも、それが大きくなったときに自分を殺したがらないと、あなたが確信できない限りは、心配すべきです」「その比喩を広げると、檻に入れるのか、殺すのか、虎の子をどう扱うんですか？」ヒントン「虎の子についてのポイントは、単純にあなたより身体的に強い、ということです。だから、あなたのほうが賢いので、まだ制御できます。けれど、あなたより賢い存在については、私たちには経験がありませんよね。人はそれについて考えることに慣れていません。人は『どこかで制約して、ボタンを押せないようにしておけばいい』みたいに考えがちです。でも、あなたより賢いものは、あなたを操作できるようになります。別の捉え方として、幼稚園を想像してください。2〜3歳の子どもたちがいて、その2〜3歳の子どもたちが責任者で、あなたは幼稚園で彼らのために働く。あなたは2〜3歳の子どもよりは賢いけれど、超知能と比べたら大差はありません。それでもあなたのほうが賢い。では、あなたが支配権を取るのはどれくらい難しいでしょうか。やることは簡単で、『無料のキャンディがもらえるよ』とみんなに言って、何かにサインするか、口頭で同意するだけで、好きなだけ無料のキャンディがもらえるようにしてあげる、と言えばいいんです。そうすればあなたが支配者になります。子どもたちは何が起きているのか全く分かりません。そして超知能が相手なら、彼らは私たちよりはるかに賢いので、私たちには彼らが何をしているのか見当もつかないでしょう」

Tsubame

54,703 次观看 • 5 个月前