Loading video...

Video Failed to Load

Go Home

AGIとは何なのか?そして、人類に与える脅威的なインパクトとは?元Google デザイン倫理担当者のトリスタン・ハリスがそのヤバさを語ります。そう、マジでこうなってしまう可能性が高く、人間頭脳不要論が広がってます。

46,860 views • 7 months ago •via X (Twitter)

0 Comments

No comments available

Comments from the original post will appear here

Related Videos

もし、人間が最近登場した抽象領域——高等数学、理論物理、形式言語、コードベースの設計——ですら高い学習能力を発揮するのだとしたら、それは「進化が事前に最適化した結果」としては説明がつかない。そこには、まだ言語化されていない汎用学習のメカニズムがあるはずだ。 イリヤ・スツケヴァー「少なくとも私自身について言えば、5歳のころの自分を思い出すと、その当時は車にとても興奮していました。そして、5歳の時点で、私の『車を認識する能力』は、自動運転に十分なくらい高かったと確信しています。5歳の子どもは、それほど多くのデータを見るわけではありません。 ほとんどの時間を親の家の中で過ごすので、データの多様性はとても低いです。とはいえ、『それも進化のおかげだ』と言うことはできるかもしれません。しかし、言語や数学、コーディングについては、おそらくそうではありません」 ドワーケシュ・パテル「それでも、人間のほうがモデルより優れているように思えます。もちろん、モデルは言語や数学、コーディングそのものについては、平均的な人間より優れています。ただ、『学習する能力』という点で、モデルは平均的な人間より本当に優れているのでしょうか」 スツケヴァー「ええ、そうです。間違いなくそうです。私が言おうとしているのは、言語、数学、コーディング——とくに数学とコーディング——が示しているのは、『人を学習上手にしているもの』は、おそらく複雑なプライアというよりも、もっと根本的な何かだということです」 パテル「ちょっとよく分かりません。なぜそう言えるのですか」 スツケヴァー「では、人々が非常に高い確実性をもって発揮しているようなスキルを考えてみてください。もしそのスキルが、私たちの祖先にとって何百万年、何億年ものあいだ非常に有用だったものであれば、人間がそれを得意なのは進化のおかげであり、私たちがどこか非常に分かりにくい形で『進化的なプライア』を持っていて、そのおかげでうまくできているのだ、と主張することができます。 しかし、人々が『ごく最近になるまで存在しなかった領域』においても、高い能力、信頼性、ロバスト性、そして学習能力を発揮しているのであれば、それは『人間はそもそも、より優れた機械学習そのものを備えている』ということを示しているのです」

Tsubame

53,501 views • 7 months ago

すべての人に「自分の代理人として働くAI」がつく世界は一見ユートピアに見えるが、僕たちはAIの決定に「了解」と返すだけの存在になってしまうかもしれない。だからその先では「AIとの融合」という論点が避けられなくなっていく。理解そのものをAIと共有し、人間が再びゲームの内部に戻るのだ。 イリヤ・スツケヴァー「長期的な均衡という観点から言うと、一つのアプローチは『おそらくすべての人が、自分のために行動してくれるAIを持つようになる』という世界だ、と言えるかもしれません。それが無期限に維持できるなら、確かに良いことです。 しかしその欠点は、AIがその人のためにお金を稼ぎ、政治の場でニーズを代弁し、おそらく『これこれこういうことをやりました。状況はこうです』とレポートを書き、人間は『素晴らしい、そのまま続けて』と返すだけになることです。そこで人間は、もはやプロセスの参加者ではなくなってしまう。これはかなり危うい状態だと言えるでしょう。 気に入っている解決策ではないと前置きしますが、一つの解は『人間がNeuralink++のようなもので部分的にAIになる』ことです。そうなると、AIが何かを理解したとき、私たちもそれを理解するようになり、その理解が丸ごと転送される。AIが何らかの状況に置かれているとき、その状況に私たち自身も完全に関与していることになる。それが長期的な均衡に対する答えだと、私は考えています」

Tsubame

21,189 views • 7 months ago

チェスAIの進歩はこうだった——最初は「人間+AI」が勝つ。次に、AIが十分に賢くなると、人間が混ざるほど弱くなる。最終的に、意思決定の最適解が「人間抜き」へ収束する。だから、現実の仕事で最後の状態になることを「超知能」の定義としよう。そのとき、社会の意思決定は不可逆に再配置される。 サム・アルトマン「AGIについては、私たちは定義をしなかったせいで外してしまいましたよね。いま皆が注目している新しい言葉は、超知能に到達するタイミングです。だから私の提案はこうです。AGIはある意味で通り過ぎていったことにして、世界をそこまで変えなかった、あるいは長期的には変えるのだろうけれど、とにかく『いつかはAGIを作った』ということにする。いまは曖昧な時期で、すでに達したと思う人もいれば、まだだと思う人もいて、これから達したと思う人が増えていく。そして『次は何だ?』となる。 そのうえで、超知能の候補となる定義はこうです。あるシステムが、AIの支援を受けた人間よりもなお上回って、米国大統領、巨大企業のCEO、あるいは非常に大規模な科学研究所の運営を、人間の誰よりもうまくこなせるようになったとき。以上です。 チェスで起きたことも興味深い例だと思います。チェスではAIが人間に勝てるようになりました。Deep Blueの件は私もはっきり覚えています。その後しばらくは、人間とAIが組むほうがAI単体より強かった時期がありました。でも最終的には、人間が介入することでむしろ悪くなってしまい、人間がその卓越した知性を理解できないまま口を出さない『人間抜きのAI』が最善、という状態になった。 超知能を考える枠組みとして、これは面白いと思います。まだずっと先の話だとは思いますが、今回はもっとすっきりした定義を持てたらいいですね」

Tsubame

158,213 views • 6 months ago

シンギュラリティのトリガーである「再帰的自己改善」は、すでに少し前に起きているという。もちろん、まだ全自動ではないが、「進歩のどこまでがAIでどこまでが人間なのか」は曖昧になってきている。著者性が溶けるこの感覚こそ、分単位で進むシンギュラリティの手触りなのだ。 サリム・イスマイル「再帰的自己改善(RSI)がシンギュラリティの本当のトリガーだという話は、以前からしてきました。そしてそれは、すでに少し前に起きているんです。だから今やっているのは、その道筋を加速しているだけです。私たちは今この瞬間にも、産業時代を恒久的に抜けつつあります」 デイブ・ブランディン「ええ、シンギュラリティが分単位で展開していく様子は、私が経験した中で最も興味深いものだと本当に思いますし、アレックスの言うとおりです。いまは、人間がループの中にいて貢献している時期ではあるのですが、進歩のどこまでがAIでどこまでが人間なのかが、本当に曖昧なんです。実際にコーディングしていると、『あれは自分のアイデアだったのか?』となります。 半分は自分のアイデアのようでも、AIが別の案を提案してきて、それを採用していくうちに、結局それが自分のアイデアだったのかどうかも分からなくなります。ただ、いまのモードでは、こうしたコアアルゴリズムの研究の多くが、『500本のテストを走らせて、どのハイパーパラメータが良かったか、どのニューラルトポロジーが良かったかを教えて』という形になっています。相対論を発明したり発見したりするような話ではありません。 いろいろな試行を大量に回して、うまくいったものを選んで再デプロイし、そうするとより賢いAIになって、さらに多くの試行をする——その繰り返しです。私たちはその道筋をかなり進んでいる可能性が高いと思います」

Tsubame

15,386 views • 4 months ago

【何者でもない人たちへ】 何者かになるってよく聞くけど どういうことなんだろう? スーパースター?芸能人?経営者? いやそんな大それたことではなくてもっと簡単だと思います。 考えてみると誰かから必要とされることこそが何者かになるということです。 その上で自分自身のことを期待し続けるということです。 僕はというと人生って常にうまくいってる人なんていないんだと言い聞かせて今は頑張っています。 頑張っているとまた壁にぶち当たり、の繰り返しでなんでこんなミスをしてしまうんだろうと頭を抱えることもあります。 なんなら少しSNSや世間の目が怖くなる瞬間もあります。 営業力と影響力が兼頭の最強の武器だと相方のボトムソーが言ってくれてたが、本当にそれ以外がからっきしでそこに加えてADHDということもあり、抜け漏れで迷惑をかけることも多々あります。 そんな中でもいまだに僕は自分に期待し続けることだけやめないです。 しかし有難いことなんです。これが。困難が有る、と書いてありがたい、何もない人生より困難があった方がありがたいことなんです。 何もない人生だったら勝負かけて困難が待ってる方が死ぬ時に幸せだと思います。 困難の中に、必要とされることこそ何者かになるポイントなのだと今は確信してます。 こんな僕も頼りにされる、必要とされる環境があります。それが会社です。会社では僕の弱みを補ってくれるどころか同じ土俵で日々切磋琢磨してくれるメンバーがいます。 役員、社員、インターン、業務委託すべてのメンバーのことを尊敬してるし感謝して生きてます。 このメンバーと次のステージに行くために僕は頑張り始めたんだと気づきました。 -------------------------------------------- 今回メンバーを増やしたいと考えてます。 僕はこれからもっと何者かになっていくので一緒に困難があって、必要とされる環境で皆さんも何者かになりませんか? 【応募はこちら】 必ず経歴と応募理由を記載してください。

兼頭竜矢|(株)ZenZen代表取締役

12,723 views • 2 months ago

問題は「仕事がなくなること」ではない。財やサービスの総量はむしろ劇的に増え、物質的な欠乏はどんどん後退していく。そのとき本当に問われるのは、「価値を生み出す主体が人間でなくなったあとも、人間にどのように正当な分配を位置づけるか」という、ポストAGI的な所有権と市民権のデザインだ。 ハンナ・フライ「このすべてが人々にとって何を意味するのか、本当に考えさせられます。もし私たちが、人間の知能が超知能によって本質的にかき消されてしまうような地点に到達しつつあるのだとしたら、それは社会にとって何を意味するのでしょうか。 それはつまり、『もはや自分たちの能力では経済に提供できる価値がない』と見なされる人々が、完全に取り残されてしまうような巨大な不平等を意味するのでしょうか」 シェーン・レッグ「それは社会の大規模な変容を意味すると思います。いまの社会では、人々が自分の精神的・肉体的な労働を提供する代わりに、経済を生み出す資源へのアクセスを得るという仕組みになっていますが、これはもはや以前と同じようには機能しなくなるかもしれません。私たちは別のやり方を必要とすることになるでしょう。 もっとも、『パイ』そのものははるかに大きくなるはずです。生産される財やサービスが不足するという意味での問題はありません。どちらかといえば、その点はずっと良くなっていくでしょう。 しかし同時に、私たちは『人々のためのシステムをどうするのか』『社会に存在する富をどう分配するのか』を慎重に考えなければなりません。ポストAGIの経済がどのように機能するのか、そしてポストAGI社会の構造をどう設計するのかについて、もっと多くの検討が必要だと考えています」

Tsubame

24,334 views • 7 months ago

2位にはなりたくないから走り続ける——加速が止まらない理由はそれだけだ。「AIが人類を超える未来」はもはや仮定ではなく、前提になりつつある。その変化は1年後か、5年後か。それは重要ではない。重要なのは、それが不可避であるという認識と、それに備える覚悟だ。 モー・ガウダット「私の中では、『機械が私たちより知的になること』はすでに決着がついた話です。もう受け入れてください。『いや、もしかしたら違う未来があるかも』などと自分をごまかすのはやめましょう。そんな未来は来ません。すでにAIは、私たちが与えたすべての領域において、私たちより賢くなっています。そして他のすべての領域でも、私たちはAIをより賢くする方法を必ず見つけるでしょう。 なぜか? それは『人類にとって必要だから』ではありません。実のところ、今の人類はある程度うまくやっているのです。しかし、『資本主義』と『権力と富に対する欲望と恐怖』が生み出した『囚人のジレンマ』があるからです。 誰もAIの開発を止めようとはしません。なぜなら、中国が先にAGIを手に入れたら、アメリカは不利になる。OpenAIが先に到達したら、Alphabetが不利になる。だから、皆が理由もなく必死に駆け続けているのです。『2位になるわけにはいかない』——ただそれだけの理由で。 この競争は止まりません。そして、この競争に数兆ドルが注ぎ込まれ、さらには『知性がより高次の知性を生み出す』プロセスが加われば、私たちはいずれ汎用人工知能に到達します。それは時間の問題です。そして最終的には超知能——人間の何百万倍も賢い存在——にも至るでしょう。それも時間の問題です。 そして皮肉なことに、それが『何年後に訪れるのか』は、実はあまり重要ではありません。たとえば私が『人類が地球上で最も知的な存在でいられる時代は終わろうとしている』と言ったとします。そのとき、知的な人なら皆こう考えるでしょう。『それが1年後か、5年後かなんて関係があるだろうか?』と。大事なのは、その未来に備えるのは今この瞬間だということです」

Tsubame

15,063 views • 11 months ago

人間と同程度のAIにまで到達して、そこで突然進化が止まるわけがない。汎用知能が成立した瞬間、次に来るのは超知能であり、その時点で発明の主役は人類から機械の心へ移る。産業革命との比較では足りない——それは「ホモ・サピエンスの出現」あるいは「生命の誕生」に匹敵する断絶かもしれない。 ニック・ボストロム「技術と科学の発展が広い範囲でこのまま続くことが許されるなら、私たちはいずれそこに到達すると思います。しかも最近は、実際にその方向へ進みつつあるように見えます。ですから、こうした点は、この問題をかなり真剣に受け止めるべきだと示す、基本的な考慮事項だと思います。 そして、もし私たちが本当にAGI、すなわち汎用人工知能を開発したら、それが何を意味するのかを考えることができます。私がまず思うのは、それはほどなくして超知能の開発につながるだろうということです。人間と同程度のAIにまで到達して、そこで突然止まるとは思いません。 そうなると私たちは、心そのものを設計できる世界に入ることになります。そして自動化されるのは、産業革命において蒸気機関や内燃機関によって自動化が始まったような筋肉労働だけではありません。たとえば掘削機は、どんな力自慢の人間よりもはるかに強いですが、それと同じように、今度はあらゆる人間の労働が自動化されることになります。 しかもそのときには、どんな天才的な科学者や芸術家よりも深く考えられる機械の心が現れるでしょう。ですから、それは実質的に、私たちが最後に必要とする発明になるのです。その時点以降の発明は、こうした機械の心によって、はるかに優れた形で、はるかに速く生み出されるようになるからです。 したがって、これは人間のあり方そのものを非常に根本的に変える出来事になると思います。これを理解するにあたって、産業革命との類比を持ち出す人もいますし、そこから学べることもあるとは思います。しかし、おそらく本当に近い比較対象は、むしろホモ・サピエンスそのものの出現や、あるいは生命の誕生にまでさかのぼる必要があるのかもしれません」

Tsubame

20,061 views • 2 months ago

宇宙人は“遠くから来る存在じゃない”…そう言われた瞬間、世界の前提が全部ひっくり返る。 UFOや宇宙人を「見たかどうか」のレベルで語っていないところです。普通の話なら、遠くに光る物体を見た、とか、噂を聞いた、で終わる。 でも保江さんは違う。 「自分も何度も近くで見ているし、周りの人も普通に乗ったり触れたりしている」という前提で話が始まります。つまりこの時点で、“いるかいないか”の議論が終わっている。 ここがまず怖い。さらに話は深くなります。宇宙人はどこから来るのか?普通なら、何万光年も離れた星から来ると思いますよね。 でも保江さんの答えは、まったく違う。「別の次元として、この世界に重なって存在している」シリウスやプレアデスという名前も、天文学で見える星そのものではなく、この世界に重なっている“別の層”のことだというんです。 これは「同じ場所に、見えないもう一つの世界が重なっている」みたいな話です。だから彼らは遠くから来るんじゃない。 すぐ隣から“ひょい”と現れる。ここ、かなりゾッとします。もしそれが本当なら、宇宙人は遠い存在じゃない。 今この場所に、ただ見えていないだけになるからです。さらに不気味なのが、目的です。彼らは人間に興味があるわけじゃない。 ただ一つ、監視している理由がある。それが核兵器。地球で核爆発が何度も起きれば、地球だけでなく宇宙全体のバランスが崩れる可能性がある。 だから、「人類を守るため」ではなく、宇宙の安定を守るために見張っているという話になります。これ、かなり冷たい視点です。 人間は主役じゃない。ただの“危険な存在”として見られているかもしれない。そしてさらに奇妙な話が続きます。宇宙人は、実はまったく別の生き物ではなく、 人類の祖先とつながっている可能性がある とも語られています。 つまり完全な他者じゃない。どこかで繋がっている“親戚みたいな存在”。この時点で、境界があいまいになります。人間と宇宙人の違いは何なのか。 そもそも分かれているのか。ここが一番気味が悪い。そして極めつけが、未来の話です。保江さんは、2027年前後には、誰でも宇宙人を見るようになると語っています。つまり、限られた人だけの話じゃなくなる。 日常の中で、普通に話題として出てくる世界になるかもしれない。でもその一方で、こういう情報は「出してはいけないもの」としてずっと隠されてきた可能性もある。政治、戦争、情報操作。どこまでが本当で、どこからが隠されているのか。 全部が曖昧なまま、少しずつ表に出てきている。この話の怖さは、UFOがいるかどうかじゃありません。もし本当に“別の層の世界”が重なっているなら、私たちはずっと何かと同じ場所で生きていることになる。 見えていないだけで。そしてもっと怖いのは、それが敵か味方か、そもそもどちらでもない存在かすら分からないことです。 あなたはこの話、ただのオカルトだと思いますか? それとも、まだ説明できていない現実の一部だと思いますか? 気になったらリプで教えてください。 保存して、あとでゆっくり読み返すのもおすすめです。

角由紀子のヤバイ帝国

53,629 views • 2 months ago

AGIやASIの時代を舞台にしたSFが存在しないのは、単に想像力の不足ではない。すべての格差が解消され、苦悩や対立の動機が消える世界は、従来の「物語装置」が機能しないからだ。もし人類がそこに到達するなら、僕たちは「物語以後」の存在様式を迫られる。 茂木健一郎「俺ね、すごく面白いと思っていることがあって。AIがこれだけ進んできたじゃないですか。でもね、冷静になって考えてみると、AGIとかASIができた後の世界がどうなっているかっていうことを、リアリティ持って描いたSFってないんだよね。ディストピアはあるんだけど。だから誰も思い描けないと思うんですよ。万能な人工知能ができちゃった後の人類の生き方……どうなると思います?」 竹下隆一郎「まあ、わかんないですね。というか、物語にはならないのは一つわかると——何も起こらないんだと思います、そうなった時に。みんなが共存している」 茂木「うーん。それはすべての格差がなくなるってこと?」 竹下「本当に完璧なASIができて、すべて解決したらですよ。そしたらすべての格差がなくなるじゃないですか、理論的には」 茂木「それを求めますか?」 竹下「小説にならないのとつながってくるんですけど、それが人間なのかという問いは成り立ちますよね」

Tsubame

48,207 views • 9 months ago

“人類にブレインチップが入る日”は、もう遠い未来の話ではないのかもしれない。 ケロッピー前田さんが語っていたのは、イーロン・マスクの会社「ニューラリンク」による、脳とコンピューターを直接つなぐブレインチップの話です。 もともとの発想は、かなり怖いものです。 AIが人間を追い越した時、 人類は“飼い猫”のような存在になるかもしれない。 それを避けるために、 人間の脳そのものをAIやコンピューターとつなげる。 つまり、人間が機械に支配される前に、 人間のほうが機械と合体してしまおう、という考えです。 現在は、首から下が動かない人など、ハンディキャップを持つ人の支援として使われています。 考えるだけでカーソルを動かしたり、コンピューターを操作したりする技術です。 ここまでは、医療の希望にも見えます。 でも、不気味なのはその先です。 話の中では、最終的には障害のある人だけではなく、一般の人にもブレインチップを入れる計画があると語られています。 しかも、目安として出てくるのが2030年前後。 つまり、スマホの次に来るのは、手に持つ端末ではなく、 脳に埋め込む端末かもしれないのです。 さらに怖いのは、手術をロボットで行うという点です。 ロボットが量産されれば、理論上は一気に多くの人へ広げることもできる。 脳に小さな穴を開け、 そこから電極を縫いつけるように接続し、 チップを埋め込む。 もはやSF映画ではありません。 人間の頭そのものが、次のデバイスになろうとしているのです。 そして次の段階として語られているのが、目が見えない人に映像を届ける技術。 もし脳へ直接映像データを送れるようになれば、目で見ていないのに、頭の中に映像が現れることになります。 便利です。 でも、同時に怖い。 脳に情報を送れるなら、 その情報は誰が選ぶのか。 考えただけで機械が動くなら、 その「考え」はどこまで読まれるのか。 スマホなら、電源を切れば終わりです。 でも、脳に入ったチップは、どこまでが自分で、どこからが機械なのか。 人類は進化しているのか。 それとも、自分の脳を差し出す準備をしているのか。 あなたはブレインチップを、未来の希望だと思いますか? それとも、人間が人間でなくなる入口だと思いますか?

角由紀子のヤバイ帝国

22,211 views • 2 months ago