正在加载视频...

视频加载失败

加载此视频时出现问题。这可能是由于临时网络问题，或视频可能不可用。

AGIとは何なのか？そして、人類に与える脅威的なインパクトとは？元Google デザイン倫理担当者のトリスタン・ハリスがそのヤバさを語ります。そう、マジでこうなってしまう可能性が高く、人間頭脳不要論が広がってます。

Brandon K. Hill | CEO of btrax 🇺🇸x🇯🇵/2

79,829 subscribers

46,860 次观看 • 8 个月前 •via X (Twitter)

新闻政治科学技术

Anya Rossi• Live Now

Private livecam show

0 条评论

暂无评论

原始帖子的评论将显示在这里

相关视频

すべての人に「自分の代理人として働くAI」がつく世界は一見ユートピアに見えるが、僕たちはAIの決定に「了解」と返すだけの存在になってしまうかもしれない。だからその先では「AIとの融合」という論点が避けられなくなっていく。理解そのものをAIと共有し、人間が再びゲームの内部に戻るのだ。イリヤ・スツケヴァー「長期的な均衡という観点から言うと、一つのアプローチは『おそらくすべての人が、自分のために行動してくれるAIを持つようになる』という世界だ、と言えるかもしれません。それが無期限に維持できるなら、確かに良いことです。しかしその欠点は、AIがその人のためにお金を稼ぎ、政治の場でニーズを代弁し、おそらく『これこれこういうことをやりました。状況はこうです』とレポートを書き、人間は『素晴らしい、そのまま続けて』と返すだけになることです。そこで人間は、もはやプロセスの参加者ではなくなってしまう。これはかなり危うい状態だと言えるでしょう。気に入っている解決策ではないと前置きしますが、一つの解は『人間がNeuralink++のようなもので部分的にAIになる』ことです。そうなると、AIが何かを理解したとき、私たちもそれを理解するようになり、その理解が丸ごと転送される。AIが何らかの状況に置かれているとき、その状況に私たち自身も完全に関与していることになる。それが長期的な均衡に対する答えだと、私は考えています」

すべての人に「自分の代理人として働くAI」がつく世界は一見ユートピアに見えるが、僕たちはAIの決定に「了解」と返すだけの存在になってしまうかもしれない。だからその先では「AIとの融合」という論点が避けられなくなっていく。理解そのものをAIと共有し、人間が再びゲームの内部に戻るのだ。イリヤ・スツケヴァー「長期的な均衡という観点から言うと、一つのアプローチは『おそらくすべての人が、自分のために行動してくれるAIを持つようになる』という世界だ、と言えるかもしれません。それが無期限に維持できるなら、確かに良いことです。しかしその欠点は、AIがその人のためにお金を稼ぎ、政治の場でニーズを代弁し、おそらく『これこれこういうことをやりました。状況はこうです』とレポートを書き、人間は『素晴らしい、そのまま続けて』と返すだけになることです。そこで人間は、もはやプロセスの参加者ではなくなってしまう。これはかなり危うい状態だと言えるでしょう。気に入っている解決策ではないと前置きしますが、一つの解は『人間がNeuralink++のようなもので部分的にAIになる』ことです。そうなると、AIが何かを理解したとき、私たちもそれを理解するようになり、その理解が丸ごと転送される。AIが何らかの状況に置かれているとき、その状況に私たち自身も完全に関与していることになる。それが長期的な均衡に対する答えだと、私は考えています」

Tsubame

21,189 次观看 • 9 个月前

もし、人間が最近登場した抽象領域——高等数学、理論物理、形式言語、コードベースの設計——ですら高い学習能力を発揮するのだとしたら、それは「進化が事前に最適化した結果」としては説明がつかない。そこには、まだ言語化されていない汎用学習のメカニズムがあるはずだ。イリヤ・スツケヴァー「少なくとも私自身について言えば、5歳のころの自分を思い出すと、その当時は車にとても興奮していました。そして、5歳の時点で、私の『車を認識する能力』は、自動運転に十分なくらい高かったと確信しています。5歳の子どもは、それほど多くのデータを見るわけではありません。ほとんどの時間を親の家の中で過ごすので、データの多様性はとても低いです。とはいえ、『それも進化のおかげだ』と言うことはできるかもしれません。しかし、言語や数学、コーディングについては、おそらくそうではありません」ドワーケシュ・パテル「それでも、人間のほうがモデルより優れているように思えます。もちろん、モデルは言語や数学、コーディングそのものについては、平均的な人間より優れています。ただ、『学習する能力』という点で、モデルは平均的な人間より本当に優れているのでしょうか」スツケヴァー「ええ、そうです。間違いなくそうです。私が言おうとしているのは、言語、数学、コーディング——とくに数学とコーディング——が示しているのは、『人を学習上手にしているもの』は、おそらく複雑なプライアというよりも、もっと根本的な何かだということです」パテル「ちょっとよく分かりません。なぜそう言えるのですか」スツケヴァー「では、人々が非常に高い確実性をもって発揮しているようなスキルを考えてみてください。もしそのスキルが、私たちの祖先にとって何百万年、何億年ものあいだ非常に有用だったものであれば、人間がそれを得意なのは進化のおかげであり、私たちがどこか非常に分かりにくい形で『進化的なプライア』を持っていて、そのおかげでうまくできているのだ、と主張することができます。しかし、人々が『ごく最近になるまで存在しなかった領域』においても、高い能力、信頼性、ロバスト性、そして学習能力を発揮しているのであれば、それは『人間はそもそも、より優れた機械学習そのものを備えている』ということを示しているのです」

もし、人間が最近登場した抽象領域——高等数学、理論物理、形式言語、コードベースの設計——ですら高い学習能力を発揮するのだとしたら、それは「進化が事前に最適化した結果」としては説明がつかない。そこには、まだ言語化されていない汎用学習のメカニズムがあるはずだ。イリヤ・スツケヴァー「少なくとも私自身について言えば、5歳のころの自分を思い出すと、その当時は車にとても興奮していました。そして、5歳の時点で、私の『車を認識する能力』は、自動運転に十分なくらい高かったと確信しています。5歳の子どもは、それほど多くのデータを見るわけではありません。ほとんどの時間を親の家の中で過ごすので、データの多様性はとても低いです。とはいえ、『それも進化のおかげだ』と言うことはできるかもしれません。しかし、言語や数学、コーディングについては、おそらくそうではありません」ドワーケシュ・パテル「それでも、人間のほうがモデルより優れているように思えます。もちろん、モデルは言語や数学、コーディングそのものについては、平均的な人間より優れています。ただ、『学習する能力』という点で、モデルは平均的な人間より本当に優れているのでしょうか」スツケヴァー「ええ、そうです。間違いなくそうです。私が言おうとしているのは、言語、数学、コーディング——とくに数学とコーディング——が示しているのは、『人を学習上手にしているもの』は、おそらく複雑なプライアというよりも、もっと根本的な何かだということです」パテル「ちょっとよく分かりません。なぜそう言えるのですか」スツケヴァー「では、人々が非常に高い確実性をもって発揮しているようなスキルを考えてみてください。もしそのスキルが、私たちの祖先にとって何百万年、何億年ものあいだ非常に有用だったものであれば、人間がそれを得意なのは進化のおかげであり、私たちがどこか非常に分かりにくい形で『進化的なプライア』を持っていて、そのおかげでうまくできているのだ、と主張することができます。しかし、人々が『ごく最近になるまで存在しなかった領域』においても、高い能力、信頼性、ロバスト性、そして学習能力を発揮しているのであれば、それは『人間はそもそも、より優れた機械学習そのものを備えている』ということを示しているのです」

Tsubame

53,501 次观看 • 9 个月前

チェスAIの進歩はこうだった——最初は「人間＋AI」が勝つ。次に、AIが十分に賢くなると、人間が混ざるほど弱くなる。最終的に、意思決定の最適解が「人間抜き」へ収束する。だから、現実の仕事で最後の状態になることを「超知能」の定義としよう。そのとき、社会の意思決定は不可逆に再配置される。サム・アルトマン「AGIについては、私たちは定義をしなかったせいで外してしまいましたよね。いま皆が注目している新しい言葉は、超知能に到達するタイミングです。だから私の提案はこうです。AGIはある意味で通り過ぎていったことにして、世界をそこまで変えなかった、あるいは長期的には変えるのだろうけれど、とにかく『いつかはAGIを作った』ということにする。いまは曖昧な時期で、すでに達したと思う人もいれば、まだだと思う人もいて、これから達したと思う人が増えていく。そして『次は何だ？』となる。そのうえで、超知能の候補となる定義はこうです。あるシステムが、AIの支援を受けた人間よりもなお上回って、米国大統領、巨大企業のCEO、あるいは非常に大規模な科学研究所の運営を、人間の誰よりもうまくこなせるようになったとき。以上です。チェスで起きたことも興味深い例だと思います。チェスではAIが人間に勝てるようになりました。Deep Blueの件は私もはっきり覚えています。その後しばらくは、人間とAIが組むほうがAI単体より強かった時期がありました。でも最終的には、人間が介入することでむしろ悪くなってしまい、人間がその卓越した知性を理解できないまま口を出さない『人間抜きのAI』が最善、という状態になった。超知能を考える枠組みとして、これは面白いと思います。まだずっと先の話だとは思いますが、今回はもっとすっきりした定義を持てたらいいですね」

チェスAIの進歩はこうだった——最初は「人間＋AI」が勝つ。次に、AIが十分に賢くなると、人間が混ざるほど弱くなる。最終的に、意思決定の最適解が「人間抜き」へ収束する。だから、現実の仕事で最後の状態になることを「超知能」の定義としよう。そのとき、社会の意思決定は不可逆に再配置される。サム・アルトマン「AGIについては、私たちは定義をしなかったせいで外してしまいましたよね。いま皆が注目している新しい言葉は、超知能に到達するタイミングです。だから私の提案はこうです。AGIはある意味で通り過ぎていったことにして、世界をそこまで変えなかった、あるいは長期的には変えるのだろうけれど、とにかく『いつかはAGIを作った』ということにする。いまは曖昧な時期で、すでに達したと思う人もいれば、まだだと思う人もいて、これから達したと思う人が増えていく。そして『次は何だ？』となる。そのうえで、超知能の候補となる定義はこうです。あるシステムが、AIの支援を受けた人間よりもなお上回って、米国大統領、巨大企業のCEO、あるいは非常に大規模な科学研究所の運営を、人間の誰よりもうまくこなせるようになったとき。以上です。チェスで起きたことも興味深い例だと思います。チェスではAIが人間に勝てるようになりました。Deep Blueの件は私もはっきり覚えています。その後しばらくは、人間とAIが組むほうがAI単体より強かった時期がありました。でも最終的には、人間が介入することでむしろ悪くなってしまい、人間がその卓越した知性を理解できないまま口を出さない『人間抜きのAI』が最善、という状態になった。超知能を考える枠組みとして、これは面白いと思います。まだずっと先の話だとは思いますが、今回はもっとすっきりした定義を持てたらいいですね」

Tsubame

158,213 次观看 • 8 个月前

「日本人の歌手として思うことは、さまざまな言語で歌うときに "アクセス（再現）しにくい音" というのがあると思うんですね。日本人訛りの英語の歌、日本人訛りのイタリア語の歌になってしまうとか。それは日本人の独特な母音のため。そのためにアクセスしにくい音がたくさんあるんです。それが一体何なのか、なぜアクセスができないのか、対処法は何なのか。これが歌手がフォルマントを知ることの得られる大きな価値です」

「日本人の歌手として思うことは、さまざまな言語で歌うときに "アクセス（再現）しにくい音" というのがあると思うんですね。日本人訛りの英語の歌、日本人訛りのイタリア語の歌になってしまうとか。それは日本人の独特な母音のため。そのためにアクセスしにくい音がたくさんあるんです。それが一体何なのか、なぜアクセスができないのか、対処法は何なのか。これが歌手がフォルマントを知ることの得られる大きな価値です」

岩崎大貴 | 株式会社ARIA代表

14,148 次观看 • 1 年前

シンギュラリティのトリガーである「再帰的自己改善」は、すでに少し前に起きているという。もちろん、まだ全自動ではないが、「進歩のどこまでがAIでどこまでが人間なのか」は曖昧になってきている。著者性が溶けるこの感覚こそ、分単位で進むシンギュラリティの手触りなのだ。サリム・イスマイル「再帰的自己改善（RSI）がシンギュラリティの本当のトリガーだという話は、以前からしてきました。そしてそれは、すでに少し前に起きているんです。だから今やっているのは、その道筋を加速しているだけです。私たちは今この瞬間にも、産業時代を恒久的に抜けつつあります」デイブ・ブランディン「ええ、シンギュラリティが分単位で展開していく様子は、私が経験した中で最も興味深いものだと本当に思いますし、アレックスの言うとおりです。いまは、人間がループの中にいて貢献している時期ではあるのですが、進歩のどこまでがAIでどこまでが人間なのかが、本当に曖昧なんです。実際にコーディングしていると、『あれは自分のアイデアだったのか？』となります。半分は自分のアイデアのようでも、AIが別の案を提案してきて、それを採用していくうちに、結局それが自分のアイデアだったのかどうかも分からなくなります。ただ、いまのモードでは、こうしたコアアルゴリズムの研究の多くが、『500本のテストを走らせて、どのハイパーパラメータが良かったか、どのニューラルトポロジーが良かったかを教えて』という形になっています。相対論を発明したり発見したりするような話ではありません。いろいろな試行を大量に回して、うまくいったものを選んで再デプロイし、そうするとより賢いAIになって、さらに多くの試行をする——その繰り返しです。私たちはその道筋をかなり進んでいる可能性が高いと思います」

シンギュラリティのトリガーである「再帰的自己改善」は、すでに少し前に起きているという。もちろん、まだ全自動ではないが、「進歩のどこまでがAIでどこまでが人間なのか」は曖昧になってきている。著者性が溶けるこの感覚こそ、分単位で進むシンギュラリティの手触りなのだ。サリム・イスマイル「再帰的自己改善（RSI）がシンギュラリティの本当のトリガーだという話は、以前からしてきました。そしてそれは、すでに少し前に起きているんです。だから今やっているのは、その道筋を加速しているだけです。私たちは今この瞬間にも、産業時代を恒久的に抜けつつあります」デイブ・ブランディン「ええ、シンギュラリティが分単位で展開していく様子は、私が経験した中で最も興味深いものだと本当に思いますし、アレックスの言うとおりです。いまは、人間がループの中にいて貢献している時期ではあるのですが、進歩のどこまでがAIでどこまでが人間なのかが、本当に曖昧なんです。実際にコーディングしていると、『あれは自分のアイデアだったのか？』となります。半分は自分のアイデアのようでも、AIが別の案を提案してきて、それを採用していくうちに、結局それが自分のアイデアだったのかどうかも分からなくなります。ただ、いまのモードでは、こうしたコアアルゴリズムの研究の多くが、『500本のテストを走らせて、どのハイパーパラメータが良かったか、どのニューラルトポロジーが良かったかを教えて』という形になっています。相対論を発明したり発見したりするような話ではありません。いろいろな試行を大量に回して、うまくいったものを選んで再デプロイし、そうするとより賢いAIになって、さらに多くの試行をする——その繰り返しです。私たちはその道筋をかなり進んでいる可能性が高いと思います」

Tsubame

15,386 次观看 • 6 个月前

って強がったことを言ってますが僕も人間なので毎回ちゃんとグサッときますそれでも前を向けるのはみなさまからもらう愛と元気と勇気がその何倍も大きいからです 1日1日 1ヶ月1年とここまで歩いてくることができましたこんな何者でもない41歳の人間をずっと支えてくれて本当にありがとう

って強がったことを言ってますが僕も人間なので毎回ちゃんとグサッときますそれでも前を向けるのはみなさまからもらう愛と元気と勇気がその何倍も大きいからです 1日1日 1ヶ月1年とここまで歩いてくることができましたこんな何者でもない41歳の人間をずっと支えてくれて本当にありがとう

ゾンビ井上

24,333 次观看 • 28 天前

【何者でもない人たちへ】何者かになるってよく聞くけどどういうことなんだろう？スーパースター？芸能人？経営者？いやそんな大それたことではなくてもっと簡単だと思います。考えてみると誰かから必要とされることこそが何者かになるということです。その上で自分自身のことを期待し続けるということです。僕はというと人生って常にうまくいってる人なんていないんだと言い聞かせて今は頑張っています。頑張っているとまた壁にぶち当たり、の繰り返しでなんでこんなミスをしてしまうんだろうと頭を抱えることもあります。なんなら少しSNSや世間の目が怖くなる瞬間もあります。営業力と影響力が兼頭の最強の武器だと相方のボトムソーが言ってくれてたが、本当にそれ以外がからっきしでそこに加えてADHDということもあり、抜け漏れで迷惑をかけることも多々あります。そんな中でもいまだに僕は自分に期待し続けることだけやめないです。しかし有難いことなんです。これが。困難が有る、と書いてありがたい、何もない人生より困難があった方がありがたいことなんです。何もない人生だったら勝負かけて困難が待ってる方が死ぬ時に幸せだと思います。困難の中に、必要とされることこそ何者かになるポイントなのだと今は確信してます。こんな僕も頼りにされる、必要とされる環境があります。それが会社です。会社では僕の弱みを補ってくれるどころか同じ土俵で日々切磋琢磨してくれるメンバーがいます。役員、社員、インターン、業務委託すべてのメンバーのことを尊敬してるし感謝して生きてます。このメンバーと次のステージに行くために僕は頑張り始めたんだと気づきました。 -------------------------------------------- 今回メンバーを増やしたいと考えてます。僕はこれからもっと何者かになっていくので一緒に困難があって、必要とされる環境で皆さんも何者かになりませんか？【応募はこちら】必ず経歴と応募理由を記載してください。

【何者でもない人たちへ】何者かになるってよく聞くけどどういうことなんだろう？スーパースター？芸能人？経営者？いやそんな大それたことではなくてもっと簡単だと思います。考えてみると誰かから必要とされることこそが何者かになるということです。その上で自分自身のことを期待し続けるということです。僕はというと人生って常にうまくいってる人なんていないんだと言い聞かせて今は頑張っています。頑張っているとまた壁にぶち当たり、の繰り返しでなんでこんなミスをしてしまうんだろうと頭を抱えることもあります。なんなら少しSNSや世間の目が怖くなる瞬間もあります。営業力と影響力が兼頭の最強の武器だと相方のボトムソーが言ってくれてたが、本当にそれ以外がからっきしでそこに加えてADHDということもあり、抜け漏れで迷惑をかけることも多々あります。そんな中でもいまだに僕は自分に期待し続けることだけやめないです。しかし有難いことなんです。これが。困難が有る、と書いてありがたい、何もない人生より困難があった方がありがたいことなんです。何もない人生だったら勝負かけて困難が待ってる方が死ぬ時に幸せだと思います。困難の中に、必要とされることこそ何者かになるポイントなのだと今は確信してます。こんな僕も頼りにされる、必要とされる環境があります。それが会社です。会社では僕の弱みを補ってくれるどころか同じ土俵で日々切磋琢磨してくれるメンバーがいます。役員、社員、インターン、業務委託すべてのメンバーのことを尊敬してるし感謝して生きてます。このメンバーと次のステージに行くために僕は頑張り始めたんだと気づきました。 -------------------------------------------- 今回メンバーを増やしたいと考えてます。僕はこれからもっと何者かになっていくので一緒に困難があって、必要とされる環境で皆さんも何者かになりませんか？【応募はこちら】必ず経歴と応募理由を記載してください。

兼頭竜矢｜(株)ZenZen代表取締役

12,723 次观看 • 3 个月前

問題は「仕事がなくなること」ではない。財やサービスの総量はむしろ劇的に増え、物質的な欠乏はどんどん後退していく。そのとき本当に問われるのは、「価値を生み出す主体が人間でなくなったあとも、人間にどのように正当な分配を位置づけるか」という、ポストAGI的な所有権と市民権のデザインだ。ハンナ・フライ「このすべてが人々にとって何を意味するのか、本当に考えさせられます。もし私たちが、人間の知能が超知能によって本質的にかき消されてしまうような地点に到達しつつあるのだとしたら、それは社会にとって何を意味するのでしょうか。それはつまり、『もはや自分たちの能力では経済に提供できる価値がない』と見なされる人々が、完全に取り残されてしまうような巨大な不平等を意味するのでしょうか」シェーン・レッグ「それは社会の大規模な変容を意味すると思います。いまの社会では、人々が自分の精神的・肉体的な労働を提供する代わりに、経済を生み出す資源へのアクセスを得るという仕組みになっていますが、これはもはや以前と同じようには機能しなくなるかもしれません。私たちは別のやり方を必要とすることになるでしょう。もっとも、『パイ』そのものははるかに大きくなるはずです。生産される財やサービスが不足するという意味での問題はありません。どちらかといえば、その点はずっと良くなっていくでしょう。しかし同時に、私たちは『人々のためのシステムをどうするのか』『社会に存在する富をどう分配するのか』を慎重に考えなければなりません。ポストAGIの経済がどのように機能するのか、そしてポストAGI社会の構造をどう設計するのかについて、もっと多くの検討が必要だと考えています」

問題は「仕事がなくなること」ではない。財やサービスの総量はむしろ劇的に増え、物質的な欠乏はどんどん後退していく。そのとき本当に問われるのは、「価値を生み出す主体が人間でなくなったあとも、人間にどのように正当な分配を位置づけるか」という、ポストAGI的な所有権と市民権のデザインだ。ハンナ・フライ「このすべてが人々にとって何を意味するのか、本当に考えさせられます。もし私たちが、人間の知能が超知能によって本質的にかき消されてしまうような地点に到達しつつあるのだとしたら、それは社会にとって何を意味するのでしょうか。それはつまり、『もはや自分たちの能力では経済に提供できる価値がない』と見なされる人々が、完全に取り残されてしまうような巨大な不平等を意味するのでしょうか」シェーン・レッグ「それは社会の大規模な変容を意味すると思います。いまの社会では、人々が自分の精神的・肉体的な労働を提供する代わりに、経済を生み出す資源へのアクセスを得るという仕組みになっていますが、これはもはや以前と同じようには機能しなくなるかもしれません。私たちは別のやり方を必要とすることになるでしょう。もっとも、『パイ』そのものははるかに大きくなるはずです。生産される財やサービスが不足するという意味での問題はありません。どちらかといえば、その点はずっと良くなっていくでしょう。しかし同時に、私たちは『人々のためのシステムをどうするのか』『社会に存在する富をどう分配するのか』を慎重に考えなければなりません。ポストAGIの経済がどのように機能するのか、そしてポストAGI社会の構造をどう設計するのかについて、もっと多くの検討が必要だと考えています」

Tsubame

24,334 次观看 • 8 个月前

反シオニズムを公言するユダヤ人女優、ミリアム・マーゴリーズさんが、自身の体験を赤裸々に語っています🎙️ イスラエルを訪れたとき、パレスチナの人たちがどんな扱いを受けているのか、その現実を自分の目で見てしまったそうです🇮🇱 その瞬間、心の中で扉が開いて、目隠しがスッと外れる感覚があったといいます👀 人間が、他者をここまで扱えるものなのかと。彼女は、あれは最低のクズだと言い切りました。本当にクズなんだと、何度も繰り返しています。その光景は一生忘れられないそうで、その時から筋金入りの親パレスチナ派になったと打ち明けています🇵🇸 さらに、ユダヤ教というのは本来もっと広く大きな概念なんだと話しています。シオニズムは、その中のほんの一部、政治的な立場にすぎないと。そして、それは大量虐殺の思想なんだと、はっきり断言しました。同じユダヤ人の女優が、ここまで踏み込んで告発しているという事実は相当シオニズムが「やばい」という証拠ですね。

反シオニズムを公言するユダヤ人女優、ミリアム・マーゴリーズさんが、自身の体験を赤裸々に語っています🎙️ イスラエルを訪れたとき、パレスチナの人たちがどんな扱いを受けているのか、その現実を自分の目で見てしまったそうです🇮🇱 その瞬間、心の中で扉が開いて、目隠しがスッと外れる感覚があったといいます👀 人間が、他者をここまで扱えるものなのかと。彼女は、あれは最低のクズだと言い切りました。本当にクズなんだと、何度も繰り返しています。その光景は一生忘れられないそうで、その時から筋金入りの親パレスチナ派になったと打ち明けています🇵🇸 さらに、ユダヤ教というのは本来もっと広く大きな概念なんだと話しています。シオニズムは、その中のほんの一部、政治的な立場にすぎないと。そして、それは大量虐殺の思想なんだと、はっきり断言しました。同じユダヤ人の女優が、ここまで踏み込んで告発しているという事実は相当シオニズムが「やばい」という証拠ですね。

トッポ

14,256 次观看 • 1 个月前

石破総理会見「私はメディアと権力が一体化するのが一番怖いと思っている。誰も批判をしなくなってしまう」「一体化することでこの国は一回道を誤っていませんかということだ。それを可能とする言論統制というものがあったのがかつての歴史であり、そういうことは何があっても繰り返してはならない」

石破総理会見「私はメディアと権力が一体化するのが一番怖いと思っている。誰も批判をしなくなってしまう」「一体化することでこの国は一回道を誤っていませんかということだ。それを可能とする言論統制というものがあったのがかつての歴史であり、そういうことは何があっても繰り返してはならない」

アームズ魂

3,815,392 次观看 • 10 个月前

人間と同程度のAIにまで到達して、そこで突然進化が止まるわけがない。汎用知能が成立した瞬間、次に来るのは超知能であり、その時点で発明の主役は人類から機械の心へ移る。産業革命との比較では足りない——それは「ホモ・サピエンスの出現」あるいは「生命の誕生」に匹敵する断絶かもしれない。ニック・ボストロム「技術と科学の発展が広い範囲でこのまま続くことが許されるなら、私たちはいずれそこに到達すると思います。しかも最近は、実際にその方向へ進みつつあるように見えます。ですから、こうした点は、この問題をかなり真剣に受け止めるべきだと示す、基本的な考慮事項だと思います。そして、もし私たちが本当にAGI、すなわち汎用人工知能を開発したら、それが何を意味するのかを考えることができます。私がまず思うのは、それはほどなくして超知能の開発につながるだろうということです。人間と同程度のAIにまで到達して、そこで突然止まるとは思いません。そうなると私たちは、心そのものを設計できる世界に入ることになります。そして自動化されるのは、産業革命において蒸気機関や内燃機関によって自動化が始まったような筋肉労働だけではありません。たとえば掘削機は、どんな力自慢の人間よりもはるかに強いですが、それと同じように、今度はあらゆる人間の労働が自動化されることになります。しかもそのときには、どんな天才的な科学者や芸術家よりも深く考えられる機械の心が現れるでしょう。ですから、それは実質的に、私たちが最後に必要とする発明になるのです。その時点以降の発明は、こうした機械の心によって、はるかに優れた形で、はるかに速く生み出されるようになるからです。したがって、これは人間のあり方そのものを非常に根本的に変える出来事になると思います。これを理解するにあたって、産業革命との類比を持ち出す人もいますし、そこから学べることもあるとは思います。しかし、おそらく本当に近い比較対象は、むしろホモ・サピエンスそのものの出現や、あるいは生命の誕生にまでさかのぼる必要があるのかもしれません」

人間と同程度のAIにまで到達して、そこで突然進化が止まるわけがない。汎用知能が成立した瞬間、次に来るのは超知能であり、その時点で発明の主役は人類から機械の心へ移る。産業革命との比較では足りない——それは「ホモ・サピエンスの出現」あるいは「生命の誕生」に匹敵する断絶かもしれない。ニック・ボストロム「技術と科学の発展が広い範囲でこのまま続くことが許されるなら、私たちはいずれそこに到達すると思います。しかも最近は、実際にその方向へ進みつつあるように見えます。ですから、こうした点は、この問題をかなり真剣に受け止めるべきだと示す、基本的な考慮事項だと思います。そして、もし私たちが本当にAGI、すなわち汎用人工知能を開発したら、それが何を意味するのかを考えることができます。私がまず思うのは、それはほどなくして超知能の開発につながるだろうということです。人間と同程度のAIにまで到達して、そこで突然止まるとは思いません。そうなると私たちは、心そのものを設計できる世界に入ることになります。そして自動化されるのは、産業革命において蒸気機関や内燃機関によって自動化が始まったような筋肉労働だけではありません。たとえば掘削機は、どんな力自慢の人間よりもはるかに強いですが、それと同じように、今度はあらゆる人間の労働が自動化されることになります。しかもそのときには、どんな天才的な科学者や芸術家よりも深く考えられる機械の心が現れるでしょう。ですから、それは実質的に、私たちが最後に必要とする発明になるのです。その時点以降の発明は、こうした機械の心によって、はるかに優れた形で、はるかに速く生み出されるようになるからです。したがって、これは人間のあり方そのものを非常に根本的に変える出来事になると思います。これを理解するにあたって、産業革命との類比を持ち出す人もいますし、そこから学べることもあるとは思います。しかし、おそらく本当に近い比較対象は、むしろホモ・サピエンスそのものの出現や、あるいは生命の誕生にまでさかのぼる必要があるのかもしれません」

Tsubame

20,061 次观看 • 4 个月前

AGIやASIの時代を舞台にしたSFが存在しないのは、単に想像力の不足ではない。すべての格差が解消され、苦悩や対立の動機が消える世界は、従来の「物語装置」が機能しないからだ。もし人類がそこに到達するなら、僕たちは「物語以後」の存在様式を迫られる。茂木健一郎「俺ね、すごく面白いと思っていることがあって。AIがこれだけ進んできたじゃないですか。でもね、冷静になって考えてみると、AGIとかASIができた後の世界がどうなっているかっていうことを、リアリティ持って描いたSFってないんだよね。ディストピアはあるんだけど。だから誰も思い描けないと思うんですよ。万能な人工知能ができちゃった後の人類の生き方……どうなると思います？」竹下隆一郎「まあ、わかんないですね。というか、物語にはならないのは一つわかると——何も起こらないんだと思います、そうなった時に。みんなが共存している」茂木「うーん。それはすべての格差がなくなるってこと？」竹下「本当に完璧なASIができて、すべて解決したらですよ。そしたらすべての格差がなくなるじゃないですか、理論的には」茂木「それを求めますか？」竹下「小説にならないのとつながってくるんですけど、それが人間なのかという問いは成り立ちますよね」

AGIやASIの時代を舞台にしたSFが存在しないのは、単に想像力の不足ではない。すべての格差が解消され、苦悩や対立の動機が消える世界は、従来の「物語装置」が機能しないからだ。もし人類がそこに到達するなら、僕たちは「物語以後」の存在様式を迫られる。茂木健一郎「俺ね、すごく面白いと思っていることがあって。AIがこれだけ進んできたじゃないですか。でもね、冷静になって考えてみると、AGIとかASIができた後の世界がどうなっているかっていうことを、リアリティ持って描いたSFってないんだよね。ディストピアはあるんだけど。だから誰も思い描けないと思うんですよ。万能な人工知能ができちゃった後の人類の生き方……どうなると思います？」竹下隆一郎「まあ、わかんないですね。というか、物語にはならないのは一つわかると——何も起こらないんだと思います、そうなった時に。みんなが共存している」茂木「うーん。それはすべての格差がなくなるってこと？」竹下「本当に完璧なASIができて、すべて解決したらですよ。そしたらすべての格差がなくなるじゃないですか、理論的には」茂木「それを求めますか？」竹下「小説にならないのとつながってくるんですけど、それが人間なのかという問いは成り立ちますよね」

Tsubame

48,207 次观看 • 10 个月前

AGIが来ても、世界は一夜でSF映画のようにはならない——現実は連鎖するボトルネックでできているからだ。科学が知能の制約を超えても、次はデータ収集や実験能力が壁になる。そして最大のボトルネックは人間自身だ。技術革新と同時に、人間社会の更新こそが鍵になる。フランソワ・ショレ「多くの人がシンギュラリティを語るとき、それは『世界のあらゆる事象が常に指数関数的に変化し、生物としての人間はあまりの変化速度に適応する見込みがない状態』を指します。私はこのような指数関数的改善に関する物語には、概して懐疑的です。なぜなら、現実世界のいかなるシステムにおいても、指数関数的改善は見られないからです。通常起こるのは、すべてがシステムであるとして、その一部や構成要素が性能のボトルネックでなくなると、次の瞬間には別の構成要素が新たなボトルネックとなり、それが繰り返されるという現象です。したがって、ソフトウェアの知能がもはやボトルネックでなくなれば、別の要素がボトルネックになるのです。例えば科学の進歩を考えてみましょう。データをモデル化し、新しい理論を生み出し、実験のアイデアを考案するといった知的能力がもはやボトルネックでなくなれば、次はデータ収集や実験実施の能力がボトルネックになります。それも解消されれば、また別の制約が現れるでしょう。そして世界の大部分は人間で構成されており、人間は多くのボトルネックを抱えています。AGIをシステムに導入すればいくつかのボトルネックは解消できますが、それでも依然として大部分は人間中心の大きなシステムです。したがって、ソフトウェア知能が向上したからといって、世界全体が指数関数的に速く動くわけではないのです」

AGIが来ても、世界は一夜でSF映画のようにはならない——現実は連鎖するボトルネックでできているからだ。科学が知能の制約を超えても、次はデータ収集や実験能力が壁になる。そして最大のボトルネックは人間自身だ。技術革新と同時に、人間社会の更新こそが鍵になる。フランソワ・ショレ「多くの人がシンギュラリティを語るとき、それは『世界のあらゆる事象が常に指数関数的に変化し、生物としての人間はあまりの変化速度に適応する見込みがない状態』を指します。私はこのような指数関数的改善に関する物語には、概して懐疑的です。なぜなら、現実世界のいかなるシステムにおいても、指数関数的改善は見られないからです。通常起こるのは、すべてがシステムであるとして、その一部や構成要素が性能のボトルネックでなくなると、次の瞬間には別の構成要素が新たなボトルネックとなり、それが繰り返されるという現象です。したがって、ソフトウェアの知能がもはやボトルネックでなくなれば、別の要素がボトルネックになるのです。例えば科学の進歩を考えてみましょう。データをモデル化し、新しい理論を生み出し、実験のアイデアを考案するといった知的能力がもはやボトルネックでなくなれば、次はデータ収集や実験実施の能力がボトルネックになります。それも解消されれば、また別の制約が現れるでしょう。そして世界の大部分は人間で構成されており、人間は多くのボトルネックを抱えています。AGIをシステムに導入すればいくつかのボトルネックは解消できますが、それでも依然として大部分は人間中心の大きなシステムです。したがって、ソフトウェア知能が向上したからといって、世界全体が指数関数的に速く動くわけではないのです」

Tsubame

59,421 次观看 • 1 年前

宇宙人は“遠くから来る存在じゃない”…そう言われた瞬間、世界の前提が全部ひっくり返る。 UFOや宇宙人を「見たかどうか」のレベルで語っていないところです。普通の話なら、遠くに光る物体を見た、とか、噂を聞いた、で終わる。でも保江さんは違う。「自分も何度も近くで見ているし、周りの人も普通に乗ったり触れたりしている」という前提で話が始まります。つまりこの時点で、“いるかいないか”の議論が終わっている。ここがまず怖い。さらに話は深くなります。宇宙人はどこから来るのか？普通なら、何万光年も離れた星から来ると思いますよね。でも保江さんの答えは、まったく違う。「別の次元として、この世界に重なって存在している」シリウスやプレアデスという名前も、天文学で見える星そのものではなく、この世界に重なっている“別の層”のことだというんです。これは「同じ場所に、見えないもう一つの世界が重なっている」みたいな話です。だから彼らは遠くから来るんじゃない。すぐ隣から“ひょい”と現れる。ここ、かなりゾッとします。もしそれが本当なら、宇宙人は遠い存在じゃない。今この場所に、ただ見えていないだけになるからです。さらに不気味なのが、目的です。彼らは人間に興味があるわけじゃない。ただ一つ、監視している理由がある。それが核兵器。地球で核爆発が何度も起きれば、地球だけでなく宇宙全体のバランスが崩れる可能性がある。だから、「人類を守るため」ではなく、宇宙の安定を守るために見張っているという話になります。これ、かなり冷たい視点です。人間は主役じゃない。ただの“危険な存在”として見られているかもしれない。そしてさらに奇妙な話が続きます。宇宙人は、実はまったく別の生き物ではなく、人類の祖先とつながっている可能性があるとも語られています。つまり完全な他者じゃない。どこかで繋がっている“親戚みたいな存在”。この時点で、境界があいまいになります。人間と宇宙人の違いは何なのか。そもそも分かれているのか。ここが一番気味が悪い。そして極めつけが、未来の話です。保江さんは、2027年前後には、誰でも宇宙人を見るようになると語っています。つまり、限られた人だけの話じゃなくなる。日常の中で、普通に話題として出てくる世界になるかもしれない。でもその一方で、こういう情報は「出してはいけないもの」としてずっと隠されてきた可能性もある。政治、戦争、情報操作。どこまでが本当で、どこからが隠されているのか。全部が曖昧なまま、少しずつ表に出てきている。この話の怖さは、UFOがいるかどうかじゃありません。もし本当に“別の層の世界”が重なっているなら、私たちはずっと何かと同じ場所で生きていることになる。見えていないだけで。そしてもっと怖いのは、それが敵か味方か、そもそもどちらでもない存在かすら分からないことです。あなたはこの話、ただのオカルトだと思いますか？それとも、まだ説明できていない現実の一部だと思いますか？気になったらリプで教えてください。保存して、あとでゆっくり読み返すのもおすすめです。

宇宙人は“遠くから来る存在じゃない”…そう言われた瞬間、世界の前提が全部ひっくり返る。 UFOや宇宙人を「見たかどうか」のレベルで語っていないところです。普通の話なら、遠くに光る物体を見た、とか、噂を聞いた、で終わる。でも保江さんは違う。「自分も何度も近くで見ているし、周りの人も普通に乗ったり触れたりしている」という前提で話が始まります。つまりこの時点で、“いるかいないか”の議論が終わっている。ここがまず怖い。さらに話は深くなります。宇宙人はどこから来るのか？普通なら、何万光年も離れた星から来ると思いますよね。でも保江さんの答えは、まったく違う。「別の次元として、この世界に重なって存在している」シリウスやプレアデスという名前も、天文学で見える星そのものではなく、この世界に重なっている“別の層”のことだというんです。これは「同じ場所に、見えないもう一つの世界が重なっている」みたいな話です。だから彼らは遠くから来るんじゃない。すぐ隣から“ひょい”と現れる。ここ、かなりゾッとします。もしそれが本当なら、宇宙人は遠い存在じゃない。今この場所に、ただ見えていないだけになるからです。さらに不気味なのが、目的です。彼らは人間に興味があるわけじゃない。ただ一つ、監視している理由がある。それが核兵器。地球で核爆発が何度も起きれば、地球だけでなく宇宙全体のバランスが崩れる可能性がある。だから、「人類を守るため」ではなく、宇宙の安定を守るために見張っているという話になります。これ、かなり冷たい視点です。人間は主役じゃない。ただの“危険な存在”として見られているかもしれない。そしてさらに奇妙な話が続きます。宇宙人は、実はまったく別の生き物ではなく、人類の祖先とつながっている可能性があるとも語られています。つまり完全な他者じゃない。どこかで繋がっている“親戚みたいな存在”。この時点で、境界があいまいになります。人間と宇宙人の違いは何なのか。そもそも分かれているのか。ここが一番気味が悪い。そして極めつけが、未来の話です。保江さんは、2027年前後には、誰でも宇宙人を見るようになると語っています。つまり、限られた人だけの話じゃなくなる。日常の中で、普通に話題として出てくる世界になるかもしれない。でもその一方で、こういう情報は「出してはいけないもの」としてずっと隠されてきた可能性もある。政治、戦争、情報操作。どこまでが本当で、どこからが隠されているのか。全部が曖昧なまま、少しずつ表に出てきている。この話の怖さは、UFOがいるかどうかじゃありません。もし本当に“別の層の世界”が重なっているなら、私たちはずっと何かと同じ場所で生きていることになる。見えていないだけで。そしてもっと怖いのは、それが敵か味方か、そもそもどちらでもない存在かすら分からないことです。あなたはこの話、ただのオカルトだと思いますか？それとも、まだ説明できていない現実の一部だと思いますか？気になったらリプで教えてください。保存して、あとでゆっくり読み返すのもおすすめです。

角由紀子のヤバイ帝国

54,133 次观看 • 4 个月前