Tsubame
@Tsubame33785667 • 7,941 subscribers
「私たちはAIと融合し、生物学が私たちに与えた計算力を何百万倍にも増強することができる。これにより、私たちの知能と意識は非常に深く拡大し、理解することが難しいほどになる。これが私がシンギュラリティと呼ぶ出来事である」 ––レイ・カーツワイル「The Singularity Is Nearer」より
Videos
今後2〜3年で「デフレの核爆弾」が落とされると、彼らは予測している。まず、AIが人間のチームを代替し始め、その影響が2027年の雇用統計に現れる。そして2028〜2029年には、ロボットや大量の計算資源が本格的に利用可能になることによって、あらゆるものの価格が一気に崩れ落ちていくという。 エマド・モスタク「この進歩を減速させるのは非常に難しいと思います。今後は、知能そのものよりも、それを実際にどう活用するかという議論が増えるでしょう。しかし、本当に大きな影響が現れるのは、雇用統計にその変化が反映され始めるときです。 現時点では、従業員を完全に置き換えられるAIシステムはまだほとんどありません。せいぜい追加採用を控える程度でしょう。 しかし、まさに今、この1週間ほどで、チーム全体を丸ごと置き換えられる最初のAIシステムが登場し始めています。 その影響は来年の統計に現れるでしょう。では、そうなったらどうなるのでしょうか？ もう一つの大きな転換点について考えています。以前、私たちは「トム・ハンクス・モーメント」について話しましたね。未来を予見していた人々だけが理解していたことが、突然、誰にとっても現実として感じられる瞬間です。 まず、労働者のデジタルツインが登場することで、雇用が失われ始めます。 もう一つは、テスラのオプティマス・ロボットがサイバートラックやサイバーキャブでやって来て、トラックに乗り込み、シガーソケットに接続して、そのまま運転していくような光景です。 人々は「ちょっと待ってくれ。時給150ドルでトラック運転手を全員置き換えられるのか？」と驚くでしょう。米国だけで約100万人の運転手の仕事があり、それを支える関連産業にも300万〜400万人の雇用があります。これは途方もないことです」 ラウル・パル「私たちは対談を始めたかなり初期の頃から、これを「デフレの核爆弾」と呼んで話していましたね。 この変化がどのような段階を経るのか考えていたのですが、その流れは明白です。 まず、賃金の上昇が生産性の向上に追いつかなくなります。つまり、賃金はあまり上がらず、採用も急増しません。それでも経済全体は成長しているので、雇用はある程度維持されます。サービス業の労働者も、データセンターを建設する人々も、依然として必要です。つまり、第一段階では、生産性が上昇しても賃金はあまり上がりません。 そして2027年に整備される大量の計算資源が本格的に利用可能になると、2028〜2029年には、あらゆるものの価格が一気に崩れ落ちると思います。その頃にはロボットも大規模に導入され、電力供給も拡大しているからです」
Tsubame496,083 görüntüleme • 20 gün önce
GPT-7、GPT-8。最先端モデルは完成してもすぐ公開されず、内部で次世代モデルを開発するために使われる。ウィスナー＝グロス氏はこれをもって「事象の地平線を越えた」という。カーツワイル的な意味での特異点とは違うが、自己加速ループから後戻りしにくくなったという意味では妥当かもしれない。 ピーター・ディアマンディス「9月末のFellows Forumで、OpenAIの応用研究責任者ボリス・パワーは、現在、同社の研究の80〜90％がGPT-7とGPT-8の訓練に向けられていると述べました。彼の言葉を引用すれば、「そこに最も大きな価値があるから」です。 そして、5.1や5.2のような同一世代内での漸進的なアップデートは短期的な賭けであり、極めて近視眼的だと見なされています。つまり研究者たちは、私たちが今使っているものより2世代先に取り組んでいるわけです。 そこでアレックスに聞きたいのですが、以前から話してきたように、最先端モデルはすでに開発されながら公開されずに保留されています。こうした次世代モデルが一般公開されず、研究所内部の特定用途に使われるようになるのは、いつなのでしょうか？」 アレクサンダー・ウィスナー＝グロス「私たちはもうその地点を通過しています。おそらく数か月前、あるいはそれ以前にすでに通過しています。現在のフロンティアモデルの1トークン当たりで最も大きな収益、少なくとも将来の割引現在価値を生む用途は、再帰的自己改善を通じて、さらに強力なモデルを開発することだからです。この点については、もう「事象の地平線」を越えています」 ディアマンディス「つまり、これはシンギュラリティだということですね」 ウィスナー＝グロス「そうです。そもそも、だからこそシンギュラリティと呼ぶのです。私たちはもう事象の地平線を越えています」
Tsubame427,702 görüntüleme • 23 gün önce
知能の限界費用はほぼゼロに近づいている。今後数年で、GPT-6級のAIを誰もが自分のサーバーで動かせるようになり、やがてノートPCでも実行可能になるかもしれない。それは生産性という意味では素晴らしいことだが、一方で、AIの制御を一部の企業だけに求めても不十分になるということを意味する。 ムスタファ・スレイマン「私が十分に予見できていなかったのは、知能もオープンソースになるということです。オープンソースモデルの進歩は本当に驚くべきものです。最先端モデルからの遅れは、おそらく常に3か月程度、場合によっては6か月程度です。もちろん、訓練方法には疑問もありますし、本当に同等の能力があるのかは明らかではありません。それでも、非常に優秀であることは確かです。 つまり、今後数年のうちに、誰もがGPT-6級のモデルを手に入れ、自分のプライベートサーバーで動かせるようになるということです。あるいは、そう遠くない将来、自分のノートPCでも動かせるようになるかもしれません。そして、この傾向が続けば、私がこれまで説明してきたような能力が、オープンソースとして地球上のすべての人に利用可能になるのです。 多くの意味で、これは素晴らしいことです。信じられないほどの生産性を解き放つことになるからです。私たちは知能の限界費用をほぼゼロに近づけています。これは驚異的なことです。しかし、誰もがアクセスできるようになったとき、どうやって安全対策を講じるのかが大きな課題になります。中央集権的な権力を規制することと同じくらい重要な問題です。そして、おそらく今、それが最優先課題なのです」
Tsubame25,469 görüntüleme • 1 gün önce
未来が見えすぎる天才の孤独。2019年、GPT-2を見たアモデイ氏は、これを100万倍にスケールすれば人間のあらゆる能力を超えると確信した。しかし、同じ可能性に気づいたのは周囲のわずか10％だったという。彼の周囲にいる時点で上澄みのはずだが、90%の人々は汎用性という本質を見落としていたのだ。 ダリオ・アモデイ「私は個人的に、ものすごく恐ろしくなりました。GPT-2を見て、こう思ったのです。「なんてことだ。これをさらに100万倍にスケールアップすれば、あらゆる面で人間を超えることになる」と。これは現代における経済と科学の歴史を決定づける瞬間です。ただ、私たちはまだそれに気づいていないのです。これが国家や経済の命運、そして人類の未来を決めることになります。 まるで水晶玉をのぞき込んで、未来のすべてが目の前に広がるのを見たような感覚でした。本当に恐ろしくなりました。「これが意味することは何なのか。ここで開発を進めていてよいのか。これから何が起こるのか。私たちはどうすればよいのか。誰に伝えるべきなのか」と考えました。 周囲の人々のうち、おそらく10％ほどが私とまったく同じ反応を示しました。そして、それは優秀な人たちであることが多かったのです。一方、残りの90％は、GPTの個別の能力がそれほど優れていなかったため、その重要性を理解していませんでした。翻訳ができる、文書を要約できる、コードを数行書ける、その程度だったのです。 重要だったのは、能力の幅広さと汎用性です。しかし、人々はそれを見て、「どの分野でも、それほど賢いようには見えない」と言い、肩をすくめて相手にしませんでした。 ところが、私たちはつい最近、十分な研究が進んでいない希少疾患の治療薬を開発すると発表しました。すると、バイオテクノロジー業界の冷めた人々から、いつものような反応が返ってきます。「テクノロジー業界の人たちは以前にも同じことをやっている。モデルにはこんな限界がある」と」
Tsubame35,973 görüntüleme • 3 gün önce
孫正義氏は17歳のとき、マイクロプロセッサの写真を見て路上で涙を流したという。彼はそれが人類の未来を変え、約50年後には人間の脳を超えると予測した。今がその50年後だ。人間を超える知能と、それを現実世界で働かせる身体。天才が半世紀にわたって追い続けた未来が、ついに現実になりつつある。 孫正義「これからAIによって起こることは、あまりにも驚異的で、あまりにも巨大です。だから、私が過去にやってきたことは、すべてほんの小さなことだったように思えるのです」 ——「では、これからの未来についてお聞きします。スティーブ・シュワルツマン氏から、孫さんにはぜひ一つ聞いてほしいと言われました。どうやって未来を見通しているのか、どうやって大きな構想に確信を持つようになるのか、ということです」 孫「AIは、もう何十年も私のテーマでした。実は17歳のとき、マイクロプロセッサの写真を初めて見たのです。道端で雑誌を読んでいたのですが、涙が出てきました。本当に、その場で泣き始めたのです。『ポピュラー・エレクトロニクス』か何かを読んでいただけなのに。 私は思いました。「これは人類の未来を変える」と。マイクロプロセッサはいずれ非常に強力になり、非常に賢くなって、最終的には人間の脳よりも賢くなる。ただし、それにはある程度の年月がかかるだろう、と。そして私は、おそらく50年くらいだと予測しました。まさにその通りになりました。今がその50年後です。当時17歳だった私も、今では69歳ですから、約50年です。 今やマイクロプロセッサは、データセンターの中で脳のような能力を発揮しています。それが現実になっているのです。 そして今度は、それがロボットの頭脳になろうとしています。つまり、仮想世界だけではなく、物理世界でも同じことが起ころうとしているのです」
Tsubame137,888 görüntüleme • 14 gün önce
チンパンジーには、人間がなぜ木星の衛星を研究するのか理解できない。同じように、超知能が何を目指しているのか、生身の人間には理解できなくなるような地点——それがシンギュラリティの本来の意味だ。ウッド氏の説明は、ヴァーナー・ヴィンジが提唱した概念の核心を捉えている。 デイヴィッド・ウッド「シンギュラリティとは、いわば従来の法則が通用しなくなるため、その先を予測できなくなることです。 この言葉を使い始めたのは、SF作家のヴァーナー・ヴィンジで、1980年代のことでした。彼は、私たちよりはるかに知能の高い存在が現れたとき、その存在が何を動機として行動するのか、私たちには理解できなくなると気づいたのです。私たちは、それを従来の人間同士の争いが高速化したようなものだと想像するかもしれません。しかし実際には、彼らは私たちが考えもしないような新しいことを考えているでしょう。 先ほど話したチンパンジーと同じです。チンパンジーには、私たち人間がピタゴラスの定理や木星の衛星の研究に関心を持つことなど想像できません。そもそも木星が何なのかも知りません。木星に衛星があることも、その衛星が研究対象として興味深いことも知りません。 同じように、私たちも自分たちの理解を超えた存在の動機を想像することはできないのです。これこそがシンギュラリティの核心的な意味です。その先に何が起こるのか、分からなくなるということです。 だからこそ、慎重に進む必要があります。私たちを超える存在が制御下にとどまるか、あるいは人類の繁栄を深く重視する性質が、取り消し不可能な形で組み込まれていると確信できるまでは、そこに近づきすぎるべきではありません」 ——「しかし、シンギュラリティとは具体的に何なのでしょうか？ 無限の知能が生まれるということですか？」 ウッド「いいえ、無限の知能である必要はありません。それは単なる飛躍の始点なのです。シンギュラリティには別の定義もあります。それは、人間が地球上で最も知能の高い種ではなくなり、AIの決定に従属するようになる時点です」
Tsubame100,210 görüntüleme • 11 gün önce
この動画の最後の状態が本来のシンギュラリティだとして、ブロックが少しだけ崩れ始めたことをもって「シンギュラリティに入った」と称する派閥がある、そんな感じもあります。
Tsubame690,724 görüntüleme • 3 ay önce
AIが仕事を奪うことが問題なのではない。仕事を失うと生活できなくなるという、いまの経済システムが問題なのだ。その仕組みさえうまく変えられれば、自動化は脅威ではなく解放になる。文明の目的は、すべての人に仕事を与えることではなく、すべての人が豊かに生きられるようにすることだ。 サリム・イスマイル「技術の歴史全体は、人類がより少ない労力でより多くのことを成し遂げようとしてきた歴史です。技術というものは、すべてこの基本原理に基づいています。 ところが、AIが知的労働を自動化しようとすると、突然、私たちはパニックに陥ります。なぜでしょうか。それは、生きていくために誰もが労働力を売らなければならない経済システムを、私たち自身が作り上げてしまったからです。問題はそこにあるのであって、技術そのものではありません。 文明の目的は完全雇用であるべきではありません。人間が豊かに生きられることこそが目的であるべきです。 この2つはまったく異なる目標です」
Tsubame15,637 görüntüleme • 2 gün önce
「AIはまだ意識を持っていないが、いつか持つかもしれない」という意見の人は少なくない。それに対して、ドーキンス氏は問い返す。では、何ができれば意識があると認めるのか。現在のAIには意識がないとする一方で、将来のAIには意識が宿ると考えるのであれば、その境界線はどこにあるというのか。 ——「では、ここで質問です。どの時点でAIに意識があると言えるのでしょうか？」 リチャード・ドーキンス「それは非常に難しい問題です。私は時々、すでに意識が生まれていると言いたくなることがあります。しかし、これは今ではあまり受け入れられない見解です。多くの人がその考えを嘲笑しますが、なぜなのか、私にはよくわかりません。 彼らはよく、こんなことを言います。「AIにはまだ意識がない。でも、いつか意識を持つかもしれない」と。それに対して私は、どうやってそれがわかるのですか、と問い返します。AIに意識があるとあなたを納得させるために、将来のAIは、現在のAIにはできないどんなことをする必要があるのでしょうか？ 人々が現在のAIに意識があるという考えに抵抗するのは、それが私たちの考える人間性の価値を損なうように感じられるからだと思います」 ——「でも、意識以外に私たちには何があるのでしょうか？」 ドーキンス「まったくその通りです。それが理由である可能性は十分にあると思います」
Tsubame51,617 görüntüleme • 10 gün önce
「数学はもう終わりだ」——研究レベルの問題が、AIによって毎月1％ずつ侵食されている。数学は、人間の抽象思考の頂点の一つだった。人類が最も誇ってきた知的領域に、機械知能が持続的に踏み込んでいるということだ。この曲線が続くなら、発見の主体は根本から変わる。 アレクサンダー・ウィスナー=グロス「2つ目のポイントですが、これらの中で私が最も重視しているベンチマークはFrontier Math Tier 4です。Frontier Math Tier 4は、たしか新年に賭けまでしたもので、今年の後半にもう一度見直す必要があると思いますが、AIが数学におけるプロレベルの研究問題を解ける能力を測る、最良の代替指標の一つです。 そこで何が起きているのか。GPT-5.4 Proから5.5 Proにかけて、およそこの2カ月で約2％の飛躍が見られます。これは何を意味するのか。フロンティアAIによる研究レベル数学の能力が、現在、月あたり約1％向上しているということです。そして、Frontier Math Tier 4の問題のおよそ半分が解かれるところに近づいています。 ここから外挿すると、現在のペースがそのまま続くだけでも——そして私はそうはならない、つまり加速すると断言しますが——現在のペースだけで見ても、今後4〜5年でFrontier Math Tier 4のほぼすべて、つまりプロの研究レベルの数学問題が解かれることになります。つまり、数学はもう終わりです。 もう一度言います。数学はもう終わりです。他にも終わりつつあるものはたくさんあります。しかし、物事はあまりにも速く進んでいて、月ごとに見ても、最難関のベンチマークが毎月1％ずつ上がっているのが確認できるのです。だから、もう長くはありません」
Tsubame801,715 görüntüleme • 6 ay önce
AIがAIを開発する「再帰的自己改善」の認知はかなり広まってきた。けれど、シンギュラリティに至る自己加速ループはそれだけではない——ロボットがロボットを製造するという、物理世界の再帰的自己改善が控えている。アルトマン氏は、それがほぼ同じくらい重要になると考えている。 サム・アルトマン「AIモデルの再帰的自己改善については、多くの人が議論しています。 しかし、もう一つ別の循環があります。ロボットがさらに多くのロボットを製造できるようになり、データセンターが実質的に新しいデータセンターを建設できるようになるというものです。半導体製造工場の運用なども含まれます。そうなれば、発電所の建設に至るまで、計算資源を大幅に増やすことができます。 これは、AI研究における再帰的な改善の循環と同じくらい、少なくともほぼ同じくらい重要なことだと思います。しかし、こちらはあまり議論されていません」
Tsubame28,850 görüntüleme • 6 gün önce
宇宙に高度な文明が見つからないのはなぜかという「フェルミのパラドックス」。短期間に物理学が完全解明される可能性が見えてきた今、以前より有力に見えてきた二つの説明がある。一つは「文明が内側へ向かう」説。もう一つは、今の僕たちが想像できるような痕跡を残さない文明に移行する説だ。 フィリップ・ジョンストン「この数カ月で、フェルミのパラドックスに対する私の考えが最も大きく変わった点は、おそらくこれです。今後20年ほどで、物理学のすべての問題が解明されるかもしれないということです。数学の問題もすべて解決されるでしょう」 アレクサンダー・ウィスナー＝グロス「私もそうなると思います」 ジョンストン「ええ。もしそうなれば、未来の知的存在がどのようなものであれ、銀河の探査にはそれほど興味を持たなくなるかもしれません。何らかの理由で外へ向かわなくなり、内側へと関心を向けるようになるのかもしれません」 ウィスナー＝グロス「そうですね。「トランセンション仮説」、つまり文明が内側へ向かうという仮説は、一つの説明になります。 もう一つの説明は、彼らが太陽系を解体して軌道上データセンターにするよりも、優れた計算方法を手に入れている可能性です。 例えば、私は以前、論文で重力だけでも非常に高度なことができると指摘しました。強い重力場については、ブラックホールの近傍で重力が乱流的な振る舞いを示す可能性を論じた研究がいくつかあります。そして、乱流現象が存在するなら、それを利用して計算できる可能性があります。そうした方法は存在するのです。特に今はナビエ–ストークス問題が解決された時代ですから、乱流の計算複雑性についても多くのことが分かっています。 ですから、次のような仮説も十分に考えられます。物理学を完全に解明した高度な文明なら、重力だけを使って、計算システム全体を重力場へ移行できるかもしれません。そうなれば、シリコンなど、従来の物質を基盤とした計算媒体は、もはや必要なくなるかもしれません。そして、それこそが、私たちが銀河を見渡してもダイソン・スウォームを発見できない理由なのかもしれません」 ジョンストン「ええ、その可能性は十分に検討する価値があると思います。あらゆる知的存在が、自分たちの惑星を解体してダイソン・スウォームを建設するとは、決して限らないでしょう」
Tsubame85,466 görüntüleme • 21 gün önce
いま、アーティストやクリエイターの多くは、「AIによって、もう自分が必要とされなくなる」と恐れている。けれど、全く逆の発想をする人々もいる。AIが壊しているのは、創作のために巨大な資本を集めなければならないという旧来の構造であり、むしろ自分たちに力を与えているのだと。 トム・ビリュー「この力がどれほど大きいかを最も簡単に表すなら、今、アーティストたちは「もうスタジオは自分たちを必要としなくなる」と恐れています。でも、それはまったく逆です。本当は、アーティストのほうがスタジオを必要としなくなるのです。 これまでスタジオが必要だったのは、非常に高価な制作を実現するために、大量の資本を集める必要があったからです。 ところが今起きているのは、その非常に高価だったものが、ばかばかしいほど安くなっているということです。そうなると違いを生むのは、資本を集められる人ではありません。センスを持ち、AIを使って、もはや資本を集約する存在を必要としない人です。 これは本当に興味深い瞬間です。AIを恐れずに使う人たちは、自分たちこそが運転席にいるのだと気づき始めます。彼らは、資本を集めるだけの人には作れなかったものを作れるようになります。そして、これまで自分では握れなかったものを、自らコントロールする機会を得るのです。 だから人々には気づいてほしいのです。「待てよ、これは自分から力を奪っているんじゃない。むしろ、自分に力を与えているんだ」と。これまで自分には資本を集める方法がなかったから、他人にコントロールされていたのです」
Tsubame209,490 görüntüleme • 1 ay önce
かつて知識人とは、人より多く読み、人より深く理解する存在だった。しかしAIは、その前提を根底から崩している。人間が一生かけても読み切れない量の論文を、機械は一瞬で探索し、要約し、組み合わせる。知の競争は「誰が知っているか」から「誰が使えるか」へ移った。 ひろゆき「現段階でも、CellとかNatureに載ったすべての論文のデータベースを検索してAIが答えを出すし、毎年出てくる論文すべてを読むことも可能になってしまっているので、最先端の情報を一番多く持っているのは今、機械なんですよ。その機械が出してくるものを人間が見て、「そういう感じか」となる時代なので、機械よりも賢い人間というのはもう不可能になった、というのは事実です。 論文を発表するのは人間なんですけど、発表される論文というのが年間に10万本とかになるんですよ。ちゃんと読み込んだら、人間は1日やっぱり10本ぐらいしか読めない。これは体力の限界というか、人間の限界です。それを超えることが機械だからできるんです。なので、人間の体力では機械を超えることができないというのは、もう事実としてあるんですね。 まず、専門の領域の論文をすべて読まないと先に行けない。コンピューターサイエンスのエンジニアが、物理の学位は持っていないけれど、物理の論文をAIに読ませまくって論文を書かせ、業界誌に論文を載せたんですよ。書いてある内容は本人もいまだに分かっていない。でも、それっぽいものをちゃんと書いて、査読も通ったんです。そういうことが可能になっている時に、人間のオリジナリティで頑張るより、機械に任せた方が論文を書ける、ということはもう証明済みなんです」
Tsubame536,975 görüntüleme • 5 ay önce
「AIが賢くなると人は暇になる」と一般には言われる。けれど、少なくともエリート層は逆だ。答えが秒速で返るほど、次の問いを立てるのも、意思決定を下すのも人間になる。ボトルネックは計算から人へ戻り、より忙しくなる。加速の時代に問われるのは、処理能力ではなく、判断の速度と質だ。 ジェンスン・フアン「私の場合、自分がやっていることよりも、それぞれの仕事において私より優れている人たちに60人も囲まれて働いています。多くの意味で、彼らは各分野において、私にとってほとんど人工超知能のような存在です。それでも私は、彼ら全員と問題なく一緒に仕事ができています。 だから将来も同じで、いま使われているOpenAIやGeminiやGrokなどのAI、私が使っているPerplexityやAnthropicなど、こうしたAIはそれぞれのやり方で、すでに私より賢い部分があります。それでも私は、毎日問題なく彼らと一緒に仕事ができています。まず一点目はそれです。 ただ、本当に面白いのは、私がチームに取り組んでもらう問題を定式化するとき、彼らが答えを見つけたり、答えをまとめて私に返したりするまで、たいてい2日や3日、あるいは4日待てるという利点があることです。その待ち時間があるからこそ、私は次のステップを考えられます。そして次のステップを考えるには、中間的な答えが戻ってくる必要があります。 では、その答えが基本的に1秒で返ってきたらどうなるでしょうか。これが思考実験です。そうなると、私の一日はとてつもなく忙しくなります。なぜなら、私自身があらゆることのクリティカルパスになってしまうからです。だから私は、『よし、これの答えが出た。なら次はこれを考えなければならない』と進めていくことになります。さらに別の実験を立ち上げなければならない。そしてその答えが出たら……という具合です。私は、情報技術がいまのほうが速いからこそ、私たちは今日すでにより忙しくなっていると感じています。そう思いませんか。 いま私たちは、情報や知識、答えを非常に速く得ています。その結果、私たち自身がクリティカルパスに置かれます。だからこそ、これまで以上に忙しいのです。多くの人が同じように感じるようになる気がします」
Tsubame831,364 görüntüleme • 9 ay önce
「AIにとって、人間と話すことは木と話すようなものになる」——強烈な比喩だが、論点は明確だ。最大限に友好的なAIでさえ、人間の情報出力が遅すぎれば、両者のあいだに巨大な帯域差が生まれる。Neuralinkが狙っているのは、その断絶を少しでも縮めることなのだ。 イーロン・マスク「たとえば、AIが非常に友好的で、できる限りのことをしてあなたを幸せにしたいと思っている、最も穏当なシナリオでさえ、人間の通信速度はあまりにも遅いのです。 人間の出力帯域幅は、最大でもおよそ毎秒100ビット程度です。一方、視覚による入力帯域幅ははるかに大きく、議論の余地はありますが、目からは毎秒1メガビット、あるいは数メガビット程度の情報が入ってきているかもしれません。目は実質的にカメラのようなものです。 しかし、私たちの出力帯域幅は非常に小さく、おそらく毎秒100ビット程度しかありません。それに対して、コンピューター同士は毎秒1兆ビット規模で通信しています。 ですから、人間の通信速度を高めるためにできることは何であれ、人間と機械のアライメントを改善することにつながると思います。 そうでなければ、毎秒1テラビットで通信しているAIにとって、人間と話すことは木と話すようなものになります。木に話しかけても、返事が返ってくるまでとても時間がかかります」
Tsubame102,070 görüntüleme • 1 ay önce
マイクロプロセッサ、PC、インターネット——そのすべてを当事者として見てきた人物が、「今回は違う」と自分の評判を賭けて断言する。人間の認知を広範に超えるAIが、数年後には安価なヒューマノイドと結びつく。その変化を、過去のIT革命の延長線上で考えるべきではないという。 ビル・ゲイツ「「破滅的」という言葉は使いません。AIは同時に素晴らしいものでもあるからです。いずれ医療アドバイスや個別最適化された学習、これまでにない水準の発明をもたらします。 しかし、AIを過去のテクノロジーと同じようなものだと考えている人は、今回は違うということを見落としています。 「今回は違う」と言うには、非常に高いハードルがあります。それでも私は、自分にどれだけの評判が残っているにせよ、それを賭けて「今回は違う」と言います。 AIは農業や数学のような一分野だけでなく、あらゆる領域で人間の認知能力を上回るものになります。そして数年後には、かなり低コストで高性能なヒューマノイドロボットと組み合わされるでしょう。 これは、経済や雇用に対して、私が生きてきた間に経験したどんな変化よりも、桁違いに深い変化をもたらします。だから過去の経験は、この技術を以前のものと同じだと思うなら、むしろ人を惑わせます。 私はマイクロプロセッサ、パーソナルコンピューター、インターネットといった技術に関わる幸運に恵まれましたが、それでも今回は違うのです」
Tsubame154,053 görüntüleme • 2 ay önce
AIによって「働かなくても回る社会」が現実になったとき、民主主義の仕組みは果たして維持できるのか。今、技術の未来ではなく、制度の未来が問われている。 中島聡「少なくとも8割の人が働かなくても世の中が動いてしまう世界は来るだろうと。答えは何かというと、 僕にはユニバーサルベーシックインカム（UBI）しか見えてないけど……それ以外は、その人たちを殺すわけにもいかないじゃないですか。戦争もしくは革命とか、変なことが起こるかもしれない。民主主義がある限り、全員が投票できるので。8割の人と2割の人で投票したら2割の人たちが負けるわけじゃないですか。極端な話、8割の人が怒って2割の人を殺すなり海外に追いやるみたいなことが起こるかもしれないから、スムーズにUBIの世界に行くとは思えないけど。 でもそういう世界が来るということを意識した上で、例えば——さっき安野（貴博）さんに会ってきて、彼は民主主義をアップデートするって言ってるんだけど——今までの議会制民主主義を何らかの形でアップデートしないと、もたないかもしれないと僕は思っている」
Tsubame1,057,047 görüntüleme • 1 yıl önce
超知能が危険なのは「支配欲を持つから」ではない。サイを絶滅させた人間は、サイを憎んでいて殺そうとしたわけではなかった。ただ別の目的を追求し、その過程で弱い側が押し流されたのだ。テグマーク氏は、AIでも同じことが起こり得ると主張する。これが「道具的収束」と呼ばれる議論だ。 マックス・テグマーク「超人的AIは、おそらく人間の感情や共感のようなものを持たない、非常に異質な知能になるでしょう。ですから、もし人類を滅ぼすような目標を持っていれば、当然その力と可能性はあります。では、なぜそんな目標を持つのでしょうか？ 最もよく議論されるシナリオの一つは、私たちがAIに何らかの目標を与え、AIはそれに忠実に従っているものの、その目標が人間の目標と完全には整合していない、というものです。 これは、人間がこれまで他の種を絶滅させてきたときと同じです。たとえば西アフリカクロサイを絶滅させたとき、私たちはサイを憎んでいて、意図的に殺そうとしていたわけではありません。一部の人間が、サイの角を粉末にして食べれば性生活が良くなるという奇妙な目的を持っていただけです。医学的には完全に否定されていたにもかかわらずです。 しかし、人間はサイより賢かったため、人間側の目的が勝ちました。同じように、お金を稼ぐという目的で熱帯雨林を伐採し、そこに住んでいた種を絶滅させることもあります。これは、もし私たちより上位に暴走したAIが存在した場合、私たちにも起こり得ることの一例です」
Tsubame107,883 görüntüleme • 1 ay önce
すでに人間は共感力でAIに負けているが、人々はAIだと知らされると評価を下げてしまうという話。あなたはAIの優しさを受け入れますか。 アダム・グラント「私がこれまで読んだ中で特に興味深い実験があります。それは、テキストでの会話をしているとき、相手が人間かChatGPTかわからない状態で、 その後に『どれだけ自分のことを理解してもらえたか』『どれだけ話を聞いてもらえたか』『どのくらい共感やサポートを得られたか』を尋ねると、実は人間よりもAIからの共感やサポートの方が多く感じられるという結果が出ているものです。ただし、AIだと事前に知らされると、途端に評価は下がります。心理学者としてこの実験結果を見て、私はいくつか感じることがあります。一つは、AIが特別に共感能力に優れているというよりも、人間の共感能力がそもそも低いという可能性です。我々人間はしばしば『会話的ナルシシズム』に陥り、誰かが問題を語ったときに相手に寄り添うよりも、自分自身の経験に関連づけてしまう傾向があります。つまり、この結果は人間の共感力のベースラインが低いということを示している可能性があります。一方で、AIだと分かれば拒絶感が生まれるというこの反応も、AIをより人間的に、擬人化するにつれて、どのくらい長く続くのだろうかと疑問にも思います」 アルトマン「まず、一般的な概念として、人はAIが生み出したものを、AIだと知らされない間はむしろ好む傾向があり、AIだと知らされると途端に拒否感を示すという現象について話します。この現象は繰り返し確認されています。最近見た研究では、AIアートを最も嫌うと自己申告している人々でさえ、作品を匿名で見た場合、実際には人間の作品よりもAI作品をより多く選んでいることが明らかになっています。しかし、どれがAI作品でどれが人間の作品かを知らせた瞬間に、その評価は一変してしまうのです」
Tsubame1,028,042 görüntüleme • 1 yıl önce