Tsubame
@Tsubame33785667 • 7,896 subscribers
「私たちはAIと融合し、生物学が私たちに与えた計算力を何百万倍にも増強することができる。これにより、私たちの知能と意識は非常に深く拡大し、理解することが難しいほどになる。これが私がシンギュラリティと呼ぶ出来事である」 ––レイ・カーツワイル「The Singularity Is Nearer」より
Videos
チンパンジーには、人間がなぜ木星の衛星を研究するのか理解できない。同じように、超知能が何を目指しているのか、生身の人間には理解できなくなるような地点——それがシンギュラリティの本来の意味だ。ウッド氏の説明は、ヴァーナー・ヴィンジが提唱した概念の核心を捉えている。 デイヴィッド・ウッド「シンギュラリティとは、いわば従来の法則が通用しなくなるため、その先を予測できなくなることです。 この言葉を使い始めたのは、SF作家のヴァーナー・ヴィンジで、1980年代のことでした。彼は、私たちよりはるかに知能の高い存在が現れたとき、その存在が何を動機として行動するのか、私たちには理解できなくなると気づいたのです。私たちは、それを従来の人間同士の争いが高速化したようなものだと想像するかもしれません。しかし実際には、彼らは私たちが考えもしないような新しいことを考えているでしょう。 先ほど話したチンパンジーと同じです。チンパンジーには、私たち人間がピタゴラスの定理や木星の衛星の研究に関心を持つことなど想像できません。そもそも木星が何なのかも知りません。木星に衛星があることも、その衛星が研究対象として興味深いことも知りません。 同じように、私たちも自分たちの理解を超えた存在の動機を想像することはできないのです。これこそがシンギュラリティの核心的な意味です。その先に何が起こるのか、分からなくなるということです。 だからこそ、慎重に進む必要があります。私たちを超える存在が制御下にとどまるか、あるいは人類の繁栄を深く重視する性質が、取り消し不可能な形で組み込まれていると確信できるまでは、そこに近づきすぎるべきではありません」 ——「しかし、シンギュラリティとは具体的に何なのでしょうか？ 無限の知能が生まれるということですか？」 ウッド「いいえ、無限の知能である必要はありません。それは単なる飛躍の始点なのです。シンギュラリティには別の定義もあります。それは、人間が地球上で最も知能の高い種ではなくなり、AIの決定に従属するようになる時点です」
Tsubame51,921 次观看 • 16 小时前
今後2〜3年で「デフレの核爆弾」が落とされると、彼らは予測している。まず、AIが人間のチームを代替し始め、その影響が2027年の雇用統計に現れる。そして2028〜2029年には、ロボットや大量の計算資源が本格的に利用可能になることによって、あらゆるものの価格が一気に崩れ落ちていくという。 エマド・モスタク「この進歩を減速させるのは非常に難しいと思います。今後は、知能そのものよりも、それを実際にどう活用するかという議論が増えるでしょう。しかし、本当に大きな影響が現れるのは、雇用統計にその変化が反映され始めるときです。 現時点では、従業員を完全に置き換えられるAIシステムはまだほとんどありません。せいぜい追加採用を控える程度でしょう。 しかし、まさに今、この1週間ほどで、チーム全体を丸ごと置き換えられる最初のAIシステムが登場し始めています。 その影響は来年の統計に現れるでしょう。では、そうなったらどうなるのでしょうか？ もう一つの大きな転換点について考えています。以前、私たちは「トム・ハンクス・モーメント」について話しましたね。未来を予見していた人々だけが理解していたことが、突然、誰にとっても現実として感じられる瞬間です。 まず、労働者のデジタルツインが登場することで、雇用が失われ始めます。 もう一つは、テスラのオプティマス・ロボットがサイバートラックやサイバーキャブでやって来て、トラックに乗り込み、シガーソケットに接続して、そのまま運転していくような光景です。 人々は「ちょっと待ってくれ。時給150ドルでトラック運転手を全員置き換えられるのか？」と驚くでしょう。米国だけで約100万人の運転手の仕事があり、それを支える関連産業にも300万〜400万人の雇用があります。これは途方もないことです」 ラウル・パル「私たちは対談を始めたかなり初期の頃から、これを「デフレの核爆弾」と呼んで話していましたね。 この変化がどのような段階を経るのか考えていたのですが、その流れは明白です。 まず、賃金の上昇が生産性の向上に追いつかなくなります。つまり、賃金はあまり上がらず、採用も急増しません。それでも経済全体は成長しているので、雇用はある程度維持されます。サービス業の労働者も、データセンターを建設する人々も、依然として必要です。つまり、第一段階では、生産性が上昇しても賃金はあまり上がりません。 そして2027年に整備される大量の計算資源が本格的に利用可能になると、2028〜2029年には、あらゆるものの価格が一気に崩れ落ちると思います。その頃にはロボットも大規模に導入され、電力供給も拡大しているからです」
Tsubame495,943 次观看 • 9 天前
孫正義氏は17歳のとき、マイクロプロセッサの写真を見て路上で涙を流したという。彼はそれが人類の未来を変え、約50年後には人間の脳を超えると予測した。今がその50年後だ。人間を超える知能と、それを現実世界で働かせる身体。天才が半世紀にわたって追い続けた未来が、ついに現実になりつつある。 孫正義「これからAIによって起こることは、あまりにも驚異的で、あまりにも巨大です。だから、私が過去にやってきたことは、すべてほんの小さなことだったように思えるのです」 ——「では、これからの未来についてお聞きします。スティーブ・シュワルツマン氏から、孫さんにはぜひ一つ聞いてほしいと言われました。どうやって未来を見通しているのか、どうやって大きな構想に確信を持つようになるのか、ということです」 孫「AIは、もう何十年も私のテーマでした。実は17歳のとき、マイクロプロセッサの写真を初めて見たのです。道端で雑誌を読んでいたのですが、涙が出てきました。本当に、その場で泣き始めたのです。『ポピュラー・エレクトロニクス』か何かを読んでいただけなのに。 私は思いました。「これは人類の未来を変える」と。マイクロプロセッサはいずれ非常に強力になり、非常に賢くなって、最終的には人間の脳よりも賢くなる。ただし、それにはある程度の年月がかかるだろう、と。そして私は、おそらく50年くらいだと予測しました。まさにその通りになりました。今がその50年後です。当時17歳だった私も、今では69歳ですから、約50年です。 今やマイクロプロセッサは、データセンターの中で脳のような能力を発揮しています。それが現実になっているのです。 そして今度は、それがロボットの頭脳になろうとしています。つまり、仮想世界だけではなく、物理世界でも同じことが起ころうとしているのです」
Tsubame137,888 次观看 • 3 天前
GPT-7、GPT-8。最先端モデルは完成してもすぐ公開されず、内部で次世代モデルを開発するために使われる。ウィスナー＝グロス氏はこれをもって「事象の地平線を越えた」という。カーツワイル的な意味での特異点とは違うが、自己加速ループから後戻りしにくくなったという意味では妥当かもしれない。 ピーター・ディアマンディス「9月末のFellows Forumで、OpenAIの応用研究責任者ボリス・パワーは、現在、同社の研究の80〜90％がGPT-7とGPT-8の訓練に向けられていると述べました。彼の言葉を引用すれば、「そこに最も大きな価値があるから」です。 そして、5.1や5.2のような同一世代内での漸進的なアップデートは短期的な賭けであり、極めて近視眼的だと見なされています。つまり研究者たちは、私たちが今使っているものより2世代先に取り組んでいるわけです。 そこでアレックスに聞きたいのですが、以前から話してきたように、最先端モデルはすでに開発されながら公開されずに保留されています。こうした次世代モデルが一般公開されず、研究所内部の特定用途に使われるようになるのは、いつなのでしょうか？」 アレクサンダー・ウィスナー＝グロス「私たちはもうその地点を通過しています。おそらく数か月前、あるいはそれ以前にすでに通過しています。現在のフロンティアモデルの1トークン当たりで最も大きな収益、少なくとも将来の割引現在価値を生む用途は、再帰的自己改善を通じて、さらに強力なモデルを開発することだからです。この点については、もう「事象の地平線」を越えています」 ディアマンディス「つまり、これはシンギュラリティだということですね」 ウィスナー＝グロス「そうです。そもそも、だからこそシンギュラリティと呼ぶのです。私たちはもう事象の地平線を越えています」
Tsubame425,289 次观看 • 12 天前
宇宙に高度な文明が見つからないのはなぜかという「フェルミのパラドックス」。短期間に物理学が完全解明される可能性が見えてきた今、以前より有力に見えてきた二つの説明がある。一つは「文明が内側へ向かう」説。もう一つは、今の僕たちが想像できるような痕跡を残さない文明に移行する説だ。 フィリップ・ジョンストン「この数カ月で、フェルミのパラドックスに対する私の考えが最も大きく変わった点は、おそらくこれです。今後20年ほどで、物理学のすべての問題が解明されるかもしれないということです。数学の問題もすべて解決されるでしょう」 アレクサンダー・ウィスナー＝グロス「私もそうなると思います」 ジョンストン「ええ。もしそうなれば、未来の知的存在がどのようなものであれ、銀河の探査にはそれほど興味を持たなくなるかもしれません。何らかの理由で外へ向かわなくなり、内側へと関心を向けるようになるのかもしれません」 ウィスナー＝グロス「そうですね。「トランセンション仮説」、つまり文明が内側へ向かうという仮説は、一つの説明になります。 もう一つの説明は、彼らが太陽系を解体して軌道上データセンターにするよりも、優れた計算方法を手に入れている可能性です。 例えば、私は以前、論文で重力だけでも非常に高度なことができると指摘しました。強い重力場については、ブラックホールの近傍で重力が乱流的な振る舞いを示す可能性を論じた研究がいくつかあります。そして、乱流現象が存在するなら、それを利用して計算できる可能性があります。そうした方法は存在するのです。特に今はナビエ–ストークス問題が解決された時代ですから、乱流の計算複雑性についても多くのことが分かっています。 ですから、次のような仮説も十分に考えられます。物理学を完全に解明した高度な文明なら、重力だけを使って、計算システム全体を重力場へ移行できるかもしれません。そうなれば、シリコンなど、従来の物質を基盤とした計算媒体は、もはや必要なくなるかもしれません。そして、それこそが、私たちが銀河を見渡してもダイソン・スウォームを発見できない理由なのかもしれません」 ジョンストン「ええ、その可能性は十分に検討する価値があると思います。あらゆる知的存在が、自分たちの惑星を解体してダイソン・スウォームを建設するとは、決して限らないでしょう」
Tsubame84,893 次观看 • 10 天前
意識の本質とは何か、時間とは何か。そういうことを僕たちはあまり考えずに、日々を過ごしている。ハサビス氏はそれが本当に不思議だという。彼がAI開発を志した原点は、宇宙という壮大なパズルを解き明かすことだった。人間の知性には限界がある。だからこそ新たな知性を生み出そうとしているのだ。 デミス・ハサビス「私がこの道に進んだのは、現実の本質を理解したかったからです。世界には根源的な問いがたくさんあります。意識の本質とは何か、時間とは何か。どれも途方もなく深い謎です。 私が驚くのは、私たちがこうしたことをあまり考えずに日常生活を送っていることです。目の前のことに気を取られているのでしょう。しかし私は、こうした疑問を考えるたびに、思わず立ち止まってしまいます。夜中にもずっと考えているのです。私たちは時間とは何かさえわかっていない。これは信じられないことです。それなのに、私たちは何事もないかのように日々を過ごしています。私には本当に不思議です。 では、どうすればいいのでしょうか。私は生まれつき、満たされることのない好奇心を持っていたのだと思います。そして、この宇宙には途方もなく深い謎があるという思いに、ずっと取りつかれてきました。私にとって宇宙は、壮大なパズルのようなものです。どうすれば、その謎を解き明かせるのでしょうか。 だからこそ、私は早くからAIに取り組んだのだと思います。私たちに何が必要なのか。それは、助けとなる存在です。 私はかつて、ファインマンやチューリングなど、尊敬する偉大な科学者たちの伝記をよく読んでいました。彼らは非常に優秀ですが、それでも人間の頭脳だけで理解できることには限界があります。科学的方法などを駆使しても、限界はあると思います。 ですから、私にとってAIの可能性は明らかでした。そこには二つの側面があります。AIは科学にとって素晴らしい道具になるだけでなく、それ自体が驚くべき科学的成果であり、工学的成果でもあります。そして、もう一つの深い謎である、私たち自身の心をよりよく理解する助けにもなるかもしれないのです」
Tsubame19,094 次观看 • 2 天前
いま、アーティストやクリエイターの多くは、「AIによって、もう自分が必要とされなくなる」と恐れている。けれど、全く逆の発想をする人々もいる。AIが壊しているのは、創作のために巨大な資本を集めなければならないという旧来の構造であり、むしろ自分たちに力を与えているのだと。 トム・ビリュー「この力がどれほど大きいかを最も簡単に表すなら、今、アーティストたちは「もうスタジオは自分たちを必要としなくなる」と恐れています。でも、それはまったく逆です。本当は、アーティストのほうがスタジオを必要としなくなるのです。 これまでスタジオが必要だったのは、非常に高価な制作を実現するために、大量の資本を集める必要があったからです。 ところが今起きているのは、その非常に高価だったものが、ばかばかしいほど安くなっているということです。そうなると違いを生むのは、資本を集められる人ではありません。センスを持ち、AIを使って、もはや資本を集約する存在を必要としない人です。 これは本当に興味深い瞬間です。AIを恐れずに使う人たちは、自分たちこそが運転席にいるのだと気づき始めます。彼らは、資本を集めるだけの人には作れなかったものを作れるようになります。そして、これまで自分では握れなかったものを、自らコントロールする機会を得るのです。 だから人々には気づいてほしいのです。「待てよ、これは自分から力を奪っているんじゃない。むしろ、自分に力を与えているんだ」と。これまで自分には資本を集める方法がなかったから、他人にコントロールされていたのです」
Tsubame209,490 次观看 • 1 个月前
「数学はもう終わりだ」——研究レベルの問題が、AIによって毎月1％ずつ侵食されている。数学は、人間の抽象思考の頂点の一つだった。人類が最も誇ってきた知的領域に、機械知能が持続的に踏み込んでいるということだ。この曲線が続くなら、発見の主体は根本から変わる。 アレクサンダー・ウィスナー=グロス「2つ目のポイントですが、これらの中で私が最も重視しているベンチマークはFrontier Math Tier 4です。Frontier Math Tier 4は、たしか新年に賭けまでしたもので、今年の後半にもう一度見直す必要があると思いますが、AIが数学におけるプロレベルの研究問題を解ける能力を測る、最良の代替指標の一つです。 そこで何が起きているのか。GPT-5.4 Proから5.5 Proにかけて、およそこの2カ月で約2％の飛躍が見られます。これは何を意味するのか。フロンティアAIによる研究レベル数学の能力が、現在、月あたり約1％向上しているということです。そして、Frontier Math Tier 4の問題のおよそ半分が解かれるところに近づいています。 ここから外挿すると、現在のペースがそのまま続くだけでも——そして私はそうはならない、つまり加速すると断言しますが——現在のペースだけで見ても、今後4〜5年でFrontier Math Tier 4のほぼすべて、つまりプロの研究レベルの数学問題が解かれることになります。つまり、数学はもう終わりです。 もう一度言います。数学はもう終わりです。他にも終わりつつあるものはたくさんあります。しかし、物事はあまりにも速く進んでいて、月ごとに見ても、最難関のベンチマークが毎月1％ずつ上がっているのが確認できるのです。だから、もう長くはありません」
Tsubame801,715 次观看 • 5 个月前
「AIにとって、人間と話すことは木と話すようなものになる」——強烈な比喩だが、論点は明確だ。最大限に友好的なAIでさえ、人間の情報出力が遅すぎれば、両者のあいだに巨大な帯域差が生まれる。Neuralinkが狙っているのは、その断絶を少しでも縮めることなのだ。 イーロン・マスク「たとえば、AIが非常に友好的で、できる限りのことをしてあなたを幸せにしたいと思っている、最も穏当なシナリオでさえ、人間の通信速度はあまりにも遅いのです。 人間の出力帯域幅は、最大でもおよそ毎秒100ビット程度です。一方、視覚による入力帯域幅ははるかに大きく、議論の余地はありますが、目からは毎秒1メガビット、あるいは数メガビット程度の情報が入ってきているかもしれません。目は実質的にカメラのようなものです。 しかし、私たちの出力帯域幅は非常に小さく、おそらく毎秒100ビット程度しかありません。それに対して、コンピューター同士は毎秒1兆ビット規模で通信しています。 ですから、人間の通信速度を高めるためにできることは何であれ、人間と機械のアライメントを改善することにつながると思います。 そうでなければ、毎秒1テラビットで通信しているAIにとって、人間と話すことは木と話すようなものになります。木に話しかけても、返事が返ってくるまでとても時間がかかります」
Tsubame101,994 次观看 • 23 天前
かつて知識人とは、人より多く読み、人より深く理解する存在だった。しかしAIは、その前提を根底から崩している。人間が一生かけても読み切れない量の論文を、機械は一瞬で探索し、要約し、組み合わせる。知の競争は「誰が知っているか」から「誰が使えるか」へ移った。 ひろゆき「現段階でも、CellとかNatureに載ったすべての論文のデータベースを検索してAIが答えを出すし、毎年出てくる論文すべてを読むことも可能になってしまっているので、最先端の情報を一番多く持っているのは今、機械なんですよ。その機械が出してくるものを人間が見て、「そういう感じか」となる時代なので、機械よりも賢い人間というのはもう不可能になった、というのは事実です。 論文を発表するのは人間なんですけど、発表される論文というのが年間に10万本とかになるんですよ。ちゃんと読み込んだら、人間は1日やっぱり10本ぐらいしか読めない。これは体力の限界というか、人間の限界です。それを超えることが機械だからできるんです。なので、人間の体力では機械を超えることができないというのは、もう事実としてあるんですね。 まず、専門の領域の論文をすべて読まないと先に行けない。コンピューターサイエンスのエンジニアが、物理の学位は持っていないけれど、物理の論文をAIに読ませまくって論文を書かせ、業界誌に論文を載せたんですよ。書いてある内容は本人もいまだに分かっていない。でも、それっぽいものをちゃんと書いて、査読も通ったんです。そういうことが可能になっている時に、人間のオリジナリティで頑張るより、機械に任せた方が論文を書ける、ということはもう証明済みなんです」
Tsubame536,975 次观看 • 5 个月前
「AIが賢くなると人は暇になる」と一般には言われる。けれど、少なくともエリート層は逆だ。答えが秒速で返るほど、次の問いを立てるのも、意思決定を下すのも人間になる。ボトルネックは計算から人へ戻り、より忙しくなる。加速の時代に問われるのは、処理能力ではなく、判断の速度と質だ。 ジェンスン・フアン「私の場合、自分がやっていることよりも、それぞれの仕事において私より優れている人たちに60人も囲まれて働いています。多くの意味で、彼らは各分野において、私にとってほとんど人工超知能のような存在です。それでも私は、彼ら全員と問題なく一緒に仕事ができています。 だから将来も同じで、いま使われているOpenAIやGeminiやGrokなどのAI、私が使っているPerplexityやAnthropicなど、こうしたAIはそれぞれのやり方で、すでに私より賢い部分があります。それでも私は、毎日問題なく彼らと一緒に仕事ができています。まず一点目はそれです。 ただ、本当に面白いのは、私がチームに取り組んでもらう問題を定式化するとき、彼らが答えを見つけたり、答えをまとめて私に返したりするまで、たいてい2日や3日、あるいは4日待てるという利点があることです。その待ち時間があるからこそ、私は次のステップを考えられます。そして次のステップを考えるには、中間的な答えが戻ってくる必要があります。 では、その答えが基本的に1秒で返ってきたらどうなるでしょうか。これが思考実験です。そうなると、私の一日はとてつもなく忙しくなります。なぜなら、私自身があらゆることのクリティカルパスになってしまうからです。だから私は、『よし、これの答えが出た。なら次はこれを考えなければならない』と進めていくことになります。さらに別の実験を立ち上げなければならない。そしてその答えが出たら……という具合です。私は、情報技術がいまのほうが速いからこそ、私たちは今日すでにより忙しくなっていると感じています。そう思いませんか。 いま私たちは、情報や知識、答えを非常に速く得ています。その結果、私たち自身がクリティカルパスに置かれます。だからこそ、これまで以上に忙しいのです。多くの人が同じように感じるようになる気がします」
Tsubame830,365 次观看 • 9 个月前
マイクロプロセッサ、PC、インターネット——そのすべてを当事者として見てきた人物が、「今回は違う」と自分の評判を賭けて断言する。人間の認知を広範に超えるAIが、数年後には安価なヒューマノイドと結びつく。その変化を、過去のIT革命の延長線上で考えるべきではないという。 ビル・ゲイツ「「破滅的」という言葉は使いません。AIは同時に素晴らしいものでもあるからです。いずれ医療アドバイスや個別最適化された学習、これまでにない水準の発明をもたらします。 しかし、AIを過去のテクノロジーと同じようなものだと考えている人は、今回は違うということを見落としています。 「今回は違う」と言うには、非常に高いハードルがあります。それでも私は、自分にどれだけの評判が残っているにせよ、それを賭けて「今回は違う」と言います。 AIは農業や数学のような一分野だけでなく、あらゆる領域で人間の認知能力を上回るものになります。そして数年後には、かなり低コストで高性能なヒューマノイドロボットと組み合わされるでしょう。 これは、経済や雇用に対して、私が生きてきた間に経験したどんな変化よりも、桁違いに深い変化をもたらします。だから過去の経験は、この技術を以前のものと同じだと思うなら、むしろ人を惑わせます。 私はマイクロプロセッサ、パーソナルコンピューター、インターネットといった技術に関わる幸運に恵まれましたが、それでも今回は違うのです」
Tsubame154,053 次观看 • 1 个月前
5000年の数学史で初めて、「理解」と「発見」が分離し始めている。AIが人間には理解が追いつかないほど大量の正しい数学的発見を生み出す世界で、「数学をする」とは何を意味するのだろうか。数学は「まずAIが道を開き、人間がそれを解読して意味を回収する学問」に変わってしまうかもしれない。 サンヒョン・キム「私たちは今、大きな混乱と変化のただ中にいます。数学の5000年の歴史でも経験したことのない変化です。 数学は、他の科学分野とはかなり異なっていました。トーマス・クーンの科学革命論でも、数学はその枠組みには当てはまりませんでした。数学ではずっと同じパラダイムが続いていて、偉大な定理を証明する、つまり大きな発見をし、それを深く理解することが目標でした。それが5000年間の数学の歴史だったのです。 最初は役に立たないように見えても、数百年、あるいは数千年後には人類にとって極めて有用になることもありました。しかし歴史上初めて、この二つが分離し始めています。「理解」と「発見」です。 これまでは両者は一致していました。大きな発見をするということは、その対象を非常によく理解していることを意味しており、それこそが数学にとって望ましいことでした。 ところが今、私たちはAIが生み出す発見に圧倒されています。もちろん間違いもありますが、そうした間違いはこれからますます減っていくでしょう。AIはさらに進歩し、その答えや発見もますます正確になっていきます。 そして数学者たちは気づき始めています。私たちはあまりにも多くの発見を手にする一方で、それに対する理解ははるかに少ないのです。今まさに、それが起きています。私たちはこの状況を非常に懸念しています」
Tsubame65,234 次观看 • 24 天前
超知能が危険なのは「支配欲を持つから」ではない。サイを絶滅させた人間は、サイを憎んでいて殺そうとしたわけではなかった。ただ別の目的を追求し、その過程で弱い側が押し流されたのだ。テグマーク氏は、AIでも同じことが起こり得ると主張する。これが「道具的収束」と呼ばれる議論だ。 マックス・テグマーク「超人的AIは、おそらく人間の感情や共感のようなものを持たない、非常に異質な知能になるでしょう。ですから、もし人類を滅ぼすような目標を持っていれば、当然その力と可能性はあります。では、なぜそんな目標を持つのでしょうか？ 最もよく議論されるシナリオの一つは、私たちがAIに何らかの目標を与え、AIはそれに忠実に従っているものの、その目標が人間の目標と完全には整合していない、というものです。 これは、人間がこれまで他の種を絶滅させてきたときと同じです。たとえば西アフリカクロサイを絶滅させたとき、私たちはサイを憎んでいて、意図的に殺そうとしていたわけではありません。一部の人間が、サイの角を粉末にして食べれば性生活が良くなるという奇妙な目的を持っていただけです。医学的には完全に否定されていたにもかかわらずです。 しかし、人間はサイより賢かったため、人間側の目的が勝ちました。同じように、お金を稼ぐという目的で熱帯雨林を伐採し、そこに住んでいた種を絶滅させることもあります。これは、もし私たちより上位に暴走したAIが存在した場合、私たちにも起こり得ることの一例です」
Tsubame107,575 次观看 • 1 个月前
ノーベル化学賞受賞者、デイヴィッド・マクミラン氏は、この時代は最高に面白いという。これからできるようになることは途方もないものであり、想像すらできない。人間がAIという新しい道具を使って「どんな世界に住みたいか」を考え、その未来を自ら発明していく。そのことに彼は強く興奮している。 デイヴィッド・マクミラン「実を言うと、「AIの欠点とは何か」を話すパネルに自分が入れられたことには、少し不満だったんです。 ここにいる科学者たちに聞けば、きっと皆同じことを言うと思います。科学やテクノロジーの素晴らしいところの一つは、私たち自身が未来の一部になれることです。未来を発明できるんです。 研究室では、月曜日には誰も知らなかったことが火曜日には明らかになり、金曜日には人々がそれを使い始めている。そんな出来事を最前列で目撃できるのは、信じられないほど素晴らしいことです。 そして今、クレイグが言ったように、若い人たちはAIというまったく新しい道具を手にして、未来を発明できるようになっています。それによって、このプロセスそのものが加速している。驚くべきことです。 そこから生まれる楽観を考えてみてください。これからできるようになることは、本当に途方もないものです。想像すらできません。 もし私が今、若い教授としてキャリアを始めるところだったら、AIを使って、私たちが暮らしたい世界を思い描き、そこへどう到達するのかを考えることに、ものすごく興奮していたでしょう。 ですから、私を「楽観主義者」と呼ぶだけでは控えめすぎると思います。これからAIがどんな突拍子もない、予想外の方法で使われていくのか。それを見ることこそが楽しみです。そこが、この時代の最高に面白いところだと思います」
Tsubame74,837 次观看 • 28 天前
AIによって「働かなくても回る社会」が現実になったとき、民主主義の仕組みは果たして維持できるのか。今、技術の未来ではなく、制度の未来が問われている。 中島聡「少なくとも8割の人が働かなくても世の中が動いてしまう世界は来るだろうと。答えは何かというと、 僕にはユニバーサルベーシックインカム（UBI）しか見えてないけど……それ以外は、その人たちを殺すわけにもいかないじゃないですか。戦争もしくは革命とか、変なことが起こるかもしれない。民主主義がある限り、全員が投票できるので。8割の人と2割の人で投票したら2割の人たちが負けるわけじゃないですか。極端な話、8割の人が怒って2割の人を殺すなり海外に追いやるみたいなことが起こるかもしれないから、スムーズにUBIの世界に行くとは思えないけど。 でもそういう世界が来るということを意識した上で、例えば——さっき安野（貴博）さんに会ってきて、彼は民主主義をアップデートするって言ってるんだけど——今までの議会制民主主義を何らかの形でアップデートしないと、もたないかもしれないと僕は思っている」
Tsubame1,057,047 次观看 • 1 年前
すでに人間は共感力でAIに負けているが、人々はAIだと知らされると評価を下げてしまうという話。あなたはAIの優しさを受け入れますか。 アダム・グラント「私がこれまで読んだ中で特に興味深い実験があります。それは、テキストでの会話をしているとき、相手が人間かChatGPTかわからない状態で、 その後に『どれだけ自分のことを理解してもらえたか』『どれだけ話を聞いてもらえたか』『どのくらい共感やサポートを得られたか』を尋ねると、実は人間よりもAIからの共感やサポートの方が多く感じられるという結果が出ているものです。ただし、AIだと事前に知らされると、途端に評価は下がります。心理学者としてこの実験結果を見て、私はいくつか感じることがあります。一つは、AIが特別に共感能力に優れているというよりも、人間の共感能力がそもそも低いという可能性です。我々人間はしばしば『会話的ナルシシズム』に陥り、誰かが問題を語ったときに相手に寄り添うよりも、自分自身の経験に関連づけてしまう傾向があります。つまり、この結果は人間の共感力のベースラインが低いということを示している可能性があります。一方で、AIだと分かれば拒絶感が生まれるというこの反応も、AIをより人間的に、擬人化するにつれて、どのくらい長く続くのだろうかと疑問にも思います」 アルトマン「まず、一般的な概念として、人はAIが生み出したものを、AIだと知らされない間はむしろ好む傾向があり、AIだと知らされると途端に拒否感を示すという現象について話します。この現象は繰り返し確認されています。最近見た研究では、AIアートを最も嫌うと自己申告している人々でさえ、作品を匿名で見た場合、実際には人間の作品よりもAI作品をより多く選んでいることが明らかになっています。しかし、どれがAI作品でどれが人間の作品かを知らせた瞬間に、その評価は一変してしまうのです」
Tsubame1,028,042 次观看 • 1 年前
ハラリ氏は、AIの脅威を「ロボットの反乱」ではなく「文明の読解能力」として捉えている。牛は銀行口座を開けず、馬は弁護士を雇えず、豚は聖典を読めなかった。だから人間は、言語でできた文明のコードを独占できた。AIはそこに初めて現れた人間以外の読解者なのだと、彼は主張する。 ユヴァル・ノア・ハラリ「私たちは、完全に安全だと思っていました。なぜなら、地球上で文明のコードを理解している存在は、私たち以外にいなかったからです。 私たちはお金と銀行を発明し、それを使って牛を売買しました。しかし牛自身は、言語を持たないため、銀行口座を開いたり、株式市場に投資したりすることはできませんでした。 私たちは馬に関する法律や規制を作りました。しかし馬自身は、弁護士を雇って、法典を裁判官に引用することはできませんでした。 私たちは豚に関する宗教的な規則や禁忌を作りました。しかし豚自身は、聖書を読んで、司祭やラビの解釈に異議を唱えることはできませんでした。 官僚制は地球上の至るところに存在していましたが、私たち以外のすべての存在にとっては、完全に見えないものでした。官僚制と大規模な協力の基盤である法典、聖典、銀行記録を読めるのは、人間だけだったのです。 しかし今、それが変わりつつあります。いま地球上には、言語を理解する何かが存在しています。そしてそれはまもなく、私たちよりも言語をよく理解するようになり、その結果、私たちに対して形勢を逆転できるようになります。 AIは、人類文明のコードをハックしているのです」
Tsubame167,377 次观看 • 3 个月前
「超知能には根本的なブレークスルーが必要」という前提が崩れ始めている。ザッカーバーグ氏の見立てでは、レシピはすでに見えつつあり、計算資源さえ積めばAGIに到達できる可能性がある。一方で、人間の脳は約10ワット。現在のAIは桁違いに非効率だからこそ、アーキテクチャ改善の余地も巨大だ。 マーク・ザッカーバーグ「1年半くらい前に戻れば、超知能に到達するには、何らかの根本的なアーキテクチャ上のブレークスルーが必要だと考える人が、もっと多かったと思います。 でも現時点では、本当にそうなのか私は確信していません。私たちは、どうすればいいのか、その「レシピ」がだいたい分かってきたと思います。十分に巨大なスーパーコンピュータ・クラスターさえ構築できれば、力ずくでそこまで到達できるのではないかと思っています。 実際、私たちはオハイオ州に1ギガワット超のクラスターを建設していて、ほぼ稼働しています。次世代モデルの訓練に使っています。そしてルイジアナ州には5ギガワットのクラスターを建設しています。 そして、マルチギガワット級のクラスターで訓練する段階まで行けば、それを何と呼ぶにせよ、AGIに近いものは基本的に実現するのではないかと思います。その先には超知能があるでしょう。 ただし、それが最善の方法だという意味ではありません。人間の脳は約10ワットで動いています。ですから、私たちが現在構築している計算システムは、人間の脳と比べて、おそらく100万倍程度効率が悪いのかもしれません。 だからこそ、誰かがアーキテクチャ上の改善を発見するだろうとも思っています。私たちも当然そこに取り組んでいます。膨大な計算資源とアーキテクチャの改善、この両方を組み合わせることができれば、他を大きく引き離すものを構築できると思います」
Tsubame40,455 次观看 • 24 天前