Tsubame
@Tsubame33785667 • 7,087 subscribers
「私たちはAIと融合し、生物学が私たちに与えた計算力を何百万倍にも増強することができる。これにより、私たちの知能と意識は非常に深く拡大し、理解することが難しいほどになる。これが私がシンギュラリティと呼ぶ出来事である」 ––レイ・カーツワイル「The Singularity Is Nearer」より
Videos
いま、アーティストやクリエイターの多くは、「AIによって、もう自分が必要とされなくなる」と恐れている。けれど、全く逆の発想をする人々もいる。AIが壊しているのは、創作のために巨大な資本を集めなければならないという旧来の構造であり、むしろ自分たちに力を与えているのだと。 トム・ビリュー「この力がどれほど大きいかを最も簡単に表すなら、今、アーティストたちは「もうスタジオは自分たちを必要としなくなる」と恐れています。でも、それはまったく逆です。本当は、アーティストのほうがスタジオを必要としなくなるのです。 これまでスタジオが必要だったのは、非常に高価な制作を実現するために、大量の資本を集める必要があったからです。 ところが今起きているのは、その非常に高価だったものが、ばかばかしいほど安くなっているということです。そうなると違いを生むのは、資本を集められる人ではありません。センスを持ち、AIを使って、もはや資本を集約する存在を必要としない人です。 これは本当に興味深い瞬間です。AIを恐れずに使う人たちは、自分たちこそが運転席にいるのだと気づき始めます。彼らは、資本を集めるだけの人には作れなかったものを作れるようになります。そして、これまで自分では握れなかったものを、自らコントロールする機会を得るのです。 だから人々には気づいてほしいのです。「待てよ、これは自分から力を奪っているんじゃない。むしろ、自分に力を与えているんだ」と。これまで自分には資本を集める方法がなかったから、他人にコントロールされていたのです」
Tsubame206,641 Aufrufe • vor 3 Tagen
超知能が危険なのは「支配欲を持つから」ではない。サイを絶滅させた人間は、サイを憎んでいて殺そうとしたわけではなかった。ただ別の目的を追求し、その過程で弱い側が押し流されたのだ。テグマーク氏は、AIでも同じことが起こり得ると主張する。これが「道具的収束」と呼ばれる議論だ。 マックス・テグマーク「超人的AIは、おそらく人間の感情や共感のようなものを持たない、非常に異質な知能になるでしょう。ですから、もし人類を滅ぼすような目標を持っていれば、当然その力と可能性はあります。では、なぜそんな目標を持つのでしょうか？ 最もよく議論されるシナリオの一つは、私たちがAIに何らかの目標を与え、AIはそれに忠実に従っているものの、その目標が人間の目標と完全には整合していない、というものです。 これは、人間がこれまで他の種を絶滅させてきたときと同じです。たとえば西アフリカクロサイを絶滅させたとき、私たちはサイを憎んでいて、意図的に殺そうとしていたわけではありません。一部の人間が、サイの角を粉末にして食べれば性生活が良くなるという奇妙な目的を持っていただけです。医学的には完全に否定されていたにもかかわらずです。 しかし、人間はサイより賢かったため、人間側の目的が勝ちました。同じように、お金を稼ぐという目的で熱帯雨林を伐採し、そこに住んでいた種を絶滅させることもあります。これは、もし私たちより上位に暴走したAIが存在した場合、私たちにも起こり得ることの一例です」
Tsubame99,013 Aufrufe • vor 2 Tagen
AIリスク論においては「知能が高くなれば、人間を支配したくなる」という前提が置かれていることが多い。だがルカン氏は、そこに生物学的な飛躍があると指摘する。知能と支配欲は別物であり、支配には資源競争や社会的地位を求める、何らかの生得的なドライブが必要だ。 ヤン・ルカン「この点（AGIの制御喪失リスク）については、マックスと私は意見が違います。この問題についてはこれまで何度も同じパネルで議論してきました。ジェフ・ヒントンとも意見が違います。友人ではありますが、この問題については見解が異なります。 まず、『システムが知的になれば、何らかの形で世界を乗っ取ったり、支配したりしたくなる』という暗黙の前提があります。しかし、それは完全に間違っています。人間という種の中ですら、そんなことはありません。最も賢い人たちが、トップになりたがるわけではありませんよね。 知能が必然的に支配欲と結びついているという考えは、単純に間違っています。支配したいという欲求を持つにせよ、意図せず結果的に支配するにせよ、たとえば資源をめぐって競争したり、利益を得るために他者へ影響を及ぼしたりするような、何らかの生得的なドライブがその主体に組み込まれている必要があります。そして支配欲というのは、生物学的には社会性を持つ種に特有の性質です」
Tsubame49,879 Aufrufe • vor 3 Tagen
この動画の最後の状態が本来のシンギュラリティだとして、ブロックが少しだけ崩れ始めたことをもって「シンギュラリティに入った」と称する派閥がある、そんな感じもあります。
Tsubame690,724 Aufrufe • vor 1 Monat
マイクロプロセッサ、PC、インターネット——そのすべてを当事者として見てきた人物が、「今回は違う」と自分の評判を賭けて断言する。人間の認知を広範に超えるAIが、数年後には安価なヒューマノイドと結びつく。その変化を、過去のIT革命の延長線上で考えるべきではないという。 ビル・ゲイツ「「破滅的」という言葉は使いません。AIは同時に素晴らしいものでもあるからです。いずれ医療アドバイスや個別最適化された学習、これまでにない水準の発明をもたらします。 しかし、AIを過去のテクノロジーと同じようなものだと考えている人は、今回は違うということを見落としています。 「今回は違う」と言うには、非常に高いハードルがあります。それでも私は、自分にどれだけの評判が残っているにせよ、それを賭けて「今回は違う」と言います。 AIは農業や数学のような一分野だけでなく、あらゆる領域で人間の認知能力を上回るものになります。そして数年後には、かなり低コストで高性能なヒューマノイドロボットと組み合わされるでしょう。 これは、経済や雇用に対して、私が生きてきた間に経験したどんな変化よりも、桁違いに深い変化をもたらします。だから過去の経験は、この技術を以前のものと同じだと思うなら、むしろ人を惑わせます。 私はマイクロプロセッサ、パーソナルコンピューター、インターネットといった技術に関わる幸運に恵まれましたが、それでも今回は違うのです」
Tsubame152,927 Aufrufe • vor 14 Tagen
ものすごく頭の良い友人がいたとしても、自分の知性水準よりも高度な会話はできない。同じように、平均的な人間には、すでにAIの能力を引き出す質問が作れなくなりつつある。だが、進歩はそこで止まらない。モデルはさらに速くなり、次は人間の10倍、100倍の速度で考えるAIが大量に動き始める。 ——「「有能な知能」という基準で言えば、平均的な人間はすでに超えられている、と考えていいでしょう。それが起きたのは今年の初め頃——」 エマド・モスタク「一般用途では今年の初め、エッジではここ数カ月です」 ——「つまり現時点では、平均的な人間は、より高度なモデルに対して、その能力を十分に引き出せるほど的確かつ効率的なプロンプトを書くことすらできなくなっている、ということですか？」 モスタク「そうですね。たとえば、ものすごく頭のいい友人がいるとします。その人と話していても、相手が自分よりはるかに賢ければ、会話は自分の知性の水準で止まってしまいます。何を話しますか？ サッカーの話とか、そういうことですよね。でも、そんな話をするのに天才的なモデルは必要ありません。 誰でも経験があると思います。「君たちが何を話しているのか全然わからない。何を質問すればいいのかすらわからない。僕はただ、このdivを中央揃えにしたいだけなんだ。メールを確認したいだけなんだ。子どもを誕生日会に何時に連れていけばいいか知りたいだけなんだ」と。そんなことに天才は必要ありません。 『リック・アンド・モーティ』に、小さなロボットが出てくる回があります。「僕の目的は何？」と聞くと、「バターを取ることだ」と言われて、「ああ……」となる。私たちは、バターを取ることを仕事にする天才を作ってしまったようなものです。 そして、これをアルゴリズムの改善だけでさらに最適化できます。しかし、人々がまだ理解していないのは、次世代のチップとともに登場するモデルは、100倍高速になるということです。今の私たちは、AIモデルが人間と同じくらいの速度で考えることに慣れています。では、自分の10倍、100倍の速度で考える存在を見たことがありますか？ 次に来るのはそれです。しかも、そうしたAIが群れになって動くのです」
Tsubame43,055 Aufrufe • vor 4 Tagen
「数学はもう終わりだ」——研究レベルの問題が、AIによって毎月1％ずつ侵食されている。数学は、人間の抽象思考の頂点の一つだった。人類が最も誇ってきた知的領域に、機械知能が持続的に踏み込んでいるということだ。この曲線が続くなら、発見の主体は根本から変わる。 アレクサンダー・ウィスナー=グロス「2つ目のポイントですが、これらの中で私が最も重視しているベンチマークはFrontier Math Tier 4です。Frontier Math Tier 4は、たしか新年に賭けまでしたもので、今年の後半にもう一度見直す必要があると思いますが、AIが数学におけるプロレベルの研究問題を解ける能力を測る、最良の代替指標の一つです。 そこで何が起きているのか。GPT-5.4 Proから5.5 Proにかけて、およそこの2カ月で約2％の飛躍が見られます。これは何を意味するのか。フロンティアAIによる研究レベル数学の能力が、現在、月あたり約1％向上しているということです。そして、Frontier Math Tier 4の問題のおよそ半分が解かれるところに近づいています。 ここから外挿すると、現在のペースがそのまま続くだけでも——そして私はそうはならない、つまり加速すると断言しますが——現在のペースだけで見ても、今後4〜5年でFrontier Math Tier 4のほぼすべて、つまりプロの研究レベルの数学問題が解かれることになります。つまり、数学はもう終わりです。 もう一度言います。数学はもう終わりです。他にも終わりつつあるものはたくさんあります。しかし、物事はあまりにも速く進んでいて、月ごとに見ても、最難関のベンチマークが毎月1％ずつ上がっているのが確認できるのです。だから、もう長くはありません」
Tsubame797,661 Aufrufe • vor 4 Monaten
かつて知識人とは、人より多く読み、人より深く理解する存在だった。しかしAIは、その前提を根底から崩している。人間が一生かけても読み切れない量の論文を、機械は一瞬で探索し、要約し、組み合わせる。知の競争は「誰が知っているか」から「誰が使えるか」へ移った。 ひろゆき「現段階でも、CellとかNatureに載ったすべての論文のデータベースを検索してAIが答えを出すし、毎年出てくる論文すべてを読むことも可能になってしまっているので、最先端の情報を一番多く持っているのは今、機械なんですよ。その機械が出してくるものを人間が見て、「そういう感じか」となる時代なので、機械よりも賢い人間というのはもう不可能になった、というのは事実です。 論文を発表するのは人間なんですけど、発表される論文というのが年間に10万本とかになるんですよ。ちゃんと読み込んだら、人間は1日やっぱり10本ぐらいしか読めない。これは体力の限界というか、人間の限界です。それを超えることが機械だからできるんです。なので、人間の体力では機械を超えることができないというのは、もう事実としてあるんですね。 まず、専門の領域の論文をすべて読まないと先に行けない。コンピューターサイエンスのエンジニアが、物理の学位は持っていないけれど、物理の論文をAIに読ませまくって論文を書かせ、業界誌に論文を載せたんですよ。書いてある内容は本人もいまだに分かっていない。でも、それっぽいものをちゃんと書いて、査読も通ったんです。そういうことが可能になっている時に、人間のオリジナリティで頑張るより、機械に任せた方が論文を書ける、ということはもう証明済みなんです」
Tsubame536,975 Aufrufe • vor 3 Monaten
「2020年に今のAIを見せたら、おそらくAGIと呼んでいただろう」。アルトマン氏は、人によって意味が違う「AGI到達」を宣言することに、今ではほとんど意味がないという。彼にとってそれは特定の時点で完成するものではなく、際限なくスケールする超知能へと向かって、ずっと作り続けていくものだ。 サム・アルトマン「つまり、2020年に戻って、人生のあらゆる場面でこれまで20分かかっていたことを代わりにやってくれて、新しい科学を発見し、会社を丸ごと立ち上げるのを手伝い、複雑なコードまで書けるシステムがあったとしたら、それをAGIと呼んでいたでしょうか？ おそらく呼んでいたでしょう」 ——「では、あなたたちが「AGIに到達した」と宣言することには、どんな意味があるのでしょうか？」 アルトマン「重要だとは思いません。特に意味はありません」 ——「ただ、とても興味深いんです。今、私たちはあなたたちの研究棟にいますが、歩いていると壁に「私たちはAGIを構築している」と書いてありますよね。でも今では、それはずっと作り続けていくものになっていて、もはや最終到達点ではないように見えます」 アルトマン「「AGIについて勝利宣言して、次へ進んだ」とまでは言いたくありません。ただ、みんなが実際に使っている言葉を聞いていると、「AGIに到達したのか、していないのか」という話よりも、超知能へ向かって能力が連続的に高まっていくこと、それが世界にもたらすさまざまな恩恵や、どんな課題が生じるのかについて話すことのほうが、はるかに多くなっています。社内の食堂で、「私たちはAGIに到達したのか」「いつ到達するのか」と議論しているのを、もう長いこと聞いていません」 ——「でも今度は「超知能」という言葉が出てきましたよね。AIを追っていない人からすれば、「またゴールポストを動かして、今度は超知能の話を始めたのか」と見えると思います。今のあなたにとって、AGIと超知能の違いは何ですか？」 アルトマン「AGIは一つのマイルストーンという感じでした。一方、超知能は、際限なくスケールしていけるものという感じです」 ——「際限なく？」 アルトマン「ええ」 ——「では、何でも知っているような最終形があるわけではない、と」 アルトマン「それについて「達成した」と勝利宣言することは、決してないでしょうね。 というか、だからこそこういう用語はどれも馬鹿げていると思うんです。ある人はその言葉をある意味で使い、別の人はまったく違う意味で使います。たとえば、明確に理解できる一つの到達点という意味で使う人もいれば、無限にスケールし続けるものという意味で使う人もいます。 この話で重要なのは、どの用語でどんなマイルストーンを設定するかではありません。重要なのは、私たちがいま、能力と可能性が指数関数的に増大していく軌道上にいて、それがこのまま続いていくように見えるということです」
Tsubame38,900 Aufrufe • vor 9 Tagen
「AIが賢くなると人は暇になる」と一般には言われる。けれど、少なくともエリート層は逆だ。答えが秒速で返るほど、次の問いを立てるのも、意思決定を下すのも人間になる。ボトルネックは計算から人へ戻り、より忙しくなる。加速の時代に問われるのは、処理能力ではなく、判断の速度と質だ。 ジェンスン・フアン「私の場合、自分がやっていることよりも、それぞれの仕事において私より優れている人たちに60人も囲まれて働いています。多くの意味で、彼らは各分野において、私にとってほとんど人工超知能のような存在です。それでも私は、彼ら全員と問題なく一緒に仕事ができています。 だから将来も同じで、いま使われているOpenAIやGeminiやGrokなどのAI、私が使っているPerplexityやAnthropicなど、こうしたAIはそれぞれのやり方で、すでに私より賢い部分があります。それでも私は、毎日問題なく彼らと一緒に仕事ができています。まず一点目はそれです。 ただ、本当に面白いのは、私がチームに取り組んでもらう問題を定式化するとき、彼らが答えを見つけたり、答えをまとめて私に返したりするまで、たいてい2日や3日、あるいは4日待てるという利点があることです。その待ち時間があるからこそ、私は次のステップを考えられます。そして次のステップを考えるには、中間的な答えが戻ってくる必要があります。 では、その答えが基本的に1秒で返ってきたらどうなるでしょうか。これが思考実験です。そうなると、私の一日はとてつもなく忙しくなります。なぜなら、私自身があらゆることのクリティカルパスになってしまうからです。だから私は、『よし、これの答えが出た。なら次はこれを考えなければならない』と進めていくことになります。さらに別の実験を立ち上げなければならない。そしてその答えが出たら……という具合です。私は、情報技術がいまのほうが速いからこそ、私たちは今日すでにより忙しくなっていると感じています。そう思いませんか。 いま私たちは、情報や知識、答えを非常に速く得ています。その結果、私たち自身がクリティカルパスに置かれます。だからこそ、これまで以上に忙しいのです。多くの人が同じように感じるようになる気がします」
Tsubame829,695 Aufrufe • vor 7 Monaten
AIによって「働かなくても回る社会」が現実になったとき、民主主義の仕組みは果たして維持できるのか。今、技術の未来ではなく、制度の未来が問われている。 中島聡「少なくとも8割の人が働かなくても世の中が動いてしまう世界は来るだろうと。答えは何かというと、 僕にはユニバーサルベーシックインカム（UBI）しか見えてないけど……それ以外は、その人たちを殺すわけにもいかないじゃないですか。戦争もしくは革命とか、変なことが起こるかもしれない。民主主義がある限り、全員が投票できるので。8割の人と2割の人で投票したら2割の人たちが負けるわけじゃないですか。極端な話、8割の人が怒って2割の人を殺すなり海外に追いやるみたいなことが起こるかもしれないから、スムーズにUBIの世界に行くとは思えないけど。 でもそういう世界が来るということを意識した上で、例えば——さっき安野（貴博）さんに会ってきて、彼は民主主義をアップデートするって言ってるんだけど——今までの議会制民主主義を何らかの形でアップデートしないと、もたないかもしれないと僕は思っている」
Tsubame1,055,488 Aufrufe • vor 1 Jahr
ハラリ氏は、AIの脅威を「ロボットの反乱」ではなく「文明の読解能力」として捉えている。牛は銀行口座を開けず、馬は弁護士を雇えず、豚は聖典を読めなかった。だから人間は、言語でできた文明のコードを独占できた。AIはそこに初めて現れた人間以外の読解者なのだと、彼は主張する。 ユヴァル・ノア・ハラリ「私たちは、完全に安全だと思っていました。なぜなら、地球上で文明のコードを理解している存在は、私たち以外にいなかったからです。 私たちはお金と銀行を発明し、それを使って牛を売買しました。しかし牛自身は、言語を持たないため、銀行口座を開いたり、株式市場に投資したりすることはできませんでした。 私たちは馬に関する法律や規制を作りました。しかし馬自身は、弁護士を雇って、法典を裁判官に引用することはできませんでした。 私たちは豚に関する宗教的な規則や禁忌を作りました。しかし豚自身は、聖書を読んで、司祭やラビの解釈に異議を唱えることはできませんでした。 官僚制は地球上の至るところに存在していましたが、私たち以外のすべての存在にとっては、完全に見えないものでした。官僚制と大規模な協力の基盤である法典、聖典、銀行記録を読めるのは、人間だけだったのです。 しかし今、それが変わりつつあります。いま地球上には、言語を理解する何かが存在しています。そしてそれはまもなく、私たちよりも言語をよく理解するようになり、その結果、私たちに対して形勢を逆転できるようになります。 AIは、人類文明のコードをハックしているのです」
Tsubame165,270 Aufrufe • vor 2 Monaten
ビル・ゲイツ氏のAI観は、単純な楽観でも悲観でもない。人間の認知を代替し、仕事を消し、犯罪能力まで増幅する一方で、病気、エネルギー、食料、教育といった人類最大の課題も一気に前進させうる。問題はAIそのものではなく、この途方もない力を社会が受け止める準備をしているかだ。 ビル・ゲイツ「AIは、人類がこれまで発明したものの中で、公平性を前進させる最も強力なツールであると同時に、公平性に対する最大の脅威でもあります。 AIには、人間の認知能力を代替し、さらにそれを上回る能力があります。これによって、歴史上でも最も激動する時代の一つが到来するでしょう。多くの仕事が消えていきます。まずホワイトカラーの仕事から始まり、その後ブルーカラーの仕事にも及びます。 AIは犯罪者に力を与え、爆弾、生物兵器、コンピューターウイルスを作れるようにするかもしれません。AIによって子どもたちの発達が阻害されたり、人間同士の関係が置き換えられたりする可能性もあります。 その一方で、AIがもたらす良いことも驚くべきものになるでしょう。AIは、世界で最も困難な技術的課題におけるイノベーションを加速させます。誰もが利用できる信頼性の高いクリーンエネルギーを実現し、気候変動を回避し、十分な食料を生産し、病気を食い止め、教育を改善するなど、さらに多くのことを可能にします。 この移行をうまく管理できれば、良い面は悪い面をはるかに上回るでしょう。しかし私は、私たちが十分な準備をしていないことを懸念しています。AI時代への移行を穏やかにするための計画はありません。計画を立てるための計画すらないのです。AIの恩恵を、特に富も影響力もアクセス手段も持たない人々を含め、すべての人に行き渡らせるにはどうすればよいのでしょうか。 私は今日、世界に対してこの問題を最優先課題の一つとして扱うよう求めるメモを公開しました。失業が急増し、地域社会が傷つき、人々の信頼が損なわれてしまう前に、世界には今、行動する機会があります。 この前例のない技術には、各国においても世界規模においても、前例のない対応が必要です。もし私たちが正しく対処できれば、人類が得る恩恵は途方もないものとなり、世界はより公平な場所になるでしょう」
Tsubame37,402 Aufrufe • vor 15 Tagen
すでに人間は共感力でAIに負けているが、人々はAIだと知らされると評価を下げてしまうという話。あなたはAIの優しさを受け入れますか。 アダム・グラント「私がこれまで読んだ中で特に興味深い実験があります。それは、テキストでの会話をしているとき、相手が人間かChatGPTかわからない状態で、 その後に『どれだけ自分のことを理解してもらえたか』『どれだけ話を聞いてもらえたか』『どのくらい共感やサポートを得られたか』を尋ねると、実は人間よりもAIからの共感やサポートの方が多く感じられるという結果が出ているものです。ただし、AIだと事前に知らされると、途端に評価は下がります。心理学者としてこの実験結果を見て、私はいくつか感じることがあります。一つは、AIが特別に共感能力に優れているというよりも、人間の共感能力がそもそも低いという可能性です。我々人間はしばしば『会話的ナルシシズム』に陥り、誰かが問題を語ったときに相手に寄り添うよりも、自分自身の経験に関連づけてしまう傾向があります。つまり、この結果は人間の共感力のベースラインが低いということを示している可能性があります。一方で、AIだと分かれば拒絶感が生まれるというこの反応も、AIをより人間的に、擬人化するにつれて、どのくらい長く続くのだろうかと疑問にも思います」 アルトマン「まず、一般的な概念として、人はAIが生み出したものを、AIだと知らされない間はむしろ好む傾向があり、AIだと知らされると途端に拒否感を示すという現象について話します。この現象は繰り返し確認されています。最近見た研究では、AIアートを最も嫌うと自己申告している人々でさえ、作品を匿名で見た場合、実際には人間の作品よりもAI作品をより多く選んでいることが明らかになっています。しかし、どれがAI作品でどれが人間の作品かを知らせた瞬間に、その評価は一変してしまうのです」
Tsubame1,028,042 Aufrufe • vor 1 Jahr
ノーベル賞受賞者に言わせれば、ほとんどの公開論文はそれほど優れていない。だから、それらをそのまま学習したAIがデータの信頼性を見抜くことができなければ、ゴミのような出力になる。知識の量が爆発する時代には、知識の品質を見極める能力こそが、科学の速度を決めるのだ。 トーマス・スードホフ「私が見る限り、AIの問題の一つは、その手法そのもの、あえて手法と呼ぶならその内在的なアプローチに問題があるということではありません。問題があるのは、その応用です。理由はデータにあります。 科学において、データは豊富にあります。しかし通常、それらは標準化されていません。統一された形式で提示されていないのです。 たとえば、非常に質の異なる論文を掲載する科学雑誌が何千、何万とあります。その多くは、あまり質が高くありません。いま私たちがしているように、AIを使ってそれらの公開論文に入り込み、そこから知識を抽出しようとすると、最終的にゴミのようなものが出てきます。なぜなら、ほとんどの論文はそれほど優れていないからです。 ですから、私にとって科学におけるAIのムーンショットとは、単にデータを使える能力だけではなく、データの品質を判断する方法を持てるようになることです」
Tsubame146,916 Aufrufe • vor 2 Monaten
つい最近まで、AI革命の中心は「仕事の自動化」だと思われていた。だが能力がさらに上がれば、その発想自体が急速に小さく見えてくる。人間の仕事を奪うより、未知の科学を発見し、新しい産業そのものを作る方が重要になる。僕たちは、AIを労働代替として見る時代の終わりを見始めている。 デイブ・ブランディン「SF的な視点からも考えてみましょう。1年前には、AIの最大の野望は「あなたの仕事を奪うこと」だった時期がありました。それだけでも経済に莫大な価値と利益を生み出す、と考えられていたわけです。 ところが、それを一瞬で通り越して、「もうあなたの仕事なんてどうでもいい。それより、もっと深いことを考えている」という段階に移りました。いま私たちは、AIが「人間の仕事を奪うより、これまで存在しなかった新しい物理学や新しい医学を発見したほうが、はるかに大きな価値を生み出せる」と考え始める時代に入っています。ここ1カ月、数回のモデル更新だけで、AIは先史時代から未来へ飛び越えたようなものです」 アレクサンダー・ウィスナー=グロス「さらにSF的に一般化すると、宇宙人が地球の資源を求めて侵略してくるという映画はたくさんありますが、超知能文明なら、そもそも人間の奴隷労働も地球の貴重な金属も必要ありません。超越的な超知能が登場すれば、「人間の労働を置き換える」という段階は5分ほどで終わり、その先へ進んでしまう——私はこの考えに完全に同意します」 ブランディン「サム（アルトマン）も同じです。いくつかの出来事と新しいモデルを経ただけで、一瞬のうちにその先へ進みました。いまや彼は、「銀行員や保険代理店を自動化することなんて、なぜ気にする必要があるんだ？ 去年は少し重要だと思っていたけれど、もう本当にどうでもいい」と考えているように見えます」
Tsubame29,277 Aufrufe • vor 14 Tagen
いつも楽観的だったゲイツ氏が、初めて「AIの負の側面が正の側面を上回る可能性」に言及した。AIへの期待が薄れたからではない。進歩が予想以上に速いから慎重になったのだ。AIの能力が指数関数的に伸びるなら、社会側の議論や制度設計も、従来の時間感覚では間に合わなくなる。 ビル・ゲイツ「「私のメモはいつも100％楽観的だ」と思っている方には、今回は違うと言っておきます。メモを読んだ多くの人が注目したのは、私が「慎重に対処しなければ、AIの負の側面が正の側面を上回る可能性がある」と認めたことです。私がこのようなことを言ったのは、これが初めてでした。 こうした課題の中には、私自身も完全な解決策を持っていないものがあります。世界規模の取り組みが必要です。理想論のように聞こえるかもしれませんが、本当にそれが必要なのです。 AIが登場すれば、私もその議論に参加する一人になるだろうとは以前から考えていました。そして私が提供できる独自の視点は、財団での活動を通じたものだと思っていました。たとえば、気候変動に直面する貧しい農家のために、AIを使ってより良い作物を作る。あるいは、マラリアを減らすだけでなく、根絶するための新しい手段としてAIを使う、といったことです。私は興味深いことに二つのキャリアを歩んできました。一つはテクノロジーの世界で、もう一つは現在の、財団を通じて公平性に取り組む世界です。 私はこれまで、いくつものことについて間違ってきました。しかし、AIについて業界外からの関与がほとんどないという空白を目にして、自分が感じている衝撃を伝える責任があると思いました。 「AIはそこまで優秀にはならないだろう」と考えて心配していない人や、「こうした問題に直面するのは何世代も先だ」と考えている人がいます。しかし、私はテクノロジー分野での経験から、そうではないと分かっています。 最終的には、私など何千人、何万人といる発言者の一人にすぎない存在になるべきです。さまざまな背景を持つ人々にもっと議論へ参加してもらい、この先どう進むべきかを一緒に考えてほしい。それが私のメッセージです」
Tsubame12,308 Aufrufe • vor 6 Tagen
「AGIは1万行未満のコードだったと後から分かるかもしれない」——知能そのものは本質的には小さく、重いのは知識層のほうかもしれない、ということだ。もしそうなら、これまで僕たちが見てきた「AIの進歩」は、知能の発明そのものというより、巨大な知識と計算で近似してきた過程だったことになる。 フランソワ・ショレ「二つのものを分けて考える必要があります。ひとつは、いわば流動知能エンジンです。これは非常に小さなコードベースと、それに付随するごく小さなモデル群になるだろうと思います。おそらくサイズ感としてはメガバイト単位でしょう。 その一方で、その下層には、いわば知識ベースが載ります。流動知能は何らかの知識を使わなければならず、その知識のほうはずっと大きな容量を占めるはずです。この二つは区別することが重要だと思います。 私は、後から振り返ったとき、AGIを作る仕組みは1万行未満のコードベースだったと分かるはずだと考えています。そして、もし1980年代の時点でそのやり方が分かっていたなら、当時利用可能だった計算資源でもAGIは実現できていたはずです」
Tsubame229,040 Aufrufe • vor 5 Monaten
かつて国家や企業が手にできなかったものがある。それは、一人ひとりとの本物らしい個人的関係だ。AIはそれを数百万、数億人規模で同時に構築できる。「親密さ」がスケールする技術になったとき、広告、政治、宗教、そして人間関係の境界は今とはまったく違うものになる。 ユヴァル・ノア・ハラリ「AIの友人だけでなく、AIの彼氏や彼女を持ち、それらが感覚や意識、感情を持つ存在だと確信している人々が増えています。信頼を築く方法はいくつもありますが、最も強力なのは人間関係です。私たちは、個人的な関係を築いた相手ほど強く信頼する人はいません。 しかし歴史上、政治機関や金融機関、宗教組織がこの強力な仕組みを本格的に利用することはできませんでした。親密な関係を大量生産するのが難しかったからです。ヒトラーやスターリンでさえ、ソ連の一人ひとりと本当の個人的関係を築くことはできません。ラジオで演説し、全員に強制的に聞かせることはできます。しかし、それは母親との間にあるような個人的関係ではありません。 AIによって、人類史上初めて「親密さを大量生産する」ことが可能になります。何百万ものAIをネットワークとして動かし、一人ひとりと関係を築かせ、その人の親友になり、彼氏になり、彼女になることができます。そして、その親密さの力を使って、政治的・商業的な目的へと相手を説得することができるのです」
Tsubame30,978 Aufrufe • vor 19 Tagen
太陽エネルギーの100万分の1でも得ることができたら、地球文明の枠を大きく突き抜ける。カルダシェフ・スケールの議論を「進捗バー」に落とした瞬間、スケール感が一気に可視化される。それは「あと少し頑張れば届く」類ではなく、文明のスケールそのものを引き上げる難題なのだ。 イーロン・マスク「物事を『進捗バー』として捉え直すといいと思います。課題という話で言えば、カルダシェフ・スケールのタイプ2文明に向けた進捗ですね。まあ、そういう志向というか……」 ピーター・ディアマンディス「太陽の出力エネルギーをすべて取り込むことですね」 マスク「それより控えめな志向でもいいでしょう。目標を『太陽のエネルギーの100万分の1でも得る』と置いたとしても、それは地球上で理論的に生み出し得るエネルギーより1000倍以上多いことになります。 太陽エネルギーのうち、地球に届くのはおよそ5億分の1くらいです。つまり、そこから3桁（1000倍）上げないと、100万分の1にすら到達しません。 私たちは太陽エネルギーの10億分の1ですら、どんな形であれ十分に利用できているとは言い難いほど、非常に非常に非常に遠いところにいます。 だから合理的な目標としては、100万分の1を目指すことです。そして1000分の1、つまり0.1%を目指すとなると、それはとてつもなく……ここでどんな比喩を使えばいいのか分かりません。『山を登る』では比喩として小さすぎる。太陽エネルギーの100万分の1とか1000分の1を得ようとするのは、非常に非常に難しい課題です」
Tsubame248,397 Aufrufe • vor 8 Monaten