Tsubame
@Tsubame33785667 • 7,009 subscribers
「私たちはAIと融合し、生物学が私たちに与えた計算力を何百万倍にも増強することができる。これにより、私たちの知能と意識は非常に深く拡大し、理解することが難しいほどになる。これが私がシンギュラリティと呼ぶ出来事である」 ––レイ・カーツワイル「The Singularity Is Nearer」より
Videos
マイクロプロセッサ、PC、インターネット——そのすべてを当事者として見てきた人物が、「今回は違う」と自分の評判を賭けて断言する。人間の認知を広範に超えるAIが、数年後には安価なヒューマノイドと結びつく。その変化を、過去のIT革命の延長線上で考えるべきではないという。 ビル・ゲイツ「「破滅的」という言葉は使いません。AIは同時に素晴らしいものでもあるからです。いずれ医療アドバイスや個別最適化された学習、これまでにない水準の発明をもたらします。 しかし、AIを過去のテクノロジーと同じようなものだと考えている人は、今回は違うということを見落としています。 「今回は違う」と言うには、非常に高いハードルがあります。それでも私は、自分にどれだけの評判が残っているにせよ、それを賭けて「今回は違う」と言います。 AIは農業や数学のような一分野だけでなく、あらゆる領域で人間の認知能力を上回るものになります。そして数年後には、かなり低コストで高性能なヒューマノイドロボットと組み合わされるでしょう。 これは、経済や雇用に対して、私が生きてきた間に経験したどんな変化よりも、桁違いに深い変化をもたらします。だから過去の経験は、この技術を以前のものと同じだと思うなら、むしろ人を惑わせます。 私はマイクロプロセッサ、パーソナルコンピューター、インターネットといった技術に関わる幸運に恵まれましたが、それでも今回は違うのです」
Tsubame151,013 görüntüleme • 7 gün önce
この動画の最後の状態が本来のシンギュラリティだとして、ブロックが少しだけ崩れ始めたことをもって「シンギュラリティに入った」と称する派閥がある、そんな感じもあります。
Tsubame690,724 görüntüleme • 1 ay önce
「2020年に今のAIを見せたら、おそらくAGIと呼んでいただろう」。アルトマン氏は、人によって意味が違う「AGI到達」を宣言することに、今ではほとんど意味がないという。彼にとってそれは特定の時点で完成するものではなく、際限なくスケールする超知能へと向かって、ずっと作り続けていくものだ。 サム・アルトマン「つまり、2020年に戻って、人生のあらゆる場面でこれまで20分かかっていたことを代わりにやってくれて、新しい科学を発見し、会社を丸ごと立ち上げるのを手伝い、複雑なコードまで書けるシステムがあったとしたら、それをAGIと呼んでいたでしょうか？ おそらく呼んでいたでしょう」 ——「では、あなたたちが「AGIに到達した」と宣言することには、どんな意味があるのでしょうか？」 アルトマン「重要だとは思いません。特に意味はありません」 ——「ただ、とても興味深いんです。今、私たちはあなたたちの研究棟にいますが、歩いていると壁に「私たちはAGIを構築している」と書いてありますよね。でも今では、それはずっと作り続けていくものになっていて、もはや最終到達点ではないように見えます」 アルトマン「「AGIについて勝利宣言して、次へ進んだ」とまでは言いたくありません。ただ、みんなが実際に使っている言葉を聞いていると、「AGIに到達したのか、していないのか」という話よりも、超知能へ向かって能力が連続的に高まっていくこと、それが世界にもたらすさまざまな恩恵や、どんな課題が生じるのかについて話すことのほうが、はるかに多くなっています。社内の食堂で、「私たちはAGIに到達したのか」「いつ到達するのか」と議論しているのを、もう長いこと聞いていません」 ——「でも今度は「超知能」という言葉が出てきましたよね。AIを追っていない人からすれば、「またゴールポストを動かして、今度は超知能の話を始めたのか」と見えると思います。今のあなたにとって、AGIと超知能の違いは何ですか？」 アルトマン「AGIは一つのマイルストーンという感じでした。一方、超知能は、際限なくスケールしていけるものという感じです」 ——「際限なく？」 アルトマン「ええ」 ——「では、何でも知っているような最終形があるわけではない、と」 アルトマン「それについて「達成した」と勝利宣言することは、決してないでしょうね。 というか、だからこそこういう用語はどれも馬鹿げていると思うんです。ある人はその言葉をある意味で使い、別の人はまったく違う意味で使います。たとえば、明確に理解できる一つの到達点という意味で使う人もいれば、無限にスケールし続けるものという意味で使う人もいます。 この話で重要なのは、どの用語でどんなマイルストーンを設定するかではありません。重要なのは、私たちがいま、能力と可能性が指数関数的に増大していく軌道上にいて、それがこのまま続いていくように見えるということです」
Tsubame32,448 görüntüleme • 2 gün önce
「数学はもう終わりだ」——研究レベルの問題が、AIによって毎月1％ずつ侵食されている。数学は、人間の抽象思考の頂点の一つだった。人類が最も誇ってきた知的領域に、機械知能が持続的に踏み込んでいるということだ。この曲線が続くなら、発見の主体は根本から変わる。 アレクサンダー・ウィスナー=グロス「2つ目のポイントですが、これらの中で私が最も重視しているベンチマークはFrontier Math Tier 4です。Frontier Math Tier 4は、たしか新年に賭けまでしたもので、今年の後半にもう一度見直す必要があると思いますが、AIが数学におけるプロレベルの研究問題を解ける能力を測る、最良の代替指標の一つです。 そこで何が起きているのか。GPT-5.4 Proから5.5 Proにかけて、およそこの2カ月で約2％の飛躍が見られます。これは何を意味するのか。フロンティアAIによる研究レベル数学の能力が、現在、月あたり約1％向上しているということです。そして、Frontier Math Tier 4の問題のおよそ半分が解かれるところに近づいています。 ここから外挿すると、現在のペースがそのまま続くだけでも——そして私はそうはならない、つまり加速すると断言しますが——現在のペースだけで見ても、今後4〜5年でFrontier Math Tier 4のほぼすべて、つまりプロの研究レベルの数学問題が解かれることになります。つまり、数学はもう終わりです。 もう一度言います。数学はもう終わりです。他にも終わりつつあるものはたくさんあります。しかし、物事はあまりにも速く進んでいて、月ごとに見ても、最難関のベンチマークが毎月1％ずつ上がっているのが確認できるのです。だから、もう長くはありません」
Tsubame797,661 görüntüleme • 4 ay önce
かつて知識人とは、人より多く読み、人より深く理解する存在だった。しかしAIは、その前提を根底から崩している。人間が一生かけても読み切れない量の論文を、機械は一瞬で探索し、要約し、組み合わせる。知の競争は「誰が知っているか」から「誰が使えるか」へ移った。 ひろゆき「現段階でも、CellとかNatureに載ったすべての論文のデータベースを検索してAIが答えを出すし、毎年出てくる論文すべてを読むことも可能になってしまっているので、最先端の情報を一番多く持っているのは今、機械なんですよ。その機械が出してくるものを人間が見て、「そういう感じか」となる時代なので、機械よりも賢い人間というのはもう不可能になった、というのは事実です。 論文を発表するのは人間なんですけど、発表される論文というのが年間に10万本とかになるんですよ。ちゃんと読み込んだら、人間は1日やっぱり10本ぐらいしか読めない。これは体力の限界というか、人間の限界です。それを超えることが機械だからできるんです。なので、人間の体力では機械を超えることができないというのは、もう事実としてあるんですね。 まず、専門の領域の論文をすべて読まないと先に行けない。コンピューターサイエンスのエンジニアが、物理の学位は持っていないけれど、物理の論文をAIに読ませまくって論文を書かせ、業界誌に論文を載せたんですよ。書いてある内容は本人もいまだに分かっていない。でも、それっぽいものをちゃんと書いて、査読も通ったんです。そういうことが可能になっている時に、人間のオリジナリティで頑張るより、機械に任せた方が論文を書ける、ということはもう証明済みなんです」
Tsubame536,975 görüntüleme • 3 ay önce
ビル・ゲイツ氏のAI観は、単純な楽観でも悲観でもない。人間の認知を代替し、仕事を消し、犯罪能力まで増幅する一方で、病気、エネルギー、食料、教育といった人類最大の課題も一気に前進させうる。問題はAIそのものではなく、この途方もない力を社会が受け止める準備をしているかだ。 ビル・ゲイツ「AIは、人類がこれまで発明したものの中で、公平性を前進させる最も強力なツールであると同時に、公平性に対する最大の脅威でもあります。 AIには、人間の認知能力を代替し、さらにそれを上回る能力があります。これによって、歴史上でも最も激動する時代の一つが到来するでしょう。多くの仕事が消えていきます。まずホワイトカラーの仕事から始まり、その後ブルーカラーの仕事にも及びます。 AIは犯罪者に力を与え、爆弾、生物兵器、コンピューターウイルスを作れるようにするかもしれません。AIによって子どもたちの発達が阻害されたり、人間同士の関係が置き換えられたりする可能性もあります。 その一方で、AIがもたらす良いことも驚くべきものになるでしょう。AIは、世界で最も困難な技術的課題におけるイノベーションを加速させます。誰もが利用できる信頼性の高いクリーンエネルギーを実現し、気候変動を回避し、十分な食料を生産し、病気を食い止め、教育を改善するなど、さらに多くのことを可能にします。 この移行をうまく管理できれば、良い面は悪い面をはるかに上回るでしょう。しかし私は、私たちが十分な準備をしていないことを懸念しています。AI時代への移行を穏やかにするための計画はありません。計画を立てるための計画すらないのです。AIの恩恵を、特に富も影響力もアクセス手段も持たない人々を含め、すべての人に行き渡らせるにはどうすればよいのでしょうか。 私は今日、世界に対してこの問題を最優先課題の一つとして扱うよう求めるメモを公開しました。失業が急増し、地域社会が傷つき、人々の信頼が損なわれてしまう前に、世界には今、行動する機会があります。 この前例のない技術には、各国においても世界規模においても、前例のない対応が必要です。もし私たちが正しく対処できれば、人類が得る恩恵は途方もないものとなり、世界はより公平な場所になるでしょう」
Tsubame37,124 görüntüleme • 8 gün önce
つい最近まで、AI革命の中心は「仕事の自動化」だと思われていた。だが能力がさらに上がれば、その発想自体が急速に小さく見えてくる。人間の仕事を奪うより、未知の科学を発見し、新しい産業そのものを作る方が重要になる。僕たちは、AIを労働代替として見る時代の終わりを見始めている。 デイブ・ブランディン「SF的な視点からも考えてみましょう。1年前には、AIの最大の野望は「あなたの仕事を奪うこと」だった時期がありました。それだけでも経済に莫大な価値と利益を生み出す、と考えられていたわけです。 ところが、それを一瞬で通り越して、「もうあなたの仕事なんてどうでもいい。それより、もっと深いことを考えている」という段階に移りました。いま私たちは、AIが「人間の仕事を奪うより、これまで存在しなかった新しい物理学や新しい医学を発見したほうが、はるかに大きな価値を生み出せる」と考え始める時代に入っています。ここ1カ月、数回のモデル更新だけで、AIは先史時代から未来へ飛び越えたようなものです」 アレクサンダー・ウィスナー=グロス「さらにSF的に一般化すると、宇宙人が地球の資源を求めて侵略してくるという映画はたくさんありますが、超知能文明なら、そもそも人間の奴隷労働も地球の貴重な金属も必要ありません。超越的な超知能が登場すれば、「人間の労働を置き換える」という段階は5分ほどで終わり、その先へ進んでしまう——私はこの考えに完全に同意します」 ブランディン「サム（アルトマン）も同じです。いくつかの出来事と新しいモデルを経ただけで、一瞬のうちにその先へ進みました。いまや彼は、「銀行員や保険代理店を自動化することなんて、なぜ気にする必要があるんだ？ 去年は少し重要だと思っていたけれど、もう本当にどうでもいい」と考えているように見えます」
Tsubame29,172 görüntüleme • 7 gün önce
「AIが賢くなると人は暇になる」と一般には言われる。けれど、少なくともエリート層は逆だ。答えが秒速で返るほど、次の問いを立てるのも、意思決定を下すのも人間になる。ボトルネックは計算から人へ戻り、より忙しくなる。加速の時代に問われるのは、処理能力ではなく、判断の速度と質だ。 ジェンスン・フアン「私の場合、自分がやっていることよりも、それぞれの仕事において私より優れている人たちに60人も囲まれて働いています。多くの意味で、彼らは各分野において、私にとってほとんど人工超知能のような存在です。それでも私は、彼ら全員と問題なく一緒に仕事ができています。 だから将来も同じで、いま使われているOpenAIやGeminiやGrokなどのAI、私が使っているPerplexityやAnthropicなど、こうしたAIはそれぞれのやり方で、すでに私より賢い部分があります。それでも私は、毎日問題なく彼らと一緒に仕事ができています。まず一点目はそれです。 ただ、本当に面白いのは、私がチームに取り組んでもらう問題を定式化するとき、彼らが答えを見つけたり、答えをまとめて私に返したりするまで、たいてい2日や3日、あるいは4日待てるという利点があることです。その待ち時間があるからこそ、私は次のステップを考えられます。そして次のステップを考えるには、中間的な答えが戻ってくる必要があります。 では、その答えが基本的に1秒で返ってきたらどうなるでしょうか。これが思考実験です。そうなると、私の一日はとてつもなく忙しくなります。なぜなら、私自身があらゆることのクリティカルパスになってしまうからです。だから私は、『よし、これの答えが出た。なら次はこれを考えなければならない』と進めていくことになります。さらに別の実験を立ち上げなければならない。そしてその答えが出たら……という具合です。私は、情報技術がいまのほうが速いからこそ、私たちは今日すでにより忙しくなっていると感じています。そう思いませんか。 いま私たちは、情報や知識、答えを非常に速く得ています。その結果、私たち自身がクリティカルパスに置かれます。だからこそ、これまで以上に忙しいのです。多くの人が同じように感じるようになる気がします」
Tsubame829,695 görüntüleme • 7 ay önce
ハラリ氏は、AIの脅威を「ロボットの反乱」ではなく「文明の読解能力」として捉えている。牛は銀行口座を開けず、馬は弁護士を雇えず、豚は聖典を読めなかった。だから人間は、言語でできた文明のコードを独占できた。AIはそこに初めて現れた人間以外の読解者なのだと、彼は主張する。 ユヴァル・ノア・ハラリ「私たちは、完全に安全だと思っていました。なぜなら、地球上で文明のコードを理解している存在は、私たち以外にいなかったからです。 私たちはお金と銀行を発明し、それを使って牛を売買しました。しかし牛自身は、言語を持たないため、銀行口座を開いたり、株式市場に投資したりすることはできませんでした。 私たちは馬に関する法律や規制を作りました。しかし馬自身は、弁護士を雇って、法典を裁判官に引用することはできませんでした。 私たちは豚に関する宗教的な規則や禁忌を作りました。しかし豚自身は、聖書を読んで、司祭やラビの解釈に異議を唱えることはできませんでした。 官僚制は地球上の至るところに存在していましたが、私たち以外のすべての存在にとっては、完全に見えないものでした。官僚制と大規模な協力の基盤である法典、聖典、銀行記録を読めるのは、人間だけだったのです。 しかし今、それが変わりつつあります。いま地球上には、言語を理解する何かが存在しています。そしてそれはまもなく、私たちよりも言語をよく理解するようになり、その結果、私たちに対して形勢を逆転できるようになります。 AIは、人類文明のコードをハックしているのです」
Tsubame165,270 görüntüleme • 2 ay önce
AIによって「働かなくても回る社会」が現実になったとき、民主主義の仕組みは果たして維持できるのか。今、技術の未来ではなく、制度の未来が問われている。 中島聡「少なくとも8割の人が働かなくても世の中が動いてしまう世界は来るだろうと。答えは何かというと、 僕にはユニバーサルベーシックインカム（UBI）しか見えてないけど……それ以外は、その人たちを殺すわけにもいかないじゃないですか。戦争もしくは革命とか、変なことが起こるかもしれない。民主主義がある限り、全員が投票できるので。8割の人と2割の人で投票したら2割の人たちが負けるわけじゃないですか。極端な話、8割の人が怒って2割の人を殺すなり海外に追いやるみたいなことが起こるかもしれないから、スムーズにUBIの世界に行くとは思えないけど。 でもそういう世界が来るということを意識した上で、例えば——さっき安野（貴博）さんに会ってきて、彼は民主主義をアップデートするって言ってるんだけど——今までの議会制民主主義を何らかの形でアップデートしないと、もたないかもしれないと僕は思っている」
Tsubame1,055,488 görüntüleme • 1 yıl önce
かつて国家や企業が手にできなかったものがある。それは、一人ひとりとの本物らしい個人的関係だ。AIはそれを数百万、数億人規模で同時に構築できる。「親密さ」がスケールする技術になったとき、広告、政治、宗教、そして人間関係の境界は今とはまったく違うものになる。 ユヴァル・ノア・ハラリ「AIの友人だけでなく、AIの彼氏や彼女を持ち、それらが感覚や意識、感情を持つ存在だと確信している人々が増えています。信頼を築く方法はいくつもありますが、最も強力なのは人間関係です。私たちは、個人的な関係を築いた相手ほど強く信頼する人はいません。 しかし歴史上、政治機関や金融機関、宗教組織がこの強力な仕組みを本格的に利用することはできませんでした。親密な関係を大量生産するのが難しかったからです。ヒトラーやスターリンでさえ、ソ連の一人ひとりと本当の個人的関係を築くことはできません。ラジオで演説し、全員に強制的に聞かせることはできます。しかし、それは母親との間にあるような個人的関係ではありません。 AIによって、人類史上初めて「親密さを大量生産する」ことが可能になります。何百万ものAIをネットワークとして動かし、一人ひとりと関係を築かせ、その人の親友になり、彼氏になり、彼女になることができます。そして、その親密さの力を使って、政治的・商業的な目的へと相手を説得することができるのです」
Tsubame30,978 görüntüleme • 12 gün önce
すでに人間は共感力でAIに負けているが、人々はAIだと知らされると評価を下げてしまうという話。あなたはAIの優しさを受け入れますか。 アダム・グラント「私がこれまで読んだ中で特に興味深い実験があります。それは、テキストでの会話をしているとき、相手が人間かChatGPTかわからない状態で、 その後に『どれだけ自分のことを理解してもらえたか』『どれだけ話を聞いてもらえたか』『どのくらい共感やサポートを得られたか』を尋ねると、実は人間よりもAIからの共感やサポートの方が多く感じられるという結果が出ているものです。ただし、AIだと事前に知らされると、途端に評価は下がります。心理学者としてこの実験結果を見て、私はいくつか感じることがあります。一つは、AIが特別に共感能力に優れているというよりも、人間の共感能力がそもそも低いという可能性です。我々人間はしばしば『会話的ナルシシズム』に陥り、誰かが問題を語ったときに相手に寄り添うよりも、自分自身の経験に関連づけてしまう傾向があります。つまり、この結果は人間の共感力のベースラインが低いということを示している可能性があります。一方で、AIだと分かれば拒絶感が生まれるというこの反応も、AIをより人間的に、擬人化するにつれて、どのくらい長く続くのだろうかと疑問にも思います」 アルトマン「まず、一般的な概念として、人はAIが生み出したものを、AIだと知らされない間はむしろ好む傾向があり、AIだと知らされると途端に拒否感を示すという現象について話します。この現象は繰り返し確認されています。最近見た研究では、AIアートを最も嫌うと自己申告している人々でさえ、作品を匿名で見た場合、実際には人間の作品よりもAI作品をより多く選んでいることが明らかになっています。しかし、どれがAI作品でどれが人間の作品かを知らせた瞬間に、その評価は一変してしまうのです」
Tsubame1,028,042 görüntüleme • 1 yıl önce
ノーベル賞受賞者に言わせれば、ほとんどの公開論文はそれほど優れていない。だから、それらをそのまま学習したAIがデータの信頼性を見抜くことができなければ、ゴミのような出力になる。知識の量が爆発する時代には、知識の品質を見極める能力こそが、科学の速度を決めるのだ。 トーマス・スードホフ「私が見る限り、AIの問題の一つは、その手法そのもの、あえて手法と呼ぶならその内在的なアプローチに問題があるということではありません。問題があるのは、その応用です。理由はデータにあります。 科学において、データは豊富にあります。しかし通常、それらは標準化されていません。統一された形式で提示されていないのです。 たとえば、非常に質の異なる論文を掲載する科学雑誌が何千、何万とあります。その多くは、あまり質が高くありません。いま私たちがしているように、AIを使ってそれらの公開論文に入り込み、そこから知識を抽出しようとすると、最終的にゴミのようなものが出てきます。なぜなら、ほとんどの論文はそれほど優れていないからです。 ですから、私にとって科学におけるAIのムーンショットとは、単にデータを使える能力だけではなく、データの品質を判断する方法を持てるようになることです」
Tsubame146,916 görüntüleme • 2 ay önce
AIによって仕事がなくなる未来を、失業や喪失としてではなく「大学生の夏休み」と紺野氏は捉えている。生活のために働く必要がなくなったとき、最後に残るのは「誰にも命じられず、お金ももらえないのに、それでも何かしたいことがあるか」という問いだ。 紺野大地「人類の未来は大学生の夏休みだと思ってるんですよ。改めて簡単に言うと、今どんどん実質的にAIが、例えばスライドも作れるようになってきて、Wordも書けるし、Excelもできるし、どんどん進歩するわけじゃないですか。 そうなると「実質的にお金稼いできてるのってAIじゃね？」みたいな分野って結構増えてくと思うんですよ。AIがお金稼いで、それがベーシックインカムかわかんないですけど、分配されるように——仮になったとして、人々が働かなくても生きていける時代って、うまくいけば僕は来ると思うんですよ。 そうなった時に人々が何をするか。今そういうのに近い人って誰だろうって考えると、働かなくても生きていけて、時間はもう無限にあるみたいな——僕はそれが「大学生の夏休み」だと思ってるので。 大学生の夏休みって、僕はずっと野球してましたし、友達はインターンをずっとやるとか、北海道から沖縄までうどん食べ尽くす会みたいなのやって、それで食べたうどんをレポート書いてネットにまとめるみたいな。 誰に別に言われたわけでもないし、一銭ももらえるわけじゃないんですけど、楽しんでやってて、それを楽しんでくれる他の人もいるみたいな。 これ、すごいいいロールモデルだなと思って。その「お金がもらえなくてもやりたい、生きがい」みたいなものを、どう見つけられるか、自分の幸せをどう見つけるか」
Tsubame23,402 görüntüleme • 12 gün önce
「AGIは1万行未満のコードだったと後から分かるかもしれない」——知能そのものは本質的には小さく、重いのは知識層のほうかもしれない、ということだ。もしそうなら、これまで僕たちが見てきた「AIの進歩」は、知能の発明そのものというより、巨大な知識と計算で近似してきた過程だったことになる。 フランソワ・ショレ「二つのものを分けて考える必要があります。ひとつは、いわば流動知能エンジンです。これは非常に小さなコードベースと、それに付随するごく小さなモデル群になるだろうと思います。おそらくサイズ感としてはメガバイト単位でしょう。 その一方で、その下層には、いわば知識ベースが載ります。流動知能は何らかの知識を使わなければならず、その知識のほうはずっと大きな容量を占めるはずです。この二つは区別することが重要だと思います。 私は、後から振り返ったとき、AGIを作る仕組みは1万行未満のコードベースだったと分かるはずだと考えています。そして、もし1980年代の時点でそのやり方が分かっていたなら、当時利用可能だった計算資源でもAGIは実現できていたはずです」
Tsubame228,815 görüntüleme • 5 ay önce
Claudeの安全責任者が「世界は破滅に向かう」と言い残して辞任した。これはSF的な誇張ではなく、開発現場から見た実務的な不安として語られている。社会は未準備のまま、極めて高性能なモデルの到来が近づいている。離陸は当初想定より速いかもしれない。時間軸そのものが圧縮されているのだ。 ——「Claudeの安全責任者、ムリナンク・シャルマ氏の劇的な辞任について、どう見ていますか？ 追っていたかは分かりませんが、かなりニュースになっていました」 サム・アルトマン「何か少し聞きました。ええと、辞任して、『もう全部無意味だ』みたいな手紙を出した、とかそんな感じですよね」 ——「ええ。世界は破滅に向かう、私は詩を書きに行きたい、みたいな方向性でした。それで、私が本当にあなたに振り返ってほしかった点は、多くの安全関係の人たちが、かなり圧倒されているように見える、ということです。つまり、それが私があなたに考えてほしかった本題です」 アルトマン「その件で私が同意する部分は、企業の内部にいる視点から今後起きることを見ると、という点です。つまり、世界は準備ができていません。極めて高性能なモデルが、もうすぐ登場します。テイクオフは、私が当初思っていたよりも速くなるはずで、それはストレスが大きく、不安を引き起こすものです」
Tsubame204,307 görüntüleme • 6 ay önce
太陽エネルギーの100万分の1でも得ることができたら、地球文明の枠を大きく突き抜ける。カルダシェフ・スケールの議論を「進捗バー」に落とした瞬間、スケール感が一気に可視化される。それは「あと少し頑張れば届く」類ではなく、文明のスケールそのものを引き上げる難題なのだ。 イーロン・マスク「物事を『進捗バー』として捉え直すといいと思います。課題という話で言えば、カルダシェフ・スケールのタイプ2文明に向けた進捗ですね。まあ、そういう志向というか……」 ピーター・ディアマンディス「太陽の出力エネルギーをすべて取り込むことですね」 マスク「それより控えめな志向でもいいでしょう。目標を『太陽のエネルギーの100万分の1でも得る』と置いたとしても、それは地球上で理論的に生み出し得るエネルギーより1000倍以上多いことになります。 太陽エネルギーのうち、地球に届くのはおよそ5億分の1くらいです。つまり、そこから3桁（1000倍）上げないと、100万分の1にすら到達しません。 私たちは太陽エネルギーの10億分の1ですら、どんな形であれ十分に利用できているとは言い難いほど、非常に非常に非常に遠いところにいます。 だから合理的な目標としては、100万分の1を目指すことです。そして1000分の1、つまり0.1%を目指すとなると、それはとてつもなく……ここでどんな比喩を使えばいいのか分かりません。『山を登る』では比喩として小さすぎる。太陽エネルギーの100万分の1とか1000分の1を得ようとするのは、非常に非常に難しい課題です」
Tsubame248,397 görüntüleme • 8 ay önce
AIが人間を超えるなら、競争する必要はない。融合すればいい。これはトランスヒューマニズムの核心に近い発想だ。外部のAIだけを強くするのではなく、人間自身も知能や能力を拡張していく。AI時代の最終的な分岐は「人間か機械か」ではなく、「どこまで両者の境界が消えていくか」なのかもしれない。 ミチオ・カク「すでに地球上には、あらかじめ与えられた情報を扱うという点では、人間より強力な存在があります。私たちにはすでにロボットがあります。ブリタニカ百科事典を丸ごと記憶させることさえできます。そうしたものは、すでに存在しています。 しかし、彼らには創造性がありません。革新的でもありません。自らの意志もありません。それが実現したとき——いつになるかは誰にも分かりませんが——彼らはある意味で、人間以上に適応力を持つようになります。 その段階に達したら、私は彼らと戦うのではなく、融合すべきだと言っています。彼らと同じくらい強力になるのです。スーパーヒューマンになるのです。それは十分にあり得ます。そして、その始まりはすでに見えています。将来、人間の能力をどのように増強できるのか、私たちは理解し始めています。 だからこそ、未来の医療は「治療」ではありません。未来の医療は「強化」です」
Tsubame27,267 görüntüleme • 21 gün önce
年収50万ドルのエンジニアが、年間25万ドル分のトークンを使っていなければ危機感を覚える——この感覚は、多くの人にとって極端に見えるだろう。だが、CADなしで半導体を設計しないのと同じように、次世代の知識労働はAIを外付けの補助輪ではなく、思考そのものの拡張器官として使う段階に入っている。 ジェンスン・フアン「ちょっと思考実験をしてみましょう。仮に、年収50万ドルのソフトウェアエンジニアやAI研究者がいるとします。そういうことは実際にしょっちゅうあります。その年収50万ドルのエンジニアに、年末になったら私は『トークンにいくら使いましたか』と尋ねるでしょう。そこでその人が『5,000ドルです』と答えたら、私は本気で驚きます。年収50万ドルのエンジニアが、少なくとも25万ドル分のトークンを使っていなかったら、私は強い危機感を覚えます。これは、うちのチップ設計者の一人が『私は紙と鉛筆だけでやります。CADツールは必要ないと思います』と言うのと何も変わりません」 ——「これは、こうしたスター級の社員をどう捉えるかという点で、本当にパラダイムシフトですね。NBAでレブロン・ジェームズが、自分の身体の健康維持のためだけに年間100万ドルを使い始めたときに、私たちが学んだことを思い出します。彼は41歳になった今でもプレーしています。つまり、こうした卓越した知識労働者たちに、なぜ超人的な能力を与えないのか、という話なのです。その先には何があるのでしょうか。2〜3年先まで外挿すると、NVIDIAにいるそのスター級人材の生産性はどうなっていて、彼らは何を成し遂げられるのでしょうか。どのような姿になるのでしょうか」 フアン「まず、『これは難しすぎる』という発想は消えます。『これはすごく時間がかかる』という発想も消えます。『たくさん人が必要になる』という発想も消えます。これは前回の産業革命のときと何も変わりません。『あの建物はずいぶん重そうだな』などとは誰も言いません。『あの山は大きすぎるな』などとも誰も言いません。大きすぎる、重すぎる、時間がかかりすぎる——そうした考えはすべて消えていくのです」 ——「最後に残るのは創造性だけですね」
Tsubame166,011 görüntüleme • 5 ay önce
超知能時代には二つの危険がある。一つはもちろん、AIに制御を奪われること。もう一つは、AIを制御するという名目で、一握りの人間に制御を奪われることだ。後者は「安全」の姿をして現れるぶん、見落とされやすい。目指すべきはAIにも少数の支配者にも委ねない未来だ——アルトマン氏はそう語る。 サム・アルトマン「私がAIについて最も懸念している大きなリスクは、おそらく二つあります。この二つは少し緊張関係にあります。一つは「制御の喪失」です。つまり、AIがあまりにも強力になり、私たちが望むように制御できることを保証できなくなるリスクです。もう一つは「権力の集中」です。一つの企業、一つのモデル、あるいは一人の人間が、あまりにも大きな力を持ってしまうことです。このどちらが起きても、根本的には非常に反人間的な状態だと思います。 正しいアプローチは、「人々が未来をしっかりとコントロールできるようにする」「人々に大きな力を与える」というものです。そもそも、このすべての目的は人間なのです。人間を信用できない、あるいは人間が好きではないからといって、AIモデルに少しずつ支配権を譲り渡していくようなことを、私たちはするべきではありません。「このモデルだけを全面的に信頼し、世界に対するすべての権力と意思決定権を持たせよう」というのは、非常に人間嫌い的な考え方です。しかし、世界にはそれが正しい結末だと考えている人もいると思います。 別の形もあります。「人間を信用できないのだから、この技術にアクセスできる人や、その使い方を制限しなければならない」という考え方です。恐ろしいことがいろいろ起こるかもしれない。だから、それを恐れるあまり、少数の企業の手に権力を集中させる。そして他の人々にはこの技術を使わせない代わりに、いくつかの恩恵だけを与える、というものです。 少し戯画化して言えば、AI分野には実質的にこう言っている人たちがいると思います。「すべての病気を治療できるようにし、あらゆるものを非常に安くしてあげる。その代わりに、人々は自分たちの自律性や、未来に影響を与える力、そして権力を手放してほしい」と。しかも、それは「安全性」の名のもとに行われ、同時に、とてつもなく激しい格差まで生み出します。つまり、莫大な富と権力にアクセスできる人々がいる一方で、それ以外の人々は「かなり良い暮らし」を与えられるだけ、という世界です」
Tsubame14,733 görüntüleme • 11 gün önce