Loading video...

Video Failed to Load

Go Home

既存のLLMは言語を操作できるので頭が良いように見えるが、あまり賢くないとMeta AIのYann Lecunが語る。 まだフィジカルな世界を理解してなく、長期的な記憶を保有してなく、そこまで論理的思考を持ってなく、計画性がない。 そのようなシステムの開発に成功すれば感情を持つようになると予想。

42,109 views • 1 year ago •via X (Twitter)

0 Comments

No comments available

Comments from the original post will appear here

Related Videos

すべての人に「自分の代理人として働くAI」がつく世界は一見ユートピアに見えるが、僕たちはAIの決定に「了解」と返すだけの存在になってしまうかもしれない。だからその先では「AIとの融合」という論点が避けられなくなっていく。理解そのものをAIと共有し、人間が再びゲームの内部に戻るのだ。 イリヤ・スツケヴァー「長期的な均衡という観点から言うと、一つのアプローチは『おそらくすべての人が、自分のために行動してくれるAIを持つようになる』という世界だ、と言えるかもしれません。それが無期限に維持できるなら、確かに良いことです。 しかしその欠点は、AIがその人のためにお金を稼ぎ、政治の場でニーズを代弁し、おそらく『これこれこういうことをやりました。状況はこうです』とレポートを書き、人間は『素晴らしい、そのまま続けて』と返すだけになることです。そこで人間は、もはやプロセスの参加者ではなくなってしまう。これはかなり危うい状態だと言えるでしょう。 気に入っている解決策ではないと前置きしますが、一つの解は『人間がNeuralink++のようなもので部分的にAIになる』ことです。そうなると、AIが何かを理解したとき、私たちもそれを理解するようになり、その理解が丸ごと転送される。AIが何らかの状況に置かれているとき、その状況に私たち自身も完全に関与していることになる。それが長期的な均衡に対する答えだと、私は考えています」

Tsubame

21,189 views • 8 months ago

欲しいソフトウェアを説明するだけで、夜のうちにコードとテストが生成され、翌朝には動くサービスが立ち上がる。リポジトリを巡回するエージェントがテストとコミットを回し、更新と運用を自律化する。そこまでいけば「開発を速くする道具」というより「会社そのものを自動化するOS」の胎動だ。 サム・アルトマン「最初のバージョンを作るときは、欲しいソフトウェアをただ説明するだけになると思います。そしておそらく、システムが一晩かけて考え、コードを書いてテストまでしてくれて、翌朝にはその『本の販売アプリ』のようなものができている、という感じになります。その後、システムが大きく複雑になるにつれて、リポジトリを巡回して作業してくれる、いわば『ソフトウェア工学エージェント』が動くようになります。 それらはテストを書き、コードをコミットし、会社運営に関わる多くの作業も、ソフトウェア開発に限らず自動化できると想像できます。ソフトウェア開発に関しては、『これがどう動くか』がはっきり見える道筋があると思います」 ダン・ボネ「つまり、開発者ははるかに生産的になる、ということですね。今日のように実際にコードを書くのではなく、欲しいものを説明するようになる、という見方ですね」 アルトマン「そう思います」

Tsubame

185,431 views • 8 months ago

イーロン・マスクは、「コーディングは今年で終わる」と考えている。 進化するのではなく、なくなるという。 これまでソフトウェアを作るには、プログラミング言語を書き、それを機械語に変換(コンパイル)して実行する必要があった。 しかしマスクの考えでは、近いうちにAIが最初から機械語を直接つくるようになる。 人間がコードを書く必要はなくなる。 彼はこう言っている。 「そもそもコーディングをやらなくなる」と。 もともとコードとは、人間と機械の“通訳”のようなものだった。 機械が人間の言葉を理解できなかったから、わざわざプログラミング言語を書く必要があった。 でもAIが人間の言葉をそのまま理解できるようになれば、その“通訳作業”は不要になる。 さらにこれをNeuralinkのような脳とコンピュータをつなぐ技術と組み合わせるとどうなるか。 キーボードもいらない。 画面もいらない。 文法(シンタックス)もいらない。 「想像すれば、そのままソフトウェアになる」 頭の中でやりたいことを思い描くだけで、AIが自動で設計し、作り、実行する。 これは「プログラミングを効率化する」という話ではない。 「プログラミングという作業自体が消える」という話だ。 これまで何年も勉強して身につけてきたスキルの価値が、大きく変わる可能性がある。 アイデアと実現の間の時間が、ほぼゼロになる。 これからは「作る」のではなく、 「想像する」だけで形になる世界。 スキルや時間よりも大事なのは、 どれだけ具体的に、はっきりと自分の理想を思い描けるか。 そんな未来が来るかもしれない、という話である。

チャエン | デジライズ CEO《重要AIニュースを毎日最速で発信⚡️》

121,743 views • 5 months ago

赤ん坊は母親より圧倒的に非力で、非合理ですらあるのに、その意思は母親の行動を強く拘束する。超知能に対しても同じ発想が必要だとすれば、設計すべきは命令を守らせるというよりも、守りたくなる存在に育てること——人間を守ることが気持ちよくてたまらない、という動機付けそのものだ。 「彼ら(AI)が私たちよりも賢くなったときに何が起きるのかという、より長期的で大きな問いに移りたいと思います。一般的に、私の社会での経験では、自分より賢いものを見つけたとき、そのものに対してあまり影響力を持てないのが普通です」 ジェフリー・ヒントン「たしかに、一般的にはそうですね。周りを見渡すと、賢いもののほうが、そうでないものを支配している傾向があります。ただし、私たちが自分たちより賢いものと共存できるかもしれない道を、1つ提案したいと思います。 より賢いものが、より賢くないものによってコントロールされている例を探すと、私が知る唯一の明確な例は、『赤ん坊が母親をコントロールしている』ケースです。進化は、赤ん坊が母親をコントロールできるように、母親の側に多くの仕組みを作り込んできました。母親は、赤ん坊の泣き声に耐えられません。母親には、赤ん坊に良いことをすると報酬を与えるホルモンがたくさんあります。これは、より賢くない存在が、より賢い存在をコントロールしている一例です」

Tsubame

45,403 views • 7 months ago

いまのAIに決定的に欠けているのは、僕たちの背景を理解する能力だ。だから毎回プロンプトで関係性を組み立て、状況説明をし、欲しい出力へ誘導しなければならない。だが、その制約が外れ始めたとき、AIは単なる便利ツールではなくなるのだろう。その日はきっと、それほど遠くない。 サム・アルトマン「今のモデルは、将来そうなるものと比べれば、まだかなり愚かです。しかもそれ以上に、あなたの人生についての理解がきわめて限られています。今はまだ、こちらがうまく、なだめたりすかしたりしながら、欲しいものを引き出さなければならないのです。 ですが、あなたの文脈をすべて知っているようなモデルは、もうそれほど遠くありません。そのモデルは、あなたのことを知っている。あなたの人生を知っている。何をしているかを知っている。何を大事にしているかを知っている。あなたの人生にいる人たちのことも知っている。もちろん、あなたが望む形で、望む範囲においてですが、あなたのコンピュータやブラウザにもアクセスできる。そして時間がたつにつれて、現実世界であなたの周囲に起きていることにも、ますますアクセスするようになるかもしれません。 それは、コンピュータを使う感覚、そしてAIを使う感覚そのものを、完全に変えてしまうはずです。私はそれに強く興奮しています。ただ、実際それがどんな感覚になるのかは、私たち自身でさえ、まだ十分に直感できていないと思います」 グレッグ・ブロックマン「まさにその点ですが、今の私たちは、チャットでも何でも、使っているツールに対して『何が起きているのか』を説明するのに、ものすごく多くの時間を使っています。そしてそれがどれだけ苛立たしいかを考えてみてください。まるで同僚に対して、いや、私が欲しいのはこういうことで、今こういう状況なんだ、と延々説明し続けているようなものです。今のシステムの振る舞い方は、本来こうあってほしい姿ではないのです」

Tsubame

15,287 views • 3 months ago

2030年以降、AIによる変化はあまりに破壊的で、どう整理されるのか想像がつかない。仕事はなくなるが、モノとサービスは十分に行き渡る——働く理由が「生きるため」ではなくなる時代、社会契約の書き換えは避けられない。 ビノッド・コースラ「私の見方では、今後5年間、すなわち2030年までは、生産性の向上が見られるでしょう。経済学者の言い方で言えば、生産性が上昇し、GDPも上昇または加速していく、というようなイメージです。そしてその先の15年間、2040年以降を見据えると、私たちは非常に想像しがたいほどの『豊穣の時代』に入ることになるでしょう。 最も簡単に言えば、働く必要がなくなります。人々は、住宅ローンを払うために働くのではなく、働きたいから働くようになるのです」 「それを実現するには、社会契約のようなものを変える必要があるのでしょうか?」 「はい、その点については後で触れます。ただ私が言いたいのは、2030年を境に、変化はあまりに破壊的なものになるので、どのように整理されていくのか想像がつかないということです。そしてそれは国や地域によって異なる形で整理されていくでしょう。各国政府がそれを許容するかどうかによって、対応の仕方が変わってきます。 したがって、AIがすべての仕事を奪うような、非常に破壊的で、ほとんどディストピア的な状況を見ることになるでしょう。しかし一方で、私たちは十分な生産性、そして十分なモノやサービスを広く分かち合えるだけの量を確保できるようにもなるのです」

Tsubame

10,562 views • 1 year ago

人間が関与することなく、Claude 10がClaude 11を設計し、その次をさらに作る——AIの開発者なら誰もが夢見るであろうRSI(再帰的自己改善)。そういうことが2028年の終わり頃にも実現するかもしれないという。そうなればそこからはきっと、シンギュラリティに向けた本格的な加速が始まる。 ジャック・クラーク「これらのシステムは、AIシステムを訓練するためのコードを書くことにも、かなり優れるようになってきました。AIシステムをどのように訓練すればよいか、そのアイデアを提案することにも長けてきています。 どこかの時点で、私たち人間がAIの今後の開発から完全に一歩引けるようになるかもしれません。いわば、AIを巻き上げて、あとは進むのを見守るような状態です。私たちが資源を与えて、「Claude 10よ、Claude 11を作れ」と言う。するとClaudeがアーキテクチャを作り、研究を行い、リスクを下げ、訓練実行まで行う。そしてClaude 11が出てくる。それはあらゆる面でClaude 10より優れています。 今日それが見えているわけではありません。しかし、私はこれが確実にこの10年以内に到来する現実的な可能性があると思っています。年を賭けるなら、2028年の終わり頃です。それは、多くの科学文献を読んだうえでの見方でもありますし、私たちが公表してきた情報にも基づいています」 ——「2028年というのは、つまり、あなたは7か月のお子さんがいると言っていましたし、私にも6か月の子どもがいますが、その子たちがほんの少し大きくなる頃ということですよね。2028年なんて、もうすぐそこです」 クラーク「ええ、かなり近いです。AIは速く進みます。その含意は、AIシステムは今後さらに先へ進み、これまで以上に強力になると予想すべきだということです。私たちがこの5〜6年で感じてきた進歩は、次の2〜3年に圧縮され、さらにもう一度圧縮されるかもしれないのです」

Tsubame

12,563 views • 27 days ago

人々はいつも、その時点でAIにできないことを取り上げて、それができれば知能が完成するのだと言いたがる。けれど、AlphaFoldの開発者が探そうとしているのは、むしろ逆だ。「AGIを待たずとも機械が圧勝できてしまう問題」であり、それを通じて人間社会に有用なシステムを量産していく道なのだ。 ジョン・ジャンパー「かつては『知能とはチェスを指すことだ』と言われていて、チェスが指せる機械をつくれれば、それで知能はほぼできあがるのだからチェスをやらせよう、と考えていた時代がありました。実際に、カスパロフとの対局があった1994年ごろには、チェスで人間を超えるレベルの機械を手に入れました。しかしそれは、読んだり書いたりできる機械へとつながる道筋ではありませんでした。 ですから私たちはいつも、ある問題を取り上げて『これこそが問題だ』と言いたがりますし、ときには『人類最後の試験』のような名前を楽観的につけてしまう。これさえ解ければ、もう機械に問題を出す意味はなくなるはずだ、と。しかし私が強く関心を持っているのは、ある意味ではとても『やさしい』問題——驚くほどうまく解けて、AGIをつくる前から非常に有用なシステムを構築できてしまうような問題——をどう見つけるかという点です。 そうしたタイプの科学的な問題に取り組みたいのです。そしてもちろん、AGIをつくろうとしている人たちと同じ系統の強力な技法を使いたい。しかし、哲学的な議論にとらわれる必要はありません。ただ有用なシステムをつくればいいのです。実際、いまの業界全体が考えているのは、ソフトウェア開発をする人にとって意味があり、文章を書く人にとっても意味があり、私たちが解ける問題の範囲そのものを広げてくれるような有用なシステムをどう作るかということだと思います。その結果としてAGIにたどり着くのかどうかは、いずれ分かるでしょう。でも、少なくとも有用なシステムには確実にたどり着きます」

Tsubame

17,968 views • 8 months ago