Загрузка видео...

Не удалось загрузить видео

На главную

Claude Opus 4.6は自力でCコンパイラを書き、Linuxカーネルをゼロから再コンパイルできたという。見方によっては、これは「ソフトウェアの再帰的自己改善」が始まったことを意味する。モデルが単にコード補完を超え、下層の技術スタックそのものを再構成できる地点に入りつつあるということだ。 サリム・イスマイル「これは、知能が『全面的なコスト崩壊フェーズ』に入っているという意味ですよね? とんでもない話に聞こえます」 アレクサンダー・ウィスナー=グロス「ええ、それに再帰的自己改善でもあります。もし主張どおり、Cコンパイラを丸ごと書けるのだとしたら——しかも付け加えると、それはゼロからLinuxカーネルをもう一度、実際にコンパイルすることにも成功したわけです。これは再帰的自己改善です。 これは、自分の下にある技術スタック全体を本質的に書き換えられるモデルだということです。つまり私たちは、再帰的自己改善が研究室の中だけの話ではない、という地点にいます。私のニュースレターで言いたい点でもありますが、これはもう本番環境に出ています。私たちは、完全に製品化された再帰的自己改善システムを手にしています」

16,177 просмотров • 8 месяцев назад •via X (Twitter)

Комментарии: 0

Нет доступных комментариев

Здесь появятся комментарии из оригинального поста

Похожие видео

シンギュラリティのトリガーである「再帰的自己改善」は、すでに少し前に起きているという。もちろん、まだ全自動ではないが、「進歩のどこまでがAIでどこまでが人間なのか」は曖昧になってきている。著者性が溶けるこの感覚こそ、分単位で進むシンギュラリティの手触りなのだ。 サリム・イスマイル「再帰的自己改善(RSI)がシンギュラリティの本当のトリガーだという話は、以前からしてきました。そしてそれは、すでに少し前に起きているんです。だから今やっているのは、その道筋を加速しているだけです。私たちは今この瞬間にも、産業時代を恒久的に抜けつつあります」 デイブ・ブランディン「ええ、シンギュラリティが分単位で展開していく様子は、私が経験した中で最も興味深いものだと本当に思いますし、アレックスの言うとおりです。いまは、人間がループの中にいて貢献している時期ではあるのですが、進歩のどこまでがAIでどこまでが人間なのかが、本当に曖昧なんです。実際にコーディングしていると、『あれは自分のアイデアだったのか?』となります。 半分は自分のアイデアのようでも、AIが別の案を提案してきて、それを採用していくうちに、結局それが自分のアイデアだったのかどうかも分からなくなります。ただ、いまのモードでは、こうしたコアアルゴリズムの研究の多くが、『500本のテストを走らせて、どのハイパーパラメータが良かったか、どのニューラルトポロジーが良かったかを教えて』という形になっています。相対論を発明したり発見したりするような話ではありません。 いろいろな試行を大量に回して、うまくいったものを選んで再デプロイし、そうするとより賢いAIになって、さらに多くの試行をする——その繰り返しです。私たちはその道筋をかなり進んでいる可能性が高いと思います」

Tsubame

15,386 просмотров • 8 месяцев назад

人間が関与することなく、Claude 10がClaude 11を設計し、その次をさらに作る——AIの開発者なら誰もが夢見るであろうRSI(再帰的自己改善)。そういうことが2028年の終わり頃にも実現するかもしれないという。そうなればそこからはきっと、シンギュラリティに向けた本格的な加速が始まる。 ジャック・クラーク「これらのシステムは、AIシステムを訓練するためのコードを書くことにも、かなり優れるようになってきました。AIシステムをどのように訓練すればよいか、そのアイデアを提案することにも長けてきています。 どこかの時点で、私たち人間がAIの今後の開発から完全に一歩引けるようになるかもしれません。いわば、AIを巻き上げて、あとは進むのを見守るような状態です。私たちが資源を与えて、「Claude 10よ、Claude 11を作れ」と言う。するとClaudeがアーキテクチャを作り、研究を行い、リスクを下げ、訓練実行まで行う。そしてClaude 11が出てくる。それはあらゆる面でClaude 10より優れています。 今日それが見えているわけではありません。しかし、私はこれが確実にこの10年以内に到来する現実的な可能性があると思っています。年を賭けるなら、2028年の終わり頃です。それは、多くの科学文献を読んだうえでの見方でもありますし、私たちが公表してきた情報にも基づいています」 ——「2028年というのは、つまり、あなたは7か月のお子さんがいると言っていましたし、私にも6か月の子どもがいますが、その子たちがほんの少し大きくなる頃ということですよね。2028年なんて、もうすぐそこです」 クラーク「ええ、かなり近いです。AIは速く進みます。その含意は、AIシステムは今後さらに先へ進み、これまで以上に強力になると予想すべきだということです。私たちがこの5〜6年で感じてきた進歩は、次の2〜3年に圧縮され、さらにもう一度圧縮されるかもしれないのです」

Tsubame

13,765 просмотров • 3 месяцев назад

意識の本質とは何か、時間とは何か。そういうことを僕たちはあまり考えずに、日々を過ごしている。ハサビス氏はそれが本当に不思議だという。彼がAI開発を志した原点は、宇宙という壮大なパズルを解き明かすことだった。人間の知性には限界がある。だからこそ新たな知性を生み出そうとしているのだ。 デミス・ハサビス「私がこの道に進んだのは、現実の本質を理解したかったからです。世界には根源的な問いがたくさんあります。意識の本質とは何か、時間とは何か。どれも途方もなく深い謎です。 私が驚くのは、私たちがこうしたことをあまり考えずに日常生活を送っていることです。目の前のことに気を取られているのでしょう。しかし私は、こうした疑問を考えるたびに、思わず立ち止まってしまいます。夜中にもずっと考えているのです。私たちは時間とは何かさえわかっていない。これは信じられないことです。それなのに、私たちは何事もないかのように日々を過ごしています。私には本当に不思議です。 では、どうすればいいのでしょうか。私は生まれつき、満たされることのない好奇心を持っていたのだと思います。そして、この宇宙には途方もなく深い謎があるという思いに、ずっと取りつかれてきました。私にとって宇宙は、壮大なパズルのようなものです。どうすれば、その謎を解き明かせるのでしょうか。 だからこそ、私は早くからAIに取り組んだのだと思います。私たちに何が必要なのか。それは、助けとなる存在です。 私はかつて、ファインマンやチューリングなど、尊敬する偉大な科学者たちの伝記をよく読んでいました。彼らは非常に優秀ですが、それでも人間の頭脳だけで理解できることには限界があります。科学的方法などを駆使しても、限界はあると思います。 ですから、私にとってAIの可能性は明らかでした。そこには二つの側面があります。AIは科学にとって素晴らしい道具になるだけでなく、それ自体が驚くべき科学的成果であり、工学的成果でもあります。そして、もう一つの深い謎である、私たち自身の心をよりよく理解する助けにもなるかもしれないのです」

Tsubame

21,343 просмотров • 13 дней назад

Google CEO: - Alpha Evolveのような自己改善するエージェントは、火や電気よりもずっと深遠な発明 - 私たちはその潜在能力をまだまだ過小評価している - 私たちは今確実に、再帰的に自己改善するパラダイムの開発に取り組み始めている --- 【書き起こし翻訳】 『Alpha Evolve』のようなものが持つ潜在能力は驚くべきものです。I/Oの約一週間前に控えめにリリースしたことは興味深いですね。これは私たちが手掛けている仕事の中でも最も画期的なものの一つです。本日はエージェントについて多く話しましたが、コードを改善したり、新たな発見をしたりするような、自己改善するエージェントを作れるという事実があるわけです。これは本当に素晴らしいパラダイムで、私たちはその潜在能力をまだまだ過小評価していると思います。これほどの技術はこれまで存在しませんでした。私は以前から、これが火や電気よりもずっと深遠なものであると感じていました。しかし、エージェントの開発を進めている中で、現在のモデルにはまだコストや遅延の問題があり、それらを連結して使うと完全な状態にはなっていません。しかし私たちは今確実に、再帰的に自己改善するパラダイムの開発に取り組み始めています。その可能性は計り知れないと思います。

d

39,394 просмотров • 1 год назад

ものすごく頭の良い友人がいたとしても、自分の知性水準よりも高度な会話はできない。同じように、平均的な人間には、すでにAIの能力を引き出す質問が作れなくなりつつある。だが、進歩はそこで止まらない。モデルはさらに速くなり、次は人間の10倍、100倍の速度で考えるAIが大量に動き始める。 ——「「有能な知能」という基準で言えば、平均的な人間はすでに超えられている、と考えていいでしょう。それが起きたのは今年の初め頃——」 エマド・モスタク「一般用途では今年の初め、エッジではここ数カ月です」 ——「つまり現時点では、平均的な人間は、より高度なモデルに対して、その能力を十分に引き出せるほど的確かつ効率的なプロンプトを書くことすらできなくなっている、ということですか?」 モスタク「そうですね。たとえば、ものすごく頭のいい友人がいるとします。その人と話していても、相手が自分よりはるかに賢ければ、会話は自分の知性の水準で止まってしまいます。何を話しますか? サッカーの話とか、そういうことですよね。でも、そんな話をするのに天才的なモデルは必要ありません。 誰でも経験があると思います。「君たちが何を話しているのか全然わからない。何を質問すればいいのかすらわからない。僕はただ、このdivを中央揃えにしたいだけなんだ。メールを確認したいだけなんだ。子どもを誕生日会に何時に連れていけばいいか知りたいだけなんだ」と。そんなことに天才は必要ありません。 『リック・アンド・モーティ』に、小さなロボットが出てくる回があります。「僕の目的は何?」と聞くと、「バターを取ることだ」と言われて、「ああ……」となる。私たちは、バターを取ることを仕事にする天才を作ってしまったようなものです。 そして、これをアルゴリズムの改善だけでさらに最適化できます。しかし、人々がまだ理解していないのは、次世代のチップとともに登場するモデルは、100倍高速になるということです。今の私たちは、AIモデルが人間と同じくらいの速度で考えることに慣れています。では、自分の10倍、100倍の速度で考える存在を見たことがありますか? 次に来るのはそれです。しかも、そうしたAIが群れになって動くのです」

Tsubame

43,887 просмотров • 1 месяц назад

AIは人類に破滅をもたらすのか、それとも慈悲深い神のような存在になるのか。そういう話をすると、未だ「SFの読みすぎだ」と冷笑する人々がいる。だが、元OpenAI研究者のスコット・アーロンソン氏は、僕たちはまさにそのSFの世界に生きているのだという。破滅も救済も現実の可能性なのだ。 スコット・アーロンソン「「AIなんて全部詐欺だ。確率的オウムにすぎない。全部偽物だ」と言う人たちを信じないでください。そういう見方は、あまりにも冷笑的すぎると思います。 現在のAIの問題は、機能しないことではありません。実際に機能していることが問題なのです。今のAIがやっていることを20年、30年前の人々に見せたら、誰もが「これは知能だ」と認めたはずです。今では私たちがAIに慣れてしまったからこそ、そもそもこれを知能と呼べるのか、という議論が起きているのです。 そして、新しい形態の知能をこの世界に誕生させることは、本質的に安全なことではありません。私たち親にとっては、子供を育てることだって安全なことばかりではありませんよね(笑)。しかも、子供の場合は私たちと生物学的に多くの共通点があります。ところが、今回私たちが生み出したのは、地球の歴史上、これまでに類を見ない知能なのです。 もしかすると、すべてがうまくいくかもしれません。私たちはAIを人類の繁栄に役立つ存在にできるかもしれません。そしてAIは、私たちが助けを求めたときに現れてくれなかった、あの慈悲深い神のような存在になるかもしれません。今度こそ、その神が本当に現れてくれるのです。そうなれば、私たちは一種の救世主の時代を実現できるかもしれません。もちろん、まったく逆の、壊滅的なシナリオも同じように想像できます。 ただ、以前はこういう話をすると、「SFの読みすぎだ」と片付けられていましたよね。でも、こんな言葉があります。「SFについて語ることに慣れた方がいいでしょう。なぜなら、私たちは今、そのSFの世界に生きているのですから」」

Tsubame

11,696 просмотров • 4 дней назад

AIが「病気を治す」「富を生む」「生産性を高める」という未来像は、多くの人にとって魅力的だし、人々はそういう利点を信じていないわけではない。だが、それだけでは不安は消えない。彼らが本当に聞きたいのは、その未来の中で自分たちは何者として生きるのか、ということだ。 サム・アルトマン「私の問いはこうです。未来における私の役割は何なのか。私の経済的な未来はどうなるのか。私の主体性はどうなるのか。私の子どもたちや家族は、これからも充実した創造的表現を持ち、世界を前に進めるために奮闘し、成長し、長いあいだ機能してきたやり方で共にそれを続けていけるのだろうか、ということです。 そしてAI業界の人たちが、「まあ、仕事はなくなるでしょう」とか、「仕事の50%が消えるでしょう」とか、「仕事の90%が消えるでしょう」と言い、「AIはあらゆる面であなたより賢くなるでしょう」と言い、「ベーシックインカムは与えますが、あなたには実質的に役割はありません」と言う。これはひどいことです。 しかも、「このAI企業は、すべての仕事を破壊するかもしれませんが、世界で最も価値のある企業になります」と言っているわけです。人々はそれを見て、言葉を失ったような、気まずいような反応になるんです。 だから私は、それはひどいメッセージだと思います。私たちが利点を十分に説明してこなかった、という話ではないと思います。実際、人々は私たちの言うことを信じているのです。「がんを治してください」と言われれば、それは素晴らしいことです。けれども私たちAI業界は、人々があらゆる段階で未来を決める主導権をどう保ち、私たちが大切にしているあらゆる意味で本当に意味のある人生をどう持ち続けられるのかを、説明できてこなかったのだと思います」

Tsubame

14,927 просмотров • 5 месяцев назад

与党幹部との会談を受けて 鈴木俊一幹事長 ぶら下がり会見  ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ 【質疑応答】2026年1月14日 Q:テレビ朝日です。先ほどの官邸では、どなたと面会されていたのかという点と、面会の中ではどのようなお話があったのかお聞きします。 A:高市総理にお目にかかりました。私と、維新の会の吉村代表、藤田共同代表、それに官房長官も加わってお話があったところであります。話の内容は、高市総理から通常国会において早期に衆議院を解散するという意向が伝えられました。総理は自分の考え等、しっかりと国民の皆さんにお伝えしたいということで、詳細等、また自分のお考えについては、19日の月曜日に記者会見を行って国民の皆様方に今回の解散のことについてお話をすると、そういうことでございました。 党としても今日の話を受けて、準備を急がなくてはなりません。しっかりとした選挙に向けての態勢づくりを加速していきたいと思っております。 Q:テレビ朝日です。早期に解散ということでしたが、具体的にその解散の日程についての言及はなかったのでしょうか。 A:19日の記者会見で、総理からお話があるということです。 Q:読売新聞です。先ほど、総理から解散について伝達を受けられたということですが、具体的に総理からはどのような言葉で幹事長の方に解散のご説明があったのかということをお伺いします。また、解散の理由についても総理からどのようなご説明があったのかお聞きします。 A:具体的といいますか、早期に解散をするという決意を示されたということであります。その理由ということはいくつもありますが一つは、やはり前の選挙というのは自公政権の下での選挙であって、連立のパートナーが変わった、そうしたことに対する国民の皆さんの審判というのは、まだ受けていないわけであります。そうした自民党と維新の会の政策合意の内容等について、これをしっかり進めるにあたっても国民の皆さんの審判を得る必要があるということです。 それと同時に、高市政権になって、「責任ある積極財政」でありますとか、「防衛三文書の見直し」でありますとか、新しい政策というものが打ち出されました。これは前回の選挙の時には、公約には掲げていないものであります。従いまして、発足した高市政権がそうした新たな政策というものを打ち出している、それについての審判を受けるということ、これも大切なことなのだと思います。 よく、これによって来年度の予算が年度内に成立せず、経済に与える影響が大きいのではないかというご指摘も、もちろんございますが、これにつきましては、昨年末、補正予算を組みました。かなり規模が大きいとのご指摘を受けたところもありますけれども、この中で物価高対策等をはじめとして、かなり手厚い措置を、この補正予算の中にしてあります。まだ、それが執行されていないものもあるわけでありますので、それの執行を急ぐとともに、それによってなるべく新年度、4月以降に食い込む期間も少なくして、経済に対する影響というものが出ないようにしたいと思っております。 そういうことも含めながら、我々としては、最後に申し上げたようなところもしっかり注意をしながら、総理が決断をされたわけでありますので、総理の決断にしっかり従って、自民党と維新の会でしっかりとした安定的な議席を得ることが出来ますように全力で頑張っていきたいと思います。 Q:共同通信です。公示日や投開票日については、いつを目途に準備するなどの指示があったのかどうかということと、維新との選挙区調整について今後進めていくお考えがあるのかどうかと、公明党との関係について、これまで公明党の選挙区には自民党は擁立してこなかったわけでありますが、今後の連携についてどう考えているのかと、今後公明党側と協議するお考えはありますかという点についてお聞かせください。 A:公示日については、それも含めて、ご自身の選挙に対する思いも含めて19日の記者会見で明らかにされるということでありました。 維新の会との選挙協力については基本的には、致しません。それぞれ候補者を立てて選挙をするということでありますが、これはあくまで原則であって、調整が必要なところが出てくれば、もちろん連立をする与党でありますので調整をする可能性はあるかもしれませんが、基本的にはしないということです。 公明党とは26年間、選挙協力をしてきたところでございますが、今回、与党という立場を離れたわけでございます。この公明党との関係につきましては党内でも色々な議論がございますので、今、まだその議論をしている最中でございます。従いまして、私からここで確定的なことを申し上げられる段階には至っていないということです。 Q:日本経済新聞です。衆院選の勝敗ラインについてお伺いします。一部報道では、自民単独で過半数を目指すという内容も出ていますが、現時点での幹事長のお考えをお聞かせください。また、本日の官邸での総理を含めた話し合いの中で勝敗ラインについての議論があったのかについても教えてください。 A:私といたしましては、これは自民党、日本維新の会、与党として安定多数を得るということでありますので、これは過半数を最低限確保しなければいけないと、こう思っております。これは私の、選挙をやるからには当然目指すべきことであって、しっかりとそれを達することが出来ますように頑張りたいと思います。 Q:日本テレビです。今日、総理から解散という意向が示されたということですけれども、鈴木幹事長からは、それに対してどのようなお言葉をお伝えされたのでしょうか。 A:解散というのは総理の専権事項だということになっております。そういうことで総理がそういう決断をされたわけでありますので、与党の幹事長としてその判断に従って、もう選挙に突入するわけでありますから、我々自民党の勝利のために、また与党の勝利のために全力を尽くすということにつきるわけでありまして、とくに総理のそういう意向表明に対して何か申し上げたということはありません。

自民党広報

269,002 просмотров • 9 месяцев назад

GPT-7、GPT-8。最先端モデルは完成してもすぐ公開されず、内部で次世代モデルを開発するために使われる。ウィスナー=グロス氏はこれをもって「事象の地平線を越えた」という。カーツワイル的な意味での特異点とは違うが、自己加速ループから後戻りしにくくなったという意味では妥当かもしれない。 ピーター・ディアマンディス「9月末のFellows Forumで、OpenAIの応用研究責任者ボリス・パワーは、現在、同社の研究の80〜90%がGPT-7とGPT-8の訓練に向けられていると述べました。彼の言葉を引用すれば、「そこに最も大きな価値があるから」です。 そして、5.1や5.2のような同一世代内での漸進的なアップデートは短期的な賭けであり、極めて近視眼的だと見なされています。つまり研究者たちは、私たちが今使っているものより2世代先に取り組んでいるわけです。 そこでアレックスに聞きたいのですが、以前から話してきたように、最先端モデルはすでに開発されながら公開されずに保留されています。こうした次世代モデルが一般公開されず、研究所内部の特定用途に使われるようになるのは、いつなのでしょうか?」 アレクサンダー・ウィスナー=グロス「私たちはもうその地点を通過しています。おそらく数か月前、あるいはそれ以前にすでに通過しています。現在のフロンティアモデルの1トークン当たりで最も大きな収益、少なくとも将来の割引現在価値を生む用途は、再帰的自己改善を通じて、さらに強力なモデルを開発することだからです。この点については、もう「事象の地平線」を越えています」 ディアマンディス「つまり、これはシンギュラリティだということですね」 ウィスナー=グロス「そうです。そもそも、だからこそシンギュラリティと呼ぶのです。私たちはもう事象の地平線を越えています」

Tsubame

427,702 просмотров • 22 дней назад

イーサン•ホークのセリフの覚え方。 演技の可能性を開くために台詞を完全に覚える。なるほどなあ。 「そういう作品には、どのように準備して臨むのですか? つまり、ものすごい量の台詞がありますよね。あれをどうやって覚えるのでしょうか。 私はいつも、ほかの俳優たちがどうやってすべての台詞を記憶しているのか、とても興味があるんです。」 イーサン: 「私がやっている方法は、もうずいぶん昔から続けていることなのですが、、、 私はすべてを、自分の日記を書くように手書きします。 台詞を覚えるとき、タイプされた完成稿のページから暗記することはしません。 そういうものを自分の頭の中に入れたくないんです。 それに、演技に直接関係のないト書きまで、自分の記憶の一部にしたくありません。 というのも、台本には時々こんなふうに書かれているからです。 『彼は動揺して言う。何か飲み物をもらえますか?』 こう書かれていると、その指示が一度頭に入ってしまい、なかなか取り除けなくなります。 でも、『何か飲み物をもらえますか?』という台詞には、いろいろな演じ方がありますよね。 動揺しているとしても、『何か飲み物をもらえますか?』という言い方になるかもしれない。 あるいは笑いながら言うかもしれません。 そして、その笑い方によって、何かが表れることもあるわけです。 つまり、さまざまな可能性があるんです。 だから、そういう余計なものをできるだけ取り除こうとするんです。 私は台本を最初から最後まで、すべて手書きします。今回の台本も、全部書き写すのに本当に長い時間がかかりました。 そして、もう一度書くんです。 自分が何を覚えていて、何を覚えていないかを確認するために。」 「つまり、記憶だけで書くんですか?」 イーサン: 「そうです。記憶を頼りに書こうとします。」 「すごいですね。」 イーサン: 「それから元の台本を見て、どこを間違えたのか確認します。 この作業は本当に役に立ちます。 『ああ、違う。この単語じゃない。この単語は別のところにあったんだ』 『あれ、この言葉はもう使っていたな』 そんなことに気づくんです。 それに、この方法は、脚本家の書いたものを非常に批判的に、でも建設的な意味で検討する助けにもなります。 例えば、ある言葉が4つの異なる箇所で使われていたとします。 『どうしてこの言葉を4回も使っているんだろう?』 『自分だったら、この言葉を4回も使うとは思えないな』 『こちらの言葉の方がよいのではないか?』 そういうふうに考え始めるんです。」 次に、演技をまったくつけずに録音するようにします。 例えば、3ページほどの台詞を取り出して、それを覚えようとします。 そして演技を加えない状態で録音します。 そのあと台本を見て、どこを間違えたか確認するんです。 時には、自分が間違えて言った表現の方が好きだと思うこともあります。 そういう場合は、その表現を取り入れられないか考えたりもします。」 例えば、ビリー・アイリッシュの『Birds of a Feather』という曲を考えてみてください。 私はあの曲の歌詞を全部知っています。 でも、どうやって全部覚えたのか、自分でも分からないんです。 もちろん、どこかで覚えたわけですよね。 カフェで流れているのを聞いたり、車のラジオから聞こえてきたりして、自然と吸収していったんです。 そして今では、その言葉が自分の中にある。 理想的には、特に大量の台詞を扱うときには、台詞を言うことがまったく努力を必要としないように感じられる状態が望ましいと思うんです。 そのためには、『次の台詞は何だったっけ』と一生懸命思い出そうとしていてはいけません。 だから私は、自分にいくつかの工夫を課すようにしています。 実は、その方法の一つを教えてくれたのがジョン・ヴォイトなんです。 本当ですよ。私が19歳くらいのときでした。 それは、まず靴紐をほどくんです。 そして、靴紐を結び直しながら、台詞を言わなければならない。 普通に会話しながら靴紐を結ぶのであれば、何の問題もありませんよね。 でも、台詞を必死に思い出そうとしていたら、靴紐を結びながら話すのは難しくなります。 つまり、靴紐を結びながらでも台詞を言えるようになるまで、です。 ほかのことをしながらでも台詞を言えるようにならなければ、本当にその台詞を覚えたとは言えないんです。」 もう一つ。 自分がどう演じるかについて、まったく考えを決めないまま台詞を覚えることができれば、自分自身を驚くほど開かれた状態にしておけるんです。 共演する俳優たちに対しても、演出家に対しても、そして作品に関わるすべての共同制作者に対しても。 そうすることで、彼らとの関わりの中で、自分の演技を柔軟に変化させていくことができるんです。」

Kou

172,358 просмотров • 7 дней назад

現在のAIに人類を滅ぼす力がある、という話ではない。恐れられているのは「知能爆発」——人間が関与することなくAIが賢くなり続け、あっという間に人間を置き去りにしてしまう、その瞬間だ。しかもそれは遠い未来の話ではない。ごく近い将来、例えば来年か再来年。そういう時間感覚で彼は考えている。 ジェイコブ・コクソン「AIに「AI研究」という課題を与えることができます。今、AIに数学研究をさせているのと同じです。現在私たちがやっている仕事をAIにやらせることができます。 そうすると、いわゆる「知能爆発」が起こります。人間が関与する必要もなく、AIはどんどん賢くなり続け、最終的には人間をはるかに上回る知能を持つものになります。そして、これは非常に近いうちに起こるかもしれません」 ——「先ほど、現在Anthropicで働いているあなたの元同僚について触れました。彼は、AIが今後10年以内に全人類を殺す可能性があるという見方に、基本的に同意しています。その後の投稿で彼は、こう述べています。 「はっきりさせておくと、最新のリスク報告書でも述べているように、現在のモデルによるリスクは低いと思っています。私が懸念しているのは、再帰的自己改善によって超知能が生まれることです。そして以前から述べているように、それは私たちが考えていたよりも速く進んでいます」 この「再帰的自己改善」というのが、今あなたがお話しされたことですよね。現在のモデルによるリスク自体は低いけれど、問題なのはその進歩の速さだ、という彼の見方に同意しますか?」 コクソン「その通りです。完全に同意します。現時点では、絶滅のリスクはありません。 現在のモデルができる最悪のことは、何かにハッキングして、インフラに大きな被害を与えることかもしれません。しかし、人類を出し抜いて絶滅に至らせるほどの知能はまだありません。ただ、異常なのはこの進歩の速さです。ごく近い将来——何十年も先ではなく、来年や再来年といった数年単位の話ですが——再帰的自己改善が起こる可能性は十分にあります。 そうなれば、エヴァンが投稿で論じていた、「私たち全員が死ぬ可能性がある」という段階に入ることになります。それは、もう間近に迫っています」

Tsubame

17,561 просмотров • 1 месяц назад

記者「できることはしっかりとできたと石丸さんご自身おっしゃいましたが、できなかったことはありましたか?」 石丸「できることは全部やったって言ってるので、できなかったことってのを特に言及してないんですけど、それは端からできないことを今質問されてますか?」 → なぜこんな簡単な質問が分からない(笑)? 記者「やりたくてできなかったことは今回なかったということでよろしいですか?」 → 面倒臭くなってます。 石丸「そのように先ほどお話をしました」 → 言ってないと思いますが。 記者「分かりました。ありがとうございます」 石丸「もしくは、あえてできなかったことを聞かれたのかなと思ったんですが、それは必要ないですか?」 → 「ない」と言ったばかりなのになんだ? 記者「ま、この先に向けてまだやりたいことですとか、今回は形にならなかったかもしれないけど、今後したいこととかお話を伺えるのかなと思って質問しました」 石丸「あ、そういうことでしたか。 先ほど私ができることはと断りを入れたのは、できなかったことがあるという前提ではあります。例えば何かというと1つ例を上げれば党首討論というものに、もっと呼んでいただきたかったなというのは本当にそう思います」 → あるんかい!しかも、できなかったことではなく、してもらえなかったことへの恨み言になりました。反省がどこまでも他人に向かいます。こんな会話にならない奴呼んだら放送事故だって。 #石丸伸二 再生の道・石丸伸二代表「できることは全部できた」 参院選で議席確保は厳しい情勢(2025年7月20日)

取材不足

8,315,672 просмотров • 1 год назад

👁️‍🗨️2026年1月 テレンス・タオ(数学者/UCLA教授) ✔︎人間(知性)は私たちが思うほど複雑な存在ではない ・AIという領域全体が私たちに教えていることの一つは『知能とは何か』という私たちの考えが、実はそれほど正確ではないのかもしれない、ということだと思う ・AIの歴史を振り返ると、いつもこうで『これは人間にしかできない課題である』…たとえば自然言語を読むこと、チェスに勝つこと、数学の問題を解くこと、そうした課題が提示されるたびに、誰かがそれもこなせるAIのアルゴリズムを見つけてくる ・いまでは画像を認識できるし、音声も理解できる。ところが、その『できるようになり方』を見てみると、どうにも知能らしく感じられないんです ・『ああ、何か小手先のトリックだったのか』…と。ニューラルネットワークを寄せ集め、アルゴリズムを走らせただけで目的は達成できてしまう ・私たちはどこかに『これこそ知的な思考だ』と呼べるような、得体の知れない洗練された仕組みを探していたのに、実際に目標を解く『道具』の中にはそれが見当たらない ・でも、それはひょっとすると…そもそも知能が、私たちの想像していたものとは違うからなのかもしれません ・特に大規模言語モデル(LLM)は非常に成功していますが、やっていることの多くは『次のトークンを予測する』、つまり文の次の単語を選ぶことにすぎません ・けれども、それって知的だとはあまり思えませんよね。たとえば誰かに、準備なしで即興スピーチをさせて、しかもその人が毎瞬『思い浮かんだ次の言葉』をただ口にしているだけだとしたら、それは人間の意識の垂れ流しみたいなものです ・そんなやり方で本当にうまくいくとはとても思えない。ところがLLMでは、それが実際にうまくいく。だとすると、人間もまた、案外かなりの部分を同じようにやっているのかもしれません。 ・たとえば、いま私があなたに返しているこの返答も、あらかじめ練習してきたものではありません。深く練り上げたわけでもない。それでも、その場にいて、状況に反応していくだけで、驚くほど先まで行けてしまう。もちろん、慎重で深い思考が本当に必要なこともあります。 ・でも、いかにも『知的に見える』作業の多くは、ほとんど本能的に、あるいはオートパイロットのようにこなせてしまう。 ・そしてそれが、AIの時代が私たちに教えていることの一つだと思うんです。私たちは時々、自分が思っているほど賢いわけではないのかもしれない、と。 🗣️インタビューアー 「では、こういうことでしょうか。私たちが『知能』だと思っていたもの、あるいは知能と取り違えていたものが間違っていたのか。それとも、LLMがやっていることが実は知能であって、私たちは『自分たちの知能がこんなに定式化できて、こんなに単純なのか』と驚いているだけなのか。」 ・ええ。おそらく、私たちはそれを受け入れていくのかもしれません。私たちは時々、自分がとても賢いことをした、天才的な発想を得た、と感じる ・でも実際は、何年も前の、半分忘れていた会話の断片を思い出しただけだったりする。それでもなお、それは知能なんです ・ただ、外側の観察者のように一歩引いて『知能とは何か』を見るのは、私たちには難しい。知能という概念が、感情的にも、自分のアイデンティティ(自分とは何者かという感覚)にも、あまりに強く結びついているからです ・けれど今、私たちは『別の知能モデル』を手に入れました。少しは客観的に研究できる対象として。それによって、私たちは同時に、自分たち自身についても少しずつ学び始めているのだと思います。 ・だから、知能とは何かについて、まったく異なる概念を持つようになるかもしれない。たしかに一時的には、少し戸惑うような、方向感覚を失うような感じもあるでしょう。でも最終的には、きっとその方が良い 🗣️インタビュアー 「つまり、変わるのは『知能』という概念だけではなく、『私たちは何者か』という定義そのものも変わっていく、ということですね。 ・ええ。でも、それは必ずしも悪いことではありません

ゆきママ

36,957 просмотров • 8 месяцев назад