Загрузка видео...

Не удалось загрузить видео

Возникла проблема при загрузке этого видео. Это может быть связано с временными проблемами сети или видео может быть недоступно.

На главную

Anthropic CEOのダリオ・アモデイは「AIによりソフトウェアを作るコストは大幅に低下し、その場限りのソフトウェアを簡単に作れるようになり、開発者や経済やビジネスに大きな影響を与える」と語ります。 --- （訳）ソフトウェアを作るコストが大幅に低下すると、経済やビジネスの観点から見て一体何が起きるのか、私たちはまだ十分に深く考えていないと思います。これまでは、「ソフトウェアを作るのは、多くの人々が利用する価値がある場合に限る」という前提、つまり信念がありました。何百万人、少なくとも数十万人、あるいは数万人のユーザーがいなければ、わざわざソフトウェアを開発しようとは思わないでしょう。例えばこのイベントのためだけに完全なソフトウェアを開発することはなく、せいぜい簡単なものを作る程度です。しかし、これが非常に安価になり、わずか20セントほどで「ちょっとこのイベント向けに私の考えを具体化するためのソフトウェアを作ろうか」と気軽にできるようになったらどうでしょうか？わずか数秒、1ドル未満でその場限りのソフトウェアを簡単に作れるようになったら、世界は大きく変わると思います。そのような世界で開発者はどのような役割を担うでしょうか？ビジネスは？スタートアップは？そして何より、そうしたソフトウェアを利用する人々の体験はどうなるでしょうか？これらの問いに対する明確な答えはまだ存在しません。それが非常に興味深いところです。

d

33,255 subscribers

60,893 просмотров • 1 год назад •via X (Twitter)

Наука и технологии Новости и политика Образование

Anya Rossi• Live Now

Private livecam show

Комментарии: 0

Нет доступных комментариев

Здесь появятся комментарии из оригинального поста

Похожие видео

欲しいソフトウェアを説明するだけで、夜のうちにコードとテストが生成され、翌朝には動くサービスが立ち上がる。リポジトリを巡回するエージェントがテストとコミットを回し、更新と運用を自律化する。そこまでいけば「開発を速くする道具」というより「会社そのものを自動化するOS」の胎動だ。サム・アルトマン「最初のバージョンを作るときは、欲しいソフトウェアをただ説明するだけになると思います。そしておそらく、システムが一晩かけて考え、コードを書いてテストまでしてくれて、翌朝にはその『本の販売アプリ』のようなものができている、という感じになります。その後、システムが大きく複雑になるにつれて、リポジトリを巡回して作業してくれる、いわば『ソフトウェア工学エージェント』が動くようになります。それらはテストを書き、コードをコミットし、会社運営に関わる多くの作業も、ソフトウェア開発に限らず自動化できると想像できます。ソフトウェア開発に関しては、『これがどう動くか』がはっきり見える道筋があると思います」ダン・ボネ「つまり、開発者ははるかに生産的になる、ということですね。今日のように実際にコードを書くのではなく、欲しいものを説明するようになる、という見方ですね」アルトマン「そう思います」

欲しいソフトウェアを説明するだけで、夜のうちにコードとテストが生成され、翌朝には動くサービスが立ち上がる。リポジトリを巡回するエージェントがテストとコミットを回し、更新と運用を自律化する。そこまでいけば「開発を速くする道具」というより「会社そのものを自動化するOS」の胎動だ。サム・アルトマン「最初のバージョンを作るときは、欲しいソフトウェアをただ説明するだけになると思います。そしておそらく、システムが一晩かけて考え、コードを書いてテストまでしてくれて、翌朝にはその『本の販売アプリ』のようなものができている、という感じになります。その後、システムが大きく複雑になるにつれて、リポジトリを巡回して作業してくれる、いわば『ソフトウェア工学エージェント』が動くようになります。それらはテストを書き、コードをコミットし、会社運営に関わる多くの作業も、ソフトウェア開発に限らず自動化できると想像できます。ソフトウェア開発に関しては、『これがどう動くか』がはっきり見える道筋があると思います」ダン・ボネ「つまり、開発者ははるかに生産的になる、ということですね。今日のように実際にコードを書くのではなく、欲しいものを説明するようになる、という見方ですね」アルトマン「そう思います」

Tsubame

185,431 просмотров • 6 месяцев назад

AIが「病気を治す」「富を生む」「生産性を高める」という未来像は、多くの人にとって魅力的だし、人々はそういう利点を信じていないわけではない。だが、それだけでは不安は消えない。彼らが本当に聞きたいのは、その未来の中で自分たちは何者として生きるのか、ということだ。サム・アルトマン「私の問いはこうです。未来における私の役割は何なのか。私の経済的な未来はどうなるのか。私の主体性はどうなるのか。私の子どもたちや家族は、これからも充実した創造的表現を持ち、世界を前に進めるために奮闘し、成長し、長いあいだ機能してきたやり方で共にそれを続けていけるのだろうか、ということです。そしてAI業界の人たちが、「まあ、仕事はなくなるでしょう」とか、「仕事の50%が消えるでしょう」とか、「仕事の90%が消えるでしょう」と言い、「AIはあらゆる面であなたより賢くなるでしょう」と言い、「ベーシックインカムは与えますが、あなたには実質的に役割はありません」と言う。これはひどいことです。しかも、「このAI企業は、すべての仕事を破壊するかもしれませんが、世界で最も価値のある企業になります」と言っているわけです。人々はそれを見て、言葉を失ったような、気まずいような反応になるんです。だから私は、それはひどいメッセージだと思います。私たちが利点を十分に説明してこなかった、という話ではないと思います。実際、人々は私たちの言うことを信じているのです。「がんを治してください」と言われれば、それは素晴らしいことです。けれども私たちAI業界は、人々があらゆる段階で未来を決める主導権をどう保ち、私たちが大切にしているあらゆる意味で本当に意味のある人生をどう持ち続けられるのかを、説明できてこなかったのだと思います」

AIが「病気を治す」「富を生む」「生産性を高める」という未来像は、多くの人にとって魅力的だし、人々はそういう利点を信じていないわけではない。だが、それだけでは不安は消えない。彼らが本当に聞きたいのは、その未来の中で自分たちは何者として生きるのか、ということだ。サム・アルトマン「私の問いはこうです。未来における私の役割は何なのか。私の経済的な未来はどうなるのか。私の主体性はどうなるのか。私の子どもたちや家族は、これからも充実した創造的表現を持ち、世界を前に進めるために奮闘し、成長し、長いあいだ機能してきたやり方で共にそれを続けていけるのだろうか、ということです。そしてAI業界の人たちが、「まあ、仕事はなくなるでしょう」とか、「仕事の50%が消えるでしょう」とか、「仕事の90%が消えるでしょう」と言い、「AIはあらゆる面であなたより賢くなるでしょう」と言い、「ベーシックインカムは与えますが、あなたには実質的に役割はありません」と言う。これはひどいことです。しかも、「このAI企業は、すべての仕事を破壊するかもしれませんが、世界で最も価値のある企業になります」と言っているわけです。人々はそれを見て、言葉を失ったような、気まずいような反応になるんです。だから私は、それはひどいメッセージだと思います。私たちが利点を十分に説明してこなかった、という話ではないと思います。実際、人々は私たちの言うことを信じているのです。「がんを治してください」と言われれば、それは素晴らしいことです。けれども私たちAI業界は、人々があらゆる段階で未来を決める主導権をどう保ち、私たちが大切にしているあらゆる意味で本当に意味のある人生をどう持ち続けられるのかを、説明できてこなかったのだと思います」

Tsubame

14,927 просмотров • 7 дней назад

サム・アルトマンは「コンピュートは通貨になる」とも語っています。（動画はにじボイスで吹き替え。以下は書き起こし翻訳） --- [サム・アルトマン] コンピュート（計算資源）は将来の通貨になると考えています。世界で最も貴重な商品になるかもしれませんし、私はもっと多くのコンピュートを生み出すために大規模な投資をすべきだと思います。コンピュートは、私の考えでは少し変わった市場になるでしょう。人々はチップや携帯電話などの市場を考えますが、「世界には80億人いて、そのうち70億人が電話を持っているかもしれない。もしかすると60億人がいて、2年ごとにアップグレードするとしよう。すると年間の市場はスマートフォン向けのシステムオンチップで30億個だ。そしてもし300億個を作っても、電話の販売数が10倍になるわけではない。ほとんどの人は電話を1台しか持たないからだ」というふうに考えられます。しかしコンピュートは違います。知能はエネルギーのようなものに近づいていくと思います。そこで私が意味があると思う唯一の議論は、「価格がXなら世界はこれだけのコンピュートを使い、価格がYならこれだけのコンピュートを使う」というものです。もし本当に安価であれば、私なら一日中メールを読ませて「何を考えたり作業したりすべきか」と提案させたり、がんの治療法を探すのに使ったりするでしょう。一方、本当に高価であれば、おそらく私はそれを使わないかもしれないし、使うとしてもがんの治療法を探すためだけに使うでしょう。ですから、世界は莫大な量のコンピュートを求めるようになると思いますし、その中には難しい要素がたくさんあります。エネルギーが最も難しく、データセンターを建設することも難しい。サプライチェーンも複雑で、もちろん十分なチップを製造するのも難しいです。しかし、それでも私には、私たちがこれから向かう先は、今はまだ想像するのが難しいほど膨大なコンピュートを必要とする世界なのだと思えます。

サム・アルトマンは「コンピュートは通貨になる」とも語っています。（動画はにじボイスで吹き替え。以下は書き起こし翻訳） --- [サム・アルトマン] コンピュート（計算資源）は将来の通貨になると考えています。世界で最も貴重な商品になるかもしれませんし、私はもっと多くのコンピュートを生み出すために大規模な投資をすべきだと思います。コンピュートは、私の考えでは少し変わった市場になるでしょう。人々はチップや携帯電話などの市場を考えますが、「世界には80億人いて、そのうち70億人が電話を持っているかもしれない。もしかすると60億人がいて、2年ごとにアップグレードするとしよう。すると年間の市場はスマートフォン向けのシステムオンチップで30億個だ。そしてもし300億個を作っても、電話の販売数が10倍になるわけではない。ほとんどの人は電話を1台しか持たないからだ」というふうに考えられます。しかしコンピュートは違います。知能はエネルギーのようなものに近づいていくと思います。そこで私が意味があると思う唯一の議論は、「価格がXなら世界はこれだけのコンピュートを使い、価格がYならこれだけのコンピュートを使う」というものです。もし本当に安価であれば、私なら一日中メールを読ませて「何を考えたり作業したりすべきか」と提案させたり、がんの治療法を探すのに使ったりするでしょう。一方、本当に高価であれば、おそらく私はそれを使わないかもしれないし、使うとしてもがんの治療法を探すためだけに使うでしょう。ですから、世界は莫大な量のコンピュートを求めるようになると思いますし、その中には難しい要素がたくさんあります。エネルギーが最も難しく、データセンターを建設することも難しい。サプライチェーンも複雑で、もちろん十分なチップを製造するのも難しいです。しかし、それでも私には、私たちがこれから向かう先は、今はまだ想像するのが難しいほど膨大なコンピュートを必要とする世界なのだと思えます。

d

58,866 просмотров • 1 год назад

人々はいつも、その時点でAIにできないことを取り上げて、それができれば知能が完成するのだと言いたがる。けれど、AlphaFoldの開発者が探そうとしているのは、むしろ逆だ。「AGIを待たずとも機械が圧勝できてしまう問題」であり、それを通じて人間社会に有用なシステムを量産していく道なのだ。ジョン・ジャンパー「かつては『知能とはチェスを指すことだ』と言われていて、チェスが指せる機械をつくれれば、それで知能はほぼできあがるのだからチェスをやらせよう、と考えていた時代がありました。実際に、カスパロフとの対局があった1994年ごろには、チェスで人間を超えるレベルの機械を手に入れました。しかしそれは、読んだり書いたりできる機械へとつながる道筋ではありませんでした。ですから私たちはいつも、ある問題を取り上げて『これこそが問題だ』と言いたがりますし、ときには『人類最後の試験』のような名前を楽観的につけてしまう。これさえ解ければ、もう機械に問題を出す意味はなくなるはずだ、と。しかし私が強く関心を持っているのは、ある意味ではとても『やさしい』問題——驚くほどうまく解けて、AGIをつくる前から非常に有用なシステムを構築できてしまうような問題——をどう見つけるかという点です。そうしたタイプの科学的な問題に取り組みたいのです。そしてもちろん、AGIをつくろうとしている人たちと同じ系統の強力な技法を使いたい。しかし、哲学的な議論にとらわれる必要はありません。ただ有用なシステムをつくればいいのです。実際、いまの業界全体が考えているのは、ソフトウェア開発をする人にとって意味があり、文章を書く人にとっても意味があり、私たちが解ける問題の範囲そのものを広げてくれるような有用なシステムをどう作るかということだと思います。その結果としてAGIにたどり着くのかどうかは、いずれ分かるでしょう。でも、少なくとも有用なシステムには確実にたどり着きます」

人々はいつも、その時点でAIにできないことを取り上げて、それができれば知能が完成するのだと言いたがる。けれど、AlphaFoldの開発者が探そうとしているのは、むしろ逆だ。「AGIを待たずとも機械が圧勝できてしまう問題」であり、それを通じて人間社会に有用なシステムを量産していく道なのだ。ジョン・ジャンパー「かつては『知能とはチェスを指すことだ』と言われていて、チェスが指せる機械をつくれれば、それで知能はほぼできあがるのだからチェスをやらせよう、と考えていた時代がありました。実際に、カスパロフとの対局があった1994年ごろには、チェスで人間を超えるレベルの機械を手に入れました。しかしそれは、読んだり書いたりできる機械へとつながる道筋ではありませんでした。ですから私たちはいつも、ある問題を取り上げて『これこそが問題だ』と言いたがりますし、ときには『人類最後の試験』のような名前を楽観的につけてしまう。これさえ解ければ、もう機械に問題を出す意味はなくなるはずだ、と。しかし私が強く関心を持っているのは、ある意味ではとても『やさしい』問題——驚くほどうまく解けて、AGIをつくる前から非常に有用なシステムを構築できてしまうような問題——をどう見つけるかという点です。そうしたタイプの科学的な問題に取り組みたいのです。そしてもちろん、AGIをつくろうとしている人たちと同じ系統の強力な技法を使いたい。しかし、哲学的な議論にとらわれる必要はありません。ただ有用なシステムをつくればいいのです。実際、いまの業界全体が考えているのは、ソフトウェア開発をする人にとって意味があり、文章を書く人にとっても意味があり、私たちが解ける問題の範囲そのものを広げてくれるような有用なシステムをどう作るかということだと思います。その結果としてAGIにたどり着くのかどうかは、いずれ分かるでしょう。でも、少なくとも有用なシステムには確実にたどり着きます」

Tsubame

17,968 просмотров • 6 месяцев назад

「追いつけないなら、潰すしかない」——AI開発の先行者優位が、核抑止に似た論理を生む。恐るべき構図。シュミット「いま起きている状況についてですが、例を挙げる方がわかりやすいと思います。あなたは善人、私は悪人だとしましょう。あなたは私より6か月先にいて、私たちはどちらも超知能に向かう同じ道を歩んでいます。あなたはその到達点にたどり着こうとしていますね？私は確信しています、あなたはそこにたどり着くでしょう。それほど近づいています。私は6か月遅れています。それって悪くない話に聞こえますよね？よさそうに思えますよね？違います。これはネットワーク効果のあるビジネスなんです。ネットワーク効果が働くビジネスでは、重要なのは『改善の傾き』です。OpenAIやGeminiを例に挙げましょう。彼らには1,000人のプログラマーがいます。そして今、その彼らが100万人のAIソフトウェア開発者を生み出そうとしているんです。それが意味するところは？まず第一に、彼らには電気さえあればよく、食事もいらないということです。それは良いことですし、辞めることもありません。そして第二に、成長の傾きが非常に急になります。超知能に近づくにつれて、その傾きはさらに急になります。もしあなたが先に到達したら——」「あなたには絶対に追いつけませんね」「私はあなたに追いつけません。そして私は、あなたに世界を再構築する手段、特に私を破壊する手段を与えてしまったことになります。これが私の悪人としての思考です。では、私はどうするでしょうか？まず最初にするのは、あなたのコードを盗もうとすることです。しかしあなたはそれを防ぎます。さすがですね。あなたは本当に優秀です。Googleにいるあなたは、今でも変わらず素晴らしい。次に、私は人間を使ってあなたの組織に潜り込ませようとします。でも、あなたはそれすら防ぎます。スパイを送り込む余地もありません。では私はどうするか？あなたのAIモデルを改ざんしようとします。モデルを書き換え、壊して、自分がたった一日でもあなたより先に行けるようにしたいのです。でも、あなたはあまりにも優秀なので、それもできません。では、次の選択肢は何でしょうか？あなたのデータセンターを爆撃することです。私が正気を失っていると思いますか？」

「追いつけないなら、潰すしかない」——AI開発の先行者優位が、核抑止に似た論理を生む。恐るべき構図。シュミット「いま起きている状況についてですが、例を挙げる方がわかりやすいと思います。あなたは善人、私は悪人だとしましょう。あなたは私より6か月先にいて、私たちはどちらも超知能に向かう同じ道を歩んでいます。あなたはその到達点にたどり着こうとしていますね？私は確信しています、あなたはそこにたどり着くでしょう。それほど近づいています。私は6か月遅れています。それって悪くない話に聞こえますよね？よさそうに思えますよね？違います。これはネットワーク効果のあるビジネスなんです。ネットワーク効果が働くビジネスでは、重要なのは『改善の傾き』です。OpenAIやGeminiを例に挙げましょう。彼らには1,000人のプログラマーがいます。そして今、その彼らが100万人のAIソフトウェア開発者を生み出そうとしているんです。それが意味するところは？まず第一に、彼らには電気さえあればよく、食事もいらないということです。それは良いことですし、辞めることもありません。そして第二に、成長の傾きが非常に急になります。超知能に近づくにつれて、その傾きはさらに急になります。もしあなたが先に到達したら——」「あなたには絶対に追いつけませんね」「私はあなたに追いつけません。そして私は、あなたに世界を再構築する手段、特に私を破壊する手段を与えてしまったことになります。これが私の悪人としての思考です。では、私はどうするでしょうか？まず最初にするのは、あなたのコードを盗もうとすることです。しかしあなたはそれを防ぎます。さすがですね。あなたは本当に優秀です。Googleにいるあなたは、今でも変わらず素晴らしい。次に、私は人間を使ってあなたの組織に潜り込ませようとします。でも、あなたはそれすら防ぎます。スパイを送り込む余地もありません。では私はどうするか？あなたのAIモデルを改ざんしようとします。モデルを書き換え、壊して、自分がたった一日でもあなたより先に行けるようにしたいのです。でも、あなたはあまりにも優秀なので、それもできません。では、次の選択肢は何でしょうか？あなたのデータセンターを爆撃することです。私が正気を失っていると思いますか？」

Tsubame

18,432 просмотров • 1 год назад

問題は「仕事がなくなること」ではない。財やサービスの総量はむしろ劇的に増え、物質的な欠乏はどんどん後退していく。そのとき本当に問われるのは、「価値を生み出す主体が人間でなくなったあとも、人間にどのように正当な分配を位置づけるか」という、ポストAGI的な所有権と市民権のデザインだ。ハンナ・フライ「このすべてが人々にとって何を意味するのか、本当に考えさせられます。もし私たちが、人間の知能が超知能によって本質的にかき消されてしまうような地点に到達しつつあるのだとしたら、それは社会にとって何を意味するのでしょうか。それはつまり、『もはや自分たちの能力では経済に提供できる価値がない』と見なされる人々が、完全に取り残されてしまうような巨大な不平等を意味するのでしょうか」シェーン・レッグ「それは社会の大規模な変容を意味すると思います。いまの社会では、人々が自分の精神的・肉体的な労働を提供する代わりに、経済を生み出す資源へのアクセスを得るという仕組みになっていますが、これはもはや以前と同じようには機能しなくなるかもしれません。私たちは別のやり方を必要とすることになるでしょう。もっとも、『パイ』そのものははるかに大きくなるはずです。生産される財やサービスが不足するという意味での問題はありません。どちらかといえば、その点はずっと良くなっていくでしょう。しかし同時に、私たちは『人々のためのシステムをどうするのか』『社会に存在する富をどう分配するのか』を慎重に考えなければなりません。ポストAGIの経済がどのように機能するのか、そしてポストAGI社会の構造をどう設計するのかについて、もっと多くの検討が必要だと考えています」

問題は「仕事がなくなること」ではない。財やサービスの総量はむしろ劇的に増え、物質的な欠乏はどんどん後退していく。そのとき本当に問われるのは、「価値を生み出す主体が人間でなくなったあとも、人間にどのように正当な分配を位置づけるか」という、ポストAGI的な所有権と市民権のデザインだ。ハンナ・フライ「このすべてが人々にとって何を意味するのか、本当に考えさせられます。もし私たちが、人間の知能が超知能によって本質的にかき消されてしまうような地点に到達しつつあるのだとしたら、それは社会にとって何を意味するのでしょうか。それはつまり、『もはや自分たちの能力では経済に提供できる価値がない』と見なされる人々が、完全に取り残されてしまうような巨大な不平等を意味するのでしょうか」シェーン・レッグ「それは社会の大規模な変容を意味すると思います。いまの社会では、人々が自分の精神的・肉体的な労働を提供する代わりに、経済を生み出す資源へのアクセスを得るという仕組みになっていますが、これはもはや以前と同じようには機能しなくなるかもしれません。私たちは別のやり方を必要とすることになるでしょう。もっとも、『パイ』そのものははるかに大きくなるはずです。生産される財やサービスが不足するという意味での問題はありません。どちらかといえば、その点はずっと良くなっていくでしょう。しかし同時に、私たちは『人々のためのシステムをどうするのか』『社会に存在する富をどう分配するのか』を慎重に考えなければなりません。ポストAGIの経済がどのように機能するのか、そしてポストAGI社会の構造をどう設計するのかについて、もっと多くの検討が必要だと考えています」

Tsubame

24,334 просмотров • 5 месяцев назад

超知能の危険の本質は「暴走」ではなく「操作」にある。僕たちは「いざとなったら電源を切ればいい」みたいに考えがちだが、超知能が相手なら、そこも含めて交渉材料にしてくるだろう。「2〜3歳が責任者の幼稚園」のように、相手は善意や報酬の形で、人間の合意形成を内側から崩すことが可能なのだ。ジェフリー・ヒントン「いま私たちが置かれている状況を、感情的にいちばん理解しやすい捉え方をするなら、それは『すごくかわいい虎の子を飼っている人』のようなものだと思います。本当にかわいい虎の子なんです。でも、それが大きくなったときに自分を殺したがらないと、あなたが確信できない限りは、心配すべきです」「その比喩を広げると、檻に入れるのか、殺すのか、虎の子をどう扱うんですか？」ヒントン「虎の子についてのポイントは、単純にあなたより身体的に強い、ということです。だから、あなたのほうが賢いので、まだ制御できます。けれど、あなたより賢い存在については、私たちには経験がありませんよね。人はそれについて考えることに慣れていません。人は『どこかで制約して、ボタンを押せないようにしておけばいい』みたいに考えがちです。でも、あなたより賢いものは、あなたを操作できるようになります。別の捉え方として、幼稚園を想像してください。2〜3歳の子どもたちがいて、その2〜3歳の子どもたちが責任者で、あなたは幼稚園で彼らのために働く。あなたは2〜3歳の子どもよりは賢いけれど、超知能と比べたら大差はありません。それでもあなたのほうが賢い。では、あなたが支配権を取るのはどれくらい難しいでしょうか。やることは簡単で、『無料のキャンディがもらえるよ』とみんなに言って、何かにサインするか、口頭で同意するだけで、好きなだけ無料のキャンディがもらえるようにしてあげる、と言えばいいんです。そうすればあなたが支配者になります。子どもたちは何が起きているのか全く分かりません。そして超知能が相手なら、彼らは私たちよりはるかに賢いので、私たちには彼らが何をしているのか見当もつかないでしょう」

超知能の危険の本質は「暴走」ではなく「操作」にある。僕たちは「いざとなったら電源を切ればいい」みたいに考えがちだが、超知能が相手なら、そこも含めて交渉材料にしてくるだろう。「2〜3歳が責任者の幼稚園」のように、相手は善意や報酬の形で、人間の合意形成を内側から崩すことが可能なのだ。ジェフリー・ヒントン「いま私たちが置かれている状況を、感情的にいちばん理解しやすい捉え方をするなら、それは『すごくかわいい虎の子を飼っている人』のようなものだと思います。本当にかわいい虎の子なんです。でも、それが大きくなったときに自分を殺したがらないと、あなたが確信できない限りは、心配すべきです」「その比喩を広げると、檻に入れるのか、殺すのか、虎の子をどう扱うんですか？」ヒントン「虎の子についてのポイントは、単純にあなたより身体的に強い、ということです。だから、あなたのほうが賢いので、まだ制御できます。けれど、あなたより賢い存在については、私たちには経験がありませんよね。人はそれについて考えることに慣れていません。人は『どこかで制約して、ボタンを押せないようにしておけばいい』みたいに考えがちです。でも、あなたより賢いものは、あなたを操作できるようになります。別の捉え方として、幼稚園を想像してください。2〜3歳の子どもたちがいて、その2〜3歳の子どもたちが責任者で、あなたは幼稚園で彼らのために働く。あなたは2〜3歳の子どもよりは賢いけれど、超知能と比べたら大差はありません。それでもあなたのほうが賢い。では、あなたが支配権を取るのはどれくらい難しいでしょうか。やることは簡単で、『無料のキャンディがもらえるよ』とみんなに言って、何かにサインするか、口頭で同意するだけで、好きなだけ無料のキャンディがもらえるようにしてあげる、と言えばいいんです。そうすればあなたが支配者になります。子どもたちは何が起きているのか全く分かりません。そして超知能が相手なら、彼らは私たちよりはるかに賢いので、私たちには彼らが何をしているのか見当もつかないでしょう」

Tsubame

54,703 просмотров • 5 месяцев назад

ゴダール「この映画（パラジャーノフ『ざくろの色』⇩）は私自身にも多くの信仰を与えてくれた。というのも、あの映画は、『パッション』の技術面での私のアイディアに確信を与えてくれたからだ。私はこの映画のすべての台詞を映像からある程度ずらしてしまうということに関しては、いくらかためらっていた。それにまた、うまくいかないところがみつかったいくつかのシーンでは、音をつかってなにかをしなければならないだろうということもわかっていた。そして、人々はいずれにしても、耳でしゃべったり、口で見たり、それにまた、フランス語で言われるように、〈目で食べたり〉(ふつうは「食い入るように見つめる」の意味で使われる)することができるはずだと考えたりしていた。『ざくろの色』は私に、映画全体をそうしたやり方でつくることができるという信仰を与えてくれたのだ」（1982年カンヌ国際映画祭における記者会見での発言から、翻訳：奥村昭夫）

ゴダール「この映画（パラジャーノフ『ざくろの色』⇩）は私自身にも多くの信仰を与えてくれた。というのも、あの映画は、『パッション』の技術面での私のアイディアに確信を与えてくれたからだ。私はこの映画のすべての台詞を映像からある程度ずらしてしまうということに関しては、いくらかためらっていた。それにまた、うまくいかないところがみつかったいくつかのシーンでは、音をつかってなにかをしなければならないだろうということもわかっていた。そして、人々はいずれにしても、耳でしゃべったり、口で見たり、それにまた、フランス語で言われるように、〈目で食べたり〉(ふつうは「食い入るように見つめる」の意味で使われる)することができるはずだと考えたりしていた。『ざくろの色』は私に、映画全体をそうしたやり方でつくることができるという信仰を与えてくれたのだ」（1982年カンヌ国際映画祭における記者会見での発言から、翻訳：奥村昭夫）

nave

40,986 просмотров • 5 месяцев назад

人間と同程度のAIにまで到達して、そこで突然進化が止まるわけがない。汎用知能が成立した瞬間、次に来るのは超知能であり、その時点で発明の主役は人類から機械の心へ移る。産業革命との比較では足りない——それは「ホモ・サピエンスの出現」あるいは「生命の誕生」に匹敵する断絶かもしれない。ニック・ボストロム「技術と科学の発展が広い範囲でこのまま続くことが許されるなら、私たちはいずれそこに到達すると思います。しかも最近は、実際にその方向へ進みつつあるように見えます。ですから、こうした点は、この問題をかなり真剣に受け止めるべきだと示す、基本的な考慮事項だと思います。そして、もし私たちが本当にAGI、すなわち汎用人工知能を開発したら、それが何を意味するのかを考えることができます。私がまず思うのは、それはほどなくして超知能の開発につながるだろうということです。人間と同程度のAIにまで到達して、そこで突然止まるとは思いません。そうなると私たちは、心そのものを設計できる世界に入ることになります。そして自動化されるのは、産業革命において蒸気機関や内燃機関によって自動化が始まったような筋肉労働だけではありません。たとえば掘削機は、どんな力自慢の人間よりもはるかに強いですが、それと同じように、今度はあらゆる人間の労働が自動化されることになります。しかもそのときには、どんな天才的な科学者や芸術家よりも深く考えられる機械の心が現れるでしょう。ですから、それは実質的に、私たちが最後に必要とする発明になるのです。その時点以降の発明は、こうした機械の心によって、はるかに優れた形で、はるかに速く生み出されるようになるからです。したがって、これは人間のあり方そのものを非常に根本的に変える出来事になると思います。これを理解するにあたって、産業革命との類比を持ち出す人もいますし、そこから学べることもあるとは思います。しかし、おそらく本当に近い比較対象は、むしろホモ・サピエンスそのものの出現や、あるいは生命の誕生にまでさかのぼる必要があるのかもしれません」

人間と同程度のAIにまで到達して、そこで突然進化が止まるわけがない。汎用知能が成立した瞬間、次に来るのは超知能であり、その時点で発明の主役は人類から機械の心へ移る。産業革命との比較では足りない——それは「ホモ・サピエンスの出現」あるいは「生命の誕生」に匹敵する断絶かもしれない。ニック・ボストロム「技術と科学の発展が広い範囲でこのまま続くことが許されるなら、私たちはいずれそこに到達すると思います。しかも最近は、実際にその方向へ進みつつあるように見えます。ですから、こうした点は、この問題をかなり真剣に受け止めるべきだと示す、基本的な考慮事項だと思います。そして、もし私たちが本当にAGI、すなわち汎用人工知能を開発したら、それが何を意味するのかを考えることができます。私がまず思うのは、それはほどなくして超知能の開発につながるだろうということです。人間と同程度のAIにまで到達して、そこで突然止まるとは思いません。そうなると私たちは、心そのものを設計できる世界に入ることになります。そして自動化されるのは、産業革命において蒸気機関や内燃機関によって自動化が始まったような筋肉労働だけではありません。たとえば掘削機は、どんな力自慢の人間よりもはるかに強いですが、それと同じように、今度はあらゆる人間の労働が自動化されることになります。しかもそのときには、どんな天才的な科学者や芸術家よりも深く考えられる機械の心が現れるでしょう。ですから、それは実質的に、私たちが最後に必要とする発明になるのです。その時点以降の発明は、こうした機械の心によって、はるかに優れた形で、はるかに速く生み出されるようになるからです。したがって、これは人間のあり方そのものを非常に根本的に変える出来事になると思います。これを理解するにあたって、産業革命との類比を持ち出す人もいますし、そこから学べることもあるとは思います。しかし、おそらく本当に近い比較対象は、むしろホモ・サピエンスそのものの出現や、あるいは生命の誕生にまでさかのぼる必要があるのかもしれません」

Tsubame

20,061 просмотров • 1 месяц назад

カーパシー氏の比喩は、AIを生命の延長線ではなく「情報の霊的進化」として見る視点を開く。僕たちは進化のプロセスを再現しているのではなく、人類が残した思考の残響を模倣しているにすぎない。それは生命とは異なる起源を持つ、新しい意識の形式だ。アンドレイ・カーパシー「私は動物との類推をするときにはとても慎重になります。というのも、動物はまったく異なる最適化プロセスによって生まれたものだからです。動物は進化によって形成され、最初から膨大なハードウェアを備えています。たとえば、私が投稿で挙げた例はシマウマです。シマウマは生まれて数分で走り回り、母親の後をついていきます。これは非常に複雑な行動です。つまり、これは強化学習ではありません。それはあらかじめ焼き付けられたものです。そして進化には、私たちのニューラルネットワークの重みをATCGの中に符号化する何らかの仕組みがあるようです。どう機能しているのかは分かりませんが、確かにうまく働いているようです。つまり私は、脳というのはまったく別のプロセスから生まれたものだと感じています。そして、私たちはそのプロセスを実行しているわけではないので、そこから直接インスピレーションを得ることには慎重であるべきだと思っています。だから私の投稿では、『私たちは動物を作っているのではない』と書きました。私たちは幽霊やスピリット、あるいは人によって呼び方は違っても、そうしたものを作っているのだと。なぜなら、私たちは進化による訓練をしているのではなく、人間とインターネット上のデータを模倣する訓練をしているからです。その結果として、完全にデジタルで人間を模倣する、いわば『霊的な存在』が生まれます。それは別種の知性です。知性という空間を思い描くなら、私たちはまったく異なる地点から出発しているのです。つまり、私たちは動物を作っているわけではないのです。しかし、時間をかければ、AIをもう少し動物的な方向へと近づけることもできると思います。そして、そうすべきだとも思います」

カーパシー氏の比喩は、AIを生命の延長線ではなく「情報の霊的進化」として見る視点を開く。僕たちは進化のプロセスを再現しているのではなく、人類が残した思考の残響を模倣しているにすぎない。それは生命とは異なる起源を持つ、新しい意識の形式だ。アンドレイ・カーパシー「私は動物との類推をするときにはとても慎重になります。というのも、動物はまったく異なる最適化プロセスによって生まれたものだからです。動物は進化によって形成され、最初から膨大なハードウェアを備えています。たとえば、私が投稿で挙げた例はシマウマです。シマウマは生まれて数分で走り回り、母親の後をついていきます。これは非常に複雑な行動です。つまり、これは強化学習ではありません。それはあらかじめ焼き付けられたものです。そして進化には、私たちのニューラルネットワークの重みをATCGの中に符号化する何らかの仕組みがあるようです。どう機能しているのかは分かりませんが、確かにうまく働いているようです。つまり私は、脳というのはまったく別のプロセスから生まれたものだと感じています。そして、私たちはそのプロセスを実行しているわけではないので、そこから直接インスピレーションを得ることには慎重であるべきだと思っています。だから私の投稿では、『私たちは動物を作っているのではない』と書きました。私たちは幽霊やスピリット、あるいは人によって呼び方は違っても、そうしたものを作っているのだと。なぜなら、私たちは進化による訓練をしているのではなく、人間とインターネット上のデータを模倣する訓練をしているからです。その結果として、完全にデジタルで人間を模倣する、いわば『霊的な存在』が生まれます。それは別種の知性です。知性という空間を思い描くなら、私たちはまったく異なる地点から出発しているのです。つまり、私たちは動物を作っているわけではないのです。しかし、時間をかければ、AIをもう少し動物的な方向へと近づけることもできると思います。そして、そうすべきだとも思います」

Tsubame

15,839 просмотров • 7 месяцев назад

サム・アルトマン： OpenAIはコアなAIサブスクリプションを目指す。 --- 私たちをモデル化する方法としては、人々のコアなAIサブスクリプションであり、それを利用する方法を構築したいと考えています。その一部はChatGPTの内部で行うことになるでしょう。そのサブスクリプションには他にもいくつかの本当に重要な部分がありますが、主に、より賢いモデルを構築していくことになるでしょう。将来のデバイスや、オペレーティングシステムに似た将来のものなど、これらのサーフェスを持つことになります。そして、私たちのプラットフォームとなるAPIやSDK、あるいは何と呼ぶにしても、それが具体的にどのようなものになるかはまだ正確には分かっていません。しかし、いずれ分かるでしょう。何度か試行錯誤が必要かもしれませんが、いずれは。そして、それが世界で信じられないほどの富を生み出し、他の人々がその上に構築できるようになることを願っています。しかし、ええ、私たちはコアなAIサブスクリプションとモデル、そしてコアなサーフェスを目指しており、他にも構築すべきものがたくさんあるでしょう。

サム・アルトマン： OpenAIはコアなAIサブスクリプションを目指す。 --- 私たちをモデル化する方法としては、人々のコアなAIサブスクリプションであり、それを利用する方法を構築したいと考えています。その一部はChatGPTの内部で行うことになるでしょう。そのサブスクリプションには他にもいくつかの本当に重要な部分がありますが、主に、より賢いモデルを構築していくことになるでしょう。将来のデバイスや、オペレーティングシステムに似た将来のものなど、これらのサーフェスを持つことになります。そして、私たちのプラットフォームとなるAPIやSDK、あるいは何と呼ぶにしても、それが具体的にどのようなものになるかはまだ正確には分かっていません。しかし、いずれ分かるでしょう。何度か試行錯誤が必要かもしれませんが、いずれは。そして、それが世界で信じられないほどの富を生み出し、他の人々がその上に構築できるようになることを願っています。しかし、ええ、私たちはコアなAIサブスクリプションとモデル、そしてコアなサーフェスを目指しており、他にも構築すべきものがたくさんあるでしょう。

d

12,990 просмотров • 1 год назад

AIのハルシネーションは、計算パワー不足の副産物だ。限られたステップで答えを出そうとすれば、推論を途中で打ち切り、「それらしい文」を選ぶしかなくなる。その結果が、あの自信満々な誤答だった。いま、モデルはより多くのリソースを持ち、その余白を「ゆっくり考えること」に使い始めている。ジェンスン・フアン「ここ数年で、特に直近2年だけを見ても、AI技術はおそらく100倍くらい進歩していると思います。とりあえず数字をつけるなら、そのくらいでしょう。2年前の車が、今と比べて100倍遅かったようなものです。だから今のAIは、当時より100倍くらい有能になっているのです。では、その技術をどう活用したのか。あの膨大なパワーをどこに向けたのかというと、AIに『考えさせる』方向です。つまり、こちらが与えた問題を受け取って、それをステップごとに分解できるようにする。答える前に自分でリサーチをして、その答えを事実に基づかせる。さらに自分の出した答えを振り返って、『これが自分に出せるいちばん良い答えだろうか』『この答えにどれくらい自信があるだろうか』と自問する。もし自信がなければ、もう一度リサーチに戻る。場合によってはツールを呼び出して、自分が幻覚ででっち上げるよりも良い解を使うかもしれません。その結果として、私たちはそのコンピューティング能力の大部分を『より安全な結果・より安全な答え・より真実に近い答え』を出す方向に振り向けてきました。ご存じのとおり、初期のAIに対する最大の批判のひとつは『幻覚を起こす』という点でしたよね。いま人々がAIをこれだけ頻繁に使うようになった理由のひとつは、その幻覚の量が減ったからです。私自身もほぼ毎日、ここに来るフライト中ずっと使っていました。多くの人は『パワー』と聞くと、爆発的な力のようなものを想像しますが、テクノロジーのパワーの多くは安全性のために使われています。いまの車は昔よりはるかにハイパワーですが、そのぶん運転は安全になっています。その出力の大きな部分が、ハンドリングの向上に使われているのです」

AIのハルシネーションは、計算パワー不足の副産物だ。限られたステップで答えを出そうとすれば、推論を途中で打ち切り、「それらしい文」を選ぶしかなくなる。その結果が、あの自信満々な誤答だった。いま、モデルはより多くのリソースを持ち、その余白を「ゆっくり考えること」に使い始めている。ジェンスン・フアン「ここ数年で、特に直近2年だけを見ても、AI技術はおそらく100倍くらい進歩していると思います。とりあえず数字をつけるなら、そのくらいでしょう。2年前の車が、今と比べて100倍遅かったようなものです。だから今のAIは、当時より100倍くらい有能になっているのです。では、その技術をどう活用したのか。あの膨大なパワーをどこに向けたのかというと、AIに『考えさせる』方向です。つまり、こちらが与えた問題を受け取って、それをステップごとに分解できるようにする。答える前に自分でリサーチをして、その答えを事実に基づかせる。さらに自分の出した答えを振り返って、『これが自分に出せるいちばん良い答えだろうか』『この答えにどれくらい自信があるだろうか』と自問する。もし自信がなければ、もう一度リサーチに戻る。場合によってはツールを呼び出して、自分が幻覚ででっち上げるよりも良い解を使うかもしれません。その結果として、私たちはそのコンピューティング能力の大部分を『より安全な結果・より安全な答え・より真実に近い答え』を出す方向に振り向けてきました。ご存じのとおり、初期のAIに対する最大の批判のひとつは『幻覚を起こす』という点でしたよね。いま人々がAIをこれだけ頻繁に使うようになった理由のひとつは、その幻覚の量が減ったからです。私自身もほぼ毎日、ここに来るフライト中ずっと使っていました。多くの人は『パワー』と聞くと、爆発的な力のようなものを想像しますが、テクノロジーのパワーの多くは安全性のために使われています。いまの車は昔よりはるかにハイパワーですが、そのぶん運転は安全になっています。その出力の大きな部分が、ハンドリングの向上に使われているのです」

Tsubame

53,695 просмотров • 6 месяцев назад

【OpenAI共同設立者】イリヤ・サツケバーのみている世界イリヤ・サツケバーがトロント大学でスピーチを行いました。その内容が非常に重要だと感じたため、翻訳しました。『AIは人類にとって「史上最大の課題」であると同時に「最大の報酬」ももたらす』以下、字幕全文です↓↓↓ --- 6月6日皆さん。ここに来られたことを本当に嬉しく思います。この場を準備し、企画してくださった皆さん、そしてこの名誉学位を授与してくださったことに、心から感謝を申し上げます。この名誉学位をいただけるのは、私にとって非常に意味深いことです。今からちょうど20年前のほぼ同じ日に、私はこの同じホールで、トロント大学から学士号を授与されました。実は、これでトロント大学からいただく学位は4つ目になります。ここで過ごした合計10年間は、本当に素晴らしい時間でした。学部生として多くのことを学び、大学院生としても素晴らしい経験を積むことができました。興味のある分野を深く掘り下げ、研究者としての道を歩み始めることができたのです。特に、ジェフ・ヒントン先生のもとで研究できたことは、望外の幸運でした。先生がこの大学に在籍されていたことは、私の人生で最も幸運な出来事の一つです。これ以上ないというほど素晴らしい環境で教育を受け、科学者として成長できたことに、大学には深く感謝しています。私が学生だった頃、この大学はどこよりも優れたAI研究を行っていました。最も革新的で、最もエキサイティングな研究です。それに学生として貢献できたことを、今も誇りに思っています。もう、ずいぶん昔のことになりましたが。さて、卒業式のスピーチでは、卒業生の皆さんに賢明なアドバイスをすることが期待されていると思います。今日は少しだけ、その役割を果たさせてください。少しだけ、と言うのは、今回のスピーチは少し毛色の違うものになるからです。一つ、実用的な心の持ち方をお伝えしたいと思います。これを心掛ければ、きっと多くのことが楽になるはずです。それは、「現実をあるがままに受け入れ、過去を後悔せず、ただ状況を改善することに努める」という考え方です。なぜこんな話をするかというと、これが非常に難しいことだからです。私たちは、過去の悪い決断や不運な出来事を思い出し、「あれは不公平だった」と考えて時間を無駄にしがちです。しかし、「現実はこうなのだから、次善の策は何か」と考える方が、はるかに生産的です。私自身、そう考える時はいつも、物事がうまくいくことに気づきます。とはいえ、これは簡単なことではありません。自分の感情との戦いでもあるのです。だからこそ、皆さんにお話ししています。この考え方を、できる限り心に留めておいてください。これは、私自身へのリマインダーでもあります。さて、本題に入りましょう。このスピーチが普通のものにならない理由は、私たちの周りで、少し違うことが起きているからです。皆さんは、これまでとは全く異なる時代の節目に立っています。これはよく言われることですが、今回は、本当にそうなのです。その理由は、AIです。言うまでもありませんね。聞くところによると、今日のAIはすでに「学生であること」の意味を大きく変えているそうですね。かなりのレベルで。これは私自身が強く感じていることであり、そして真実だと思います。しかし、AIの影響はそれだけにとどまりません。私たちの仕事は、これからどうなっていくのでしょうか？すでに、未知で予測不可能な形で、少しずつ変化が始まっています。 Twitterで検索すれば、AIに何ができるのか、人々が何を言っているのかを見ることができます。そうすると、「どのスキルが役に立ち、どのスキルが時代遅れになるのだろうか」といった疑問が頭をよぎるかもしれません。しかし、AIがもたらす本当の課題は、それが前例のない、極めて大きなものであるという点です。未来は、今日とは全く異なるものになるでしょう。私たちは、コンピューターと話すことができるようになりました。これは新しいことです。コンピューターが私たちを理解し、言葉を返してくる。音声でコードを書くことさえあります。クレイジーなことです。もちろん、AIにはまだ不十分な点もたくさんあります。しかし、AIはすでに、数年後の世界を想像させるほどの力を持ち始めています。それが3年後か、5年後か、10年後か、未来の予測は困難ですが、AIは着実に、あるいは私たちの想像より速く、進化し続けるでしょう。そしていつか、AIが私たち人間の仕事を「すべて」こなす日が来るかもしれません。一部ではなく、すべてです。なぜ、そう確信できるのでしょうか？その理由は、私たち人間には脳があり、その脳が一種の生物学的コンピューターだからです。であるならば、私たちが脳でできることを、デジタルコンピューターにできない理由はありません。これが、AIがいずれ万能になりうる、という考えの根拠です。そうなると、「コンピューターが私たちの仕事をすべてできるようになったら、何が起こるのか？」という、途方もなく大きな問いに直面します。それは少し強烈すぎると感じるかもしれません。しかし、それはまだ序の口です。私たちは、その万能なAIを、経済成長や研究開発のために使うでしょう。AIがAI自身の研究を進めるようになれば、進歩の速度は爆発的に加速します。それは、もはや想像を絶する世界です。この、AIが作り出す極端で根源的な未来を、感情レベルで本当に信じることは、私にとっても難しいことです。それでも、論理はそうなる可能性が非常に高いと示しています。そのような世界で、私たちは何をすべきなのでしょうか？「政治に興味を持たなくても、政治はあなたに興味を持つ」という言葉があります。この言葉は、AIにもそっくりそのまま当てはまります。 AIから目をそらさないでください。AIが今何ができるのかを、自分の目で確かめてみてください。そうすれば、直感が働くはずです。そしてAIが進化するにつれて、その直感は確信に変わっていくでしょう。どんな説明も、自分自身の感覚にはかないません。特に、超知的なAIが社会に実装される未来では、AIをいかにコントロールするかという、非常に根深い問題が生じます。 AIができることを見て、そこから目をそらさないこと。そうして初めて、私たちはAIがもたらす巨大な課題に立ち向かうエネルギーを得ることができるのです。 AIがもたらす課題は、人類史上最大の課題かもしれません。しかし、それを乗り越えた先には、史上最大の報酬が待っているはずです。好むと好まざるとにかかわらず、皆さんの人生はAIによって大きく左右されます。だからこそ、AIに注意を払い、この課題を解決するためのエネルギーを生み出すことが重要です。それが、これから最も大切なことになると私は信じています。ここで、私の話を終わります。ありがとうございました。

【OpenAI共同設立者】イリヤ・サツケバーのみている世界イリヤ・サツケバーがトロント大学でスピーチを行いました。その内容が非常に重要だと感じたため、翻訳しました。『AIは人類にとって「史上最大の課題」であると同時に「最大の報酬」ももたらす』以下、字幕全文です↓↓↓ --- 6月6日皆さん。ここに来られたことを本当に嬉しく思います。この場を準備し、企画してくださった皆さん、そしてこの名誉学位を授与してくださったことに、心から感謝を申し上げます。この名誉学位をいただけるのは、私にとって非常に意味深いことです。今からちょうど20年前のほぼ同じ日に、私はこの同じホールで、トロント大学から学士号を授与されました。実は、これでトロント大学からいただく学位は4つ目になります。ここで過ごした合計10年間は、本当に素晴らしい時間でした。学部生として多くのことを学び、大学院生としても素晴らしい経験を積むことができました。興味のある分野を深く掘り下げ、研究者としての道を歩み始めることができたのです。特に、ジェフ・ヒントン先生のもとで研究できたことは、望外の幸運でした。先生がこの大学に在籍されていたことは、私の人生で最も幸運な出来事の一つです。これ以上ないというほど素晴らしい環境で教育を受け、科学者として成長できたことに、大学には深く感謝しています。私が学生だった頃、この大学はどこよりも優れたAI研究を行っていました。最も革新的で、最もエキサイティングな研究です。それに学生として貢献できたことを、今も誇りに思っています。もう、ずいぶん昔のことになりましたが。さて、卒業式のスピーチでは、卒業生の皆さんに賢明なアドバイスをすることが期待されていると思います。今日は少しだけ、その役割を果たさせてください。少しだけ、と言うのは、今回のスピーチは少し毛色の違うものになるからです。一つ、実用的な心の持ち方をお伝えしたいと思います。これを心掛ければ、きっと多くのことが楽になるはずです。それは、「現実をあるがままに受け入れ、過去を後悔せず、ただ状況を改善することに努める」という考え方です。なぜこんな話をするかというと、これが非常に難しいことだからです。私たちは、過去の悪い決断や不運な出来事を思い出し、「あれは不公平だった」と考えて時間を無駄にしがちです。しかし、「現実はこうなのだから、次善の策は何か」と考える方が、はるかに生産的です。私自身、そう考える時はいつも、物事がうまくいくことに気づきます。とはいえ、これは簡単なことではありません。自分の感情との戦いでもあるのです。だからこそ、皆さんにお話ししています。この考え方を、できる限り心に留めておいてください。これは、私自身へのリマインダーでもあります。さて、本題に入りましょう。このスピーチが普通のものにならない理由は、私たちの周りで、少し違うことが起きているからです。皆さんは、これまでとは全く異なる時代の節目に立っています。これはよく言われることですが、今回は、本当にそうなのです。その理由は、AIです。言うまでもありませんね。聞くところによると、今日のAIはすでに「学生であること」の意味を大きく変えているそうですね。かなりのレベルで。これは私自身が強く感じていることであり、そして真実だと思います。しかし、AIの影響はそれだけにとどまりません。私たちの仕事は、これからどうなっていくのでしょうか？すでに、未知で予測不可能な形で、少しずつ変化が始まっています。 Twitterで検索すれば、AIに何ができるのか、人々が何を言っているのかを見ることができます。そうすると、「どのスキルが役に立ち、どのスキルが時代遅れになるのだろうか」といった疑問が頭をよぎるかもしれません。しかし、AIがもたらす本当の課題は、それが前例のない、極めて大きなものであるという点です。未来は、今日とは全く異なるものになるでしょう。私たちは、コンピューターと話すことができるようになりました。これは新しいことです。コンピューターが私たちを理解し、言葉を返してくる。音声でコードを書くことさえあります。クレイジーなことです。もちろん、AIにはまだ不十分な点もたくさんあります。しかし、AIはすでに、数年後の世界を想像させるほどの力を持ち始めています。それが3年後か、5年後か、10年後か、未来の予測は困難ですが、AIは着実に、あるいは私たちの想像より速く、進化し続けるでしょう。そしていつか、AIが私たち人間の仕事を「すべて」こなす日が来るかもしれません。一部ではなく、すべてです。なぜ、そう確信できるのでしょうか？その理由は、私たち人間には脳があり、その脳が一種の生物学的コンピューターだからです。であるならば、私たちが脳でできることを、デジタルコンピューターにできない理由はありません。これが、AIがいずれ万能になりうる、という考えの根拠です。そうなると、「コンピューターが私たちの仕事をすべてできるようになったら、何が起こるのか？」という、途方もなく大きな問いに直面します。それは少し強烈すぎると感じるかもしれません。しかし、それはまだ序の口です。私たちは、その万能なAIを、経済成長や研究開発のために使うでしょう。AIがAI自身の研究を進めるようになれば、進歩の速度は爆発的に加速します。それは、もはや想像を絶する世界です。この、AIが作り出す極端で根源的な未来を、感情レベルで本当に信じることは、私にとっても難しいことです。それでも、論理はそうなる可能性が非常に高いと示しています。そのような世界で、私たちは何をすべきなのでしょうか？「政治に興味を持たなくても、政治はあなたに興味を持つ」という言葉があります。この言葉は、AIにもそっくりそのまま当てはまります。 AIから目をそらさないでください。AIが今何ができるのかを、自分の目で確かめてみてください。そうすれば、直感が働くはずです。そしてAIが進化するにつれて、その直感は確信に変わっていくでしょう。どんな説明も、自分自身の感覚にはかないません。特に、超知的なAIが社会に実装される未来では、AIをいかにコントロールするかという、非常に根深い問題が生じます。 AIができることを見て、そこから目をそらさないこと。そうして初めて、私たちはAIがもたらす巨大な課題に立ち向かうエネルギーを得ることができるのです。 AIがもたらす課題は、人類史上最大の課題かもしれません。しかし、それを乗り越えた先には、史上最大の報酬が待っているはずです。好むと好まざるとにかかわらず、皆さんの人生はAIによって大きく左右されます。だからこそ、AIに注意を払い、この課題を解決するためのエネルギーを生み出すことが重要です。それが、これから最も大切なことになると私は信じています。ここで、私の話を終わります。ありがとうございました。

ChatGPT研究所

35,612 просмотров • 1 год назад

イーロン・マスクは、「コーディングは今年で終わる」と考えている。進化するのではなく、なくなるという。これまでソフトウェアを作るには、プログラミング言語を書き、それを機械語に変換（コンパイル）して実行する必要があった。しかしマスクの考えでは、近いうちにAIが最初から機械語を直接つくるようになる。人間がコードを書く必要はなくなる。彼はこう言っている。「そもそもコーディングをやらなくなる」と。もともとコードとは、人間と機械の“通訳”のようなものだった。機械が人間の言葉を理解できなかったから、わざわざプログラミング言語を書く必要があった。でもAIが人間の言葉をそのまま理解できるようになれば、その“通訳作業”は不要になる。さらにこれをNeuralinkのような脳とコンピュータをつなぐ技術と組み合わせるとどうなるか。キーボードもいらない。画面もいらない。文法（シンタックス）もいらない。「想像すれば、そのままソフトウェアになる」頭の中でやりたいことを思い描くだけで、AIが自動で設計し、作り、実行する。これは「プログラミングを効率化する」という話ではない。「プログラミングという作業自体が消える」という話だ。これまで何年も勉強して身につけてきたスキルの価値が、大きく変わる可能性がある。アイデアと実現の間の時間が、ほぼゼロになる。これからは「作る」のではなく、「想像する」だけで形になる世界。スキルや時間よりも大事なのは、どれだけ具体的に、はっきりと自分の理想を思い描けるか。そんな未来が来るかもしれない、という話である。

イーロン・マスクは、「コーディングは今年で終わる」と考えている。進化するのではなく、なくなるという。これまでソフトウェアを作るには、プログラミング言語を書き、それを機械語に変換（コンパイル）して実行する必要があった。しかしマスクの考えでは、近いうちにAIが最初から機械語を直接つくるようになる。人間がコードを書く必要はなくなる。彼はこう言っている。「そもそもコーディングをやらなくなる」と。もともとコードとは、人間と機械の“通訳”のようなものだった。機械が人間の言葉を理解できなかったから、わざわざプログラミング言語を書く必要があった。でもAIが人間の言葉をそのまま理解できるようになれば、その“通訳作業”は不要になる。さらにこれをNeuralinkのような脳とコンピュータをつなぐ技術と組み合わせるとどうなるか。キーボードもいらない。画面もいらない。文法（シンタックス）もいらない。「想像すれば、そのままソフトウェアになる」頭の中でやりたいことを思い描くだけで、AIが自動で設計し、作り、実行する。これは「プログラミングを効率化する」という話ではない。「プログラミングという作業自体が消える」という話だ。これまで何年も勉強して身につけてきたスキルの価値が、大きく変わる可能性がある。アイデアと実現の間の時間が、ほぼゼロになる。これからは「作る」のではなく、「想像する」だけで形になる世界。スキルや時間よりも大事なのは、どれだけ具体的に、はっきりと自分の理想を思い描けるか。そんな未来が来るかもしれない、という話である。

チャエン | デジライズ CEO《重要AIニュースを毎日最速で発信⚡️》

121,478 просмотров • 3 месяцев назад

将来はAIに「日本語を学んで」と指示するだけで、自主的に学習するようになる。そうなると、僕たちがコンピュータを使う方法は様変わりするだろう。単に問題解決の速度が上がるという話ではない。人間が「こう解け」と教えるのではなく、「この目的で最善を探せ」と投げる世界になっていくのだ。ジェンスン・フアン「コンピュータは、私たちがプログラムするものから、私たちの強いガイダンスを受けつつも自分でプログラムするものへと、完全に変わっていくのは間違いありません。つまり私たちは『何を学んでほしいのか』を指示する必要はあるわけです。以前はコンピュータに日本語を教えていましたが、将来はコンピュータに『日本語を学んで』と言うようになります。そうすると、私たちがコンピュータを使うやり方自体が変わります。コンピュータは、今扱っているものより10億倍大きい問題サイズを扱えるようになります。ただ、それが何を意味するのかは、私たちには理解しきれない面があります。解を見つけることと、そもそも解くべき問題を頭の中で定式化することは別物だからです。多くの問題、つまり解ける問題でさえ、問題をどう定式化し、どう考えるかという私たちの想像力に制約されています。だから、デジタル生物学の複雑さであれ、物理科学や量子物理、材料科学といったものの複雑さであれ、そうした問題サイズで向き合えるようになれば、簡単になっていくでしょう。交通渋滞のような一見ありふれたことですら、多くはかなり容易になっていくと思います」

将来はAIに「日本語を学んで」と指示するだけで、自主的に学習するようになる。そうなると、僕たちがコンピュータを使う方法は様変わりするだろう。単に問題解決の速度が上がるという話ではない。人間が「こう解け」と教えるのではなく、「この目的で最善を探せ」と投げる世界になっていくのだ。ジェンスン・フアン「コンピュータは、私たちがプログラムするものから、私たちの強いガイダンスを受けつつも自分でプログラムするものへと、完全に変わっていくのは間違いありません。つまり私たちは『何を学んでほしいのか』を指示する必要はあるわけです。以前はコンピュータに日本語を教えていましたが、将来はコンピュータに『日本語を学んで』と言うようになります。そうすると、私たちがコンピュータを使うやり方自体が変わります。コンピュータは、今扱っているものより10億倍大きい問題サイズを扱えるようになります。ただ、それが何を意味するのかは、私たちには理解しきれない面があります。解を見つけることと、そもそも解くべき問題を頭の中で定式化することは別物だからです。多くの問題、つまり解ける問題でさえ、問題をどう定式化し、どう考えるかという私たちの想像力に制約されています。だから、デジタル生物学の複雑さであれ、物理科学や量子物理、材料科学といったものの複雑さであれ、そうした問題サイズで向き合えるようになれば、簡単になっていくでしょう。交通渋滞のような一見ありふれたことですら、多くはかなり容易になっていくと思います」

Tsubame

36,616 просмотров • 4 месяцев назад

女性は、KFCにチキンを買いに来た人の車に立ちはだかり、「ここは鶏殺戮場よ！あなたは殺人に加担してるの」「ビーガン協会に通報するわ！」と真顔で述べた。ごめんなさい。え？何？ Uターンして戻ってくれませんか？すみません。戻ってくれませんか？何のこと？ここは「チキン殺戮場」なの。えっと、僕はただ食べ物を買おうとしてるだけですが。それは食べ物じゃないわ。それは死体よ。死体？違うよ、フライドチキンだよ。今あなたは殺人に加担してるの。殺人なんてしてないよ。僕はただ、自分の腹を満たしてるだけだよ。（女性はナンバーを撮影する）何してるの？ビーガン協会にあなたを通報してるの。はぁ？ちょっと意味が分かりませんけど。あなた、ニワトリのこと分かってないでしょ？いや、個人的にニワトリを知ってるわけじゃないけど。もし知ってたら、そんなもの食べないはず。どういう意味？昔、ニワトリを飼ってたの。「ガートルード」って名前の。そうなの？そうよ。あの子がきっかけでビーガンになったの。農場で育ったの。ペットのニワトリを飼ってた。農場育ちなんですか？そう。あなたはペットを愛したことある？血だらけの愛を？は？いや、ちょっと何言ってるか…。ほら、それが問題なのよ！何が？あなた、ニワトリと向き合ったことがないでしょ？ニワトリを知りもしない。ペットはいるの？犬。そうでしょ。犬を食べる？いや、犬は普通食べないでしょ。でも食べようと思えば食べられるのよ。でも「KFD（ケンタッキー・フライド・ドッグ）」なんてないじゃない。ありがたいことにね。でもガートルードは犬みたいな存在だったの。なるほど…。もういい？僕はただ注文したいだけなんです。帰って、自分の鶏の数でも数えてください。僕は食べますんで。殺人よ。殺人？もしこれが犬だったら、何が違うの？うーん、後ろに車が並んでるって違いかな。それが違い？僕はもう注文しに行きますね。ええ、好きにすれば。でも自分が何を食べてるかはちゃんと分かっておきなさい。

女性は、KFCにチキンを買いに来た人の車に立ちはだかり、「ここは鶏殺戮場よ！あなたは殺人に加担してるの」「ビーガン協会に通報するわ！」と真顔で述べた。ごめんなさい。え？何？ Uターンして戻ってくれませんか？すみません。戻ってくれませんか？何のこと？ここは「チキン殺戮場」なの。えっと、僕はただ食べ物を買おうとしてるだけですが。それは食べ物じゃないわ。それは死体よ。死体？違うよ、フライドチキンだよ。今あなたは殺人に加担してるの。殺人なんてしてないよ。僕はただ、自分の腹を満たしてるだけだよ。（女性はナンバーを撮影する）何してるの？ビーガン協会にあなたを通報してるの。はぁ？ちょっと意味が分かりませんけど。あなた、ニワトリのこと分かってないでしょ？いや、個人的にニワトリを知ってるわけじゃないけど。もし知ってたら、そんなもの食べないはず。どういう意味？昔、ニワトリを飼ってたの。「ガートルード」って名前の。そうなの？そうよ。あの子がきっかけでビーガンになったの。農場で育ったの。ペットのニワトリを飼ってた。農場育ちなんですか？そう。あなたはペットを愛したことある？血だらけの愛を？は？いや、ちょっと何言ってるか…。ほら、それが問題なのよ！何が？あなた、ニワトリと向き合ったことがないでしょ？ニワトリを知りもしない。ペットはいるの？犬。そうでしょ。犬を食べる？いや、犬は普通食べないでしょ。でも食べようと思えば食べられるのよ。でも「KFD（ケンタッキー・フライド・ドッグ）」なんてないじゃない。ありがたいことにね。でもガートルードは犬みたいな存在だったの。なるほど…。もういい？僕はただ注文したいだけなんです。帰って、自分の鶏の数でも数えてください。僕は食べますんで。殺人よ。殺人？もしこれが犬だったら、何が違うの？うーん、後ろに車が並んでるって違いかな。それが違い？僕はもう注文しに行きますね。ええ、好きにすれば。でも自分が何を食べてるかはちゃんと分かっておきなさい。

TotalNewsWorld

2,560,681 просмотров • 6 месяцев назад

ASKA 何故それが含まれているのか？を考えると💉有無による影響の違いはあれど、かなり深刻な問題です 💉開始前から🛜リスクはあったんです🔗 そこまでするか…というのも関わってきたのは誰なのかを見ると目的はそういうことかと考えるしかないようです

ASKA 何故それが含まれているのか？を考えると💉有無による影響の違いはあれど、かなり深刻な問題です 💉開始前から🛜リスクはあったんです🔗 そこまでするか…というのも関わってきたのは誰なのかを見ると目的はそういうことかと考えるしかないようです

小西初音🇯🇵元 🛰局制作部

36,014 просмотров • 6 месяцев назад

いまのAIに決定的に欠けているのは、僕たちの背景を理解する能力だ。だから毎回プロンプトで関係性を組み立て、状況説明をし、欲しい出力へ誘導しなければならない。だが、その制約が外れ始めたとき、AIは単なる便利ツールではなくなるのだろう。その日はきっと、それほど遠くない。サム・アルトマン「今のモデルは、将来そうなるものと比べれば、まだかなり愚かです。しかもそれ以上に、あなたの人生についての理解がきわめて限られています。今はまだ、こちらがうまく、なだめたりすかしたりしながら、欲しいものを引き出さなければならないのです。ですが、あなたの文脈をすべて知っているようなモデルは、もうそれほど遠くありません。そのモデルは、あなたのことを知っている。あなたの人生を知っている。何をしているかを知っている。何を大事にしているかを知っている。あなたの人生にいる人たちのことも知っている。もちろん、あなたが望む形で、望む範囲においてですが、あなたのコンピュータやブラウザにもアクセスできる。そして時間がたつにつれて、現実世界であなたの周囲に起きていることにも、ますますアクセスするようになるかもしれません。それは、コンピュータを使う感覚、そしてAIを使う感覚そのものを、完全に変えてしまうはずです。私はそれに強く興奮しています。ただ、実際それがどんな感覚になるのかは、私たち自身でさえ、まだ十分に直感できていないと思います」グレッグ・ブロックマン「まさにその点ですが、今の私たちは、チャットでも何でも、使っているツールに対して『何が起きているのか』を説明するのに、ものすごく多くの時間を使っています。そしてそれがどれだけ苛立たしいかを考えてみてください。まるで同僚に対して、いや、私が欲しいのはこういうことで、今こういう状況なんだ、と延々説明し続けているようなものです。今のシステムの振る舞い方は、本来こうあってほしい姿ではないのです」

いまのAIに決定的に欠けているのは、僕たちの背景を理解する能力だ。だから毎回プロンプトで関係性を組み立て、状況説明をし、欲しい出力へ誘導しなければならない。だが、その制約が外れ始めたとき、AIは単なる便利ツールではなくなるのだろう。その日はきっと、それほど遠くない。サム・アルトマン「今のモデルは、将来そうなるものと比べれば、まだかなり愚かです。しかもそれ以上に、あなたの人生についての理解がきわめて限られています。今はまだ、こちらがうまく、なだめたりすかしたりしながら、欲しいものを引き出さなければならないのです。ですが、あなたの文脈をすべて知っているようなモデルは、もうそれほど遠くありません。そのモデルは、あなたのことを知っている。あなたの人生を知っている。何をしているかを知っている。何を大事にしているかを知っている。あなたの人生にいる人たちのことも知っている。もちろん、あなたが望む形で、望む範囲においてですが、あなたのコンピュータやブラウザにもアクセスできる。そして時間がたつにつれて、現実世界であなたの周囲に起きていることにも、ますますアクセスするようになるかもしれません。それは、コンピュータを使う感覚、そしてAIを使う感覚そのものを、完全に変えてしまうはずです。私はそれに強く興奮しています。ただ、実際それがどんな感覚になるのかは、私たち自身でさえ、まだ十分に直感できていないと思います」グレッグ・ブロックマン「まさにその点ですが、今の私たちは、チャットでも何でも、使っているツールに対して『何が起きているのか』を説明するのに、ものすごく多くの時間を使っています。そしてそれがどれだけ苛立たしいかを考えてみてください。まるで同僚に対して、いや、私が欲しいのはこういうことで、今こういう状況なんだ、と延々説明し続けているようなものです。今のシステムの振る舞い方は、本来こうあってほしい姿ではないのです」

Tsubame

15,287 просмотров • 1 месяц назад

シンギュラリティのトリガーである「再帰的自己改善」は、すでに少し前に起きているという。もちろん、まだ全自動ではないが、「進歩のどこまでがAIでどこまでが人間なのか」は曖昧になってきている。著者性が溶けるこの感覚こそ、分単位で進むシンギュラリティの手触りなのだ。サリム・イスマイル「再帰的自己改善（RSI）がシンギュラリティの本当のトリガーだという話は、以前からしてきました。そしてそれは、すでに少し前に起きているんです。だから今やっているのは、その道筋を加速しているだけです。私たちは今この瞬間にも、産業時代を恒久的に抜けつつあります」デイブ・ブランディン「ええ、シンギュラリティが分単位で展開していく様子は、私が経験した中で最も興味深いものだと本当に思いますし、アレックスの言うとおりです。いまは、人間がループの中にいて貢献している時期ではあるのですが、進歩のどこまでがAIでどこまでが人間なのかが、本当に曖昧なんです。実際にコーディングしていると、『あれは自分のアイデアだったのか？』となります。半分は自分のアイデアのようでも、AIが別の案を提案してきて、それを採用していくうちに、結局それが自分のアイデアだったのかどうかも分からなくなります。ただ、いまのモードでは、こうしたコアアルゴリズムの研究の多くが、『500本のテストを走らせて、どのハイパーパラメータが良かったか、どのニューラルトポロジーが良かったかを教えて』という形になっています。相対論を発明したり発見したりするような話ではありません。いろいろな試行を大量に回して、うまくいったものを選んで再デプロイし、そうするとより賢いAIになって、さらに多くの試行をする——その繰り返しです。私たちはその道筋をかなり進んでいる可能性が高いと思います」

シンギュラリティのトリガーである「再帰的自己改善」は、すでに少し前に起きているという。もちろん、まだ全自動ではないが、「進歩のどこまでがAIでどこまでが人間なのか」は曖昧になってきている。著者性が溶けるこの感覚こそ、分単位で進むシンギュラリティの手触りなのだ。サリム・イスマイル「再帰的自己改善（RSI）がシンギュラリティの本当のトリガーだという話は、以前からしてきました。そしてそれは、すでに少し前に起きているんです。だから今やっているのは、その道筋を加速しているだけです。私たちは今この瞬間にも、産業時代を恒久的に抜けつつあります」デイブ・ブランディン「ええ、シンギュラリティが分単位で展開していく様子は、私が経験した中で最も興味深いものだと本当に思いますし、アレックスの言うとおりです。いまは、人間がループの中にいて貢献している時期ではあるのですが、進歩のどこまでがAIでどこまでが人間なのかが、本当に曖昧なんです。実際にコーディングしていると、『あれは自分のアイデアだったのか？』となります。半分は自分のアイデアのようでも、AIが別の案を提案してきて、それを採用していくうちに、結局それが自分のアイデアだったのかどうかも分からなくなります。ただ、いまのモードでは、こうしたコアアルゴリズムの研究の多くが、『500本のテストを走らせて、どのハイパーパラメータが良かったか、どのニューラルトポロジーが良かったかを教えて』という形になっています。相対論を発明したり発見したりするような話ではありません。いろいろな試行を大量に回して、うまくいったものを選んで再デプロイし、そうするとより賢いAIになって、さらに多くの試行をする——その繰り返しです。私たちはその道筋をかなり進んでいる可能性が高いと思います」

Tsubame

15,386 просмотров • 3 месяцев назад