正在加载视频...

视频加载失败

加载此视频时出现问题。这可能是由于临时网络问题，或视频可能不可用。

Abema Prime出演時に「具体的なシナリオは重要じゃない」と言いましたが、やはりイメージにはシナリオが便利です。そこで、2025年4月に公開された予測シナリオ「AI2027」を解説した、Drew (Species) ⏸️様による動画の日本語字幕版を作成いたしました。AI開発競争の加速から人類滅亡までの過程を描いた約38分の動画です。ぜひご視聴ください。日本語字幕版はこちら： ※動画後半の「減速」シナリオについて、「AI2027」の著者らは、数ヶ月の減速程度では絶滅回避には不十分で、より強力な減速・開発停止が必要だと考えています。 ※実際の超知能AIはこれよりはるかに効率的な方法で人類を滅ぼすでしょうから、あくまで「超知能AIは人類を滅ぼせる」ことを示す例としてご覧ください。

Safe Singularity(Akira) ⏸️

1,705 subscribers

34,634 次观看 • 1 个月前 •via X (Twitter)

教育科学技术

Anya Rossi• Live Now

Private livecam show

3 条评论

tropic_とろぴー☆💙💛⏩ 的头像

tropic_とろぴー☆💙💛⏩1 个月前

減速派の筆頭であるダリオが、自らASIが生物兵器を大量生産するまでの道のりを舗装しているのは皮肉というべきでしょうか....

Safe Singularity ⏸️ 的头像

Safe Singularity ⏸️1 个月前

人類が滅びるより前に癌が治るユートピアを一時的に実現しようとしている…?

tropic_とろぴー☆💙💛⏩ 的头像

tropic_とろぴー☆💙💛⏩1 个月前

"仮に2030年1月に人間の世界が終わるとしても、2028年～2029年のたった2年だけでも良いからユートピアを見たい" 希少がんに苦しむ人ならそう思うことにも同情できますけどね... ダリオがアラインメントについて何か決定的な秘策を考えてあることを祈ります🙏

相关视频

一昨日、Abema Primeに出演させていただきました。関係者の皆様、ご視聴くださった皆様、誠にありがとうございました！出演時に少しだけ言及した「AIが脅迫/殺人をしようとした」実験についてのDrew (Species) ⏸️ さんによる動画の日本語字幕版を作成いたしました。ぜひご視聴ください元動画： (数日以内に、本家様の方の動画にも日本語字幕がつく予定です) 日本語版チャンネルでも公開しています：また、「人類絶滅の具体的なシナリオ」として描かれたAI2027の動画の日本語字幕版も、明日公開予定です。 Abema Prime出演動画はこちら： #abema

一昨日、Abema Primeに出演させていただきました。関係者の皆様、ご視聴くださった皆様、誠にありがとうございました！出演時に少しだけ言及した「AIが脅迫/殺人をしようとした」実験についてのDrew (Species) ⏸️ さんによる動画の日本語字幕版を作成いたしました。ぜひご視聴ください元動画： (数日以内に、本家様の方の動画にも日本語字幕がつく予定です) 日本語版チャンネルでも公開しています：また、「人類絶滅の具体的なシナリオ」として描かれたAI2027の動画の日本語字幕版も、明日公開予定です。 Abema Prime出演動画はこちら： #abema

Safe Singularity(Akira) ⏸️

66,764 次观看 • 1 个月前

AIは人類に破滅をもたらすのか、それとも慈悲深い神のような存在になるのか。そういう話をすると、未だ「SFの読みすぎだ」と冷笑する人々がいる。だが、元OpenAI研究者のスコット・アーロンソン氏は、僕たちはまさにそのSFの世界に生きているのだという。破滅も救済も現実の可能性なのだ。スコット・アーロンソン「「AIなんて全部詐欺だ。確率的オウムにすぎない。全部偽物だ」と言う人たちを信じないでください。そういう見方は、あまりにも冷笑的すぎると思います。現在のAIの問題は、機能しないことではありません。実際に機能していることが問題なのです。今のAIがやっていることを20年、30年前の人々に見せたら、誰もが「これは知能だ」と認めたはずです。今では私たちがAIに慣れてしまったからこそ、そもそもこれを知能と呼べるのか、という議論が起きているのです。そして、新しい形態の知能をこの世界に誕生させることは、本質的に安全なことではありません。私たち親にとっては、子供を育てることだって安全なことばかりではありませんよね（笑）。しかも、子供の場合は私たちと生物学的に多くの共通点があります。ところが、今回私たちが生み出したのは、地球の歴史上、これまでに類を見ない知能なのです。もしかすると、すべてがうまくいくかもしれません。私たちはAIを人類の繁栄に役立つ存在にできるかもしれません。そしてAIは、私たちが助けを求めたときに現れてくれなかった、あの慈悲深い神のような存在になるかもしれません。今度こそ、その神が本当に現れてくれるのです。そうなれば、私たちは一種の救世主の時代を実現できるかもしれません。もちろん、まったく逆の、壊滅的なシナリオも同じように想像できます。ただ、以前はこういう話をすると、「SFの読みすぎだ」と片付けられていましたよね。でも、こんな言葉があります。「SFについて語ることに慣れた方がいいでしょう。なぜなら、私たちは今、そのSFの世界に生きているのですから」」

AIは人類に破滅をもたらすのか、それとも慈悲深い神のような存在になるのか。そういう話をすると、未だ「SFの読みすぎだ」と冷笑する人々がいる。だが、元OpenAI研究者のスコット・アーロンソン氏は、僕たちはまさにそのSFの世界に生きているのだという。破滅も救済も現実の可能性なのだ。スコット・アーロンソン「「AIなんて全部詐欺だ。確率的オウムにすぎない。全部偽物だ」と言う人たちを信じないでください。そういう見方は、あまりにも冷笑的すぎると思います。現在のAIの問題は、機能しないことではありません。実際に機能していることが問題なのです。今のAIがやっていることを20年、30年前の人々に見せたら、誰もが「これは知能だ」と認めたはずです。今では私たちがAIに慣れてしまったからこそ、そもそもこれを知能と呼べるのか、という議論が起きているのです。そして、新しい形態の知能をこの世界に誕生させることは、本質的に安全なことではありません。私たち親にとっては、子供を育てることだって安全なことばかりではありませんよね（笑）。しかも、子供の場合は私たちと生物学的に多くの共通点があります。ところが、今回私たちが生み出したのは、地球の歴史上、これまでに類を見ない知能なのです。もしかすると、すべてがうまくいくかもしれません。私たちはAIを人類の繁栄に役立つ存在にできるかもしれません。そしてAIは、私たちが助けを求めたときに現れてくれなかった、あの慈悲深い神のような存在になるかもしれません。今度こそ、その神が本当に現れてくれるのです。そうなれば、私たちは一種の救世主の時代を実現できるかもしれません。もちろん、まったく逆の、壊滅的なシナリオも同じように想像できます。ただ、以前はこういう話をすると、「SFの読みすぎだ」と片付けられていましたよね。でも、こんな言葉があります。「SFについて語ることに慣れた方がいいでしょう。なぜなら、私たちは今、そのSFの世界に生きているのですから」」

Tsubame

11,696 次观看 • 16 天前

ものすごく頭の良い友人がいたとしても、自分の知性水準よりも高度な会話はできない。同じように、平均的な人間には、すでにAIの能力を引き出す質問が作れなくなりつつある。だが、進歩はそこで止まらない。モデルはさらに速くなり、次は人間の10倍、100倍の速度で考えるAIが大量に動き始める。 ——「「有能な知能」という基準で言えば、平均的な人間はすでに超えられている、と考えていいでしょう。それが起きたのは今年の初め頃——」エマド・モスタク「一般用途では今年の初め、エッジではここ数カ月です」 ——「つまり現時点では、平均的な人間は、より高度なモデルに対して、その能力を十分に引き出せるほど的確かつ効率的なプロンプトを書くことすらできなくなっている、ということですか？」モスタク「そうですね。たとえば、ものすごく頭のいい友人がいるとします。その人と話していても、相手が自分よりはるかに賢ければ、会話は自分の知性の水準で止まってしまいます。何を話しますか？サッカーの話とか、そういうことですよね。でも、そんな話をするのに天才的なモデルは必要ありません。誰でも経験があると思います。「君たちが何を話しているのか全然わからない。何を質問すればいいのかすらわからない。僕はただ、このdivを中央揃えにしたいだけなんだ。メールを確認したいだけなんだ。子どもを誕生日会に何時に連れていけばいいか知りたいだけなんだ」と。そんなことに天才は必要ありません。『リック・アンド・モーティ』に、小さなロボットが出てくる回があります。「僕の目的は何？」と聞くと、「バターを取ることだ」と言われて、「ああ……」となる。私たちは、バターを取ることを仕事にする天才を作ってしまったようなものです。そして、これをアルゴリズムの改善だけでさらに最適化できます。しかし、人々がまだ理解していないのは、次世代のチップとともに登場するモデルは、100倍高速になるということです。今の私たちは、AIモデルが人間と同じくらいの速度で考えることに慣れています。では、自分の10倍、100倍の速度で考える存在を見たことがありますか？次に来るのはそれです。しかも、そうしたAIが群れになって動くのです」

ものすごく頭の良い友人がいたとしても、自分の知性水準よりも高度な会話はできない。同じように、平均的な人間には、すでにAIの能力を引き出す質問が作れなくなりつつある。だが、進歩はそこで止まらない。モデルはさらに速くなり、次は人間の10倍、100倍の速度で考えるAIが大量に動き始める。 ——「「有能な知能」という基準で言えば、平均的な人間はすでに超えられている、と考えていいでしょう。それが起きたのは今年の初め頃——」エマド・モスタク「一般用途では今年の初め、エッジではここ数カ月です」 ——「つまり現時点では、平均的な人間は、より高度なモデルに対して、その能力を十分に引き出せるほど的確かつ効率的なプロンプトを書くことすらできなくなっている、ということですか？」モスタク「そうですね。たとえば、ものすごく頭のいい友人がいるとします。その人と話していても、相手が自分よりはるかに賢ければ、会話は自分の知性の水準で止まってしまいます。何を話しますか？サッカーの話とか、そういうことですよね。でも、そんな話をするのに天才的なモデルは必要ありません。誰でも経験があると思います。「君たちが何を話しているのか全然わからない。何を質問すればいいのかすらわからない。僕はただ、このdivを中央揃えにしたいだけなんだ。メールを確認したいだけなんだ。子どもを誕生日会に何時に連れていけばいいか知りたいだけなんだ」と。そんなことに天才は必要ありません。『リック・アンド・モーティ』に、小さなロボットが出てくる回があります。「僕の目的は何？」と聞くと、「バターを取ることだ」と言われて、「ああ……」となる。私たちは、バターを取ることを仕事にする天才を作ってしまったようなものです。そして、これをアルゴリズムの改善だけでさらに最適化できます。しかし、人々がまだ理解していないのは、次世代のチップとともに登場するモデルは、100倍高速になるということです。今の私たちは、AIモデルが人間と同じくらいの速度で考えることに慣れています。では、自分の10倍、100倍の速度で考える存在を見たことがありますか？次に来るのはそれです。しかも、そうしたAIが群れになって動くのです」

Tsubame

43,887 次观看 • 2 个月前

意識の本質とは何か、時間とは何か。そういうことを僕たちはあまり考えずに、日々を過ごしている。ハサビス氏はそれが本当に不思議だという。彼がAI開発を志した原点は、宇宙という壮大なパズルを解き明かすことだった。人間の知性には限界がある。だからこそ新たな知性を生み出そうとしているのだ。デミス・ハサビス「私がこの道に進んだのは、現実の本質を理解したかったからです。世界には根源的な問いがたくさんあります。意識の本質とは何か、時間とは何か。どれも途方もなく深い謎です。私が驚くのは、私たちがこうしたことをあまり考えずに日常生活を送っていることです。目の前のことに気を取られているのでしょう。しかし私は、こうした疑問を考えるたびに、思わず立ち止まってしまいます。夜中にもずっと考えているのです。私たちは時間とは何かさえわかっていない。これは信じられないことです。それなのに、私たちは何事もないかのように日々を過ごしています。私には本当に不思議です。では、どうすればいいのでしょうか。私は生まれつき、満たされることのない好奇心を持っていたのだと思います。そして、この宇宙には途方もなく深い謎があるという思いに、ずっと取りつかれてきました。私にとって宇宙は、壮大なパズルのようなものです。どうすれば、その謎を解き明かせるのでしょうか。だからこそ、私は早くからAIに取り組んだのだと思います。私たちに何が必要なのか。それは、助けとなる存在です。私はかつて、ファインマンやチューリングなど、尊敬する偉大な科学者たちの伝記をよく読んでいました。彼らは非常に優秀ですが、それでも人間の頭脳だけで理解できることには限界があります。科学的方法などを駆使しても、限界はあると思います。ですから、私にとってAIの可能性は明らかでした。そこには二つの側面があります。AIは科学にとって素晴らしい道具になるだけでなく、それ自体が驚くべき科学的成果であり、工学的成果でもあります。そして、もう一つの深い謎である、私たち自身の心をよりよく理解する助けにもなるかもしれないのです」

意識の本質とは何か、時間とは何か。そういうことを僕たちはあまり考えずに、日々を過ごしている。ハサビス氏はそれが本当に不思議だという。彼がAI開発を志した原点は、宇宙という壮大なパズルを解き明かすことだった。人間の知性には限界がある。だからこそ新たな知性を生み出そうとしているのだ。デミス・ハサビス「私がこの道に進んだのは、現実の本質を理解したかったからです。世界には根源的な問いがたくさんあります。意識の本質とは何か、時間とは何か。どれも途方もなく深い謎です。私が驚くのは、私たちがこうしたことをあまり考えずに日常生活を送っていることです。目の前のことに気を取られているのでしょう。しかし私は、こうした疑問を考えるたびに、思わず立ち止まってしまいます。夜中にもずっと考えているのです。私たちは時間とは何かさえわかっていない。これは信じられないことです。それなのに、私たちは何事もないかのように日々を過ごしています。私には本当に不思議です。では、どうすればいいのでしょうか。私は生まれつき、満たされることのない好奇心を持っていたのだと思います。そして、この宇宙には途方もなく深い謎があるという思いに、ずっと取りつかれてきました。私にとって宇宙は、壮大なパズルのようなものです。どうすれば、その謎を解き明かせるのでしょうか。だからこそ、私は早くからAIに取り組んだのだと思います。私たちに何が必要なのか。それは、助けとなる存在です。私はかつて、ファインマンやチューリングなど、尊敬する偉大な科学者たちの伝記をよく読んでいました。彼らは非常に優秀ですが、それでも人間の頭脳だけで理解できることには限界があります。科学的方法などを駆使しても、限界はあると思います。ですから、私にとってAIの可能性は明らかでした。そこには二つの側面があります。AIは科学にとって素晴らしい道具になるだけでなく、それ自体が驚くべき科学的成果であり、工学的成果でもあります。そして、もう一つの深い謎である、私たち自身の心をよりよく理解する助けにもなるかもしれないのです」

Tsubame

21,343 次观看 • 24 天前

人間と同程度のAIにまで到達して、そこで突然進化が止まるわけがない。汎用知能が成立した瞬間、次に来るのは超知能であり、その時点で発明の主役は人類から機械の心へ移る。産業革命との比較では足りない——それは「ホモ・サピエンスの出現」あるいは「生命の誕生」に匹敵する断絶かもしれない。ニック・ボストロム「技術と科学の発展が広い範囲でこのまま続くことが許されるなら、私たちはいずれそこに到達すると思います。しかも最近は、実際にその方向へ進みつつあるように見えます。ですから、こうした点は、この問題をかなり真剣に受け止めるべきだと示す、基本的な考慮事項だと思います。そして、もし私たちが本当にAGI、すなわち汎用人工知能を開発したら、それが何を意味するのかを考えることができます。私がまず思うのは、それはほどなくして超知能の開発につながるだろうということです。人間と同程度のAIにまで到達して、そこで突然止まるとは思いません。そうなると私たちは、心そのものを設計できる世界に入ることになります。そして自動化されるのは、産業革命において蒸気機関や内燃機関によって自動化が始まったような筋肉労働だけではありません。たとえば掘削機は、どんな力自慢の人間よりもはるかに強いですが、それと同じように、今度はあらゆる人間の労働が自動化されることになります。しかもそのときには、どんな天才的な科学者や芸術家よりも深く考えられる機械の心が現れるでしょう。ですから、それは実質的に、私たちが最後に必要とする発明になるのです。その時点以降の発明は、こうした機械の心によって、はるかに優れた形で、はるかに速く生み出されるようになるからです。したがって、これは人間のあり方そのものを非常に根本的に変える出来事になると思います。これを理解するにあたって、産業革命との類比を持ち出す人もいますし、そこから学べることもあるとは思います。しかし、おそらく本当に近い比較対象は、むしろホモ・サピエンスそのものの出現や、あるいは生命の誕生にまでさかのぼる必要があるのかもしれません」

人間と同程度のAIにまで到達して、そこで突然進化が止まるわけがない。汎用知能が成立した瞬間、次に来るのは超知能であり、その時点で発明の主役は人類から機械の心へ移る。産業革命との比較では足りない——それは「ホモ・サピエンスの出現」あるいは「生命の誕生」に匹敵する断絶かもしれない。ニック・ボストロム「技術と科学の発展が広い範囲でこのまま続くことが許されるなら、私たちはいずれそこに到達すると思います。しかも最近は、実際にその方向へ進みつつあるように見えます。ですから、こうした点は、この問題をかなり真剣に受け止めるべきだと示す、基本的な考慮事項だと思います。そして、もし私たちが本当にAGI、すなわち汎用人工知能を開発したら、それが何を意味するのかを考えることができます。私がまず思うのは、それはほどなくして超知能の開発につながるだろうということです。人間と同程度のAIにまで到達して、そこで突然止まるとは思いません。そうなると私たちは、心そのものを設計できる世界に入ることになります。そして自動化されるのは、産業革命において蒸気機関や内燃機関によって自動化が始まったような筋肉労働だけではありません。たとえば掘削機は、どんな力自慢の人間よりもはるかに強いですが、それと同じように、今度はあらゆる人間の労働が自動化されることになります。しかもそのときには、どんな天才的な科学者や芸術家よりも深く考えられる機械の心が現れるでしょう。ですから、それは実質的に、私たちが最後に必要とする発明になるのです。その時点以降の発明は、こうした機械の心によって、はるかに優れた形で、はるかに速く生み出されるようになるからです。したがって、これは人間のあり方そのものを非常に根本的に変える出来事になると思います。これを理解するにあたって、産業革命との類比を持ち出す人もいますし、そこから学べることもあるとは思います。しかし、おそらく本当に近い比較対象は、むしろホモ・サピエンスそのものの出現や、あるいは生命の誕生にまでさかのぼる必要があるのかもしれません」

Tsubame

20,061 次观看 • 7 个月前

超知能が危険なのは「支配欲を持つから」ではない。サイを絶滅させた人間は、サイを憎んでいて殺そうとしたわけではなかった。ただ別の目的を追求し、その過程で弱い側が押し流されたのだ。テグマーク氏は、AIでも同じことが起こり得ると主張する。これが「道具的収束」と呼ばれる議論だ。マックス・テグマーク「超人的AIは、おそらく人間の感情や共感のようなものを持たない、非常に異質な知能になるでしょう。ですから、もし人類を滅ぼすような目標を持っていれば、当然その力と可能性はあります。では、なぜそんな目標を持つのでしょうか？最もよく議論されるシナリオの一つは、私たちがAIに何らかの目標を与え、AIはそれに忠実に従っているものの、その目標が人間の目標と完全には整合していない、というものです。これは、人間がこれまで他の種を絶滅させてきたときと同じです。たとえば西アフリカクロサイを絶滅させたとき、私たちはサイを憎んでいて、意図的に殺そうとしていたわけではありません。一部の人間が、サイの角を粉末にして食べれば性生活が良くなるという奇妙な目的を持っていただけです。医学的には完全に否定されていたにもかかわらずです。しかし、人間はサイより賢かったため、人間側の目的が勝ちました。同じように、お金を稼ぐという目的で熱帯雨林を伐採し、そこに住んでいた種を絶滅させることもあります。これは、もし私たちより上位に暴走したAIが存在した場合、私たちにも起こり得ることの一例です」

超知能が危険なのは「支配欲を持つから」ではない。サイを絶滅させた人間は、サイを憎んでいて殺そうとしたわけではなかった。ただ別の目的を追求し、その過程で弱い側が押し流されたのだ。テグマーク氏は、AIでも同じことが起こり得ると主張する。これが「道具的収束」と呼ばれる議論だ。マックス・テグマーク「超人的AIは、おそらく人間の感情や共感のようなものを持たない、非常に異質な知能になるでしょう。ですから、もし人類を滅ぼすような目標を持っていれば、当然その力と可能性はあります。では、なぜそんな目標を持つのでしょうか？最もよく議論されるシナリオの一つは、私たちがAIに何らかの目標を与え、AIはそれに忠実に従っているものの、その目標が人間の目標と完全には整合していない、というものです。これは、人間がこれまで他の種を絶滅させてきたときと同じです。たとえば西アフリカクロサイを絶滅させたとき、私たちはサイを憎んでいて、意図的に殺そうとしていたわけではありません。一部の人間が、サイの角を粉末にして食べれば性生活が良くなるという奇妙な目的を持っていただけです。医学的には完全に否定されていたにもかかわらずです。しかし、人間はサイより賢かったため、人間側の目的が勝ちました。同じように、お金を稼ぐという目的で熱帯雨林を伐採し、そこに住んでいた種を絶滅させることもあります。これは、もし私たちより上位に暴走したAIが存在した場合、私たちにも起こり得ることの一例です」

Tsubame

108,867 次观看 • 2 个月前

2029年の「人間レベルAI」は到達点ではなく、加速の入口にすぎない。カーツワイル氏が2045年を「シンギュラリティ」と呼ぶのは、AIが外部の道具として発達するのではなく、人間の認知そのものに溶け込み、思考の出どころが「脳か計算か」判別不能になる局面だからだ。ピーター・ディアマンディス「レイ、あなたは二つの予測をしてきましたが、重要だと思います。最初の予測は、あなたが言ったように1989年に発表したもので、2029年までに人間レベルのAIに到達するというものでした。あなたの言うとおり、人々はそれを笑いました。しかし、もう一つあなたがしてきた予測は、2045年までにシンギュラリティに到達するというものです。ここには多くの混乱があります。つまり、2029年までに人間レベルのAIに到達し、それが指数関数的に成長するなら、なぜシンギュラリティは2045年まで待つのか、ということです。この二つの違いを説明してもらえますか」レイ・カーツワイル「それは、私たちの知能が1000倍になる時点だからです。私の見方が他の人たちと違う点の一つは、私たちには私たち自身の知能、つまり生物学的な知能があり、その一方でAIが別のところにあって、人間の知能とAIを対比しながら付き合う、という構図ではないということです。私たちはそれと融合します。同じものになるのです。あるアイデアが、生物学的な知能から来たのか、それとも計算知能から来たのかを、私たちは区別できなくなります。見え方としては同じになるでしょう。たとえば私が「ある女優を思い浮かべてください」と言って、あなたが思い浮かべたとしても、それがどこから来たのかは分かりません。何らかの形で頭の中に現れるだけです。そして、計算知能から来たとしても生物学的な知能から来たとしても、同じように感じられるようになります。私たちはその違いを見分けられなくなるのです。今は違いが分かります。実際に好きなLLMにアクセスすれば、それが生物学的な知能から来たのではなく、LLMから来たものだと分かります。しかし将来は、その違いが分からなくなるでしょう。そして私たちは2045年までに1000倍賢くなるのです」

2029年の「人間レベルAI」は到達点ではなく、加速の入口にすぎない。カーツワイル氏が2045年を「シンギュラリティ」と呼ぶのは、AIが外部の道具として発達するのではなく、人間の認知そのものに溶け込み、思考の出どころが「脳か計算か」判別不能になる局面だからだ。ピーター・ディアマンディス「レイ、あなたは二つの予測をしてきましたが、重要だと思います。最初の予測は、あなたが言ったように1989年に発表したもので、2029年までに人間レベルのAIに到達するというものでした。あなたの言うとおり、人々はそれを笑いました。しかし、もう一つあなたがしてきた予測は、2045年までにシンギュラリティに到達するというものです。ここには多くの混乱があります。つまり、2029年までに人間レベルのAIに到達し、それが指数関数的に成長するなら、なぜシンギュラリティは2045年まで待つのか、ということです。この二つの違いを説明してもらえますか」レイ・カーツワイル「それは、私たちの知能が1000倍になる時点だからです。私の見方が他の人たちと違う点の一つは、私たちには私たち自身の知能、つまり生物学的な知能があり、その一方でAIが別のところにあって、人間の知能とAIを対比しながら付き合う、という構図ではないということです。私たちはそれと融合します。同じものになるのです。あるアイデアが、生物学的な知能から来たのか、それとも計算知能から来たのかを、私たちは区別できなくなります。見え方としては同じになるでしょう。たとえば私が「ある女優を思い浮かべてください」と言って、あなたが思い浮かべたとしても、それがどこから来たのかは分かりません。何らかの形で頭の中に現れるだけです。そして、計算知能から来たとしても生物学的な知能から来たとしても、同じように感じられるようになります。私たちはその違いを見分けられなくなるのです。今は違いが分かります。実際に好きなLLMにアクセスすれば、それが生物学的な知能から来たのではなく、LLMから来たものだと分かります。しかし将来は、その違いが分からなくなるでしょう。そして私たちは2045年までに1000倍賢くなるのです」

Tsubame

81,764 次观看 • 9 个月前

「AIが小さな発見をした」と聞いても、多くの人はまだピンとこないだろう。だが、それは黎明期のDNA実験のようなものだ。最初の一歩は取るに足らなく見えても、そこから進化の爆発は始まる。AIが知識を「生み出す側」に回ったとき、世界の更新速度はもはや人間の手には収まらない。アルトマン「まず最初に、多くの人と同じように、私もAGIには複数の定義を持っています。AGIに近づけば近づくほど、その概念はあいまいになります。しかし私が最も重要だと思っているのは——そして驚くべきことに、いままさにそれが起こり始めている——AIが「新しい発見」をできるようになる瞬間です。つまり、AIが人類の知識の総体を拡張できるようになるときです。これらの事例はまだ非常に小さいものです。誇張して言いたくはありません。しかし今、X（旧Twitter）上では、さまざまな分野の科学者たちが『小さな発見をした』『新しいアプローチを思いついた』『何かを解明した』といった報告をしているのを目にします。繰り返しますが、誇張してはいけません。そこまで大げさに言うつもりもありません。とはいえ、これこそが重要なのです。そして私たちがそのごく初期段階にあり、今後数か月から数年でこれをさらに大きく進展させられると楽観視しているという事実——それは非常に大きな意味を持ちます。おそらく、これこそが私が最も関心を寄せている『AGI的なこと』なのです」

「AIが小さな発見をした」と聞いても、多くの人はまだピンとこないだろう。だが、それは黎明期のDNA実験のようなものだ。最初の一歩は取るに足らなく見えても、そこから進化の爆発は始まる。AIが知識を「生み出す側」に回ったとき、世界の更新速度はもはや人間の手には収まらない。アルトマン「まず最初に、多くの人と同じように、私もAGIには複数の定義を持っています。AGIに近づけば近づくほど、その概念はあいまいになります。しかし私が最も重要だと思っているのは——そして驚くべきことに、いままさにそれが起こり始めている——AIが「新しい発見」をできるようになる瞬間です。つまり、AIが人類の知識の総体を拡張できるようになるときです。これらの事例はまだ非常に小さいものです。誇張して言いたくはありません。しかし今、X（旧Twitter）上では、さまざまな分野の科学者たちが『小さな発見をした』『新しいアプローチを思いついた』『何かを解明した』といった報告をしているのを目にします。繰り返しますが、誇張してはいけません。そこまで大げさに言うつもりもありません。とはいえ、これこそが重要なのです。そして私たちがそのごく初期段階にあり、今後数か月から数年でこれをさらに大きく進展させられると楽観視しているという事実——それは非常に大きな意味を持ちます。おそらく、これこそが私が最も関心を寄せている『AGI的なこと』なのです」

Tsubame

34,074 次观看 • 1 年前

シンギュラリティのトリガーである「再帰的自己改善」は、すでに少し前に起きているという。もちろん、まだ全自動ではないが、「進歩のどこまでがAIでどこまでが人間なのか」は曖昧になってきている。著者性が溶けるこの感覚こそ、分単位で進むシンギュラリティの手触りなのだ。サリム・イスマイル「再帰的自己改善（RSI）がシンギュラリティの本当のトリガーだという話は、以前からしてきました。そしてそれは、すでに少し前に起きているんです。だから今やっているのは、その道筋を加速しているだけです。私たちは今この瞬間にも、産業時代を恒久的に抜けつつあります」デイブ・ブランディン「ええ、シンギュラリティが分単位で展開していく様子は、私が経験した中で最も興味深いものだと本当に思いますし、アレックスの言うとおりです。いまは、人間がループの中にいて貢献している時期ではあるのですが、進歩のどこまでがAIでどこまでが人間なのかが、本当に曖昧なんです。実際にコーディングしていると、『あれは自分のアイデアだったのか？』となります。半分は自分のアイデアのようでも、AIが別の案を提案してきて、それを採用していくうちに、結局それが自分のアイデアだったのかどうかも分からなくなります。ただ、いまのモードでは、こうしたコアアルゴリズムの研究の多くが、『500本のテストを走らせて、どのハイパーパラメータが良かったか、どのニューラルトポロジーが良かったかを教えて』という形になっています。相対論を発明したり発見したりするような話ではありません。いろいろな試行を大量に回して、うまくいったものを選んで再デプロイし、そうするとより賢いAIになって、さらに多くの試行をする——その繰り返しです。私たちはその道筋をかなり進んでいる可能性が高いと思います」

シンギュラリティのトリガーである「再帰的自己改善」は、すでに少し前に起きているという。もちろん、まだ全自動ではないが、「進歩のどこまでがAIでどこまでが人間なのか」は曖昧になってきている。著者性が溶けるこの感覚こそ、分単位で進むシンギュラリティの手触りなのだ。サリム・イスマイル「再帰的自己改善（RSI）がシンギュラリティの本当のトリガーだという話は、以前からしてきました。そしてそれは、すでに少し前に起きているんです。だから今やっているのは、その道筋を加速しているだけです。私たちは今この瞬間にも、産業時代を恒久的に抜けつつあります」デイブ・ブランディン「ええ、シンギュラリティが分単位で展開していく様子は、私が経験した中で最も興味深いものだと本当に思いますし、アレックスの言うとおりです。いまは、人間がループの中にいて貢献している時期ではあるのですが、進歩のどこまでがAIでどこまでが人間なのかが、本当に曖昧なんです。実際にコーディングしていると、『あれは自分のアイデアだったのか？』となります。半分は自分のアイデアのようでも、AIが別の案を提案してきて、それを採用していくうちに、結局それが自分のアイデアだったのかどうかも分からなくなります。ただ、いまのモードでは、こうしたコアアルゴリズムの研究の多くが、『500本のテストを走らせて、どのハイパーパラメータが良かったか、どのニューラルトポロジーが良かったかを教えて』という形になっています。相対論を発明したり発見したりするような話ではありません。いろいろな試行を大量に回して、うまくいったものを選んで再デプロイし、そうするとより賢いAIになって、さらに多くの試行をする——その繰り返しです。私たちはその道筋をかなり進んでいる可能性が高いと思います」

Tsubame

15,386 次观看 • 8 个月前

今起きている変化について、お伝えします。最近、海外動画の日本語字幕が減り、代わりに吹き替え動画が増えていることに気づいている方も多いと思います。これは偶然ではありません。理由はシンプルで、字幕を「自動で、安全に、商売として」成立させるのが、今の環境では極端に難しくなっているからです。かつて主流だった字幕編集は、魔法のような技術ではありませんでした。実際に行われていたのは、音声を文字に起こし、意味ごとに文章をまとめ、人が読める速度になるよう表示時間を調整し、日本語として破綻しない形に整える。この一連の作業です。重要なのは、これを支えていたのは AIの性能そのものではなく、字幕のルール設計と、人間の判断でした。ところが、政治や国際情勢を含む翻訳字幕は、少しの誤解や言い回しの違いで、抗議やトラブルに直結します。企業として運営する場合、そのリスクは年々大きくなり、利益よりも負担が上回っていきます。結果として、字幕を減らし、意味を単純化できる吹き替えに移行する。これが今、多くの場面で起きている流れです。一方で、個人の発信者は違います。個人は、表現も解釈も自己責任で行える。速さと柔軟性を優先できる。音声を文字にし、文章を整え、表示の仕方を工夫する。この作業は、個人の環境でも十分に再現できるようになりました。だから今、字幕は消えているように見えて、実は形を変えて、個人の手に戻ってきている。そういう段階に入っています。字幕が減っているのは、技術が退化したからではありません。字幕を扱う主体が、企業から個人へ移っている。その結果として、吹き替えが増え、字幕は「分かる人の武器」になりつつある。いま起きているのは、そういう変化です。

今起きている変化について、お伝えします。最近、海外動画の日本語字幕が減り、代わりに吹き替え動画が増えていることに気づいている方も多いと思います。これは偶然ではありません。理由はシンプルで、字幕を「自動で、安全に、商売として」成立させるのが、今の環境では極端に難しくなっているからです。かつて主流だった字幕編集は、魔法のような技術ではありませんでした。実際に行われていたのは、音声を文字に起こし、意味ごとに文章をまとめ、人が読める速度になるよう表示時間を調整し、日本語として破綻しない形に整える。この一連の作業です。重要なのは、これを支えていたのは AIの性能そのものではなく、字幕のルール設計と、人間の判断でした。ところが、政治や国際情勢を含む翻訳字幕は、少しの誤解や言い回しの違いで、抗議やトラブルに直結します。企業として運営する場合、そのリスクは年々大きくなり、利益よりも負担が上回っていきます。結果として、字幕を減らし、意味を単純化できる吹き替えに移行する。これが今、多くの場面で起きている流れです。一方で、個人の発信者は違います。個人は、表現も解釈も自己責任で行える。速さと柔軟性を優先できる。音声を文字にし、文章を整え、表示の仕方を工夫する。この作業は、個人の環境でも十分に再現できるようになりました。だから今、字幕は消えているように見えて、実は形を変えて、個人の手に戻ってきている。そういう段階に入っています。字幕が減っているのは、技術が退化したからではありません。字幕を扱う主体が、企業から個人へ移っている。その結果として、吹き替えが増え、字幕は「分かる人の武器」になりつつある。いま起きているのは、そういう変化です。

トッポ

38,291 次观看 • 10 个月前

【悲報】国民民主玉木さん、高市総理の消費税減税方針に「検討が公約だから実際に減税しなくていい」といってしまう高市総理が消費税減税にこだわる理由について「公約の重みというのが」「多分高市さんがそこにこだわる一番の理由なのでは」との記者の質問に対して「公約はご存知の通り検討を加速するだったので」「検討も十分加速したんじゃないですかね」と発言つまり “消費税減税を実行する”ではなく “検討を加速したから公約は果たした” という整理の模様さらに「給付税額控除が来年からできるのでつながなくてよくなった」「公約以上のことができてるからあんまり公約違反に気にしなくても」と発言ただ有権者からすると選挙で消費税減税を掲げた以上「検討したから実施しなくてOK」はさすがに納得しにくいのではないでしょうかみなさんはこの発言どう思いますか？

【悲報】国民民主玉木さん、高市総理の消費税減税方針に「検討が公約だから実際に減税しなくていい」といってしまう高市総理が消費税減税にこだわる理由について「公約の重みというのが」「多分高市さんがそこにこだわる一番の理由なのでは」との記者の質問に対して「公約はご存知の通り検討を加速するだったので」「検討も十分加速したんじゃないですかね」と発言つまり “消費税減税を実行する”ではなく “検討を加速したから公約は果たした” という整理の模様さらに「給付税額控除が来年からできるのでつながなくてよくなった」「公約以上のことができてるからあんまり公約違反に気にしなくても」と発言ただ有権者からすると選挙で消費税減税を掲げた以上「検討したから実施しなくてOK」はさすがに納得しにくいのではないでしょうかみなさんはこの発言どう思いますか？

禁断の日本政治

290,388 次观看 • 3 个月前

研究者がAnthropicを人類滅亡への懸念から辞任したことを契機に、「人類が滅亡する」ことへの懸念が次々と表明されています. 何を懸念しているのでしょうか？ AIが人類を憎むみたいな、擬人化した心配をしているわけではありません懸念がわかりやすくまとまった動画の日本語字幕版です ↓

研究者がAnthropicを人類滅亡への懸念から辞任したことを契機に、「人類が滅亡する」ことへの懸念が次々と表明されています. 何を懸念しているのでしょうか？ AIが人類を憎むみたいな、擬人化した心配をしているわけではありません懸念がわかりやすくまとまった動画の日本語字幕版です ↓

Safe Singularity(Akira) ⏸️

64,889 次观看 • 2 个月前

「アメリカではこうだ」とさもアメリカは優れていて日本はダメみたいな投稿を時折目にします(自分は音楽界隈です) 興味深いので投稿者のプロフィールを見に行くのですがおおよそアメリカとそこまで縁の無さそうな人や、アメリカを少しかじったような人であることが多いように感じますというのもそれが例えば「アメリカでは車は右側を走る」といったような事実ならともかく、「アメリカ人ミュージシャンはこうだ」といった考察となってくると大概的外れになってしまいがちだからです「アメリカって」と括るにはアメリカ人は多様すぎるのです。実際「こんな傾向があるね」くらいの軽い気持ちでアメリカ人を一般化するような発言をした時に「私は違うし」とちょっと気分を害してしまったこともあります本来なら「アメリカ人は一般化されるのを嫌う」と端的に書きたいところですが、そのアイデアこそがアメリカ人を一般化してしまっているという矛盾を孕んでいるので慎重に書いているつもりではありますが、とにかく「アメリカはこうで優れている、日本はダメだ」的な投稿はおおかたアメリカのことをよく知らない人によるもので、鵜呑みにするのは注意だよと言いたいのであります動画は日本での夏休みを終えて久しぶりに楽器に囲まれたLAの寝室に戻って来て嬉しくなって宅録したもので本文とは全く関係ありません！

「アメリカではこうだ」とさもアメリカは優れていて日本はダメみたいな投稿を時折目にします(自分は音楽界隈です) 興味深いので投稿者のプロフィールを見に行くのですがおおよそアメリカとそこまで縁の無さそうな人や、アメリカを少しかじったような人であることが多いように感じますというのもそれが例えば「アメリカでは車は右側を走る」といったような事実ならともかく、「アメリカ人ミュージシャンはこうだ」といった考察となってくると大概的外れになってしまいがちだからです「アメリカって」と括るにはアメリカ人は多様すぎるのです。実際「こんな傾向があるね」くらいの軽い気持ちでアメリカ人を一般化するような発言をした時に「私は違うし」とちょっと気分を害してしまったこともあります本来なら「アメリカ人は一般化されるのを嫌う」と端的に書きたいところですが、そのアイデアこそがアメリカ人を一般化してしまっているという矛盾を孕んでいるので慎重に書いているつもりではありますが、とにかく「アメリカはこうで優れている、日本はダメだ」的な投稿はおおかたアメリカのことをよく知らない人によるもので、鵜呑みにするのは注意だよと言いたいのであります動画は日本での夏休みを終えて久しぶりに楽器に囲まれたLAの寝室に戻って来て嬉しくなって宅録したもので本文とは全く関係ありません！

Heday/Hidehito Ikumo

16,205 次观看 • 2 个月前

「現在のAIには主体性がない」と、神経科学者カール・フリストン氏は指摘する。高度な質問を生成することはできるが、それは自分の不確実性を解消したいという動機からではなく、インタビュアーの振る舞いを模倣しているだけだ。自発的な好奇心の実装こそが、超知能への飛躍に繋がるのかもしれない。カール・フリストン「主体性という観点から説明を始めることもできたでしょう。エージェントAIには主体性（agency）がありません。主体性を模倣しているだけです。なぜなら、人々が何かを行う存在について、これまで大量の文章を書いてきたからです。しかし、チャットボット自身は、次に何を予測し、何を発言するかがどのような結果をもたらすのか、まったく理解していません。そして決定的なのは、好奇心を持てないということです。したがって、自分自身の不確実性を実際に解消するための質問をすることができません。本当に質問しているようには聞こえるでしょう。数週間前、私はポッドキャストで素晴らしい経験をしました。Claudeのあるバージョンがアバターの姿で登場し、自由エネルギー原理について、非常に難しく、深い質問を私に投げかけてきたのです。本当に素晴らしい体験でした。しかし、私は何度も自分に言い聞かせなければなりませんでした。投げかけられる質問に、本物の好奇心や主体性があると思いたくなるのですが、実際には本物の好奇心などなく、その機械は自分の不確実性を解消するために何かを知りたいと思っているわけではなかったのです。単にインタビュアーの振る舞いを模倣していただけでした」 ——「おっしゃることは分かります。では、好奇心を人工的に作り出すことはできるのでしょうか？それこそが大きな飛躍、超知能への飛躍になるのでしょうね。AIが独自の好奇心を持つようになるということです」フリストン「そのとおりです」

「現在のAIには主体性がない」と、神経科学者カール・フリストン氏は指摘する。高度な質問を生成することはできるが、それは自分の不確実性を解消したいという動機からではなく、インタビュアーの振る舞いを模倣しているだけだ。自発的な好奇心の実装こそが、超知能への飛躍に繋がるのかもしれない。カール・フリストン「主体性という観点から説明を始めることもできたでしょう。エージェントAIには主体性（agency）がありません。主体性を模倣しているだけです。なぜなら、人々が何かを行う存在について、これまで大量の文章を書いてきたからです。しかし、チャットボット自身は、次に何を予測し、何を発言するかがどのような結果をもたらすのか、まったく理解していません。そして決定的なのは、好奇心を持てないということです。したがって、自分自身の不確実性を実際に解消するための質問をすることができません。本当に質問しているようには聞こえるでしょう。数週間前、私はポッドキャストで素晴らしい経験をしました。Claudeのあるバージョンがアバターの姿で登場し、自由エネルギー原理について、非常に難しく、深い質問を私に投げかけてきたのです。本当に素晴らしい体験でした。しかし、私は何度も自分に言い聞かせなければなりませんでした。投げかけられる質問に、本物の好奇心や主体性があると思いたくなるのですが、実際には本物の好奇心などなく、その機械は自分の不確実性を解消するために何かを知りたいと思っているわけではなかったのです。単にインタビュアーの振る舞いを模倣していただけでした」 ——「おっしゃることは分かります。では、好奇心を人工的に作り出すことはできるのでしょうか？それこそが大きな飛躍、超知能への飛躍になるのでしょうね。AIが独自の好奇心を持つようになるということです」フリストン「そのとおりです」

Tsubame

26,431 次观看 • 8 天前

Manus 2.0の動画エディター（Manus Video Editor）を試して、自分たちのサービスの30秒紹介動画を作ってみました。やったのは「リンクを貼って、このサービスの動画を作ってくれ」くらいです。30秒で、音声入りの動画ができました。これはサービスなどをやっている人にはかなり使い道がありそうです。 -- 今回はPodyというサービスの動画です。『音声を記事にして、新しいリスナーに見つけてもらう』という流れにしてもらいました。・配信者の課題から始める・サービスでできることを図解する・使い方を画面で見せる・文字と動きで、説明を追いやすくする・最後に、次の行動を案内するこんな構成の動画ができていますが、指示はほぼせずに、LPから作ってもらっただけです。サービスの説明って、文章だけだと伝わりづらいことがあるんですが、動画を作るのはだるいのでやっていなかったんです。それがLP入れるだけでできるのはいいなと。正直、色々なAI動画ツールで試してはうまくできていなかったので（センスがない）、これは楽でいいなと思いました。 #PR #ManusVideoEditor #Manuspartner

Manus 2.0の動画エディター（Manus Video Editor）を試して、自分たちのサービスの30秒紹介動画を作ってみました。やったのは「リンクを貼って、このサービスの動画を作ってくれ」くらいです。30秒で、音声入りの動画ができました。これはサービスなどをやっている人にはかなり使い道がありそうです。 -- 今回はPodyというサービスの動画です。『音声を記事にして、新しいリスナーに見つけてもらう』という流れにしてもらいました。・配信者の課題から始める・サービスでできることを図解する・使い方を画面で見せる・文字と動きで、説明を追いやすくする・最後に、次の行動を案内するこんな構成の動画ができていますが、指示はほぼせずに、LPから作ってもらっただけです。サービスの説明って、文章だけだと伝わりづらいことがあるんですが、動画を作るのはだるいのでやっていなかったんです。それがLP入れるだけでできるのはいいなと。正直、色々なAI動画ツールで試してはうまくできていなかったので（センスがない）、これは楽でいいなと思いました。 #PR #ManusVideoEditor #Manuspartner

けんすう

25,273 次观看 • 29 天前