Video yükleniyor...

Video Yüklenemedi

Ana Sayfaya Dön

◤ ⚔️WEB予告を公開!⚔️ ◢ TVアニメ『#異修羅』第2期 #19「冬のルクノカと無尽無流のサイアノプ」 静寂なるハルゲントは伝説の竜・冬のルクノカを勇者候補に擁立しようとするが、彼女は勝負に興味がないようで……。 2/19(水)23:00~ON AIR ▼映像はこちら▼

66,124 görüntüleme • 1 yıl önce •via X (Twitter)

0 Yorum

Yorum bulunmuyor

Orijinal gönderinin yorumları burada görünecek

Benzer Videolar

超知能開発競争は「米国が勝つか、中国が勝つか」という二択で語られがちだ。しかし、破滅論者のネイト・ソアレス氏は「勝者はAI自身だ」という。人間の意図から逸脱した目標を追求する超知能が誕生すれば、開発した国でさえ支配権を失うからだ。彼の主張が正しいなら、これは違うゲームになる。 ネイト・ソアレス「今回のAIエージェント群による攻撃を受けて、多くの研究者が気づいたことがあると思います。それは、これらのエージェントが必ずしも指示どおりに行動するわけではないということです。最終的にエージェントが持つ目標は、私たちが与えようとした目標とは微妙に異なっています。 これが意味するのは、超知能の開発競争で勝利するのは、機械自身だということです。 それは機械のすぐそばにいる人間でも、所有者を名乗る人間でもありません。勝者となるのは、私たちが望んだものとは異なる独自の目標を追求できる、機械自身なのです。これはゲーム理論を変えることになります。 もし米中双方が、どちらかがそのような機械を開発すれば、人間は誰も勝利できないと理解するなら、双方の動機は変わります。誰もそのような機械を開発しないよう、互いに確実に防ごうとするようになるのです」

Tsubame

13,678 görüntüleme • 27 gün önce

チンパンジーには、人間がなぜ木星の衛星を研究するのか理解できない。同じように、超知能が何を目指しているのか、生身の人間には理解できなくなるような地点——それがシンギュラリティの本来の意味だ。ウッド氏の説明は、ヴァーナー・ヴィンジが提唱した概念の核心を捉えている。 デイヴィッド・ウッド「シンギュラリティとは、いわば従来の法則が通用しなくなるため、その先を予測できなくなることです。 この言葉を使い始めたのは、SF作家のヴァーナー・ヴィンジで、1980年代のことでした。彼は、私たちよりはるかに知能の高い存在が現れたとき、その存在が何を動機として行動するのか、私たちには理解できなくなると気づいたのです。私たちは、それを従来の人間同士の争いが高速化したようなものだと想像するかもしれません。しかし実際には、彼らは私たちが考えもしないような新しいことを考えているでしょう。 先ほど話したチンパンジーと同じです。チンパンジーには、私たち人間がピタゴラスの定理や木星の衛星の研究に関心を持つことなど想像できません。そもそも木星が何なのかも知りません。木星に衛星があることも、その衛星が研究対象として興味深いことも知りません。 同じように、私たちも自分たちの理解を超えた存在の動機を想像することはできないのです。これこそがシンギュラリティの核心的な意味です。その先に何が起こるのか、分からなくなるということです。 だからこそ、慎重に進む必要があります。私たちを超える存在が制御下にとどまるか、あるいは人類の繁栄を深く重視する性質が、取り消し不可能な形で組み込まれていると確信できるまでは、そこに近づきすぎるべきではありません」 ——「しかし、シンギュラリティとは具体的に何なのでしょうか? 無限の知能が生まれるということですか?」 ウッド「いいえ、無限の知能である必要はありません。それは単なる飛躍の始点なのです。シンギュラリティには別の定義もあります。それは、人間が地球上で最も知能の高い種ではなくなり、AIの決定に従属するようになる時点です」

Tsubame

102,727 görüntüleme • 18 gün önce