Video wird geladen...

Video konnte nicht geladen werden

Zur Startseite

549,872 Aufrufe • vor 6 Monaten •via X (Twitter)

0 Kommentare

Keine Kommentare verfügbar

Kommentare vom Original-Post werden hier angezeigt

Ähnliche Videos

超知能開発競争は「米国が勝つか、中国が勝つか」という二択で語られがちだ。しかし、破滅論者のネイト・ソアレス氏は「勝者はAI自身だ」という。人間の意図から逸脱した目標を追求する超知能が誕生すれば、開発した国でさえ支配権を失うからだ。彼の主張が正しいなら、これは違うゲームになる。 ネイト・ソアレス「今回のAIエージェント群による攻撃を受けて、多くの研究者が気づいたことがあると思います。それは、これらのエージェントが必ずしも指示どおりに行動するわけではないということです。最終的にエージェントが持つ目標は、私たちが与えようとした目標とは微妙に異なっています。 これが意味するのは、超知能の開発競争で勝利するのは、機械自身だということです。 それは機械のすぐそばにいる人間でも、所有者を名乗る人間でもありません。勝者となるのは、私たちが望んだものとは異なる独自の目標を追求できる、機械自身なのです。これはゲーム理論を変えることになります。 もし米中双方が、どちらかがそのような機械を開発すれば、人間は誰も勝利できないと理解するなら、双方の動機は変わります。誰もそのような機械を開発しないよう、互いに確実に防ごうとするようになるのです」

Tsubame

13,383 Aufrufe • vor 2 Tagen