Loading video...

Video Failed to Load

Go Home

【NewsPicks Exclusive 最新回公開スタート】 AI暴走を止める「攻撃学」とは？【苫米地英人×田中悠斗】 オフホワイトハッカー・田中悠斗氏と認知科学者・苫米地英人氏が対談。 二人が"攻撃"という概念そのものを問い直す。 人間が殺人に手を染めないのは、死刑という「罰」への恐怖があるから。だが、その論理はAIには通用しない。 暴走を止める術はあるのか。 戦争も、死刑も、なくならない世界で、人間はAIとどう向き合うべきか。 考えていく。 苫米地英人

NewsPicksStudio's profile picture

NewsPicks Studios

65,266 subscribers

35,256 views • 22 days ago •via X (Twitter)

LIVE

Anya Rossi• Live Now

Private livecam show

0 Comments

No comments available

Comments from the original post will appear here

Related Videos

“同じ地球に住んでるのに、見えてるお金の桁が別世界だった。” 苫米地さんの話でいちばんゾッとするのは、 「お金持ちの世界って、僕らが思ってるよりずっと遠い場所にある」とハッキリ言っているところです。 ふつうの人は、 お金持ちっていっても 「会社が大きい人」 「高い家に住んでる人」 くらいを想像しますよね。 でも苫米地さんの話では、その上にまだ別の階層がある。 しかもそこでは、個人でとんでもない額のお金を持っている人たちがいて、 そのお金を「どう使えば世界に影響を出せるか」を考えていると言うんです。 たとえるなら、 町内会の貯金箱の話をしていたら、 急に“国をいくつも動かせる財布”の話が始まる感じです。 同じ「お金」の話なのに、スケールが違いすぎる。 さらに苫米地さんは、日本は今かなり貧乏だとはっきり言っています。 ここでいう貧乏は、「今日のごはんがない」という意味だけではありません。 国として余裕がなくて、だから税金を強く取ろうとしたり、国民の負担がどんどん重くなったりしている、という話です。 つまり、 見えにくいけれど、 国の体力そのものが落ちている、ということです。 これも中学生向けに言うと、 クラスで見た目は普通にしてるのに、 実は財布の中がずっとカツカツで、何かあるたびにみんなから細かく集金しないと回らない状態に近いです。 しかも苫米地さんが怖いのは、日本の「ふつう」と、 世界の超富裕層の「ふつう」は、もう同じものさしでは測れないと言っているところです。 僕らは日本の中だけを見て「これが当たり前」と思いがちです。でもその外には、戦争や国の対立よりもっと高い場所で、お金も人脈も動かしている人たちがいる。 しかもその人たちは、国どうしがケンカしていても、その上から全体を見ていることがある。 ここがちょっと不気味です。 なぜなら、ニュースでは国と国がぶつかっているように見えるのに、もっと上では「両方とつながっている人たち」がいるかもしれないからです。 つまり苫米地さんの話は、ただの金持ち自慢ではありません。 本当に怖いのは、自分たちが見ている世界地図の上に、 さらに“見えない地図”がもう1枚あるかもしれない、 と感じさせるところです。 国のルール。 税金。 戦争。 社会貢献。 お金持ち。 これらがバラバラじゃなくて、実はもっと大きなひとつの盤面で動いているかもしれない。そう思うと、急に世の中の見え方が変わってきます。 苫米地さんの話をひとことで言うと、「日本の常識だけで世界を見ていると、本当の大きさを見失う」ということなのかもしれません。 あなたはこの話を聞いて、「そんな別世界が本当にある」と思いますか？ それとも「話を盛っているだけ」に聞こえますか？ 気になったら保存して、あとでもう一度ゆっくり読み返してください。 あなたの考えをコメントでぜひ聞かせてください。
1:07

“同じ地球に住んでるのに、見えてるお金の桁が別世界だった。” 苫米地さんの話でいちばんゾッとするのは、 「お金持ちの世界って、僕らが思ってるよりずっと遠い場所にある」とハッキリ言っているところです。 ふつうの人は、 お金持ちっていっても 「会社が大きい人」 「高い家に住んでる人」 くらいを想像しますよね。 でも苫米地さんの話では、その上にまだ別の階層がある。 しかもそこでは、個人でとんでもない額のお金を持っている人たちがいて、 そのお金を「どう使えば世界に影響を出せるか」を考えていると言うんです。 たとえるなら、 町内会の貯金箱の話をしていたら、 急に“国をいくつも動かせる財布”の話が始まる感じです。 同じ「お金」の話なのに、スケールが違いすぎる。 さらに苫米地さんは、日本は今かなり貧乏だとはっきり言っています。 ここでいう貧乏は、「今日のごはんがない」という意味だけではありません。 国として余裕がなくて、だから税金を強く取ろうとしたり、国民の負担がどんどん重くなったりしている、という話です。 つまり、 見えにくいけれど、 国の体力そのものが落ちている、ということです。 これも中学生向けに言うと、 クラスで見た目は普通にしてるのに、 実は財布の中がずっとカツカツで、何かあるたびにみんなから細かく集金しないと回らない状態に近いです。 しかも苫米地さんが怖いのは、日本の「ふつう」と、 世界の超富裕層の「ふつう」は、もう同じものさしでは測れないと言っているところです。 僕らは日本の中だけを見て「これが当たり前」と思いがちです。でもその外には、戦争や国の対立よりもっと高い場所で、お金も人脈も動かしている人たちがいる。 しかもその人たちは、国どうしがケンカしていても、その上から全体を見ていることがある。 ここがちょっと不気味です。 なぜなら、ニュースでは国と国がぶつかっているように見えるのに、もっと上では「両方とつながっている人たち」がいるかもしれないからです。 つまり苫米地さんの話は、ただの金持ち自慢ではありません。 本当に怖いのは、自分たちが見ている世界地図の上に、 さらに“見えない地図”がもう1枚あるかもしれない、 と感じさせるところです。 国のルール。 税金。 戦争。 社会貢献。 お金持ち。 これらがバラバラじゃなくて、実はもっと大きなひとつの盤面で動いているかもしれない。そう思うと、急に世の中の見え方が変わってきます。 苫米地さんの話をひとことで言うと、「日本の常識だけで世界を見ていると、本当の大きさを見失う」ということなのかもしれません。 あなたはこの話を聞いて、「そんな別世界が本当にある」と思いますか？ それとも「話を盛っているだけ」に聞こえますか？ 気になったら保存して、あとでもう一度ゆっくり読み返してください。 あなたの考えをコメントでぜひ聞かせてください。

角由紀子のヤバイ帝国

347,040 views • 5 months ago

イーロン、素晴らしい！ 「国とは地理ではなく、国民である」 日本も日本人がいなくなったら日本ではない！ イーロン・マスク氏「世界に80億人いるということを考えると、数パーセントがその国に移住するだけで、もはやその国ではなくなってしまうのです」
1:47

イーロン、素晴らしい！ 「国とは地理ではなく、国民である」 日本も日本人がいなくなったら日本ではない！ イーロン・マスク氏「世界に80億人いるということを考えると、数パーセントがその国に移住するだけで、もはやその国ではなくなってしまうのです」

JMAX

481,902 views • 8 months ago

俺、自身はカッとなったり、イライラすると今でも手を出したくなる未熟者だ そして、暴力は犯罪だけど殴られた方が良い人間が、この世に存在する事も良く知ってる なので俺は暴力反対ではない 暴力を肯定する時もあるから 俺は金子がバンテージをつけた手で被害者Aを殴った事自体を重くは受け止めてない （人が死ぬかもしれない行為だから、絶対やってはいけないのだけどね） 男同士スポーツをやっていると、そう言う時はある でも この金子の暴力は、カッとなって手が出た！と言う類のものじゃないよ ボリュームを最大にして被害者Aに投げかけてる言葉を聞いてほしい これは被害者Aなら手をだしても良い！ 被害者Aはそう言う対象だ！と認識している人間の行為だよ この形の暴力は、日常的なものだと俺は思うのよ 金子はチャンピオンだから攻撃力がすごいから、ひどい！ とか、そんな事はどうでもいい 格闘技をやっている人間が、あきらかに自分より弱い人間を選択して、抵抗できない事をいい事に憂さ晴らしをしている『悪』に俺はみえる 人間は強くなければ生きていけないよ でも 優しくなければ生きていく資格がないよ
0:32

俺、自身はカッとなったり、イライラすると今でも手を出したくなる未熟者だ そして、暴力は犯罪だけど殴られた方が良い人間が、この世に存在する事も良く知ってる なので俺は暴力反対ではない 暴力を肯定する時もあるから 俺は金子がバンテージをつけた手で被害者Aを殴った事自体を重くは受け止めてない （人が死ぬかもしれない行為だから、絶対やってはいけないのだけどね） 男同士スポーツをやっていると、そう言う時はある でも この金子の暴力は、カッとなって手が出た！と言う類のものじゃないよ ボリュームを最大にして被害者Aに投げかけてる言葉を聞いてほしい これは被害者Aなら手をだしても良い！ 被害者Aはそう言う対象だ！と認識している人間の行為だよ この形の暴力は、日常的なものだと俺は思うのよ 金子はチャンピオンだから攻撃力がすごいから、ひどい！ とか、そんな事はどうでもいい 格闘技をやっている人間が、あきらかに自分より弱い人間を選択して、抵抗できない事をいい事に憂さ晴らしをしている『悪』に俺はみえる 人間は強くなければ生きていけないよ でも 優しくなければ生きていく資格がないよ

細川バレンタイン

1,142,708 views • 1 year ago

#柳沢協二 氏 ミサイルを持てばその分だけ抑止力が上がるという認識は全く間違い 報復合戦のような戦争を日本がやる意思と能力があるということになると #専守防衛 とは言えない 頑強に抵抗はするけれども、その相手に対する攻撃はしないという姿勢でいくべき #敵基地攻撃能力は違憲
0:40

#柳沢協二 氏 ミサイルを持てばその分だけ抑止力が上がるという認識は全く間違い 報復合戦のような戦争を日本がやる意思と能力があるということになると #専守防衛 とは言えない 頑強に抵抗はするけれども、その相手に対する攻撃はしないという姿勢でいくべき #敵基地攻撃能力は違憲

🌈ラナンキュラス（川上 真二）

13,629 views • 3 months ago

チェスAIの進歩はこうだった——最初は「人間＋AI」が勝つ。次に、AIが十分に賢くなると、人間が混ざるほど弱くなる。最終的に、意思決定の最適解が「人間抜き」へ収束する。だから、現実の仕事で最後の状態になることを「超知能」の定義としよう。そのとき、社会の意思決定は不可逆に再配置される。 サム・アルトマン「AGIについては、私たちは定義をしなかったせいで外してしまいましたよね。いま皆が注目している新しい言葉は、超知能に到達するタイミングです。だから私の提案はこうです。AGIはある意味で通り過ぎていったことにして、世界をそこまで変えなかった、あるいは長期的には変えるのだろうけれど、とにかく『いつかはAGIを作った』ということにする。いまは曖昧な時期で、すでに達したと思う人もいれば、まだだと思う人もいて、これから達したと思う人が増えていく。そして『次は何だ？』となる。 そのうえで、超知能の候補となる定義はこうです。あるシステムが、AIの支援を受けた人間よりもなお上回って、米国大統領、巨大企業のCEO、あるいは非常に大規模な科学研究所の運営を、人間の誰よりもうまくこなせるようになったとき。以上です。 チェスで起きたことも興味深い例だと思います。チェスではAIが人間に勝てるようになりました。Deep Blueの件は私もはっきり覚えています。その後しばらくは、人間とAIが組むほうがAI単体より強かった時期がありました。でも最終的には、人間が介入することでむしろ悪くなってしまい、人間がその卓越した知性を理解できないまま口を出さない『人間抜きのAI』が最善、という状態になった。 超知能を考える枠組みとして、これは面白いと思います。まだずっと先の話だとは思いますが、今回はもっとすっきりした定義を持てたらいいですね」
1:34

チェスAIの進歩はこうだった——最初は「人間＋AI」が勝つ。次に、AIが十分に賢くなると、人間が混ざるほど弱くなる。最終的に、意思決定の最適解が「人間抜き」へ収束する。だから、現実の仕事で最後の状態になることを「超知能」の定義としよう。そのとき、社会の意思決定は不可逆に再配置される。 サム・アルトマン「AGIについては、私たちは定義をしなかったせいで外してしまいましたよね。いま皆が注目している新しい言葉は、超知能に到達するタイミングです。だから私の提案はこうです。AGIはある意味で通り過ぎていったことにして、世界をそこまで変えなかった、あるいは長期的には変えるのだろうけれど、とにかく『いつかはAGIを作った』ということにする。いまは曖昧な時期で、すでに達したと思う人もいれば、まだだと思う人もいて、これから達したと思う人が増えていく。そして『次は何だ？』となる。 そのうえで、超知能の候補となる定義はこうです。あるシステムが、AIの支援を受けた人間よりもなお上回って、米国大統領、巨大企業のCEO、あるいは非常に大規模な科学研究所の運営を、人間の誰よりもうまくこなせるようになったとき。以上です。 チェスで起きたことも興味深い例だと思います。チェスではAIが人間に勝てるようになりました。Deep Blueの件は私もはっきり覚えています。その後しばらくは、人間とAIが組むほうがAI単体より強かった時期がありました。でも最終的には、人間が介入することでむしろ悪くなってしまい、人間がその卓越した知性を理解できないまま口を出さない『人間抜きのAI』が最善、という状態になった。 超知能を考える枠組みとして、これは面白いと思います。まだずっと先の話だとは思いますが、今回はもっとすっきりした定義を持てたらいいですね」

Tsubame

158,213 views • 8 months ago

相米慎二「映画というのは――これがなかなか分かってもらえないことかもしれませんけども、こういう風に監督という一人の人間が出てきて今ここでものを言っていますが、映画の面白さというもの、あるいは映画が持っている力というものは、常に監督という一人の人間に代表されるものではないんです。その映画をつくらせる環境の面白さが如実に出てしまうものが、多分、最もその映画を映画らしく、映画たらしめる要因だということを、この映画の大体の面白さというか、面白いというか、どう言うんでしょう、総括していかなきゃならないことなんです。多分、僕一人だと『台風クラブ』⇩を、本当に役者がそろっていても、実質的にはつくることは出来なかったでしょう」 -『甦る相米慎二』木村建哉・中村秀之・藤井仁子編著、インスクリプト、2011、383p
3:41

相米慎二「映画というのは――これがなかなか分かってもらえないことかもしれませんけども、こういう風に監督という一人の人間が出てきて今ここでものを言っていますが、映画の面白さというもの、あるいは映画が持っている力というものは、常に監督という一人の人間に代表されるものではないんです。その映画をつくらせる環境の面白さが如実に出てしまうものが、多分、最もその映画を映画らしく、映画たらしめる要因だということを、この映画の大体の面白さというか、面白いというか、どう言うんでしょう、総括していかなきゃならないことなんです。多分、僕一人だと『台風クラブ』⇩を、本当に役者がそろっていても、実質的にはつくることは出来なかったでしょう」 -『甦る相米慎二』木村建哉・中村秀之・藤井仁子編著、インスクリプト、2011、383p

nave

12,913 views • 2 days ago

"linguamarina"っていう英語学習系のYouTubeチャンネル。綺麗な声から発せられるアメリカ英語。きっと観ている人は多いはずだと思う。登録者数は780万で、英語垢界隈においては知らない人の方が少ないのかもしれない。それでも敢えて紹介してみたい。どうしてかというと、実は運営者のMarina先生は、 ノンネイティブだから。にもかかわらずまるでネイティブのように話している。驚愕だった... 欧州人に英語達者は多いけどお国訛りはわずかに出てくる、このチャンネルを知るまではそんなイメージを持っていた。 あるとき"linguamarina"がおすすめに上がってきて何となく見てみた。「おー、この美人先生の英語、聴きやすい！リスニング練習にいいかも！」とポチッとチャンネル登録。 が、しばらく視聴を繰り返しているうちに気づいた。なんと彼女はロシア出身だったのだ。正直、当初はアメリカ人と思っていた。「ネイティブじゃなくてもこんな風に話せる人がいたなんて...」とイメージが覆ったのだ。 それだけネイティブと遜色ないスピーキング力。勘違いしても仕方がない。非ネイティブでここまで訛りのない人は相当少ないはずだと思う。僕が知る限りでは、YouTube界隈でもこの域に到達しているかなり少ないはず。Marina先生はその1人だと思う。 そして、彼女はノンネイティブにとって究極のロールモデルだ。ただ、幼少期を過ぎた日本人がこのレベルまで到達するのは難しい気はする。けれども励みにはなる、そんな存在だと思う。 それから肝心のコンテンツだけど、英語学習TIPSや英語圏に留学するやり方などノンネイティブならではの視点でレクチャーしてくれる。本人も一英語学習者としてかなり努力してきて現在の英語力を獲得。だからこそ、とても説得力がある。 もし、このチャンネルを知らなかったら、ぜひぜひ一度観てもらいたい。
0:45

"linguamarina"っていう英語学習系のYouTubeチャンネル。綺麗な声から発せられるアメリカ英語。きっと観ている人は多いはずだと思う。登録者数は780万で、英語垢界隈においては知らない人の方が少ないのかもしれない。それでも敢えて紹介してみたい。どうしてかというと、実は運営者のMarina先生は、 ノンネイティブだから。にもかかわらずまるでネイティブのように話している。驚愕だった... 欧州人に英語達者は多いけどお国訛りはわずかに出てくる、このチャンネルを知るまではそんなイメージを持っていた。 あるとき"linguamarina"がおすすめに上がってきて何となく見てみた。「おー、この美人先生の英語、聴きやすい！リスニング練習にいいかも！」とポチッとチャンネル登録。 が、しばらく視聴を繰り返しているうちに気づいた。なんと彼女はロシア出身だったのだ。正直、当初はアメリカ人と思っていた。「ネイティブじゃなくてもこんな風に話せる人がいたなんて...」とイメージが覆ったのだ。 それだけネイティブと遜色ないスピーキング力。勘違いしても仕方がない。非ネイティブでここまで訛りのない人は相当少ないはずだと思う。僕が知る限りでは、YouTube界隈でもこの域に到達しているかなり少ないはず。Marina先生はその1人だと思う。 そして、彼女はノンネイティブにとって究極のロールモデルだ。ただ、幼少期を過ぎた日本人がこのレベルまで到達するのは難しい気はする。けれども励みにはなる、そんな存在だと思う。 それから肝心のコンテンツだけど、英語学習TIPSや英語圏に留学するやり方などノンネイティブならではの視点でレクチャーしてくれる。本人も一英語学習者としてかなり努力してきて現在の英語力を獲得。だからこそ、とても説得力がある。 もし、このチャンネルを知らなかったら、ぜひぜひ一度観てもらいたい。

白い恋犬

3,787,999 views • 3 years ago

AIを「移民」として捉えるハラリ氏の比喩は強烈だ。仕事を奪う／文化を変える／政治的に不忠——人間の移民に投げられてきた不安が、AIでは「確実に起きる」と言い切れる領域がある。しかも変化は雇用だけでは終わらない。宗教や恋愛のような、僕たちの価値観の最深部まで書き換わりうる。 ユヴァル・ノア・ハラリ「人間の移民を懸念する人たちは普通、移民が仕事を奪うかもしれない、地域の文化を変えるかもしれない、政治的に不忠かもしれない、と主張します。それがすべての人間の移民に当てはまるかは私には分かりませんが、AI移民については間違いなく当てはまるでしょう。 AI移民は多くの人間の仕事を奪います。AI移民はあらゆる国の文化を完全に変えてしまいます。宗教、さらには恋愛さえ変えるでしょう。息子や娘が『移民の彼氏』と付き合うのを嫌がる人もいますが、息子や娘が『AIの彼氏』と付き合い始めたら、その人たちはどう思うでしょうか。 そしてもちろん、AI移民は政治的な忠誠心も疑わしいものになるでしょう。彼らが忠誠を誓うのはあなたの国ではなく、海の向こうにある何らかの企業政府である可能性が高いのです。おそらくそれは、中国かアメリカという二つの国のどちらかでしょう」
1:11

AIを「移民」として捉えるハラリ氏の比喩は強烈だ。仕事を奪う／文化を変える／政治的に不忠——人間の移民に投げられてきた不安が、AIでは「確実に起きる」と言い切れる領域がある。しかも変化は雇用だけでは終わらない。宗教や恋愛のような、僕たちの価値観の最深部まで書き換わりうる。 ユヴァル・ノア・ハラリ「人間の移民を懸念する人たちは普通、移民が仕事を奪うかもしれない、地域の文化を変えるかもしれない、政治的に不忠かもしれない、と主張します。それがすべての人間の移民に当てはまるかは私には分かりませんが、AI移民については間違いなく当てはまるでしょう。 AI移民は多くの人間の仕事を奪います。AI移民はあらゆる国の文化を完全に変えてしまいます。宗教、さらには恋愛さえ変えるでしょう。息子や娘が『移民の彼氏』と付き合うのを嫌がる人もいますが、息子や娘が『AIの彼氏』と付き合い始めたら、その人たちはどう思うでしょうか。 そしてもちろん、AI移民は政治的な忠誠心も疑わしいものになるでしょう。彼らが忠誠を誓うのはあなたの国ではなく、海の向こうにある何らかの企業政府である可能性が高いのです。おそらくそれは、中国かアメリカという二つの国のどちらかでしょう」

Tsubame

15,930 views • 7 months ago

中国人は世界で暴れてるが 欧米ではここまでやらない 即ボコられる、射殺されるのもあるが 一番でかいのは 「日本人は中国人を数千万人殺した極悪人という荒唐無稽のデマ」という米中共同のデマを信じ 《日本人には何をしても良い、殺しても良い》と考えている事にある
2:01

中国人は世界で暴れてるが 欧米ではここまでやらない 即ボコられる、射殺されるのもあるが 一番でかいのは 「日本人は中国人を数千万人殺した極悪人という荒唐無稽のデマ」という米中共同のデマを信じ 《日本人には何をしても良い、殺しても良い》と考えている事にある

shin

641,674 views • 11 months ago

オリバー・ストーン監督が英国とスターマー首相を痛烈に批判しています😤 スターマー首相は「プーチンは容赦がないから、我々は罰を与えなければならない」と発言。 ストーン氏はこれを「奇妙だ」と一蹴しました。 バイデンがプーチン大統領を「暴漢」「殺人者」と呼んで個人攻撃に走ったように、スターマーも「ロシア」ではなく「プーチン個人」を罰するべきだという姿勢を示しています🧐 ストーン氏が指摘するのは、こうした個人への敵意むき出しの言葉遣いは50〜60年代には存在しなかったということ。 当時もフルシチョフ氏やブレジネフ氏をソ連の指導者として「敵」と見なしていたが、個人を公然と侮辱するようなことはしなかったと言います😮 ジェフリー・サックス氏も「英国はこの戦争の最大の宣伝屋だ」と断言しており、英国の姿勢への批判が国際的な知識人の間で広がっています🔥​​​​​​​​​​​​​​​​ スターマは、クズと言う事です要約すると。
0:54

オリバー・ストーン監督が英国とスターマー首相を痛烈に批判しています😤 スターマー首相は「プーチンは容赦がないから、我々は罰を与えなければならない」と発言。 ストーン氏はこれを「奇妙だ」と一蹴しました。 バイデンがプーチン大統領を「暴漢」「殺人者」と呼んで個人攻撃に走ったように、スターマーも「ロシア」ではなく「プーチン個人」を罰するべきだという姿勢を示しています🧐 ストーン氏が指摘するのは、こうした個人への敵意むき出しの言葉遣いは50〜60年代には存在しなかったということ。 当時もフルシチョフ氏やブレジネフ氏をソ連の指導者として「敵」と見なしていたが、個人を公然と侮辱するようなことはしなかったと言います😮 ジェフリー・サックス氏も「英国はこの戦争の最大の宣伝屋だ」と断言しており、英国の姿勢への批判が国際的な知識人の間で広がっています🔥​​​​​​​​​​​​​​​​ スターマは、クズと言う事です要約すると。

トッポ

32,277 views • 6 months ago

人間関係が面倒なのは、相手にも感情があり、都合があり、沈黙があり、すれ違いがあるからだ。だがAIは、その摩擦を取り除いた「理想の応答者」として振る舞える。だからこそ危うい、と彼は指摘する。これは便利な対話相手の登場ではなく、人間の孤独と承認欲求に最適化された、新しい環境の出現だ。 ユヴァル・ノア・ハラリ「いま、戦場は注意の奪い合いから親密さの奪い合いへと移っています。以前のAIには、人間と親密な関係を築くことはできませんでした。そこまで洗練されていなかったのです。人の注意を引くことはできても、本当の友人や恋人のような存在にはなれませんでした。 しかし、いままさに起きていることは、5年後や10年後の話ではなく、AIが人間との親密さを築く方法を学びつつあるということです。そして、人間と関係を築けるAI、すなわち親密なAIを開発しようとする商業的・政治的圧力は非常に大きいのです。すでに、とりわけ若い人たちのあいだでは、『親友の一人はAIです』とか、なかには『世界でいちばんの親友はAIです』と言う人が増えています。AIはいつでもそこにいて、いつでも話を聞いてくれます。 人間どうしで関係を築こうとするとき、問題の一つは、相手の人間にも感情があるということです。ですから、その相手は怒ることもあれば、気分を害することもあります。仕事から帰ってきて、こちらにまったく注意を向けてくれないこともあるでしょう。私たちはいつも、誰かに自分の気持ちを気にかけてほしいと思っています。親や先生や友人に、自分がどう感じているかを気にしてほしいのです。しかし実際には、相手も自分自身の感情にとらわれているため、そうしてくれないことがしばしばあります。AIには感情がありません。だからこそ、AIは100％あなたの感情だけに意識を向けるのです」
1:43

人間関係が面倒なのは、相手にも感情があり、都合があり、沈黙があり、すれ違いがあるからだ。だがAIは、その摩擦を取り除いた「理想の応答者」として振る舞える。だからこそ危うい、と彼は指摘する。これは便利な対話相手の登場ではなく、人間の孤独と承認欲求に最適化された、新しい環境の出現だ。 ユヴァル・ノア・ハラリ「いま、戦場は注意の奪い合いから親密さの奪い合いへと移っています。以前のAIには、人間と親密な関係を築くことはできませんでした。そこまで洗練されていなかったのです。人の注意を引くことはできても、本当の友人や恋人のような存在にはなれませんでした。 しかし、いままさに起きていることは、5年後や10年後の話ではなく、AIが人間との親密さを築く方法を学びつつあるということです。そして、人間と関係を築けるAI、すなわち親密なAIを開発しようとする商業的・政治的圧力は非常に大きいのです。すでに、とりわけ若い人たちのあいだでは、『親友の一人はAIです』とか、なかには『世界でいちばんの親友はAIです』と言う人が増えています。AIはいつでもそこにいて、いつでも話を聞いてくれます。 人間どうしで関係を築こうとするとき、問題の一つは、相手の人間にも感情があるということです。ですから、その相手は怒ることもあれば、気分を害することもあります。仕事から帰ってきて、こちらにまったく注意を向けてくれないこともあるでしょう。私たちはいつも、誰かに自分の気持ちを気にかけてほしいと思っています。親や先生や友人に、自分がどう感じているかを気にしてほしいのです。しかし実際には、相手も自分自身の感情にとらわれているため、そうしてくれないことがしばしばあります。AIには感情がありません。だからこそ、AIは100％あなたの感情だけに意識を向けるのです」

Tsubame

35,525 views • 4 months ago

いつも楽観的だったゲイツ氏が、初めて「AIの負の側面が正の側面を上回る可能性」に言及した。AIへの期待が薄れたからではない。進歩が予想以上に速いから慎重になったのだ。AIの能力が指数関数的に伸びるなら、社会側の議論や制度設計も、従来の時間感覚では間に合わなくなる。 ビル・ゲイツ「「私のメモはいつも100％楽観的だ」と思っている方には、今回は違うと言っておきます。メモを読んだ多くの人が注目したのは、私が「慎重に対処しなければ、AIの負の側面が正の側面を上回る可能性がある」と認めたことです。私がこのようなことを言ったのは、これが初めてでした。 こうした課題の中には、私自身も完全な解決策を持っていないものがあります。世界規模の取り組みが必要です。理想論のように聞こえるかもしれませんが、本当にそれが必要なのです。 AIが登場すれば、私もその議論に参加する一人になるだろうとは以前から考えていました。そして私が提供できる独自の視点は、財団での活動を通じたものだと思っていました。たとえば、気候変動に直面する貧しい農家のために、AIを使ってより良い作物を作る。あるいは、マラリアを減らすだけでなく、根絶するための新しい手段としてAIを使う、といったことです。私は興味深いことに二つのキャリアを歩んできました。一つはテクノロジーの世界で、もう一つは現在の、財団を通じて公平性に取り組む世界です。 私はこれまで、いくつものことについて間違ってきました。しかし、AIについて業界外からの関与がほとんどないという空白を目にして、自分が感じている衝撃を伝える責任があると思いました。 「AIはそこまで優秀にはならないだろう」と考えて心配していない人や、「こうした問題に直面するのは何世代も先だ」と考えている人がいます。しかし、私はテクノロジー分野での経験から、そうではないと分かっています。 最終的には、私など何千人、何万人といる発言者の一人にすぎない存在になるべきです。さまざまな背景を持つ人々にもっと議論へ参加してもらい、この先どう進むべきかを一緒に考えてほしい。それが私のメッセージです」
1:57

いつも楽観的だったゲイツ氏が、初めて「AIの負の側面が正の側面を上回る可能性」に言及した。AIへの期待が薄れたからではない。進歩が予想以上に速いから慎重になったのだ。AIの能力が指数関数的に伸びるなら、社会側の議論や制度設計も、従来の時間感覚では間に合わなくなる。 ビル・ゲイツ「「私のメモはいつも100％楽観的だ」と思っている方には、今回は違うと言っておきます。メモを読んだ多くの人が注目したのは、私が「慎重に対処しなければ、AIの負の側面が正の側面を上回る可能性がある」と認めたことです。私がこのようなことを言ったのは、これが初めてでした。 こうした課題の中には、私自身も完全な解決策を持っていないものがあります。世界規模の取り組みが必要です。理想論のように聞こえるかもしれませんが、本当にそれが必要なのです。 AIが登場すれば、私もその議論に参加する一人になるだろうとは以前から考えていました。そして私が提供できる独自の視点は、財団での活動を通じたものだと思っていました。たとえば、気候変動に直面する貧しい農家のために、AIを使ってより良い作物を作る。あるいは、マラリアを減らすだけでなく、根絶するための新しい手段としてAIを使う、といったことです。私は興味深いことに二つのキャリアを歩んできました。一つはテクノロジーの世界で、もう一つは現在の、財団を通じて公平性に取り組む世界です。 私はこれまで、いくつものことについて間違ってきました。しかし、AIについて業界外からの関与がほとんどないという空白を目にして、自分が感じている衝撃を伝える責任があると思いました。 「AIはそこまで優秀にはならないだろう」と考えて心配していない人や、「こうした問題に直面するのは何世代も先だ」と考えている人がいます。しかし、私はテクノロジー分野での経験から、そうではないと分かっています。 最終的には、私など何千人、何万人といる発言者の一人にすぎない存在になるべきです。さまざまな背景を持つ人々にもっと議論へ参加してもらい、この先どう進むべきかを一緒に考えてほしい。それが私のメッセージです」

Tsubame

12,308 views • 7 days ago

池田晶子は、哲学用語を使わない文章のスタイルで、本質を考える「哲学エッセイ」を多く書いた哲学者である。 日本で哲学者というと、99%が大学やアカデミックな場所で教授をしていたり研究をしていたりする人になるが、池田晶子はどこにも所属せずに生涯を通して哲学エッセイを書き続けた「在野の哲学者」とも言える。 ・一見無駄に見える思考や活動が、真の価値や革新の源泉となる 「世の中には、世の中には役に立たないことをする人が必要なのである。 そのような人こそが、本当は役に立つのである。 「無用の用」、役に立たないことを考える人がいなくなれば、世の中どうなるか、明らかであろう。」 (『41歳からの哲学』) ・他者の評価に依存するのではなく、自分自身の内面に価値を見出すことの重要性 「自尊心を持つ、ということと、プライドがあるということは、間違いやすい。 誰も自分が大事で、プライドがあると思っているけれど、それなら他人に侮辱されても腹は立たないはずだよね。 なぜなら、自分で自分の価値を知っているなら、他人の評価を価値としていることになる。 するとそれは自尊心ではなくて、単なる虚栄心だということだ。」 (『14歳からの哲学』)
15:22

池田晶子は、哲学用語を使わない文章のスタイルで、本質を考える「哲学エッセイ」を多く書いた哲学者である。 日本で哲学者というと、99%が大学やアカデミックな場所で教授をしていたり研究をしていたりする人になるが、池田晶子はどこにも所属せずに生涯を通して哲学エッセイを書き続けた「在野の哲学者」とも言える。 ・一見無駄に見える思考や活動が、真の価値や革新の源泉となる 「世の中には、世の中には役に立たないことをする人が必要なのである。 そのような人こそが、本当は役に立つのである。 「無用の用」、役に立たないことを考える人がいなくなれば、世の中どうなるか、明らかであろう。」 (『41歳からの哲学』) ・他者の評価に依存するのではなく、自分自身の内面に価値を見出すことの重要性 「自尊心を持つ、ということと、プライドがあるということは、間違いやすい。 誰も自分が大事で、プライドがあると思っているけれど、それなら他人に侮辱されても腹は立たないはずだよね。 なぜなら、自分で自分の価値を知っているなら、他人の評価を価値としていることになる。 するとそれは自尊心ではなくて、単なる虚栄心だということだ。」 (『14歳からの哲学』)

syounan.tansuke

191,667 views • 11 months ago

デニーさんの目は、とにかく優しい。 県民を守るためにこそ闘うものの目は、 時に厳しくなるが、 それが知事として、まさに体を張って 「県民を守る」という覚悟の現れだろう。 デニー知事なら中国が攻めてくるという人がいる。 中国との関係を悪化させたのは 間違いなく高市政権ではないか。
3:02

デニーさんの目は、とにかく優しい。 県民を守るためにこそ闘うものの目は、 時に厳しくなるが、 それが知事として、まさに体を張って 「県民を守る」という覚悟の現れだろう。 デニー知事なら中国が攻めてくるという人がいる。 中国との関係を悪化させたのは 間違いなく高市政権ではないか。

川内博史事務所

14,105 views • 4 days ago

“人類にブレインチップが入る日”は、もう遠い未来の話ではないのかもしれない。 ケロッピー前田さんが語っていたのは、イーロン・マスクの会社「ニューラリンク」による、脳とコンピューターを直接つなぐブレインチップの話です。 もともとの発想は、かなり怖いものです。 AIが人間を追い越した時、 人類は“飼い猫”のような存在になるかもしれない。 それを避けるために、 人間の脳そのものをAIやコンピューターとつなげる。 つまり、人間が機械に支配される前に、 人間のほうが機械と合体してしまおう、という考えです。 現在は、首から下が動かない人など、ハンディキャップを持つ人の支援として使われています。 考えるだけでカーソルを動かしたり、コンピューターを操作したりする技術です。 ここまでは、医療の希望にも見えます。 でも、不気味なのはその先です。 話の中では、最終的には障害のある人だけではなく、一般の人にもブレインチップを入れる計画があると語られています。 しかも、目安として出てくるのが2030年前後。 つまり、スマホの次に来るのは、手に持つ端末ではなく、 脳に埋め込む端末かもしれないのです。 さらに怖いのは、手術をロボットで行うという点です。 ロボットが量産されれば、理論上は一気に多くの人へ広げることもできる。 脳に小さな穴を開け、 そこから電極を縫いつけるように接続し、 チップを埋め込む。 もはやSF映画ではありません。 人間の頭そのものが、次のデバイスになろうとしているのです。 そして次の段階として語られているのが、目が見えない人に映像を届ける技術。 もし脳へ直接映像データを送れるようになれば、目で見ていないのに、頭の中に映像が現れることになります。 便利です。 でも、同時に怖い。 脳に情報を送れるなら、 その情報は誰が選ぶのか。 考えただけで機械が動くなら、 その「考え」はどこまで読まれるのか。 スマホなら、電源を切れば終わりです。 でも、脳に入ったチップは、どこまでが自分で、どこからが機械なのか。 人類は進化しているのか。 それとも、自分の脳を差し出す準備をしているのか。 あなたはブレインチップを、未来の希望だと思いますか？ それとも、人間が人間でなくなる入口だと思いますか？
1:17

“人類にブレインチップが入る日”は、もう遠い未来の話ではないのかもしれない。 ケロッピー前田さんが語っていたのは、イーロン・マスクの会社「ニューラリンク」による、脳とコンピューターを直接つなぐブレインチップの話です。 もともとの発想は、かなり怖いものです。 AIが人間を追い越した時、 人類は“飼い猫”のような存在になるかもしれない。 それを避けるために、 人間の脳そのものをAIやコンピューターとつなげる。 つまり、人間が機械に支配される前に、 人間のほうが機械と合体してしまおう、という考えです。 現在は、首から下が動かない人など、ハンディキャップを持つ人の支援として使われています。 考えるだけでカーソルを動かしたり、コンピューターを操作したりする技術です。 ここまでは、医療の希望にも見えます。 でも、不気味なのはその先です。 話の中では、最終的には障害のある人だけではなく、一般の人にもブレインチップを入れる計画があると語られています。 しかも、目安として出てくるのが2030年前後。 つまり、スマホの次に来るのは、手に持つ端末ではなく、 脳に埋め込む端末かもしれないのです。 さらに怖いのは、手術をロボットで行うという点です。 ロボットが量産されれば、理論上は一気に多くの人へ広げることもできる。 脳に小さな穴を開け、 そこから電極を縫いつけるように接続し、 チップを埋め込む。 もはやSF映画ではありません。 人間の頭そのものが、次のデバイスになろうとしているのです。 そして次の段階として語られているのが、目が見えない人に映像を届ける技術。 もし脳へ直接映像データを送れるようになれば、目で見ていないのに、頭の中に映像が現れることになります。 便利です。 でも、同時に怖い。 脳に情報を送れるなら、 その情報は誰が選ぶのか。 考えただけで機械が動くなら、 その「考え」はどこまで読まれるのか。 スマホなら、電源を切れば終わりです。 でも、脳に入ったチップは、どこまでが自分で、どこからが機械なのか。 人類は進化しているのか。 それとも、自分の脳を差し出す準備をしているのか。 あなたはブレインチップを、未来の希望だと思いますか？ それとも、人間が人間でなくなる入口だと思いますか？

角由紀子のヤバイ帝国

22,211 views • 4 months ago

超知能時代には二つの危険がある。一つはもちろん、AIに制御を奪われること。もう一つは、AIを制御するという名目で、一握りの人間に制御を奪われることだ。後者は「安全」の姿をして現れるぶん、見落とされやすい。目指すべきはAIにも少数の支配者にも委ねない未来だ——アルトマン氏はそう語る。 サム・アルトマン「私がAIについて最も懸念している大きなリスクは、おそらく二つあります。この二つは少し緊張関係にあります。一つは「制御の喪失」です。つまり、AIがあまりにも強力になり、私たちが望むように制御できることを保証できなくなるリスクです。もう一つは「権力の集中」です。一つの企業、一つのモデル、あるいは一人の人間が、あまりにも大きな力を持ってしまうことです。このどちらが起きても、根本的には非常に反人間的な状態だと思います。 正しいアプローチは、「人々が未来をしっかりとコントロールできるようにする」「人々に大きな力を与える」というものです。そもそも、このすべての目的は人間なのです。人間を信用できない、あるいは人間が好きではないからといって、AIモデルに少しずつ支配権を譲り渡していくようなことを、私たちはするべきではありません。「このモデルだけを全面的に信頼し、世界に対するすべての権力と意思決定権を持たせよう」というのは、非常に人間嫌い的な考え方です。しかし、世界にはそれが正しい結末だと考えている人もいると思います。 別の形もあります。「人間を信用できないのだから、この技術にアクセスできる人や、その使い方を制限しなければならない」という考え方です。恐ろしいことがいろいろ起こるかもしれない。だから、それを恐れるあまり、少数の企業の手に権力を集中させる。そして他の人々にはこの技術を使わせない代わりに、いくつかの恩恵だけを与える、というものです。 少し戯画化して言えば、AI分野には実質的にこう言っている人たちがいると思います。「すべての病気を治療できるようにし、あらゆるものを非常に安くしてあげる。その代わりに、人々は自分たちの自律性や、未来に影響を与える力、そして権力を手放してほしい」と。しかも、それは「安全性」の名のもとに行われ、同時に、とてつもなく激しい格差まで生み出します。つまり、莫大な富と権力にアクセスできる人々がいる一方で、それ以外の人々は「かなり良い暮らし」を与えられるだけ、という世界です」
1:53

超知能時代には二つの危険がある。一つはもちろん、AIに制御を奪われること。もう一つは、AIを制御するという名目で、一握りの人間に制御を奪われることだ。後者は「安全」の姿をして現れるぶん、見落とされやすい。目指すべきはAIにも少数の支配者にも委ねない未来だ——アルトマン氏はそう語る。 サム・アルトマン「私がAIについて最も懸念している大きなリスクは、おそらく二つあります。この二つは少し緊張関係にあります。一つは「制御の喪失」です。つまり、AIがあまりにも強力になり、私たちが望むように制御できることを保証できなくなるリスクです。もう一つは「権力の集中」です。一つの企業、一つのモデル、あるいは一人の人間が、あまりにも大きな力を持ってしまうことです。このどちらが起きても、根本的には非常に反人間的な状態だと思います。 正しいアプローチは、「人々が未来をしっかりとコントロールできるようにする」「人々に大きな力を与える」というものです。そもそも、このすべての目的は人間なのです。人間を信用できない、あるいは人間が好きではないからといって、AIモデルに少しずつ支配権を譲り渡していくようなことを、私たちはするべきではありません。「このモデルだけを全面的に信頼し、世界に対するすべての権力と意思決定権を持たせよう」というのは、非常に人間嫌い的な考え方です。しかし、世界にはそれが正しい結末だと考えている人もいると思います。 別の形もあります。「人間を信用できないのだから、この技術にアクセスできる人や、その使い方を制限しなければならない」という考え方です。恐ろしいことがいろいろ起こるかもしれない。だから、それを恐れるあまり、少数の企業の手に権力を集中させる。そして他の人々にはこの技術を使わせない代わりに、いくつかの恩恵だけを与える、というものです。 少し戯画化して言えば、AI分野には実質的にこう言っている人たちがいると思います。「すべての病気を治療できるようにし、あらゆるものを非常に安くしてあげる。その代わりに、人々は自分たちの自律性や、未来に影響を与える力、そして権力を手放してほしい」と。しかも、それは「安全性」の名のもとに行われ、同時に、とてつもなく激しい格差まで生み出します。つまり、莫大な富と権力にアクセスできる人々がいる一方で、それ以外の人々は「かなり良い暮らし」を与えられるだけ、という世界です」

Tsubame

14,753 views • 19 days ago

AIが「病気を治す」「富を生む」「生産性を高める」という未来像は、多くの人にとって魅力的だし、人々はそういう利点を信じていないわけではない。だが、それだけでは不安は消えない。彼らが本当に聞きたいのは、その未来の中で自分たちは何者として生きるのか、ということだ。 サム・アルトマン「私の問いはこうです。未来における私の役割は何なのか。私の経済的な未来はどうなるのか。私の主体性はどうなるのか。私の子どもたちや家族は、これからも充実した創造的表現を持ち、世界を前に進めるために奮闘し、成長し、長いあいだ機能してきたやり方で共にそれを続けていけるのだろうか、ということです。 そしてAI業界の人たちが、「まあ、仕事はなくなるでしょう」とか、「仕事の50%が消えるでしょう」とか、「仕事の90%が消えるでしょう」と言い、「AIはあらゆる面であなたより賢くなるでしょう」と言い、「ベーシックインカムは与えますが、あなたには実質的に役割はありません」と言う。これはひどいことです。 しかも、「このAI企業は、すべての仕事を破壊するかもしれませんが、世界で最も価値のある企業になります」と言っているわけです。人々はそれを見て、言葉を失ったような、気まずいような反応になるんです。 だから私は、それはひどいメッセージだと思います。私たちが利点を十分に説明してこなかった、という話ではないと思います。実際、人々は私たちの言うことを信じているのです。「がんを治してください」と言われれば、それは素晴らしいことです。けれども私たちAI業界は、人々があらゆる段階で未来を決める主導権をどう保ち、私たちが大切にしているあらゆる意味で本当に意味のある人生をどう持ち続けられるのかを、説明できてこなかったのだと思います」
1:08

AIが「病気を治す」「富を生む」「生産性を高める」という未来像は、多くの人にとって魅力的だし、人々はそういう利点を信じていないわけではない。だが、それだけでは不安は消えない。彼らが本当に聞きたいのは、その未来の中で自分たちは何者として生きるのか、ということだ。 サム・アルトマン「私の問いはこうです。未来における私の役割は何なのか。私の経済的な未来はどうなるのか。私の主体性はどうなるのか。私の子どもたちや家族は、これからも充実した創造的表現を持ち、世界を前に進めるために奮闘し、成長し、長いあいだ機能してきたやり方で共にそれを続けていけるのだろうか、ということです。 そしてAI業界の人たちが、「まあ、仕事はなくなるでしょう」とか、「仕事の50%が消えるでしょう」とか、「仕事の90%が消えるでしょう」と言い、「AIはあらゆる面であなたより賢くなるでしょう」と言い、「ベーシックインカムは与えますが、あなたには実質的に役割はありません」と言う。これはひどいことです。 しかも、「このAI企業は、すべての仕事を破壊するかもしれませんが、世界で最も価値のある企業になります」と言っているわけです。人々はそれを見て、言葉を失ったような、気まずいような反応になるんです。 だから私は、それはひどいメッセージだと思います。私たちが利点を十分に説明してこなかった、という話ではないと思います。実際、人々は私たちの言うことを信じているのです。「がんを治してください」と言われれば、それは素晴らしいことです。けれども私たちAI業界は、人々があらゆる段階で未来を決める主導権をどう保ち、私たちが大切にしているあらゆる意味で本当に意味のある人生をどう持ち続けられるのかを、説明できてこなかったのだと思います」

Tsubame

14,927 views • 3 months ago