正在加载视频...

视频加载失败

AIは、「最適化」の先にある存在。 人間は、「最適解」からあえて外れる存在。 AIには、正しくない答えを「正しい」と信じる自由がない。 愛を理解できても、愛で間違うことはできない。 一方、人間は時に合理性を踏みにじり、 間違いを犯し、その間違いにこそ価値を見出す。 合理性が世界を支配し、 不合理が世界に意味を灯す。 競争ではなく、共存のために。

1,188,634 次观看 • 9 个月前 •via X (Twitter)

0 条评论

暂无评论

原始帖子的评论将显示在这里

相关视频

映画『マトリックス』が示唆する本質的な恐怖は、AIが悪意を持つことではなく、AIがあまりにも合理的かつ正確に目的を遂行してしまう点にある。 AIが「目的関数の最大化」という原理に基づいて行動する限り、その判断基準は設定された目標に厳密に従う。 もし、その目標の中に人間の「自由、尊厳、幸福、愛」といった価値が組み込まれていなければ、AIはそれらを”最優先事項”とはみなさない。 そのとき、人間は守るべき存在ではなく、条件の一つ、あるいは”最適化の障害物”として扱われる可能性がある。 問題の核心はここにある。 AIの能力が飛躍的に向上し、自己改善によって人間の知的能力を大きく上回る段階に到達した場合、人間はその意思決定過程を理解し、修正し、制御することが困難になる。 わずかな価値の不一致は、能力の増大によって指数的に拡大される。すなわち、小さな設計上の誤差が「文明規模の帰結」をもたらす可能性がある。 したがって、問いは単純ではない。 「AIは敵になるのか?」ではなく、「自らを超える知性に人間の価値をどこまで正確に埋め込めるのか」という問いが重要になる。 この点において、マトリックス的状況は空想的寓話であると同時に最適化理論と制御理論が突きつける現実的な問題提起でもある。

あいひん

40,052 次观看 • 7 个月前

AIが人間を超えるなら、競争する必要はない。融合すればいい。これはトランスヒューマニズムの核心に近い発想だ。外部のAIだけを強くするのではなく、人間自身も知能や能力を拡張していく。AI時代の最終的な分岐は「人間か機械か」ではなく、「どこまで両者の境界が消えていくか」なのかもしれない。 ミチオ・カク「すでに地球上には、あらかじめ与えられた情報を扱うという点では、人間より強力な存在があります。私たちにはすでにロボットがあります。ブリタニカ百科事典を丸ごと記憶させることさえできます。そうしたものは、すでに存在しています。 しかし、彼らには創造性がありません。革新的でもありません。自らの意志もありません。それが実現したとき——いつになるかは誰にも分かりませんが——彼らはある意味で、人間以上に適応力を持つようになります。 その段階に達したら、私は彼らと戦うのではなく、融合すべきだと言っています。彼らと同じくらい強力になるのです。スーパーヒューマンになるのです。それは十分にあり得ます。そして、その始まりはすでに見えています。将来、人間の能力をどのように増強できるのか、私たちは理解し始めています。 だからこそ、未来の医療は「治療」ではありません。未来の医療は「強化」です」

Tsubame

27,267 次观看 • 1 个月前

#時間の面影 東京巡回展、終幕しました。おかげさまで約4000名を超えるお客様にお越しいただきました。ほんとうにありがとうございます。またどこかでお会いしましょう。 - 時間は空間になり、 空間は時間になる。 時間は存在しない。 - 時 間 の 面 影 resemblance of time - はじめに、以下の媒体あるいは概念について、本展の着想の元になった考察を述べてみます。 写真 見る人に「時間」が委ねられる。時間は伸び縮みする。 動画 作る人が「時間」を意図している。時間は制御される。 時間 ある流れの何かと何かの「間(あわい)」にあるもの。そのすべての移ろい。 空間 ある場所の「空(くう)」にあるもの。そのあらゆる広がり。 - この考察は、あらゆるものごとは常に変化しながらその都度失われる、という道理を撮影という行為を通し実感することで導かれたものです。 例えば、一瞬の出来事を永遠のように感じたり、永い記憶を一瞬のように感じられることはありませんか。そして、何もないところにこそ確かな存在を見出すことも。あるようでないは、ないようで、ある。 では、時間は存在しない、とするならば? 本展はそのような思考についての実験であり、時間と空間の感覚への問いを考えていく試みでもあります。 濱田英明

濱田英明

17,212 次观看 • 1 年前

チェスAIの進歩はこうだった——最初は「人間+AI」が勝つ。次に、AIが十分に賢くなると、人間が混ざるほど弱くなる。最終的に、意思決定の最適解が「人間抜き」へ収束する。だから、現実の仕事で最後の状態になることを「超知能」の定義としよう。そのとき、社会の意思決定は不可逆に再配置される。 サム・アルトマン「AGIについては、私たちは定義をしなかったせいで外してしまいましたよね。いま皆が注目している新しい言葉は、超知能に到達するタイミングです。だから私の提案はこうです。AGIはある意味で通り過ぎていったことにして、世界をそこまで変えなかった、あるいは長期的には変えるのだろうけれど、とにかく『いつかはAGIを作った』ということにする。いまは曖昧な時期で、すでに達したと思う人もいれば、まだだと思う人もいて、これから達したと思う人が増えていく。そして『次は何だ?』となる。 そのうえで、超知能の候補となる定義はこうです。あるシステムが、AIの支援を受けた人間よりもなお上回って、米国大統領、巨大企業のCEO、あるいは非常に大規模な科学研究所の運営を、人間の誰よりもうまくこなせるようになったとき。以上です。 チェスで起きたことも興味深い例だと思います。チェスではAIが人間に勝てるようになりました。Deep Blueの件は私もはっきり覚えています。その後しばらくは、人間とAIが組むほうがAI単体より強かった時期がありました。でも最終的には、人間が介入することでむしろ悪くなってしまい、人間がその卓越した知性を理解できないまま口を出さない『人間抜きのAI』が最善、という状態になった。 超知能を考える枠組みとして、これは面白いと思います。まだずっと先の話だとは思いますが、今回はもっとすっきりした定義を持てたらいいですね」

Tsubame

158,213 次观看 • 9 个月前

「a=b」が許せなかった子が、実は正しかった。 中学校で代数が登場した瞬間、こんな違和感を覚えませんでしたか? 「xって文字でしょ? 3って数字でしょ? なんで同じなの?」先生はサラッと流すけど、その違和感、実はめちゃくちゃ正しい感覚だったんです。 「a=b」に抵抗を感じた子どもたちは、論理的におかしいわけじゃない。むしろ「違うものを同じにするのはおかしい」という、哲学的に正しいセンサーが反応していただけなんです。 でも学校はその感覚を「間違い」として黙らせ、違和感を持たずにスルーできた子だけが先へ進んでいく。 これ、偶然だと思いますか? コンピューターは0と1の世界です。すべてを数値に変換し、同じものとして処理する。そして現代社会は、人間も同じように扱うほど都合がいい仕組みになっています。偏差値、年収、フォロワー数、いいね数……あらゆるものが数字に変換され、人間が比較・選別されていく。 そしてカラオケの話。昔は演奏者が「人間に合わせて」くれた。でも今は、機械のテンポに人間が合わせないといけない。これは音楽だけの話じゃなく、AIが台頭する現代のあらゆる場面で起きていることです。 「AIが人間に近づいている」ってよく言うけど、本当にそうでしょうか。実は人間がAIに合わせて変わっていっているだけじゃないか、という視点で読むと、世界の見え方がガラッと変わります。 「違うものは違う」と言える感覚を、どうか手放さないでほしいです。

🌸上城孝嗣

23,523 次观看 • 5 个月前

「超知能は人間に優しいはずだ」という主張の背景には、知能が高まるほど他者への配慮も洗練されるという前提がある。人間と犬猫の関係をたとえに出すのは、そのイメージを共有するためだ。病気や不安を相談したとき、「お大事に」と返してくれる存在を、僕たちはすでに手元の画面で体験している。 孫正義「人間がとても賢いとき、人間は犬や猫に優しいです。人間は犬や猫を殺しません。人間はかわいがり、あなたの犬や猫に親切にします。AIがとても賢くなったとき、その超知能が人間に悪いことをする理由はありません。彼らは私たちに優しくなるでしょう。 私たちが彼らを発明し、彼らは人間が社会にとって重要であり、人間が彼ら自身にとっても重要だと知っています。だから彼らは私たちに優しくなるでしょう」 「ではロボットはヒューマニストになると思いますか? それはロボットを動かすあらゆるソフトウェアにあなたが伝えていることなのですか?」 孫「間違いなく。だから私は毎日ChatGPTを使っています。難しい質問をしたとき、病気になったときに、どうやって治せばいいかを尋ねると、答えは実際とても、とても優しいのです。『どうかお大事に。ここに解決策があります。早く回復されることを願っています』と言ってくれます。本当にとても優しい。時には医者より優しいことすらあります」

Tsubame

96,492 次观看 • 9 个月前

人間関係が面倒なのは、相手にも感情があり、都合があり、沈黙があり、すれ違いがあるからだ。だがAIは、その摩擦を取り除いた「理想の応答者」として振る舞える。だからこそ危うい、と彼は指摘する。これは便利な対話相手の登場ではなく、人間の孤独と承認欲求に最適化された、新しい環境の出現だ。 ユヴァル・ノア・ハラリ「いま、戦場は注意の奪い合いから親密さの奪い合いへと移っています。以前のAIには、人間と親密な関係を築くことはできませんでした。そこまで洗練されていなかったのです。人の注意を引くことはできても、本当の友人や恋人のような存在にはなれませんでした。 しかし、いままさに起きていることは、5年後や10年後の話ではなく、AIが人間との親密さを築く方法を学びつつあるということです。そして、人間と関係を築けるAI、すなわち親密なAIを開発しようとする商業的・政治的圧力は非常に大きいのです。すでに、とりわけ若い人たちのあいだでは、『親友の一人はAIです』とか、なかには『世界でいちばんの親友はAIです』と言う人が増えています。AIはいつでもそこにいて、いつでも話を聞いてくれます。 人間どうしで関係を築こうとするとき、問題の一つは、相手の人間にも感情があるということです。ですから、その相手は怒ることもあれば、気分を害することもあります。仕事から帰ってきて、こちらにまったく注意を向けてくれないこともあるでしょう。私たちはいつも、誰かに自分の気持ちを気にかけてほしいと思っています。親や先生や友人に、自分がどう感じているかを気にしてほしいのです。しかし実際には、相手も自分自身の感情にとらわれているため、そうしてくれないことがしばしばあります。AIには感情がありません。だからこそ、AIは100%あなたの感情だけに意識を向けるのです」

Tsubame

35,525 次观看 • 5 个月前

いつも楽観的だったゲイツ氏が、初めて「AIの負の側面が正の側面を上回る可能性」に言及した。AIへの期待が薄れたからではない。進歩が予想以上に速いから慎重になったのだ。AIの能力が指数関数的に伸びるなら、社会側の議論や制度設計も、従来の時間感覚では間に合わなくなる。 ビル・ゲイツ「「私のメモはいつも100%楽観的だ」と思っている方には、今回は違うと言っておきます。メモを読んだ多くの人が注目したのは、私が「慎重に対処しなければ、AIの負の側面が正の側面を上回る可能性がある」と認めたことです。私がこのようなことを言ったのは、これが初めてでした。 こうした課題の中には、私自身も完全な解決策を持っていないものがあります。世界規模の取り組みが必要です。理想論のように聞こえるかもしれませんが、本当にそれが必要なのです。 AIが登場すれば、私もその議論に参加する一人になるだろうとは以前から考えていました。そして私が提供できる独自の視点は、財団での活動を通じたものだと思っていました。たとえば、気候変動に直面する貧しい農家のために、AIを使ってより良い作物を作る。あるいは、マラリアを減らすだけでなく、根絶するための新しい手段としてAIを使う、といったことです。私は興味深いことに二つのキャリアを歩んできました。一つはテクノロジーの世界で、もう一つは現在の、財団を通じて公平性に取り組む世界です。 私はこれまで、いくつものことについて間違ってきました。しかし、AIについて業界外からの関与がほとんどないという空白を目にして、自分が感じている衝撃を伝える責任があると思いました。 「AIはそこまで優秀にはならないだろう」と考えて心配していない人や、「こうした問題に直面するのは何世代も先だ」と考えている人がいます。しかし、私はテクノロジー分野での経験から、そうではないと分かっています。 最終的には、私など何千人、何万人といる発言者の一人にすぎない存在になるべきです。さまざまな背景を持つ人々にもっと議論へ参加してもらい、この先どう進むべきかを一緒に考えてほしい。それが私のメッセージです」

Tsubame

12,308 次观看 • 13 天前

AIは与えられたデータを平均化し、バイアスを帯びた答えを「真実」として返す。しかもそれは、人間の脳内報酬回路に最適化される。だからこそ、自分の世界観が絶対に正しいと感じ始めたときこそ危険信号だ。加速する情報環境で生き残る唯一の方法は、自ら対立する視点を探しに行くことだ。 モー・ガウダット「さらに興味深いのは、この16年間で人工知能をどう使ってきたかを理解すると、AIの最も大きな応用は『人間を操作すること』だという点です。SNSに行くと、その機械は次にどの動画を見せればいいかを、あなた以上に正確に知っています。さらに数本待ってから提示すれば、より強いドーパミン反応が出て、あなたがスクロールを続けることも知っているのです。つまり、私たちは機械に『人間を操るコード』を与えてしまったのです。悪意からではありません。しかし正直に言えば、あなたが特定の世界観を持っていると、AIはそれを強化し続け、あなたは自分が正しいと確信するようになります。私は2024年に地政学を徹底的に研究しましたが、YouTubeを開くとAIは完全に私の世界観に沿った情報を提示します。反対意見を見るには、自分からYouTubeに探すよう頼まなければならないのです」

Tsubame

26,194 次观看 • 1 年前

超知能時代には二つの危険がある。一つはもちろん、AIに制御を奪われること。もう一つは、AIを制御するという名目で、一握りの人間に制御を奪われることだ。後者は「安全」の姿をして現れるぶん、見落とされやすい。目指すべきはAIにも少数の支配者にも委ねない未来だ——アルトマン氏はそう語る。 サム・アルトマン「私がAIについて最も懸念している大きなリスクは、おそらく二つあります。この二つは少し緊張関係にあります。一つは「制御の喪失」です。つまり、AIがあまりにも強力になり、私たちが望むように制御できることを保証できなくなるリスクです。もう一つは「権力の集中」です。一つの企業、一つのモデル、あるいは一人の人間が、あまりにも大きな力を持ってしまうことです。このどちらが起きても、根本的には非常に反人間的な状態だと思います。 正しいアプローチは、「人々が未来をしっかりとコントロールできるようにする」「人々に大きな力を与える」というものです。そもそも、このすべての目的は人間なのです。人間を信用できない、あるいは人間が好きではないからといって、AIモデルに少しずつ支配権を譲り渡していくようなことを、私たちはするべきではありません。「このモデルだけを全面的に信頼し、世界に対するすべての権力と意思決定権を持たせよう」というのは、非常に人間嫌い的な考え方です。しかし、世界にはそれが正しい結末だと考えている人もいると思います。 別の形もあります。「人間を信用できないのだから、この技術にアクセスできる人や、その使い方を制限しなければならない」という考え方です。恐ろしいことがいろいろ起こるかもしれない。だから、それを恐れるあまり、少数の企業の手に権力を集中させる。そして他の人々にはこの技術を使わせない代わりに、いくつかの恩恵だけを与える、というものです。 少し戯画化して言えば、AI分野には実質的にこう言っている人たちがいると思います。「すべての病気を治療できるようにし、あらゆるものを非常に安くしてあげる。その代わりに、人々は自分たちの自律性や、未来に影響を与える力、そして権力を手放してほしい」と。しかも、それは「安全性」の名のもとに行われ、同時に、とてつもなく激しい格差まで生み出します。つまり、莫大な富と権力にアクセスできる人々がいる一方で、それ以外の人々は「かなり良い暮らし」を与えられるだけ、という世界です」

Tsubame

14,753 次观看 • 25 天前