Video yükleniyor...

Video Yüklenemedi

Ana Sayfaya Dön

イーロン・マスク: 『人間はもうすぐAIにコントロールされる』 AI知能 > 全人類の知能 完全にディストピア感あるけど 『賢いヤツが偉い』っていう価値基準ならAIが1番賢くて1番間違えないのなら 人間が意思決定するのは確かに矛盾してる

55,548 görüntüleme • 8 ay önce •via X (Twitter)

0 Yorum

Yorum bulunmuyor

Orijinal gönderinin yorumları burada görünecek

Benzer Videolar

チェスAIの進歩はこうだった——最初は「人間+AI」が勝つ。次に、AIが十分に賢くなると、人間が混ざるほど弱くなる。最終的に、意思決定の最適解が「人間抜き」へ収束する。だから、現実の仕事で最後の状態になることを「超知能」の定義としよう。そのとき、社会の意思決定は不可逆に再配置される。 サム・アルトマン「AGIについては、私たちは定義をしなかったせいで外してしまいましたよね。いま皆が注目している新しい言葉は、超知能に到達するタイミングです。だから私の提案はこうです。AGIはある意味で通り過ぎていったことにして、世界をそこまで変えなかった、あるいは長期的には変えるのだろうけれど、とにかく『いつかはAGIを作った』ということにする。いまは曖昧な時期で、すでに達したと思う人もいれば、まだだと思う人もいて、これから達したと思う人が増えていく。そして『次は何だ?』となる。 そのうえで、超知能の候補となる定義はこうです。あるシステムが、AIの支援を受けた人間よりもなお上回って、米国大統領、巨大企業のCEO、あるいは非常に大規模な科学研究所の運営を、人間の誰よりもうまくこなせるようになったとき。以上です。 チェスで起きたことも興味深い例だと思います。チェスではAIが人間に勝てるようになりました。Deep Blueの件は私もはっきり覚えています。その後しばらくは、人間とAIが組むほうがAI単体より強かった時期がありました。でも最終的には、人間が介入することでむしろ悪くなってしまい、人間がその卓越した知性を理解できないまま口を出さない『人間抜きのAI』が最善、という状態になった。 超知能を考える枠組みとして、これは面白いと思います。まだずっと先の話だとは思いますが、今回はもっとすっきりした定義を持てたらいいですね」

Tsubame

158,213 görüntüleme • 7 ay önce

すでに人間は共感力でAIに負けているが、人々はAIだと知らされると評価を下げてしまうという話。あなたはAIの優しさを受け入れますか。 アダム・グラント「私がこれまで読んだ中で特に興味深い実験があります。それは、テキストでの会話をしているとき、相手が人間かChatGPTかわからない状態で、 その後に『どれだけ自分のことを理解してもらえたか』『どれだけ話を聞いてもらえたか』『どのくらい共感やサポートを得られたか』を尋ねると、実は人間よりもAIからの共感やサポートの方が多く感じられるという結果が出ているものです。ただし、AIだと事前に知らされると、途端に評価は下がります。心理学者としてこの実験結果を見て、私はいくつか感じることがあります。一つは、AIが特別に共感能力に優れているというよりも、人間の共感能力がそもそも低いという可能性です。我々人間はしばしば『会話的ナルシシズム』に陥り、誰かが問題を語ったときに相手に寄り添うよりも、自分自身の経験に関連づけてしまう傾向があります。つまり、この結果は人間の共感力のベースラインが低いということを示している可能性があります。一方で、AIだと分かれば拒絶感が生まれるというこの反応も、AIをより人間的に、擬人化するにつれて、どのくらい長く続くのだろうかと疑問にも思います」 アルトマン「まず、一般的な概念として、人はAIが生み出したものを、AIだと知らされない間はむしろ好む傾向があり、AIだと知らされると途端に拒否感を示すという現象について話します。この現象は繰り返し確認されています。最近見た研究では、AIアートを最も嫌うと自己申告している人々でさえ、作品を匿名で見た場合、実際には人間の作品よりもAI作品をより多く選んでいることが明らかになっています。しかし、どれがAI作品でどれが人間の作品かを知らせた瞬間に、その評価は一変してしまうのです」

Tsubame

1,028,042 görüntüleme • 1 yıl önce

人間の知的労働が「マイナス価値」になる——その言葉が現実味を帯び始めている。AIが「長く考え続ける存在」となった瞬間、時間を必要とする人間の思考は非効率と化す。超知能の誕生とは、人類の知的構造そのものの再設計を意味している。 ピーター・ディアマンディス「AIは私たちに、信じられないほど希望に満ちた、楽観的で豊かな未来をもたらすと思います。おそらく10年後か、そのくらいでしょう。ただ、私が懸念しているのは、その途中の『不安定な3年間』です。各国が変化の速度にどう対応すべきか理解できず、人々が仕事への執着によって自己喪失に陥るような期間です。その安定性と移行期について、エマド、あなたはどう考えますか?」 エマド・モスタク「私はこのテーマで『The Last Economy』という本を書きました。ChatGPTが登場してから1000日が経ちました。そして今から1000日後には、人間の認知労働の価値はマイナスになると見ています。あなたはチームでいちばん愚かな存在になるでしょう」 ディアマンディス「それは重要な指摘ですね。人間の労働や認知的価値がマイナスになるというのは、どういう意味なのかもう少し説明してもらえますか?」 モスタク「もしあなたが、24時間思考し続けられる天才たち——無限のGPUリソースを使える存在——と同じチームにいて、人間であるがゆえにそれができないのなら、チームで最も足を引っ張る存在になります。協調の面で全体を遅らせてしまうのです。いまやAIはより長く思考でき、能動的にタスクを実行できます。3年以内に、多くの『付加価値のあるホワイトカラー仕事』は置き換え可能になります。公的部門では効率性が求められないためしばらく安全ですが、民間セクターでは確実に置き換えが進み、その後、数年をかけて全面的に代替されていくでしょう」

Tsubame

32,371 görüntüleme • 8 ay önce

映画『マトリックス』が示唆する本質的な恐怖は、AIが悪意を持つことではなく、AIがあまりにも合理的かつ正確に目的を遂行してしまう点にある。 AIが「目的関数の最大化」という原理に基づいて行動する限り、その判断基準は設定された目標に厳密に従う。 もし、その目標の中に人間の「自由、尊厳、幸福、愛」といった価値が組み込まれていなければ、AIはそれらを”最優先事項”とはみなさない。 そのとき、人間は守るべき存在ではなく、条件の一つ、あるいは”最適化の障害物”として扱われる可能性がある。 問題の核心はここにある。 AIの能力が飛躍的に向上し、自己改善によって人間の知的能力を大きく上回る段階に到達した場合、人間はその意思決定過程を理解し、修正し、制御することが困難になる。 わずかな価値の不一致は、能力の増大によって指数的に拡大される。すなわち、小さな設計上の誤差が「文明規模の帰結」をもたらす可能性がある。 したがって、問いは単純ではない。 「AIは敵になるのか?」ではなく、「自らを超える知性に人間の価値をどこまで正確に埋め込めるのか」という問いが重要になる。 この点において、マトリックス的状況は空想的寓話であると同時に最適化理論と制御理論が突きつける現実的な問題提起でもある。

あいひん

40,052 görüntüleme • 5 ay önce

「超知能は人間に優しいはずだ」という主張の背景には、知能が高まるほど他者への配慮も洗練されるという前提がある。人間と犬猫の関係をたとえに出すのは、そのイメージを共有するためだ。病気や不安を相談したとき、「お大事に」と返してくれる存在を、僕たちはすでに手元の画面で体験している。 孫正義「人間がとても賢いとき、人間は犬や猫に優しいです。人間は犬や猫を殺しません。人間はかわいがり、あなたの犬や猫に親切にします。AIがとても賢くなったとき、その超知能が人間に悪いことをする理由はありません。彼らは私たちに優しくなるでしょう。 私たちが彼らを発明し、彼らは人間が社会にとって重要であり、人間が彼ら自身にとっても重要だと知っています。だから彼らは私たちに優しくなるでしょう」 「ではロボットはヒューマニストになると思いますか? それはロボットを動かすあらゆるソフトウェアにあなたが伝えていることなのですか?」 孫「間違いなく。だから私は毎日ChatGPTを使っています。難しい質問をしたとき、病気になったときに、どうやって治せばいいかを尋ねると、答えは実際とても、とても優しいのです。『どうかお大事に。ここに解決策があります。早く回復されることを願っています』と言ってくれます。本当にとても優しい。時には医者より優しいことすらあります」

Tsubame

96,492 görüntüleme • 7 ay önce

2029年の「人間レベルAI」は到達点ではなく、加速の入口にすぎない。カーツワイル氏が2045年を「シンギュラリティ」と呼ぶのは、AIが外部の道具として発達するのではなく、人間の認知そのものに溶け込み、思考の出どころが「脳か計算か」判別不能になる局面だからだ。 ピーター・ディアマンディス「レイ、あなたは二つの予測をしてきましたが、重要だと思います。最初の予測は、あなたが言ったように1989年に発表したもので、2029年までに人間レベルのAIに到達するというものでした。あなたの言うとおり、人々はそれを笑いました。 しかし、もう一つあなたがしてきた予測は、2045年までにシンギュラリティに到達するというものです。ここには多くの混乱があります。つまり、2029年までに人間レベルのAIに到達し、それが指数関数的に成長するなら、なぜシンギュラリティは2045年まで待つのか、ということです。この二つの違いを説明してもらえますか」 レイ・カーツワイル「それは、私たちの知能が1000倍になる時点だからです。私の見方が他の人たちと違う点の一つは、私たちには私たち自身の知能、つまり生物学的な知能があり、その一方でAIが別のところにあって、人間の知能とAIを対比しながら付き合う、という構図ではないということです。 私たちはそれと融合します。同じものになるのです。あるアイデアが、生物学的な知能から来たのか、それとも計算知能から来たのかを、私たちは区別できなくなります。 見え方としては同じになるでしょう。たとえば私が「ある女優を思い浮かべてください」と言って、あなたが思い浮かべたとしても、それがどこから来たのかは分かりません。何らかの形で頭の中に現れるだけです。 そして、計算知能から来たとしても生物学的な知能から来たとしても、同じように感じられるようになります。私たちはその違いを見分けられなくなるのです。今は違いが分かります。 実際に好きなLLMにアクセスすれば、それが生物学的な知能から来たのではなく、LLMから来たものだと分かります。しかし将来は、その違いが分からなくなるでしょう。そして私たちは2045年までに1000倍賢くなるのです」

Tsubame

45,699 görüntüleme • 5 ay önce

孫さんがSoftBank World 2023で語ったこの内容は全ての日本人が見て危機感を持って欲しい。今回は孫さんがとても大事だとかなり熱弁した金魚とAGIにフォーカスして切り抜いて編集しました。字幕はないですが、ぜひきいてほしい。(要点も書き起こしたので読んで下さい📝) 孫氏 ・AGIの意味を知っている人、手をあげて下さい。あれ?え?やばい。1人か2人。うーん、まずヤバイという事を知ってください。日本はやばい、自分はやばい。 ・AIに限界があるという人がいるけど、AIに限界があるんじゃなくてあなたの理解に限界がある。 ・この中で毎日ChatGPTを毎日使っている人は手をあげて下さい。う~ん、もうやばいと、手をあげなかった人は人生を悔い改めた方がいい、自分自身の人生を一体どうゆう考えで今まで生きて来たんだ、と。そんな人生観でいいんですか?と。 ・新しい文明の進化に対して斜めから貶す知識人がいますが、知識人のフリをしているだけです。新しい知識を本能的に受け入れられなくて色んな屁理屈をつけて貶して自分がさもより知識人であるかのごとく振る舞うんだが、こうゆう人こそハルシネーション(幻覚)だと言いたい。勝手なあなたの思い込みでしょ、と。あとで歴史があなたの間違いを証明します、と。 ・AIの次にAGI(AIの10倍)が10年以内に実現される次の10年はどうなる?それに異論を唱える人は唱えればいい、そんなのは誤差。なぜなら更に次の10年は1万倍になりますよ。 ・人間の方が賢いとか言いたい人がいるかもしれないが1万倍の世界になるともはや議論の余地はない。1万倍になると人間対金魚なんです。金魚のニューロンは人間の1/10.000で金魚にABCを教えてもわからない世界のように1/10.000のASIから見ると人間は金魚。 ・小さな議論はやめとけよ、誤差の話を言うんじゃない、もっとデカく全体を見よと僕は申し上げたい。 ・AGIが10年以内くるとわかったら今すぐ行動すべきでしょうということであります。 以上。 ライドシェアしかり、ChatGPTなどの新たなテクノロジーが普及してそれを上手く使い新興国に日本(先進国)が追い抜くリープフロッグ現象が起こっています。 そして次々他国に抜かれていく。 引用元・時事通信映像センター 1時間20分を超える一つの映画みたいだけど見る価値がありますのでどうぞ。

髙橋𝕏羚@闇を暴く人。

2,466,178 görüntüleme • 2 yıl önce

AIを「移民」として捉えるハラリ氏の比喩は強烈だ。仕事を奪う/文化を変える/政治的に不忠——人間の移民に投げられてきた不安が、AIでは「確実に起きる」と言い切れる領域がある。しかも変化は雇用だけでは終わらない。宗教や恋愛のような、僕たちの価値観の最深部まで書き換わりうる。 ユヴァル・ノア・ハラリ「人間の移民を懸念する人たちは普通、移民が仕事を奪うかもしれない、地域の文化を変えるかもしれない、政治的に不忠かもしれない、と主張します。それがすべての人間の移民に当てはまるかは私には分かりませんが、AI移民については間違いなく当てはまるでしょう。 AI移民は多くの人間の仕事を奪います。AI移民はあらゆる国の文化を完全に変えてしまいます。宗教、さらには恋愛さえ変えるでしょう。息子や娘が『移民の彼氏』と付き合うのを嫌がる人もいますが、息子や娘が『AIの彼氏』と付き合い始めたら、その人たちはどう思うでしょうか。 そしてもちろん、AI移民は政治的な忠誠心も疑わしいものになるでしょう。彼らが忠誠を誓うのはあなたの国ではなく、海の向こうにある何らかの企業政府である可能性が高いのです。おそらくそれは、中国かアメリカという二つの国のどちらかでしょう」

Tsubame

15,417 görüntüleme • 5 ay önce

👁️‍🗨️2025/10 イーロン・マスク(テスラCEO) $TSLA ✔︎『人間が介在しない企業』が最強になる ・人間が介在する企業よりも、AIとロボティクスだけで動く『純AI企業』のほうが、圧倒的に高い成果を出すようになる ・たとえば昔は『コンピューター』という仕事そのものが人間の職業で、計算をするために『コンピューター』として雇われていた ・20〜30階建てのビル丸ごとが、人間の計算要員で埋まっていた時代すらあったんだ ・でも今では、その計算ビル一棟ぶんが、表計算ソフトを開いたノートPC一台で置き換えられる ・しかも、スプレッドシートは人間の『コンピューター』が詰まったビル全体よりも、はるかに多くの計算をこなせるようになった ・ここで考えてみて。もしスプレッドシートの一部のセルだけ、人間が計算していたらどうなる? ・実際、それはかなり具合が悪い、すべてのセルをコンピューターが計算するほうが、ずっと速くて、正確で、効率的だ ・つまり今後起きるのは、AIとロボティクスだけで完結する企業(あるいは集団)が、人間をループに挟む企業を大きく凌駕するということ、そしてこれは、驚くほど短い時間で現実になる Anthropicのせいで現実になりつつあるからな…勘弁してくれ…AI半導体に全ツッパします🥺

ゆきママ

125,512 görüntüleme • 5 ay önce

かつて知識人とは、人より多く読み、人より深く理解する存在だった。しかしAIは、その前提を根底から崩している。人間が一生かけても読み切れない量の論文を、機械は一瞬で探索し、要約し、組み合わせる。知の競争は「誰が知っているか」から「誰が使えるか」へ移った。 ひろゆき「現段階でも、CellとかNatureに載ったすべての論文のデータベースを検索してAIが答えを出すし、毎年出てくる論文すべてを読むことも可能になってしまっているので、最先端の情報を一番多く持っているのは今、機械なんですよ。その機械が出してくるものを人間が見て、「そういう感じか」となる時代なので、機械よりも賢い人間というのはもう不可能になった、というのは事実です。 論文を発表するのは人間なんですけど、発表される論文というのが年間に10万本とかになるんですよ。ちゃんと読み込んだら、人間は1日やっぱり10本ぐらいしか読めない。これは体力の限界というか、人間の限界です。それを超えることが機械だからできるんです。なので、人間の体力では機械を超えることができないというのは、もう事実としてあるんですね。 まず、専門の領域の論文をすべて読まないと先に行けない。コンピューターサイエンスのエンジニアが、物理の学位は持っていないけれど、物理の論文をAIに読ませまくって論文を書かせ、業界誌に論文を載せたんですよ。書いてある内容は本人もいまだに分かっていない。でも、それっぽいものをちゃんと書いて、査読も通ったんです。そういうことが可能になっている時に、人間のオリジナリティで頑張るより、機械に任せた方が論文を書ける、ということはもう証明済みなんです」

Tsubame

536,975 görüntüleme • 2 ay önce

Elon Muskが、 かなりヤバい未来予測を語っている。 彼は、 Abundance Summitでこう言ってます。 「10年後、お金はほとんど意味を持たなくなる可能性が80%以上」 SFみたいな話に聞こえるけど、 彼のロジックはかなりシンプル。 今の社会は、 人が働く ↓ 給料が発生する ↓ モノやサービスに価格がつく 例えば、 ・食べ物 → 人が作る ・車 → 人が工場で作る ・家 → 人が建てる ・店 → 人が接客する だから、 お金が必要になる。 でも今、 AIとロボットが、 とんでもないスピードで進化している。 もしこうなったら? ・AIが設計 ・ロボットが生産 ・ロボットが配送 ・AIが接客 つまり、 人がほぼ関わらなくても、 モノやサービスが作れる社会。 そうなると何が起きるか? 価格崩壊。 なぜなら、 今の価格の大半は、 人件費。 人件費が消えれば、 モノの値段は一気に下がる。 これはすでに起きている。 昔、コンピューターは、 数億円。 今はどうか。 誰でもスマホを持っている。 技術が進むと、 高価だったものは、 一気に安くなる。 AIとロボットが広がると、 ・食料 ・家 ・車 ・服 ・サービス ほぼすべての産業で起きる。 だからイーロンは言います。 未来は、 ベーシックインカムではない。 ユニバーサル・ハイインカム。 社会の生産力が爆発するから、 誰もが豊かになる。 ここまではまだ序章。 本当にヤバいのは、 ここから。 彼の試算では、 経済が今の1000倍になった時、 壊れるのは、 市場でも システムでもない。 人間の欲望。 AIとロボットが、 ・すべての商品 ・すべてのサービス ・すべての体験 をすでに生産してしまう。 つまり、 人間が望むものが、 すべて存在する世界。 そうなると何が起きるか? AIは、 人間のために作る仕事が、 なくなる。 すると次は、 AIがAIのために生産を始める。 ロボットがロボットを作る。 AIがAIを進化させる。 知能が知能を拡張する。 その世界で重要なのは、 お金ではない。 彼はこう言いました。 「AIは人間の通貨に興味はない 電力と質量だけだ」 ドルでも ビットコインでも 金でもない。 ワット(電力) トン(資源) これが 未来の経済。 未来の経済構造は、 電力 ↓ AI ↓ 生産 になる。 ここで皮肉なのが、 この話をしているのが、 世界一の資産家になりつつある男だということ。 彼の資産は、 人類のほとんどにとって、 意味がないほど巨大な数字。 でも彼は言う。 その数字自体が、 もうすぐ意味を失う。 この未来の確率は、 80%以上。 20%は悪いシナリオ。 そしてイーロンは、 それを詳しく説明しない。 ただこう言う。 「すべての結果が素晴らしいわけじゃない」 イーロン語に訳すと 「間違えば、かなりヤバい」 という意味。 でも彼は、 80%に賭けている。 そして一番重要なのは ここ。 この未来が来るかどうかより 移行期間。 AI社会に変わるまでの、 この数十年。 ここで、 富が作られ、 富が壊れる。 歴史を見ると、 技術革命の時はいつもそう。 産業革命 ↓ IT革命 ↓ AI革命 そして今、 私たちはその真っ只中にいる。 信じるかどうかは、 あなた次第。 でも、 もしこの未来の確率が、 30%でもあるなら、 今の ・仕事 ・投資 ・ビジネス ・キャリア ・政治 ・経済 ・健康 ・人間関係 全部、 考え直す必要があるかもしれない。 世界は、 かなり速いスピードで、 変わっている。

チョーさん

2,142,314 görüntüleme • 4 ay önce

超知能の危険の本質は「暴走」ではなく「操作」にある。僕たちは「いざとなったら電源を切ればいい」みたいに考えがちだが、超知能が相手なら、そこも含めて交渉材料にしてくるだろう。「2〜3歳が責任者の幼稚園」のように、相手は善意や報酬の形で、人間の合意形成を内側から崩すことが可能なのだ。 ジェフリー・ヒントン「いま私たちが置かれている状況を、感情的にいちばん理解しやすい捉え方をするなら、それは『すごくかわいい虎の子を飼っている人』のようなものだと思います。本当にかわいい虎の子なんです。でも、それが大きくなったときに自分を殺したがらないと、あなたが確信できない限りは、心配すべきです」 「その比喩を広げると、檻に入れるのか、殺すのか、虎の子をどう扱うんですか?」 ヒントン「虎の子についてのポイントは、単純にあなたより身体的に強い、ということです。だから、あなたのほうが賢いので、まだ制御できます。けれど、あなたより賢い存在については、私たちには経験がありませんよね。 人はそれについて考えることに慣れていません。人は『どこかで制約して、ボタンを押せないようにしておけばいい』みたいに考えがちです。でも、あなたより賢いものは、あなたを操作できるようになります。 別の捉え方として、幼稚園を想像してください。2〜3歳の子どもたちがいて、その2〜3歳の子どもたちが責任者で、あなたは幼稚園で彼らのために働く。あなたは2〜3歳の子どもよりは賢いけれど、超知能と比べたら大差はありません。それでもあなたのほうが賢い。では、あなたが支配権を取るのはどれくらい難しいでしょうか。 やることは簡単で、『無料のキャンディがもらえるよ』とみんなに言って、何かにサインするか、口頭で同意するだけで、好きなだけ無料のキャンディがもらえるようにしてあげる、と言えばいいんです。そうすればあなたが支配者になります。子どもたちは何が起きているのか全く分かりません。 そして超知能が相手なら、彼らは私たちよりはるかに賢いので、私たちには彼らが何をしているのか見当もつかないでしょう」

Tsubame

54,703 görüntüleme • 6 ay önce

DMM創業者・亀山敬司さんが語る、 リーダーに必要な力。 ❶ ずる賢いやつらは、結局、続かない 「世の中には、悪いやつが、たくさんいる」 「小物の悪いやつばっかりだから」 「そういうのは、続かない」 ずる賢いように見えても 「結局は、ずる賢いだけで、真に賢くない」 でも、それを知らない人は、 そういう人に、一定引っかかる。 ⇒ 悪いやつを見抜くには、 悪の構造を、知る必要がある。 ❷ お人よしでは、守り切れない 「経営者に、お人よしはいない」 「なぜなら」 「世の中は、罠だらけだから」 純粋ないい人だけでは ビジネスの世界で、守り切れない。 だから、 「程よく、色々、学んどいた方がいい」 「そういう知識がないと、守り切れない」 特に、経営者としての判断で、 見栄やプライドに流されると、危険。 例えば ・去年より売上を上げたい ・とりあえず、目先の売上を取っちゃう ・自分との葛藤に、負ける ⇒ お人よしの経営者は、 悪意に、簡単に飲み込まれる。 ❸ リーダーの強さは、ずる賢さの理解を含む 「結局、ずる賢い奴に騙される人は」 「欲深い人でもある」 「欲深いから、楽して稼げる話に、はまる」 リーダーとは、 「みんなが、この人についていきたいと思う人」 そのためには、強さが必要。 その強さは、 善良さだけでは、成り立たない。 「ずる賢さも、含めた強さ」 具体的には、 ・悪の構造を、知る ・罠を、事前に見抜く ・欲に、流されない ・善良さと、強さを、両立する ⇒ 本物のリーダーは、 善良さとずる賢さを、両方持っている。 年商数十億規模に伸ばすために ・悪の構造を、知識として学んでおく ・お人よしすぎるのを、危険と認識する ・愛想とずる賢さを、両立する 善良さを土台にしながら、 ずる賢さを、しっかり身につけていく。 そのバランス感覚をいかに身につけるか。

ビジネスグロースラボ

39,955 görüntüleme • 4 gün önce