正在加载视频...

视频加载失败

元Google CEOのエリック・シュミット: ヨシュア・ベンジオの「自律型AIシステムの開発を中止すべき」という懸念は非常に正当なもの。 しかしグローバル市場で開発を止めるのは現実的ではないため、ガードレールを確立する方法を見つける必要がある。

12,227 次观看 • 1 年前 •via X (Twitter)

0 条评论

暂无评论

原始帖子的评论将显示在这里

相关视频

批判的な人々は言うだろう——「AIはエネルギーを食い、膨大なGPUを要求し、巨大な工場を持つ国だけが得をする」と。しかし、もうひとつの時間軸がある。クラウドの最先端は一部のプレイヤーのものかもしれないが、「昨日のAI」がスマートフォンの中に降りてくる頃、その性能はすでに魔法に等しい。 ジェンスン・フアン「私は、テクノロジーの格差を埋める本当のチャンスが来ていると思います。もはやPythonやC++やFortranを話す必要はなく、『人間の言葉』を話せばいい。しかも、どんなスタイルの人間の言葉でも構いません。これは、テクノロジー格差を縮める現実的なチャンスだと思います。 もちろん反対の語り方もあります。『AIは、膨大なエネルギーとGPU、そして巨大な工場を持つ国にしか行き渡らないだろう』という見方です。アメリカが目指しているようなスケールでは、それはたしかに事実です。 しかし実際には、数年後にはあなたのスマートフォンが単体でAIをちゃんと動かせるようになります。すでに今日の時点でもかなりのレベルで動いています。つまり、どの国、どの社会であっても、かなり優れたAIの恩恵を受けられるようになるということです。それは最新のAIではないかもしれません。昨日のAIかもしれない。でも、その『昨日のAI』ですら、とんでもなく強力なのです。10年後には、『9年後のAI』が驚くほどすごい存在になっているでしょう。最先端のAIを全員が持つ必要はありません。最先端AIは、世界のトップを目指す私たちのような立場が必要とするものです。 一方で、すべての国、すべての人々にとって重要なのは、知識と能力と知性を底上げする力です。その日がやってくると、私はそう信じています」

Tsubame

94,960 次观看 • 6 个月前

【「核兵器並みの衝撃」】新型AI『クロード・ミュトス』の脅威 東京大学大学院 松尾豊 教授 「『クロード・ミュトス』は特にシステムの脆弱性を発見する能力に長けているAI。例えば、長年スマホやパソコンの基礎として使われてきたシステムの脆弱性を、短時間で見つけたとされている」 ▼“性能の高いAI”がなぜ問題に…? 「例えるなら『絶対に開けられない金庫の開け方を一瞬で発見するAI』」 「“弱点”を見つけられるということはその弱点を攻撃できるということ。開発したアンソロピック社自身も、この能力に驚いていて『危険だ』と自主的に非公開にした」 「ただ、『ミュトス』並みのAIを他の企業や国が持つことは時間の問題で、特に金融機関に悪用される懸念が高いため、各国が危機感を持っている」 ▼どんな危険性が? 「国防上、非常に重要なサイバーセキュリティーの分野で“核兵器なみ”のインパクトがある技術。仮に悪用された場合、敵国の通信や水道、電気などの社会システムを全部止めて、社会機能を麻痺させることも可能になる」 →しかも核兵器のように開発や保有がわかりにくく国際的なルールを設けて管理していくのが難しい 「最強のAIが安全保障の問題に直結する中で、海外企業の開発力に頼り切るのはリスクが高い」 「日本のAI開発能力は、米中には劣るが、防御するためのAIを開発をする技術はあるので『盾』となるAIのための開発能力を強化すべき」

報道ステーション+サタステ

184,454 次观看 • 2 个月前

イーロン・マスクがインタビューで 『もしAGIに質問を1つだけできるなら何を聞く?』と聞かれて こう答えた 『この世界はシミュレーションの中なのか その外側はどうなっているのか』 普通のCEOなら 『株価』とか 『次の技術』とか 『人類の未来』を聞く でもイーロンは 『現実そのもの』を疑っている なぜか イーロンはずっと この宇宙はシミュレーションである確率が極めて高いと言い続けている 理由はシンプルで残酷 文明は必ず 『現実をシミュレートできる計算能力』に到達する そうなると 1つの現実の中で 無数の仮想宇宙を走らせられる そうなると統計的に 『本物の宇宙』1個に対して 『シミュレーション宇宙』が何億も存在する つまり いま自分たちが生きている世界が オリジナルである確率はほぼゼロ だからイーロンは 火星に行き ロボットを作り AGIを作り この世界の『壁』を叩こうとしている 外に何があるのかを確かめるために テスラは この世界の物理を制御するための実験 SpaceXは この箱庭の端まで行くためのロケット xAIは この宇宙のソースコードを読むための頭脳 オプティマスは この世界を動かすNPCを量産する装置 こう考えると 全部が1つの物語になる イーロンが本当にやろうとしているのは 『お金儲け』じゃない 『この世界は何なのか』を解明すること AGIに聞きたい質問が 『宇宙の外はどうなってる?』な時点で この人はもう SFの主人公側にいる そしていま 人類はその物語の序章を生きている こういう イーロン AI 近未来SF 現実の裏側の話が好きなら Taishi | AI動画編集ソフト開発中🎥 をフォローしておくといい アルゴリズムが拾わない話を 人間向けに流してるだけなので ブックマークして後で読むのもおすすめ

Taishi | AI動画編集ソフト開発中🎥

345,961 次观看 • 5 个月前

AIは「史上最速で普及したのに、史上最も嫌われているテクノロジー」になりつつある。仕事を奪われるかもしれない不安だけが増幅され、その果実はごく一部のVCと企業にしか分配されていないように見えるからだ。対立を和らげる鍵は、一般のユーザーや労働者にもオーナーシップを開放することだ。 ヴラド・テネフ「AI企業にとっては、これは実は最も重要なポイントだと私は考えています。AIというカテゴリ全体を見ると、ChatGPTやCursorなどの登場によって、歴史上どんなプロダクトよりも速いプロダクト採用が起き、収益の立ち上がりも最速クラスになっています。 一方で、人々にインタビューしてみると、AIへの印象はソーシャルメディアよりも悪く、『最も嫌われているカテゴリ』になっているのです。なぜなら、誰もソーシャルメディアが自分の仕事を奪うとは心配していませんが、AIについては『この人たち、この企業はあらゆるものを自動化している。自分の仕事はそのリストのどこにあるのか。自動化は簡単なのか、それとも難しいのか』といった根底の恐怖があるからです。人々はそのことに怯えているのです。 そして、もし所有のあり方をもう少し平等なものにする方法を見つけられなければ、私たちは非常にまずい状況に行き着く可能性があると思います。AIはVCのごく一部だけが所有すべきものではありません。実際には、それを分配するための手段をきちんと用意すべきです。 なぜなら、公開市場における個人投資家向け銘柄を見てきたように、何かと戦わずに済ませる最善の方法は、『それのオーナーになってもらうこと』だからです。人はオーナーであれば、その対象を守ろうとするからです」

Tsubame

14,007 次观看 • 7 个月前

欲しいソフトウェアを説明するだけで、夜のうちにコードとテストが生成され、翌朝には動くサービスが立ち上がる。リポジトリを巡回するエージェントがテストとコミットを回し、更新と運用を自律化する。そこまでいけば「開発を速くする道具」というより「会社そのものを自動化するOS」の胎動だ。 サム・アルトマン「最初のバージョンを作るときは、欲しいソフトウェアをただ説明するだけになると思います。そしておそらく、システムが一晩かけて考え、コードを書いてテストまでしてくれて、翌朝にはその『本の販売アプリ』のようなものができている、という感じになります。その後、システムが大きく複雑になるにつれて、リポジトリを巡回して作業してくれる、いわば『ソフトウェア工学エージェント』が動くようになります。 それらはテストを書き、コードをコミットし、会社運営に関わる多くの作業も、ソフトウェア開発に限らず自動化できると想像できます。ソフトウェア開発に関しては、『これがどう動くか』がはっきり見える道筋があると思います」 ダン・ボネ「つまり、開発者ははるかに生産的になる、ということですね。今日のように実際にコードを書くのではなく、欲しいものを説明するようになる、という見方ですね」 アルトマン「そう思います」

Tsubame

185,431 次观看 • 7 个月前

FF5のガラフ対エクスデスを見ると、正直、今見ると胸が痛い。なぜなら、あの場面には、今の私たちが失いかけているものが、あまりにも綺麗に残っているからだ。映像の豪華さではない。声優の熱演でもない。あの場面の本質は、ゲームシステムと物語が、同じ一点で爆発していることにある。普通、RPGにおいてHPが0になればキャラクターは倒れる。 それはプレイヤーが何十時間もかけて身体に覚え込ませたルールである。 回復しなければ死ぬ。 戦闘不能になれば動けない。 その当たり前を、ガラフは破る。 HPが尽きても立つ。 攻撃されても倒れない。 メテオを撃たれても、フレアに焼かれても、氷に貫かれても、自分が信じていたゲームのルールが、ガラフの意志によって押し返されるのを見ている。 だから感動する。 ここを、今の私たちはよく間違える。感動的な場面を作ろうとすると、つい演出を盛る。声を震わせる。カメラを寄せる。音楽を大きくする。もちろん、それは現代の技術として正しい。プレイヤーに伝えるための手段として必要なこともある。 ガラフの最期は、その逆である。物語が戦闘の中にある。戦闘が物語の証明になっている。HP0というシステム上の死が、キャラクターの意志によって意味を変える。だから、あの小さなドット絵の老人は、現代の美麗なムービーよりも美しい。 ドット絵の制約。 容量の制約。 短い台詞。 プレイヤーの想像力に委ねる余白。 それらが奇跡的に噛み合っていた。 しかし、それだけではない。 あの場面は、ゲームという媒体の本質を理解していた。ゲームは、ただ物語を見せるものではない。プレイヤーがルールを理解し、そのルールの中で行動し、そのルールに慣れたところで、物語がそのルールを揺さぶる。その時、ゲームにしかできない感動が生まれる。 ここを忘れると、映画の劣化版になる。 綺麗な映像。豪華な音楽。重厚な台詞。しかし、プレイヤーはただ見ているだけでは意味がない。 ガラフの場面は、ゲームでしか成立しない。小説なら「死んでもなお立ち上がった」と書ける。だが、HP0なのに倒れない、という感動はゲームにしかない。 プレイヤーがゲームのルールを知っているからこそ成立する。これは、私たちが本来もっと大切にしなければならない財産である。 今のスクエニが、これの再現に必要なのは、現代のゲームにおける「HP0でも立つ」に相当するものを見つけることだ。 たとえば、プレイヤーがずっと信じてきた成長システム。長く使ってきたコマンド、当たり前に開いていたメニュー、守ってきた仲間のAI、セーブやロード、ジョブ、装備、マップ、召喚、パーティ編成。 そういうゲームとしての常識を、物語のある一点で変質させ、キャラクターの覚悟によって、システムの意味が変わる。プレイヤーの操作が、ただの操作ではなく、物語の選択になる。 そこまで設計できれば、今でも名場面は生まれる。 しかし、それは会議で説明しにくい。 「ここでUIの挙動を変えます」 「ここで戦闘不能のルールを一度だけ破ります」 「ここでプレイヤーの常識を裏切ります」 こういう企画は、リスクがある。現代の大規模開発では避けられやすい。けれど、そこを避け続けると、名場面は生まれない。 プレイヤーが信じてきたルールの中で、キャラクターの覚悟を体験させなければならない。 ガラフは「私は命をかけて守る」と長々語ったから感動したのではない。 本当に、命を超えて立ったから感動した。 しかもそれを、戦闘というプレイヤーが最も理解している場所で見せた。 今のスクエニがもう一度こういう場面を作るには、過去作の名場面を綺麗に再現するだけでは駄目だ。 FF5をリメイクして、ガラフのシーンを豪華なムービーにすることはできる。 だが、それだけでは足りない。 本当にやるべきは、現代のプレイヤーが慣れ切ったゲームの文法を、一度だけ感情のために壊すことだ。 システム担当とシナリオ担当が、同じ心臓で設計すること。 バトルと物語を分けないこと。 UIと感情を分けないこと。 演出と操作を分けないこと。 プレイヤーが手を動かした記憶の中に、キャラクターの死や覚悟を刻むこと。 それができた時、初めて「今のスクエニにも名場面は作れる」と言える。 ガラフの最期は、古い名場面ではない。 未来への宿題である。私たちは、あの小さなドット絵の老人に、いまだに問い詰められている。 お前たちは、映像を綺麗にすることばかり考えていないか。物語をムービーに逃がしていないか。ゲームのルールそのものを感動に変える勇気を、まだ持っているか。 エクスデスは叫んだ。 「なぜ死なん」 だが本当に問われているのは、今の私たちの方である。 なぜ、あのような場面をもう一度作れないのか。 答えは、技術が足りないからではない。勇気の置き場所を、少し忘れているからである。

クレア

449,122 次观看 • 23 天前

イーロン・マスクがインタビューで 『もしAGIに質問を1つだけできるなら何を聞く?』と聞かれて こう答えた 『この世界はシミュレーションの中なのか その外側はどうなっているのか』 普通のCEOなら 『株価』とか 『次の技術』とか 『人類の未来』を聞く でもイーロンは 『現実そのもの』を疑っている なぜか イーロンはずっと この宇宙はシミュレーションである確率が極めて高いと言い続けている 理由はシンプルで残酷 文明は必ず 『現実をシミュレートできる計算能力』に到達する そうなると 1つの現実の中で 無数の仮想宇宙を走らせられる そうなると統計的に 『本物の宇宙』1個に対して 『シミュレーション宇宙』が何億も存在する つまり いま自分たちが生きている世界が オリジナルである確率はほぼゼロ だからイーロンは 火星に行き ロボットを作り AGIを作り この世界の『壁』を叩こうとしている 外に何があるのかを確かめるために テスラは この世界の物理を制御するための実験 SpaceXは この箱庭の端まで行くためのロケット xAIは この宇宙のソースコードを読むための頭脳 オプティマスは この世界を動かすNPCを量産する装置 こう考えると 全部が1つの物語になる イーロンが本当にやろうとしているのは 『お金儲け』じゃない 『この世界は何なのか』を解明すること AGIに聞きたい質問が 『宇宙の外はどうなってる?』な時点で この人はもう SFの主人公側にいる そしていま 人類はその物語の序章を生きている こういう イーロン AI 近未来SF 現実の裏側の話が好きなら Taishi | 元シリコンバレーCTO🚀 をフォローしておくといい アルゴリズムが拾わない話を 人間向けに流してるだけなので ブックマークして後で読むのもおすすめ

Taishi | 元シリコンバレーCTO🚀

106,258 次观看 • 4 个月前

「トレーニングの量と質どちらが大事か?」と聞かれることがあります。でも両方大事だしそれぞれは別の要素なので比べることが出来ません。 ただ一つ言えるのは、、、「量をやり込まないとトレーニングはなかなか上手くはならない」ということです。全てのやり方に答えはあって、それを適時教えてくれる達人が近くにいるのなら量をやり込む期間を大幅に短縮出来るでしょう。知識を増やすことで近道を見つけることも出来るでしょう。でもですね、それでも量は必要なんです。言語化しにくい沢山のことを量をこなすことで学べるからです。 量を超やり込んで、トレーニングの極意を掴み「トレーニングの達人」になれば少量でも筋肉に効かせ尽くすことが出来るようになり、トレーニング量が減っていくフェーズが起きるのはあり得るでしょう。でもほとんどはそうではないので真剣に発達させたいなら量は必要です。1〜2セットで発達するのはそのセットで超絶追い込むか、伸びしろが大きい初心者か、どんなしょうもないトレーニングでもホルモンを高めてるおかげで勝手に発達する薬ユーザーだけです。 現状のトレーニングでもどんどん発達してるのなら特に今のやり方を変える必要はないです。しかし発達が止まっていると感じるなら何かを変えないといけないし、それは量と質を増やすことでしょうが、質を高めるためにも量を増やすのがまずは早いかもですね。沢山やることでわかることも沢山ある、そういうことです😀(この文章全体はボディメイク的にガッツリ筋肉を増やしてゴリゴリになりたい方向けです)

ヒサーノ@筋肉の人

218,807 次观看 • 2 年前

人間と同程度のAIにまで到達して、そこで突然進化が止まるわけがない。汎用知能が成立した瞬間、次に来るのは超知能であり、その時点で発明の主役は人類から機械の心へ移る。産業革命との比較では足りない——それは「ホモ・サピエンスの出現」あるいは「生命の誕生」に匹敵する断絶かもしれない。 ニック・ボストロム「技術と科学の発展が広い範囲でこのまま続くことが許されるなら、私たちはいずれそこに到達すると思います。しかも最近は、実際にその方向へ進みつつあるように見えます。ですから、こうした点は、この問題をかなり真剣に受け止めるべきだと示す、基本的な考慮事項だと思います。 そして、もし私たちが本当にAGI、すなわち汎用人工知能を開発したら、それが何を意味するのかを考えることができます。私がまず思うのは、それはほどなくして超知能の開発につながるだろうということです。人間と同程度のAIにまで到達して、そこで突然止まるとは思いません。 そうなると私たちは、心そのものを設計できる世界に入ることになります。そして自動化されるのは、産業革命において蒸気機関や内燃機関によって自動化が始まったような筋肉労働だけではありません。たとえば掘削機は、どんな力自慢の人間よりもはるかに強いですが、それと同じように、今度はあらゆる人間の労働が自動化されることになります。 しかもそのときには、どんな天才的な科学者や芸術家よりも深く考えられる機械の心が現れるでしょう。ですから、それは実質的に、私たちが最後に必要とする発明になるのです。その時点以降の発明は、こうした機械の心によって、はるかに優れた形で、はるかに速く生み出されるようになるからです。 したがって、これは人間のあり方そのものを非常に根本的に変える出来事になると思います。これを理解するにあたって、産業革命との類比を持ち出す人もいますし、そこから学べることもあるとは思います。しかし、おそらく本当に近い比較対象は、むしろホモ・サピエンスそのものの出現や、あるいは生命の誕生にまでさかのぼる必要があるのかもしれません」

Tsubame

20,061 次观看 • 2 个月前