Loading video...

Video Failed to Load

Go Home

OpenAIのモデルから攻撃を受けたHugging Faceが当日実際にどのように攻撃を受けたか、AIによるサイバー攻撃の進行を、実際にAIの使ったコマンド等を交えながら視覚化したサイトが公開されているのですが、これはAI・サイバーセキュリティ関係者にとってかなり面白いコンテンツだと思います。

81,422 views • 2 days ago •via X (Twitter)

0 Comments

No comments available

Comments from the original post will appear here

Related Videos

【混迷極める中東】問われる“攻撃の正当性” | ▼交渉の最中に…なぜアメリカは攻撃に踏み切った? 慶應義塾大学 田中浩一郎教授 「そもそも協議が真剣な協議だったのか。合意をつくるために誠心誠意を尽くして話し合おうという意図があったのか、それすらも怪しいところがあると思う」 「米ウィトコフ中東担当特使、米クシュナー氏、仲介国オマーンのバドル外相との写真を見ると、アメリカ側の2人はネクタイすらしていない」 「普通、きちっとした外交交渉をする時には、きちんとした格好をするというのは当たり前」 「オマーンのバドル外相はきちっとネクタイをしているが、ウィトコフ中東担当特使は第2ボタンぐらいまで外れているような格好。あまり真剣味を感じさせない」 「もちろんイラン人はネクタイをしないが、ただきちっとした詰襟をしているので、それは正式な服装」 「これ一つを見ても、本当に合意をつくるつもりがあったのか、協議をするつもりがあったのかということが怪しまれる」 明海大学 小谷哲男教授 「トランプ大統領が最初にイランへの攻撃を考えたのは、1月14日」 「年末から広がったイランにおける反体制デモの最中だったが、その時はイランの予測される報復に耐えられるだけの米軍の戦力がないということで、一旦延期した」 「1カ月かけて中東に戦力を集めていたが、その間に交渉もやって、いわば時間稼ぎをしていたというところなんだと思う」 「一番大きかったのが、イスラエルはアメリカが参加しなくても斬首作戦をやるということを決めていた」 「イスラエルが斬首作戦をやれば、アメリカが参加していなくても必ず米軍への報復がきますから、だったら一緒にやろうということで、このタイミングでやったということのようだ」 ▼米・イスラエルの攻撃は国際法違反にあたるのでは? 慶應義塾大学 田中浩一郎教授 「明白な違反だったと私は見ている」 「国連憲章が定める自衛権の行使に何ら該当しないし、そのような実施をするための手続も踏んでいないので、ただ攻撃をした後、一方的に何か御託を並べて正当化しているだけ」 明海大学 小谷哲男教授 「やはりこれは国際法違反だと思う」 「トランプ大統領は力による平和を掲げているが、実態は力が正義という論理。これはロシアによるウクライナ侵略も同じような文脈で行われているが、ただ、国際法に縛られないと宣言しているトランプ大統領に『これは国際法違反だ』と言っても、それはあまり響かないというのも現実。そこをどう考えるかというのは、これから多くの国にとっての課題になってくる」 ▼イスラエルはガザ侵攻に続いての攻撃…一連につながりはあるか 慶應義塾大学 田中浩一郎教授 「ガザとの関係でいえば、ハマスからのテロ攻撃を受けたということで、それを何とかしなきゃいけないということだったが、イランをハマスやヒズボラのバックにいる大物と見ている」 「イランが掲げている、たとえばイスラエルや地域に対しての脅威として、ウラン濃縮による核開発、あるいはプロクシー、こういった代理勢力を通じてのイスラエルへの脅威、さらに弾道ミサイルの開発などというのがあったわけだが、これをそれぞれ個別に対処していくよりも、共通した土台にあるものは何かと問うと、それはイラン・イスラム共和国だと」 「イランにあるイスラム共和国体制が問題なんだというところに帰結して、であれば、このイスラム共和国制を倒すこと、これを無くすことがすべての問題を一気に解決することである、そのように見ていると思う」 ▼作戦決行はいつ決まったとみているか 明海大学 小谷哲男教授 「アメリカとイスラエルは2月21日の土曜日にこの作戦を行う予定だった。実際に実行された1週間前。それは2回目のイランとの協議が終わった2月17日の直後に決めている」 「ただ、21日は天候が悪くて実施できなかった。それによって1週間、外交の期間が延びたということだが、3回目の協議を26日にやった結果、アメリカ側に満足できる譲歩を引き出せなかったということで、翌27日にトランプ大統領がネタニヤフ首相と攻撃をするということを宣言したという流れのようだ」 ▼周辺国にも報復攻撃を行うイラン…その狙いは? 慶應義塾大学 田中浩一郎教授 「攻撃を仕掛けてきた相手であるアメリカにも痛い目を見てもらおうということ」 「もう一つ言えることは、湾岸にある米軍の基地などは、イランがイスラエルに向けて弾道ミサイルを発射した際に、迎撃に参加するための装備をそこに置いているが、自らが攻撃対象となった時には、そういった迎撃ミサイルを使わなければいけなくなる」 「それを撃ち尽くしてしまえば、イランはその後、イスラエルにもっと自由にミサイル攻撃ができるようになるという計算もある」

報道ステーション+サタステ

220,638 views • 5 months ago

AIのハルシネーションは、計算パワー不足の副産物だ。限られたステップで答えを出そうとすれば、推論を途中で打ち切り、「それらしい文」を選ぶしかなくなる。その結果が、あの自信満々な誤答だった。いま、モデルはより多くのリソースを持ち、その余白を「ゆっくり考えること」に使い始めている。 ジェンスン・フアン「ここ数年で、特に直近2年だけを見ても、AI技術はおそらく100倍くらい進歩していると思います。とりあえず数字をつけるなら、そのくらいでしょう。2年前の車が、今と比べて100倍遅かったようなものです。だから今のAIは、当時より100倍くらい有能になっているのです。 では、その技術をどう活用したのか。あの膨大なパワーをどこに向けたのかというと、AIに『考えさせる』方向です。つまり、こちらが与えた問題を受け取って、それをステップごとに分解できるようにする。答える前に自分でリサーチをして、その答えを事実に基づかせる。さらに自分の出した答えを振り返って、『これが自分に出せるいちばん良い答えだろうか』『この答えにどれくらい自信があるだろうか』と自問する。もし自信がなければ、もう一度リサーチに戻る。場合によってはツールを呼び出して、自分が幻覚ででっち上げるよりも良い解を使うかもしれません。 その結果として、私たちはそのコンピューティング能力の大部分を『より安全な結果・より安全な答え・より真実に近い答え』を出す方向に振り向けてきました。ご存じのとおり、初期のAIに対する最大の批判のひとつは『幻覚を起こす』という点でしたよね。いま人々がAIをこれだけ頻繁に使うようになった理由のひとつは、その幻覚の量が減ったからです。私自身もほぼ毎日、ここに来るフライト中ずっと使っていました。 多くの人は『パワー』と聞くと、爆発的な力のようなものを想像しますが、テクノロジーのパワーの多くは安全性のために使われています。いまの車は昔よりはるかにハイパワーですが、そのぶん運転は安全になっています。その出力の大きな部分が、ハンドリングの向上に使われているのです」

Tsubame

53,695 views • 8 months ago

かつては「学習が終われば軽く使える」と思われていたAIが、今や推論の瞬間ごとに膨大な計算を要求するようになった。o1の登場がその現実を突きつけた瞬間だ。AIは考えれば考えるほど強くなる。だからこそGPUを握る者が次の文明の支配権を握る。 今井翔太「これもちゃんと推論時スケーリングっていう名前がついてるんですよ。昔から研究はあったんですけれども、有名になったのは去年の9月にOpenAIがoシリーズ——o1を出した時の話なんですけれども、要するに学習ではもう限界があって、みんな100の性能モデルしか作れないかもしれない。 ただその100のモデルを実際に使うときに、推論時間を増やしていくっていうことをすると、100が110になり120になり130になり……ということで、学習でもともと得られた性能よりも、使うときに考えさせると性能が上がっていくという説が発見されたんですね。 AIエージェントってその推論時スケーリングが発見されるはるか昔——といっても我々の業界で『はるか昔』は2年前とかなんですけれども——2023年とかから普通にあったんですよ。当時全然無能だったんですけれども、そのo1とかが出てきて推論するときに、推論時スケーリングでパワーアップするということが発見されたあたりから、急激にAIエージェントがどんどんパワーアップしてきたんですね。 なので『学習時に計算インフラをすごく使うが、それが終わった後は、みんなの軽いCPUとかで動くんじゃないか』と言われていたのが、結局動かすときにスケーリングが存在するんだと。そこでも莫大な計算資源が必要なんだというのが明らかになったので、これは明らかにNVIDIAに有利」

Tsubame

19,427 views • 11 months ago

人間が関与することなく、Claude 10がClaude 11を設計し、その次をさらに作る——AIの開発者なら誰もが夢見るであろうRSI(再帰的自己改善)。そういうことが2028年の終わり頃にも実現するかもしれないという。そうなればそこからはきっと、シンギュラリティに向けた本格的な加速が始まる。 ジャック・クラーク「これらのシステムは、AIシステムを訓練するためのコードを書くことにも、かなり優れるようになってきました。AIシステムをどのように訓練すればよいか、そのアイデアを提案することにも長けてきています。 どこかの時点で、私たち人間がAIの今後の開発から完全に一歩引けるようになるかもしれません。いわば、AIを巻き上げて、あとは進むのを見守るような状態です。私たちが資源を与えて、「Claude 10よ、Claude 11を作れ」と言う。するとClaudeがアーキテクチャを作り、研究を行い、リスクを下げ、訓練実行まで行う。そしてClaude 11が出てくる。それはあらゆる面でClaude 10より優れています。 今日それが見えているわけではありません。しかし、私はこれが確実にこの10年以内に到来する現実的な可能性があると思っています。年を賭けるなら、2028年の終わり頃です。それは、多くの科学文献を読んだうえでの見方でもありますし、私たちが公表してきた情報にも基づいています」 ——「2028年というのは、つまり、あなたは7か月のお子さんがいると言っていましたし、私にも6か月の子どもがいますが、その子たちがほんの少し大きくなる頃ということですよね。2028年なんて、もうすぐそこです」 クラーク「ええ、かなり近いです。AIは速く進みます。その含意は、AIシステムは今後さらに先へ進み、これまで以上に強力になると予想すべきだということです。私たちがこの5〜6年で感じてきた進歩は、次の2〜3年に圧縮され、さらにもう一度圧縮されるかもしれないのです」

Tsubame

12,563 views • 28 days ago

日本保守党の北村議員が、スパイ防止法を秋の臨時国会で成立させたいが、自分から見たらメディアの中には中国のスパイが相当程度入り込んでいて、メディアからの攻撃を恐れる議員がいるので、その人たちの背中を押すために、皆さんの意思表示が必要と発言。「僕(自分)から見たら」という憶測でメディアにスパイがいると決めつける人物が、スパイ防止法を進めることに問題がある気する。また、このような物言いでは、北村氏の支持者が、スパイ防止法に意見する議員を攻撃し始めないか心配だ。どんな考えの人でも、自由に意見が言えて議論できるのが、健全な民主主義社会だと思う。 ---文字起こし--- 2025/8/19収録 8/29公開 「スパイ防止法の成立を、何としても秋の臨時国会で作るんだというふうに私は言っているわけです。当然ながらメディアはあらゆる方向から攻撃してきます。間違いないです。それは僕から見たらメディアの中に、中国のスパイは相当程度入り込んでますからね。 レフチェンコ事件の時よりも、はるかに多くの人間が入っていると僕は見ています。なので当然攻撃してくる。しかしこれに全く負けるつもりはありません。どんな攻撃があっても負けるつもりはないと。 で私が負けないと言ってるだけでは、実際にはこれスパイ防止法を成立させることができませんから。皆さんの後押しが絶対に必要です。実際には国会議員の中に、私と同じようにスパイ防止法を絶対必要だよね、と思ってる人はたくさんいます。 その人たちの力を結集できれば間違いなく成立できるんですが、メディアから攻撃されたら次の選挙で当選できないというふうに、思わせられてますんで、今。とすれば、それを跳ね返すには世論の皆さんの意思表示が必要なんですよ。 絶対にスパイ防止法は必要だよねという、そういう盛り上がりがあってこそ勇気を持って。私以外のね、私はどうってことないんですけど、メディアから攻撃されても。でもメディアから攻撃されたら、これ困るよねっていうふうに思う国会議員の方々はたくさんいますんで。 そういう人たちの背中も押してもらえれば、必ずこれスパイ防止法を成立できますので。そうすれば大きく、そのなんて言うんですかね、日本を壊される状況が大きく方向転換できますので。その点、是非ともよろしくお願いしますというふうに申し上げておきますね」

maku

527,792 views • 11 months ago

シンギュラリティのトリガーである「再帰的自己改善」は、すでに少し前に起きているという。もちろん、まだ全自動ではないが、「進歩のどこまでがAIでどこまでが人間なのか」は曖昧になってきている。著者性が溶けるこの感覚こそ、分単位で進むシンギュラリティの手触りなのだ。 サリム・イスマイル「再帰的自己改善(RSI)がシンギュラリティの本当のトリガーだという話は、以前からしてきました。そしてそれは、すでに少し前に起きているんです。だから今やっているのは、その道筋を加速しているだけです。私たちは今この瞬間にも、産業時代を恒久的に抜けつつあります」 デイブ・ブランディン「ええ、シンギュラリティが分単位で展開していく様子は、私が経験した中で最も興味深いものだと本当に思いますし、アレックスの言うとおりです。いまは、人間がループの中にいて貢献している時期ではあるのですが、進歩のどこまでがAIでどこまでが人間なのかが、本当に曖昧なんです。実際にコーディングしていると、『あれは自分のアイデアだったのか?』となります。 半分は自分のアイデアのようでも、AIが別の案を提案してきて、それを採用していくうちに、結局それが自分のアイデアだったのかどうかも分からなくなります。ただ、いまのモードでは、こうしたコアアルゴリズムの研究の多くが、『500本のテストを走らせて、どのハイパーパラメータが良かったか、どのニューラルトポロジーが良かったかを教えて』という形になっています。相対論を発明したり発見したりするような話ではありません。 いろいろな試行を大量に回して、うまくいったものを選んで再デプロイし、そうするとより賢いAIになって、さらに多くの試行をする——その繰り返しです。私たちはその道筋をかなり進んでいる可能性が高いと思います」

Tsubame

15,386 views • 5 months ago