Загрузка видео...
Не удалось загрузить видео
流石に神アプデすぎる。 Google AI Proの特典でA100 40GB/80GBが使えるようになった!!!太っ腹すぎて横転通り越して回転してる。 今や600万以上するグラボが激安レンタル可能 人によっては十万円分の価値あるだろこれ。 実際にClaboでMinimaxH3の量子化なしのモデルを動かしてみてるから、見てくれ。 どういう形で活用出来るかしっかりと書いとくわ。 これまでもColabは使えたが、16GB VRAMが天井だったのでまぁぶっちゃけ大したことは出来なかった。 しかし、A100の40GB、80GBも使えると出来ること広すぎてやばい。Blackwell 6000も使えるという情報有り。 もうこれを革命と言わずして何を革命というんだ? もはやこれ、本体のGeminiサブスク費用より価値あるだろ。GoogleGemmaチームの熱量は、Google Geminiチームの100倍は気合が入っている。 用途はざっくり以下 1. 重量級動画生成・画像生成の「フル精度 / 高解像度」一発出し - ローカルGPUだとFP8やきつめのGGUF量子化に頼らざるを得ない動画生成モデル(Wan2.2、LTX-Video、HunyuanVideoなど)を、FP16/BF16に近い高い精度や大きめのコンテキストでVRAMオーバーフロー(OOM)を気にせず回せる。 →本気のMinimaxH3が使える。カスタマイズも可能。 2. LocalLLMの検証自由度が激変 - 例えば24GB VRAMだと4bit量子化(AWQやGPTQ)で文脈長(Context Length)を絞らないと動かない。 40GBあれば、8bit量子化で長文脈を食わせたり、ファインチューニングのLoRA検証を回す余力が生まれる。 80GBあれば、30B〜70Bクラスのモデルが普通に動かせる。 月に配布される200 CU内で動かせる時間は概算で以下 A100 標準 (40GB)約 5.3〜5.4 CU / 時間約 37 時間 A100 ハイメモリ約 7.5 CU / 時間約... show more
226,400 просмотров • 22 дней назад •via X (Twitter)
Комментарии: 21

大学生はなんと600万円以上するグラボが月720円で使えますからね。

これは最高に楽しいおもちゃ箱。 でも、私のタスクは遊んでると進まないんだよなぁ(遠い目)

MCPで動かせるからね。普通にお手元のAIエージェントに遊びたい内容を投げて放置しておくのがいいですね。

ローカルAI回す理由は95割が叡智用途なので google様ではBANが怖くて使えない結末になった

うーん、まあ、厳密には回避できないわけでもないんだが。さすがにミスった時の責任が取れないから、教えないでおくわ。

回避できないわけでもないんだが 試すリスクがあまりにデカすぎるのよ

how long does each session stay up, do you get a full a100 for yourself or is it shared under the hood ?

まあプランによって違うけどね。200クレジットもらえるから、30時間から20時間ぐらい動かせるんじゃないか。まあ、ポスト本文に書いてるから。翻訳でちょっと見えなくなってるかも

that credit count looks pretty tight, what happens if the run goes a bit over 200 credits, does it just stop or is there overage billing ?

かからんよ。っていうか、実行で200クレジット飛ぶっていうのはないと思うよ。その1時間動かすのに、8クレジットとかだよ

その8クレジットは何回実行した分の合計なんですか、それとも1回あたり8クレジットなんですか?

1時間あたりって書いてるじゃん。

is the "per hour" cap enforced based on the time emails are sent or when they're received ?

わぁ、これは本当にすごいアプデですね!✨ 画像のプランを見て、高価なグラボがこんなにお得に使えるなんて驚きです。AI活用がぐっと身近になるの、とっても嬉しいです😊

これでね、コミュニティがね、いろんな開発をしてくれるとね、Googleも本望なんでしょうね。

A100の80GBで量子化なしのMinimax H3、もう動かしてるの速すぎます!

そもそもこの情報をキャッチアップしたのが多分日本最速で、そこから動かしたのもおそらく日本最速。

え?マジ凄いじゃん もっと大々的にアナウンスしてよ 全然気付いてなかったよ

GemamaチームはGoogleの中でも異端者じゃけぇ...。

ずっと別世界だと思ってたものが急に手の届く場所に来ると、理屈抜きでそわそわしてきます。並んだ二枚をつい何度も見比べてしまった

お、君もついに絵を動かす時が来たかな。
