Video wird geladen...

Video konnte nicht geladen werden

Zur Startseite

GPT-oss 20BがGPUメモリ4GBで動いて14tok/sec出る！

kis's profile picture

きしだൠ(K1S)

24,386 subscribers

108,833 Aufrufe • vor 10 Monaten •via X (Twitter)

Gesundheit & WellnessWissenschaft & TechnologieBildung
LIVE

Anya Rossi• Live Now

Private livecam show

0 Kommentare

Keine Kommentare verfügbar

Kommentare vom Original-Post werden hier angezeigt

Ähnliche Videos

先ほど発表された、OpenAI社のオープンソースのローカルLLMのGPT-OSS-120bをH100上で動かしてみた。GPUメモリは65GB使用。非常にサクサク文章が生成されてすごい。
2:02

先ほど発表された、OpenAI社のオープンソースのローカルLLMのGPT-OSS-120bをH100上で動かしてみた。GPUメモリは65GB使用。非常にサクサク文章が生成されてすごい。

Yuki Nagai

94,068 Aufrufe • vor 10 Monaten

Speed Is the Innovation - GPT-OSS:20B + llama.cpp + @neovim
16:21

Speed Is the Innovation - GPT-OSS:20B + llama.cpp + @neovim

Wes Higbee

13,489 Aufrufe • vor 10 Monaten

openai gpt-oss 20b model speed on rtx 4090 windows ollama
0:40

openai gpt-oss 20b model speed on rtx 4090 windows ollama

Mert Cobanov

465,600 Aufrufe • vor 10 Monaten

55万円のMac Studioでgpt-oss-120bがどれくらいの速さで動くかをよく聞かれるので画面録画してみた
0:44

55万円のMac Studioでgpt-oss-120bがどれくらいの速さで動くかをよく聞かれるので画面録画してみた

Haruhiko Okumura

172,989 Aufrufe • vor 7 Monaten

OpenAI のオープンウェイトモデル gpt-oss-120b をローカル環境で動かしてみた！このくらいの速度が出ます！Ollama x Mac Studio M2 Ultra 192GB
0:42

OpenAI のオープンウェイトモデル gpt-oss-120b をローカル環境で動かしてみた！このくらいの速度が出ます！Ollama x Mac Studio M2 Ultra 192GB

ぬこぬこ | NUKO

221,218 Aufrufe • vor 10 Monaten

Mac Studio(2025) M3 Ultra 512GBでopenai/gpt-oss-120bをローカルで動かしてみました。 普通にトークン生成が速くてびっくりしてます。内容も、ちゃんとしたものが出る。Tool callingなども試していきたい！
2:10

Mac Studio(2025) M3 Ultra 512GBでopenai/gpt-oss-120bをローカルで動かしてみました。 普通にトークン生成が速くてびっくりしてます。内容も、ちゃんとしたものが出る。Tool callingなども試していきたい！

Masahiro Nishimi | Generative Agents

14,514 Aufrufe • vor 10 Monaten

プラグイン「Dust Transition」がどんな感じで機能してるのかちょい見せ GPUを使ってるのでサクサク動いてる #AfterEffects
0:54

プラグイン「Dust Transition」がどんな感じで機能してるのかちょい見せ GPUを使ってるのでサクサク動いてる #AfterEffects

Motion Design Studio

48,698 Aufrufe • vor 1 Jahr

「世界の存亡が掛かったデータの格納された、悪の組織から狙われているUSBメモリ(4GB)」が再入荷しました。 次回の生産ロットからUSBメモリが8GBになり価格も上がります。
0:48

「世界の存亡が掛かったデータの格納された、悪の組織から狙われているUSBメモリ(4GB)」が再入荷しました。 次回の生産ロットからUSBメモリが8GBになり価格も上がります。

よしけい@6/27-29御徒町ガラフェス

800,098 Aufrufe • vor 1 Jahr

人事やって思いますが、この動画に『出世できる人』と『出世できない人』の違いが詰まってる。
1:02

人事やって思いますが、この動画に『出世できる人』と『出世できない人』の違いが詰まってる。

人事部長 くく丸

1,231,287 Aufrufe • vor 2 Jahren

DAW用ゲーム駆動型作曲ツールMac版が開発できたっぽいので無料配布します。 シューティングゲームの動作をDAWに繋いで自由に作曲に活かせます！ まだプロトタイプすぎてちゃんと動くか分かりませんが・・・ご興味ある方はDLして遊んで見てください 。 動作確認ご報告いただけるとありがたいです！ - macOS 10.14以降 - DAWソフト（推奨: Logic Pro, GarageBand, Ableton Live） - メモリ: 4GB以上推奨 - ディスク容量: 50MB
0:35

DAW用ゲーム駆動型作曲ツールMac版が開発できたっぽいので無料配布します。 シューティングゲームの動作をDAWに繋いで自由に作曲に活かせます！ まだプロトタイプすぎてちゃんと動くか分かりませんが・・・ご興味ある方はDLして遊んで見てください 。 動作確認ご報告いただけるとありがたいです！ - macOS 10.14以降 - DAWソフト（推奨: Logic Pro, GarageBand, Ableton Live） - メモリ: 4GB以上推奨 - ディスク容量: 50MB

Iceface 🤯

13,584 Aufrufe • vor 1 Jahr

運動しているのに腹が出ている人へ
1:02

運動しているのに腹が出ている人へ

健康雑学

573,146 Aufrufe • vor 1 Monat

『オーイシマサヨシが出てきたら即終了』という動画でわろてる
0:38

『オーイシマサヨシが出てきたら即終了』という動画でわろてる

大石昌良【オーイシマサヨシ】

2,177,423 Aufrufe • vor 1 Jahr

【LiveMV : Ghostnote(Live ver.)】 最近AI音楽フェスとかでみなさんがライブ映像作ってるのを見て作りたくなったのでライブ動画を作ってみました☺️ GPT Image2で作った画像をStart/Endフレームで繋げているだけの簡易的なものですが、いつかAI音楽フェスも出てみたいですね✨️ --- 画像：PixAI / GPT Image2 曲：Suno v5.5 動画：Seedance2.0（#Hailuo）
2:29

【LiveMV : Ghostnote(Live ver.)】 最近AI音楽フェスとかでみなさんがライブ映像作ってるのを見て作りたくなったのでライブ動画を作ってみました☺️ GPT Image2で作った画像をStart/Endフレームで繋げているだけの簡易的なものですが、いつかAI音楽フェスも出てみたいですね✨️ --- 画像：PixAI / GPT Image2 曲：Suno v5.5 動画：Seedance2.0（#Hailuo）

Mankyu | AI動画生成

437,613 Aufrufe • vor 25 Tagen

GPT-Realtime-2を使ってZoom及びGoogle Meet対応の「ほんやくコンニャク」作ったwww 動画だと凄さ半減してる気がするから、あとでOSSとしてコードも公開します！！！
1:20

GPT-Realtime-2を使ってZoom及びGoogle Meet対応の「ほんやくコンニャク」作ったwww 動画だと凄さ半減してる気がするから、あとでOSSとしてコードも公開します！！！

Taiyo Kimura

204,349 Aufrufe • vor 1 Monat

最近、ローカルLLMを手元で動かしたいという声をエンジニアやPdMから聞くので、私がMac StudioとDGX Sparkでgpt-oss-120bを動かしている所感を書いておきます📝 💡性能 gpt-oss-120bの実測値で言うと、Mac Studio（M3 Ultraフルスペック）が60-70 tokens/s、DGXが40-50tokens/sくらい。Macで実行してる録画を添付したのでスピードの参考に。Macの方が速く、DGXは体感その7割ぐらい。 DGXは2台を専用ケーブルで接続することで最大405Bまで動作するらしいですが、gpt-oss-120bなら1台で十分。 💡使い勝手・GUI 特にエンジニア以外が簡単に使い始めたいならMacの方が楽です。LM StudioというアプリをインストールしてGUI上でモデル選択するだけ簡単にチャットできます。localhost立ててAPIで呼べる機能もあるので、OpenAI API互換で呼び出すコードをCursorやClaude Codeに書かせれば呼び出せます。 DGXもディスプレイ・マウス・キーボードを接続でき、LinuxベースのOSで最低限のことはGUIでもできます。LM StudioのLinux版で、Serve on Local Network機能を使えば同一ネットワーク内でWi-Fi経由でアクセスできるようになります。 ただ、DGXは設定中に一部GUIで完結せずCLIでコマンド打つ羽目になるので、エンジニア以外にはオススメしないですが、ChatGPTと会話しながら頑張れないこともないです。 💡排熱・設置面 gpt-oss-120bを5-10分も連続動作させると、両者とも筐体がアツアツに。Macは音を出して熱風を放ちますが、DGXは比較的静かでモワッと周囲が熱くなる感じ。 会社で使うなら、サーバーラックや換気しやすい場所に置いてWi-Fi経由でアクセスすると良さそうです。デスクにMacを置いて何時間も連続実行すると、たぶん周囲の人に迷惑かかるレベルで暑いです。 ちなみに、私が自分の部屋のデスクに置いてるMac StudioでAPIを何万回も呼ぶ処理を長時間実行する際は、この季節でも冷房つけてます。
1:10

最近、ローカルLLMを手元で動かしたいという声をエンジニアやPdMから聞くので、私がMac StudioとDGX Sparkでgpt-oss-120bを動かしている所感を書いておきます📝 💡性能 gpt-oss-120bの実測値で言うと、Mac Studio（M3 Ultraフルスペック）が60-70 tokens/s、DGXが40-50tokens/sくらい。Macで実行してる録画を添付したのでスピードの参考に。Macの方が速く、DGXは体感その7割ぐらい。 DGXは2台を専用ケーブルで接続することで最大405Bまで動作するらしいですが、gpt-oss-120bなら1台で十分。 💡使い勝手・GUI 特にエンジニア以外が簡単に使い始めたいならMacの方が楽です。LM StudioというアプリをインストールしてGUI上でモデル選択するだけ簡単にチャットできます。localhost立ててAPIで呼べる機能もあるので、OpenAI API互換で呼び出すコードをCursorやClaude Codeに書かせれば呼び出せます。 DGXもディスプレイ・マウス・キーボードを接続でき、LinuxベースのOSで最低限のことはGUIでもできます。LM StudioのLinux版で、Serve on Local Network機能を使えば同一ネットワーク内でWi-Fi経由でアクセスできるようになります。 ただ、DGXは設定中に一部GUIで完結せずCLIでコマンド打つ羽目になるので、エンジニア以外にはオススメしないですが、ChatGPTと会話しながら頑張れないこともないです。 💡排熱・設置面 gpt-oss-120bを5-10分も連続動作させると、両者とも筐体がアツアツに。Macは音を出して熱風を放ちますが、DGXは比較的静かでモワッと周囲が熱くなる感じ。 会社で使うなら、サーバーラックや換気しやすい場所に置いてWi-Fi経由でアクセスすると良さそうです。デスクにMacを置いて何時間も連続実行すると、たぶん周囲の人に迷惑かかるレベルで暑いです。 ちなみに、私が自分の部屋のデスクに置いてるMac StudioでAPIを何万回も呼ぶ処理を長時間実行する際は、この季節でも冷房つけてます。

砂塚紀彦｜PKSHA Associates CTO兼CPO

74,261 Aufrufe • vor 7 Monaten

このサイト、全員が見てほしい。 ペンで落書きできるサイト。囲めば動画が出てくる。 ペンで書いたような装飾でまとまっているから、ペンで書いて遊びながらスクロールしても、統一感が出て変に浮かない。面白くて珍しいサイト。
0:52

このサイト、全員が見てほしい。 ペンで落書きできるサイト。囲めば動画が出てくる。 ペンで書いたような装飾でまとまっているから、ペンで書いて遊びながらスクロールしても、統一感が出て変に浮かない。面白くて珍しいサイト。

いがらし | Studio×デザイン

377,623 Aufrufe • vor 7 Monaten

いきなり謎のデモが動いて、いるゥー！ これ80mk2で動いてるのホント？！ #80mk2
0:40

いきなり謎のデモが動いて、いるゥー！ これ80mk2で動いてるのホント？！ #80mk2

orion80改

95,741 Aufrufe • vor 1 Jahr

UnityでMMDでやってたような観客表現出来ないかなとずっと考えてたんだけど、ついに出来るようになった…！高価なGPU無しでも12000人が十分にリアルタイムで動く✨
1:09

UnityでMMDでやってたような観客表現出来ないかなとずっと考えてたんだけど、ついに出来るようになった…！高価なGPU無しでも12000人が十分にリアルタイムで動く✨

mobiusP📸

576,698 Aufrufe • vor 1 Jahr

ゴールドマンサックスの思考法があまりにシンプルだが、仕事で結果出してる人はだいたいこの思考で動いていると思う
0:48

ゴールドマンサックスの思考法があまりにシンプルだが、仕事で結果出してる人はだいたいこの思考で動いていると思う

OneBiz（スモビジ研究）by Levela

186,256 Aufrufe • vor 16 Tagen