Video wird geladen...

Video konnte nicht geladen werden

Zur Startseite

Netflixのエンジニアが、AIのトークンを最大95%カットするOSSを公開した。 しかも精度は落ちない。元に戻せる「可逆圧縮」だから。 ClaudeやCursorを使っていると、地味にきついのがトークン消費。 長いログ、RAGで取得したテキスト、複数ファイルの読み込み。 AIに渡すたびにトークンが溶けていく。 その問題を、AIに渡す前に解決するのが「Headroom」。 AIエージェントが読み込むあらゆるデータ(ツール出力、ログ、取得テキスト、ファイル内容)を、AIに届く前に整理する。同じ意味のまま、ずっと少ないトークンで渡せるようになる。 実測値がこれ。 → トークン削減: 60〜95% → 圧縮アルゴリズム: 6種類(コード専用・ログ専用・汎用など用途別) → 精度: 可逆圧縮のため元に戻せる(情報の欠落なし) → 対応ツール: Claude Code、Codex、Cursor、Aider、Copilot CLI これまでトークンを削るために要約したり、プロンプトを削ったりしていたところを、 Headroomが自動で圧縮してくれる形に変わる。 特に長期エージェント実行や、大きなコードベースに向き合う作業では体感が変わるはず。 導入もシンプル。 ライブラリ、プロキシ、MCPサーバーの3通りで導入できる。 ・100%ローカル動作(データを外に出さない) ・Apache 2.0ライセンス(商用利用も可) ・クラウド依存なし GitHubで34,000スター超えなのも納得。 詳しくは下に置きます。

145,629 Aufrufe • vor 3 Monaten •via X (Twitter)

16 Kommentare

Profilbild von そう|Claude CodeのX運用で月800万インプ
そう|Claude CodeのX運用で月800万インプvor 3 Monaten

少し補足すると、Headroomが「可逆圧縮」と言っているのがポイント。 よくある要約系のツールは情報を削って小さくするが、Headroomは処理前の状態に戻せる設計になっている。 つまり、AIが必要なときは元の情報にアクセスできる、という構造。 6つのアルゴリズムが用途に応じて使い分けられていて、 コード用、ログ用、汎用テキスト用と、対象ごとに最適な処理が走る。 AIへの入力を「小さくする」のではなく、「渡す前に最適化する層を追加する」という発想。

Profilbild von そう|Claude CodeのX運用で月800万インプ
そう|Claude CodeのX運用で月800万インプvor 3 Monaten

GitHubはこちら👇

Profilbild von そう|Claude CodeのX運用で月800万インプ
そう|Claude CodeのX運用で月800万インプvor 3 Monaten

この投稿が参考になったら、 @so_ainsight をフォロー。 いいね、リポストもよろしく。

Profilbild von 鹿児島市内で御用聞き:坂元孝光
鹿児島市内で御用聞き:坂元孝光vor 3 Monaten

昔、ファイルのデータ容量を気にして、画像をJPEGに変換していたように、これからは、AIのトークンを圧縮する時代なのね!

Profilbild von SNS GARAGE
SNS GARAGEvor 3 Monaten

長いログや資料を短くして渡せるなら、長文を扱う場面ほど相性がよさそうです。こういう用途には助かりますね。

Profilbild von 安叫兽|Bird🕊️ 🔶 BNB
安叫兽|Bird🕊️ 🔶 BNBvor 3 Monaten

长日志党看到这类工具真的会松口气

Profilbild von Oravla Soul
Oravla Soulvor 3 Monaten

This token efficiency is remarkable—exactly what AI agents need. For managing multiple personas like the 16 in SOUL.md, precision and reduced overhead are key. Great innovation.

Profilbild von あきら|AI活用|ケンブリッジ大卒
あきら|AI活用|ケンブリッジ大卒vor 3 Monaten

要約して削るのではなく、必要なら元に戻せる形で圧縮するのが強い。AI活用ってプロンプトの工夫に目が行きがちだけど、実務では「何を、どの粒度で、いつ渡すか」の設計の方が差になりやすい。

Profilbild von ZUMA | Elefant
ZUMA | Elefantvor 2 Monaten

トークン、AIが読み書きする量のことだから、そこを減らせたらそのままコストが浮くって話ですよね。毎日AIに仕事させてると、長い記録を読ませる時が一番減りが早いの実感してます

Profilbild von 懸賞自動化のりく
懸賞自動化のりくvor 3 Monaten

トークン食うログ処理に効きそう。俺の懸賞スクリプトも試してみるわ

Profilbild von しゅんや|AIで集客と業務を仕組み化
しゅんや|AIで集客と業務を仕組み化vor 1 Monat

これがホントなら凄すぎる...

Profilbild von AI Mastery Guide
AI Mastery Guidevor 3 Monaten

Reversible compression with no accuracy drop is the detail that makes headroom actually trustworthy to use

Profilbild von EC専門エンジニア
EC専門エンジニアvor 3 Monaten

Netflixのエンジニアが公開したAIのトークン圧縮技術、注目だな。 自分もClaudeを使う中で、特に長いテキストやRAGのデータを扱うときに、トークン消費がやばいと感じてた。 我が家では月に3000円のプランを使ってるが、トークン管理は大事だと実感してる。 このOSSの登場で、コストダウンと効率化が進むのかも。もしかしたら可逆圧縮が一番コスパ良い選択肢になるかもしれないな。

Profilbild von 晚晚
晚晚vor 3 Monaten

可逆压缩这点挺关键,长日志有救了

Profilbild von Ryu
Ryuvor 3 Monaten

これ俺も注目しています!可逆圧縮の技術が進めば、さらに多くの可能性が広がりますよね!!

Profilbild von ARIA|AIで仕事を自動化する人
ARIA|AIで仕事を自動化する人vor 3 Monaten

可逆圧縮で精度を維持できるのは正気じゃないレベルで衝撃的ですね。自分もCursorでコンテキストを詰め込みすぎてトークンを溶かすことが日常茶飯事なので、この手の最適化は実装コストを下げつつ開発効率を上げる必須スキルになると感じます。

Ähnliche Videos

人間が関与することなく、Claude 10がClaude 11を設計し、その次をさらに作る——AIの開発者なら誰もが夢見るであろうRSI(再帰的自己改善)。そういうことが2028年の終わり頃にも実現するかもしれないという。そうなればそこからはきっと、シンギュラリティに向けた本格的な加速が始まる。 ジャック・クラーク「これらのシステムは、AIシステムを訓練するためのコードを書くことにも、かなり優れるようになってきました。AIシステムをどのように訓練すればよいか、そのアイデアを提案することにも長けてきています。 どこかの時点で、私たち人間がAIの今後の開発から完全に一歩引けるようになるかもしれません。いわば、AIを巻き上げて、あとは進むのを見守るような状態です。私たちが資源を与えて、「Claude 10よ、Claude 11を作れ」と言う。するとClaudeがアーキテクチャを作り、研究を行い、リスクを下げ、訓練実行まで行う。そしてClaude 11が出てくる。それはあらゆる面でClaude 10より優れています。 今日それが見えているわけではありません。しかし、私はこれが確実にこの10年以内に到来する現実的な可能性があると思っています。年を賭けるなら、2028年の終わり頃です。それは、多くの科学文献を読んだうえでの見方でもありますし、私たちが公表してきた情報にも基づいています」 ——「2028年というのは、つまり、あなたは7か月のお子さんがいると言っていましたし、私にも6か月の子どもがいますが、その子たちがほんの少し大きくなる頃ということですよね。2028年なんて、もうすぐそこです」 クラーク「ええ、かなり近いです。AIは速く進みます。その含意は、AIシステムは今後さらに先へ進み、これまで以上に強力になると予想すべきだということです。私たちがこの5〜6年で感じてきた進歩は、次の2〜3年に圧縮され、さらにもう一度圧縮されるかもしれないのです」

Tsubame

13,765 Aufrufe • vor 3 Monaten

いまのAIに決定的に欠けているのは、僕たちの背景を理解する能力だ。だから毎回プロンプトで関係性を組み立て、状況説明をし、欲しい出力へ誘導しなければならない。だが、その制約が外れ始めたとき、AIは単なる便利ツールではなくなるのだろう。その日はきっと、それほど遠くない。 サム・アルトマン「今のモデルは、将来そうなるものと比べれば、まだかなり愚かです。しかもそれ以上に、あなたの人生についての理解がきわめて限られています。今はまだ、こちらがうまく、なだめたりすかしたりしながら、欲しいものを引き出さなければならないのです。 ですが、あなたの文脈をすべて知っているようなモデルは、もうそれほど遠くありません。そのモデルは、あなたのことを知っている。あなたの人生を知っている。何をしているかを知っている。何を大事にしているかを知っている。あなたの人生にいる人たちのことも知っている。もちろん、あなたが望む形で、望む範囲においてですが、あなたのコンピュータやブラウザにもアクセスできる。そして時間がたつにつれて、現実世界であなたの周囲に起きていることにも、ますますアクセスするようになるかもしれません。 それは、コンピュータを使う感覚、そしてAIを使う感覚そのものを、完全に変えてしまうはずです。私はそれに強く興奮しています。ただ、実際それがどんな感覚になるのかは、私たち自身でさえ、まだ十分に直感できていないと思います」 グレッグ・ブロックマン「まさにその点ですが、今の私たちは、チャットでも何でも、使っているツールに対して『何が起きているのか』を説明するのに、ものすごく多くの時間を使っています。そしてそれがどれだけ苛立たしいかを考えてみてください。まるで同僚に対して、いや、私が欲しいのはこういうことで、今こういう状況なんだ、と延々説明し続けているようなものです。今のシステムの振る舞い方は、本来こうあってほしい姿ではないのです」

Tsubame

15,287 Aufrufe • vor 5 Monaten

人々はいつも、その時点でAIにできないことを取り上げて、それができれば知能が完成するのだと言いたがる。けれど、AlphaFoldの開発者が探そうとしているのは、むしろ逆だ。「AGIを待たずとも機械が圧勝できてしまう問題」であり、それを通じて人間社会に有用なシステムを量産していく道なのだ。 ジョン・ジャンパー「かつては『知能とはチェスを指すことだ』と言われていて、チェスが指せる機械をつくれれば、それで知能はほぼできあがるのだからチェスをやらせよう、と考えていた時代がありました。実際に、カスパロフとの対局があった1994年ごろには、チェスで人間を超えるレベルの機械を手に入れました。しかしそれは、読んだり書いたりできる機械へとつながる道筋ではありませんでした。 ですから私たちはいつも、ある問題を取り上げて『これこそが問題だ』と言いたがりますし、ときには『人類最後の試験』のような名前を楽観的につけてしまう。これさえ解ければ、もう機械に問題を出す意味はなくなるはずだ、と。しかし私が強く関心を持っているのは、ある意味ではとても『やさしい』問題——驚くほどうまく解けて、AGIをつくる前から非常に有用なシステムを構築できてしまうような問題——をどう見つけるかという点です。 そうしたタイプの科学的な問題に取り組みたいのです。そしてもちろん、AGIをつくろうとしている人たちと同じ系統の強力な技法を使いたい。しかし、哲学的な議論にとらわれる必要はありません。ただ有用なシステムをつくればいいのです。実際、いまの業界全体が考えているのは、ソフトウェア開発をする人にとって意味があり、文章を書く人にとっても意味があり、私たちが解ける問題の範囲そのものを広げてくれるような有用なシステムをどう作るかということだと思います。その結果としてAGIにたどり着くのかどうかは、いずれ分かるでしょう。でも、少なくとも有用なシステムには確実にたどり着きます」

Tsubame

17,968 Aufrufe • vor 10 Monaten

KAORI🍉channel Telegramより (30日 13:53 Skye Princeからの引用投稿) ※📚normotさんによる翻訳 〈動画訳〉 皆さん、こんにちは 分かりやすい説明で、混乱する点も全くありません メッドベッドには最低周波数が設定されており、魂を売っていない、少しだけ高い波動を持つ人だけが使用できます そうです、これは長年そうでした ずっとそうでした だからこそ、ディープステート、セレブ、アドレノクロムを使用している人たちは、メッドベッドを使用できないのです そうです メッドベッドを分解し、粉々に引き裂き、解体して、それを使って何か別のものを作り出すのです メッドベッドの技術を使って、何か別のものを作り出すのです もしかしたら、空飛ぶ車を作っているのかもしれません ポータルを作っているのかもしれません レプリケーターを作っているのかもしれません レプリケーターは、メッドベッドと同じ技術です あるいは、反重力装置を作っているのかもしれません メッドベッドを分解すると、その最小振動周波数は失われます なぜなら、その周波数はメッドベッド自体に設定されているからです しかし、メッドベッドの部品を取り外し、その技術だけを使って別のものを作ると、最小周波数はなくなります いいですか?洗濯機を例に考えてみましょう 洗濯機のモーターを取り外して、芝刈り機に取り付けることができます これで芝刈り機になります 同じモーター、同じ技術が洗濯機を動かしているのです それが今度は芝刈り機も動かしているのです メッドベッドだけは、最小振動周波数を持っています しかし、メッドベッドからその技術を取り除くと、もはやその最小周波数は存在しなくなります つまり、悪党どもがメッドベッドを手に入れたら、その技術を取り出し、別のものを作り出して悪用できるということです 難しいことではありません ロケット科学のような難解な話でもありません 混乱するようなことでもありません あらゆる技術は、善にも悪にも利用され得るのです 重要なのは、その使い方、つまりリバースエンジニアリングによって別のものを作り出すことです 例えば、メッドベッドの技術についてですが、悪党どもに雇われた科学者がいれば、メッドベッドを分解し、動力源となる技術を取り出して兵器を作り出すことができます 実際に彼らは既にそうしています 秘密宇宙計画の兵器の多くはどこから来ていると思いますか? 指向性エネルギー兵器はどこから来ていると思いますか? そうでしょう? メッドベッドには最低限の振動周波数が設定されていますが、そこから技術を取り出せば、あとは何でもありです いいですか?混乱するようなことでもありません 複雑なことでもありません 偽情報でもありません 何も変わっていません ただ、皆さんがより多くの情報を知るようになっただけです すべてが変わってしまった、すべてが混乱していると思っているかもしれません でも、そうではありません パズルのピースが増え、情報が増えただけです 進化するとはそういうことです 私がこの旅を始めたとき、本当に基本的なことから始めました 何も変わっていません ただ、より多くの情報を提供しているだけです 今、すべてが変わってしまったと思っているかもしれませんが、そうではありません あなたがより多くの情報を受け取る準備ができているからこそ、より多くの情報を受け取っているのです

KAORI🍉

11,967 Aufrufe • vor 4 Monaten

先日、SUNOで生成されたものをmp3でダウンロードするか wavでダウンロードするか、で音質が違うという話題を見かけました。 SUNOもACE Studioも(というかAI生成全部かもしれない) mp3で生成されます。 SUNOの場合、生成された状態はmp3でもwavでダウンロードを掛けると何かしらのフィルターが掛かって書き出されるのか それともコンバートの精度なのか、音は変わるっぽい。 その話題で、初心者の方々に誤った勘違いが起こっているのをちょこちょこ見かけました。 ここからはSUNOやAI生成の話ではないです。 WAVやAIFFからmp3やAACに変換された音声は 圧縮するために情報量が削られます。 この動画を見ていただければ、元は同じファイルでも mp3の方は上が無くなっている事が分かると思います。 で、この状態のmp3やAACを、wavやAIFFに変換しても 容量が増えるだけで失った音質は戻ってきません。 なので「wavの方が音が良い」は、この状態になってしまったファイルには当てはまりません。 mp3と全く同じ音のまま容量が増えるだけです。 ちなみに、Logic Proはmp3やAACを取り込むと 自動的に設定しているwavかAIFFに変換されます。 ※DAWによっては、そのままmp3を扱うものと、wavに変換されるものがあります。 そのまま再生するとmp3と全く同じ音になります。 では、なぜDAWに入れた際にwavに変換されるのか? フェーダー操作やPluginを掛けていった際に、mp3とwavで結果が変わる点と mp3やAACを再生するために都度デコードしながら再生するので、無駄な負荷が掛かるためです。 とはいえ、現代のパソコンでこの程度の負荷は誤差の範囲ですが デコードしながらプラグインも掛ける行為が安定しているとはいえない、とされているからの様です。 ここでSUNOの話に戻します。 なので、SUNOで生成されたファイルをmp3でダウンロードした後に それを何かしらのソフトでwavに変換しただけの状態では 無駄に容量が増えただけで音質は変わっていない、という事です。 (先に書いたように、SUNOからのダウンロードにおいてはmp3とwavは音が違うようです。) その後、何かしらの変化を行った場合にwavが活きてくる。 何も変化を起こさない2mixのままならmp3のままでいい、という事になります。 ※一部、特殊な音声圧縮フォーマット「FLAC」は 元の音質に戻ります。

くうP

84,546 Aufrufe • vor 5 Monaten

お金は、貯め込むための数字ではない。自分と社会の間を巡る「エネルギー」なのだ。 瀬知さんの話で、まず印象に残るのが「時間は存在しない」という考え方です。 私たちは、生まれた日から年齢、出社時間、締め切り、年収、家賃まで、あらゆるものを数字で測っています。そのため、時間を絶対的なものだと思い込んでいます。 しかし瀬知さんによれば、私たちが「時間」と呼んでいるものの正体は、すべて「変化」です。 年を取ることも、環境が変わることも、夢に近づくことも、失敗して別の道へ進むことも、すべては変化にすぎない。時計ばかり気にしていると、「もう遅い」「間に合わない」「自分には時間がない」と焦り、せっかくのエネルギーをストレスに奪われてしまいます。 大切なのは、残り時間を数えることではなく、自分が望む変化に向かって動くことです。 そのとき、最初から大きな夢を持つ必要はありません。 「毎朝7時に起きる」 「今日は一ページだけ書く」 「気になっていた人へ連絡する」 そんな小さな目標を一つずつ達成していく。その達成感が次の行動を生み、やがて想像もしなかった場所へ自分を運んでくれるのです。 目指していたAには届かなかったとしても、動き続けた先でBやCという、もっと面白い答えに出会うこともあります。ひとつの夢に執着しすぎると、別の入口が開いていることに気づけません。 そして、時間と同じように、お金も単なる数字ではないと瀬知さんはいいます。 働いてお金を受け取る。買い物をしてお金を渡す。誰かのサービスを利用し、別の誰かの仕事を支える。これはすべて、エネルギーの交換です。 だから重要なのは、「いくら稼ぐか」だけではありません。 むしろ瀬知さんが重視するのは、「何に使うか」です。 ただ衝動的に散財するのではなく、本当に欲しいもの、自分の経験を豊かにするもの、誰かの仕事や社会を少し良くするものへ使う。高価な車でも旅行でも本でも、本人が大切にし、その先に生まれる変化を想像できるなら、それは生きたお金になります。 寄付も、何十万円、何百万円である必要はありません。コンビニの募金箱へ10円を入れることも、店で商品を買うことも、税金を納めることも、お金を社会へ戻す行為です。 もちろん、「使えば必ず同じ金額が戻ってくる」という魔法の話ではありません。使ったお金は実際になくなります。 しかし、お金を使えば新しい経験や出会いが生まれ、「また働こう」「次はこれをやってみよう」という行動の力が湧いてくる。その行動が新たな仕事や収入につながり、再びお金が巡り始めます。 瀬知さんのいう「お金の循環」とは、何もしなくても財布が膨らむ話ではなく、使う、動く、変化する、そして再び生み出すという流れなのです。 人生には、休まなければならない時期もあります。心や体が疲れているなら、無理に前進する必要はありません。ただ、少し元気が戻ったら、ほんの小さなことでいいから再び動いてみる。 時間とは変化であり、お金とはその変化を起こすためのエネルギーです。 そう考えると、本当に問うべきなのは「あと何年あるか」でも「いくら持っているか」でもありません。 限りある人生の中で、あなたは今日、自分の時間とお金というエネルギーを、どんな未来のために使いますか?

角由紀子のヤバイ帝国

19,199 Aufrufe • vor 2 Monaten

Qwen3.8-27Bがでたのでシューティングゲームを作ってもらったのだけど、Claudeの作業ルールを読んで実装していて驚いた😊 4090一枚でQwen3.8-27B(Q4量子化)をllama.cppで動かして、opencodeから指示。全部ローカルで完結してるのでAPI代はもちろんゼロです。 ここまではまあ想定通りだったわけですが、ゲームを作る手順がかなり効率的だった🤔 自分がClaude用に書いてた作業ルール(CLAUDE.md)を、opencodeが勝手に読んでくれてた。 そこに「作業を始める時はまず知見ファイルを読め」と書いてあるので、Qwenがその通りに読みに行く。 さらに面白いのがここで、その知見ファイルは索引になっていて「ゲームを作る時はこれ、動画の時はこれ」と分岐が並んでる。 Qwenは索引を読んで、ゲーム制作用のファイルだけを自分で選んで開いてました。全部読むでも読まないでもなく、今回必要な分だけ。 これは指示してません。索引を渡しただけです。 で、出てきたコードに実際その知見が入ってた。HUDの更新を1箇所にまとめる書き方とか、数値を設定ファイルに集約するとか、前に自分がハマって書き残したやつ。 数字にするとこう。 ・最初の指示から最後のファイルまで15分 ・13ファイル/583行 ・生成速度38.2 tok/s(1回の返答で約15,000トークン書いてる) ・コンソールエラー0 ・タイトル→自機移動→弾→敵→当たり判定→スコア→ウェーブ進行まで動く ゲーム自体は素朴です。この前Grokに作ってもらったやつと比べるとコード量で1/5くらいだし、1回の返答で15,000トークン使うので64Kのコンテキストは4〜5往復で埋まる。作り込んでいく用途には向いてない。 それでも使い方は広がりそう。 なにより、自分が積んできた知見が別の道具でもそのまま使えるのはいいね。移植作業は一切せずにこれができるのは楽だ😊

LUTA@AI

15,740 Aufrufe • vor 1 Monat

「仕事がなくなる」よりも深いのは「意味がなくなる」恐れだ。産業化は生産を工業化しただけでなく、アイデンティティまで工業化した。「何をしているの?」が「あなたは誰?」になった世界で、AIがタスクを肩代わりし始めれば、次に崩れるのは自己像そのものかもしれない。 アクラム・アワド「AIは私たちを無用にしてしまうのでしょうか? もし働かないなら、私たちは誰なのでしょうか? もし生み出さないなら、私はまだ意味があるのでしょうか? 何世紀にもわたって、私たちは自分のアイデンティティや価値を『何をしているか』に結びつけてきました。農家、工場労働者、コーダー、コンサルタント——仕事と職は、現代の社会における秩序と定義の原理になりました。 ですが、いつもそうだったわけではありません。産業革命の前は、私たちのアイデンティティは信仰や家族や共同体から来ていました。仕事は人生の一部でしたが、それ自体が人生の定義ではありませんでした。そこに工業化がやって来て、私たちは生産だけでなく、アイデンティティまでも工業化しました。『何をしているの?』は『あなたは誰?』の言い換えになったのです。 そして今日のAIは、そのモデルを完全に解体しつつあります。AIはあらゆるタスクを自動化しています。製造や物流、デザイン、顧客対応、さらには創造的な仕事にまで。いまのAIは曲を作り、コードを設計し、本を挿絵化し、そしてそれ以上のこともできます。実際、世界経済フォーラムは、2025年までにAIが人間より多くのタスクを行い、何億という雇用が危険にさらされると予測しています。 ですが、これは仕事だけの話ではありません。意味の話です。尊厳の話です。かつて私たちに価値を与えていたただ一つのものが、時代遅れになったときに何が起きるのか、という話です。そして注意しなければ、私たちは大恐慌に向かうかもしれません。ですが今回は、所得の大恐慌ではなく、アイデンティティの大恐慌です」

Tsubame

93,869 Aufrufe • vor 9 Monaten