3ビットの箱が、9000億ドルの半導体売りを引き起こした — そして、それが実際に何を意味するのか。

2026年3月25日、奇妙なことが起きた。サムスンが下がり、マイクロンが下がり、ウェスタンデジタルが下がり、SKハイニックスが下がった。一日で、世界のメモリチップ産業は合計9000億ドルの時価総額を失った。

なぜ？ Google Researchの論文が、あまりに良すぎて信じがたい主張をしたからだ：「チャットボットをメモリの6分の1で動かす方法を見つけた。しかもチップを再設計する必要もない」。その論文のタイトルはTurboQuant。なぜこれが衝撃波を起こしたのか、そしてなぜあなたが半導体投資家でなくても気にする必要があるのかを説明する。

誰も語らない問題

AIと会話するたびに — ChatGPTにフォローアップの質問をし、Claudeの会話を続け、タブを切り替えて戻る — モデルはあなたがそれまでに言った全てを記帳し続けている。文脈を理解するために必要だ。この台帳をKVキャッシュと呼ぶ。

KVはキー（key）とバリュー（value）の略だ。まるで、タイプするたびにモデルが書き込み続けるホワイトボードのようなものだと考えてほしい。会話が長くなるほど、このホワイトボードの使用量は増える。

問題は、このホワイトボードがとても大きなコストだということだ。128トークンのメッセージでも、キャッシュだけで1GBのGPUメモリを使う可能性がある。長い会話なら、40GB、80GB、あるいはそれ以上になる。そしてそれはユーザーごと、セッションごとに同時にスケールする。

スケールでAIを運用している企業 — 毎日何十億ものリクエスト — にとって、KVキャッシュはインフラ予算の最大の項目だ。モデルでもなく、電気代でもなく、メモリ。

ロングコンテキストのAIの上に何かを構築しているなら、あなたはメモリ危機の上に家を建てているようなものだ。

Googleが実際にやったこと

KVキャッシュを16ビットから3ビット強に圧縮する — AIの精度を落とさずに。

TurboQuantは3つのステップでこれを行う：

1. ベクトルを回転させる（ランダムローテーション）。 データは別の方向に回転される。山札を切ってスートの分布をより均一にするようなものだ。これにより、その後の圧縮がクリーンになる。

2. 効率的に量子化する（PolarQuant）。 標準的な量子化手法は、追加の「スケーリング係数」を保存する必要がある。これがオーバーヘッドを加えるため、「4ビット」とうたう手法が実際には4ビットでないことが多い。PolarQuantは、ベクトルを極座標（角度＋大きさ）で再表現することでこのメタデータを不要にする。

3. 計算誤差を補正する（QJL）。 ベクトルを3ビットまで圧縮すると精度を失う。通常、これはアテンション計算を狂わせる原因になる。QJL（量子化ジョンソン・リンデンストラウス）は、1ビットの補正信号を加えてドット積推定の精度を保つ。

結果：メモリ6分の1、精度の低下なし、再学習不要、どんなトランスフォーマーモデルにも適用可能。

数字で見る

標準KVキャッシュTurboQuant（3.5ビット）
メモリ使用量1倍約6分の1
精度ベースライン同等
速度（H100）ベースラインアテンション計算で最大8倍高速
必要な設定なしなし
対応モデルFP16の重みあらゆるモデル

GoogleはGemma、Mistral、Llamaモデルで、標準的なロングコンテキストベンチマーク（LongBench、Needle in a Haystack、RULER、L-Eval）を用いてテストした。3.5ビットでは品質中立、2.5ビットで初めてわずかな低下が見られた。

なぜ株価が暴落したのか

メモリ産業はHBM（ハイバンド幅メモリ）を販売している — H100などに使われるプレミアムメモリだ。AI推論が突然ユーザー1人あたり6分の1のメモリで済むなら、HBMの需要予測は変わる。投資家はパニックになり、株が売られた。

しかし市場が見落としたニュアンスがある：メモリの需要問題は、効率改善よりも速く育つ。あるアナリストの言葉を借りれば：「トヨタが新しいハイブリッドを出したから、Aramcoが暴落すべきだと言うようなものだ」。

それでも方向性は本物だ。ソフトウェアの効率化が勝っている。

これが実際に変えること

AI企業にとって。 推論コストが下がる。長いコンテキストをより低コストで扱える。1つのGPUでより多くのユーザーにサービスを提供できる。TurboQuantがvLLMやTensorRT-LLMに組み込まれれば、AIアシスタントのコスト構造は大幅に改善される。

ローカルAIユーザーにとって。 コミュニティの開発者らはすでにllama.cppとMLX（Apple Silicon）に移植済みだ。Ollamaにもマージ待ちのPRがある。これらが降りてくれば、24GBのGPUで5倍のコンテキストを扱えるようになる。

AI産業にとって。 TurboQuantは、規模の競争と同じくらい効率の競争が重要になる可能性を示唆している。次のブレークスルーは、既存のモデルをより良く走らせることから生まれるかもしれない。

注意点

Googleは公式の実装を出していない。論文は本物、ICLR 2026のポスターも本物だが、プロダクション品質のコードは今のところコミュニティ実装だ。そして8倍高速という主張は、H100におけるアテンション・ログット計算についてのもので、エンドツーエンドの推論スループット全体ではない。

ETHチューリッヒのRaBitQチームからは、比較方法が不公平だという盗作疑惑も出ている。未解決だ。

ハイライト

プロダクションコードを一行もリリースする前に半導体を暴落させる研究をGoogleが出したなら、その問題は本物だったということだ。KVキャッシュのメモリ壁は本物であり、それを突破する競争は今、急展開している。