知っておきたいAIキャッシュ——入力Tokenの命中価格が安い理由

知っておきたいAIキャッシュの話

大規模モデルの料金は、主に入力Tokenと出力Tokenで理解しやすいです。では「入力Tokenのキャッシュ命中価格」とは何か。

上図はDeepSeekの英語料金ページで、キャッシュ命中の入力は未命中より大幅に安い——記事執筆時点のFlash例ではキャッシュ命中が未命中の数十分の一です。なぜこれほど差があるのか。キャッシュを活用して費用を下げられるのか。

ある記事を読んで整理できたので、共有します。

（1）入力に課金される理由

使うときはまずプロンプトがあります。モデルはTokenに分解し、ベクトル化し、Token間の注意関係を計算します。この段は算力を大量に使うため、入力Tokenに料金が付きます。プロンプトが長いほど、入力費用は上がります。

（2）入力キャッシュの役割

多ターン対話や長時間タスクでは、各ラウンドで過去の入出力を再度渡します。追加される「接頭辞」は前回すでに処理済みです。毎回再計算する必要はなく、過去の結果をキャッシュして再利用できます。

これがキャッシュの意義で、不要な算力を大幅に削減し、処理も速くなります。安い理由もここにあり、命中すればほぼ算力を使わず、実質は保管スペースへの課金に近いからです。

（3）キャッシュの有効期限

長期保存に意味はなく、しばらく使われないとサーバは削除します。前掲記事の計測では、保存時間は社ごとに異なります。

• Anthropic：5分
• DeepSeek：10分
• OpenAI：10〜30分で段階的に失効
• Google：1時間以内で段階的に失効

DeepSeekなら10分以内は有効で命中料金。間隔が10分を超えると削除され、再計算になり未命中料金に戻ります。

（4）キャッシュを生きたまま保つ

命中と未命中の価格差が大きいため、AIエージェントはキャッシュ寿命を延ばそうとします。長時間操作も退出もないとき、多くは30秒ごとにリクエストを送り、キャッシュを活性状態に保ちます。専用の活性化APIがあるモデルもあれば、ない場合は過去プロンプトの再送という力技もあります。

ただし活性化自体にも費用がかかります。30秒に1回なら、10分無入力で20回。長時間続けると無視できません。最短でも5分は持つ現状なら、30秒間隔は過剰で、最新の勧告では4分に1回程度の活性化でよい、とされています。

これからどう見るか

キャッシュ料金は、AI労働が「無料に見える」一方で、運用の設計判断がコストを決めることを示します。一人会社は、出力の量ではなく、プロンプト設計とキープアライブ間隔のような小さな価格決定力でレバレッジを取れます。情報は安いが、どこに何円使うかの独立した判断は売れる——小さな池で深い井戸を掘る、典型的な局面です。