Infrastructure

AIプロダクトを、本番で動かす。

Cloudflare Workers・Workers AIで、AIプロダクトを本番運用する実務を発信します。デプロイで踏んだ設定の罠、外部APIを使わない音声文字起こしの実装、情シス審査を通すために踏んだ監査ログ・データ削除の実装まで——自社開発のAIプロダクトを実際に動かしながら得た知見を、設定ファイルと実装コードの実物とともに記録するメディアです。

この3本の記事で扱う論点※ 各記事で扱う内容を、短いフレーズにしたものです

記事一覧

生成AI APIのデータ所在地設計｜保存・推論・ツール・ログを分けて確認する

生成AI APIのデータ所在地を、保存、推論処理、RAG、外部ツール、ログ、キャッシュに分けて確認する設計を公式資料から整理します。

LLMのprompt cacheを効かせる設計｜安定prefix・TTL・ヒット率を分ける本番運用【2026】

"LLMのprompt cacheを、応答キャッシュと混同せず本番運用する方法を解説。安定prefix、動的入力、tool定義、TTL、providerごとの差、cached tokensの測定を分け、コストと初回応答待ちを改善します。"

429 Load Control

AI APIの429を「再試行」で増幅させない｜レート制限・課金上限・過負荷を分ける負荷制御設計【2026】

"OpenAI・Anthropic・Cloudflare AI Gatewayの仕様を踏まえ、AI APIの429を一律リトライせず、待機可能なレート制限、復旧待ちの課金上限、上流過負荷を分けて扱う本番設計を解説します。"

Streaming Reliability

LLMストリーミングの中断設計｜途中表示を「完了」と扱わない、Abort・再接続・tool実行の分離【2026】

"LLMの逐次表示を本番運用するために、表示用stream、生成完了、利用者の中断、再接続、tool実行を分けて設計する方法を解説。OpenAI・Anthropic・Cloudflare Workersの仕様差と、二重実行を避ける最小構成を整理します。"

AI基盤のモデル切替設計｜品質・schema・toolを壊さないルーティングとfallback【2026】

"AI基盤でモデルを切り替えるときに、コストや可用性だけで判断しないための実務を解説。用途別ルーティング、固定version、構造化出力・tool互換性、fallback後の再判定、変更評価を整理します。"

Agent Evaluation

AIエージェントの品質劣化を止める｜評価セット・リリース判定・本番監視の設計【2026】

"プロンプト、モデル、toolを変えたときにAIエージェントの品質を落とさないための評価設計を解説。業務別評価セット、機械判定と人の校正、リリース判定、本番監視を整理します。"

Durable Workflow

AIエージェントの長時間実行を止めない｜承認待ち・再試行・状態を残すワークフロー設計【2026】

"AIエージェントの長時間処理や承認待ちで、処理状態を失わないためのワークフロー設計を解説。Queue・Durable Objectsとの役割分担、冪等性、再試行の限界まで整理します。"

RAGの更新を止めない｜source revision・upsert・index versionを分ける【2026】

社内文書が更新・削除された後もRAGが古い内容を返し続けないために、source revision、chunk ID、upsert、削除、index versionをどう分けるか。Cloudflare Vectorizeの更新特性を踏まえて解説します。

Durable Coordination

AIエージェントの同時実行を制御する｜Durable Objectsで会話の二重実行を防ぐ【2026】

同じ会話からAIエージェントを二重に走らせないために、Cloudflare Durable Objectsを会話単位の調整役として使う設計を解説。永続化、外部I/O、過負荷、休止からの復帰を分けて考えます。

Agent Observability

AIエージェントの障害を追跡できるログ設計｜trace ID・OpenTelemetry・AI Gatewayをつなぐ【2026】

AIエージェントの遅延・失敗・コスト増を追跡するために、request ID、job ID、trace ID、Cloudflare Workers、AI Gatewayのログをどう分けて結ぶか。プロンプトを残し過ぎない実務設計を解説します。

Cloudflare AI Gateway

Cloudflare AI Gatewayのキャッシュ安全設計｜cache key・TTL・DLPをどう分けるか

Cloudflare AI Gatewayのキャッシュでテナント間漏えいと古い応答を防ぐため、cache key、TTL、DLP、観測性の設計を解説します。

Cloudflare Queues

Cloudflare QueuesでAIジョブを非同期化する｜再試行・DLQ・冪等性の設計【2026】

Cloudflare QueuesでAIジョブを非同期化し、重複配信、再試行、DLQ、監視を本番運用できる形にする設計を解説。

Cloudflare Workflows

Cloudflare WorkflowsでAI処理を耐障害化する｜step・再試行・承認待ち【2026】

Cloudflare Workflowsで複数段階のAI処理を耐障害化する。step分割、再試行、状態永続化、承認待ち、Queuesとの使い分けを解説。

運用の罠 / Pitfalls

Cloudflare Workersの本番運用で踏んだ罠5つ｜routes継承・Authentication error 10000・cron未反映【2026】

ローカルでもCIでも動いたのに、本番では設定が効いていない。実際に踏んだ5つの罠を、wrangler.tomlの実物とともに記録する。

実装 / Implementation

Workers AIで音声文字起こしを本番実装する｜外部APIを使わずCloudflare内で完結させる構成

音声をどこへ送るかは、実装の都合ではなく審査の結果を決める。Workers AIとR2だけで完結させる構成を、実装コードから解説する。

法人審査 / Enterprise Review

情シス審査を通すために実装したこと｜監査ログ・データ削除・パスワード変更の作り方【2026】

審査で止まる理由は毎回だいたい同じ場所にある。自社SaaSで塞いだ穴と、まだ塞いでいない穴を実装の構造ごと記録する。

このメディアについて

「AI基盤ラボ」は、企業の生成AI導入・活用を支援する株式会社TechWorkerが運営するメディアです。Cloudflare Workers・Workers AI上でAIプロダクトを開発・運用する中で得た知見を、デプロイ・監視・法人審査対応の実務として発信しています。

生成AIプロダクトの本番運用についてのご相談はこちらから承っています。