AI Security

生成AIを、安全に使う。安全に守る。

社内向けのAIツールを安全に公開する設計と、自社のAIサービスを外部の脅威から守る設計。Cloudflare AccessによるVPNなしのゼロトラスト構成、LLMアプリのプロンプトインジェクション対策、AIクローラーからサイトを守る制御まで——2026年時点の公式情報にもとづいて実務の型を記録するメディアです。

この6本の記事で扱う論点※ 各記事で扱う内容を、短いフレーズにしたものです

記事一覧

Runtime Sandbox

AIエージェントのサンドボックス設計｜workspace・通信・認証情報を分離する

AIエージェントの実行環境を、workspace、network egress、credentials、承認、監査に分け、被害範囲を閉じる設計を解説します。

Delegated Identity

AIエージェントの代理実行ID設計｜利用者・agent・toolの権限を一つのtokenに潰さない【2026】

"AIエージェントが業務ツールを代理実行するとき、利用者、agent実行体、下流サービスのIDを分ける設計を解説。短命token、audience、scope、on-behalf-of、監査を組み合わせ、共有admin権限を避けます。"

Memory Isolation

AIエージェントの記憶を汚染させない｜保存前検証・tenant分離・期限・出所を分ける設計【2026】

"AIエージェントの長期記憶を、将来の命令入力として扱わないための設計を解説。保存前検証、user・tenant・session分離、出所と信頼度、保持期限、改ざん調査を分け、memory poisoningと越境漏えいを抑えます。"

Tool Authorization

AIエージェントのtool検証設計｜JSON schemaの後に、認可・業務制約・確定記録を置く【2026】

"AIエージェントが生成したtool引数を安全に実行するために、JSON schema、現在の認可、業務上の前提条件、冪等性・監査を分ける設計を解説。OpenAI・Anthropic・MCPの仕様差と、schemaだけでは止められない事故を整理します。"

AIエージェントのレッドチーム設計｜promptだけでなく権限・tool・実行環境を検証する【2026】

"AIエージェントを本番導入する前のレッドチーム設計を解説。攻撃シナリオを、入力、データ、tool権限、実行結果の四境界に分け、再現可能な評価・修正・再試験へつなげる方法を整理します。"

Generative AI DLP

生成AIのDLP設計｜入力・出力・検索・ログで機密データを止める【2026】

"生成AIで機密データを扱うときのDLP設計を解説。prompt、RAG・web検索、回答、監査ログの四つの境界で、検知・遮断・マスキング・例外運用を分ける方法を整理します。"

Agent Audit Log

AIエージェントの監査ログ設計｜「誰が、何を、なぜ実行したか」を後から復元する【2026】

"AIエージェントの事故・誤操作を後から追える監査ログの設計を解説。実行主体、tool、承認、外部効果を結ぶ相関IDと、プロンプトを無制限に保存しない最小データ化を整理します。"

RAG Authorization

RAGの権限漏れを防ぐ｜namespace・metadata filterを認可情報から作る【2026】

RAGで他社・他部署の文書を検索結果へ混ぜないために、Vectorizeのnamespaceとmetadata filterを認証済みの認可情報から組み立てる設計を解説。検索後の再認可と更新時の注意点も整理します。

Cost Abuse Controls

LLM APIの高額請求を防ぐ｜rate limit・spend limit・tool予算を分ける【2026】

生成AIの高額請求や可用性低下を防ぐために、request数、実費、エージェントのtool実行回数を別々に制御する設計を解説。Cloudflare AI Gatewayのrate limit・spend limitの適用範囲と限界も整理します。

MCP Authorization

MCPサーバーのOAuth認可設計｜resource・scope・トークン再利用をどう防ぐか【2026】

リモートMCPサーバーを安全に接続するために、OAuthのresource、scope、Protected Resource Metadata、短命token、DPoPをどう使い分けるか。配布元確認とは別の実行時認可を整理します。

MCPサーバーのサプライチェーン対策｜導入前に確認する配布元・署名・更新

MCPサーバー導入時にRegistry掲載だけで安全と判断せず、配布元、版・digest固定、SBOM、来歴、権限、sandboxを確認する手順を解説します。

AIエージェントのSSRF対策｜URL取得ツールを安全にする設計【2026】

AIエージェントのURL取得ツールをSSRFから守るためのURL正規化、IP検査、redirect制御、egress分離、監査を解説。

Agentic AI Security

AIエージェントの承認ゲート設計｜どの操作を人が止めるべきか【2026】

AIエージェントの外部送信・更新・削除・支払いを人が承認するためのリスク分類、承認画面、期限、監査、fail-close設計。

ゼロトラスト / Zero Trust

社内ツール・管理画面をVPNなしで守る｜Cloudflare Accessによるゼロトラスト構成【2026】

VPNを増やさず、IdP連携・ポリシー・Service Token・監査ログでリクエストごとに人を確認する構成を設計する。

LLMセキュリティ / LLM Security

LLMアプリのプロンプトインジェクション対策｜Cloudflareのガードレール機能で何を防げるか【2026年8月版】

直接注入・間接注入・機密の吸い出しを整理し、ガードレールで防げる範囲とアプリ側の設計でしか防げない範囲を切り分ける。

クローラー対策 / Crawler Control

AIクローラーからサイトを守る｜robots.txtの限界とCloudflareでの制御【2026】

robots.txtは「お願い」に過ぎない。主要AIクローラーの実態と、実効的な制御方法・判断軸を整理する。

法人審査 / Security Review

AI SaaSが情シスのセキュリティ審査を通るために実装したこと｜監査ログ・削除権・アカウント管理

監査ログや削除機能は「ある」だけでは評価されない。顧客が自分で確認・実行できる状態にするまでを、本番実装から書き出す。

シークレット管理 / Secrets

APIキーを.envに置かない｜Cloudflare Workersでのシークレット管理と、AIエージェント時代の前提

gitignoreはgitの追跡から外すだけで、読み取り権限には関与しない。AIがローカルを読む前提での置き場所を決める。

データ保持 / Data Lifecycle

AIが扱う音声・個人情報をどう保持し、どう消すか｜Cloudflare R2でのデータライフサイクル設計

署名付きURLでの期限つき配布、Object Lifecycleによる自動削除、Bucket Locksとの優先順位の落とし穴までを設計する。

このメディアについて

「AIセキュリティ・ラボ」は、企業の生成AI導入・活用を支援する株式会社TechWorkerが運営するメディアです。内製AIツールを社内で安全に使うための設計と、自社のAIサービスを外部の脅威から守るための設計を、実務の型として発信しています。

内製AIツールのセキュリティ設計についてのご相談はこちらから承っています。