プロンプトインジェクションとは？
プロンプトインジェクションとは、悪意のある指示文（プロンプト）を紛れ込ませることで、生成AIに開発者や利用者が意図しない動作をさせる攻撃手法のことです。 チャットへの直接入力だけでなく、AIが参照するWebページや文書に指示を埋め込む方法もあり、企業がAIを業務システムに組み込むうえで無視できないリスクの一つとされています。
直接型と間接型
- 直接プロンプトインジェクション — チャット画面などから、攻撃者が直接AIに悪意ある指示を入力する
- 間接プロンプトインジェクション — 攻撃者があらかじめWebページ・メール・文書などに指示を埋め込んでおき、RAGやAIエージェントがその内容を参照した際に、意図せず実行してしまう
IPA（独立行政法人情報処理推進機構）が公開した「AIセーフティに関するレッドチーミング手法ガイド」（2024年9月25日公表）でも、直接プロンプトインジェクションはLLMシステムへの代表的な攻撃手法の一つとして取り上げられています（出典: IPAプレスリリース）。
ビジネスでの使いどころ・対策
社内文書を検索して回答するRAGベースのチャットボットや、Web閲覧・メール送信などのツールを操作するAIエージェントを導入する企業ほど、外部からの間接プロンプトインジェクションのリスクに注意が必要です。代表的な対策には、AIに渡す外部情報を信頼できる範囲に限定すること、AIエージェントに与えるツール操作の権限を必要最小限にとどめること、重要な操作の前に人が確認するステップを挟むことなどがあります。こうした対策は、社内のAIガバナンス体制の一部として整備するのが実務的です。