ガードレール（AI）とは？
ガードレールとは、生成AIやAIエージェントの出力・行動が、あらかじめ定めた許容範囲を逸脱しないように制御する安全機構のことです。 道路の脇に設けるガードレールが車両の逸脱・転落を防ぐように、AIが不適切な回答を生成したり、許可されていない操作を実行したりすることを防ぐ目的で組み込まれます。
代表的な仕組み
ガードレールには、入力内容をチェックして不正な指示（プロンプトインジェクションなど）を検知・遮断する仕組み、出力内容が不適切・機密情報を含んでいないかを確認してから返す仕組み、AIエージェントが実行できる操作の範囲（アクセスできるデータ、実行できるツール）をあらかじめ制限する仕組みなどがあります。これらを組み合わせることで、ハルシネーションを含む出力や意図しない操作のリスクを抑えます。
ビジネスでの使いどころ
AIエージェントに業務システムの操作権限を与える際、金額の上限や操作対象のデータ範囲をガードレールで制限しておくことで、誤った判断による重大な影響を防ぎやすくなります。AIエージェント構築サービスを選定する際は、キーワードベースの単純なチェックだけでなく、AIによる文脈判断を組み合わせたガードレール機能を提供しているかが比較のポイントになります。