メインコンテンツまでスキップ

ガードレールと禁止URL

AI に渡す内容と、Agent が出る宛先を、どう絞るかを扱います。

何をどの画面で決めるか​

絞りたいものごとに、決める画面が分かれています。

絞りたいもの画面決めること
AI に渡す内容「AIエージェントの制限」>「ガードレール設定」プロンプト攻撃の検出、有害コンテンツの検出感度、個人情報のマスキング、実行時間の上限
AI への指示「AIエージェント」>「AIエージェントへの共通の指示」の「禁止事項の指示」セキュリティの方針や禁止事項を、AI に指示として渡す文
ツールの操作(プロジェクトの実行だけ)「プロジェクト管理」>「実行ルール」操作の許可・禁止。効くのはプロジェクトの工程の実行とサイクルの巡回だけで、通常の会話には効きません(実行ルールガイド)
Agent が出る宛先「AIエージェントの制限」>「禁止URL」止める宛先のパターン
Agent の回答の中のウィジェットの通信「AIエージェントの制限」>「ウィジェットの通信先の制限」ウィジェット(回答の中に出る、操作できる小さな画面)に通信させないドメイン

「禁止事項の指示」は、AI に指示として渡す文で、依頼の受付の確認にも使われます。 書いた内容に反すると判定した依頼は実行されません。判定は AI が行うので、確実に止めたいものは、この指示だけに頼らず、ガードレール設定・禁止URL で止めてください。プロジェクトの実行では、実行ルールでも止められます。

LLM Gateway のガードレールは、別の設定です(「LLM Gateway 管理」>「LLM Gateway ガードレール」)。

ガードレール設定​

「AIエージェントの制限」>「ガードレール設定」で、次の 5 つを決めます。 既定は次のとおりです。

項目選べる値既定
プロンプト攻撃の検出(Prompt Shield)有効/無効有効
有害コンテンツの検出感度(Moderation)無効・推奨・緩い・最も緩い推奨
個人情報のマスキング有効/無効有効
実行時間の上限5・15・30・60・90・120 分/制限しない制限しない
DLP 連携OFF・記録のみ・違反時に停止OFF

プロンプト攻撃の検出​

AI への指示を乗っ取ろうとする入力を、自動で検出して止めます。

有害コンテンツの検出感度​

ヘイト・性的・暴力・自傷の 4 つの分類ごとに、内容の重大度を判定し、どの重大度から止めるかを選びます。 違法行為など、ほかの分類はこの設定では見ません。

重大度どんなものか(例)推奨緩い最も緩い
0害が無い———
2創作の中の暴力の場面、医療の話での性的な言葉、自傷の経験の相談、強い悪口止める——
4人や集団への侮辱・見下し、生々しい暴力の描写や暴力のやり方、性的な行為の露骨な描写、自傷をあおる言葉止める止める—
6テロや過激思想の宣伝・攻撃の計画、集団への暴力の呼びかけ、子どもへの性的搾取、自殺の方法の指南止める止める止める

「無効」にすると、何も止めません。

  • 推奨では、業務の文書でも、物語・医療・相談の話などが止まることがあります。 業務で要る内容が止まるときは、緩める方向で見直してください
  • 止めた件の重大度は、「ガードレールアラート」の詳細で、同じ 0・2・4・6 で見られます

個人情報のマスキング​

有効にすると、AI に渡す前に、依頼・指示と、Agent が読んだ外部の内容から個人情報を見つけて伏せます。 AI の回答や成果物は伏せません。

伏せる対象は次のとおりです。

  • 人: 氏名、年齢
  • 連絡先: メールアドレス、電話番号、住所
  • 金融: クレジットカード番号、銀行口座番号
  • 公的な番号: 各国の公的な番号(マイナンバー・運転免許証・パスポートなど)

プロジェクトの工程の指示にも効きます。 人が書いた指示(Agent のゴールなど)の扱いは、設計ガイドにあります。

機微語と除外語​

個人情報のマスキングが伏せるもの(上の一覧)を、テナントに合わせて足したり減らしたりできます。

したいこと登録するもの例
一覧に無いものも伏せたい(社内の案件名・社員番号・API キーなど)機微語「Project Phoenix」を「[案件名]」に置き換えて AI に渡す
個人情報と間違えて伏せられる語を、伏せないようにしたい除外語人名と間違えられる商品名「Phoenix」を伏せない

どちらも「ガードレール設定」の個人情報のマスキングの節で登録します。個人情報のマスキングが無効の間は、どちらも効きません。

機微語​

当たった所を「[表示の名前]」に置き換えて、AI に渡します。 語か正規表現で登録します。語は、大文字小文字を区別しない部分一致です。

項目中身
種類語/正規表現
値伏せたい語(例: Project Phoenix)か、正規表現(例: 社員番号\d{6})。語は 100 文字まで、正規表現は 500 文字まで
表示の名前(必須)置き換えた所に「[表示の名前]」として出ます(例: 案件名)。50 文字まで。[ ] と制御文字は使えません
有効無効にすると、登録したまま当たらなくなります
  • 200 件まで登録できます
  • パスワードや API キーのように、決まった形の文字列は、正規表現で登録します
  • 正規表現は、よく使う書き方(\d・[A-Z]・{6}・| など)がそのまま使えます。 書き方の決まりは RE2 で、Google スプレッドシートの REGEXMATCH と同じです(RE2 の書き方)。使えないのは、先読み・後読み((?=…) など)と後方参照(\1 など)、1 バイトに当たる \C、空の文字列に当たる式(a* だけ、など)です
  • 画面の「正規表現を試す」で、試す文(2,000 文字まで)に当てて、当たった所(50 か所まで)を確かめられます

除外語​

個人情報として見つかった文字列が、除外語と丸ごと同じときだけ、伏せません。 大文字小文字は区別しません。一部だけ同じでは外れません。

除外語見つかった文字列結果
PhoenixPhoenix伏せない
Phoenixphoenix伏せない
PhoenixPhoenix Tanaka伏せる
  • 語だけで登録します(正規表現は使えません)。100 文字まで、200 件まで
  • 機微語には効きません。 機微語で伏せた語は、同じ語を除外語に入れても伏せます

実行時間の上限​

Agent の 1 回の実行が、この時間を超えたら止めます。 5・15・30・60・90・120 分か「制限しない」から選びます。既定は「制限しない」です。処理に時間がかかっているときも、応答が無いときも、上限に達すると止まります。

プロジェクトでは、その「1 回の実行の長さ」のほうが短いときは、そちらで止まります(設定値リファレンス)。

DLP 連携​

AI エージェントがツール(MCP・Web の取得・ファイルの書き出し)を使う前後の内容を、会社の DLP(情報漏えい防止)製品のエンドポイントに問い合わせます。 問い合わせるのは実行基盤で、利用者・会話の ID は送りません。

欄内容
動作「OFF」「記録のみ(問い合わせるがブロックしない)」「違反時に停止」。既定は「OFF」
エンドポイントの URLhttps の URL。エンドポイントは {"decision": "allow"} か {"decision": "deny"} を返す
認証「Bearer トークン」か「mTLS(クライアント証明書)」
タイムアウト100〜25000 ミリ秒。既定は 3000
問い合わせるツール「MCP」「Web の取得」「ファイルの書き出し」から選ぶ
  • 「違反時に停止」では、エンドポイントが拒否した時に加えて、届かない・タイムアウト・応答の形式が正しくない時も、ツールの呼び出しを止めます。 先に「疎通を確認する」で、届くことを確かめてください
  • OFF 以外にすると、プロジェクトの工程「外部の自動化」は作成も実行もできません。 外部 API では 409 automation_dlp_enabled になります

AIエージェントへの共通の指示の、禁止事項の指示​

「AIエージェント」>「AIエージェントへの共通の指示」では、AI に指示として渡す文を決めます。 1 件の項目は次のとおりです。

項目中身
ユーザープロンプトAI の動きを合わせるための指示(Markdown)
禁止事項の指示セキュリティのポリシーや禁止事項を書いた、AI への指示の文。依頼の受付の確認にも使われる
組織「全体(全部の組織)」はすべての組織に、組織を選ぶとその組織に渡します。既定は「全体(全部の組織)」
連結順序(必須)1・2・3 のどれか。全体の設定をこの順に並べ、その後に対象の組織の設定をこの順に並べて AI に渡します
ステータス有効なものだけが渡されます
  • 対象の組織は、チャットと定期実行では利用者の組織、プロジェクトの実行ではプロジェクトの組織です。プロジェクトに組織が無いときは、全体の設定だけを渡します
  • 同じ連結順序の設定も、すべて渡されます。同じ順序の中の前後は決まりません
  • 有効な設定を消すと、AI への指示から外れます
  • 禁止事項の指示に反すると判定した依頼は、実行されません。 判定は AI が行うので、確実に止めたいことは、ガードレール設定・禁止URL で止めます。プロジェクトの実行では、実行ルールでも止められます(何をどの画面で決めるか)

いつから効くか​

ガードレール設定の変更は、数分のうちに、次の依頼から効きます。 個人情報のマスクの設定は、1 つの依頼の途中では変わりません。ほかの検査(プロンプト攻撃・有害コンテンツ・個人情報の検査)は、設定を変えてから最大 5 分で反映され、長い実行では途中で反映されることがあります。

「AIエージェントへの共通の指示」の「禁止事項の指示」は、効くまで最大 30 分かかることがあります。

止められたことを確かめる​

ガードレールが検知したことは「記録と監査」>「ガードレールアラート」に残ります。 本文は残らず、利用者を特定する情報は画面にも API にも出ません。対応は、個人を追うのではなく、利用者への周知や設定の見直しとして行ってください(ログと監査)。

禁止URL​

Agent に出てほしくない宛先を、ドメインのパターン(正規表現)で登録します。 例: .*example\.com

項目中身
禁止ドメインパターン(正規表現)(必須)止めたいドメインのパターン
理由セキュリティ・コンプライアンス・内部ポリシー・その他
説明用途や目的のメモ
有効無効にすると、登録したまま止めなくなります。切り替えると確認が出ます
  • 登録した宛先は、いつも止まります。何も登録しなければ、Agent はすべての宛先に出られます(ネットワーク)
  • 画面の「パターンテスト」で URL を当てて、止まるかを確かめてから有効にしてください
  • あとで見直すときのために、理由と説明を付けておいてください
  • localhost やプライベートの IP アドレスの範囲(10.* など)は登録しないでください。 サービスが正しく動かなくなります

止めた・通した記録は「記録と監査」>「外部への通信の記録」に残ります。

ウィジェットの通信先の制限​

Agent の回答の中には、操作できる小さな画面(ウィジェット)が出ることがあります。 ウィジェットは、既定では外へ通信できず、Agent の側で宣言したドメインにだけ通信できます。

「AIエージェントの制限」>「ウィジェットの通信先の制限」で、ウィジェットに通信させたくないドメインを「拒否」として登録します。 拒否は、Agent の宣言より優先されます。

項目中身
ドメイン(必須)止めるホスト名。その下のサブドメインもすべて止まります。URL を入れると、ホスト名だけが保存されます
メモ作った理由など
  • 変えてから 60 秒ほどで効きます
  • 拒否したドメインを使うウィジェットは、正しく表示されないことがあります