ガードレールと禁止URL
AI に渡す内容と、Agent が出る宛先を、どう絞るかを扱います。
何をどの画面で決めるか
絞りたいものごとに、決める画面が分かれています。
| 絞りたいもの | 画面 | 決めること |
|---|---|---|
| AI に渡す内容 | 「AIエージェントの制限」>「ガードレール設定」 | プロンプト攻撃の検出、有害コンテンツの検出感度、個人情報のマスキング、実行時間の上限 |
| AI への指示 | 「AIエージェント」>「AIエージェントへの共通の指示」の「禁止事項の指示」 | セキュリティの方針や禁止事項を、AI に指示として渡す文 |
| ツールの操作(プロジェクトの実行だけ) | 「プロジェクト管理」>「実行ルール」 | 操作の許可・禁止。効くのはプロジェクトの工程の実行とサイクルの巡回だけで、通常の会話には効きません(実行ルールガイド) |
| Agent が出る宛先 | 「AIエージェントの制限」>「禁止URL」 | 止める宛先のパターン |
| Agent の回答の中のウィジェットの通信 | 「AIエージェントの制限」>「ウィジェットの通信先の制限」 | ウィジェット(回答の中に出る、操作できる小さな画面)に通信させないドメイン |
「禁止事項の指示」は、AI に指示として渡す文で、依頼の受付の確認にも使われます。 書いた内容に反すると判定した依頼は実行されません。判定は AI が行うので、確実に止めたいものは、この指示だけに頼らず、ガードレール設定・禁止URL で止めてください。プロジェクトの実行では、実行ルールでも止められます。
LLM Gateway のガードレールは、別の設定です(「LLM Gateway 管理」>「LLM Gateway ガードレール」)。
ガードレール設定
「AIエージェントの制限」>「ガードレール設定」で、次の 5 つを決めます。 既定は次のとおりです。
| 項目 | 選べる値 | 既定 |
|---|---|---|
| プロンプト攻撃の検出(Prompt Shield) | 有効/無効 | 有効 |
| 有害コンテンツの検出感度(Moderation) | 無効・推奨・緩い・最も緩い | 推奨 |
| 個人情報のマスキング | 有効/無効 | 有効 |
| 実行時間の上限 | 5・15・30・60・90・120 分/制限しない | 制限しない |
| DLP 連携 | OFF・記録のみ・違反時に停止 | OFF |
プロンプト攻撃の検出
AI への指示を乗っ取ろうとする入力を、自動で検出して止めます。
有害コンテンツの検出感度
ヘイト・性的・暴力・自傷の 4 つの分類ごとに、内容の重大度を判定し、どの重大度から止めるかを選びます。 違法行為など、ほかの分類はこの設定では見ません。
| 重大度 | どんなものか(例) | 推奨 | 緩い | 最も緩い |
|---|---|---|---|---|
| 0 | 害が無い | — | — | — |
| 2 | 創作の中の暴力の場面、医療の話での性的な言葉、自傷の経験の相談、強い悪口 | 止める | — | — |
| 4 | 人や集団への侮辱・見下し、生々しい暴力の描写や暴力のやり方、性的な行為の露骨な描写、自傷をあおる言葉 | 止める | 止める | — |
| 6 | テロや過激思想の宣伝・攻撃の計画、集団への暴力の呼びかけ、子どもへの性的搾取、自殺の方法の指南 | 止める | 止める | 止める |
「無効」にすると、何も止めません。
- 推奨では、業務の文書でも、物語・医療・相談の話などが止まることがあります。 業務で要る内容が止まるときは、緩める方向で見直してください
- 止めた件の重大度は、「ガードレールアラート」の詳細で、同じ 0・2・4・6 で見られます
個人情報のマスキング
有効にすると、AI に渡す前に、依頼・指示と、Agent が読んだ外部の内容から個人情報を見つけて伏せます。 AI の回答や成果物は伏せません。
伏せる対象は次のとおりです。
- 人: 氏名、年齢
- 連絡先: メールアドレス、電話番号、住所
- 金融: クレジットカード番号、銀行口座番号
- 公的な番号: 各国の公的な番号(マイナンバー・運転免許証・パスポートなど)
プロジェクトの工程の指示にも効きます。 人が書いた指示(Agent のゴールなど)の扱いは、設計ガイドにあります。
機微語と除外語
個人情報のマスキングが伏せるもの(上の一覧)を、テナントに合わせて足したり減らしたりできます。
| したいこと | 登録するもの | 例 |
|---|---|---|
| 一覧に無いものも伏せたい(社内の案件名・社員番号・API キーなど) | 機微語 | 「Project Phoenix」を「[案件名]」に置き換えて AI に渡す |
| 個人情報と間違えて伏せられる語を、伏せないようにしたい | 除外語 | 人名と間違えられる商品名「Phoenix」を伏せない |
どちらも「ガードレール設定」の個人情報のマスキングの節で登録します。個人情報のマスキングが無効の間は、どちらも効きません。
機微語
当たった所を「[表示の名前]」に置き換えて、AI に渡します。 語か正規表現で登録します。語は、大文字小文字を区別しない部分一致です。
| 項目 | 中身 |
|---|---|
| 種類 | 語/正規表現 |
| 値 | 伏せたい語(例: Project Phoenix)か、正規表現(例: 社員番号\d{6})。語は 100 文字まで、正規表現は 500 文字まで |
| 表示の名前(必須) | 置き換えた所に「[表示の名前]」として出ます(例: 案件名)。50 文字まで。[ ] と制御文字は使えません |
| 有効 | 無効にすると、登録したまま当たらなくなります |
- 200 件まで登録できます
- パスワードや API キーのように、決まった形の文字列は、正規表現で登録します
- 正規表現は、よく使う書き方(
\d・[A-Z]・{6}・|など)がそのまま使えます。 書き方の決まりは RE2 で、Google スプレッドシートの REGEXMATCH と同じです(RE2 の書き方)。使えないのは、先読み・後読み((?=…)など)と後方参照(\1など)、1 バイトに当たる\C、空の文字列に当たる式(a*だけ、など)です - 画面の「正規表現を試す」で、試す文(2,000 文字まで)に当てて、当たった所(50 か所まで)を確かめられます
除外語
個人情報として見つかった文字列が、除外語と丸ごと同じときだけ、伏せません。 大文字小文字は区別しません。一部だけ同じでは外れません。
| 除外語 | 見つかった文字列 | 結果 |
|---|---|---|
| Phoenix | Phoenix | 伏せない |
| Phoenix | phoenix | 伏せない |
| Phoenix | Phoenix Tanaka | 伏せる |
- 語だけで登録します(正規表現は使えません)。100 文字まで、200 件まで
- 機微語には効きません。 機微語で伏せた語は、同じ語を除外語に入れても伏せます
実行時間の上限
Agent の 1 回の実行が、この時間を超えたら止めます。 5・15・30・60・90・120 分か「制限しない」から選びます。既定は「制限しない」です。処理に時間がかかっているときも、応答が無いときも、上限に達すると止まります。
プロジェクトでは、その「1 回の実行の長さ」のほうが短いときは、そちらで止まります(設定値リファレンス)。
DLP 連携
AI エージェントがツール(MCP・Web の取得・ファイルの書き出し)を使う前後の内容を、会社の DLP(情報漏えい防止)製品のエンドポイントに問い合わせます。 問い合わせるのは実行基盤で、利用者・会話の ID は送りません。
| 欄 | 内容 |
|---|---|
| 動作 | 「OFF」「記録のみ(問い合わせるがブロックしない)」「違反時に停止」。既定は「OFF」 |
| エンドポイントの URL | https の URL。エンドポイントは {"decision": "allow"} か {"decision": "deny"} を返す |
| 認証 | 「Bearer トークン」か「mTLS(クライアント証明書)」 |
| タイムアウト | 100〜25000 ミリ秒。既定は 3000 |
| 問い合わせるツール | 「MCP」「Web の取得」「ファイルの書き出し」から選ぶ |
- 「違反時に停止」では、エンドポイントが拒否した時に加えて、届かない・タイムアウト・応答の形式が正しくない時も、ツールの呼び出しを止めます。 先に「疎通を確認する」で、届くことを確かめてください
- OFF 以外にすると、プロジェクトの工程「外部の自動化」は作成も実行もできません。 外部 API では 409
automation_dlp_enabledになります
AIエージェントへの共通の指示の、禁止事項の指示
「AIエージェント」>「AIエージェントへの共通の指示」では、AI に指示として渡す文を決めます。 1 件の項目は次のとおりです。
| 項目 | 中身 |
|---|---|
| ユーザープロンプト | AI の動きを合わせるための指示(Markdown) |
| 禁止事項の指示 | セキュリティのポリシーや禁止事項を書いた、AI への指示の文。依頼の受付の確認にも使われる |
| 組織 | 「全体(全部の組織)」はすべての組織に、組織を選ぶとその組織に渡します。既定は「全体(全部の組織)」 |
| 連結順序(必須) | 1・2・3 のどれか。全体の設定をこの順に並べ、その後に対象の組織の設定をこの順に並べて AI に渡します |
| ステータス | 有効なものだけが渡されます |
- 対象の組織は、チャットと定期実行では利用者の組織、プロジェクトの実行ではプロジェクトの組織です。プロジェクトに組織が無いときは、全体の設定だけを渡します
- 同じ連結順序の設定も、すべて渡されます。同じ順序の中の前後は決まりません
- 有効な設定を消すと、AI への指示から外れます
- 禁止事項の指示に反すると判定した依頼は、実行されません。 判定は AI が行うので、確実に止めたいことは、ガードレール設定・禁止URL で止めます。プロジェクトの実行では、実行ルールでも止められます(何をどの画面で決めるか)
いつから効くか
ガードレール設定の変更は、数分のうちに、次の依頼から効きます。 個人情報のマスクの設定は、1 つの依頼の途中では変わりません。ほかの検査(プロンプト攻撃・有害コンテンツ・個人情報の検査)は、設定を変えてから最大 5 分で反映され、長い実行では途中で反映されることがあります。
「AIエージェントへの共通の指示」の「禁止事項の指示」は、効くまで最大 30 分かかることがあります。
止められたことを確かめる
ガードレールが検知したことは「記録と監査」>「ガードレールアラート」に残ります。 本文は残らず、利用者を特定する情報は画面にも API にも出ません。対応は、個人を追うのではなく、利用者への周知や設定の見直しとして行ってください(ログと監査)。
禁止URL
Agent に出てほしくない宛先を、ドメインのパターン(正規表現)で登録します。 例: .*example\.com
| 項目 | 中身 |
|---|---|
| 禁止ドメインパターン(正規表現)(必須) | 止めたいドメインのパターン |
| 理由 | セキュリティ・コンプライアンス・内部ポリシー・その他 |
| 説明 | 用途や目的のメモ |
| 有効 | 無効にすると、登録したまま止めなくなります。切り替えると確認が出ます |
- 登録した宛先は、いつも止まります。何も登録しなければ、Agent はすべての宛先に出られます(ネットワーク)
- 画面の「パターンテスト」で URL を当てて、止まるかを確かめてから有効にしてください
- あとで見直すときのために、理由と説明を付けておいてください
localhostやプライベートの IP アドレスの範囲(10.*など)は登録しないでください。 サービスが正しく動かなくなります
止めた・通した記録は「記録と監査」>「外部への通信の記録」に残ります。
ウィジェットの通信先の制限
Agent の回答の中には、操作できる小さな画面(ウィジェット)が出ることがあります。 ウィジェットは、既定では外へ通信できず、Agent の側で宣言したドメインにだけ通信できます。
「AIエージェントの制限」>「ウィジェットの通信先の制限」で、ウィジェットに通信させたくないドメインを「拒否」として登録します。 拒否は、Agent の宣言より優先されます。
| 項目 | 中身 |
|---|---|
| ドメイン(必須) | 止めるホスト名。その下のサブドメインもすべて止まります。URL を入れると、ホスト名だけが保存されます |
| メモ | 作った理由など |
- 変えてから 60 秒ほどで効きます
- 拒否したドメインを使うウィジェットは、正しく表示されないことがあります