# ガードレールと禁止URL

**AI に渡す内容と、Agent が出る宛先を、どう絞るか**を扱います。

## 何をどの画面で決めるか

**絞りたいものごとに、決める画面が分かれています。**

| 絞りたいもの                    | 画面                                     | 決めること                                                                                                                                                    |
| ------------------------- | -------------------------------------- | -------------------------------------------------------------------------------------------------------------------------------------------------------- |
| **AI に渡す内容**              | 「AIエージェントの制限」＞「ガードレール設定」               | プロンプト攻撃の検出、有害コンテンツの検出感度、個人情報のマスキング、実行時間の上限                                                                                                               |
| **AI への指示**               | 「AIエージェント」＞「AIエージェントへの共通の指示」の「禁止事項の指示」 | セキュリティの方針や禁止事項を、AI に指示として渡す文                                                                                                                             |
| **ツールの操作（プロジェクトの実行だけ）**   | 「プロジェクト管理」＞「実行ルール」                     | 操作の許可・禁止。効くのはプロジェクトの工程の実行とサイクルの巡回だけで、通常の会話には効きません（[実行ルールガイド](https://developers.fd.agenticstar.tm.softbank.jp/docs/saas/project/guide/control-guide.md)） |
| **Agent が出る宛先**           | 「AIエージェントの制限」＞「禁止URL」                  | 止める宛先のパターン                                                                                                                                               |
| **Agent の回答の中のウィジェットの通信** | 「AIエージェントの制限」＞「ウィジェットの通信先の制限」          | ウィジェット（回答の中に出る、操作できる小さな画面）に通信させないドメイン                                                                                                                    |

**「禁止事項の指示」は、AI に指示として渡す文で、依頼の受付の確認にも使われます。** 書いた内容に反すると判定した依頼は実行されません。判定は AI が行うので、確実に止めたいものは、この指示だけに頼らず、ガードレール設定・禁止URL で止めてください。プロジェクトの実行では、実行ルールでも止められます。

LLM Gateway のガードレールは、別の設定です（「LLM Gateway 管理」＞「LLM Gateway ガードレール」）。

## ガードレール設定

**「AIエージェントの制限」＞「ガードレール設定」で、次の 5 つを決めます。** 既定は次のとおりです。

| 項目                            | 選べる値                      | 既定    |
| ----------------------------- | ------------------------- | ----- |
| **プロンプト攻撃の検出（Prompt Shield）** | 有効／無効                     | 有効    |
| **有害コンテンツの検出感度（Moderation）**  | 無効・推奨・緩い・最も緩い             | 推奨    |
| **個人情報のマスキング**                | 有効／無効                     | 有効    |
| **実行時間の上限**                   | 5・15・30・60・90・120 分／制限しない | 制限しない |
| **DLP 連携**                    | OFF・記録のみ・違反時に停止           | OFF   |

### プロンプト攻撃の検出

**AI への指示を乗っ取ろうとする入力を、自動で検出して止めます。**

### 有害コンテンツの検出感度

**ヘイト・性的・暴力・自傷の 4 つの分類ごとに、内容の重大度を判定し、どの重大度から止めるかを選びます。** 違法行為など、ほかの分類はこの設定では見ません。

| 重大度   | どんなものか（例）                                          | 推奨  | 緩い  | 最も緩い |
| ----- | -------------------------------------------------- | --- | --- | ---- |
| **0** | 害が無い                                               | —   | —   | —    |
| **2** | 創作の中の暴力の場面、医療の話での性的な言葉、自傷の経験の相談、強い悪口               | 止める | —   | —    |
| **4** | 人や集団への侮辱・見下し、生々しい暴力の描写や暴力のやり方、性的な行為の露骨な描写、自傷をあおる言葉 | 止める | 止める | —    |
| **6** | テロや過激思想の宣伝・攻撃の計画、集団への暴力の呼びかけ、子どもへの性的搾取、自殺の方法の指南    | 止める | 止める | 止める  |

「無効」にすると、何も止めません。

- **推奨では、業務の文書でも、物語・医療・相談の話などが止まることがあります。** 業務で要る内容が止まるときは、緩める方向で見直してください
- 止めた件の重大度は、「ガードレールアラート」の詳細で、同じ 0・2・4・6 で見られます

### 個人情報のマスキング

**有効にすると、AI に渡す前に、依頼・指示と、Agent が読んだ外部の内容から個人情報を見つけて伏せます。** AI の回答や成果物は伏せません。

伏せる対象は次のとおりです。

- 人: 氏名、年齢
- 連絡先: メールアドレス、電話番号、住所
- 金融: クレジットカード番号、銀行口座番号
- 公的な番号: 各国の公的な番号（マイナンバー・運転免許証・パスポートなど）

**プロジェクトの工程の指示にも効きます。** 人が書いた指示（Agent のゴールなど）の扱いは、[設計ガイド](https://developers.fd.agenticstar.tm.softbank.jp/docs/saas/project/guide/design-guide.md)にあります。

### 機微語と除外語

**個人情報のマスキングが伏せるもの（上の一覧）を、テナントに合わせて足したり減らしたりできます。**

| したいこと                              | 登録するもの  | 例                                       |
| ---------------------------------- | ------- | --------------------------------------- |
| 一覧に無いものも伏せたい（社内の案件名・社員番号・API キーなど） | **機微語** | 「Project Phoenix」を「\[案件名]」に置き換えて AI に渡す |
| 個人情報と間違えて伏せられる語を、伏せないようにしたい        | **除外語** | 人名と間違えられる商品名「Phoenix」を伏せない              |

どちらも「ガードレール設定」の個人情報のマスキングの節で登録します。**個人情報のマスキングが無効の間は、どちらも効きません。**

#### 機微語

**当たった所を「\[表示の名前]」に置き換えて、AI に渡します。** 語か正規表現で登録します。語は、大文字小文字を区別しない部分一致です。

| 項目            | 中身                                                                           |
| ------------- | ---------------------------------------------------------------------------- |
| **種類**        | 語／正規表現                                                                       |
| **値**         | 伏せたい語（例: `Project Phoenix`）か、正規表現（例: `社員番号\d{6}`）。語は 100 文字まで、正規表現は 500 文字まで |
| **表示の名前**（必須） | 置き換えた所に「\[表示の名前]」として出ます（例: 案件名）。50 文字まで。`[` `]` と制御文字は使えません                  |
| **有効**        | 無効にすると、登録したまま当たらなくなります                                                       |

- 200 件まで登録できます
- パスワードや API キーのように、決まった形の文字列は、正規表現で登録します
- **正規表現は、よく使う書き方（`\d`・`[A-Z]`・`{6}`・`|` など）がそのまま使えます。** 書き方の決まりは RE2 で、Google スプレッドシートの REGEXMATCH と同じです（[RE2 の書き方](https://github.com/google/re2/wiki/Syntax)）。使えないのは、先読み・後読み（`(?=…)` など）と後方参照（`\1` など）、1 バイトに当たる `\C`、空の文字列に当たる式（`a*` だけ、など）です
- 画面の「**正規表現を試す**」で、試す文（2,000 文字まで）に当てて、当たった所（50 か所まで）を確かめられます

#### 除外語

**個人情報として見つかった文字列が、除外語と丸ごと同じときだけ、伏せません。** 大文字小文字は区別しません。一部だけ同じでは外れません。

| 除外語     | 見つかった文字列       | 結果      |
| ------- | -------------- | ------- |
| Phoenix | Phoenix        | 伏せない    |
| Phoenix | phoenix        | 伏せない    |
| Phoenix | Phoenix Tanaka | **伏せる** |

- 語だけで登録します（正規表現は使えません）。100 文字まで、200 件まで
- **機微語には効きません。** 機微語で伏せた語は、同じ語を除外語に入れても伏せます

### 実行時間の上限

**Agent の 1 回の実行が、この時間を超えたら止めます。** 5・15・30・60・90・120 分か「制限しない」から選びます。既定は「制限しない」です。処理に時間がかかっているときも、応答が無いときも、上限に達すると止まります。

プロジェクトでは、その「1 回の実行の長さ」のほうが短いときは、そちらで止まります（[設定値リファレンス](https://developers.fd.agenticstar.tm.softbank.jp/docs/saas/project/reference/settings-ref.md)）。

### DLP 連携

**AI エージェントがツール（MCP・Web の取得・ファイルの書き出し）を使う前後の内容を、会社の DLP（情報漏えい防止）製品のエンドポイントに問い合わせます。** 問い合わせるのは実行基盤で、利用者・会話の ID は送りません。

| 欄                | 内容                                                                        |
| ---------------- | ------------------------------------------------------------------------- |
| **動作**           | 「OFF」「記録のみ（問い合わせるがブロックしない）」「違反時に停止」。既定は「OFF」                              |
| **エンドポイントの URL** | https の URL。エンドポイントは `{"decision": "allow"}` か `{"decision": "deny"}` を返す |
| **認証**           | 「Bearer トークン」か「mTLS（クライアント証明書）」                                           |
| **タイムアウト**       | 100〜25000 ミリ秒。既定は 3000                                                    |
| **問い合わせるツール**    | 「MCP」「Web の取得」「ファイルの書き出し」から選ぶ                                             |

- **「違反時に停止」では、エンドポイントが拒否した時に加えて、届かない・タイムアウト・応答の形式が正しくない時も、ツールの呼び出しを止めます。** 先に「疎通を確認する」で、届くことを確かめてください
- **OFF 以外にすると、プロジェクトの工程「外部の自動化」は作成も実行もできません。** 外部 API では 409 `automation_dlp_enabled` になります

## AIエージェントへの共通の指示の、禁止事項の指示

**「AIエージェント」＞「AIエージェントへの共通の指示」では、AI に指示として渡す文を決めます。** 1 件の項目は次のとおりです。

| 項目            | 中身                                                    |
| ------------- | ----------------------------------------------------- |
| **ユーザープロンプト** | AI の動きを合わせるための指示（Markdown）                            |
| **禁止事項の指示**   | セキュリティのポリシーや禁止事項を書いた、AI への指示の文。依頼の受付の確認にも使われる         |
| **組織**        | 「全体（全部の組織）」はすべての組織に、組織を選ぶとその組織に渡します。既定は「全体（全部の組織）」    |
| **連結順序**（必須）  | 1・2・3 のどれか。全体の設定をこの順に並べ、その後に対象の組織の設定をこの順に並べて AI に渡します |
| **ステータス**     | 有効なものだけが渡されます                                         |

- 対象の組織は、チャットと定期実行では利用者の組織、プロジェクトの実行ではプロジェクトの組織です。プロジェクトに組織が無いときは、全体の設定だけを渡します
- 同じ連結順序の設定も、すべて渡されます。同じ順序の中の前後は決まりません
- 有効な設定を消すと、AI への指示から外れます
- **禁止事項の指示に反すると判定した依頼は、実行されません。** 判定は AI が行うので、確実に止めたいことは、ガードレール設定・禁止URL で止めます。プロジェクトの実行では、実行ルールでも止められます（[何をどの画面で決めるか](#%E4%BD%95%E3%82%92%E3%81%A9%E3%81%AE%E7%94%BB%E9%9D%A2%E3%81%A7%E6%B1%BA%E3%82%81%E3%82%8B%E3%81%8B)）

## いつから効くか

**ガードレール設定の変更は、数分のうちに、次の依頼から効きます。** 個人情報のマスクの設定は、1 つの依頼の途中では変わりません。ほかの検査（プロンプト攻撃・有害コンテンツ・個人情報の検査）は、設定を変えてから最大 5 分で反映され、長い実行では途中で反映されることがあります。

**「AIエージェントへの共通の指示」の「禁止事項の指示」は、効くまで最大 30 分かかることがあります。**

## 止められたことを確かめる

**ガードレールが検知したことは「記録と監査」＞「ガードレールアラート」に残ります。** 本文は残らず、利用者を特定する情報は画面にも API にも出ません。対応は、個人を追うのではなく、利用者への周知や設定の見直しとして行ってください（[ログと監査](https://developers.fd.agenticstar.tm.softbank.jp/docs/saas/admin/guide/audit-log-guide.md)）。

## 禁止URL

**Agent に出てほしくない宛先を、ドメインのパターン（正規表現）で登録します。** 例: `.*example\.com`

| 項目                       | 中身                                 |
| ------------------------ | ---------------------------------- |
| **禁止ドメインパターン（正規表現）**（必須） | 止めたいドメインのパターン                      |
| **理由**                   | セキュリティ・コンプライアンス・内部ポリシー・その他         |
| **説明**                   | 用途や目的のメモ                           |
| **有効**                   | 無効にすると、登録したまま止めなくなります。切り替えると確認が出ます |

- 登録した宛先は、いつも止まります。何も登録しなければ、Agent はすべての宛先に出られます（[ネットワーク](https://developers.fd.agenticstar.tm.softbank.jp/docs/saas/admin/guide/network-guide.md#%E5%AE%9B%E5%85%88)）
- 画面の「**パターンテスト**」で URL を当てて、止まるかを確かめてから有効にしてください
- あとで見直すときのために、理由と説明を付けておいてください
- **`localhost` やプライベートの IP アドレスの範囲（`10.*` など）は登録しないでください。** サービスが正しく動かなくなります

止めた・通した記録は「記録と監査」＞「外部への通信の記録」に残ります。

## ウィジェットの通信先の制限

**Agent の回答の中には、操作できる小さな画面（ウィジェット）が出ることがあります。** ウィジェットは、既定では外へ通信できず、Agent の側で宣言したドメインにだけ通信できます。

**「AIエージェントの制限」＞「ウィジェットの通信先の制限」で、ウィジェットに通信させたくないドメインを「拒否」として登録します。** 拒否は、Agent の宣言より優先されます。

| 項目           | 中身                                                  |
| ------------ | --------------------------------------------------- |
| **ドメイン**（必須） | 止めるホスト名。その下のサブドメインもすべて止まります。URL を入れると、ホスト名だけが保存されます |
| **メモ**       | 作った理由など                                             |

- 変えてから 60 秒ほどで効きます
- 拒否したドメインを使うウィジェットは、正しく表示されないことがあります
