セキュリティ
ジェイルブレイク（生成AI）
Jailbreak in Generative AI
読み：じぇいるぶれいく
生成AIの安全上の制約などを回避し、通常は抑制される応答を引き出そうとする試みです。
01初心者向け
まず意味をつかむ
AIが断るべき内容へ答えるよう誘導する行為を指します。外部データから指示を紛れ込ませるプロンプトインジェクションとは、目的や入口が重なる場合があります。
02実務者向け
仕事でどう使うか
業務で許す要求と拒む要求を定義し、許可された試験環境で拒否と過剰拒否の両方を評価します。入力対策だけでなく、出力検査と外部操作の権限制限を設けます。
03専門家向け
判断を一段深める
攻撃名だけでは対策範囲を特定できません。モデルの制約を破る問題とアプリの認可を破る問題を分け、単一の禁止語リストに依存せず多層で設計します。
IN PRACTICE
具体例で考える
架空の社内支援AIで、禁止された個人情報開示を促す依頼へ回答しないか、テスト用の架空データで確認します。
理解を助けるための架空の例です。拒否すべき要求
制約の評価
アプリ側の権限制御
具体的な回避手順を示さない防御側の概念図です。
ここは誤解しやすい
不適切な応答を防ぐことと、外部システムの実行権限を守ることは両方必要です。
この知識を、組織の力へ。