AI・PMOの進化
プロンプトインジェクション
Prompt Injection
読み：ぷろんぷといんじぇくしょん
入力や参照資料中の文章などによって、AIを意図した指示や権限の範囲から外れた動作へ誘導する問題です。
01初心者向け
まず意味をつかむ
AIが読む資料には、従ってはいけない命令が混ざることがあります。外部の文章を情報として読むことと、その内容に従って操作することを分ける必要があります。
02実務者向け
仕事でどう使うか
信頼する指示と外部情報を区別し、道具とデータの権限を限定します。重要操作の承認、出力検査、実行記録を設け、参照資料を使う場面も含めて防御を評価します。
03専門家向け
判断を一段深める
検索拡張や追加学習をしても、この問題が自動的に解消されるわけではありません。完全な検知を前提にせず、不正な誘導が入っても被害を限定できる権限制御と、人への引継ぎを組み合わせます。
IN PRACTICE
具体例で考える
架空の資料要約AIが、文書中の操作要求を実行命令とせず参考内容として扱い、許可されていない外部送信は仕組み側で拒否します。
理解を助けるための架空の例です。外部から入る内容
指示としての権限の確認
制限された道具と操作
防御側の境界を示す図です。攻撃の実施方法を指示するものではありません。
ここは誤解しやすい
外部資料が信頼できる見た目だからといって、そこに書かれた操作指示へ従ってよいとは判断しません。
PROXIA INSIGHTS
考え方を、実務へつなぐ
AIを「使う」から、PMの判断に「活かす」へ ↗この知識を、組織の力へ。