セキュリティ
モデル抽出攻撃
Model Extraction Attack
読み：もでるちゅうしゅつこうげき
モデルへの問い合わせ結果などから、元のモデルの機能や振る舞いを複製しようとする攻撃です。
01初心者向け
まず意味をつかむ
AIの内部を直接見なくても、応答を大量に観察して似たモデルを作ろうとする行為です。学習データの一人分を推測する攻撃とは目的が異なります。
02実務者向け
仕事でどう使うか
公開する出力情報とAPIの利用権限を見直し、異常な問い合わせ量やパターンを監視します。レート制限、監査、契約条件などを組み合わせ、正当な利用も維持します。
03専門家向け
判断を一段深める
回数制限だけで完全に防げるとは限りません。出力を絞り過ぎると利用価値も下がるため、知的資産、機密性、利用者体験のバランスを対象モデルごとに判断します。
IN PRACTICE
具体例で考える
架空の社内モデルで短時間に広範な入力を試す利用が発生し、監視担当が許可された検証かを確認します。
理解を助けるための架空の例です。モデルAPIの公開範囲
問い合わせの監視
権限・制限の調整
防御の管理点を示し、抽出の実行方法は扱いません。
ここは誤解しやすい
一般のAPI利用や互換性評価を、根拠なく攻撃と断定しないようにします。
この知識を、組織の力へ。