セキュリティ
メンバーシップ推論攻撃
Membership Inference Attack
読み：めんばーしっぷすいろんこうげき
特定の個人やデータがモデルの学習集合に含まれていたかを推測する攻撃です。
01初心者向け
まず意味をつかむ
モデルがある記録を知っているかを探ることで、学習への参加情報が漏れる問題です。回答に元の文章がそのまま出る場合だけが危険なのではありません。
02実務者向け
仕事でどう使うか
機微な学習データの使用を最小化し、過学習、出力情報、問い合わせ権限を点検します。プライバシー評価と必要な保護技術を組み合わせ、対象範囲を記録します。
03専門家向け
判断を一段深める
データが学習に含まれたかという情報だけでも不利益につながる場合があります。匿名化や出力の伏字だけで防げるとは限らず、モデルとデータ双方のリスクを評価します。
IN PRACTICE
具体例で考える
架空の健康相談モデルで、ある人の記録が学習に使われたかを外部から推測されないか、同意済みの試験データで評価します。
理解を助けるための架空の例です。学習への参加有無
モデルからの応答
推測される危険
個人に結び付く参加情報も保護対象として考えます。
ここは誤解しやすい
元データを公開していないことを、学習への参加情報も漏れない保証にしないようにします。
この知識を、組織の力へ。