セキュリティ
データポイズニング
Data Poisoning
読み：でーたぽいずにんぐ
学習に使うデータへ悪意ある情報を混ぜ、モデルの挙動や性能へ影響を与える攻撃です。
01初心者向け
まず意味をつかむ
AIが学ぶ材料を汚して、誤った規則を覚えさせる問題です。利用中の一回の質問を細工する攻撃とは、影響する段階が異なります。
02実務者向け
仕事でどう使うか
学習データの入手元、変更権限、来歴を管理し、追加データの異常やラベルの変化を点検します。再学習前後の評価と復旧できるデータ・モデル版を用意します。
03専門家向け
判断を一段深める
見た目に自然な例でも特定条件でだけ影響する場合があります。すべてを自動検出できるとせず、供給経路の統制、複数の評価、利用後の監視を組み合わせます。
IN PRACTICE
具体例で考える
架空の問い合わせ分類データへ不正なラベル変更が入り、特定の依頼が正常扱いされるため、更新履歴から影響範囲を調べます。
理解を助けるための架空の例です。データの取込み
不正混入の点検
再学習と独立評価
攻撃の実施方法ではなく、防御で管理する段階を示します。
ここは誤解しやすい
学習済みモデルの評価だけでなく、データ収集や更新の経路も守る必要があります。
この知識を、組織の力へ。