概要
敵対的学習の話。
spam検出や侵入検出などの相手がチェックをかいくぐろうとして通常に見せかけようとする場合の機械学習。
先行研究では悪意のある敵対者がデータや識別器に対して完全な知識を持っていることを仮定していることが多いが、この研究では素性の最大値と最小値を知っているという緩い仮定を置く。
敵対者は元のデータからあまり離れ過ぎないようにデータを変化させて、識別結果を変えたい。
感想
手法の数式があまり追えなかった。
実際の攻撃は従来仮定しているよりも弱いことが多い(てきとうな理解)ってのはへーって感じだった。
……逆にspam業者とかでは効率的にspamを作る方法を研究しているのだろうか？
