ここ
勾配降下法を使用する機械学習モデルに、誤った識別をさせるような入力を作成することが可能な問題
https://jvn.jp/vu/JVNVU99619336/index.html
「勾配降下法を使用する機械学習モデル」→ディープラーニングでニューラルネットワークを使ってるやつは、だいたいこれ(CNN,RNN,LSTMとか)
で、これの対策だけど
1. 攻撃に使われる入力に対し適切な結果を返すように学習させる
いやいや、攻撃する人は、入力を色々変えてくるから、いたちごっこだと思うけど・・・
勾配降下法を使用する機械学習モデルに、誤った識別をさせるような入力を作成することが可能な問題
https://jvn.jp/vu/JVNVU99619336/index.html
「勾配降下法を使用する機械学習モデル」→ディープラーニングでニューラルネットワークを使ってるやつは、だいたいこれ(CNN,RNN,LSTMとか)
で、これの対策だけど
1. 攻撃に使われる入力に対し適切な結果を返すように学習させる
いやいや、攻撃する人は、入力を色々変えてくるから、いたちごっこだと思うけど・・・