教科書で学ぶサービス妨害・ゼロデイ・AIを狙う攻撃
定義敵対的サンプル は、人にはほとんど分からない細工を加えて、AI の 機械学習モデル に誤った判断をさせるように作った入力データである。
解説機械学習モデルとは、大量のデータから規則を学び、新しい入力を分類したり判定したりする仕組みのことである。例えば画像認識のモデルに、ごく小さな雑音を加えた画像を入力すると、人には元と同じに見えても、モデルは別の物と判定することがある。
記憶フック「敵対的」は英語の adversarial の訳で、AI を欺く目的で作られたことを表す。サンプルは、モデルに入力するデータ 1 件を指す。