教科書で学ぶAIのリスクと社会的課題
定義アルゴリズムのバイアスとは、学習データや設計に含まれる偏りが原因で、AIの判断が性別や年齢などの属性によって不公平に傾く現象である。
解説AIに悪意があるのではなく、過去の記録に残る人間の判断の癖を、AIが規則として読み取ってしまうことで起きる。原因の多くがデータの側にあるため、学習に使うデータを集めて整える段階での対策が重視される。
たとえある地域の店の売上記録だけで全国の好みを決めると、その地域の好みが全国の基準になってしまうのに似ている。
記憶フック英語の bias の原義は「斜め」で、布を斜めに裁つ「バイアス裁ち」もこの意味。まっすぐなはずの判断が斜めに傾く、と覚える。