教科書で学ぶAIのリスクと社会的課題
定義トロッコ問題とは、どちらを選んでも誰かが犠牲になる場面で、多数を救うために少数を犠牲にしてよいかを問う倫理学の思考実験である。
解説暴走するトロッコの進路を切り替えると1人が、切り替えないと5人が犠牲になる、という設定が知られている。自動運転車が避けられない事故に直面したときの動き方を事前に決める問題として、AIの設計に関わる課題となっている。唯一の正解がなく、倫理的な判断をAIにどう組み込むかについて議論が続いている。
たとえ救命ボートに乗れる人数が限られているとき、誰を乗せるかを前もって決めておかなければならない状況に似ている。