跳到正文
← 返回术语表

トロッコ問題电车难题

在教科书中学习AI 的风险与社会课题

定义电车难题(トロッコ問題)是一个伦理学思想实验,追问在无论怎么选都会有人牺牲的情况下,能否为了救多数人而牺牲少数人。

解说最为人熟知的设定是:把失控电车切换到另一条轨道会牺牲 1 人,不切换则会牺牲 5 人。自动驾驶汽车遇到无法避免的事故时该如何行动需要事先确定,因此它成了与 AI 设计相关的课题。这个问题没有唯一正解,如何把伦理判断纳入 AI,至今仍在讨论之中。

类比就像救生艇能载的人数有限时,必须事先决定让谁上船。

暴走するトロッコ

進路を切り替える

進路を切り替えない

1人が犠牲

5人が犠牲