AI 的风险与社会课题

算法偏见（アルゴリズムのバイアス）是指由于学习数据或设计中存在偏差，AI 的判断因性别、年龄等属性而出现不公平倾斜的现象。

这并不是 AI 怀有恶意，而是 AI 把历史记录中残留的人类判断习惯当成了规律来学习。由于原因大多出在数据一侧，在收集和整理学习用数据的阶段采取对策尤为受到重视。

类比就像只凭某个地区门店的销售记录来决定全国的喜好，结果那个地区的口味就成了全国的标准。

记法英语 bias 的本义是“斜”，裁布时沿斜纹裁剪叫“斜裁”（bias cut），用的也是这个意思。记成：本该笔直的判断被拉斜了。

该术语的过去问 1 题 アルゴリズムのバイアス →

幻觉（ハルシネーション）是指生成式 AI 用通顺自然的文字，把不符合事实的内容当作正确内容输出的现象。

生成式 AI 会根据所学文本的倾向，按概率选出接下来可能出现的词来组成句子，因此选词这一过程本身并不检验内容的真假。它可能用充满自信的语气给出并不存在的文献名或错误的数值。在业务中使用输出时，要由用户通过其他信息来源确认事实。

类比就像一个对路只记得个大概的人，却用毫不犹豫的口吻给你指路。语气越笃定，听的人越难起疑。

记法英语 hallucination 意为“幻觉”：看见并不存在的东西，也就是说出并不存在的事实。

该术语的过去问 1 题 ハルシネーション →

深度伪造（ディープフェイク）是利用深度学习合成人物的面部或声音，把本人实际上没有说过的话、没有做过的事伪装得像真的一样的虚假视频或音频。

由于是让 AI 学习本人视频或声音的特征制作而成，仅凭外貌或声音很难分辨真假。它可能被滥用于冒充本人实施诈骗，或散布虚假信息。

类比就像有人穿上和本人一模一样的人偶服，以本人的身份说话。外表越像，越难识破。

记法Deep（深度学习）+ Fake（伪造品）。名字本身就交代了制作方法和用途。

该术语的过去问 1 题 ディープフェイク →

AI 服务的责任论（AIサービスの責任論）是在 AI 的判断或输出造成损害、事故时，追问由谁承担责任的讨论。

AI 会根据学习结果自行做出判断，因此仅靠“由使用或制造工具的人负责”这一传统思路，有些情况无法简单划分。例如，开发 AI 的企业、提供服务的经营者、用户等相关方众多，责任归属难以确定。

类比就像把工作交给学徒却出了差错时，教他的人、派他干活的店、下指示的顾客，究竟谁有错，很难一句话说清。

电车难题（トロッコ問題）是一个伦理学思想实验，追问在无论怎么选都会有人牺牲的情况下，能否为了救多数人而牺牲少数人。

← 图可左右滑动查看 →

最为人熟知的设定是：把失控电车切换到另一条轨道会牺牲 1 人，不切换则会牺牲 5 人。自动驾驶汽车遇到无法避免的事故时该如何行动需要事先确定，因此它成了与 AI 设计相关的课题。这个问题没有唯一正解，如何把伦理判断纳入 AI，至今仍在讨论之中。

类比就像救生艇能载的人数有限时，必须事先决定让谁上船。

AI 服务的退出政策（AIサービスのオプトアウトポリシー）是一种方针：用户只要提出申请，就可以选择让自己输入的数据等不被用于 AI 的学习。

在 AI 服务中，用户输入的文字或图像有时会被用于模型学习，以改进服务。这是一项用户保护措施，用来回应人们对数据在本人不知情时被用于学习的担忧。

类比就像一份通讯名单一开始就列入了所有人，只有想退出的人才需要提出来。

记法opt out = 主动选择出去。一开始大家都在里面，想出去的人自己走出去。