AIのリスクと社会的課題

アルゴリズムのバイアスとは、学習データや設計に含まれる偏りが原因で、AIの判断が性別や年齢などの属性によって不公平に傾く現象である。

AIに悪意があるのではなく、過去の記録に残る人間の判断の癖を、AIが規則として読み取ってしまうことで起きる。原因の多くがデータの側にあるため、学習に使うデータを集めて整える段階での対策が重視される。

たとえある地域の店の売上記録だけで全国の好みを決めると、その地域の好みが全国の基準になってしまうのに似ている。

覚え方英語の bias の原義は「斜め」で、布を斜めに裁つ「バイアス裁ち」もこの意味。まっすぐなはずの判断が斜めに傾く、と覚える。

この用語の過去問 1 題 アルゴリズムのバイアス →

ハルシネーションとは、生成AIが事実でない内容を、正しいかのように自然な文章で出力してしまう現象である。

生成AIは学習した文章の傾向から、次に続きそうな語を確率で選んで文を作るため、語を選ぶ過程そのものでは内容の真偽を確かめない。実在しない文献名や誤った数値が、自信のある口調で示されることがある。出力を業務に使うときは、利用者が別の情報源で事実を確認する。

たとえうろ覚えの道を、迷いのない口ぶりで案内してしまう人に似ている。口調が確かなほど、聞く側は疑いにくい。

覚え方英語の hallucination は「幻覚」。ないものが見えてしまう、つまりない事実を語ってしまう。

この用語の過去問 1 題 ハルシネーション →

ディープフェイクとは、ディープラーニングを使って人物の顔や声を合成し、本人が実際にはしていない発言や行動を本物らしく見せる偽の映像・音声である。

本人の映像や音声の特徴をAIに学習させて作るため、見た目や声だけでは見分けにくい。本人へのなりすましによる詐欺や、偽の情報の拡散に悪用されるおそれがある。

たとえ本人そっくりの着ぐるみを着た別人が、本人として話しているようなもの。外見が似ているほど見抜きにくい。

覚え方ディープ (深層学習) + フェイク (偽物)。名前に作り方と目的がそのまま入っている。

この用語の過去問 1 題 ディープフェイク →

AIサービスの責任論とは、AIの判断や出力によって損害や事故が起きたとき、誰が責任を負うかを問う議論である。

AIは学習結果に基づいて自ら判断するため、道具を使った人や作った人が責任を負うという従来の考え方だけでは割り切れない場面がある。例えば、開発した企業、サービスを提供する事業者、利用者など関わる者が多く、責任の所在が定まりにくい。

たとえ見習いに仕事を任せて失敗したとき、教えた人、任せた店、指示した客の誰が悪いのか一言で決められないのに似ている。

トロッコ問題とは、どちらを選んでも誰かが犠牲になる場面で、多数を救うために少数を犠牲にしてよいかを問う倫理学の思考実験である。

← 図は横にスクロールできます →

暴走するトロッコの進路を切り替えると1人が、切り替えないと5人が犠牲になる、という設定が知られている。自動運転車が避けられない事故に直面したときの動き方を事前に決める問題として、AIの設計に関わる課題となっている。唯一の正解がなく、倫理的な判断をAIにどう組み込むかについて議論が続いている。

たとえ救命ボートに乗れる人数が限られているとき、誰を乗せるかを前もって決めておかなければならない状況に似ている。

AIサービスのオプトアウトポリシーとは、利用者が申し出れば、自分の入力データなどをAIの学習に使わせないことを選べるようにする方針である。

AIサービスでは、利用者が入力した文章や画像が、サービス改善のためにモデルの学習に使われることがある。本人が気付かないうちにデータが学習に使われることへの懸念に応える、利用者保護の施策である。

たとえ回覧板に最初から全員の名前が載っていて、外してほしい人だけが申し出る仕組みに似ている。

覚え方opt out = 選んで外に出る。最初は中にいて、出たい人が出る。