このユニットでは、AIを実際に利用する際に生じるリスクと社会的・倫理的課題を学ぶ。アルゴリズムのバイアス・ハルシネーション・ディープフェイクといった技術面のリスクから、責任論・トロッコ問題・オプトアウトポリシーといった社会的論点までを横断的に整理する。AIの仕組みを理解した上で、その負の側面と適切な向き合い方を問う総合分野として、ITパスポートでも重要性が高まっている。
学習データや設計の偏りにより、AIの判断が不公平に偏ってしまう現象。
アルゴリズムのバイアスとは、AIが学習したデータや設計に含まれる偏りが原因で、特定の属性(性別・人種・年齢など)に対して不公平な判断を下してしまう問題です。AI自体に悪意があるわけではなく、過去のデータに潜む偏りをそのまま学習してしまう点が本質です。 試験では、AIが公平性を損なう代表的リスクとして問われます。例えば採用選考や与信審査でAIを使うと、過去の偏った実績を学んで特定層に不利な結果を出すことがあります。原因がデータ側にあるため、データの質や多様性の確保が対策となる点を押さえましょう。
たとえ偏った意見ばかり載った新聞だけを読んで育った人が、無意識に偏った判断をしてしまうようなもの。本人に悪気はなくても、読んだ情報が偏っていれば結論も偏ります。
記憶フックアルゴリズムのバイアスといえば偏ったデータでAIの判断が不公平になること
生成AIが事実でない内容を、もっともらしく生成してしまう現象。
ハルシネーション(幻覚)とは、生成AIが実際には存在しない事実や誤った情報を、あたかも正しいかのように自信たっぷりに出力してしまう現象です。生成AIは「次に来そうな言葉」を確率的に作るため、真偽の検証をしているわけではないことが原因です。 試験では、生成AIの出力をそのまま信用してはならない技術的リスクとして問われます。存在しない論文や誤った数値を堂々と答えることがあり、利用者が事実確認(ファクトチェック)を行う必要がある点が重要です。バイアスは「偏り」、ハルシネーションは「もっともらしい嘘」と区別して覚えましょう。
たとえ知ったかぶりの人が、知らないことを聞かれても自信満々にそれっぽい作り話で答えてしまうようなもの。口調が堂々としているほど、つい信じてしまいます。
記憶フックハルシネーションといえば生成AIがもっともらしい嘘を出力すること
AIで本物そっくりに合成した、偽の映像・音声・画像のこと。
ディープフェイクとは、ディープラーニングを使って人物の顔や声を本物そっくりに合成し、実際には行っていない発言や行動をしたかのように見せかける偽コンテンツです。「ディープラーニング」と「フェイク(偽物)」を組み合わせた言葉です。 試験では、生成AIの悪用による偽情報・なりすましのリスクとして問われます。著名人になりすました詐欺や世論操作、フェイクニュースの拡散など社会的な害が大きく、見抜くのが難しい点が特徴です。ハルシネーションが「AIの意図しない誤り」なのに対し、ディープフェイクは「人が意図的に作る合成コンテンツ」で、特になりすましや偽情報の拡散など悪用が問題視される点の違いを押さえましょう。
たとえプロの物まね芸人とCG技術を合体させ、本人が言ってもいないことを本人の顔と声でしゃべらせる動画を作るようなもの。見た目も声も本物そっくりで見破りにくいのが厄介です。
記憶フックディープフェイクといえばAIで作った本物そっくりの偽映像・偽音声
AIが起こした損害について、誰が責任を負うかを問う社会的論点。
AIサービスの責任論とは、AIの判断や出力によって損害や事故が生じたとき、その責任を誰が負うのかを問う議論です。AIを開発した企業、サービスを提供した事業者、AIを利用した個人など、責任の所在が複雑になりやすい点が課題です。 試験では、技術リスクから社会的論点へ橋渡しするテーマとして問われます。例えば自動運転車が事故を起こした場合、メーカー・所有者・搭乗者の誰の責任かが簡単には決まりません。AIは自律的に動くため、従来の「使った人の責任」だけでは割り切れない点が論点の核心です。
たとえ賢いロボット執事がうっかり失敗したとき、悪いのは作ったメーカーか、雇った主人か、指示を出した人か、はっきりしないようなもの。関係者が多いほど責任のなすりつけ合いになりがちです。
記憶フックAIサービスの責任論といえばAIの損害は誰が責任を負うかの議論
多数を救うため少数を犠牲にしてよいかを問う、倫理学の思考実験。
トロッコ問題とは、暴走するトロッコの進路を切り替えれば1人が犠牲になるが、切り替えなければ5人が犠牲になる、という状況でどちらを選ぶべきかを問う有名な思考実験です。「多数を救うために少数を犠牲にしてよいか」という倫理的ジレンマを象徴します。 試験では、AIの倫理的判断を考える代表例として問われます。特に自動運転車が事故を避けられない場面で、誰を守るようプログラムすべきかという形でこの問題が現実化します。唯一の正解がない難問であり、AIに倫理的判断をどう組み込むかという課題を浮き彫りにする点が重要です。
たとえブレーキが効かない車で、まっすぐ進めば5人をはねるが、ハンドルを切れば1人をはねる――一瞬でどちらかを選ばなければならない究極の選択のようなもの。どちらも正解とは言い切れません。
記憶フックトロッコ問題といえば多数を救うため少数を犠牲にしてよいかの倫理ジレンマ
利用者が自分のデータをAIの学習に使わせない選択を認める方針。
AIサービスのオプトアウトポリシーとは、利用者が「自分の入力データや個人情報をAIの学習に利用されたくない」と意思表示すれば、その利用を拒否(オプトアウト)できるようにする方針です。オプトアウトは「初期状態は許可だが、利用者が拒否を選べる」仕組みを指します。 試験では、AIリスク全体への対処として利用者保護・プライバシー保護の観点で問われます。本人の同意なくデータが学習に使われることへの懸念に応える施策です。逆に最初から拒否状態で本人が許可を選ぶ方式を「オプトイン」と呼び、両者の違いが問われやすい点に注意しましょう。
たとえ町内会の連絡網に最初は全員が登録されていて、「自分は載せないで」と言えば外してもらえる仕組みのようなもの。黙っていれば参加、嫌なら抜けられるのがオプトアウトです。
記憶フックAIサービスのオプトアウトポリシーといえばデータの学習利用を後から拒否できる方針
関連の過去問演習は今後のアップデートで追加予定です。