| 用語 | ひとことで | 分類 | 主な狙い・特徴 |
|---|---|---|---|
| マルチモーダルAI | 文章・画像・音声など複数の形式のデータをまとめて扱う AI | AI の方式 | 形式をまたいだ入力と出力ができる |
| ランダム性 | 生成AIの出力が確率に基づいて回ごとに変わりうる性質 | 出力の性質 | 表現が多様になる一方、同じ結果を再現しにくい |
| XAI | AI が結論に至った根拠を人に分かる形で示す技術 | 技術・考え方 | 判断の透明性を高め、納得して使えるようにする |
| ヒューマンインザループ | AI の処理の流れに人の確認や判断を組み込む仕組み | 運用の仕組み | 誤りや偏りを人が止め、責任の所在をはっきりさせる |
| HITL | ヒューマンインザループの英語表記の頭文字 | 略語 | 中身はヒューマンインザループと同じ |
マルチモーダルAI は、文章・画像・音声など形式の異なるデータ (モダリティ) を組み合わせて扱える AI である。
| 入力の形式 | 出力の形式 | やり取りの例 |
|---|---|---|
| 画像と文章 | 文章 | 写真を見せて中身を尋ね、文章で答えを得る |
| 文章 | 画像 | 描いてほしい場面を文で伝え、絵を作らせる |
| 動画 (映像と音声) | 文章 | 録画した会議の内容を文章にまとめさせる |
1 種類の形式だけを入力・出力する AI は シングルモーダル と呼ばれ、マルチモーダルAI はその対になる。複数の形式を組み合わせて入力したり、入力とは別の形式で出力したりして、形式をまたぐやり取りができる。
たとえ目で見たものについて耳で聞いた質問に、口で答える人のように、複数の感覚をつないで働く。
覚え方「モーダル」は様式・形式のこと。「マルチ」(多い) が付いて、形式が多いと読める。
出題のポイント
ランダム性 とは、生成AIの出力が確率に基づいて作られるため、同じ指示でも出力が回ごとに変わりうる性質である。
選ばれる語が変わるので、出来上がる文も回ごとに変わりうる。
例えば文章を生成する AI は、次に続く語の候補それぞれに確率を割り当て、その確率に応じて語を選ぶので、選ばれる語が変われば出来上がる文も変わる。このばらつきによって表現に多様さが生まれる一方、同じ結果を 再現 しにくくなる。ばらつきの大きさは、例えば生成時の設定で小さくも大きくもできる。
たとえ同じ店で同じ「おまかせ」を頼んでも、日によって盛り付けや付け合わせが少しずつ違うようなもの。
覚え方ランダム (random) は「でたらめ・無作為」の意味だが、ここでは確率に沿ったばらつきを指す。
出題のポイント
XAI (Explainable AI、説明可能なAI) は、AI がその結論に至った根拠を人に分かる形で示す技術や考え方である。
人は示された根拠を見て、結果を受け入れるかを決める。
高度な AI は内部の計算が複雑で、なぜその結果になったかが外から見えない ブラックボックス になりやすい。XAI は根拠を見えるようにして判断の 透明性 を高め、人が結果を検証したり説明責任を果たしたりできるようにする。
たとえ答えだけでなく途中の式も書かれた答案のようなもの。式が見えれば、どこで考え違いをしたかも確かめられる。
覚え方頭の X は eXplainable (説明できる) の X。
出題のポイント
ヒューマンインザループ は、AI に処理を任せきりにせず、処理の流れの中に人の確認や判断を組み込む仕組みである。
例えば、AI が出した提案を人が確かめ、良ければ承認して実行し、問題があれば修正して戻す。人が要所に入ることで、AI の誤りや偏りを実行前に止め、誰が判断したかという責任の所在もはっきりする。
たとえ部下が作った書類を上司が目を通して判を押してから外に出す、社内の決裁の流れに似ている。
覚え方英語の Human in the loop をそのまま片仮名にした語。loop (輪) の中に human (人) がいる姿を思い浮かべる。
出題のポイント
| 観点 | XAI | ヒューマンインザループ |
|---|---|---|
| 決め手何を加えるか | AI の側に、判断の根拠を示す働きを加える | 処理の流れの中に、人の確認や判断を加える |
| 主に高めるもの | 判断の透明性 | 誤りや偏りを止める力と責任の所在の明確さ |
| 分類 | 技術・考え方 | 運用の仕組み |
HITL は Human In The Loop の頭文字を取った略語で、ヒューマンインザループと同じ仕組みを指す。
略語と片仮名の名称は表記が違うだけで、意味に差はない。文書によってどちらの書き方も使われる。