在教科书中学习AI 的运行机制与透明性、人类的参与
定义人在回路(ヒューマンインザループ)是不把处理完全交给 AI,而是在处理流程中加入人的确认与判断的机制。
解说例如,由人确认 AI 提出的方案,没问题就批准执行,有问题就修改后退回。人在关键环节介入,能在执行前拦下 AI 的错误和偏差,也能明确是谁作出的判断、责任归谁。
类比就像公司里的审批流程:下属做好的文件要经上司过目盖章后才能发出。
记忆钩子日语名称ヒューマンインザループ是把英语 Human in the loop 直接用片假名写出的词。可以想象 loop(回路)之中站着 human(人)的样子。