在教科书中学习学习的迁移与代表性的深度学习模型
定义在针对特定用途进行调整之前，先用大量数据训练模型，让它掌握多种用途共通的特征，这一过程称为预训练（事前学習）。
解说例如让模型阅读海量文章来掌握词语之间的衔接方式，或给它看各种各样的图像来把握形状和颜色的特征。这样做出来的已训练模型（学習済みモデル），之后被作为适配其他目的的基础来使用。由于基础可以共用，就省去了每种用途都从零开始收集大量数据再训练的麻烦。
类比就像在从事某项具体工作之前，先在学校里广泛学好读写、计算这类任何工作都用得上的基础。
记忆钩子英语叫 pre-training。对话式 AI 的名称 GPT 中的 P，就是 Pre-trained（预训练过的）的首字母。