(相关资料图)

域自适应(Domain Adaptation)是迁移学习的一种,在机器学习中,当源域目标域数据分布不同,但是两者的任务相同时,可以使用域自适应,将源域数据训练的精度较高的模型运用到数据较少的目标域中。

白话:任务一样时,训练集和实际样本分布不太一样,需要把训练的域匹配到实际的域上。

三种方法:

样本自适应:就是对样本进行变换。将源域中样本重采样,使其分布趋近于目标域分布;从源域中找出那些长的最像目标域的样本,让他们带着高权重加入目标域的数据学习。

特征层面自适应:将源域与目标域数据都投射到一个公共特征子空间,从而能够将源域训练得到的知识直接应用于目标域中。

模型层面自适应:直接对模型进行修改,将两个领域之间的不同当作先验知识直接引入模型,相当于人工进行改进。

source domain是黑白的,target domain是彩色的,我们希望feature extractor提取的两个domain的特征是一致的,也就是特征层在domain classifier上分类,能分在一起。

推荐内容