【DRCN阅读】Deep Reconstruction-Classification Networks for Unsupervised Domain Adaptation. 论文笔记

1. 基本介绍

1. 代码： 有Keras和Pytorch两个版本，网址分别是：https://github.com/ghif/drcn https://github.com/fungtion/DRCN
2. 2016年一篇ECCV的文章
3. 主要贡献： 给源域有标签的数据作分类（有监督）；
4. 能够学习到目标域无标签数据的特征表达（无监督）。

2. 方法：

2.1 主要结构

这个网络可以看成有三个部分：

1. 第一部分就是Encoder部分（左边公用的部分）：将图像进行编码，提取图片的特征。
2. 第二部分就是处理分类任务（右上）：对源域的数据进行分类。
3. 第三部分就是Decoder部分（右下）：该部分网络与Encoder部分正好相反，如果Decoder最终的输出和原始Encoder的输入差距很小，我们就可以认为Encoder部分学习到的关于目标域的特征表达是有效的。

论文中是在手写数字集上进行训练的，所以网络结构都不是很深。Encoder部分：conv1-pool1-conv2-pool2-conv3-fc4-fc5。Decoder部分和Encoder部分完全相反。

2.2 具体训练过程：

用source data训练Encodet+Label(用于分类那部分的网络)，用目标域数据训练Encoder+Decoder部分，交替训练进行即可，目标函数定义如下：

具体训练步骤：

3. 实验

3.1 实验中用到的数据库主要有：

MINIST USPS SVHN 手写数字集
STL CIFAR 8个类别（airplane, bird, cat, deer, dog, horse, ship, and truck）

3.2 实验结果