对抗样本生成的一些经验总结

对抗样本生成的一些经验总结

求梯度时需要用logits而不是probability

设softmax函数为g(x,y):=exp(xy)∑iexp<
11461
span class="mo" id="MathJax-Span-22894" style="font-size: 70.7%;">(xi)g(x,y):=exp⁡(xy)∑iexp⁡(xi)，其中xx 为logits ∈Rn∈Rn，yy 为label ∈{0,...,C−1}∈{0,...,C−1}

设输入为uu，直接采用logits求梯度则为dxydudxydu，但是用probability进行求导则为dg(x,y)du=g(xy)(1−g(xy))dxydudg(x,y)du=g(xy)(1−g(xy))dxydu

而x(1−x)≤14x(1−x)≤14，因此使用probability进行求导得到的结果要比直接用logits的小很多，尤其是x→0+x→0+ 或x→1−x→1− 的时候。在做targeted adversarial generation时，如果图像在y_target上的prob很小，那么反向传递梯度几乎不会对原图产生影响

那既然这样，我们一直使用的模型训练方式是不是也有所欠缺呢？