变化¶
前言
最近在读论文的过程中阅读了不少材料,却惊讶的发现甚至有人认为平移同变是平移不变的反义词。特撰写此文。
变换¶
平移(Translation)
平移(Translation)乍看上去或许会有些令人困惑。他指的并不是翻译(你不是在做NLP)。事实上,它是一个从几何学当中借来的单词,这里指的是将每一个像素都向同一方向移动同一长度,也即平移。
不变性和同变性¶
不变性
若对于输入\(a\)与输入\(a^*\),系统产生完全一致的输出,则我们称这个系统是平移不变的。
同变性
若对于输入\(a\)与输入\(a^*\),系统工作的一样好,但他对输入的变换产生对应的响应,则我们称这个系统是平移同变的。
不变性和同变性
不变性和同变性并 不是 一对互为逆的单词。也即,一个操作可能既不是不变的,也不是同变的。
举例来说,对于人脸识别任务\(\mathcal{T}\),平移不变的神经网络对含有人脸的图片都输出\(True\),平移同变的神经网络则会根据人脸的位置输出\((True, Position)\)。
很容易即能看出同变的神经网络可以轻易转换为不变的神经网络–只要丢掉位置信息即可。因此,有些人并不能区分他们。