Generative Transformer for Accurate and Reliable Salient Object Detection
TrasformerSOD/README_CN.md at master · fupiao1998/TrasformerSOD
[论文阅读] Transformer Transforms Salient Object Detection and Camouflaged Object Detection
CNN存在的问题：深层网络的大感受野是通过牺牲结构信息来获得的，因此需要设计复杂的decoder来"尝试"恢复。
而对于Vision Transformer而言，位置编码在建模准确的空间信息方面存在局限，不适合密集预测任务。
Encoder所用的backbone为Swin Transformer。类似于CNN中的backbone，其也可以生成五个尺度下的特征，记做 $\left\{s_{k}\right\}{l=1}^{4}$ ，其中每个特征具有相同的通道数量，即256。每级特征的下采样率分别为1/4、1/8、1/16和1/32。 我们将 $\left\{s{k}\right\}_{l=1}^{4}$ 向上采样到相同的空间大小，即原始图像大小的四分之一。然后，我们将它们连接起来，得到通道大小为 $256∗4$ 的新的特征映射 $s_s$。将 $s_s$ 馈送到 RCA 模块以获得相同大小的 $s_s'$, 然后使用一个3×3卷积层将 $s_s'$映射到单通道图 $c$.
