2000元阿里云代金券免费领取，2核4G云服务器仅664元/3年，新老用户都有优惠，立即抢购>>>
阿里云采购季（云主机223元/3年）活动入口：请点击进入>>>，
阿里云学生服务器（9.5元/月）购买入口：请点击进入>>>，
以最佳的101 layer的ResNet-DUC为基础，添加HDC，实验探究了几种变体：
- 无扩张卷积(no dilation)：对于所有包含扩张卷积，设置r=1r=1
- 扩张卷积(dilation Conv )：对于所有包含扩张卷积，将2个block和为一组，设置第一个block的r=2r=2，第二个block的r=1r=1
- Dilation-RF：对于res4bres4b包含了23个blocks，使用的r=2r=2，设置3个block一组，r=1,2,3r=1,2,3.对于最后两个block，设置r=2r=2；对于res5bres5b，包含3个block,使用r=4r=4，设置为r=3,4,5r=3,4,5.
- Dilation-Bigger：对于res4bres4b模块，设置4个block为一组，设置r=1,2,5,9r=1,2,5,9.最后3个block设置为1,2,51,2,5；对于res5bres5b模块，设置r=5,9,17r=5,9,17
可以看到增加接收野大小会获得较高的精度。如下图所示：
ResNet-DUC-HDC在较大的目标物上表现较好。下图是局部放大：
可以看到HDC有效的消除”gridding”产生的影响。
Deeper Networks： 同样尝试了将ResNet-101切换为ResNet-152，使用ResNet152先跑了10个epoch学习了BN层参数，再固定BN层，跑了20个epochs.结果如下：
ResNet152为基础层的有1%的提升。
Test Set Results： 论文将ResNet101开始的7×77×7卷积拆分为3个3×33×3的卷积，再不带CRF的情况下达到了80.1%mIoU.与其他先进模型相比如下：
模型同时在coarse labels跑了一圈，与同样以deliated convolution为主的DeepLabv2相比，提升了9.7%.
KITTI Road Segmentaiton
KITTI有289的训练图片和290个测试图片。示例如下：
因为数据集有限，为了避免过拟合。论文以100的步长在数据集中裁剪320×320320×320的patch. 使用预训练模型，结果如下：
结果达到了state-of-the-art水平.
PASCAL VOC2012 dataset
先用VOC2012训练集和MS-COCO数据集对ResNet-DUC做预训练。再使用VOC2012做fine-tune。使用的图片大小为512×512512×512。达到了state-of-the-art水平：
可视化结果如下：
Conclusion
论文提出了简单有效的卷积操作改进语义分割系统。使用DUC恢复上采样丢失的信息，使用HDC在解决”gridding”的影响的同时扩大感受野。实验证明我们的框架对各种语义分割任务的有效性。
![[Linformer]论文实现：Linformer: Self-Attention with Linear Complexity](https://ucc.alicdn.com/pic/developer-ecology/w2a72w4omzoyy_ea5bad2af1744dc4bb26ef857436cd37.png?x-oss-process=image/resize,h_160,m_lfit)
