Motivation
- 信息的全局处理会帮助提高整体深度估计。
- 提出的AdaBins预测的bin中心集中在较小的深度值附近,对于深度值范围更广的图像,分布广泛。
- Fu et al. 发现将深度回归任务转化为分类任务可以提升效果,将深度范围分成固定数量的bins。本文则解决了原始方法的多个限制:
- 计算根据输入场景的特征动态变化的自适应箱。
- 分类方法导致深度值的离散化,导致视觉质量差,深度不连续明显,论文提出预测最终的深度值作为bin中心的线性组合。
- 以高分辨率全局计算信息,而不是主要是在低分辨率的瓶颈部分。
AdaBins design
- 首先,我们采用一个适应性分箱策略把具体的深度区间
分成N bins。
- 我们将最终深度预测为 bin 中心的线性组合,使模型能够估计平滑变化的深度值。
- 当在空间更高分辨率的张量上使用注意力时,可以获得更好的结果。因此采用了这样的结构: Encoder, Decoder, and finally attention。
- 由于内存限制,使用h=H/2,w=W/2的空间分辨率处理,最终的depth图像通过简单的bilinearly上采样到(H,W)。
- AdaBins的第一个模块是miniViT.输出:1) 向量 b , 定义了它如何将深度区间D划分为输入图像。2)Range-Attention 图
,形状是
, 包含了像素级深度计算信息。
- Bin-widths: 使用MLP头和ReLU层输出N维(bin的数量)向量b’。最后通过Softmax归一化b‘。
- Range attention maps: Transformer中包含了更多的全局信息。来自转换器的output embedding (2,C+1)作用一组1×1的卷积核,并与解码器的特征卷积获得
。这相当于将pixel-wise 特征视为’keys’, transformer output embedding相当于’queries’。
- Hybrid regression:
通过 1 × 1 卷积层获得 N 个通道,然后通过 Softmax。每个像素每个通道的数值作为这个bin的概率,每个depth-bin-centers可以算为:
最后,对于每一个pixel, 最终的计算为线性组合
,
。
Loss function
- Pixel-wise depth loss. 使用一个尺度不变损失 (SI) 的缩放版本:
。
- Bin-center density loss: 鼓励bin centers的分布与真实标签相同。我们将 bin 中心的集合表示为 c(b),将地面实况图像中所有深度值的集合表示为 X,并使用双向倒角损失 [9] 作为正则化器:
Reference
- [1]FU H, GONG M, WANG C, et al. Deep Ordinal Regression Network for Monocular Depth Estimation[C/OL]//2018 IEEE/CVF Conference on Computer Vision and Pattern Recognition, Salt Lake City, UT. 2018. http://dx.doi.org/10.1109/cvpr.2018.00214. DOI:10.1109/cvpr.2018.00214.
版权声明:本文为博主作者:BlueagleAI原创文章,版权归属原作者,如果侵权,请联系我们删除!
原文链接:https://blog.csdn.net/blueag1e/article/details/137526029