Learning Optical Flow from a Few Matches
发表机构与时间 : CVPR 2021
第一作者:Shihao Jiang , Australian National University
论文地址 :戳这里
源码地址 :戳这里
泛读
导言:
问题: RAFT光流网络虽然效果很好,但是计算成本较高,训练和部署条件比较高。
难点:稀疏化,数据结构的改进优化
相关工作:光流神经网络架构常基于变分法进行优化求解,初期对大位移解决效果良好,小位移计算结果较差;使用方法逐步变化,初期是使用金字塔方法进行计算,然后使用逐步细化(coarse-to-fine)的方法进行优化计算,经过warp操作后的图像与同一尺寸下的图像进行相关性计算,这时强调warp大过correlation,缺陷是小位移光流无法准确计算。后期出现IRR循环迭代的方式计算光流,旨在降低先前各种光流网络参数逐步增加的趋势。在深度学习之前有一种通过马尔科夫场离散优化求解光流的方法,此类方法基于单分辨率图像进行优化求解光流,而且限制解空间的数量。基于上述的两种情况,后续又提出了RAFT,在单分辨率下进行迭代循环计算光流。有文章之前也是寻找出top-k匹配,但是是通过稀疏卷积进行稠密张量化。
本文工作:主要是对RAFT的4D Crrelation Volume 进行优化改进,提出了top-k sparse correlation volume,(通过计算一个特征图中的每个特征向量在另一个特征图中的k个最接近匹配直接构造的);并对后续的稀疏数据进行了稠密化的过程提出了新的编码方式。但是对无特征区域或模糊区域匹配成功度较低。
特色:
改进了RAFT的结构冗余情况,使之使用的内存占用和搜索范围进一步优化。
精读
原理:
实验:
代码:
参考文献
[1] 引用文章标题1
[2] 引用文章标题2
[3] 引用文章标题3