paper-Learning Optical Flow from a Few Matches


Learning Optical Flow from a Few Matches

发表机构与时间 : CVPR 2021

第一作者:Shihao Jiang , Australian National University

论文地址戳这里

源码地址戳这里

泛读

导言:

问题: RAFT光流网络虽然效果很好,但是计算成本较高,训练和部署条件比较高。

难点:稀疏化,数据结构的改进优化

相关工作:光流神经网络架构常基于变分法进行优化求解,初期对大位移解决效果良好,小位移计算结果较差;使用方法逐步变化,初期是使用金字塔方法进行计算,然后使用逐步细化(coarse-to-fine)的方法进行优化计算,经过warp操作后的图像与同一尺寸下的图像进行相关性计算,这时强调warp大过correlation,缺陷是小位移光流无法准确计算。后期出现IRR循环迭代的方式计算光流,旨在降低先前各种光流网络参数逐步增加的趋势。在深度学习之前有一种通过马尔科夫场离散优化求解光流的方法,此类方法基于单分辨率图像进行优化求解光流,而且限制解空间的数量。基于上述的两种情况,后续又提出了RAFT,在单分辨率下进行迭代循环计算光流。有文章之前也是寻找出top-k匹配,但是是通过稀疏卷积进行稠密张量化。

本文工作:主要是对RAFT的4D Crrelation Volume 进行优化改进,提出了top-k sparse correlation volume,(通过计算一个特征图中的每个特征向量在另一个特征图中的k个最接近匹配直接构造的);并对后续的稀疏数据进行了稠密化的过程提出了新的编码方式。但是对无特征区域或模糊区域匹配成功度较低。

特色:

改进了RAFT的结构冗余情况,使之使用的内存占用和搜索范围进一步优化。

与RAFT结果比对

网络架构改进

精读

原理

实验

代码

参考文献

[1] 引用文章标题1

[2] 引用文章标题2

[3] 引用文章标题3


Author: star
Reprint policy: All articles in this blog are used except for special statements CC BY 4.0 reprint polocy. If reproduced, please indicate source star !
  TOC