Lucas–Kanade光流算法是一种两帧差分的光流估计算法。它由Bruce D. Lucas 和 Takeo Kanade提出 [1]。

LK光流法有三个假设条件:

1. 亮度恒定:一个像素点随着时间的变化,其亮度值(像素灰度值)是恒定不变的。这是光流法的基本设定。所有光流法都必须满足。

2. 小运动: 时间的变化不会引起位置的剧烈变化。这样才能利用相邻帧之间的位置变化引起的灰度值变化,去求取灰度对位置的偏导数。所有光流法必须满足。

3. 空间一致:即前一帧中相邻像素点在后一帧中也是相邻的。这是LK光流法独有的假定。因为为了求取x,y方向的速度,需要建立多个方程联立求解。而空间一致假设就可以利用邻域n个像素点来建立n个方程。

LK光流算法原理的数学推导:

假设前一帧时间为t, 后一帧时间为t+δt。则前一帧I的像素点I(x, y, z, t)在后一帧中的位置为I(x+δx, y+δy, z+δz, t+δt )。

① 根据亮度恒定假设:

  光流法详解之一(LK光流)-LMLPHP

② 根据小运动假设, 将上式右侧用泰勒级数展开:

  光流法详解之一(LK光流)-LMLPHP

  H.O.T是泰勒级数展开式的高阶项,小运动情况下可以 忽略为0.

③ 根据上面两个公式可以得到:

  光流法详解之一(LK光流)-LMLPHP

  或者下面的公式:

  光流法详解之一(LK光流)-LMLPHP

而对于二维图像而言,只需要考虑x, y, t即可,其中Ix,Iy  It分别为图像在(x, y, t)方向的差分,写为如下形式:

  光流法详解之一(LK光流)-LMLPHP

④ 现在有两个未知数,只有一个方程。因此用到第三个假设:即空间一致性假设,LK算法是利用3x3窗口内的9个像素点建立9个方程。简写为下面的形式:  

  光流法详解之一(LK光流)-LMLPHP

  写成矩阵形式:

  光流法详解之一(LK光流)-LMLPHP

  当然两个未知数,9个方程,这是一个超定问题,采用最小二乘法解决:

  光流法详解之一(LK光流)-LMLPHP

写成如下形式:

  光流法详解之一(LK光流)-LMLPHP

根据上式通过累加邻域像素点在三个维度的偏导数并做矩阵运算,即可算出该点的光流(Vx,Vy)。

源代码及效果:

源代码见这里:https://blog.csdn.net/xiaoyufei117122/article/details/53693627

效果并不好,很多错误匹配点。

光流法详解之一(LK光流)-LMLPHP

参考文献:

[1]. Lucas B and Kanade T. An Iterative Image RegistrationTechnique with an Application to Stereo Vision. Proc. Of 7th InternationalJoint Conference on Artificial Intelligence (IJCAI), pp.674-679.

 

05-11 18:15