OpenCV图像处理——C++实现亚像素尺寸标定板边缘轮廓提取

前言

标定模板（Calibration Target）在机器视觉、图像测量、摄影测量以及三维重建等应用中起着重要的作用。它被用于校正相机的畸变，确定物理尺寸和像素之间的换算关系，并建立相机成像的几何模型。通过使用相机拍摄带有固定间距图案阵列的平板，并经过标定算法的计算，我们能够得到相机的几何参数，从而获得高精度的测量和重建结果。

这种标定模板通常具有固定间距的图案阵列，例如棋盘格、圆点阵列等。这些图案提供了已知尺寸的参考点，使得可以精确地计算相机的内参（内部参数）和外参（外部参数）。内参包括焦距、主点等相机内部的属性，而外参包括相机的位置和方向等外部属性。

通过对标定模板进行拍摄和相应的标定过程，可以消除图像中的畸变效应，实现对物体三维几何位置与其在图像中对应点之间的精确关联。这为各种应用场景提供了可靠的基础，包括计算机视觉任务、图像测量、摄影测量以及三维重建等。标定模板的使用有助于提高测量和重建的准确性，并确保获得可靠的结果。
这是使用的标定板是49个圆点的尺寸标定板，为是更好的演示亚像素，所拍的图像大小为320240pix，标定板的大小为130130pix。

边缘检测

在计算机视觉和机器视觉领域，广泛应用图像分割，这是将数字图像细分为多个子区域的过程。图像分割的目标是简化或改变图像的表示形式，使其更易于理解和分析。这通常包括定位图像中的物体和边界，生成图像子区域或轮廓线的集合。图像分割方法主要涵盖阈值处理（二值化）、聚类法、边缘检测和区域生长等。解决图像分割问题时，通常需要结合领域知识，因为没有统一的范式可以适用于所有情境。

边缘检测是一种基于灰度变化的常见图像分割方法，其核心是提取图像中不连续部分的特征。常见的边缘检测算子包括差分算子、Roberts算子、Sobel算子、Prewitt算子、Log算子以及Canny算子等。其中，Canny算子由计算机科学家John F. Canny于1986年提出，被认为是目前理论上相对最完善的边缘检测算法。
这里面使用了Canny来进行边缘检测，Canny边缘检测是一种经典的图像处理技术，用于检测图像中的边缘。这个算法由约翰·Canny于1986年提出，被广泛应用于计算机视觉和图像处理领域。以下是Canny边缘检测的基本原理和步骤：

1. 噪声抑制： 使用高斯滤波器对图像进行平滑处理，以减少噪声的影响。这有助于提高后续边缘检测步骤的准确性。

2. 计算梯度幅值和方向： 利用Sobel等算子计算图像中每个像素点的梯度幅值和方向。梯度表示图像中的变化率，有助于确定潜在的边缘位置。

3. 非极大值抑制： 在图像的每个像素点上，仅保留梯度幅值最大的方向，从而细化边缘。

4. 双阈值检测： 将梯度幅值分为高阈值和低阈值两部分。高于高阈值的像素点被认为是强边缘，低于低阈值的像素点被排除。介于两者之间的像素点被标记为弱边缘。

5. 边缘连接： 通过强边缘的连接，将弱边缘与强边缘关联起来，形成连续的边缘。

Canny边缘检测的优势在于其高准确性、低误差率和对边缘的单一定位。

	cv::Mat cv_gray;
    if (cv_src.channels() > 1)
    {
        cv::cvtColor(cv_src, cv_gray, cv::COLOR_BGR2GRAY);
    }
    else
    {
        cv_gray = cv_src.clone();
    }
    cv::Mat cv_edge;

    //1.边缘检测
    cv::Canny(cv_gray, cv_edge, 180, 200);

    cv::imshow("edge", cv_edge);
    cv::waitKey();

canny的结果：

轮廓提取

轮廓是由一系列相连的像素点组成的曲线，反映了物体的基本外形特征。常常用于形状分析以及物体的检测和识别任务。
边缘检测通过检测灰度的突变来寻找图像边界，但通常检测到的边缘是零散的片段，没有形成完整的整体。为了从背景中分离目标，需要将这些边缘像素连接起来形成轮廓。换句话说，轮廓是一种连续的曲线，而边缘未必都是连续的。边缘主要被用作图像的特征，而轮廓则更多地用于分析物体的整体形态。
cv::findContours 是OpenCV库中用于查找图像中轮廓的函数。它的基本用法是在二进制图像中找到对象的轮廓，返回一个包含轮廓点集合的列表。
然而，在使用cv::findContours时，会产生内外两个轮廓，为了减少内部，要对获取的轮廓进行进一步的处理：

**
 * @brief 在二值化边缘图像中检测和分离内部和外部轮廓。
 *
 * @param cv_edge 二值化边缘图像。
 * @param inner_contours 用于存储内部轮廓的向量。
 */
void contour(cv::Mat& cv_edge, std::vector<std::vector<cv::Point>>& inner_contours)
{
    // 存储所有检测到的轮廓的向量
    std::vector<std::vector<cv::Point>> contours;
    // 存储轮廓之间层次关系的层次向量
    std::vector<cv::Vec4i> hierarchy;

    // 在二值化边缘图像中查找轮廓
    cv::findContours(cv_edge, contours, hierarchy, cv::RETR_CCOMP, cv::CHAIN_APPROX_NONE);

    // 存储有效轮廓和被排除轮廓的索引的向量
    std::vector<int> valids;
    std::vector<int> excludes;

    // 根据层次关系减少内部轮廓
    edge_contour_valids(hierarchy, valids, excludes);

    // 调整 inner_contours 向量的大小以容纳有效轮廓
    inner_contours.resize(valids.size());

    // 将有效轮廓的索引映射到相应的轮廓，并存储在 inner_contours 中
    std::transform(std::execution::par,
        valids.begin(),
        valids.end(),
        inner_contours.begin(),
        [contours](int i) { return contours[i]; }
    );

    // 存储外部轮廓的向量
    std::vector<std::vector<cv::Point>> external_contours(excludes.size());

    // 将被排除轮廓的索引映射到相应的轮廓，并存储在 external_contours 中
    std::transform(std::execution::par,
        excludes.begin(),
        excludes.end(),
        external_contours.begin(),
        [contours](int i) { return contours[i]; }
    );
}

得到轮廓之后，要获取标定板圆前先获取轮廓的矩：

/**
 * @brief 计算轮廓的属性并进行阈值化，筛选符合条件的轮廓。
 *
 * @param inner_contours 存储内部轮廓的向量。
 * @param cv_cont_and 存储轮廓属性的阈值化结果。
 * @param cont_center 存储轮廓中心点的向量。
 * @param RADIUS_MAX 最大半径阈值。
 */
void contours_attribute(std::vector<cv::Point> &cont_center, std::vector<std::vector<cv::Point>> &inner_contours,
    cv::Mat & cv_cont_and,double RADIUS_MAX)
{
    // 获取轮廓的长度
    std::vector<double> cont_lengths;
    contour_length(inner_contours, cont_lengths);

    // 存储轮廓的半径和纵横比
    std::vector<double> cont_ra, cont_aspect_ratio;
    cv::Mat_<double> cont_length_mat(cont_lengths);

    // 计算轮廓中心点和其他属性
    for (const auto& c : inner_contours)
    {
        auto M = cv::moments(c);

        double area = M.m00;
        auto centerX = int(M.m10 / area);
        auto centerY = int(M.m01 / area);
        double m20 = M.mu20 / area;
        double m02 = M.mu02 / area;
        double m11 = M.mu11 / area;
        double c1 = m20 - m02;
        double c2 = c1 * c1;
        double c3 = 4 * m11 * m11;

        cont_center.emplace_back(centerX, centerY);

        auto ra = sqrt(2.0 * (m20 + m02 + sqrt(c2 + c3)));
        auto rb = sqrt(2.0 * (m20 + m02 - sqrt(c2 + c3)));
        cont_ra.emplace_back(ra);
        cont_aspect_ratio.emplace_back(ra / rb);
    }

    // 将属性向量转为 OpenCV 的 Mat 类型
    cv::Mat_<double> cv_cont_radius(cont_ra);
    cv::Mat_<double> cv_cont_aspect_ratio(cont_aspect_ratio);

    // 定义阈值和计算最大轮廓长度
    cv::Mat cv_aspect_ratio, cv_radius, cv_cont_length;
    const double CONT_LENGTH_MAX = 2 * M_PI * RADIUS_MAX;

    // 对纵横比、半径和轮廓长度进行阈值化
    cv::threshold(cv_cont_aspect_ratio, cv_aspect_ratio, 0.8, 1.0, cv::ThresholdTypes::THRESH_BINARY);
    cv::threshold(cv_cont_radius, cv_radius, RADIUS_MAX, 1.0, cv::ThresholdTypes::THRESH_BINARY_INV);
    cv::threshold(cont_length_mat, cv_cont_length, CONT_LENGTH_MAX, 1.0, cv::ThresholdTypes::THRESH_BINARY_INV);

    // 将阈值结果按位与，存储在 cv_cont_and 中
    cv::Mat and1;
    cv::bitwise_and(cv_aspect_ratio, cv_radius, and1);
    cv::bitwise_and(and1, cv_cont_length, cv_cont_and);
}

亚像素轮廓提取

使用亚像素插值，获得轮廓的亚像素级坐标：

/**
 * @brief 对图像进行亚像素插值，获得轮廓的亚像素级坐标。
 *
 * @param image_gray 灰度图像。
 * @param filteredCont 过滤后的轮廓向量。
 * @param contSubPixFull 存储亚像素级坐标的向量的向量。
 */
void sub_pix_contour(const cv::Mat& image_gray,
    const std::vector<std::vector<cv::Point>>& filteredCont,
    std::vector<std::shared_ptr<std::vector<std::shared_ptr<cv::Point2d>>>>& contSubPixFull)
{
    // 定义用于插值的系数
    std::vector<double> p_vec{ 0.004711,  0.069321,  0.245410,  0.361117,  0.245410,  0.069321,  0.004711 };
    std::vector<double> d1_vec{ -0.018708,  -0.125376,  -0.193091,  0.000000, 0.193091, 0.125376, 0.018708 };
    std::vector<double> d2_vec{ 0.055336,  0.137778, -0.056554, -0.273118, -0.056554,  0.137778,  0.055336 };

    // 将系数转为 Mat 类型
    auto p = cv::Mat_<double>(p_vec);
    auto d1 = cv::Mat_<double>(d1_vec);
    auto d2 = cv::Mat_<double>(d2_vec);

    // 计算图像梯度
    cv::Mat dx, dy, grad;
    cv::sepFilter2D(image_gray, dy, CV_64F, p, d1);
    cv::sepFilter2D(image_gray, dx, CV_64F, d1, p);
    cv::pow(dy.mul(dy, 1.0) + dx.mul(dx, 1.0), 0.5, grad);

    // 计算更高阶导数
    cv::Mat gy, gx, gyy, gxx, gxy;
    cv::sepFilter2D(grad, gy, CV_64F, p, d1);
    cv::sepFilter2D(grad, gx, CV_64F, d1, p);
    cv::sepFilter2D(grad, gyy, CV_64F, p, d2);
    cv::sepFilter2D(grad, gxx, CV_64F, d2, p);
    cv::sepFilter2D(grad, gxy, CV_64F, d1, d1);

    // 对每个轮廓进行亚像素插值
    contSubPixFull.resize(filteredCont.size());
    std::transform(std::execution::par,
        filteredCont.cbegin(),
        filteredCont.cend(),
        contSubPixFull.begin(),
        [&gy, &gx, &gyy, &gxx, &gxy](const std::vector<cv::Point>& cont)
        {
            return sub_pix_single(gy, gx, gyy, gxx, gxy, cont);
        }
    );
}

把亚像素轮廓坐标显示：

void SubPixEdge::draw_roi(cv::Mat& cv_src, std::vector<std::vector<cv::Point>>& filtered_cont,
    std::vector<std::shared_ptr<std::vector<std::shared_ptr<cv::Point2d>>>>& cont_sub_pix,bool show_roi)
{
    const int up_scale = 50;

    cv::Mat cv_temp = cv_src.clone();
    int src_up_w = up_scale * cv_temp.rows;
    int src_up_h = up_scale * cv_temp.cols;

    cv::Mat cv_src_up = cv::Mat::zeros(src_up_w, src_up_h, CV_8UC3);

    for (int i = 0; i < cv_temp.cols; ++i)
    {
        for (int j = 0; j < cv_temp.rows; ++j)
        {
            cv::Mat roi = cv_src_up(cv::Rect(i * up_scale, j * up_scale, up_scale, up_scale));
            roi = cv_temp.at<cv::Vec<uchar, 3>>(j, i);
        }
    }

    
    std::vector<std::vector<cv::Point>> cont;
    for (int i = 0; i < cont_sub_pix.size(); ++i)
    {
        std::vector<cv::Point> dis_cont;
        for (const auto& p : *cont_sub_pix[i])
        {
            //使用 floor() 函数向下取整
            int x = floor((p->x + 0.5) * up_scale);
            int y = floor((p->y + 0.5) * up_scale);
            cv::drawMarker(cv_src_up, cv::Point(x, y), cv::Scalar(0, 0, 255), cv::MARKER_TILTED_CROSS, 20, 5);
            dis_cont.emplace_back(x, y);
        }
        cont.emplace_back(dis_cont);
    }
    
    cv::drawContours(cv_src_up, cont, -1, cv::Scalar(255, 0, 0), 5);
    
    cv::drawContours(cv_src, filtered_cont, -1, cv::Scalar(255, 0, 0));
    
    if (show_roi)
    {
        for (int i = 0; i < filtered_cont.size(); ++i)
        {
            cv::Rect rect = cv::boundingRect(filtered_cont[i]);

            cv::Mat crop = cv_src(rect);
            if (crop.empty())
            {
                continue;
            }

            int up_w = up_scale * rect.width;
            int up_h = up_scale * rect.height;


            cv::Mat cv_up = cv::Mat::zeros(up_w, up_h, CV_8UC3);

            for (int i = 0; i < crop.cols; ++i)
            {
                for (int j = 0; j < crop.rows; ++j)
                {
                    cv::Mat roi = cv_up(cv::Rect(i * up_scale, j * up_scale, up_scale, up_scale));
                    roi = crop.at<cv::Vec<uchar, 3>>(j, i);
                }
            }


            std::vector<cv::Point> dis_cont;

            for (const auto& p : *cont_sub_pix[i])
            {
                //使用 floor() 函数向下取整
                int x = floor(((p->x - rect.x) + 0.5) * up_scale);
                int y = floor(((p->y - rect.y) + 0.5) * up_scale);
                cv::drawMarker(cv_up, cv::Point(x, y), cv::Scalar(0, 0, 255), cv::MARKER_TILTED_CROSS, 20, 3);
                dis_cont.emplace_back(x, y);
            }

            std::vector<std::vector<cv::Point>> display_contour_full{ dis_cont };
            cv::drawContours(cv_up, display_contour_full, 0, cv::Scalar(255.0, 0.0, 0.0), 3);

            cv::namedWindow("upScaled", 0);
            cv::imshow("upScaled", cv_up);
            cv::waitKey();
        }
    }

    cv::namedWindow("src", 0);
    cv::imshow("src", cv_src);
    cv::namedWindow("sub_pix_src", 0);
    cv::imshow("sub_pix_src", cv_src_up);
    cv::waitKey();
}

左边为像素级边缘轮廓，右边为亚像素边缘轮廓：