引言
机器视觉中缺陷检测分为一下几种:
- blob分析+特征
- 模板匹配(定位)+差分:halcon——缺陷检测常用方法总结(模板匹配(定位)+差分) - 唯有自己强大 - 博客园 (cnblogs.com)
- 光度立体:halcon——缺陷检测常用方法总结(光度立体) - 唯有自己强大 - 博客园 (cnblogs.com)
- 特征训练
- 测量拟合:halcon——缺陷检测常用方法总结(测量拟合) - 唯有自己强大 - 博客园 (cnblogs.com)
- 频域+空间域结合:halcon——缺陷检测常用方法总结(频域空间域结合) - 唯有自己强大 - 博客园 (cnblogs.com)
- 深度学习
本篇博文主要是对缺陷图像的纹理特征训练进行详细分析。
特征训练
在纹理中找瑕疵。基于高斯混合模型(GMM)分类器的纹理检查模型,适用于图像金字塔,可以分析纹理的多个频率范围。
要求:训练样本必须完美无瑕疵。
整体步骤:
- 创建模型create_texture_inspection_model或读取模型read_texture_inspection_model
- 添加训练样本add_texture_inspection_model_image
- 查看样本get_texture_inspection_model_image
- 训练模型train_texture_inspection_model
每层金字塔都会训练一个GMM模型,并确定该层的'novelty_threshold'(区分有无瑕疵的阈值)。
参数获取:get_texture_inspection_model_param
参数设定:set_texture_inspection_model_param
参数分析:'patch_normalization':'weber'对亮度鲁棒,‘none’需要亮度作为评判(默认)
'patch_rotational_robustness':'true'对旋转鲁棒,'false'需要旋转作为评判(默认)
'levels':设置具体的金字塔层参与训练,纹理越粗糙,则较低的金字塔层级越可省略。默认auto。
'sensitivity':灵敏度,影响'novelty_threshold'的计算结果。负值会导致更高的阈值,从而更少的发现缺陷。默认0。
'novelty_threshold',阈值,自动计算得到,若结果不理想,可以手动微调。
- 进行检测apply_texture_inspection_model
- 模型保存与释放write_texture_inspection_model
若模型不再需要,则释放clear_texture_inspection_model
halcon案例分析(apply_texture_inspection_model.hdev)
一,创建模型,添加训练样本(完好无损的图像)
TrainingImageIndices := [1,2] TextureModelFilename := 'texture_model_carpet' dev_open_window_fit_size (0, 0, Width, Height, -1, -1, WindowHandle1) dev_display (Image) *创建模型 create_texture_inspection_model ('basic', TextureInspectionModel) for Index := 0 to |TrainingImageIndices| - 1 by 1 read_image (Image, 'carpet/carpet_' + TrainingImageIndices[Index]$'02') dev_display (Image) Message := '添加图片 ' + (Index + 1) + ' of ' + |TrainingImageIndices| + '训练准备' dev_disp_text (Message, 'window', 12, 12, 'black', [], []) *加载训练样本(两张) add_texture_inspection_model_image (Image, TextureInspectionModel, Indices) endfor
二,初步设置参数后,开始训练
*参数设定'patch_normalization':'weber'对亮度鲁棒,‘none’需要亮度作为评判(默认) set_texture_inspection_model_param (TextureInspectionModel, 'patch_normalization', 'weber') Levels := [2,3,4] * 'levels':设置具体的金字塔层参与训练,纹理越粗糙,则较低的金字塔层级越可省略。默认auto。 set_texture_inspection_model_param (TextureInspectionModel, 'levels', Levels) * 开始训练 train_texture_inspection_model (TextureInspectionModel) *查看样本参数'novelty_threshold',阈值,自动计算得到,若结果不理想,可以手动微调。 get_texture_inspection_model_param (TextureInspectionModel, 'novelty_threshold', NoveltyThreshold) * 查看各个金字塔等级的新颖性得分图像和新颖性区域,可以把'gen_result_handle'设置为'true', *之后get_texture_inspection_result_object读取'novelty_score_image'和'novelty_region'。 set_texture_inspection_model_param (TextureInspectionModel, 'gen_result_handle', 'true')
三,对缺陷图像初测试,显示测试结果
*设置窗口,用于显示各个金字塔层图像 WindowWidth := 320 WindowHeight := 280 dev_open_window (0, 0, WindowWidth, WindowHeight, 'black', WindowHandle1) set_display_font (WindowHandle1, 16, 'mono', 'true', 'false') dev_open_window (0, WindowWidth + 8, WindowWidth, WindowHeight, 'black', WindowHandle2) set_display_font (WindowHandle2, 16, 'mono', 'true', 'false') dev_open_window (0, 2 * WindowWidth + 16, WindowWidth, WindowHeight, 'black', WindowHandle3) set_display_font (WindowHandle3, 16, 'mono', 'true', 'false') dev_open_window (WindowHeight + 50, WindowWidth / 2 + 8, 2 * WindowWidth, 2 * WindowHeight, 'black', WindowHandle4) set_display_font (WindowHandle4, 16, 'mono', 'true', 'false') WindowHandles := [WindowHandle1,WindowHandle2,WindowHandle3] ** 检测第一张训练图像上的纹理缺陷以微调参数。 for Index := 1 to 3 by 1 ImageIndex := 5 read_image (TestImage, 'carpet/carpet_' + ImageIndex$'02') *测试当前图像 apply_texture_inspection_model (TestImage, NoveltyRegion, TextureInspectionModel, TextureInspectionResultID) * 检查调试信息。 *查看各个金字塔等级的新颖性得分图像(NovScoreImage)和新颖性区域(NovRegionL) * 新颖性评分图像可用于单独微调新颖性阈值。 get_texture_inspection_result_object (NovScoreImage, TextureInspectionResultID, 'novelty_score_image') get_texture_inspection_result_object (NovRegion, TextureInspectionResultID, 'novelty_region') * 显示每层(金字塔)的结果 count_obj (NovScoreImage, Number) for Level := 1 to Number by 1 CurrentWindow := WindowHandles[Level - 1] dev_set_window (CurrentWindow) dev_clear_window () select_obj (NovScoreImage, NovScoreImageL, Level) select_obj (NovRegion, NovRegionL, Level) get_image_size (NovScoreImageL, Width, Height) dev_set_part (0, 0, Height - 1, Width - 1) dev_display (NovScoreImageL) Legend := 'Novelty region (level ' + Levels[Level - 1] + ')' dev_set_color ('red') dev_set_line_width (2) * dev_display (NovRegionL) dev_disp_text (['Novelty score image (level ' + Levels[Level - 1] + ')','Novelty threshold: ' + NoveltyThreshold[Level - 1]$'.1f'], 'window', 12, 12, 'black', [], []) dev_disp_text (Legend, 'window', WindowHeight - 30, 12, 'white', ['box_color','shadow'], ['black','false']) endfor *显示结果 dev_set_window (WindowHandle4) dev_display (TestImage) dev_set_line_width (2) dev_set_color ('red') dev_display (NoveltyRegion) area_center (NoveltyRegion, Area, Row, Column) if (Index < 3) dev_disp_text ('Result', 'window', 12, 12, 'black', [], []) else dev_disp_text ('Final result', 'window', 12, 12, 'black', [], []) endif
四,根据测试结果进行微调参数
* 新奇阈值的微调。 if (Index == 1) Message[0] := '图像中有很多小错误.' Message[1] := '可以通过改变 novelty thresholds的值来调整灵敏度(sensitivity—)' Message[2] := '例如减少灵敏度参数的值' dev_disp_text (Message, 'window', 12, 12, 'black', [], []) * 设置阈值计算的灵敏度。 负值导致更高的阈值,因此检测到的缺陷更少。 * 'sensitivity':灵敏度,影响'novelty_threshold'的计算结果。负值会导致更高的阈值,从而更少的发现缺陷。默认0。 set_texture_inspection_model_param (TextureInspectionModel, 'sensitivity', -10) get_texture_inspection_model_param (TextureInspectionModel, 'novelty_threshold', NoveltyThreshold) endif if (Index == 2) Message := '也可以通过直接操纵新颖性边界来单独调整单个级别的敏感度' dev_disp_text (Message, 'window', 12, 12, 'black', [], []) * 新奇阈值的微调。 * * 从纹理中获取(自动确定的)新奇阈值 * 检查模型并将适当修改的值设置为新的新颖性阈值。 * *如果我们明确设置新颖性边界,则忽略敏感性。 * 我们在这里将其重新设置为 0 以避免混淆 set_texture_inspection_model_param (TextureInspectionModel, 'sensitivity', 0) * Offset := [25,10,30] get_texture_inspection_model_param (TextureInspectionModel, 'novelty_threshold', NoveltyThreshold) set_texture_inspection_model_param (TextureInspectionModel, 'novelty_threshold', Offset + NoveltyThreshold) get_texture_inspection_model_param (TextureInspectionModel, 'novelty_threshold', NoveltyThreshold) endif endfor for Level := 1 to |WindowHandles| by 1 dev_set_window (WindowHandles[Level - 1]) dev_clear_window () endfor dev_set_window (WindowHandle4) dev_clear_window ()
五,至此,模型准备完毕,将全部图像进行缺陷检测并显示
*检测所有测试图像上的纹理缺陷。 NumImages := 7 for Index := 1 to NumImages by 1 read_image (TestImage, 'carpet/carpet_' + Index$'02') * *检测当前图像 apply_texture_inspection_model (TestImage, NoveltyRegion, TextureInspectionModel, TextureInspectionResultID) *得到新颖性图像和区域 get_texture_inspection_result_object (NovScoreImage, TextureInspectionResultID, 'novelty_score_image') get_texture_inspection_result_object (NovRegion, TextureInspectionResultID, 'novelty_region') * 显示单个金字塔层数的结果 count_obj (NovScoreImage, Number) for Level := 1 to Number by 1 CurrentWindow := WindowHandles[Level - 1] dev_set_window (CurrentWindow) dev_clear_window () select_obj (NovScoreImage, NovScoreImageL, Level) select_obj (NovRegion, NovRegionL, Level) get_image_size (NovScoreImageL, Width, Height) dev_set_part (0, 0, Height - 1, Width - 1) dev_display (NovScoreImageL) Legend := 'Novelty region (level ' + Levels[Level - 1] + ')' dev_set_color ('red') dev_set_line_width (2) * dev_display (NovRegionL) dev_disp_text (['Novelty score image (level ' + Levels[Level - 1] + ')','Novelty threshold: ' + NoveltyThreshold[Level - 1]$'.1f'], 'window', 12, 12, 'black', [], []) dev_disp_text (Legend, 'window', WindowHeight - 50, 12, ['red','white'], ['box_color','shadow'], ['black','false']) endfor * 显示结果 dev_set_window (WindowHandle4) dev_display (TestImage) dev_set_line_width (2) dev_set_color ('red') dev_display (NoveltyRegion) area_center (NoveltyRegion, Area, Row, Column) if (Area > 100) dev_disp_text ('Not OK', 'window', 12, 12, 'white', 'box_color', 'red') else dev_disp_text ('OK', 'window', 12, 12, 'white', 'box_color', 'forest green') endif if (Index < NumImages) dev_disp_text ('Press Run (F5) to continue', 'window', 'bottom', 'right', 'black', [], []) stop () endif endfor
【术语解释】
- Patch:相邻像素的集合。
- Novelty Score:在测试过程中,将测试图像的纹理特征与纹理检查模型进行比较,并计算它们的'novelty score'。 该值越大,单个纹理特征越不适合纹理检查模型的可能性越大。
- Novelty Threshold:Novelty Score高于该阈值,则纹理有缺陷。
“ novelty_region”是通过组合不同金字塔等级的新颖性区域而生成的,即不同层级金字塔组成的交集区域。如果只有单层金字塔,那么该层的新颖性区域直接就是novelty_region。
若想查看各个金字塔等级的新颖性得分图像和新颖性区域,可以把'gen_result_handle'设置为'true',之后get_texture_inspection_result_object读取'novelty_score_image'和'novelty_region'。
参考博文:Halcon 纹理缺陷检测 apply_texture_inspection_model - 夕西行 - 博客园 (cnblogs.com)