Modern OpenGL用Shader拾取VBO内单一图元的思路和实现(2)

Modern OpenGL用Shader拾取VBO内单一图元的思路和实现(2)

上一篇里介绍了Color-Coded Picking的思路和最基本的实现。在处理GL_POINTS时已经没有问题，但是处理GL_LINES、GL_TRIANGLES等时会遇到同一图元的各个顶点颜色不同的问题，这就不能正确拾取了，本篇来解决这个问题。

对于GL_LINES，可以用 int objectID = gl_VertexID / ; 来使得每个线段图元的两个顶点颜色分别相同；对于GL_TRIANGLES，则用 int objectID = gl_VertexID / ; 。但是这个方法无法应用到存在共享顶点的GL_LINE_STRIP、GL_TRIANGLE_STRIP、GL_LINE_LOOP等情况。所以要另辟蹊径。

ShadeMode

首先介绍一下glShadeMode()这个函数。就是靠它才解决了本文的问题。

glShadeMode()

在（https://www.opengl.org/sdk/docs/man2/xhtml/glShadeModel.xml）有它的专业解释，里面有这样一张表格。

Primitive Type of Polygon i	Vertex
Single polygon ( i == 1 )	1
Triangle strip	i + 2
Triangle fan	i + 2
Independent triangle	3 × i
Quad strip	2 × i + 2
Independent quad	4 × i

这个表格的意思是：在 glShadeMode(GL_FLAT); 状态下，在绘制某种图元时，其颜色由第i个顶点的颜色决定。（其实就是由定义一个图元的最后一个顶点的颜色决定）

单看表格难以理解，用下面的Demo进行说明。

这个Demo绘制了8个顶点，其位置和颜色如下（同上图左侧所示）

 gl.Color(, , );

 gl.Vertex(, );

 gl.Color(1f, , );

 gl.Vertex(, );

 gl.Color(, 1f, );

 gl.Vertex(, );

 gl.Color(1f, 1f, );

 gl.Vertex(, );

 gl.Color(, , 1f);

 gl.Vertex(, );

 gl.Color(1f, , 1f);

 gl.Vertex(, );

 gl.Color(, 1f, 1f);

 gl.Vertex(, );

 gl.Color(1f, 1f, 1f);

 gl.Vertex(, );

Demo 模型

下面分别看一下在 glShadeMode(GL_SMOOTH); 和 glShadeMode(GL_FLAT); 模式下，用这个8个顶点绘制各种图元的情况。

这是GL_SMOOTH 模式下的GL_LINE_STRIP。

这是GL_FLAT模式下的GL_LINE_STRIP。

这是GL_SMOOTH 模式下的GL_TRIANGLES。

这是GL_FLAT 模式下的GL_TRIANGLES。

这是GL_SMOOTH 模式下的GL_TRIANGLE_STRIP。

这是GL_FLAT模式下的GL_TRIANGLE_STRIP。

这是GL_SMOOTH 模式下的GL_QUAD_STRIP。

这是GL_FLAT 模式下的GL_QUAD_STRIP。

您可以点此下载此Demo慢慢对比。

GL_FLAT的作用

通过上面一节的观察可以看到，GL_FLAT模式下，各种类型的图元的颜色都是由绘制它的最后一个顶点的颜色给出的。

这么绝妙的颜色分配方案简直就是为了解决本文的问题而设计的。

我们只需在做Picking的绘制时，在GL_FLAT状态下绘制图元，就可以用glReadPixel()获取到应拾取的图元的最后一个顶点的编号。根据上一节的表格，很容易推算出此编号代表的图元。

'flat' in GLSL

不过这又带来一个小问题：glShadeMode();在使用Shader+VBO时是无效的。不过Modern OpenGL必然要有能代替它的功能：GLSL里的flat关键字。给in/out变量附加一个flat，就相当于Legacy OpenGL里调用了glShadeMode(GL_FLAT);

flat out vec4 pass_Color; // glShadeMode(GL_FLAT); in legacy opengl.

flat in vec4 pass_Color; // glShadeMode(GL_FLAT); in legacy opengl.

这也是本文与上一篇的程序中唯一的区别。

未完待续

拾取一个VBO里的单个图元的问题已经彻底解决了。那么来看下一个问题：一个场景里可能会有多个VBO，此时每个VBO的gl_VertexID都是从0开始的，那么如何区分不同VBO里的图元呢？我们下回分解。