在《Real Time Rendering, third edition》一书中，作者把描边算法分成了5种类型。
1、基于观察角度与表面法线的轮廓渲染。缺点很明显。
2、过程式几何轮廓渲染。即先渲染背面,通过顶点压平等手段，渲染轮廓线，之后渲染正面。优点：快速有效，适合大多数模型，缺点：不合适和立方体之类的平整模型。
3、基于图像处理的轮廓线渲染。通过边缘监测来判断轮廓。
4、基于轮廓检测的轮廓线渲染。同时监测相邻的2个面法线值得正负是否相反。
5、以上方法结合。
除此之外还有：
6、沿法线方向放大模型（vs）并用描边色渲染（ps）正常渲染模型
7、直接模糊模板
其中2、4、6在材质编辑器中是做不到，接下来本人将会分享剩下几种方法的代码。方法2在材质编辑器里无法实现因为TwoSideSign无法用于世界位移（通过摄像机向量与法向量点乘判断的方式也被不行）
其实是可以做到的，不过比较蛋疼，那就是复制一个模型，设Mask为0，同时沿着法线方向放大。从而得到放大的模板。具体做法不再复述，如果不会做，可以留言问我。
4.15版本的项目设置中多了这个，应该可以解决边缘抖动的问题，所以推荐使用4.15版本
然后Epic的程序员竟然忘记给Custom Stencil加这个功能，这就导致了我的部分效果会出现抖动的问题，我能说MDZZ么？
首先是方法3。边缘检测有以下几种检测算子（摘自UntiyShader入门精要）,不过查了网上的资料，感觉还是Sobel比较好，所以别的2种不搞了。
当然还有别的，在此就不深入了。
虚幻4案例里就是用这个方法以及检测算子Prewitt（www.tomlooman.com里的案例），通过边缘检测深度的方式来。以下是我转化的HLSL代码：
//input SceneTexSize
//input UV
//input NotUse
//input OutLineSize
//input MaxZ
//input Alpha
//input OutLineColor
float Depth=;
float2 Sampler[]={float2(-,-),float2(-,),float2(-,),
float2(,-),float2(,),
float2(,-),float2(,),float2(,)}; for(int i=;i< ;i++)
{
Depth+=SceneTextureLookup(UV+Sampler[i]*SceneTexSize*OutLineSize,,false).x;
}
//Normalize Depth to 0.0-1.0 Range，规整化
Depth=MaxZ/(clamp(Depth,,MaxZ)+MaxZ);
//自定义深度物体的遮罩
float Mask=MaxZ/(SceneTextureLookup(UV,,false).x+MaxZ);
//减去自定义深度物体部分，也就是得到轮廓，0.2是因子，可以设置变量来 调节
Depth+=-MaxZ/(SceneTextureLookup(UV,,false).x+MaxZ)+0.2; //深度部分到此为止，以下物体透视部分
//被物体遮挡了
float Check=SceneTextureLookup(UV,,false).x-SceneTextureLookup(UV,,false).x;
float KeepOut=floor(Mask*);
if(Check>)
{
Check=clamp(KeepOut,,);
}else
{
Check=;
}
KeepOut*=Alpha*Check;
Depth=clamp(-Depth+KeepOut,,); return lerp(SceneTextureLookup(UV,,false),OutLineColor,Depth);
这段代码还包含了透视效果，如果只需要描边可以自己编辑。感觉和传统边缘检测不一样。
官方的风格化渲染用的是Roberts检测算子，以下是对应HLSL代码（因为Sphere
Mask不是HLSL中的原生函数，所以去掉了，而且感觉不太好理解，就没有深入），略有修改：
//input SceneTexSize
//input UV
//input NotUse
//input OutLineSize
//input OutLineColor
//input PostProcessBlendWeight
float4 Depth=;
float2 Sampler[]={float2(-,),float2(,-),
float2(,),float2(,)}; for(int i=;i< ;i++)
{
Depth+=SceneTextureLookup(UV,,false)-SceneTextureLookup(UV+Sampler[i]*SceneTexSize*OutLineSize,,false);
}
Depth=clamp((-clamp(Depth/-,,))*,,); Depth=(-Depth).x*lerp(clamp(-SceneTextureLookup(UV,,false).x/,0.25,),clamp(-SceneTextureLookup(UV,,false).x/,,),PostProcessBlendWeight);
return lerp(SceneTextureLookup(UV,,false),OutLineColor,Depth);
不过需要注意的是最后的轮廓往往是半透明的，所以需要在倒数第二行增加：
if(Depth>OutLineDepth)
{
Depth=;
}
通过判断深度的方式强行让Depth=1，从而实现让轮廓变实。（OutLineDepth为自己设置的变量）
Sobel检测算子HLSL代码，基于亮度检测：
//input SceneTexSize
//input UV
//input NotUse
//input OutLineSize
//input MaxZ
//input OutLineColor
float3 w=float3(0.2125,0.7154,0.0721);
float2 Sampler[]={float2(-,-),float2(-,),float2(-,),
float2(,-),float2(,),float2(,),
float2(,-),float2(,),float2(,)};
float2 UVOffset[]={float2(-,-),float2(,-),float2(,-),
float2(-,),float2(,),float2(,),
float2(-,),float2(,),float2(,),};
float2 Edge=;
for(int i=;i< ;i++)
{
Edge+=Sampler[i]*dot(SceneTextureLookup(UV+UVOffset[i]*SceneTexSize*OutLineSize,,false).xyz,w);
}
//最后的length可以改成1-abs(Edge.x)-abs(Edge.y),这样可以减少运算量
return lerp(
SceneTextureLookup(UV,,false),OutLineColor,length(Edge));
方法5法线与深度相配合的边缘检测：因为用SceneTextureLookup(UV,8,false);会有Bug，所以暂时空着,直接用节点写。
方法7代码（模糊用的是之前写的代码，我懒得改了，这个模糊其实有点问题）：
int UVOfferset[]={-,-,-,,,,};
float Weights[]=
{
,,,,,,,
,,,,,,,
,,,,,,,
,,,,,,,
,,,,,,,
,,,,,,,
,,,,,,
};
float3 OutColor={0.0,0.0,0.0};
for(int i=;i<=;i++)
{
for(int j=;j<=;j++)
{
OutColor+=Weights[i*+j]*SceneTextureLookup(UV+float2(UVOfferset[j]*SceneTexSize.x*OutLineSize,UVOfferset[i]*SceneTexSize.y*OutLineSize),,false);
}
}
float Alpha=(float4(OutColor,1.0f)/-SceneTextureLookup(UV,,false)).x;
Alpha=smoothstep(,Max,Alpha);
return lerp(SceneTextureLookup(UV,,false).xyz,OutLineColor,Alpha);官方论坛上还有几个案例：
https://forums.unrealengine.com/showthread.php?127151-Custom-Stencil-Radial-Silhouette-Post-Process-Materiel-(HLSL)-(PC)-(Full-code)-(4-13)&highlight=SceneTextureLookup
这个本质上还是用的是Sobel检测算子，不过读了他的HLSL本人也有些许启发，比如做上面的边缘虚化效果可以使用多次边缘检测。这样比直接用均值模糊效果好。