要说2021年上半年NLP最火的论文，想必非《SimCSE: Simple Contrastive Learning of Sentence Embeddings》莫属。SimCSE的全称是Simple Contrastive Sentence Embedding
Sentence Embedding
Sentence Embedding一直是NLP领域的一个热门问题，主要是因为其应用范围比较广泛，而且作为很多任务的基石。获取句向量的方法有很多，常见的有直接将[CLS]位置的输出当做句向量，或者是对所有单词的输出求和、求平均等。但以上方法均被证明存在各向异性（Anisotropy）问题。通俗来讲就是模型训练过程中会产生Word Embedding各维度表征不一致的问题，从而使得获得的句向量也无法直接比较
目前比较流行解决这一问题的方法有：
- 线性变换：BERT-flow、BERT-Whitening。这两者更像是后处理，通过对BERT提取的句向量进行某些变换，从而缓解各向异性问题
- 对比学习：SimCSE。 对比学习的思想是拉近相似的样本，推开不相似的样本，从而提升模型的句子表示能力
Unsupervised SimCSE
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-koKj1WAZ-1669877158170)(https://z3.ax1x.com/2021/07/21/WUYMss.png#shadow)]
SimCSE利用自监督学习来提升句子的表示能力。由于SimCSE没有标签数据（无监督），所以把每个句子本身视为相似句子。说白了，本质上就是 ( 自己 , 自己 ) (\text{自己},\text{自己}) (自己,自己)作为正例、 ( 自己 , 别人 ) (\text{自己},\text{别人}) (自己,别人)作为负例来训练对比学习模型。当然，其实远没有这么简单，如果仅仅只是完全相同的两个样本作正例，那么泛化能力会大打折扣。一般来说，我们会使用一些数据扩增手段，让正例的两个样本有所差异，但是在NLP中如何做数据扩增本身也是一个问题，SimCSE提出了一个极为简单优雅的方案：直接把Dropout当做数据扩增！
具体来说， N N N个句子经过带Dropout的Encoder得到向量 h 1 ( 0 ) , h 2 ( 0 ) , . . . , h N ( 0 ) \boldsymbol{h}_1^{(0)},\boldsymbol{h}_2^{(0)},...,\boldsymbol{h}_N^{(0)} h1(0),h2(0),...,hN(0)，然后让这批句子再重新过一遍Encoder（这时候是另一个随机Dropout）得到向量 h 1 ( 1 ) , h 2 ( 1 ) , . . . , h N ( 1 ) \boldsymbol{h}_1^{(1)},\boldsymbol{h}_2^{(1)},...,\boldsymbol{h}_N^{(1)} h1(1),h2(1),...,hN(1)，我们可以将 ( h i ( 0 ) , h i ( 1 ) ) (\boldsymbol{h}_i^{(0)},\boldsymbol{h}_i^{(1)}) (hi(0),hi(1))视为一对（略有不同的）正例，那么训练目标为
ℓ i = − log e sim ( h i ( 0 ) , h i ( 1 ) ) / τ ∑ j = 1 N e sim ( h i ( 0 ) , h j ( 1 ) ) / τ (1) \ell_i=-\log \frac{e^{\text{sim}(\boldsymbol{h}_i^{(0)},\boldsymbol{h}_i^{(1)})/\tau}}{\sum_{j=1}^N e^{\text{sim}(\boldsymbol{h}_i^{(0)},\boldsymbol{h}_j^{(1)})/\tau}}\tag{1} ℓi=−log∑j=1Nesim(hi(0),hj(1))/τesim(hi(0),hi(1))/τ(1)
其中， sim ( h 1 , h 2 ) = h 1 T h 2 ∥ h 1 ∥ ⋅ ∥ h 2 ∥ \text{sim}(\boldsymbol{h}_1, \boldsymbol{h}_2)=\frac{\boldsymbol{h}_1^T\boldsymbol{h}_2}{\Vert \boldsymbol{h}_1\Vert \cdot \Vert \boldsymbol{h}_2\Vert} sim(h1,h2)=∥h1∥⋅∥h2∥h1Th2。实际上式(1)如果不看 − log -\log −log和 τ \tau τ的部分，剩下的部分非常像是 Softmax \text{Softmax} Softmax。论文中设定 τ = 0.05 \tau = 0.05 τ=0.05，至于这个 τ \tau τ有什么作用，我在网上看到一些解释：
- 如果直接使用余弦相似度作为logits输入到 Softmax \text{Softmax} Softmax，由于余弦相似度的值域是 [ − 1 , 1 ] [-1,1] [−1,1]，范围太小导致 Softmax \text{Softmax} Softmax无法对正负样本给出足够大的差距，最终结果就是模型训练不充分，因此需要进行修正，除以一个足够小的参数 τ \tau τ将值进行放大
- 超参数 τ \tau τ会将模型更新的重点，聚焦到有难度的负例，并对它们做相应的惩罚，难度越大，也即是与 h i ( 0 ) \boldsymbol{h}_i^{(0)} hi(0)距离越近，则分配到的惩罚越多。其实这也比较好理解，我们将 sim ( h i ( 0 ) , h j ( 1 ) ) \text{sim}(\boldsymbol{h}_i^{(0)},\boldsymbol{h}_j^{(1)}) sim(hi(0),hj(1))除以 τ \tau τ相当于同比放大了负样本的logits值，如果 τ \tau τ足够小，那么那些 sim ( h i ( 0 ) , h j ( 1 ) ) \text{sim}(\boldsymbol{h}_i^{(0)},\boldsymbol{h}_j^{(1)}) sim(hi(0),hj(1))越靠近1的负样本，经过 τ \tau τ的放大后会占主导
总结一下SimCSE的方法，个人感觉实在是太巧妙了，因为给两个句子让人类来判断是否相似，这其实非常主观，例如：“我喜欢北京”跟“我不喜欢北京”，请问这两句话到底相不相似？模型就像是一个刚出生的孩子，你教它这两个句子相似，那它就认为相似，你教它不相似，于是它以后见到类似的句子就认为不相似。此时，模型的性能或者准确度与训练过程、模型结构等都没有太大关系，真正影响模型预测结果的是人，或者说是人标注的数据
但是如果你问任何一个人“我喜欢北京”跟“我喜欢北京”这两句话相不相似，我想正常人没有说不相似的。SimCSE通过Dropout生成正样本的方法可以看作是数据扩增的最小形式，因为原句子和生成的句子语义是完全一致的，只是生成的Embedding不同而已。这样做避免了人为标注数据，或者说此时的样本非常客观
Alignment and Uniformity
对比学习的目标是从数据中学习到一个优质的语义表示空间，那么如何评价这个表示空间的质量呢？Wang and Isola(2020)提出了衡量对比学习质量的两个指标：alignment和uniformity，其中alignment计算 x i x_i xi和 x i + x_i^+ xi+的平均距离：
ℓ align ≜ E ( x , x + ) ∼ p pos ∥ f ( x ) − f ( x + ) ∥ 2 (2) \ell_{\text{align}} \triangleq \mathop{\mathbb{E}}\limits_{(x, x^+)\sim p_{\text{pos}}} \Vert f(x) - f(x^+)\Vert^2\tag{2} ℓalign≜(x,x+)∼pposE∥f(x)−f(x+)∥2(2)
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-G5uBOVxd-1669877158177)(https://z3.ax1x.com/2021/07/21/WUYAdP.png#shadow)]
而uniformity计算向量整体分布的均匀程度：
ℓ uniform ≜ log E x , y ∼ i . i . d p data e − 2 ∥ f ( x ) − f ( y ) ∥ 2 (3) \ell_{\text {uniform }} \triangleq \log \mathop{\mathbb{E}}\limits_{x, y \stackrel{i . i . d}{\sim} p_{\text{data}}} e^{-2\Vert f(x)-f(y)\Vert^{2}}\tag{3} ℓuniform ≜logx,y∼i.i.dpdataEe−2∥f(x)−f(y)∥2(3)
我们希望这两个指标都尽可能低，也就是一方面希望正样本要挨得足够近，另一方面语义向量要尽可能地均匀分布在超球面上，因为均匀分布的信息熵最高，分布越均匀则信息保留的越多。作者从维基百科中随机抽取十万条句子来微调BERT，并在STS-B dev上进行测试，实验结果如下表所示：
其中None是作者提出的随机Dropout方法，其余方法均是在None的基础上对 x i + x_{i}^+ xi+进行改变，可以看到，追加显式数据扩增方法均会不同程度降低模型性能，效果最接近Dropout的是删除一个单词，但是删除一个单词并不能对uniformity带来很大的提升，作者也专门做了个实验来证明，如下图所示：
Connection to Anisotropy
近几年不少研究都提到了语言模型生成的语义向量分布存在各向异性的问题，在探讨为什么Contrastive Learning可以解决词向量各向异性问题前，我们先来了解一下，什么叫各向异性。具体来说，假设我们的词向量设置为2维，如果各个维度上的基向量单位长度不一样，就是各向异性(Anisotropy)
例如下图中，基向量是非正交的，且各向异性（单位长度不相等），计算 x 1 x_1 x1与 x 2 x_2 x2的cos相似度为0， x 1 x_1 x1与 x 3 x_3 x3的余弦相似度也为0。但是我们从几何角度上看， x 1 x_1 x1与 x 3 x_3 x3其实是更相似的，可是从计算结果上看， x 1 x_1 x1与 x 2 x_2 x2和 x 3 x_3 x3的相似度是相同的，这种不正常的原因即是各向异性造成的
SimCSE的作者证明了当负样本数量趋于无穷大时，对比学习的训练目标可以渐近表示为：
− 1 τ E ( x , x + ) ∼ p pos [ f ( x ) T f ( x + ) ] + E x ∼ p data [ log E x − ∼ p data [ e f ( x ) T f ( x − ) / τ ] ] (4) \begin{aligned} &-\frac{1}{\tau}\mathop{\mathbb{E}}\limits_{(x,x^+)\sim p_{\text{pos}}}\left[f(x)^Tf(x^+)\right]\\ &+\mathop{\mathbb{E}}\limits_{x\sim p_{\text{data}}}\left[\log \mathop{\mathbb{E}}\limits_{x^-\sim p_{\text{data}}}\left[e^{f(x)^Tf(x^-)/\tau}\right]\right] \end{aligned}\tag{4} −τ1(x,x+)∼pposE[f(x)Tf(x+)]+x∼pdataE[logx−∼pdataE[ef(x)Tf(x−)/τ]](4)
我们可以借助Jensen不等式进一步推导第二项的下界：
E x ∼ p data [ log E x − ∼ p data [ e f ( x ) T f ( x − ) / τ ] ] = 1 m ∑ i = 1 m log ( 1 m ∑ j = 1 m e h i T h j / τ ) ≥ 1 τ m 2 ∑ i = 1 m ∑ j = 1 m h i T h j (5) \begin{aligned} \mathop{\mathbb{E}}\limits_{x\sim p_{\text{data}}}\left[\log \mathop{\mathbb{E}}\limits_{x^-\sim p_{\text{data}}}\left[e^{f(x)^Tf(x^-)/\tau}\right]\right]&=\frac{1}{m}\sum_{i=1}^m\log (\frac{1}{m}\sum_{j=1}^m e^{\boldsymbol{h}_i^T \boldsymbol{h}_j / \tau})\\ &\ge \frac{1}{\tau m^2} \sum_{i=1}^m \sum_{j=1}^m\boldsymbol{h}_i^T \boldsymbol{h}_j \end{aligned}\tag{5} x∼pdataE[logx−∼pdataE[ef(x)Tf(x−)/τ]]=m1i=1∑mlog(m1j=1∑mehiThj/τ)≥τm21i=1∑mj=1∑mhiThj(5)
算了半天，回顾一下我们的终极目标是要优化式(4)，或者说最小化式(4)的第二项。设 W \mathbf{W} W为 { x i } i = 1 m \{x_i\}_{i=1}^m {xi}i=1m对应的Sentence Embedding矩阵，即 W \mathbf{W} W的第 i i i行是 h i \boldsymbol{h}_i hi。那么此时优化第二项等价于最小化 W W T \mathbf{W}\mathbf{W}^T WWT的上界。为什么？因为 Sum ( W W T ) = ∑ i = 1 m ∑ j = 1 m h i T h j \text{Sum}(\mathbf{W}\mathbf{W}^T)=\sum_{i=1}^m \sum_{j=1}^m\boldsymbol{h}_i^T \boldsymbol{h}_j Sum(WWT)=∑i=1m∑j=1mhiThj！假设我们已经标准化了 h i \boldsymbol{h}_i hi，此时 W W T \mathbf{W}\mathbf{W}^T WWT的对角线元素全为1， tr ( W W T ) \text{tr}(\mathbf{W}\mathbf{W}^T) tr(WWT)为特征值之和，是一个常数。根据Merikoski (1984)的结论，如果 W W T \mathbf{W}\mathbf{W}^T WWT的所有元素均为正值，则 Sum ( W W T ) \text{Sum}(\mathbf{W}\mathbf{W}^T) Sum(WWT)是 W W T \mathbf{W}\mathbf{W}^T WWT最大特征值的上界，因此，当我们最小化第二项时，其实是在间接最小化 W W T \mathbf{W}\mathbf{W}^T WWT的最大特征值，也就是隐式地压平了嵌入空间的奇异谱，或者说使得嵌入空间的分布更均匀
到此为止，个人觉得已经将SimCSE核心内容讲的够清楚了，至于说原论文当中的监督学习部分，这里就不多赘言，因为本质上就是修改正样本对和负样本对的定义罢了
Results
原论文的实验非常丰富，读者可以仔细阅读原文，这里简单贴出一个实验对比图
总体结果没有什么好分析的，通过上图我们可以知道SimCSE在多个数据集上都达到了SOTA，并且作者发现，在原有的训练目标的基础上加入MLM预训练目标，将两个目标的loss按比例相加 ℓ + λ ℓ m l m \ell + \lambda \ell^{mlm} ℓ+λℓmlm一起训练，能够防止SimCSE忘记token级别的知识，从而提升模型效果。这倒是让我感觉有点讶异的，做了那么多的操作，好不容易使得模型能够比较好的提取句子级别的特征了，结果token级别的知识又忘记了，真是拆了东墙补西墙
Code
虽然理论上我们说SimCSE是将同一个批次内的句子分别送入两个Encoder（这两个Encoder仅仅只是Dropout不同），但实现的时候我们其实是将一个batch内的所有样本复制一遍，然后通过一次Encoder即可。假设初始输入为 [ A , B ] [A, B] [A,B]两条句子，首先复制一遍 [ A , A , B , B ] [A, A, B, B] [A,A,B,B]，那么经过Encoder得到的句向量为 [ h A ( 0 ) , h A ( 1 ) , h B ( 0 ) , h B ( 1 ) ] [\boldsymbol{h}_A^{(0)}, \boldsymbol{h}_A^{(1)}, \boldsymbol{h}_B^{(0)}, \boldsymbol{h}_B^{(1)}] [hA(0),hA(1),hB(0),hB(1)]，现在的问题在于，我们的label是什么？
很明显我们知道如果给定 h A ( 0 ) , h A ( 1 ) \boldsymbol{h}_A^{(0)},\boldsymbol{h}_A^{(1)} hA(0),hA(1)，他们的label是1；如果给定 h B ( 0 ) , h B ( 1 ) \boldsymbol{h}_B^{(0)},\boldsymbol{h}_B^{(1)} hB(0),hB(1)，他们的label是1，其它情况均是0，所以给我们可以给出下面这样一张表格（标签为1的地方是相同句子不同Embedding的位置）
h A ( 0 ) h A ( 1 ) h B ( 0 ) h B ( 1 ) h A ( 0 ) 0 1 0 0 h A ( 1 ) 1 0 0 0 h B ( 0 ) 0 0 0 1 h B ( 1 ) 0 0 1 0 \begin{array}{c|c|c|c|c} \hline & \boldsymbol{h}_A^{(0)} & \boldsymbol{h}_A^{(1)} & \boldsymbol{h}_B^{(0)} & \boldsymbol{h}_B^{(1)}\\ \hline \boldsymbol{h}_A^{(0)} & 0 & 1 & 0 & 0\\ \hline \boldsymbol{h}_A^{(1)} & 1 & 0 & 0 & 0\\ \hline \boldsymbol{h}_B^{(0)} & 0 & 0 & 0 & 1\\ \hline \boldsymbol{h}_B^{(1)} & 0 & 0 & 1 & 0\\ \hline \end{array} hA(0)hA(1)hB(0)hB(1)hA(0)0100hA(1)1000hB(0)0001hB(1)0010
上面的表格可以转换为label： [ 1 , 0 , 3 , 2 ] [1, 0, 3, 2] [1,0,3,2]。假设原始batch内有4条句子，复制后就共有8条句子，按照上述表格的排列方式，我们可以得到label： [ 1 , 0 , 3 , 2 , 5 , 4 , 7 , 6 ] [1, 0, 3, 2, 5, 4, 7, 6] [1,0,3,2,5,4,7,6]。按照这个规律生成label就可以了，而且这个规律其实挺明显的，就不解释了
import torch
import torch.nn.functional as F
device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
def SimCSE_loss(pred, tau=0.05):
ids = torch.arange(0, pred.shape[0], device=device)
y_true = ids + 1 - ids % 2 * 2
similarities = F.cosine_similarity(pred.unsqueeze(1), pred.unsqueeze(0), dim=2)
# 屏蔽对角矩阵，即自身相等的loss
similarities = similarities - torch.eye(pred.shape[0], device=device) * 1e12
similarities = similarities / tau
return torch.mean(F.cross_entropy(similarities, y_true))
pred = torch.tensor([[0.3, 0.2, 2.1, 3.1],
[0.3, 0.2, 2.1, 3.1],
[-1.79, -3, 2.11, 0.89],
[-1.79, -3, 2.11, 0.89]])
SimCSE_loss(pred)