介绍
最初是为了将文本从一种语言更改为另一种语言而创建的。BERT 极大地影响了我们学习和使用人类语言的方式。它改进了原始 Transformer 模型中理解文本的部分。创建 BERT 嵌入尤其擅长抓取具有复杂含义的句子。它通过检查整个句子并理解单词如何连接来做到这一点。Hugging Face 转换器库是创建独特句子代码和引入 BERT 的关键。
学习目标
- 充分掌握 BERT 和预训练模型。了解它们对于使用人类语言有多么重要。
- 了解如何有效使用 Hugging Face Transformers 库。用它来创建文本的特殊表示。
- 找出从预训练的 BERT 模型中正确删除这些表示的各种方法。这很重要，因为不同的语言任务需要不同的方法。
- 通过实际执行创建这些表示所需的步骤来获得实践经验。确保您可以自己完成。
- 了解如何使用您创建的这些表示来改进其他语言任务