#变压器
Thinking Like Transformers(arxiv.org)
2021-6-16 21:58下载PDF摘要：变压器后面的计算模型是什么？在经常性的神经网络在有限状态机中具有直接方向性，允许Cleardiscussion和围绕架构变体或训练型型号思考，变压器没有如此熟悉的并行。在本文中，我们的目标是改变，提出了一种编程语言形式的变压器编码器的计算模型。我们将变压器 - 编码器的基本组件映射到关注和前馈计算 -......
Interfaces for Explaining Transformer Language Models(jalammar.github.io)
2020-12-23 4:21Transformer体系结构为NLP的最新进展提供了动力。这里提供了此体系结构的详细信息。基于架构的预训练语言模型，包括自动回归模型（使用自己的输出作为下一个时间步长的输入以及从左到右处理令牌的模型，例如GPT2）和降噪（模型训练后的模型）破坏/屏蔽输入并双向处理令牌，例如BERT变种，在NLP和最近的计算机视觉的......
2020-10-13 22:12
本文将一种纯粹的基于变压器的模型(视觉变压器)应用于一系列图像块的图像识别。这表明当变形时..。