MIT斯坦福Transformer最新研究：过度训练让中度模型「涌现」结构泛化能力

新智元报道编辑：润过度训练让中度模型出现了结构泛化能力。对于人类来说，句子是分层的。句子的层次结构对于表达和理解都相当重要。但是在自然语言处理中，之前的研究认为，在泛化到新的结构输入时，以 Transformer 为代表的神经序列模型似乎很难有效地捕捉到这种句子的层级结构。但是斯坦福和