Google Brain两年前提出的Transformer，至今仍是nlp界的宠儿，时下各种state-of-the-art的模型都基于他们。

Attetion和Transformer究竟是什么？语言学在这里有没有用武之地？本报告想着重谈这两点。