作者
Elvis
译者
凯隐、夕颜
对自然语音处理（NLP）领域而言，年是令人印象深刻的一年，本文将回顾年NLP和机器学习领域的重要事件。内容主要集中于NLP领域，但也会包括一些与AI有关的有趣故事，包括新发布模型、工程成果、年度报告以及学习资源等。文章较长，将近万字，适合先马后看，静下心来细细研读。
模型与文献
谷歌AI提出了ALBERT模型，这是BERT模型的简化版本，用于语境化语言表示的自监督学习。相较于BERT，其在模型更加精练的同时更有效地分配了模型的容量。该模型在12个NLP任务中都达到了最优效果。
ALBERT: