百度发布PLATO-XL 全球首个百亿参数中英文对话模型

近日，百度发布新一代对话生成模型 PLATO-XL，一举超过Facebook Blender、谷歌 Meena和微软DialoGPT，成为全球首个百亿参数中英文对话预训练模型，再次刷新了开放域对话效果，打开了对话模型的想象空间。

尽管大规模参数的模型在自然语言处理领域如雨后春笋出现，并且在多个自然语言理解和生成任务上取得了很多成果，但多轮开放域对话的主动性和常识性问题一直无法很好解决。百度 NLP 于2019年 10 月预发布了通用领域的对话生成预训练模型 PLATO，在 ACL 2020 正式展示。2020年升级为超大规模模型 PLATO-2，参数规模扩大到 16 亿，涵盖中英文版本，可就开放域话题深度畅聊。

如今，百度全新发布PLATO-XL，参数规模首次突破百亿达到110亿，是当前最大规模的中英文对话模型。

（文章来源：钛媒体）

文章来源：钛媒体