阿里达摩院发布超大规模语言模型PLUG 可仿写任意小说

新京报贝壳财经讯（记者 罗亦丹）4月19日，新京报贝壳财经记者获悉，阿里巴巴达摩院发布超大规模语言模型PLUG，该模型参数规模达270亿，参数上为目前全球规模最大的中文纯文本预训练语言模型，可进行小说续写、诗歌生成等。

4月19日，贝壳财经记者登录该模型官网测试地址发现，其包括小说续写、专业文稿撰写、诗词生成等功能。如输入“人闲桂花落，夜静春山空。月出惊山鸟，”后，AI自动续写出了“林深闻杜鹃。谁家竹径深，何处禅房幽。山光映疏影，水色接平波。”的诗句。

据了解，近年来，大规模预训练模型成为人工智能领域的重要趋势。智源人工智能研究院院长黄铁军曾对记者表示近年来人工智能的发展已经从“大炼模型”逐步迈向了“练大模型”阶段。而在预训练模型上，去年5月，海外公司OpenAI发布能写小说、聊天、编曲谱、写代码的GPT-3模型，将这一浪潮在全球范围内推向新高。

与GPT-3类似，阿里达摩院本次发布的PLUG模型有望广泛应用于文本生成领域，成为“万能写作神器”，其目标是通过超大模型的能力，大幅提升中文自然语言技术在各类任务中的表现，取得超越人类表现的性能。

据介绍，PLUG较GPT-3的改进之处在于，其集成了达摩院自研的语言理解及语言生成双模型，并通过构建输入文本双向理解能力，提升了输出文本的相关性。在语言理解任务上，PLUG以80.614分刷新了业内权威的中文语言理解评测基准CLUE分类榜单历史纪录。

阿里巴巴达摩院语言技术实验室负责人司罗表示，“达摩院团队将进一步攻克自然语言处理领域科研难题，完善中文及跨语言人工智能基础设施，让AI没有难懂的语言，并探索通用人工智能之路。”目前，PLUG采用了1TB以上中文文本训练数据，涵盖新闻、小说、诗歌、问答等广泛类型及领域。接下来，PLUG将扩大参数规模至2000亿级。

校对 李世辉

（李显杰 ）