盘古NLP大模型是华为所研发的业界首个超千亿参数的中文预训练大语言模型。它利用大数据预训练和多源丰富知识相结合的方法,通过持续学习吸收海量文本数据,不断提升模型的效果。该模型具备多项高阶特性,包括行业知识检索回答、文案生成、阅读理解、代码生成等,在智能客服、创意营销、会议助手、代码助手、企业信息搜索等多个场景提供AI技术支持。
盘古NLP大模型是基于多任务、大模型、少样本技术的AI共建方案。它拥有1100亿密集参数,经过40TB的海量数据训练而成。该模型通过引入基于 Prompt 的任务等创新方案,在预训练阶段成功突破了大模型微调的难题。同时,盘古NLP大模型采用了最新一代技术,通过Prompt将下游监督任务加入预训练阶段,采用超多任务的大规模预训练方式,大幅降低了微调难度,解决了以往大模型难以适应不同行业场景的问题。
盘古NLP大模型具备多项功能优势。它通过深度分析中文特征和持续优化基础模型,拥有强大的中文理解/生成能力。通过文本+代码融合训练,它提升了思维链推理能力。它还具备多任务迁移能力和多模型调优能力,可以在不同领域任务中使用小模型进行训练和优化。盘古NLP大模型还支持多插件补齐,与应用生态连接,提高整体性能。它能够覆盖多个场景,助力多场景AI应用落地。
主要特点:
超大规模预训练模型,参数量达到1100亿,是首个超千亿参数的中文预训练模型
利用Prompt多任务预训练技术,大幅提升了模型在不同下游任务的迁移能力
文本和代码的融合训练,增强了模型的逻辑思维和推理能力
持续学习和优化机制,可不断吸收新的语料数据来优化模型效果
支持行业知识图谱检索问答,以及代码生成、模型调用等高阶能力
覆盖客服、营销、办公等多个典型应用场景,提供强大的AI支撑
应用场景:
智能客服:单轮问答、多轮对话等
内容营销:文案生成、要点提炼等
智能办公:代码生成、表格生成等
开放域问答、文本摘要等自然语言处理任务
盘古NLP大模型的应用场景广泛。在智慧教育助手方面,它能够进行通用常识问答、多轮对话、角色扮演和数学运算等功能。在行业内容生成方面,它可以根据行业需求生成文案、要点和表格。在行业知识理解方面,它可以进行开卷问答、文本摘要和信息抽取。此外,盘古NLP大模型还可以实现智能协同办公、插件应用集成和行业数据分析等功能。通过重塑千行百业,将行业知识和大模型能力相结合,成为各组织、企业和个人的专家助手。在政务、金融、电商、能源等领域提供强大的AI技术支持,助力商业应用的高效率和泛化能力。
https://www.huaweicloud.com/product/pangu.html