基于人工智能大模型技术的开放平台-打造大语言模型服务和应用平台

通过搭建高性能GPU 计算集群、训练通用大语言模型、训练垂类大语言模型、 搭建大语言模型微调平台、搭建大语言模型应用开放平台等核心模块，旨在打造大语 言模型服务和应用平台，为大语言模型技术的研究和应用提供一个开放、可扩展、可 协作的环境。这个平台除了通用大语言模型外，还提供大量共享的数据集、算法库、 模型微调工具等资源供开发者使用，同时大语言模型应用开放平台提供一整套完整的 大语言模型生态应用工具链，从而加速大语言模型的训练以及大语言模型生态应用的 开发和使用过程。

随着生成式人工智能技术步入深化阶段，以 chatGPT 为代表的大语言模型潜力凸显， 在各个领域得到了广泛的认同和应用。2022年全球GenAl 市场整体收入为400亿美元， 预计2027年及2032年将分别达到3990亿美元和1 . 3万亿美元，2022~2032年复合 增长率高达42%。而国内众多行业企业受到算力和数据等因素的制约，不能快速高效地 使 用 最 新 的Al 工具和成果。因此，建设一个高性能、稳定可靠的大模型开放平台，从 而降低人工智能应用的门槛，提高开发效率和降低开发成本，促进人工智能领域的合作 与交流，加快人工智能技术的创新与应用，成为了一个非常有意义的工作。

大语言模型开放平台旨在为大语言模型技术的研究和应用提供一个开放、可扩展、可协 作的环境。该平台不仅为开发者提供大型语言模型、大规模数据集、模型微调工具以及 大型语言模型应用开发工具等资源，还加速了大型语言模型的训练过程，促进了大型语 言模型在不同领域的应用落地。

核心能力和技术创新点：

· 丰富大模型类型：平台提供130亿参数通用大模型、130亿参数代码专用大模型、 130亿参数 SQL 专用大模型以及130亿参数10K 上下文专用大模型，以满足不同领域 的需求，从通用应用到特定任务，都能得到支持。

· 微调与部署能力：平台提供方便快捷的大型语言模型微调和部署功能，让开发者能 够快速生成多领域的定制模型，以满足特定应用的需求。

· 多渠道支持： 平台支持WebAPP 页面应用以及后台 API 调用管理，提供了多种应用 渠道，以满足不同应用场景的需求。

· 高效模型训练：平台提供适用于不同场景的预训练模型，基于预训练模型的专业模 型优化，极大地削减了模型开发周期和资源成本。

应用落地与合作机构：

目前，该开放平台已进入内测阶段，吸引了企业用户1000+位，实现了200+个大型模型应用的开发。平 台与多家重要合作机构建立了合作关系，其中包括中国人民解放军军事科学院、国防科技大学、中科院生 命科学研究院、苏州超算中心、加拿大 Ploytide 生物科技有限公司等等。这些机构基于平台提供的大语言 模型应用建设能力，共同推动了大型语言模型技术的应用和研究。

该平台的建成能提高企业的大语言模型应用开发速度，降低开发成本，并提供了良好的 商业模式：平台可以通过提供专业领域增值服务、付费订阅等方式从用户中获取收益， 从而推动平台的可持续发展，而平台本身的开放性和共享性也能够吸引更多的开发者加 入，进 一 步扩大平台的规模和影响力。此外，本项目可以推动人机交互模式和工作模式 的变革，加速Al 应用的落地和普及，从而营造大模型产业生态。