近日,紫光股份旗下新华三集团打造的私域大模型百业灵犀(LinSeer)在中国信通院组织的大规模预训练模型标准符合性验证中,模型开发模块被评为4+,达到国内先进水平。此次评估就百业灵犀(LinSeer)在数据管理、模型训练、模型管理、模型部署、开发流程一体化五个功能模块展开了全方位、多维度测评,实力诠释了新华三在私域大模型领域的领先实力,将为百行百业迈入AIGC时代提供更强大的支持。
五大能力模块 以硬核技术彰显模型实力
随着AIGC热度持续攀升,AI大模型工程化和普惠化发展进程显著加速,为进一步促进大模型快速发展,中国信通院联合产学研用各界发布可信AI大模型标准体系2.0,为科学评价大模型技术能力和应用效能提供了详尽参考。此次新华三参测的模型开发能力域项目,旨在全面评估研究主体的大模型开发能力,在五类指标的评估中,百业灵犀(LinSeer)均展现出了出色的技术水准。
●数据管理:重点验证大模型的数据处理和数据版本化管理能力,包括数据清洗、数据标注、数据质检等。百业灵犀(LinSeer)通过高效的数据集管理和数据处理手段,并结合绿洲平台数据质检进行数据要素治理,实现数据的进一步标注和管理,结果显示,其在数据清洗的内容完备度和功能支持度方面表现突出,并可全面支持文本、图片、音频、视频数据的标注。
●模型训练:重点验证大模型支持多种训练方式、可视化、资源优化调度的能力。新华三基于MaaS(模型及服务)整体架构,可提供完善的大模型训练和微调服务,生成客户定制化专属大模型。结果显示,百业灵犀(LinSeer)在训练方式上,全面支持多模态、预训练任务、自然语言及编程语言,增量学习平均增量准确率达91.9%,资源利用率达90%。
●模型管理:重点验证大模型支持模型存储、版本管理、日志管理的能力。百业灵犀(LinSeer)通过向量存储和检索让大模型具备记忆力,支持精准回答等应用场景。结果显示,可全面支持文件系统管理和镜像管理等模型存储能力,以及元数据管理、关系维护、结构管理等版本管理能力。
●模型部署:重点验证大模型支持模型微调、转换、裁剪和量化的能力。百业灵犀(LinSeer)通过对多种微调算法的支持,灵活满足行业客户不同数据和模型要求,同时还提供了广泛的模型多类型转换能力。面对模型轻量化场景,也同时支持模型的裁剪和量化能力,推理延迟加速比、内存占用比均处于先进水平。
●开发流程一体化:重点验证大模型在开发流程自主度的能力。百业灵犀(LinSeer)结合新华三全栈ICT基础设施监控工具,可将AI大模型开发的各个环节有机整合,提供统一的开发平台和工具,帮助行业客户有效激活私域大模型,快捷构建智能应用,实现“模型使用自由”。
打造AIGC整体解决方案 快速构建行业私域大模型
新华三集团贯彻AI in ALL战略,将AI融入到新华三全线软硬件产品组合,实现全栈全场景技术覆盖,同时进一步提出行业赋能战略AI for ALL,即基于对行业需求的深入理解,将AI的能力融入端到端的解决方案中,同时以伙伴式服务,助力百行百业智能化升级。
为更好地推动AI应用创新与产业落地,新华三集团进一步推出AIGC整体解决方案,从使能平台、数据平台、算力平台着手,全面满足用户的业务场景化需求,帮助客户快速构建行业专注、区域专属、数据专有、价值专享的私域大模型。
作为国内较早投入AI领域的企业,新华三集团有着长期的技术积累与实践经验。面向未来,新华三将秉持“精耕务实,为时代赋智慧”的理念,聚焦AIGC技术创新,积极探索行业应用场景,以务实理念打造领先的数字化解决方案,通过不断进化的数字大脑加速推进数字化变革的智能化升级,做百行百业最值得信赖的合作伙伴。