加速规模化应用，火山引擎升级金融大模型服务体系

小大

2024-05-22 09:15:41 来源：今报在线

5月15日，2024春季火山引擎 FORCE 原动力大会金融专场论坛在北京举办。会议聚焦大模型在金融行业的规模化应用，升级发布了火山引擎金融大模型解决方案服务体系，并分享了多个已落地的金融大模型应用场景。

坚持12字内核，做好新时代金融的数字原力

火山引擎金融行业总经理刘俊在致辞中表示，“一般认为，数字金融是金融机构适配数字经济的金融创新，既包括自身的高质量数字化转型，也包括高质量地服务好数字经济发展。”

刘俊指出，过去四年，火山引擎为200余家金融机构提供了技术支持和创新解决方案，逐渐形成“行业-增长-云”的数字金融解决方案体系，即针对银行、资管、保险、泛金融细分领域业务特点，打造行业场景方案；综合运用内容、数据、算法、音视频等数智技术，打造体验创新和数据驱动的增长方案；以自主创新、云原生架构、开放解耦的敏捷底座，打造上云方案。

业界普遍认为，金融行业具备良好的数字化基础，且高度依赖数据和技术，具备大模型落地的高潜场景。根据不同的服务对象，刘俊将火山引擎的金融大模型应用方案归类为 BCDE 四大场景，即 Business 对公领域、Customer 对客领域、Developer 对开发者领域和 Employee 对企业管理者及员工领域。火山引擎正与金融机构共同探索“场景+模型+算力”的落地方式，推动大模型技术在金融行业的规模化应用。

刘俊表示，火山引擎将坚持“体验创新、数据驱动、敏捷迭代”的12字价值内核，持续探索包括大模型在内的数字技术的创新发展和规模化应用，助力数字金融的高质量发展。

服务体系全面升级，提升大模型落地的价值获得感

火山引擎金融行业解决方案负责人王建军认为，缓解技术焦虑的最佳办法是与业务应用找到结合。构建“以模型-应用-数据为核心、算力为支撑”的大模型飞轮将有助于大模型的规模化应用，即模型驱动飞轮启动，并应用于业务场景，场景中产出新的数据并反哺模型迭代，三者相互作用，释放效果增强的飞轮效应，底层则由稳定安全的算力平台提供动力支撑。

王建军分别从算力、模型、应用三个方面，介绍了升级后的火山引擎金融大模型解决方案服务体系。

算力：全新发布混合云 veStack 智算版，具有万卡集群组网，3.2T 高性能无损网络的超大规模优势；端到端工程化所支撑的极致性能，能够实现97.78%训练加速比和分钟级故障发现和自愈；拥有多元异构能力，可适配十余种 GPU，支持主流国产化 GPU。

模型：基于大模型服务平台火山方舟构建“1+1+N”的模型生态。一方面，字节跳动自主研发的豆包大模型当天正式发布，并致力于成为更强性能、更低价格和更易落地的大模型。豆包大模型（原名：云雀）是首批通过大模型服务安全备案的大模型之一，当前日均处理1,200亿 tokens 文本、生成3,000万张图片，支持内部50多个业务进行 AI 创新，其主力模型在企业市场的定价比行业便宜99.3%。另一方面，与合作伙伴联合打造的“火山引擎-智谱 AI 金融行业大模型”，能够满足金融机构对安全和私有化部署要求更高的行业场景；此外，火山方舟也已接入多个行业主流大模型，帮助金融机构更加灵活地应对市场变化和业务需求。

应用：围绕“BCDE”四大场景，火山引擎分享了展业助手、智能贷后管理、智能客服、智能体构建、代码生成、ChatBI、员工服务等7个已与客户共建的应用示例，并重点介绍了新一代 AI 应用开发平台扣子以及企业专属 AI 应用创新平台 HiAgent，二者分别满足企业不同部署环境下的低代码智能体搭建需求。

王建军认为，大模型的规模化应用，除了考验模型能力，更考验对业务的理解和整体工程化能力。目前，火山引擎已与招商银行、华泰证券、海尔消金等多家金融机构达成大模型合作，未来将继续以价值获得感为核心，携手金融机构 AI 创新。

金融大模型落地实践及思考

国家金融与发展实验室副主任杨涛认为，大模型在金融行业具有广泛应用场景，但其合规应用需要直面诸多风险，应引导金融机构根据自身资源禀赋选择差异化技术路线，避免“一哄而上”。

华泰证券信息技术部数据科学研发中心联席负责人曾文秋分享了华泰证券构建平台化、服务化的大模型能力体系的思考，以及在智能客服、研报撰写及解读等领域的应用经验。曾文秋认为，大模型的价值是长期的，且规模化落地需要有组织和伙伴的保障。携手像火山引擎这样的合作伙伴，有利于金融机构专注自身业务创新，快速验证技术价值。

海尔消费金融有限公司 CIO 梁树峰认为，大模型技术将对消费信贷的业务流程、客户服务、数字化运营和研发体系产生不同程度的影响，并计划将大模型率先应用于坐席助手、分析助手、研发助手等场景，辅助工作人员更智慧地完成工作。他以坐席助手场景为例，介绍了在5分钟通话时长下，大模型已可较准确地完成通话记录的归纳摘要，显著提升了坐席人员的产能。同时，他也指出了大模型在信息安全、技术代差、算力等方面的挑战，并强调了与火山引擎合作的重要性。