2024年是普遍意义上的大模型应用落地元年。在全球范围内，大模型正呈现规模扩大化、多模态融合、垂直行业应用深化等趋势，技术生态日益繁荣。但在蓬勃的产业景象背后，是各大企业在技术创新和产品迭代上的激烈竞争。
江行智能作为电力边缘智能领域的积极创新者，也在加强大模型技术的研发与投入，深化行业应用实践。近期，江行智能在新型电力系统灵活性资源调控、复合大语言模型系统构建、语义智能缓存框架开发、用电负荷预测等领域取得了突破性成果，多篇论文获得国际期刊奖项。
面向海量通信基站的能量智慧调度
2024年4月，江行智能团队在下一代“能源-通信-交通综合枢纽”设计与优化领域的工作《Towards Integrated Energy-Communication-Transportation Hub: A Base-Station-Centric Design in 5G and Beyond》被分布式计算领域著名会议IEEE ICDCS接收，并从121篇论文中脱颖而出，在会议召开期间荣获ICDCS杰出论文奖。
该工作通过探索基站与电动汽车充电基础设施之间的关联，展示了利用基站电池和可再生能源发电厂在枢纽内高效为电动汽车充电的可行性。
模型将基站流量状况、天气情况和电动汽车的充电行为等多个因素考虑在内，引入一种激励机制来设定充电价格，并采用基于深度强化学习方法进行电池调度。该技术将优化剩余能源利用率，通过电动汽车充电创收的同时降低运营商运营成本，为未来电网、基站与交通基础设施领域整合展现了全新愿景。
大语言模型推理任务调度优化
继杰出论文奖之后，江行智能团队在网络与服务质量领域国际旗舰会议IEEE/ACM IWQoS 2024上又以《面向实际高效复合大语言模型系统服务的研究》（Towards Efficient Compound Large Language Model System Serving in the Wild）荣获大会唯一最佳海报奖。
研究针对复合大语言模型系统在实际应用中的推理任务调度问题，提出创新性解决方案。研究首次揭示了任务结构与时长的不确定性及对复合大语言模型推理任务的挑战，设计出基于优先级的调度方法，初步实验表明该方法可以将复合大模型系统中任务平均完成时间最多减少47%。
调度器接收用户提交的复合大语言模型应用后，基于不同任务优先级进行调度，并将调度后的任务分配到集群执行器上进行执行。任务执行完毕后，调度器将任务结果返还给用户。这一成果不仅为复合大语言模型系统的优化提供了新路径，也帮助更多研究人员关注到这一重要问题。
大语言模型边缘语义缓存效率提升
此外，江行智能团队在大型语言模型智能问答领域的工作《SCALM：大型语言模型智能问答的语义缓存策略》（SCALM: Towards Semantic Caching for Automated Chat Services with Large Language Models）也被IEEE/ACM IWQoS 2024接收。该工作提出了一种新型缓存架构SCALM，通过语义分析和聚类算法对查询模式进行智能分类和存储，显著提升缓存效率。SCALM采用全面和选择性的层次语义聚类方法精确处理复杂查询，可有效提高系统性能，显著降低运营成本。
HALO框架创新智能建筑能效管理
江行智能团队在智能建筑管理和能效优化领域持续进行技术创新，中科院JCR-1区Top期刊IEEE Internet of Things Journal在2024年5月份发表了团队最新研究成果《基于多时间尺度Transformer技术的空调负荷预测》（HALO: HVAC Load Forecasting With Industrial IoT and Local-Global-Scale Transformer）。该研究融合边缘计算技术和局部-全局尺度Transformer模型，为暖通空调系统（HVAC）的电力负荷预测引入HALO这一创新技术框架。
HALO框架通过智能数据预处理和复杂的语义分析，能够精确处理和响应复杂的数据查询，突破传统负荷预测方法的局限。其核心技术包括一个采用局部和全局信息处理策略的Transformer架构，在优化模型处理能力的同时，还可降低系统的运行成本。此外，HALO框架展示了在多个建筑数据集上的优越性能，通过实地测试和评估，证明了其在实际应用中的有效性和高效性。该项研究的发现不仅标志着智能建筑能效管理技术向前迈进了一大步，也为楼宇空调参与虚拟电厂、需求响应等业务奠定了坚实的基础。
目前，江行智能已推出「源问大模型」，成功打造基于复合大模型的新能源智能运维解决方案。随着大模型不断迭代，江行智能也在积极推动更多创新性技术成果涌现，将前沿技术与行业需求紧密结合，转化为实际的产业应用。
自成立以来，江行智能持续深耕人工智能领域，内部研发中心汇聚了众多行业专家和顶尖工程师，共同构筑了一支创新力强劲的研发团队。此外，公司积极构建产学研合作生态，打造深圳市博士后创新实践基地、广东省科技专家工作站等平台，并与香港科技大学、中国科学技术大学、深圳大学等建立了紧密合作关系。
展望未来，江行智能将继续推动大模型技术发展进步与应用落地。同时，也期待与更多志同道合的伙伴携手，共同开拓大模型领域的广阔前景，探索未来发展的无限可能。