2024年2月20日下午，AIIA“SafetyAI Bench”(人工智能大模型安全基准测试)线上研讨会成功举办。来自中国信息通信研究院(以下简称“中国信通院”)、厦门大学、北京大学、北京交通大学、360、百度、蚂蚁集团、VIVO、西门子、小鹏汽车、马上消费、浪潮科技、海信视像、交通银行、商汤科技、邮储银行、普华永道、科大讯飞、金橙果科技、万商天勤律所、中兴通讯、博特智能、开源网安、云天励飞等单位40余位科研机构专家及企业代表参加了本次会议。

中国信通院人工智能研究中心、AIIA 安全治理委员会 AI原生安全工作组组长张蔚敏介绍了AIIA“SafetyAI Bench”的工作背景。为了进一步推动大模型的安全部署应用，中国信通院联合17家单位发起大模型安全基准测试SafetyAI Bench，秉持公平公正、产业应用和场景导向的原则，目标建立业内权威大模型安全中文基准测试体系。以提高内容安全、数据安全和科技伦理等安全能力为目标，覆盖价值观正确、合法合规、隐私保护、文明健康等二十个维度的中文评测数据集。帮助大模型技术提供方提升模型安全风险防范能力，为大模型研发和落地保驾护航。

中国信通院人工智能研究中心安全与元宇宙部白入文博士介绍了“大模型评测系统”建设工作，系统将依托工信部大模型公共服务平台形成大模型评测执行的“硬工具”，为通用大模型、行业大模型、 大模型应用产品等提供一站式评测服务。一是以中立身份形成全维度、可拓展、公开、公正、公平的大模型评测能力，二是围绕产业实际应用需求开展动态评测服务，三是提供包括模型选型与供需对接在内的应用落地配套服务。

金橙果科技是人工智能中台技术研发的优秀团队，其产品AZSYS系统可以有效提升对异构数据的处理能力，帮助大模型与应用场景深度融合。搭载了该系统的伙伴AI在深度学习、自然语言理解、AI模型开发、角色构建与训练等领域均有非常出色的表现。金橙果科技CEO宋佰轩表示，我们正处于新的科技革命爆发前夕，AI不仅会改变我们思考和解决问题的方式，更会为人类社会生产生活方式激活无限新可能。未来AI将无处不在，随之而来的AI安全问题将是我们面临的巨大挑战，我们愿意携手更多同道者，一起推动行业安全标准的制定和实施，共建美好AI未来。