随着生成式AI技术进入多领域通用阶段,AI社交赛道迎来发展机遇的同时,伦理治理与安全保障也成为行业关注的核心议题。在2025年世界人工智能大会上,Soul App展示的“群聊派对”AI主持人凭借流畅的交互体验引发关注。特别是作为AI应用的前沿代表平台,Soul也提供了AI伦理与治理的代表范本,而这背后,是Soul对技术创新与伦理治理的双重坚守。Soul App首席技术官陶明表示,平台的愿景是构建一个开放的社交网络,让用户享受健康、安全、信任、真实、温暖且无压力的社交环境,这一目标始终贯穿于AI技术的布局与发展全过程。
事实上,Soul对AI技术的探索早有积淀。2016年上线后,平台便以传统机器学习与深度学习为核心,优化用户间的连接效率,帮助用户找到志同道合的伙伴。2019年前后,洞察到生成式AI的技术潜力,Soul逐步启动相关布局,进一步推动社交体验升级。陶明提到,良好的社交体验源于出色的表达能力,因此Soul的AI技术构建主要围绕两方面展开:一方面增强用户的表达能力,促进人际社交;另一方面打造虚拟人、AI Agent生态,为不善表达的用户提供人机交互新选择,让AI成为社交体验升级的核心力量。
在技术快速迭代的同时,Soul从未忽视伦理治理的重要性。Soul App首席技术官陶明强调:“AI 技术的使用与 AI 伦理治理、安全治理,这两方面我们都要抓,且都要抓得住,只有这样才能让业务更好地发展。”自开展社交业务以来,Soul便确立了用户安全与内容安全两大底线,并构建了完善的社区与内容安全规范。进入AI社交阶段后,平台将这些规范直接移植到AI模型中,而非采用传统串联式安全过滤模式,在底层模型数据治理层面,搭建了健康绿色、符合站内规范的数据机制,从根源保障人人、人机交互安全。
在用户隐私与数据保护方面,Soul的实践同样扎实。平台建立了严格的等保安全保护机制与高标准安全评估审计流程,官方AI陪伴功能的模型训练数据主要采用公域合规数据与开源数据集,既保障合规性,又结合垂直社区特点与社交场景理解,让AI虚拟人具备拟人化、情感化特征,实现情绪价值与信息价值的双重传递。
为应对AI社交可能带来的用户过度依赖、情感沉迷等风险,Soul依托企业自律,构建了系统化的监测与干预机制。平台将“人人社交”场景的治理经验优化后应用于人机交互,通过打造广场、兴趣社群等多元场景,降低用户单一场景沉迷风险;同时建立实时用户体验保障机制,监测到过度依赖倾向时及时介入引导。此外,Soul提出的“破壁”理念,让AI虚拟人在获得用户授权后结合现实场景提供互动,帮助用户平衡虚拟与现实社交,减轻过度依赖。
面向未来,Soul将继续以用户需求为核心,以技术创新为驱动,以伦理治理为保障,为用户构建更安全有温度的社交环境,也为行业提供实践范本。