移动互联网的深度渗透让社交平台成为公众沟通连接的核心场域,却也伴随着虚假信息传播、网络欺诈、网络暴力等治理难题。作为年轻人喜爱的社交平台代表,Soul将生态安全治理纳入战略核心,Soul张璐团队发布的《2025年第三季度生态安全报告》,全面呈现了平台以“技术+制度+教育”三维体系破解治理困境的实践成果,彰显了企业守护用户权益与社会信任的责任担当。
AI风控全面升级 筑牢社交安全屏障
面对年终促销季网络欺诈高发、手法隐蔽的态势,团队针对性迭代多项AI反欺诈模型,实现精准防护与用户体验的平衡。图片反欺诈模型经深度优化,误伤量级大幅下降80%,识别覆盖率提升至90%以上,全面覆盖主流图片生产场景;人设大模型升级后,高风险人设识别覆盖率从不足50%提升至70%以上,将欺诈风险阻断在用户接触初期。同时,团队保持与监管部门、公安机关的紧密协作,Q3季度推送违法有害线索100余个,配合调证协查80余次,参与3次警企合作专项行动,以技术赋能与多方联动构建坚实防线。
违规与低质内容治理,打造清朗社区画风
针对广场、群聊等公域场景,团队运用图片/文本反作弊大模型、外链审核大模型等技术手段,Q3季度机审直接拦截违规内容439万条,处理相关跟帖评论1578万条,处置违规账号30.6万个,对同设备多违规账号实施拉黑备案。群聊场景中,Q3季度日均中断违规语音超5600条,日均拦截违规文字消息2.6万条,有效遏制违规行为滋生。私聊场景作为社交安全的关键环节,团队上线迭代20余项防护策略,“消息自见策略”保护4.3万余名用户免受骚扰,日均禁止8万例反复违规用户的私聊功能,通过“守护弹窗”主动提醒疑似被骚扰用户加强防护,全方位强化用户自主安全能力。
聚焦网暴治理与青少年保护,构建友善环境
团队通过智能监测和快速处置机制,Q3季度日均保护3127名用户免受网暴与频繁骚扰,日均处理私聊不文明行为2100起,开展文明发言引导21.5万次,形成“干预+教育”的治理闭环。在未成年人保护方面,团队坚守“禁止未成年人注册”原则,对已注册未成年用户自动切换至青少年模式。暑期高峰期完成人设大模型迭代,年龄与身份人设识别覆盖量提升 200%,结合优化后的识别策略,实现对疑似未成年用户的精准识别与全面保护。
社区共建共治,共享安全生态
张璐团队持续完善社区共治体系,目前内容推荐官、风纪委员等在任社区共建用户超7.8万人,其中日均5.1万名站内内容推荐官参与治理,日均贡献投票2.2万余次,孵化优质帖子2900余个,构建起“用户参与治理,治理反哺内容”的良性循环。在用户“教育”层面,官方账号“风纪球长”发布59篇安全宣传内容,涵盖反低俗、反不实信息、社交礼仪规范等主题,触达51万用户,有效提升了用户的自我保护能力与文明互动素养。
《2025Q3生态安全报告》的发布,是Soul张璐团队在生态安全治理领域的一次全面成果展示。凭借AI技术的持续迭代、制度执行的严格落地以及社区共治的深度推进,团队成功构筑起智能化、全方位的安全防线,为用户营造了更安全、友善的社交空间,也为社交平台生态治理提供了可借鉴的实践样本。