升级风险识别逻辑,Soul 上市进程运用 AI 优化社区治理

来源:看点时报 2026-06-18 11:31:09
A+ A-

随着AI技术不断迭代,社交的运营与管理模式也在持续革新。面对当下多元化的社交内容与互动形式,传统单一的审核方式已难以适配行业发展节奏。在 Soul IPO 有序开展的过程中,聚焦技术创新,持续打磨 AI 识别与分析能力,结合场景特点搭建综合研判体系,对《社区公约》进行了AI相关补充更新,全方位提升社区精细化运营水

在部分典型高风险案例中,一个账号可能会通过豪车、高薪职业、高消费生活方式等内容,塑造“成功人士”“高净值男”或“精英职业”等人设,再配合高度模板化的话术与情绪引导,逐步建立信任关系。单独看其中任何一个内容,可能都并不足以构成传统意义上的违规。图片本身没有敏感信息,聊天内容也可能只是普通社交表达。但当这些信息被放在一起时,风险特征就会逐渐显现。“豪车男”账号的问题,不在某一句话或某一张图单点,而是整套“人设逻辑”本身。也正因此,Soul开始更多采用跨模态联动的AI治理能力,将图片、文本、视频、声纹以及用户行为等不同维度的信息进行综合判断。

目前Soul已经逐步形成了一套覆盖图片、文本、视频、声纹以及用户行为等维度的多模态AI治理体系,并将其应用于虚假人设识别、异常互动判断、风险内容拦截等多个场景。例如在图片场景中,会结合AI生成痕迹识别、图片原创判断等能力,对AI生成图、盗图、拼接图等内容进行综合分析;在文本与互动场景中,则会通过大模型意图识别能力,对异常导流、人设包装以及欺诈倾向进行识别,而不仅仅依赖关键词本身。

同时,也在持续加强对视频、语音等复杂场景的风险识别能力。针对AI伪造声纹以及跨账号关联等问题,Soul逐步建立起基于声纹特征以及行为链路的联动识别机制,以提升对高伪装风险内容的发现能力。

如今已搭建起覆盖图文、音视频、用户行为等多个维度的 AI 治理架构,不同场景下的识别与分析能力都在稳步精进。现阶段 Soul 上市进程持续推进,不断深挖技术潜力,依托成熟的智能体系适配多样的社交场景,以持续升级的综合能力,护航社区长期稳运行。

责任编辑:kj005

文章投诉热线:157 3889 8464  投诉邮箱:7983347 16@qq.com

相关资讯

精彩推荐