科技
业界 互联网 行业 通信 科学 创业

Soul优化未成年内容识别模型 提高网络陷阱识别能力

来源:今日热点网 2023-06-16 09:10:10
A+ A-

随着网络技术的不断发展,网络诈骗技术等非法手段也日渐难以抵抗。AI换脸技术的成熟也让一些不法分子有了可乘之机,假人假身份也让不少社交产品用户深陷泥潭,其中未成年人的占比不容忽视。为此Soul依托自身技术打造出了未成年内容识别模型,提升了平台对假人识别和处理能力。

据了解,目前Soul依托自身技术能力打造的未成年内容识别模型,可针对兴趣群组、群聊派对、内容广场等公域场景下用户发布的文字、语音、图片等内容进行年龄特征识别,并结合人工判定对未成年人进行识别。

同时,在群聊等一对多场景中,若同时存在多名用户提及未成年元素,辅以人工判定,对潜在的未成年人进行兜底识别。在设备识别方面,针对过往在“青少年模式”下使用产品的设备,账号注销后新注册账号依然直接关联“青少年模式”,用户提交详细材料自证为成年人后方可退出“青少年模式”并正常使用产品。

此外,Soul平台从人工策略和智能模型策略双管齐下展开治理,对软色情等灰色信息进行有效识别与拦截,对违法违规账号严肃处置。不断优化迭代的策略模型,就像一面面照妖镜,让各类有害信息尽显原形。此外,当在Soul上碰到类似不良信息时,可以采取举报措施,也可通过平台内各场景的反馈渠道进行反馈投诉。

青少年对于网络陷阱的辨别能力有限一些非法分子正是借此拉动青少年一步步陷入圈套。Soul一直以来都十分关注平台青少年用户的上网安全和相关权益的保护,在未来Soul亦将在此方面加大投入,为青少年打造轻松绿色的社交氛围,帮助青少年屏蔽假人等不实网络内容。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。

责任编辑:kj005
文章投诉热线:156 0057 2229  投诉邮箱:29132 36@qq.com

相关新闻

精彩推荐