随着环球影城走红,阿里安全的图像伪造检测AI发现,有不法分子试图通过伪造的环球独家旅游咨询点线下门脸图像和“票务咨询”电话进行欺诈牟利,经AI技术迅速自动识别该门脸图的PS痕迹,工作人员在线下地点再次进行人工审核,发现实际区域并无该咨询点,且该“票务咨询”电话为诈骗电话,于是拦截了这一申请。
图说:伪造图像检测AI发现用户上传的图片存在修改痕迹
安全专家介绍称,近年来大量诈骗违法人员引入伪造各类证件、转账记录等技术手段实施诈骗,识别破解难度大幅增加。2月17日,阿里安全在天池平台针对性上线篡改图像检测大赛,邀请各路安全技术人员参与“篡改截图”比赛,考验AI的防守性能。阿里高级安全专家渡明表示,举办此次大赛一方面旨在推进相关防篡改技术的进步,助力解决网络诈骗的社会问题,另一方面也是为了给行业培养更多安全技术人才。
当前,国内外学术届对图像篡改检测的研究集中在自然图像篡改检测,但日常带来风险损失的假图通常是资质证书、文案、截图等,现有的篡改检测方法直接应用到这些新类型图像时,准确性能大幅下降。
图说:伪造图像检测AI发现“营业执照”的伪造痕迹
“若篡改检测技术能得到推广普及应用,会很大程度遏制网络诈骗。”渡明称,希望通过真实场景中大量出现的篡改图像检测比赛,让篡改检测领域更加关注此类高风险篡改图像,进而促进检测技术进步。
中国人民大学计算机视觉方向的研究生鹿月与轮辉在2021年参加了阿里安全举办的AI挑战者计划第五期“伪造图像的对抗攻击”比赛,他们在比赛中沉淀的论文研究成果被计算机视觉三大顶会之一的ICCV收录。之后,两人又收到阿里安全的面试邀请,并最终获得媒体安全团队实习机会。
现在鹿月投入到了实习项目“盗图识别”研究中,她对新研究能实际接入产业应用而感到兴奋,“比如我也注意到现在网络上一张P图就能编造很多假新闻和谣言,希望检测技术能够帮助发现这些假图,识破谣言。”鹿月说。
据阿里安全介绍,目前新一代安全架构核心技术伪造图像检测AI已经应用在聊天信息、资质证明、物流风控、转账记录、媒体内容等领域的真实性检测中。
“很开心以往的参赛选手能将研究和实际应用结合,我们也希望以创新性的比赛培养更多技术人才,推动该领域的技术进展,从源头以科技创新解决社会生产、生活的安全问题。”渡明说。
免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。
文章投诉热线:156 0057 2229 投诉邮箱:29132 36@qq.com