降低80%的图像对抗风险蚂蚁集团升级基于可信AI技术的内容安全解决方案

2021-12-16 11:49:22
来源:

  【摘要】   12月16日消息,日前,由国际人工智能顶会NeurIPS 与 Facebook AI联合举办的图像相似匹配竞赛ISC2021落下帷幕。本次比赛共有1635支参

  12月16日消息,日前,由国际人工智能顶会NeurIPS 与 Facebook AI联合举办的图像相似匹配竞赛ISC2021落下帷幕。本次比赛共有1635支参赛队伍参加,来自蚂蚁集团的TitanShield Team(titanshield2)斩获图像表征赛道冠军。

  据悉,此次夺冠团队采用的技术方案是由蚂蚁集团独立自研的、基于特征兼容自监督学习框架的预训练模型,能够针对性地解决内容安全风控领域常见的敏感信息更迭速度快、风控模型训练不及时等问题。作为可信AI技术研究及应用中的一环,该技术上线%的图像对抗风险,将有助于极大地提升在内容安全等相关应用领域中的AI鲁棒性(Robustness)。

  

  作为人工智能下一阶段快速发展的瓶颈所在,安全和可信性决定了人工智能未来三十年的发展速度和应用深度;而AI的鲁棒性,即抗打击能力及稳定性,则成为了人工智能的第一场大考。如果抵挡不住攻击,识别结果不可信,那么AI模型不仅失去了它存在的意义,还会成为另一个风险敞口,蚂蚁集团资深技术专家博山表示。

  据悉,此次比赛中,夺冠团队所采用的基于特征兼容自监督学习框架的预训练模型,在图像识别领域,极大地缓解和应对了上述问题。首先,该技术能够基于公开数据集进行预训练,帮助AI提前完成同类风险预演。其次,在传统的AI识别中,模型识别依赖人工投喂标注了特征的样本;例如,模型在识别熊猫图片前,需要先学习熊猫的特征——眼部有黑色毛发、常与竹子一同出现等等。而借助自监督学习技术,该模型可以通过自主学习抓取特征,降低70%标注量,训练时间也从原本的一周缩短至3天。同时,创新的特征兼容方案,能够实现在两个业务场景或两家企业间,借助特征信息的兼容共享,实现风险联防。

  据悉,该模型及相关技术作为蚂蚁集团内容安全风控决策引擎的重要组成部分,目前已在支付宝内容安全场景中全面上线%的图像对抗风险。