近日蚂蚁集团基于可信AI技术研发的反欺诈模型，正式通过国家金融科技测评中心（银行卡检测中心）的技术测评，成为业内首个完成国家级金融权威机构测评的人工智能算法金融应用。
该次送检的模型名为“欺诈风险识别模型”及其相关系统，是蚂蚁集团基于人工智能前沿技术开发，能够自动贴合用户行为特征，自动预测分析交易支付中的异常行为及欺诈风险程度，并根据不同的风险分值，实时输出弹窗提示、问卷答题、语音交互、叫醒热线等不同的交互劝阻手段，确保支付宝用户的资金及交易安全，并将对用户的干扰降到最低。
国家金融科技测评中心是中国人民银行总行批准成立的中国金融行业权威检测机构，近期依据中国人民银行发布的《人工智能算法金融应用评价规范》，面向全社会开放“人工智能算法金融应用”的检测工作，从算法对多种攻击的防范能力、建模全流程的可解释性、算法精准性和性能等近百个项目评价算法是否满足金融应用要求。
近年来，人工智能作为全球关注的新兴技术，广泛应用到风控反欺诈、身份核验等金融科技场景，但伴随行业智能化发展，算法黑箱、安全问题等也不断出现。今年3月，中国人民银行发布并实施《人工智能算法金融应用评价规范》，首次对人工智能的安全可信应用明确了行业标准，要求应用AI算法需满足安全性、可解释性等基本要求。
据了解，蚂蚁集团此次送检的“欺诈风险识别模型”及其相关系统，在安全性、精准性和性能等各项检测中均以高标准获得了通过，在算法可解释性方面的检测表现较为突出。
中国工程院院士陈左宁曾表示，当前，对于技术的需求就是将可解释性融入软件环境中，第一是为现有软件框架增加可解释技术接口，第二是将“人-AI”系统结合，把人对事情的解释跟整个模型融合，提升模型的可调式性和透明度。
据了解，这套“蚂蚁反欺诈智能风险感知与响应系统”，基于可信AI技术，借助“图神经网络”、“博弈攻防”、“交互式主动风控”等创新应用，可实现“信息泄露防治-风险预警分析-异常操作捕捉-风险交易拦截-线下精准打击”全链路的欺诈防控和追溯可视，属于行业首创，日均成功保护潜在被骗资金1500万，极大遏制平台电诈发生率。
蚂蚁集团自2015年起投入可信AI技术的研究，2016年全面启动人工智能风控防御战略，目前已在反欺诈、反洗钱、反盗用、企业联合风控、数据隐私保护在内的多个场景落地，并形成了新一代“IMAGE风控体系”，支撑全风险域的防控。
