4月 26日,第四届数字中国建设峰会期间,由国家互联网信息办公室主办的人工智能分论坛正式举办。会上,中央网信办组织评选的人工智能企业典型应用案例正式发布,瑞莱智慧(RealAI)“人工智能安全与深度伪造治理应用案例”入选名单,成为名单中唯一一家提供第三代人工智能解决方案的企业。
为发现和挖掘人工智能行业的最新场景和杰出企业,进一步推动我国人工智能健康稳健发展,中央网信办信息化发展局面向人工智能社会实验特定方向,开展了企业应用案例征集,并组织人工智能社会实验专家组评审,最终遴选出35个典型应用案例,瑞莱智慧与华为、百度、旷视、商汤、依图等企业共同入选其中。
人工智能安全治理是本次论坛的核心话题。随着新型攻击手段、滥用误用等安全风险的不断加剧,人工智能治理工作迫在眉睫。目前,社会各界正在从法律法规、标准规范等多个维度展开人工智能治理探索与实践,但人工智能行业具有多学科综合、高度复杂等特性,带有天然的技术壁垒,政策和法规之外更需结合有效的技术手段。
瑞莱智慧CEO田天曾表示,人工智能治理需“技术”与“制度”同步推进,前者解决技术的不安全性与脆弱性,后面从应用层面给出规范与指引。作为清华人工智能研究院的官方产学研机构,瑞莱智慧就依托“产学研”一体化优势,创新性的推出基于攻防动态升级的技术方案,以子之矛、攻子之盾,通过研究对抗性算法,先于黑客发现漏洞并针对性的提供解决方案。
基于这一思路,瑞莱智慧打造出一套完备的、行之有效的技术工具来辅助解决人工智能安全问题。比如,业内首个人工智能安全平台RealSafe通过集成领先攻防算法,支持对AI系统进行自动化的安全检测与防御加固,提升AI系统对对抗样本等攻击手段的识别能力。在应对滥用方面,瑞莱智慧推出DeepReal深度伪造检测工具和一体机,能够高效精准的判断视频、图片等内容素材是否是经过AI伪造,能够有效避免舆情、预警滥用等,在2020中国人工智能大赛中荣获A级证书与创新之星奖项。这次入选的“人工智能安全与深度伪造治理应用案例”也正是基于这两大产品方案打造,能够有效避免人工智能落地应用过程面临的潜在安全隐患。
技术能力之外,在国家相关政策法规的引导下,瑞莱智慧也积极参与到重大政府项目,联合工信部门、公安部门等政府单位撰写行业标准和行业报告,参与探索和实践人工智能治理与发展的可信指引,助力构建人工智能产业健康生态。