1. 首页
  2. 人工智能

信通院发布人工智能权威测评 蚂蚁集团智能金融风控模型多项得分领先

在12月24日举行的“2021 GOLF+ IT新治理领导力论坛”上,中国信息通信研究院正式发布了“人工智能模型风险治理能力成熟度测评”的首批评估结果。由蚂蚁集团(旗下支付宝)、招商银行等企业送测的4个AI模型,成为首批通过风险治理成熟度测评的人工智能模型。其中,蚂蚁集团送测的、基于可信AI技术的“智能金融犯罪风险防控模型”,在“AI模型全生命周期管理”、“应急响应”、“决策透明”三个测试项目中,均排名第一;并在考察AI可解释性的“决策透明”项目中,获得了本期测评的最高评级(卓越级)。

    数字时代,随着人工智能技术的广泛应用,为了更好地规范人工智能领域的科技活动,我国陆续发布了一系列法律和行政法规;在要求确保模型决策的安全可靠和公平公正的同时,也对企业内针对模型的风险管理和内控制度提出了具体要求。

    9月16日,九部委联合制定的《关于加强互联网信息服务算法综合治理的指导意见》发布,针对算法治理提出要利用三年时间,逐步建立“治理机制健全”、“监管体系完善”、“算法生态规范”的算法安全综合治理格局。人工智能模型风险治理作为“可信人工智能”技术发展中的重要环节,已经成为企业可信人工智能研究和应用的必要工作之一,企业应该实施切实有效的治理措施,快速灵活应对模型风险。

据悉,此次测评参照的标准是由中国信通院联合20余家行业优秀企业和专家依托中国互联网协会平台联合制定的《人工智能模型风险治理能力成熟度模型》。该标准聚焦企业人工智能模型风险治理,建立了一套围绕人工智能模型的风险治理能力成熟度的治理框架。

测评围绕“AI模型全生命周期管理”、“应急响应”、“决策透明”、“专利保护”、“模型安全影响评估”、“交互与沟通”、“外部合作”等板块展开;对参评企业在可信人工智能领域,包括鲁棒性、可解释性、公平性、数据隐私保护等不同维度的技术能力及技术治理方案都做出了规范和要求。

作为首批通过测试的参评单位,蚂蚁集团全面风险管理部高级专家杨舟也受邀参与了论坛分享。他表示,蚂蚁集团本次送测的“智能金融犯罪风险防控模型”,此前已广泛应用于反欺诈等金融犯罪风险防控领域,不仅在鲁棒性、可解释性、隐私保护、公平性等领域的技术创新及实践应用上积累了丰富的经验,在操作风险防控、模型全生命周期质量管控、模型使用管理等模型治理方面,也做出了许多积极探索。可信、智能模型风险管理体系已成为蚂蚁全面风险管理的核心模块。