数字时代是人工（gōng）智能（AI）深（shēn）度应用和发展的时代。AI的发展，正在以一日千（qiān）里的速度改变着这个世界，并在交通、医疗、环境保护、城市管理等多个领域中，发挥着越来（lái）越不可替代的作用。但同时，AI的安全（quán）性问题，也成（chéng）为了数（shù）字化发（fā）展进程中不可回避的问（wèn）题。在数字经济欣欣（xīn）向（xiàng）荣的发展态势下，安全被许多业内（nèi）人士视为（wéi）木桶（tǒng）上的那一（yī）块（kuài）“短板”。

如何让安全为数字化发展“保驾护航（háng）”？8月6日（rì），2021新京（jīng）报贝壳财（cái）经夏季（jì）峰会——数（shù）字经济时代的风险防控线（xiàn）上（shàng）论坛举行，蚂蚁集（jí）团（tuán）副总（zǒng）裁，蚂蚁集团（tuán）安全事业（yè）群总裁赵闻飙表示，可（kě）信人工智（zhì）能（néng）的研（yán）究（jiū）和（hé）落地（dì）或是抵御“数字化”风险的关键能力。

用可信AI解决智能化风险

伴随着数（shù）字化经济的发展，用户在享受数（shù）字化带来的便捷与普惠的（de）同时，也面临数字化背后的风险，如（rú）羊毛党（dǎng）通过操纵多账户套取商户（hù）营销资金（jīn）、个人（rén）用户遭（zāo）遇（yù）网络欺诈、账户（hù）盗用等。“过去，我（wǒ）们一（yī）直重点谈的是‘数字化’背后的风险（xiǎn）和应对，而对‘智能（néng）化（huà）’背后的风险讲得很（hěn）少。因为当时行业普遍认为，人工智能技术的落地应用还（hái）相对有限。但（dàn）事实上，早在六七年前（qián），我们就（jiù）在（zài）平（píng）常应对黑产攻击中，发现（xiàn）了AI的痕（hén）迹。”赵闻飙表（biǎo）示。

新京（jīng）报贝壳财经记（jì）者注意（yì）到，当下的确有（yǒu）越来（lái）越多的（de）黑灰产（chǎn）团伙将AI等（děng）新技（jì）术（shù）投（tóu）入到了薅羊毛（máo）、诈（zhà）骗等（děng）非法活动中。如使（shǐ）用AI工具（jù）操控大量（liàng）账号进行（háng）违规操作、使用AI换脸技术试图（tú）绕过人脸识别（bié）认证等。

这意味着伴随人（rén）工智能技术的高速发展和加（jiā）持，数字（zì）化背后的风险（xiǎn）将持续（xù）加剧，并（bìng）且演变为“智能化”背后的风险挑战。

据了解，目前黑产（chǎn）作（zuò）案（àn）越来（lái）越趋于多平台、多链路、团队化（huà）和智能化（huà）。这对行（háng）业（yè）协同、风险（xiǎn）响（xiǎng）应机制（zhì）的（de）速度和准（zhǔn）确性提出了更高的要求（qiú），而且还需要（yào）切合“数字化浪潮”下社会对（duì）于隐私保护、技（jì）术伦理（lǐ）治理等多方面（miàn）的需求。

在赵（zhào）闻飙看来（lái），要对抗（kàng）“智能化（huà）”的风险，就需要“智能（néng）化”的手段，这也是“可（kě）信AI”技术进入快速发展阶（jiē）段的核心驱动力。可信AI技术要（yào）求人工智能技术应当具备（bèi）可解释性，以帮助人类理（lǐ）解和信赖他（tā）们的决（jué）策；具备鲁棒性（robustness），以抵御（yù）黑产的攻击，以保障计算和决策的稳定性和效能（néng）；具备隐私（sī）保护的能力，以（yǐ）满（mǎn）足（zú）社会和民众对于个人数据资产保（bǎo）护的需求；具备公平性，强调（diào）决（jué）策结果的公平性，同时关注技术背后（hòu）的社会责任（rèn）和伦理（lǐ）治理。

“数字时代，安全是AI与AI的博弈，而可信（xìn）AI，则是抵御风险的关键（jiàn）能力。”

面向可信AI技术（shù）的下一代风控体系“IMAGE”

据（jù）了解，蚂蚁集团自2015年起投入可信（xìn）AI技术的研究（jiū）。2016年，全面启（qǐ）动（dòng）了人工（gōng）智能风（fēng）控防（fáng）御战略。目（mù）前（qián），可信（xìn）AI技（jì）术已在包（bāo）括（kuò）反欺诈、反（fǎn）洗（xǐ）钱、反盗用、企业联合风（fēng）控、数据隐（yǐn）私保护在内的（de）多（duō）个风控场景下落地，支撑着其全风险域的防（fáng）御（yù）需（xū）求。根据今年（nián）6月全球专（zhuān）利权威机构IPR Daily发布（bù）的报告，蚂蚁（yǐ）集团目（mù）前拥有全球范围（wéi）内数量（liàng）最多的（de）“AI安（ān）全可信关（guān）键技术”专（zhuān）利，并上线（xiàn）部署了以“IMAGE”命（mìng）名的下一代风控体系。它包含着“交互式（shì）风控”、“多方安全（quán）风控”、“智（zhì）能（néng）决策（cè）”、“全（quán）图风控（kòng）”、“端云协（xié）同风控”五大组成部（bù）分（fèn）。

赵闻（wén）飙表示，“全（quán）图风控（kòng）”技（jì）术能够以（yǐ）“图”的形态，聚合（hé）“动态发展变化的风险（xiǎn）信息”，解决了（le）传统风（fēng）控中只能依（yī）靠单一（yī）或（huò）静（jìng）态信息维度追踪风险的困境，实（shí）现对风险变化趋势的预测，提前遏制风（fēng）险的发（fā）生。在（zài）反电（diàn）诈（zhà）等风控场景，对于打击团伙型、多（duō）链路作案，具有重要意义。而“全图式”的（de）风险分析和追踪形式，也对（duì）人工智能的“可解释性”发展提供了（le）更（gèng）广泛的空（kōng）间。

而“多方安全风（fēng）控”和“端云（yún）协同风控（kòng）”则（zé）是“智能（néng）化”趋势下（xià），实现风（fēng）控与隐私保护平衡（héng）发展的实践探（tàn）索。“多方安全风控”实现了在数据（jù）不交换的（de）前（qián）提下，多企业、多（duō）平台之间的联合风控（kòng）协作。“端云协同风控”的价值则（zé）是（shì）保障（zhàng）数据的使（shǐ）用和保有权真正（zhèng）属于用户。通（tōng）过将风控模型部署在智能（néng）终端，如手机上，蚂蚁的技术团队（duì）建立起了一套“终（zhōng）端进行数据计算和（hé）决策、云端仅获取决策（cè）结果（guǒ）”的风控模式（shì）。终端（duān）计（jì）算，意味（wèi）着（zhe）敏感信（xìn）息（xī）被保留在用户手中，规（guī）避了信息传输过程中可能（néng）出现（xiàn）的（de）被攻击风（fēng）险。云端仅获（huò）取决策（cè），不仅保障了安全（quán）防御和风险控制（zhì）不（bú）受影响（xiǎng），还节约了（le）云端的计算资源。目前，“端（duān）云协（xié）同风控（kòng）”已经被广泛（fàn）用于（yú）支付（fù）宝的日常风控中，在去年的双十一期（qī）间（jiān），98%的风控（kòng）决策都是在用户智（zhì）能终端上完成的。

赵（zhào）闻飙（biāo）在分享中强调，传统风（fēng）控受制于技术成本（běn）、数据规模（mó）和算法效能（néng），许多（duō）场景还是专（zhuān）家经验驱动，而不是数据智能驱（qū）动（dòng）。“支付宝每天（tiān）有数亿笔交易，面对如此庞（páng）大的计算量，一旦（dàn）决策产生延迟，就给了黑产可乘之机。” 通过人工智能（néng）与金融风控的（de）深度融合（hé），蚂蚁安（ān）全实验室打造了能够实现“智能决策”的AI大脑（nǎo）——AlphaRisk。其（qí）能够在零人工干（gàn）预的全自动模式（shì）下，对风险进（jìn）行毫（háo）秒级的响应。但更重要的是——AlphaRisk具备的自学习、自适（shì）应的能（néng）力，将极（jí）大地提升（shēng）人工智能的抗（kàng）打击能力（lì）。AI大脑通过对每一次黑产攻击行为的学习和研究，不断提升防御手段，进行高效的自我进化。

在技术快速发展的同时，可信AI的公平性（xìng）也（yě）考验着研究者对社会责任的坚守。赵（zhào）闻飙提到，早（zǎo）在2016年，蚂蚁就成立（lì）了针对电信（xìn）网（wǎng）络诈骗的技术（shù）研究小组（zǔ），借助包括“图神经（jīng）网络”“博（bó）弈攻防”在内的（de）一系列创新技术应用（yòng），极（jí）大地遏制了平台电诈发生率。但许多骗（piàn）子（zǐ）引导受害人转而使用（yòng）其他的支付渠道，社会欺诈问题仍旧严峻。如何依靠（kào）技术（shù）力量，真正将诈骗罪（zuì）案止步于支付（fù）环节，成为（wéi）研究（jiū）的重点，“交（jiāo）互（hù）式风控”也因此应运而生。

贝壳财经记者（zhě）注意到，区别于以（yǐ）往的安全风控模（mó）式（shì），交（jiāo）互式主动风控的关键在于“主动（dòng）”二字——传统的（de）安全往往依赖（lài）于已（yǐ）知风险（xiǎn）模式，只有（yǒu）风险发生过，才知道（dào）如何预防，这也使得安（ān）全风控往往（wǎng）处于“被动防（fáng）守”的态势。

对此，赵闻飙表示，安全必须从静态（tài）的被（bèi）动防守，转（zhuǎn）变为动态的主（zhǔ）动对抗，特别（bié）是（shì）金融安全。“以交（jiāo）互式风控产品‘叫醒热（rè）线’为例，当用户被骗子（zǐ）诱导转（zhuǎn）账时（shí），AI机器（qì）人将向用户发出来电提（tí）醒。充分学（xué）习了（le）欺诈罪案分析的AI机器（qì）人，能够捕捉用户交流中的关键信息，采取恰当有（yǒu）效的（de）反诈（zhà）劝阻话术和措（cuò）施。为了跟骗子拼速度（dù），目前蚂（mǎ）蚁的反诈骗叫醒热线（xiàn）中，有超9成电（diàn）话是由AI打（dǎ）出（chū）的，叫醒成功（gōng）率超（chāo）过了人工客服。除了事中（zhōng）的防护，如果（guǒ）用户深度（dù）受骗、执意支付，技术人（rén）员还（hái）开发了‘延迟到（dào）账’和‘资金（jīn）截留’的（de）功能，让欺诈者没有办法支取赃款。”

“人工智能技术的快速发展（zhǎn），引（yǐn）领了（le）第（dì）四次（cì）工业（yè）革命的（de）浪潮（cháo）。而可（kě）信人工智（zhì）能的研究和落（luò）地（dì），则代表了人工智能技术发（fā）展的新阶段。在未来，与人类社会深度（dù）耦合的人（rén）工（gōng）智能技术，如何在（zài）安全、可信、公平的原则下，持续发展（zhǎn）和进步（bù）？这是（shì）每一位从业者和（hé）研究者，为推动科技（jì）有（yǒu）序、健康发展（zhǎn）都不应回避的命题。”赵（zhào）闻飙表示。