从0到1 国内首个金融领域“Deepfake”检测标准来了

　　21世纪经济(jì)报(bào)道见习(xí)记(jì)者 郭聪(cōng)聪 北(běi)京报道

　　人工(gōng)智能技术广泛应用于金融(róng)领域，在提高金融服(fú)务效率和质量的同时
，其黑暗面也(yě)日渐(jiàn)显现。由人工(gōng)智能技术演化(huà)而(ér)来的Deepfake（深度伪造）技术欺诈日益猖獗，奇安信集团发布的《2024人工智能(néng)安全报告(gào)》中显示，在2023年，基
于AI的深度(dù)伪造(zào)欺诈暴增了3000%。在这(zhè)过程中，首(shǒu)当(dāng)其冲的就是广泛从0到1 国内首个金融领域“Deepfake”检测标准来了适用“人脸 识别”系统的金融行业(yè)。

　　为提升金融信息系统的安全性，9月6日(rì)北京国家金融科技(jì)认(rèn)证(zhèng)中心(xīn)联合10多家金融机构发布的《虚假(jiǎ)数字人(rén)脸检测金融应用技术(shù)规(guī)范(fàn)》（下称《应用规范》）正式施行。《应用规范》规定了面(miàn)向金融领域应用的虚假数字人脸检测服务的技术框架、功能要求、性能要求(qiú)等，并提出对(duì)应的测试评估方法，为(wèi)金融机构防御(yù)虚假数字人脸攻击提供了重要(yào)参考(kǎo)，这是(shì)国内首个面向Deepfake进行安全检测的标准。

　　Deepfake正在冲击银行 “人脸识别(bié)”系统

　　Deepfake由“Deep learning”和“fake”组(zǔ)成，最早出现在 2017 年。其名称(chēng)最初源于一个名为“Deepfakes”的用户在Reddit社交网(wǎng)站上(shàng)，发布了一系列名人的深(shēn)度伪(wěi)造视频，并声称这是一个新的合成技术。

　　作为一种(zhǒng)新兴的黑产攻
击手段，Deepfake能够快(kuài)速(sù)学习被仿冒者的样貌及声音(yīn)，十分狡猾且具迷惑
性，在其
背后支撑的是日(rì)益精进(jìn)化的人工智能(néng)技术(shù)。在金(jīn)融账户开户、账户登录、移动支付、理财保险身份(fèn)鉴别等各种金融应用场景中都需要“人脸识别”的今天，Deepfake对“人脸识别”系统的(de)攻击(jī)给金融行(xíng)业带来了巨(jù)大的潜(qián)伏风险。

　　就以银(yín)行 业(yè)为例(lì)， Deepfake就(jiù)成为(wèi)了攻
击银行(xíng)外围防火墙的工具(jù)。通常银行网上银行的(de)登录系统往往需要个人信息、验证(zhèng)码(mǎ)、密码与人脸识别，作为最后一层(céng)保障，人脸识别系(xì)统正在面临(lín)Deepfake的冲击。

　　今年2月，国外某安全公司就发现(xiàn)了名为“GoldPickaxe”的(de)恶(è)意手(shǒu)机木马软(ruǎn)件。不同于传统的窃取资金方式，不法分子通过(guò)该木马(mǎ)软件窃取手机使用
者的(de)面部肖像等生物(wù)识别数(shù)据、拦截短(duǎn)信等，继而伪造人脸动态视频，登录用户的银行(xíng)账(zhàng)号进行 转账、消费、修(xiū)改账号密码等操作。目前，GoldPickaxe木(mù)马病毒活跃在越南和泰
国，支持iOS和Android版本，十分值得(dé)警惕(tì)。

　　本(běn)报记者也(yě)曾对(duì)国内部分银行的手机银(yín)行展开了一(yī)次Deepfake测(cè)试。利用Deepfake技术(shù)，持卡人(rén)的
肖像特征被抓取，再通过技术合成到非持卡人的
面庞之上，非持卡人能够(gòu)顺畅的以持(chí)卡人的面容执行“张嘴、点头、摇头”等指令，不过并未(wèi)能突(tū)破银行的防御机制。但实现这一操(cāo)作，仅拿(ná)到持卡人的一张照片就可做(zuò)到(dào)。

　　国内首个金融领(lǐng)域“Deepfake”检测标准

　　中信银行信息技术管理部创新科学家张然是《应用规(guī)范》的起草者之一(yī)，在接受(shòu)本报记者采访时他提到：“《应用规范》是 国内(nèi)金融领域首个(gè)虚假数(shù)字人脸检测标准，实(shí)现了从0 到1的突破，是数字金融方向的(de)重要研究
成果。该标准目前属于团体标准，但在未来将(jiāng)在此标准的基础上申请国家标准及国际标准。”

　　该标准的核(hé)心特点在于其为金融领域的虚假数字(zì)人脸检测提供了系统(tǒng)化(huà)的技术框架、功能要
求、性能评估方法等，专门针对通过生成式人(rén)工智能、深度伪造等技术制作的虚假人(rén)脸内容(róng)进行检(jiǎn)测。

　　同时从0到1 国内首个金融领域“Deepfake”检测标准来了，《应用规范》注重(zhòng)识别不同类(lèi)型(xíng)的虚假人脸(liǎn)内容，包括(kuò)图像(xiàng)、视(shì)频等形式，提出了基于深度(dù)学习、卷积神经网络等技术的检测方法，并强调了对检测准确性、鲁棒性和泛化性的(de)全面评估（如(rú)下图）。

　　张(zhāng)然在(zài)介绍《应用规范》的具体应用场景时提到(dào)，《应用规范》在身份识别、交易验证的场(chǎng)景中均制定了相应评估方法。

• 身份识别。在金(jīn)融机构进行开户或身份验证时，虚(xū)假数字人(rén)脸检测技术(shù)可以有效识别(bié)使用(yòng)虚假数字人脸企图冒用他人身份的行为。通过检测(cè)虚假面(miàn)部特(tè)征(zhēng)，系统可以准确判断并(bìng)拒绝虚(xū)假的开户申请。
• 交易验 证。在高额交易中(zhōng)，特别是(shì)涉及远程身份验证时
  ，该技术可以通(tōng)过(guò)实时视频对话或者图像验证用(yòng)户身份，防止恶意攻击者使用虚(xū)假(jiǎ)人脸视频进(jìn)行
  交易验证，从而提高 金融交易的安全性(xìng)。

　　在谈到《应用规范(fàn)》对于银行业的影响时，张然说：“银(yín)行业(yè)对于《应用规范》的(de)反馈很从0到1 国内首个金融领域“Deepfake”检测标准来了好，工商银行、建设银行、邮储(chǔ)银行 等银行将参与应(yīng)用。”

　　张然(rán)表示，该(gāi)标准的应用将持续提升银行业在防范虚假身份认证和金融欺诈方面的能(néng)力。虚假数字人脸检测技(jì)术可以(yǐ)有效抵(dǐ)御深度(dù)伪(wěi)造等技术的攻击，确保用户身(shēn)份的真实性，保(bǎo)护银行系统免受伪造人(rén)脸攻击的威胁(xié)。此外，通过这种技术的(de)应用，银
行可(kě)以(yǐ)进(jìn)一步优化远程服务和数字化交易的安全性(xìng)，为(wèi)用户提供更安全的线上(shàng)金融服务体验。

责任编辑：王馨茹

未经允许不得转载：橘子百科-橘子都知道 从0到1 国内首个金融领域“Deepfake”检测标准来了