​韩女所骂的“deepfake＂是什么？深度伪造骗局——AI的犯罪化应用

韩女所骂的“deepfake"是什么？深度伪造骗局——AI的犯罪化应用

Deepfake是一种将个人的声音、面部表情及身体动作拼接合成虚假内容的人工智能技术。主要是将生成式对抗网络的机器学习模型将图片或视频合并叠加到源图片或视频上，借助神经网络技术进行大样本学习从而实现伪造的目的。

深度伪造最常见方式是AI换脸技术，此外还包括语音模拟、人脸合成、视频生成等。它的出现使得篡改或生成高度逼真且难以甄别的音视频内容成为可能，观察者最终无法通过肉眼明辨真伪。

案例一：诈骗案——10分钟被骗430万

包头警方发布一起利用AI实施电信诈骗的典型案例，福州市某科技公司法定代表人郭先生10分钟内被骗430万元。据悉，郭先生的好友突然通过微信视频联系他，称自己的朋友在外地竞标，需要430万保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天核实了身份，郭先生没有核实钱款是否到账，就分两笔把430万转到了好友朋友的银行卡上。后续郭先生拨打好友电话，才知道被骗。骗子通过智能AI换脸和拟声技术，佯装好友对他实施了诈骗。值得注意的是，骗子并没有使用一个仿真的好友微信添加郭先生为好友，而是直接用好友微信发起视频聊天，这也是郭先生被骗的原因之一。骗子极有可能通过技术手段盗用了郭先生好友的微信。幸运的是，接到报警后，福州、包头两地警银迅速启动止付机制，成功止付拦截336.84万元。从郭先生的描述来看，骗子对于AI技术的运用之快、运用程度之高令人咋舌，AI换脸、AI换声，拦截微信号，几乎无一不出自AI技术之手。

案例二：诈骗案——“AI换脸”通话十几秒，济南小伙被骗30余万

2023年5月，黄某某(化名)在家刷短视频时收到了一条私信，对方自称是黄某某的表哥，寒暄几句取得黄某某初步信任后，对方又让黄某某添加了其QQ号，黄某某的表哥由于在体制内工作，因此对方以自己身份不便为由，希望黄某某帮自己给一个需要资金周转的朋友，转一笔大额资金。

为了表示诚意，“表哥”索要了黄某某的银行卡号，并称先让朋友给黄某某转款后，再让黄某某转出。很快，黄某某就收到了对方发来的“转账凭证”，虽然看到了“转账凭证”，但黄某某并没有收到这笔转款，因此没有立即帮“表哥”转账。

黄某某随后与“表哥”进行了视频通话，黄某某见到视频中的人和表哥一模一样，不过对方声音比较低，大约十几秒后，对方称有会议便挂断了视频通话。

黄某某确信了对方身份后，于是向对方提供的银行账户转了30余万元。收到这笔钱后，对方还继续催促黄某某转出剩余的欠款。就在黄某某继续筹集资金的过程中，黄某某发现起初添加自己的短视频账号已经显示被封禁，他急忙给表哥打去电话核实，才知道其表哥对此事毫不知情。意识到受骗的黄某某立即报警。

警方根据嫌疑人与黄某某网聊时的IP地址，判定该团伙在境外实施诈骗，由国内销赃洗钱，是一起采用AI技术换脸、冒充受害者熟人进行点对点网络诈骗的案件。商河警方通过技术手段侦查，两次前往广东东莞，抓获犯罪嫌疑人7人。

案例三：传播淫秽物品牟利案——有提供定制换脸视频吗？想把我暗恋的女生换上......

虞某利用“AI换脸”软件，制作生成虚假的换脸淫秽视频，在网络社交软件上进行传播，能够吸引较多关注。从2021年6月开始，虞某以牟利为目的，在未取得被编辑人同意的情况下，利用上述“AI换脸”软件，将从互联网等渠道收集到的他人人脸信息与部分淫秽视频中的人脸信息进行替换合成，制作生成虚假的换脸视频，在网络社交软件上进行传播。与此同时，虞某还在社交软件上创建了多个群组为他人提供换脸视频定制服务，根据客户提供的视频或照片，制作换脸视频。此外，虞某在网络社交软件上销售“AI换脸”软件、提供换脸素材并传授使用教程。

“让一切遮挡消失！手机就可操作，明星网红素人都可，30秒内出结果！购买软件私信联系！”“只要是能看到脸的都能换！”“请问有提供定制换脸视频吗？想把我暗恋的女生换上。如何收费？”“没问题，费用……通过口令红包发我！”……一段时间，在虞某的社交软件群组内热闹非凡，生意红火。口令红包收了200余次，总金额共计6万余元。2022年8月，公安机关发现了虞某在网上制作、传播淫秽物品牟利的犯罪行为，依法对其立案侦查。2022年11月，虞某被移送萧山区检察院审查起诉。今年3月28日，该院依法对虞某以涉嫌制作、传播淫秽物品牟利罪提起公诉。

案例四：侵犯公民个人信息案

2021年8月的一天，郑某某在外卖群里看到有网友发消息求人帮助解封账号。郑某某输入自己的姓名、身份证号等信息，完成人脸识别后，成功帮网友解封，该网友给郑某某发了20元红包。后来，郑某某被拉进一个兼职群，群里发布了大量需要解封QQ号的信息，并许诺一定的佣金。郑某某觉得这钱来得容易，便开始尝试代人解封 QQ号赚钱。

实际上，这些账号大多不是真实用户在使用，而是犯罪团伙用来实施诈骗或者引流的，只能通过非法途径付费解封。郑某某很快就发现，1个人的身份信息最多只能解封5个账号，他不得不向别人借用身份信息。而且，人脸识别还需要对方配合，对方需根据系统提示做出摇头、张嘴等动作，识别成功后才能正常解封，比较麻烦。他在网上搜索解决办法后发现，虽然系统要求人脸验证，但实际上，只需要一张照片，通过软件合成动图，就可以骗过系统完成验证。

与此同时，在群内“熟手”的指点下，郑某某得知，通过某境外聊天软件可以购买“料子”。所谓“料子”，就是姓名及对应的身份证号和人像照片或动图。购买一套“料子”只需 10元左右，而解封一个账号“行情价”是 20至30 元，也就是说，从中倒手赚个差价，帮人解封一个账号仅需几分钟，至少可以净赚10元甚至更多。郑某某觉得自己发现了一项“躺赚”的副业，第一个月就轻轻松松赚了一万多元。后来，他干脆转让了炸鸡店，全身心投入解封“事业”。

2022年2月，公安机关在日常网络巡查中发现，郑某某等人在网上大量购买公民个人信息，涉嫌侵犯公民个人信息罪。经检察机关审查认定，郑某某至少使用他人信息解封QQ号1003次，获利至少20060元；郑某至少使用他人信息解封QQ号679次，获利至少13580元；王某某至少使用他人信息解封 QQ 号 365 次，获利至少 7300 元。

2023年2月7日，该案一审宣判，法院以侵犯公民个人信息罪判处被告人郑某某有期徒刑八个月，缓刑一年，并处罚金4万元，同时承担侵犯公民个人信息的损害赔偿金20060元，分别判处郑某、王某某拘役五个月、三个月，适用缓刑，并处罚金和公益损害赔偿金。

案例四：敲诈勒索案

浙江温州有女子报警称，被人利用AI换脸技术，把她的相貌换到了不雅视频中的女主角身上，然后犯罪分子以视频为要挟，对女子进行敲诈勒索。