AI换脸诈骗
对越来越多人下手了！
近日，外媒曝光了一种新型数字诈骗，诈骗犯利用复杂的AI工具制作特斯拉CEO马斯克等名人的视频，利用这些“AI名人”对各种虚假的产品或“投资”进行背书，并承诺高额投资回报。
在其中一个典型案例中，“AI马斯克”背书的一家所谓的外汇公司轻松骗走了一名82岁的外国退休老人超过69万美元（约495万元人民币）的毕生积蓄。
82岁的退休老人Beauchamp观看了一段视频广告。视频中马斯克支持一个承诺快速回报的激进投资机会，口型与声音都高度吻合，还融入了马斯克标志性的南非口音，看起来极为真实。于是，Beauchamp联系了该广告背后一家外汇公司，开设了一个248美元的账户。经过数周的一系列交易，Beauchamp最终投资了69万多美元，而这些钱都被卷走了。
除了马斯克外，“股神”巴菲特和亚马逊创始人杰夫·贝索斯等也是常出现在这类诈骗视频中的名人。
相似的诈骗也在国内发生
“妈，8000元不够，给我转1.5万元吧。”一位母亲正和女儿视频聊天，听着在外地上学的女儿在视频里撒娇抱怨“生活费不够用了”，她心疼不已，打算立刻给孩子转账。就在这时，家门打开了，她的“真女儿”走了进来。而另一头，视频里的“假女儿”还在央求妈妈给生活费。
这是一则AI反诈视频。在这条反诈视频评论区中，不少网友反映自己也有过类似的被骗经历，“骗子来电，声音容貌和我家人一模一样”。
据悉，AI换脸拟声技术已成为简单易操作的“低门槛”技术，只需拥有声音与照片等“素材”，借助软件即可瞬间实现“AI克隆”。一些不法分子试图利用AI换脸拟声技术实施违法犯罪活动。
案例一
遭遇AI换脸诈骗 广州七旬阿伯险丢100万元
2023年6月初，来自广州的龚伯收到在外地经商的“儿子”电话，表示做生意失败需要龚伯转100万元给他资金周转，但自己的银行卡和手机刚丢失，故使用朋友微信加龚伯为好友，之后“儿子”发来微信视频要求转账到朋友账户。
龚伯打了儿子手机无人接听，心想确实是儿子的声音，看到的微信视频也是儿子本人，就放松了警惕，苦于年纪大不懂手机转账，便跟工行客户经理咨询怎么办理。
客户经理小邹了解龚伯的情况后，立即提高警惕，邀约龚伯前来网点核实情况。龚伯到达网点后，向客户经理小邹展示“儿子”发来的微信视频，视频中的确是龚伯的儿子，也在视频中表达了自己生意失败需要龚伯转账100万元资金协助其周转的诉求。出于谨慎，客户经理小邹还是建议龚伯现场再次致电儿子手机确认，这一次儿子终于接听电话了，电话中儿子否认生意失败，更没有要求龚伯给自己转账。
此时，客户经理确认龚伯是被骗了，告知龚伯这是新型AI换脸诈骗手法，成功劝阻他转账。
案例二
谎称朋友借用账户 被骗430万元
2023年4月，福州市某科技公司法人代表郭先生10分钟内被骗430万元。
案发时，他的好友通过微信视频联系他，称自己的朋友在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天“核实”了身份，郭先生在10分钟内，先后分两笔把430万元转到了对方的银行账户上。事后，郭先生拨打好友电话才得知被骗。
AI换脸
到底怎么以假乱真的？
看看以下测试视频
连动作、神态
都那么自然……
卖家展示的换脸软件效果
（S为原视频，D为更换之后）
不止老人家认不出来
难以防范
很多年轻人也频频中招
且“无痕换脸”成本低
不设门槛
记者在某社交平台检索“AI换脸”时，发现页面弹出了“无痕换脸，只需5元到20元”的广告。在评论区中，有不少买家询问能否提供视频换脸拟声服务，也有不少卖家混杂其中寻找“客户”。记者在评论区留言咨询后，很快便收到几名卖家的回复或私信。
“需要自定义AI换脸软件吗？”一名卖家通过私信联系记者，推销其软件。记者进一步询问卖家该软件是否能够实时视频换脸拟声，卖家称“任何社交平台都能够支持实时”。
随即，该卖家向记者展示了其在社交平台上发布的换脸演示。在换脸演示中，一名男子以“英俊的脸庞”出现在视频页面中，而这张“英俊的脸”则是换脸后的“假面”。该卖家配以文字“网恋神器，直接变小哥哥，换个面貌可以去找小姐姐网恋了”。
在交流时，卖家不断向记者强调其所售卖的技术操作难度不大，且在视频时“看不出破绽”。价格方面，其介绍299元可以装好软件，操作一遍演示；如果支付599元，则可以一对一教学，“教会为止，软件可以永久不限次数地使用”。
在调查过程中，记者注意到，类似提供“自定义AI换脸拟声软件”的卖家还有不少，他们大多在社交平台上寻找买家。对于买家购买技术的目的，有些卖家毫不在意，甚至会将“去衣”等擦边功能作为一大卖点进行推销。
除此之外，记者还发现，在某二手交易平台上，也有卖家出售相关技术。比如有卖家在产品描述中这样写道：“有手就可以，拍下就发完整视频资料和制作方法，可批量搞，虚拟资源能够变现。”
律师提醒
擅自使用他人肖像制作换脸视频可能侵犯他人肖像权、隐私权。根据民法典第一千零一十九条，未经本人同意，不得以营利为目的使用他人肖像。“换脸视频即便不以营利为目的，也可能因未获授权而侵犯肖像权。同时，未经许可传播涉及含有个人隐私的视频会侵犯个人隐私权。”
律师表示，若换脸拟声视频内容不当或引发公众误解，可能会构成名誉权侵权。如果视频中包含他人享有著作权的内容（如影视片段），则可能构成著作权侵权。同时，未经授权制作和传播换脸视频还可能违反网络安全法、数据安全法等相关法律规定，面临行政处罚或刑事责任。
AI换脸诈骗防不胜防
对此
下面为大家送上一份“防骗秘笈”
01
多重验证，确认身份
在涉及金钱、财产等重要事项时，可要求对方提供更多证据，进行更多交流，尤其涉及“朋友”“领导”等熟人要求转账、汇款的，务必通过电话、见面等途径核实确认，不要未经核实随意转账汇款。
02
保护个人信息，谨慎分享
AI诈骗是隐私信息泄露与诈骗陷阱的结合，因此，要加强对个人隐私的保护，不轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等。不管是在互联网还是社交软件上，尽量避免过多地泄露自己的信息，以免被骗子“精准围猎”。
03
提高安全意识，确保各类账号安全
避免在不可信的网络平台上下载未知来源的应用程序，不打开来路不明的邮件附件，不点陌生链接，不随便添加陌生好友，防止手机、电脑中病毒，以及微信、QQ等被盗号。
大家一定要提高警惕
增强防范意识
捂好自己的钱袋子！
信息来源：每日经济新闻、法治日报、广州政法、光明网、广州日报
统筹整合：罗湖发布
如需转载，请注明以上内容
文章来源于互联网/AI生成
相关文章
