近来的深伪 (deepfake) 诈骗

Source:

1. https://www.malaymail.com/news/malaysia/2024/07/15/fahmi-warns-of-ai-deepfake-scams-after-siti-nurhalizas-warning-tells-public-to-stay-vigilant-video/143758

2. https://dailyhodl.com/2024/07/14/artificial-intelligence-ai-deepfake-video-scams-steal-273350-from-three-men-report/

3. https://www.cnbc.com/2024/05/28/deepfake-scams-have-looted-millions-experts-warn-it-could-get-worse.html#:~:text=From%20fake%20pornographic%20images%20to,fool%20them%20out%20of%20money.

4. https://www.creativebloq.com/features/deepfake-examples

2024年7月15日，马来西亚通讯部长法米·法兹尔呼吁公众警惕涉及利用人工智能（AI）技术制作假视频和图像或深伪的诈骗手段。他在通讯部的月度集会上表示，尽管AI的使用确实有助于国家的发展，但有些人正在滥用这项技术。

“拿督斯里茜蒂·努哈丽莎几天前在Instagram上的一个帖子中展示了一个WhatsApp视频通话，看起来像是她在讲话，其实是一个实时的深伪。

“AI可以用于善也可以用于恶。我们需要对收到的信息保持谨慎，确保任何收到的视频是真实的还是通过AI应用程序生成的，”他说。

因此，法米还呼吁马来西亚国家新闻社（Bernama）和马来西亚广播电视台（RTM）宣传并教育公众了解使用AI深伪技术进行诈骗的危险。

据报道，昨日（2024年7月14日)，马来西亚的头号歌手揭露了诈骗者利用AI技术模仿她的声音和面貌以牟利的最新手法。

与此同时，AI深伪诈骗也在全球范围内蔓延，导致公司和个人蒙受巨额损失。据报道，三名加拿大男子在观看了声称有知名人士支持的加密货币投资计划视频后损失了数十万美元。

根据CTV News Toronto的报道，Mohammad Haque在社交媒体上看到了一段视频，视频中展示了总理贾斯廷·特鲁多解释加拿大人如何通过投资加密货币获利。Haque决定从1,200加元（880美元）开始投资，但当他认为自己通过投资积累了424,775美元时，他发现自己的账户实际上是空的。他观看的视频原来是通过人工智能（AI）操控的深伪视频。Haque在这场骗局中损失了226,000加元（165,610美元）。

Darrell Budnick也被类似的深伪视频诈骗，损失了130,000加元（95,262美元）。他以为自己在投资中获得了利润，但后来发现无法提取资金。“现在我很慌张。我有心脏病，情况越来越糟。很痛苦，也很可怕。我以为自己是安全的，但现在我却不再安全。”

Giovanni Pugliano在观看了YouTube上的一段视频后也上当受骗，该视频中展示了埃隆·马斯克说人们只需几百美元就可以开始投资加密货币并致富。该视频是一个骗局，Pugliano损失了17,000加元（12,457美元）。“我最终投入了比预期更多的钱，突然间，我破产了。”

据加拿大反欺诈中心称，2024年上半年，全国投资者因欺诈性投资骗局损失了1.48亿加元（108.45百万美元）。其中大多数骗局涉及加密货币。

此外，深伪技术也被用来欺骗公司员工，导致公司蒙受巨大财务损失。今年早些时候，一位香港金融工作人员被深伪技术欺骗，向骗子转账了2500万美元。骗子通过视频通话伪装成他的首席财务官并下达了转账指令。这一案件是网络安全专家警告的随着生成式AI技术发展而增长的趋势的一部分。专家表示，由于网络安全领域难以跟上迅速发展的技术，问题预计会恶化，但公司现在可以采取更好的措施来应对。

在今年已知的最大案件之一中，一名香港金融工作人员被深伪技术欺骗，向骗子转账了超过2500万美元，骗子在视频通话中伪装成同事，官方在二月份告诉当地媒体。上周，英国工程公司Arup向CNBC确认它是该案件涉及的公司，但由于调查仍在进行中，无法详细说明此事。

此类威胁随着Open AI的Chat GPT——于2022年推出——的普及而增长，该技术迅速将生成式AI推向主流，Netskope亚太区首席信息官兼首席安全官David Fairman表示。Fairman说：“这些服务的公众可访问性降低了网络犯罪分子的入门门槛——他们不再需要具备特殊的技术技能。”他补充说，随着AI技术的不断发展，诈骗的数量和复杂性也在增加。

Arup的一位发言人告诉CNBC：“像全球许多其他企业一样，我们的运营受到定期攻击，包括发票欺诈、网络钓鱼骗局、WhatsApp语音欺骗和深伪。”据报道，该金融工作人员参加了与被认为是公司首席财务官和其他工作人员的视频通话，后者要求他进行资金转账。然而，实际上会议中其余的与会者都是数字重建的深伪。Arup确认在此次事件中使用了“假声音和图像”，并补充说“这些攻击的数量和复杂性在最近几个月内急剧上升。”

中国官方媒体报道，今年山西省也发生了一起类似案件，一名女性财务员工在与伪装成其老板的深伪视频通话后，被骗向骗子账户转账了186万元人民币（26.2万美元）。

据报道，2019年，一家英国能源供应商的首席执行官据报道向一名骗子转账了22万欧元（23.8万美元），骗子在电话中模仿了其母公司负责人并要求向一个所谓的供应商转账。

去年八月，谷歌旗下的网络安全公司Mandiant的研究人员记录了多起不法分子使用AI和深伪技术进行网络钓鱼骗局、虚假信息传播和其他非法活动的案例。当时，该公司表示，尽管技术在此类活动中的使用有限，但新生成式AI工具的日益普及将加速其被恶意行为者的应用。

Great Hill Partners的网络安全专家兼驻公司高管Jason Hogg表示，高层管理人员的深伪可以用来传播假新闻以操纵股价、诋毁公司品牌和销售，传播其他有害虚假信息。Hogg曾担任FBI特工，他说：“这只是表面上的问题。”他指出，生成式AI可以基于社交媒体和其他媒体平台上公开可用的内容创建深伪。2022年，币安首席通信官Patrick Hillmann在博客文章中称，骗子根据他之前的新闻采访和电视露面制作了他的深伪，并用其骗取客户和联系人参加会议。

Netskope的Fairman表示，这种风险已经导致一些高管开始删除或限制他们的在线存在，因为担心这会被网络犯罪分子利用。

深伪技术在企业界外已经变得非常普遍。从假色情图片到推广炊具的伪造视频，泰勒·斯威夫特等名人也成为深伪技术的受害者。政治家的深伪也屡见不鲜。

与此同时，一些骗子利用个人家人和朋友的深伪尝试骗取他们的钱财。Hogg表示，由于网络犯罪预防需要深思熟虑的分析以开发系统、实践和控制来防御新技术，广泛的问题将在一段时间内加速并变得更糟。然而，网络安全专家告诉CNBC，公司可以通过改善员工教育、进行网络安全测试和为所有交易要求代码词和多层批准来加强对AI威胁的防御——这是可以防止Arup案件的方法。

附上一些deepfake video







打架的两个老头