发布日期：2024-10-14 19:41 点击次数：118
香港一家跨国公司职工，被骗子邀请进了用 Deepfake 作念的「高管视频会议」中，下令让他转了 2 亿港币到不知名中账户幼女秀场，5 天之后才发现被骗了。
这几天，陈旧的 AI 应用 ——「AI 换脸」屡次破圈，屡屡登上热搜。先是网上充斥的多数泰勒斯威夫特的「AI 艳照」，逼得 X（原推特）只可径直屏蔽了统共关系「Taylor Swift」的搜索。而今天香港警主见社会公布了沿途更离谱的诈骗案件：
一家英国跨国企业的香港分公司，被骗子用伪造的「AI 换脸」和 AI 音频合成的视频内容，冒充总公司的 CFO，径直骗走了 2 亿港币！
据称，这位香港分公司的职工收到了一封英国总部 CFO 的邮件，称总部正在缠绵一个「秘要交游」，需要将公司资金转到几个香港腹地的账户中待用。
而这个职工一初始并莫得肯定这封邮件的内容，认为是垂纶诈骗邮件。然则骗子不断给他发邮件研讨这个秘要交游的必要性，最终，给他拨打一个视频电话。
在电话中，这位职工看到了公司的 CFO 和其他他遒劲的「几位共事」，各人都在沿途开会。骗子还在视频会议中条件这位职工进行自我先容。
然后视频会议中的「英国引导」条件他马上进行转账，之后就短暂中断了视频。而信以为果真职工就分 15 次向 5 个香港腹地的账户连续汇款了 2 亿港币的资金。
而在统共这个词事件捏续 5 天之后，他才回过味来，向英国公司求证，最终发现被骗了。
香港警方在通报中称，以往的「AI 换脸」诈骗，一般都是一双一的。此次骗子用视频电话会议的形状，伪造了一个「高管团队」，让真实度大幅飞腾。
骗子使用 Deepfake 本事，通过公司的 Youtube 上视频和其他公开的媒体素材，就生效伪造了英国公司高管的形象和声息。
参与视频会议的都是真东谈主，然后通过「AI」换脸，把骗子的脸和声息都换成了对应的高管的脸和嗓音，下达了转账的指示。
卡通次元径直骗走公司 2 亿港币" data-original="https://img.ithome.com/newsuploadfiles/2024/2/cd701c96-80d4-4417-bd3c-8390f8d0c498.jpg?x-bce-process=image/format，f_auto" width="224" height="224">
而除了上圈套的这别称职工除外，骗子还估计了另外几位香港分公司的职工。警方暗示，统共这个词案件还在进一步拜访之中，还莫得逮捕任何嫌疑东谈主，然则但愿向公众发布音讯，督察骗子通过访佛的手法再次笔直。
警方提供了几个神态不错匡助识别是否是「AI 换脸」诈骗步履。
起先，若是对方在视频中提到钱，就一定要晋升警惕。不错条件对方快速的挪动头部和面部，看重细察画面会不会出现奇怪的变形。然后提一些只好两边知谈的问题来考证对方的真确身份。而银行，关于此类的诈骗也在部署预警系统，发现用户在与可疑的账户进行交游之后也会发出教唆。
外洋网友看了这个事，纷纷赞好意思 Deepfake 本事的高大：那我能 deepfake 我我方去开会，让我我方能多睡一会吗？
也有网友以为，可能统共这个词故事都是这个「被骗职工」编的，可能他我方也参与了这个骗局。
Deepfake 实质上是一种极度的深度学习本事。起先源于一个名为「deepfakes」的 Reddit 用户。该用户于 2017 年 12 月在 Reddit 外交网站上发布了将斯嘉丽・约翰逊等女演员的换脸视频，使得「Deepfake」成为了 AI「AI 换脸」的代名词。
Deepfake 当今并莫得公认的长入界说。好意思国在其发布的《2018 年坏心伪造禁令法案》中将「deep fake」界说为「以某种神态使合理的细察者裂缝地将其视为个东谈主真真话语或步履的真确纪录的神态创建或鼎新的视听纪录」， 其中「视听纪录」指图像、视频和语音等数字内容。
其中枢旨趣是垄断生成起义蚁集能够卷积神经蚁集等算法将谋划对象的面部「嫁接」到被效法对象上。因为视频是一语气的图片构成，因此只需要把每一张图片中的脸替换，就能得到变脸的新视频。
起先将效法对象的视频逐帧飘浮成多数图片，然后将谋划效法对象面部替换成谋划对象面部。
终末，将替换完成的图片重新合成为假视频，而深度学习本事不错使这一进程终了自动化。
跟着深度学习本事的发展，自动编码器、生成起义蚁集等本事逐渐被应用到深度伪造中。
Deepfakes 依赖于一种称为自动编码器的神经蚁集。它们由编码器息争码器构成，编码器将图像减少到较低维的潜空间，解码器从潜表征中重建图像。
Deepfakes 通过使用通用编码器将东谈主编码到潜在空间中来垄断这种架构。潜表征包含关系其面部特征和形体姿势的要害特征。
然后不错使用有意针对谋划检修的模子对其进行解码。这意味着谋划的详实信息将叠加在原始视频的底层面部和形体特征上，并在潜空间中表征。
另一种制作深度伪造品的递次是使用所谓的「生成起义蚁集」（Gan）。Gan 让两种东谈主工智能算法互相竞争。
第一个算法称为生成器，输入随即噪声并将其诊治为图像。
然后，该合成图像被添加到真确图像流（举例名东谈主图像）中，这些图像被输入到第二个算法（称为鉴识器）中。
起始，合成图像看起来少量也不像东谈主脸。但重叠这个进程无数次，并提供性能响应，判别器和生成器都会得到矫正。
若是有实足的周期和响应，生成器将初始生成王人备不存在的名东谈主的王人备传神的容颜。
而之前霉霉的 AI 瞻念照在 X 平台上被疯传，以致惊动了白宫的发言东谈主。
在 1 月 26 日白宫记者会上，发言东谈主 Karine Jean-Pierre 被问及此事时暗示该事件令东谈主担忧（alarming）。
「固然外交媒体公司在内容管制方面有我方的落寞决议，但咱们认为，他们在严格贯彻其监管轨制以督察裂缝信息和未经本东谈主允许的巧妙图像传播方面，应起到蹙迫作用。」
怎样识别检测伪造的视频而关于泛滥的 Deepfake 内容，也有越来越多的研讨在存眷怎样识别和检测的本事。
2022 年由加州大学河边分校的经营机科学家团队配置了一种新递次来检测深度伪造视频中被主管的面部色彩。该递次不错以高达 99% 的准确率检测这些伪造的视频。
这个递次将检测作秀视频任务分红深度神经汇聚积的两个部分。第一个分支别离面部色彩，同期提供关系包含该色彩的区域的信息。这些区域不错包括嘴、眼睛、前额等。
然后这些信息被输入到第二个分支，该分支是一个编码器-解码器架构，精采操作检测和定位。研讨团队将这个框架定名为「抒发主管检测」（EMD），它不错检测并定位图像中已鼎新的特定区域。
作家称 Ghazal Mazaheri：「多任务学习不错垄断面部色彩识别系统学到的凸起特征来成心于传统主管检测系统的检修。这种递次在面部色彩主管检测方面获得了令东谈主印象真切的性能，」
研讨东谈主员在两个具有挑战性的面部主管数据集上进行了本质，他们阐述 EMD 在面部色彩主管和身份交换方面阐述更好，准确地检测出了 99% 的被改变视频。
改日，在本事和战术层面上都作念出勇猛，才有可能将 Deepfake 本事的负面影响截至在合理限度内。
参考尊府：
https://t.ly/igz1v
告白声明：文内含有的对外跳转邻接（包括不限于超邻接、二维码、口令等形状），用于传递更多信息幼女秀场，省俭甄选时期，效果仅供参考，IT之家统共著述均包含本声明。