转载：本文来自微信公众号“将门创投”（ID:thejiangmen），作者：让创新获得认可，转载经授权发布。
Deepfake好容易呃过面部识别？
跟随成均馆大学嘅一篇论文，走进对面部识别嘅测试。研究人员选择微软和亚马逊嘅面部识别API作为基准，使用在五个不同数据集上训练嘅人工智能模型，结果发现微软和亚马逊嘅错误率都达到60%以上，第啲嘅错误更是多种多样。
噉就是说Deepfake基本能呃过现有面部识别服务。
Deepfake正喺度迅速增长。人工智能生成嘅视频，都就是换脸视频，如“雨后春笋”般冒出来。根据初创公司Deeptrace嘅数据，从2019年10月至2020年6月，网络上嘅Deepfake数量增长330%，峰值时超过5万个。
关于欧美的反响，大多数人认为这令人不安，不仅是因为呢啲冒牌可能会在选举期间左右舆论或涉及犯罪，仲要因为佢们已经被滥用，比如用作演员和明星嘅色情材料。
据悉一家欧美的主要能源生产商就曾被Deepfake敲诈过。今年3月，犯罪分子利用人工智能嘅软件模仿一位首席执行官嘅声音，索要一笔22万欧元(合24.3万美元)嘅欺诈性转账。
Deepfake检验百试不爽，面部识别软件有待提高
代码嘅开源让任何拥有技术和目标图片嘅人都可以轻松制作出令人信服嘅Deepfake，一项新嘅研究表明Deepfake技术已经达到可以欺呃商用面部识别软件嘅程度。
韩国成均馆大学在Arxiv.org上发表嘅一篇论文证明最常用嘅Deepfake方法就能呃到微软和亚马逊嘅API。
其中一个例子是微软嘅Azure认知服务（Microsoft’s Azure Cognitive Services）被高达78%嘅Deepfake内容欺呃嘎啦。
论文链接：
研究人员写道:“从实验中我哋发现，一是一啲Deepfake生成方法对识别系统嘅威胁比第啲方法更大，二是每个系统对Deepfake嘅反应不同。”
“我哋相信我哋嘅研究成果能帮助更好地设计基于网络嘅应用程序接口以及适当嘅防御机制，呢啲都源于打击恶意使用Deepfake技术嘅迫切需要。”
因为微软和亚马逊嘅面部识别提供识别明星嘅服务，研究人员选择这两家嘅API作为基准。测量方式是根据呢啲API返回嘅人脸相似性评分指标比较佢们嘅性能。
明星相比普通人嘅可用图像数量多，因此研究人员能够相对容易地从中生成Deepfake。谷歌通过其云视觉API提供名人识别功能，但研究人员表示谷歌拒绝佢们使用该功能嘅正式请求。
为咗认识商业面部识别API会在多大程度上被Deepfake欺呃，研究人员使用嘅人工智能模型分别在五个不同数据集上经过训练，其中三个数据集是公开嘅，另外两个是佢们自己创建嘅——包含好莱坞电影明星、歌手、运动员和政客嘅面孔。
研究人员总共从数据集中创建8119张Deepfake。然后佢们从Deepfake嘅视频中提取一帧人脸图片，让服务器尝试预测边个名人拍照片。
最后嘅结果发现所有嘅API都好容易被Deepfake技术瞒天过海。Azure Cognitive Services有78%嘅几率将Deepfake嘅人脸误认为咗目标名人，而亚马逊嘅Rekognition将伪造图片误认为目标名人嘅几率达到68.7%。
这仲未算让人大跌眼镜嘅，喺40%嘅情况下Rekognition还会将深度伪造嘅明星误认为另一个名人，并且在用作实验嘅3200个明星度，佢畀902个Deepfake嘅评分比真图更高。
同样地，喺Azure Cognitive Services嘅实验中研究人员成功模仿100位名人中嘅94位。
两位论文嘅合著者将佢们嘅攻击成功率归因于Deepfake往往会保留目标视频嘅原身份。因此，当微软和亚马逊服务犯错时佢们往往会畀出置信度评分，而亚马逊则表现出“相当高”嘅易受Deepfake欺呃嘅程度。
研究人员警告话，假设潜在嘅人脸识别API无办法区分Deepfake嘅冒名者和真正嘅用户，佢会导致好多隐私、安全和风险，以及大量嘅欺诈案件。
“语音和视频Deepfake技术可以结合起来制造出多模式嘅Deepfake，用于实施更强大更真实嘅网络钓鱼攻击……而且如果商业API未能过滤掉社交媒体上嘅Deepfake，就会导致虚假信息传播伤害无辜嘅个人。”
微软和亚马逊对此则拒绝置评。
Deepfake检测工具都大型打脸现场
研究结果表明，深究Deepfake仍然具有挑战性，尤其系随住媒体生成技术嘅不断改进。就喺本月，未经验证嘅TikTok账户上发布嘅汤姆·克鲁斯嘅Deepfake视频在该应用程序上获得1100万点击量，喺第啲平台上嘅点击量都达到数百万。
回顾阿汤哥Deepfake视频热，戳阿汤哥睇都惊叹嘅Tiktok爆款视频，Deepfake又爆红？？
而且据Vice话，阿汤哥嘅Deepfake视频还成功瞒过几个最好嘅公开Deepfake检测工具，让人惊讶。
来睇睇：
第一次尝试，Sensity AI打脸现场，检测失败…
别慌，测试者讲呢可能系因为头发被吹起来才没有发现这是换脸。
Emm？？乍一听好像好有道理嘅样。
再一想，这是乜嘢逻辑…
呢一次头发飞起来，但检测还是失败
嗯，最后一次尝试…
失败…能感受到检测工具嘅无奈，“这真嘅唔系阿汤哥吗？”
Deepfake检测同监管何去何从
两位论文嘅合著者将佢们嘅攻击成功率归因于Deepfake往往会保留目标视频嘅原身份。因此，当微软和亚马逊服务犯错时佢们往往会畀出置信度评分。
研究人员提出，假设潜在嘅人脸识别API无办法区分Deepfake嘅冒名者和真正嘅用户，但系能会导致好多隐私、安全和风险，以及大量嘅欺诈案件。
“语音和视频Deepfake技术可以结合起来制造出多模式嘅Deepfake，用于实施更强大更真实嘅网络钓鱼攻击……而且如果商业API未能过滤掉社交媒体上嘅Deepfake，就会导致虚假信息传播伤害无辜嘅个人。”
From: VentureBeat; 编译：Shelly
Illustrastion by Natasha Remarchuk from Icons8
– The End –
cantonese.live 足跡 粵字翻譯
2021-03-30 19:06:33
请登录之后再进行评论