实验室小鼠如何帮助检测Deepfake

2020-11-06 09:50:01
导读 拉斯维加斯-当我亲眼所见时,我会相信! 曾经是一个常见的短语,由于Deepfake视频,该声明不再有效,该视频可以操纵镜头来改变人们的容貌和

拉斯维加斯-“当我亲眼所见时,我会相信!” 曾经是一个常见的短语,由于Deepfake视频,该声明不再有效,该视频可以操纵镜头来改变人们的容貌和说话的口感。

黑帽虫艺术创建令人信服的Deepfake,需要花费大量的时间和计算能力,而训练计算机来区分人类和Deepfake则同样如此。在这里举行的Black Hat会议上,一个跨学科的研究人员小组提出了一些有关如何解决该问题的新颖思路,尤其着眼于生成听起来像人类的语音音频的问题。

俄勒冈大学数据科学主任乔治·威廉姆斯(George Williams)提醒参加者1938年奥森·威尔斯(Orson Welles)的“世界大战”广播,这是一个虚构的故事,讲述了火星入侵的故事,许多人认为这是真实的。威廉姆斯说:“恐慌的报道可能被夸大了,但与虚假信息和虚假新闻时代的今天的事件进行比较仍然有用。”

他继续说:“最大的区别在于,您可以制作高质量,真实的内容来散布虚假信息。工具随时可用,有些是开源的。政客和技术领袖的游行向我们警告着某些灾难—很好。有时会冒充首席执行官说一些他们没有说的话,这可能会引发某种灾难。它可能破坏金融市场的稳定,或引发全球范围内的内战或军事冲突,这是一场真正的世界大战。”

威廉姆斯引用了一项研究,该研究对人类和算法提出了挑战,以区分真实谈话与生成的谈话。人类大约有88%的时间正确无误,而算法的正确率只有92%。他说:“这听起来不错,但请考虑每天创建的数百万个内容项。即使错误率很小,也意味着某些假冒品得以通过,而某些真正的内容被标记为假货。”

免责声明:本文由用户上传,如有侵权请联系删除!

猜你喜欢

最新文章