科技

鉴别换脸视频:脸书微软和牛津伯克利AI学者联手启动研究

脸书和微软,联合来自牛津、伯克利等大学的人工智能研究者一道,研究如何检测deepfakes换脸视频。9月5日,脸书发布了一篇博客文章,介绍了公司在这方面的努力。

美国科技巨头们打算对AI(人工智能)换脸视频下手了。

9月5日,美国社交巨头Facebook(脸书)CTO(首席技术官)Mike Schroepfer发布的一篇博客文章宣布,Facebook正和微软联合来自牛津、伯克利等大学的人工智能研究者,研究如何检测“deepfakes”换脸视频。

行业联盟Partnership on AI(人工智能合作伙伴)、康奈尔科技校区(Cornell Tech)、麻省理工学院(MIT)等机构也一道参与了这项工作。Partnership on AI的成员中包括谷歌、苹果、亚马逊、IBM等大型科技公司。

据英国金融时报9月5日报道,Deepfake换脸视频的扩散会威胁正常的政党竞选。专家担忧,这项技术可能会在2020年美国总统大选之前创造出更多换脸政客的假新闻。此次的联合行动,是Facebook试图解决这一令人担忧的问题所做的努力。

为此,Facebook贡献出了1000万美元,以完成“检测deepfake挑战”,希望能够激发新工具的创造,能够用低成本的技术检测出人工合成的假视频。

作为该项目的一部分,Facebook正在委托研究人员制造一系列逼真的deepfakes换脸视频,以创建用于测试检测工具的数据集。公司表示,视频将采用付费演员出演,不会使用任何用户数据。这些视频将在2019年12月份公开发布。

据路透社9月5日报道,虽然在美国,目前还没有质量极高的换脸视频引发重大政治后果,但最近有关美国众议院议长Nancy Pelosi的劣质编辑视频片段已经证明,这种合成视频可能会引发动荡。上述视频中,Pelosi的演讲被人为降速,让她看上去含混不清。

上述报道介绍,一些研究人员正研究在捕获点通过数字水印验证视频或图像真实性的系统,但是,deepfake技术的迅速发展,让合成视频制作者和检测人员之间展开了一场军备竞赛。

“这是一场猫鼠游戏,如果我设计一个deepfakes检测器,我就直接给了这些黑客一个新的模拟器进行反测试。”纽约大学Tendon学院计算机工程助理教授Siddharth Garg表示。

路透社的报道也提到了正在中国引发争议的换脸应用ZAO,称这一应用迅速登上了中国App store免费下载榜的首位,让不懂技术的创造者更易换脸,现在ZAO由于隐私担忧面临了强烈反对。

而且,当下的互联网上,通过让这类合成视频更易制作,一些deepfake创造者发现了新的市场机遇。从波兰到日本,人工智能深度学习爱好者在Youtube上发布手把手教程,并把人工智能合成的美国总统特朗普声音以每50个单词30美元的价格叫价销售。他们还运营自助服务的网站,让用户能够制作出deepfakes视频。

Facebook目前还没有出台关于deepfake视频的具体政策。2019年6月,一则Facebook创始人马克·扎克伯格的换脸视频引发争议,不过Facebook的做法不是撤下该视频,而是以对待假新闻一样的方法处理这个内容,并最终对其进行了限流。

2019年6月,美国众议院对deepfakes展开听证会。2019年7月,众议院情报委员会主席Adam Schiff要求Facebook、Twitter、YouTube母公司谷歌等科技公司提供对抗deepfakes视频的方法。

9月5日当天,Schiff发布声明表示,Facebook此次发起的行动是“有意义的一步”。

澎湃新闻
订阅新闻电邮