技术前沿

“眼见为实”的挑战者:深度伪造技术

2020-04-09 蓝西资讯

       在过去的一年中,可用于生成逼真、虚假或人为操控的音、视频机器学习模型深度伪造技术(deepfake)逐渐进入人们的视野,成为新兴的网络安全威胁。今天,我们就来一探究竟,看看深度伪造技术存在哪些安全风险与威胁,应如何进行防范?

       什么是深度伪造技术?

       深度伪造是深度学习(deep learning)与伪造(fake)二者的组合词,一开始专指基于人工智能尤其是深度学习的人像合成技术。随着技术的进步,深度伪造技术已经发展为包括视频伪造、声音伪造、文本伪造和微表情合成等在内的多模态视频欺骗技术。 

       深度伪造技术的特点

       1. 产品逼真而多元,识别难度大

       深度伪造技术的产品涵盖假视频、音频、文本、微表情等,其一大特性就是,提供训练的样本数据越多,对目标对象的模拟就会越准确,伪造出来的假视频和音频等产品就会显得越逼真,识别难度越大。目前,流传在网上的假视频主要涉及明星等公众人物,因为他们的照片和视频在网上可以轻易获取,用作伪造视频的素材。 

       2. 与社交媒体结合,传播速度快

       基于深度伪造技术制作的假视频、音频等产品迎合了大众的猎奇心理,很容易借助facebook、微信、微博等社交媒体的效力,在全世界快速传播。互联网将世界连为一体,各类信息能够在转瞬之间传遍全球,自然也包括了利用深度伪造技术制作的假消息。

       安全风险及威胁

       1. 给国家安全带来挑战

       深度伪造技术存在着一些正面使用的前景,例如为商业发展、艺术创作、医疗行业等领域提供了新的发展空间。但鉴于其以假乱真的技术本质以及目前的发展趋势,这项技术对于国家安全可能带来更多挑战,如果被不法分子出于政治或恶意牟利动机使用,将给政治安全带来诸多风险和威胁。

       2. 破坏企业形象和金融市场稳定

       如果深度伪造技术被利用,进而篡改企业高层的说话内容、散播虚假消息,或通过合成假视频直接抹黑企业负责人,无疑会破坏企业在公众心中的形象。与此同时,深度伪造还可能为引发金融市场动荡提供了新的不稳定源。 

       3. 造成社会信任危机

       从本质上来看,深度伪造技术恶意使用所带来的最根本影响在于,它会进一步模糊真相与假象之间的界限,使大家对相关事物产生怀疑的态度,从而造成一定社会范围内的信任危机。 

       4. 给现有法律体系带来新挑战

       法律讲究证据,录像和录音材料常常作为重要的举证支撑,法官要根据原告和被告的证词以及相应的举证材料对案件进行评判。深度伪造技术能够自动生成高可信度的假视频和假音频,如果被别有用心的人利用,将给现有法律体系尤其是取证领域带来很大挑战。 

       5. 威胁个人隐私及财产安全

       随着照片等相关数据在社交媒体上变得越来越多,任何人都可能成为潜在目标。上传到社交媒体的照片可能会被不法分子利用深度伪造技术制作成虚假视频,用于提供虚假证据,进行诈骗、勒索等违法行为,威胁公民的个人隐私及财产安全。 

       如何来防范安全风险?

       1. 加快预警检测技术研发

       各国需要意识到深度伪造给国家安全带来的风险的严重性和紧迫性,增加对预警检测技术研发资金的投入,鼓励技术平台技术创新,加大开发预警检测技术工具力度,构建合作与共享机制。

       2. 推进对深度伪造的立法与监管

       明确深度伪造产品生产主体的法律责任,从源头上防止假消息的出现;强化传播媒介尤其是社交媒体的法律和社会责任,从传播过程中阻止深度伪造产品的扩散;建立必要的危机应对机制,在发现假消息肆意传播时要快速响应,避免其恶劣影响的扩大化。 

       3. 个人应提升警惕和甄别意识

       (1)提升警惕意识,避免在遇到深度伪造产品时上当受骗;

       (2)学会甄别利用了深度伪造技术的APP,不在此类APP上上传个人照片等相关信息,如近期流行的”换脸“APP等;

       (3)切勿在社交媒体上制作和传播虚假音视频。