服務創新電子報

从生成式人工智慧 看Deepfak变造影片泛滥问题

人工智慧(Artificial Intelligence, AI)的技术、资源与基础建设日益成熟,许多组织都看好人工智慧能够带来庞大的商业价值。麦肯锡(McKinsey & Company)的一份研究也指出,人工智慧技术预估每年能创造3.5兆至5.8兆美元的价值,可见这项科技的影响力非同小可。尽管AI有着如此庞大的商业潜能,也可能带给社会负面的影响。

高德纳咨询公司(Gartner)在今年9月时发布了2021年人工智慧技术成熟曲线图(Hype Cycle for Artificial Intelligence, 2021),其中,正在萌芽的技术之一:生成式人工智慧(Generative AI)即是这次要讨论的主角。

▲人工智慧技术成熟曲线图。(图片来源:The 4 Trends That Prevail on the Gartner Hype Cycle for AI, 2021)

什么是生成式人工智慧

生成式AI是一种利用现有文字、影音文件或图像来创建新内容的技术,它能利用AI与机器学习的演算法,使机器能够根据训练数据生成令人难以分辨真假的内容,其背后的主要技术之一为生成对抗网路(Generative Adversarial Network, GAN)。GAN是机器学习中,非监督是学习的一种方法,透过两种类神经网路(即生成网路与判别网路)相互对抗来产生更好的结果,两者不断抗衡并调整参数,最后使判别网路无法判断生成网路的输出结果是否真实。这样的技术大多被运用在图像、影音的生成及修复。

▲AI合成的女士。(图片来源:ThisPersonDoesNotExist.com)

▲利用GAN进行的影响合成,(图片来源:StackGAN: Text to Photo-realistic Image Synthesiswith Stacked Generative Adversarial Networks)

生成式AI能在图像与影音相关领域大展身手,例如虚拟模特儿的创建,使人们无须聘用模特儿、摄影师、化妆师,省下一笔开销,在游戏方面,借由图像训练,能够以4K或更高的解析度重建低解析度的画面,重制旧影像游戏。然而,如此强大的技术除了解决人们的问题,也引起了社会的隐忧与挑战。

Deepfake滥用引起社会关注

Deepfake一词来自机器学习中的深度学习,是人工智慧的一种形式,基于生成对抗网路(GAN)、自动编码器(Autoencoder)等技术,交换影片中的人脸来制作逼真的假媒体。它因为在假新闻、恶作剧、金融诈欺、色情影片中被使用而受到广泛关注。

2018年末,网路上流传着欧巴马的假影片,影片中的欧巴马说到:「川普总统是个不折不扣的笨蛋。」其实,这是演员Jordan Peele利用AI换脸技术所制成的影片。公司Buzzfeed基于教育目的而制作这个影片,用意是要提醒阅听人提防滥用合成媒体带来的潜在威胁,进而达到警世的效果。

▲ You Won’t Believe What Obama Says In This Video!,(图片来源:Youtube)

今年十月,网红小玉利用此技术,将众多女性公众人物的脸移植到色情影片的女优上,这样伤害许多无辜女性的恶意行为,让他非法获利超过一千万新台币。受害者们纷纷提告,更有立委因此推动「AI换脸」法案,希望能将这样的数位性暴力犯绳之以法。

除了人脸能被Deepfake,声音版的Deepfake也被用于金融诈骗。去年6月,美国的一间科技公司员工收到一封语音邮件,语音传来自家老板的声音,要求向指定帐户完成汇款。庆幸的是,该员工将此事报告给公司法务,最后证实为诈骗事件。

Deepfake应用带来的影响,小则诙谐幽默,使人会心一笑,大则引起个人隐私与安全问题,使人受到名誉、心理等伤害。随着技术不断进步,Deepfake只会随着时间推移而变得更加真实,为了与之作战,我们该如何提升防御力?

用技术对抗Deepfake

目前许多公司正在开发辨别Deepfake的方法,其中有一些是新创公司。例如,Sensity开发了一种检测平台,该平台类似于检测Deepfake的防毒软体,当使用者在观看生成式AI合成的媒体内容时,它会透过E-mail来提醒使用者。Operation Minerva则采取更直接的方式来侦测Deepfake,该公司开发的演算法会对潜在的Deepfake与已经留下数位指纹的影片进行比较,分辨出被Deepfake过的影片。除此之外,FB在去年举办了Deepfake侦测挑战赛,公开鼓励人们开发新技术来检测Deepfake和其他被操纵、改弄的媒体,防止人工智慧被有心人士利用,做出损人利己的事。

过去已有不少数据向我们展示人工智慧未来庞大的价值,能为人类的生活带来无限可能,却也可能带来诸多危害安全、隐私、名誉等等的危害。在享受科技带来的便利之余,我们仍须多多思考其风险以及可能的危机。(文/黄郁芳)

 

资料来源

  1. Notes from the AI frontier: Applications and value of deep learning
  2. The 4 Trends That Prevail on the Gartner Hype Cycle for AI, 2021
  3. A Complete Guide to Generative AI
  4. StackGAN: Text to Photo-realistic Image Synthesiswith Stacked Generative Adversarial Networks
  5. What is a deepfake? Everything you need to know about the AI-powered fake media
  6. Deepfake大解密!「换脸」技术更简单,到底怎么办到的?
  7. 【政治小编心内话】小玉 Deepfake 风暴:他所引起的「数位性暴力」启示录
Share
标签: , , ,

留下您的評論

這個網站採用 Akismet 服務減少垃圾留言。進一步瞭解 Akismet 如何處理網站訪客的留言資料

Share