走进争议核心，听见不同声音。《双声道》视频系列探讨热议话题的两面观点，带来面对面的观点碰撞，实地走访让观众更贴近社会的不同温层。本期探讨在生成式AI技术飞速发展的时代，我们是否防得了深伪诈骗？
李显龙总理宣传加密货币？黄循财副总理推销商业投资项目？看到这些深度伪造的诈骗视频，你上当了吗？
据科技公司Sumsub发布的2023年身份盗用报告，全球的深度伪造（简称“深伪”，deepfake）视频数量相较2022年增加了10倍之多，其中亚太地区增长1530%，新加坡增长了500%。
在个人信息唾手可得的时代，生成式AI技术的普及让深伪诈骗愈发猖獗。
不法分子利用深伪技术，给公众人物“换脸”或“换声”，制作并散播假消息。上至政治人物如奥巴马、特朗普、普京，下到平民百姓，都可能成为深伪视频的目标。
本期《双声道》通过主持人亲身体验，了解深伪视频的制作过程和识破这些视频的技巧，探讨深伪诈骗究竟防不防得住？
深伪偷身份易如反掌
要制作深伪诈骗视频难吗？需要哪些器材和素材？要花多长时间？
带着这些疑问，主持人靳忻找到了新加坡国立大学互联网与社区共信研究中心研究助理孙逸群。
孙逸群指出，只需要一张照片和一段音频，用最普通的电脑就能在短短几小时内制作一个深伪视频，效果几可乱真。
深伪视频利用的是声音转换和嘴型对齐的技术，一旦有了某个人的声音特征，甚至可以做到实时的声音转换。
孙逸群说，不法分子若利用深伪生成的音频给受害者亲友打电话，有人上当受骗的概率会比普通电信诈骗高上不少。
“即使深伪做出的成品可能有违和感，但对骗子来说，1000个人里面只要骗到一个，那就赚到了。”
火眼金睛就能识别真假？
普通人能否通过肉眼识别出深伪生成的视频？主持人刘永健拜访南洋理工大学计算机科学与工程学院的吴荣亮博士，向他请教辨别深伪视频的技巧。
吴荣亮说，深伪视频的破绽通常出现在下巴、嘴型和眼镜上，多加留意就能发现一些不自然的痕迹。
除了肉眼识别，一些技术开发商也加入了可见和内嵌的水印，帮助公众辨别经过深伪处理过的图片和视频，确保深伪技术不被滥用。
不过，吴荣亮博士也提到，目前添加水印并不是必须的，也没有统一的标准，更何况外嵌水印可以轻易用软件去除，因此，仅靠水印来辨别视频真假并非易事。
立法与科技互补互成
人工智能正处于早期飞速发展的阶段，因此针对深伪技术的立法尚未完善，才让不少骗子有机可乘，利用深伪技术进行诈骗的案例层出不穷。
新加坡国立大学互联网与社区共信研究中心的邓锦浩教授在受访时说：“立法和科技是互补互成的，没有立法可能就没有人要生成预防的科技，没有预防的科技立法就没有办法去审计。”
他也强调，治理人工智能需要各国携手合作，最理想的是能够推出一套全球通用的标准和法律，让社交媒体平台和供应商都能按标准执行。
更多精彩内容请观看本期《双声道》！我们下一期应该讨论哪些争议问题？欢迎在我们的面簿、Instagram和YouTube留言，参与讨论。
赞
