美国会听证:人工智能和伪造视频带来的挑战

人气 1548

【大纪元2019年06月14日讯】(大纪元记者李辰美国华盛顿DC报导)想像一下——一家公司首次公开募股(IPO)的前夜,一段显示该公司的首席执行官(CEO)的伪造犯罪视频被广泛传播,该公司的股价可能受到重创,巨额资金可能流失。虽然假视频可能在几天内被揭穿,但是,对这家公司的伤害已经造成。

想像一下——2020年美国总统大选的前夜,在选情激烈、不相上下的情势下,有人广泛传播攻击一位候选人的伪造视频,选举的结果可能会从此改变……

以上是马里兰大学弗兰斯西·金·卡雷法学院法学教授席特伦(Danielle Citron),在参议院情报委员会听证会上的设想举例,以说明“深度伪造视频(Deepfakes)”给国家安全和社会安全带来的危害。

6月13日,美参议院举行听证会,主题为“人工智能、被操纵的媒体和深度伪造视频给国家安全带来的挑战”。参议院情报委员会在一份声明中说,“深度伪造”视频问题引发对国家安全和民主治国的担忧,民众和选民一旦受到这样视频的影响,“将不再相信自己的眼睛或者耳朵”。

众议院情报委员会主席:采取行动迫在眉睫

美国国会众议院情报委员会主席、民主党议员亚当·席夫(Adam Schiff)在听证会后接受媒体采访。(李辰/大纪元)

美国国会众议院情报委员会主席、民主党议员亚当·席夫(Adam Schiff)在听证会上说,被操控的合成假视频可能给2020年美国大选带来“噩梦”,“让立法者,新闻媒体和公众穷于辨别什么是真的,什么是假的。”

“一旦有人观看了虚假的视频,破坏力就已经造成了。即便事后被确认该视频是杜撰的,此人可能永远无法抹去假视频所带来的负面印象。”

他表示,采取行动已经迫在眉睫,“现在是社交媒体公司制定措施,保护用户免受错误信息伤害的时候了…… 不要等到病毒式的‘深度伪造视频’污染 2020年大选。到那时,已为时已晚。”

联合法律、社交媒体等多种力量应对严峻挑战

马里兰大学弗兰斯西·金·卡雷法学院法学教授席特伦(Danielle Citron)表示,视频的冲击力很大,“我们倾向于我们的眼睛和耳朵所正在告诉我们的……”

人工智能公司OpenAI的政策主任克拉克(Jack Clark)表示,“深度伪造视频”对新闻媒体也构成巨大对威胁,因为这令公众相信新闻报导的准确性产生怀疑。

他表示,被操控的合成媒体(synthetic media)的问题正在变得更糟糕,“云计算、机器学习和数据处理等技术的进步,使得创建‘假媒体’变得更加容易和廉价”,包括声音、图像和文字文件。

席特伦认为,没有绝对的办法来阻止伪造视频的传播,她表示,单一的法律手段无法解决问题,“我们需要联合法律、科技公司以及大量的社会复原力(societal resilience)来应对这些挑战。”

美国纽约州立大学布法罗分校布法罗大学教授多尔曼(David Doermann)表示,社交媒体公司可以发挥重要作用,这些公司可使用工具将可验证的音频和视频连接在一起,并做出关于将其从各自的网站中删除的决定,“与我们处理恶意软件或网络问题的方式相同”,“我们在保护我们的前门”。

参加听证会的沃茨(Clint Watts)是乔治华盛顿大学网络和国土安全中心的高级研究员,也是外交政策研究所研究员和前FBI专员。他也表示,应对这一挑战需要和社交媒体公司建立“伙伴关系”,并建议国会对网络黑客采取制裁措施。

中俄或运用人工智能来攻击民众和西方国家

沃茨(Clint Watts)还担忧,中共和俄国可能运用假视频等人工智能手段来散布假消息,打压国内民众和攻击西方民主国家。

他在证词中说,“我估计,俄罗斯作为一个持久的虚假信息传播者,正在并将继续寻求合成媒体的能力,并用之来对抗世界各地的对手。

“我怀疑中共会加入进来……中共的人工智能能力,由大量的数据库提供动力,包括从美国窃取的大量信息。”

“这两个国家(中俄)和其它极权国家可能会使用‘深度伪造视频(Deepfakes)’作为虚假宣传活动的一部分,包括:诋毁国内持不同政见者和外国批评者;煽动恐惧,引发西方民主国家内部的冲突……”#

6月13日,美国参议院举行题为“人工智能、被操纵的媒体和深度伪造视频给国家安全带来的挑战”的听证会现场。(李辰/大纪元)

责任编辑:高静

相关新闻
美加速人工智能应用 提升F-35战机作战力
欧美制裁中共“天网” 香港被列入禁运名单
杨宁:人脸识别算法中国领先背后的恐怖
中美科技战? 美拟收紧14个前沿技术出口
最热视频
【微视频】川普记者会正名 拜登社会主义改造?
【新闻大家谈】川普4线捷报 密谈遭恶意泄露
【财商天下】传马云被边控 旗下蛋壳公寓出事
【薇羽看世间】一场大重构和大觉醒的战争
【欺世大观】为中共立功的特务 个个难逃厄运
如果您有新闻线索或资料给大纪元,请进入安全投稿爆料平台
评论