中共网军用AI假影音介选 虚拟人涉伦理问题

人气 2808

【大纪元2024年01月13日讯】(大纪元专题部记者吴瑞昌报导)AI是今天科技发展最大的双刃剑。越来越多实例证明,它在给人带来方便的同时,也在起着很大的负面作用。在台湾大选之际,更揭出中共利用AI介选的卑劣行为。

历次台湾大选,中共都使出浑身解数,除了武力威胁外,更利用渗透到台湾的各种渠道散布虚假消息或舆情,企图干扰大选。这次,更有《蔡英文秘史》被在社交平台上大推。在过去的一周里,大量疑似机器人的账号在Facebook、X、Youtube、Reddit、Telegram等平台上贴出一本名为《蔡英文秘史》的电子书,通过混淆史实和政治谣传等虚假信息,攻击蔡英文总统的家庭背景和私生活。

这本电子书,从用词到行文方式与中共的宣传手法极其相似。比如,书中把“韩战”写成“朝鲜战争”。虽然蔡英文即将卸任,但攻击她可以起到诱导选民疏远民进党的作用。

台湾国安人士透露,近日网上出现大量AI生成的伪造影音,用虚拟主播朗读《蔡英文秘史》的内容,再透过数百组假账号上传Youtube,由多个Facebook粉专分享。台湾国安部门确认,此事极有可能是中共国安所为。

国安人士表示,相关影音是用抖音母公司“字节跳动”的APP制作而成。唯一不同的是,AI主播的形象有卡通人物、不同国家的人的脸孔、圣诞老人等。总体讲,这些都是最近常见的中共国安手法。

台湾网络媒体“上报”日前发文介绍中共利用AI介选的手法。文章说,中共利用“深伪技术”(Deep fake)技术,如ChatGPT软件及AI图像合成软件等,生产出“最大乱真性”的资讯体,以干扰台湾大选。例如,最近网上流传的“习近平英文演讲”与“拜登中文演讲”的影片,就是这种AI合成技术制作的。

日本电子工程师李济心对此表示,“世界必须提防中共,它擅长把能用的技术和东西进行武器化,去攻击自由世界。中共利用AI快速生产大量假消息,并透过社交平台快速散播去搞讯息战和认知战,因为它知道这些假消息短时间内无法核实,只要再加上军事挑衅营造恐慌气氛,就能影响台湾和美国的选民的选择。”

除了介选外,中共还利用AI、黑客、间谍等不正当手段,窃取西方的高科技技术、大数据和商业机密等重要机密。

中共国安部的间谍们正在利用AI和其它高科技技术,去识别美国使馆区每个人的档案,并分析他们的行为模式,希望借此分析出这些人的弱点。

他们还利用AI处理从美国使馆工作人员那里获得的汽车牌照、手机数据和联络人等重要讯息,以便旗下的中共间谍能与美国中情局(CIA)直接竞争,同时让它们能在世界各地肆无忌惮地收集各国重要情报,施展自己的诡计。

美国联邦调查局(FBI)局长克里斯托弗‧雷(Christopher Wray)去年10月曾点名中共通过黑客、商业间谍等方式窃取他国的AI技术、量子技术、机器人技术和生物技术等,用于强化自身的能力,以实现自己的目标。

AI虚拟人 涉伦理问题

另外,OpenAI的CEO山姆‧奥特曼在去年12月中发出了有关AI影响美国和世界选举的警告。虽然他没指出是哪些国家会干扰选举,但他表示,“利用AI创造一些迷因(Meme),使得迷因在社交媒体上传开。但我更关心的是若AI获取人们在网上写的推文、文章或生活习惯,那将会发生什么事情呢?”

奥特曼还指出,“未来AI将会为你发送量身定制的讯息,以改变你对这个世界的看法,而这是一种新型的干扰,因为这在AI出现之前,是不可能做到的。”

AI造假的影片、图片或农场文,正在日益影响人们的价值观和判断力。其技术再发展下去,就会出现英国犯罪悬疑剧《真相捕捉》中描绘的情境:人们只要动动手指输入提示词即可利用AI任意的捏造一些当事人没有讲过的话和影片,从而使整个世界陷入混乱。

帮助人们与逝者沟通,是AI把人类正常生活虚拟化的一个典型例子。

一位父亲极度思念过世的儿子,他收集了孩子的照片、视频和录音,并花数千美元请一家AI公司帮他创造一个“虚拟的儿子”,让他能从手机中看到儿子的视频以缓解他的思念之愁。

这位父亲的最终目标,是创造出一个行为举止与他儿子一模一样的“虚拟儿子”,让他和妻子能与其在元宇宙交流。

另外,越来越多的新创公司开始提供“悲伤科技”或“数位死灵术”服务。这些公司承诺永远保留逝者的记忆,让生者透过生成的影片和AI与去世的亲人进行无缝的对答。

例如,四个年轻的表兄弟正坐在一起,透过视讯与他们87岁的祖母玛丽娜‧史密斯(Marina Smith)聊天。他们的交流非常顺畅,祖母还能讲笑话把孙儿们引得开怀大笑。然而事实上史密斯夫人早已在几周前就故去了,孙儿们与之交谈的是AI生成的“虚拟祖母”。

另外,目前已有公司使用相同或类似的技术开发出会自己说话的虚拟人,可透过全息图像形式走动并与人互动。

但是,AI产生的虚拟人或虚拟世界涉及的伦理问题正在引起人们的关注。

在许多影视作品和文学作品中都有这样的描述:人类最终遭到AI、机器人和仿生人的吞噬。因为这些虚拟人在与真人互动中,有的逐渐地将该记忆当成自己,或想要取代该记忆成为主人、出现反叛和杀死使用者的情形,甚至真人在与虚拟人互动中,逐渐污染了自己原有的记忆。这绝不是耸人听闻,而是正在快速实现的事实。

英国巴斯大学(Bath)的死亡与社会研究中心研究员塔尔‧莫尔斯(Tal Morse)2023年3月初发表了自己对“数位死灵术”的观察和研究。他表示,虽然这些虚拟替身可以提供一定程度的安慰,但它们会对人类产生怎样的心理改变和伦理道德上的影响,还有待观察。

他接着说,这里有一些基本问题是,如果这些AI在模仿这些已故的人事,污染了生者对于这个人原有的记忆,那会怎么样?使用者又如何知道死者是否会真的同意他们被这样克隆和模仿呢?

独立撰稿人诸葛明阳表示,“一个人把自己正常的情感投射到虚拟人身上,这是一种心理扭曲。表面看,虚拟人帮其寄托了哀思,是好事。事实上则改变了人的正常认知,把假的当成真的,慢慢地会降低其社交能力,甚至宁愿活在虚拟世界里。当这一现象具有一定普遍性时,人类社会将不再是人类社会。”◇

(记者张钟元、王佳宜对本文有贡献)

责任编辑:连书华#

相关新闻
中共对台介选升级 生成式AI成造假利器
专访杜奕瑾:中共用AI对台湾选举搞认知战
赖竞办批中共透过伪造影片介选
抹黑蔡英文 国安人士:中共网军用AI假影音练兵
如果您有新闻线索或资料给大纪元,请进入安全投稿爆料平台
评论