台湾人工智慧实验室发布全球首份民主国家协同操作年报

专家:境外势力操弄认知战 300万台人受影响(上)

人气 887

【大纪元2024年01月19日讯】(大纪元记者钟元台湾采访报导)台湾人工智慧实验室发布“2024年台湾总统大选期间网路讯息操作分析报告”,这是全球首份以AI技术观察民主选举资讯操弄的报告。创办人杜奕瑾表示,台湾大选遭境外势力操弄认知战,估计有300万人受影响。

台湾总统大选落幕,台湾人工智慧实验室(Taiwan AI Labs)17日举行的发布会吸引超过100位国内外专家参与,包括多国驻台人员、国际媒体、国际组织在台代表、台湾官方代表、国内外相关领域研究者与学者、台湾非政府组织与台湾媒体。

台湾大选遭境外势力操弄认知战 300万人受影响

“2024年有许多国家举行选举,台湾是全世界境外讯息操作影响的指标国家。”杜奕瑾17日在发布会上表示,“台湾是2024年全球第一个举办选举的民主国家,也是第一个用AI技术观察选战资讯操弄的国家,希望可以将台湾面临资讯操弄的经验与教训,以及在台湾观察到的生成式AI的威胁,分享给其它民主国家参考。”

杜奕瑾表示,这是在生成式AI元年全球第一个透过大型语言模型与多项人工智慧模型所完成的选举操作的观察报告。尽管这些资讯操作并非每一次都成功,但已在台湾造成一定的影响力;估计相关资讯操作触及至少300万台湾民众。相关的资讯操弄行为在选举前夕更显着升温。

杜奕瑾对大纪元表示,台湾人工智慧实验室目前看到境外系统账号对台湾选举的影响,“这个影响力是非常的大。我们可以把确定是协同群的,跟不是协同群的分开(操作),然后我们看到确定协同群怎么样有效地带议题,让确定不是协同群的人跟随。”

他提到,公关公司操作选举的情况还是存在,尤其境外公关公司操作台湾选举现在更强有力了,因为现在开始有生成式AI辅助的方法。

透过AI系统Infodemic 藉由协同账号分析理解资讯操弄

台湾人工智慧实验室透过AI系统infodemic,藉由协同账号分析理解资讯操弄,完成“2024年台湾总统大选期间网路讯息操作分析报告”。台湾人工智慧实验室表示,在疫情期间,他们与国际发展可信任负责任的人工智慧医疗。同时面对全球疫情虚假讯息操作,与全球合作伙伴建立相关侦察机制。

杜奕瑾解释,首先由AI观察与理解各个账号的行为发现协同账号。协同团体账号的定义是指一群非真正使用者的账号。这些账户可能是过去的“五毛”,即随着官方需要发布特定内容的账号;也可能是透过自动程式控制,或是公关公司的操作以非有机、组织性的方式在扩散特定言论。

他表示,台湾人工智慧实验室这两年藉由生成式科技大型语言模型,理解网路数十亿则社群媒体活动,挖掘出三万多群协同团体,并在两百多万个议题中了解协同账号在社交媒体操作的讯息内容,进而理解操作攻击的对象与模式,以达到揭露背后可能的目的。

台湾人工智慧实验室(Taiwan AI Labs )以AI人工智慧技术,针对各媒体与社群平台的认知操作状况进行观察。(Taiwan AI Labs提供)

杜奕瑾说,由于全球对讯息操作的需求增加,开始有国际伙伴对这个服务的需求,台湾人工智慧实验室进一步把相关的技术能力建立成Infodemic平台。即时且全面的让非技术的伙伴可以理解国内外资讯操弄情况,做为数位素养发展相关应对策略。

台湾人工智慧实验室内容执行长黄兆徽表示,该基金会近年来持续利用所开发的Infodemic平台,观察涵盖Facebook、YouTube、X(Twitter)、TikTok与PTT等台湾主要社群平台协同行为。同时以大型语言模型理解讯息操作攻击目标、主流媒体报导反应,及时记录协同团体所参与的讯息战场以及可能造成的影响力。

黄兆徽说,大约从台湾大选前两个月开始每周举行闭门会议,揭露所观察到的网路资讯操弄状况,与国内外学者专家交流讨论;并在投票日后将选前一年的观察心得分享给国际媒体、驻台外交人员、非政府组织和学研单位,共同设法提升大众的媒体素养,建立认知韧性。

杜奕瑾在会议中指出,由Infodemic平台上可以得知一年来台湾受到协同账号影响的重要议题有哪一些。如图所示,每个圆圈表示具有代表性的战场,圆圈大小为议题影响力,而颜色深浅为协同团体的比例。

台湾大选期间的主要讯息操作战场全都露 选后协同账号消失一半

AI系统分析了4,506万余则的社群平台互动,发现有73万1,383个协同账号进行议题操作,有1万4,354个操作账号,4万8,411场攻防,被分享与讨论的新闻共有27万9,746则,与境外官媒有关的文章共有8,038则报导。(Taiwan AI Labs提供)

藉由Infodemic平台,台湾人工智慧实验室从2023年1月1日到报告发表时间截止观察到1万4,354协同账号参与过4万8,411个议题战场,有73万1,383个协同账号进行议题操作,相关媒体报导27万9,746则,与境外官媒有关的文章共8,038。在大选结束后,约有一半的不正常使用者账号就消失了。

活动中观察台湾一年多来的重大议题操作

杜奕瑾分析,2023年1–4月,与选举相关的议题气氛较低,其中最重要事件是总统蔡英文访美。积极操作从5月开始启动,且操作的战场越来越多。5–6月,针对美国军援与后续议题开始发酵。美国拜登总统5月表示要支持台湾防卫,当中可观察到众多协同账号在挑拨台美关系及散播美国阴谋论。6月,议题讨论围绕在台湾军购预算,台美双方同时都被认知操作影响,想借此混淆民众认知。当中媒体报导称代号“南海工作会议”也是其中一个大战场。

针对《联合报》在中华民国总统府、行政院及美国澄清后,再度以所谓“南海工作会议纪录全文”报导指控美国施压台湾研制生物战剂,并声明已尽查证义务。2023年7月13日中华民国总统府表示,此事冲击国家形象,甚至可能引发国际制裁,再次呼吁《联合报》更正、致歉,并勇敢向民众致歉。

杜奕瑾分析,2023年7–8月,大型且具有影响力的战场相对密集出现,协同团体发现美国军援影响或许对民众无感,因此议题转向探究与人民最有关也最直接影响的居住正义与违建。9–10月:开始操作缺蛋与食安问题,此议题为协同团体操作的成功案例,三周议题操作与密集攻击,导致前农业部长陈吉仲下台。

2023年11–12月,选前战场着重讨论中国国民党(蓝)与民众党(蓝)合作的“蓝白合”。协同团体藉由攻击试图促成“蓝白合”,但此次对于协同团体来说是一个失败的操作,“蓝白合”并没有成功。随后协同团体便转换立场攻击其他候选人,此项操作不像台湾内部公关公司操作行为,且蓝白双方也可能不清楚此事件。因此从中便能发现疑似境外势力介入的迹象。

到2024年1月选举前,最大事件是日本地震与中华民国国防部发布的国家级警报。选前很明确地专攻某一个议题试图影响台湾总统选举,大选结束后约一半的协同账号消失。直到美国代表团访台后才又开始运作。

以下为杜奕瑾以图表分析,2023年1–4月:与选举相关的议题相对冷清,最大的议题战场为蔡英文访美

AI观察台湾选举操弄报告 揭境外势力认知战
台湾人工智慧实验室(Taiwan AI Labs )以AI人工智慧技术,针对各媒体与社群平台的认知操作状况进行观察。(Taiwan AI Labs提供)

2023年5-6月,针对美国军援与后续议题开始发酵。

AI观察台湾选举操弄报告 揭境外势力认知战
台湾人工智慧实验室(Taiwan AI Labs )以AI人工智慧技术,针对各媒体与社群平台的认知操作状况进行观察。(Taiwan AI Labs提供)

2023年7-8月:针对台湾居住正义、违建的议题不断出现。

AI观察台湾选举操弄报告 揭境外势力认知战
台湾人工智慧实验室(Taiwan AI Labs )以AI人工智慧技术,针对各媒体与社群平台的认知操作状况进行观察。(Taiwan AI Labs提供)

2023年9–10月:针对缺蛋与食安问题的操作,导致前农业部长陈吉仲下台。

AI观察台湾选举操弄报告 揭境外势力认知战
台湾人工智慧实验室(Taiwan AI Labs )以AI人工智慧技术,针对各媒体与社群平台的认知操作状况进行观察。(Taiwan AI Labs提供)

2023年11–12月:针对“蓝白合”操作议题。

AI观察台湾选举操弄报告 揭境外势力认知战
台湾人工智慧实验室(Taiwan AI Labs )以AI人工智慧技术,针对各媒体与社群平台的认知操作状况进行观察。(Taiwan AI Labs提供)

责任编辑:林琮文#

相关新闻
【新闻大家谈】专访杜奕瑾:中美AI较量
【专访】AI时代讯息真假难辨?杜奕瑾提应对方法
专访杜奕瑾:中共用AI对台湾选举搞认知战
【新闻大家谈】杜奕瑾:警惕台湾选情中的骗术
如果您有新闻线索或资料给大纪元,请进入安全投稿爆料平台
评论