AI革命性變革威脅人類 引發安全專家憂慮

人氣 448

【大紀元2024年06月24日訊】(英文大紀元專欄作家Keegan Billings、Steve Ispas報導/信宇編譯)隨著人工智能(artificial intelligence,簡稱AI)的應用範圍不斷擴大,從牙刷到汽車,許多產品中都加入了人工智能,然而監管和監督卻與發展速度脫節,引發不少問題。

各個企業為了提高生產力和效率,紛紛轉向人工智能,認為人工智能可以比人類更準確、更快速、更經濟地完成任務。這導致硅谷裁員眾多,然而我們採訪的這位頂級人工智能專家最擔心的問題並不是失業。

「我們擔心的是……人工智能會創造出自己的人工智能。人類並不參與這個循環過程。這就是恐懼;這就是超級人工智能的開始。」加州聖何塞州立大學(San Jose State University)工程學教授艾哈邁德‧巴納法(Ahmed Banafa)在EpochTV最近一期的《灣區創新者》(Bay Area Innovators)節目中尖銳地指出。

巴納法教授是人工智能和網絡安全方面的專家,被全球領先的職業社交網站領英(LinkedIn)評為2024年人工智能領域的第一名。他說,與其它技術相比,人工智能革命發生得太快了,其速度和公司數量每六個月就翻一番。

巴納法教授認為,我們正處於生成式人工智能(generative AI)階段,即通過輸入數據對應用程序進行訓練,它可以通過使用其編程算法形成自己的觀點。總部位於加州舊金山(San Francisco)的人工智能研究實驗室「開放人工智能研究中心」(OpenAI)開發的人工智能對話服務平台「聊天生成預訓練轉換器」(Chat Generative Pre-trained Transformer,簡稱ChatGPT)就是一個典型例子。

他說,ChatGPT 3.5是在5000億條數據的基礎上訓練出來的,ChatGPT 4則是在一萬億條數據的基礎上訓練出來的,而由谷歌(Google)公司開發的新型人工智能聊天機器人Gemini則是在5.5萬億條數據的基礎上訓練出來的,這些數據不斷訓練和教育算法,讓人工智能形成了自己的觀點。

巴納法教授介紹稱,生成式人工智能之後的下一個階段將是超級人工智能,在這個階段,人工智能將擁有自我意識,開始獨立思考。他認為這個階段還需要幾年時間。

「這就是我們將進入超級人工智能時代的時刻,屆時機器開始……有一些情感。」他說,「我們對此感到擔憂。……請記住,人工智能擁有非常強大的思維和連接方式;它們可以上網。」

他特別提到了谷歌開展的一項實驗,在這項實驗中,他們教了人工智能五種語言,然而後來他們發現,人工智能實際上已經學會了第六種語言,而這並不是計劃中的。他們發現,人工智能認為這門額外的語言很吸引人,於是自己學會了這門語言。

「這就是我們看到的風險……我們看到的關於超級人工智能的爆發點,就是當它們開始不經我們同意就做出決定時。」他說道。

他介紹稱,美國國防部開展了大量人工智能的研究和應用,它正在嘗試用某些數據對人工智能進行編程,使其能夠自行找到敵人。

他還回顧了美國空軍提出的一個假設(這個假設曾在網上被當作真實故事傳播):一架負責摧毀目標的人工智能無人機被其人類操作員多次叫停。最後,無人機撞上了通信塔,因為人類阻礙了無人機完成既定的任務。

「我們不希望人工智能發展到開始獨立思考的程度;這是超級人工智能的領域,那時人工智能將人類視為自己的障礙。」他說道。

他介紹稱,電影提供了一些經驗教訓,特別是始終要在人工智能中嵌入「終止開關」程序,以防人工智能失控。

他指出,人工智能目前存在的一個問題就是偏見。例如,當人工智能被問到一個問題時,它可能會給出一個有利於某個種族、信仰或政治觀點的答案,因為這個答案是基於人工智能中的算法或程序,而這些算法或程序是主觀的。

他說,另一個問題就是,當人工智能無法給出答案或不知道答案時,它就會開始編造答案,以確保提問的人類感到滿意。

技術的進步也給壞人提供了製造「深度偽造」(deepfake)的機會。深度偽造是人工智能生成的視頻,它能模擬真人,並能像真人一樣交流。

他提到在香港的一個案例中,一名銀行家以為自己在與公司同事進行視頻會議,然而這是一個深度偽造的視頻會議,不良分子說服他向他們轉移了相當於2500萬美元的資金。

白宮回應

巴納法教授介紹稱,他曾多次致信白宮,表達他對人工智能的擔憂。

「從我寄給白宮的所有信件中,我得到了一個明確的信息,那就是美國政府永遠不會站在技術發展的車輪前面。」巴納法教授無奈地說道。

他指出,美國希望成為人工智能世界的領頭羊,而且領先於許多國家,美國希望保持領先地位。但他認為,這種領先必須根據其對人類、社會和就業的影響來衡量。

在他最近一次與白宮溝通時,白宮科技政策辦公室(White House Office of Science and Technology Policy)向他發送了一個人工智能權利法案藍圖的鏈接。該藍圖旨在支持在自動化系統的構建、部署和治理過程中,制定保護公民權利和促進民主價值觀的政策和做法。

至於監管,他說國會議員不必了解人工智能,也不必深刻理解算法,而是要了解人工智能對社會、商業和技術的影響。

今年4月,聯邦政府宣布成立人工智能安全保障委員會(Artificial Intelligence Safety and Security Board),由22名成員組成,並由國土安全部長(Secretary of Homeland Security)領導。該委員會由來自政府、私營部門、學術界和民權組織的領導人組成。

巴納法教授認為,這三個利益相關群體聯合起來非常重要。

「這將是人民的聲音,『我們關注隱私;我們關注安全;我們關注我們的安全。』」他說道。

委員會成員包括OpenAI、英偉達(NVIDIA)、超威半導體有限公司(AMD)、Alphabet公司、微軟(Microsoft)、思科(Cisco)、亞馬遜網絡服務(Amazon Web Services)、奧多比(Adobe)、IBM 和達美航空(Delta Air Lines)等公司的首席執行官們。委員會成員還包括馬里蘭州州長韋斯摩爾(Wes Moore)、公民與人權領袖會議(The Leadership Conference on Civil and Human Rights)主席,以及斯坦福大學以人為本人工智能研究所(Human-centered Artificial Intelligence Institute)聯合主任等社會各界領袖。

巴納法教授介紹稱,委員會的工作將是向白宮提出監管和訴訟方面的專家意見和建議。

作者簡介:

基根‧比林斯(Keegan Billings)是《大紀元時報》(The Epoch Times)駐舊金山灣區的記者,負責報導北加州新聞。
史蒂夫‧伊斯帕斯(Steve Ispas)是《大紀元時報》(The Epoch Times)駐舊金山灣區的調查記者。

原文:We Are at the Beginning of an AI Revolution: Expert Raises Concerns刊登於英文《大紀元時報》。

本文僅代表作者本人觀點,並不一定反映《大紀元時報》立場。◇

責任編輯:高靜#

相關新聞
人工智能威脅教育 英國中學校長擔憂
人工智能AI可夠取代房地產經紀嗎?
人工智能正在改變會計領域 簿記員的未來呢?
人工智能語音克隆讓「祖父母騙局」更難辨認
如果您有新聞線索或資料給大紀元,請進入安全投稿爆料平台
評論