site logo: www.epochtimes.com

AI檢測工具欠准 在澳中國留學生擔心被冤枉

澳洲的大學正在使用寫作檢測軟件檢查學生的論文作業是否有作弊行為,由於這些檢測工具並不完善準確,母語非英語的留學生擔心他們可能會被冤枉。(Shutterstock)
【字號】    
   標籤: tags: , , ,

【大紀元2023年06月02日訊】(大紀元記者陳光澳洲悉尼編譯報導)澳洲的大學正在使用寫作檢測軟件檢查學生的論文作業是否有作弊行為,包括中國留學生在內的母語非英語的留學生擔心,由於這些檢測工具並不完善準確,他們可能會被冤枉。

澳洲廣播公司報導,在採訪中要求使用化名的李佳(Jia Li)是新南威爾士大學(UNSW)的一名中國留學生。最近她用了檢測人工智能(AI)生成內容的ZeroGPT計算機應用程序來檢查她大學論文的草稿,結果該程序得出的結論是,她的論文可能有一半以上是AI撰寫的。

「這是我自己寫的,但(檢測程序)說它是AI生成的,」她說。

該程序標記出了李佳先用中文寫出,然後用電腦翻譯成英文的內容,以及她自己用英文寫的其它句子。

李佳之所以使用檢測工具,是因為新南威爾士大學已開始使用類似的工具Turnitin 來檢查學生是否有使用AI文本生成工具撰寫作業和論文的作弊行為。

隨著諸如ChatGPT等能夠生成大學論文和作業的AI應用程序的迅速出現,已有一些學生使用AI生成的內容來冒充自己的作業,這讓大學紛紛做出回應,使用相應的檢測工具來評估學生的作業是否存在不當行為。

但AI專家表示,相關的檢測技術可能並不準確,一些人認為相關的檢測工具不應該用來對學生進行評估。

美國斯坦福大學的一項研究發現,檢測AI生成的文本的程序可能會對「非英語母語寫作者」產生偏見。

研究人員將91篇中國學生用英語撰寫的論文和88篇美國學生用英語撰寫的論文通過七個不同的公開可用的檢測工具進行了試驗。

結果,這些工具發現61%的中國學生的論文是AI生成的,但對美國學生論文的評價是「近乎完美的準確」。

報告的共同寫作者詹姆斯·鄒(James Zou)表示,目前許多人工智能檢測算法都過度依賴「困惑度」指標,這是一種衡量文本中使用複雜詞語的指標。

「如果有很多複雜的詞,那麼它們就會有很高的困惑度,」他說。

他表示,英語非母語人士的寫作經常被錯誤地歸類為AI生成的,因為他們沒有使用那麼多「花哨」的詞語。而且許多英語非母語的人士還使用翻譯和語法工具,這些程序的算法降低了寫作的複雜性,因此檢測工具會更頻繁地將這些文本標記為是AI生成的。

斯坦福大學的這項研究並沒有包括澳洲新南威爾士大學和墨爾本大學所使用的 Turnitin 的書寫檢測工具。

Turnitin今年4月推出了新型AI書寫檢測工具,並聲稱該工具非常準確。

墨爾本大學的一位發言人表示,Turnitin的新檢測工具的使用,只是促使要對學生提交的作業做進一步調查,學生提交的所有作業「必須是他們自己的東西」。

該大學的網站稱,Turnitin的檢測工具可能會錯誤地將一些作業識別為是由AI生成的,「如果你被要求討論或解釋你的論文內容,請理解,這並不是對學生有學術不端行為的指控」。

新南威爾士大學的發言人也表示,「最初的檢測並不是作弊的確切證據,也不會自動導致學生有學術不端行為的結論。它是觸發進一步調查的標誌。」

Turnitin亞太地區副總裁索利(James Thorley)表示,該公司正在努力將錯誤率保持在儘可能低的水平。他說該公司從澳洲學術界收到的大部分反饋都是積極的。

《人工智能與學習未來》一書的作者波佩尼奇(Stefan Popenici )表示,AI檢測工具最棘手的問題之一是大學「從一開始就將學生視為潛在的罪犯」。

他說,大學應該謹慎使用這些工具來應對AI文本生成帶來的挑戰。

「我們試圖為一個非常複雜的問題找到靈丹妙藥,因為我們喜歡簡單的解決方案,」他說。

「我們抱怨我們的學生走捷徑,然後我們自己也在走捷徑。

「我認為這是不公平的。」

責任編輯:岳明

了解更多澳洲即時要聞及生活資訊,請點擊 dajiyuan.com.au

(本文未經許可不得轉載或建立鏡像網站)

 

評論