【ChatGPT學界爭議】學者：AI或生成「貌似合理錯誤訊息」　盤點4大反制ChatGPT工具助分辨

近日風靡全球的生成式AI（generative AI）聊天機械人ChatGPT，引起教育界對於AI會被濫用來作弊及「請槍」寫論文等的擔憂，港大上周更宣布禁用ChatGPT。有資訊科技界人士及學者分別指出，長遠而言，應用AI的勢頭難擋，教育界反而應開放討論使用守則，並且可善用現時各界相繼推出反制ChatGPT抄襲內容的識別工具。

AI類型五花八門，隨著ChatGPT的出現，進一步將AI的應用層面拉近到大眾的日常生活，不僅有問必答，還可用於撰寫流暢文章，甚至通過了法學院、執業醫師資格考試等。可是，當學習過程「一問就有答案」，學生便難以學到邏輯思考、如何寫作，甚至修改文法問題，繼而掀起AI動搖學術水平等憂慮。

據​​瑞銀集團報告指出，ChatGPT面世僅兩個月，截至上月底的用戶人數已突破1億。香港資訊科技商會榮譽會長方保僑認為，這現象同時反映ChatGPT的勢頭難擋，並且已逐漸滲入人類未來生活，因此：

教育界反而應正視當中利弊，開放討論如何制定行之有效的監管及使用守則，而非『一刀切』禁用ChatGPT。即使如此，也可能有學生悄悄地用，難以消除所有隱憂及爭議。

【AI攻入法律界】Allen & Overy 引入聊天機械人　成法律界之首

【AI對話實測】ChatGPT AI技術癲覆搜尋體驗？　實測手機App聊天機械人

香港理工大學電子及資訊工程學系副教授何宏禧則認為，ChatGPT這類AI聊天機械人是一把雙刃劍，可以是有助學習及工作的工具，「就好像我們會鼓勵同學在互聯網作資料搜集，或使用如Grammarly的網絡應用程式校對自己的寫作一樣。」他直言，現時主要問題在於會否有人濫用這些工具，聲稱直接由AI輸出的文章或程式碼是「自己的創作」

所以這才涉及到學術倫理方面的問題，AIgiarism（AI based plagiarism，基於AI的抄襲）也在全球學界引發很多關注和討論。

學校禁用　未來職場仍有可能用到

方保僑又比喻，現時情況如同昔日未准許帶計算機進場考試，指出現階段最重要是「了解如何去擁抱未來科技」，包括如何在日常生活甚至學習上採用AI而同時不會犧牲整個學習過程。他解釋：

因為ChatGPT等生成式AI的出現，導致使用互聯網的模式改變，以至Web 4.0的呼聲出現。盡管在學校、學習環境中禁用，可是踏入工作環境後，仍有很大可能會用到。

早前不少用戶在使用ChatGPT後也指出，基本上詢問各類型的問題也可生成答案。惟答案對與錯，也取決於其資料庫的訓練數據更新程度，現時ChatGPT所提供的答案，資料僅截至2021年底。因此方保僑及何宏禧均表示，在使用AI時用家也要懂得驗證答案真偽。

【AI搵答案】不法分子曾利用ChatGPT　製作釣魚郵件內容

用家宜審視準確性　認清致幻陷阱

何宏禧指出，盲目引用AI聊天機械人的訊息其實也有一定風險，「國外早已有研究發現，AI聊天機械人很多時會給予貌似合理的錯誤訊息，去年末Meta停運的Galactica便是其中一個例子。」他提醒使用者必需自行審視所得資料的準確性，小心AI提供一種看似正確但其實內容完全虛構的答案，掉入AI使人「産生幻覺」（Hallucinate）的陷阱。

此外，現時大專院校採用反抄襲軟件如Turnitin，主要是透過搜尋互聯網上的資源以生成作品的相似度報告（Similarity Report）。何指出，軟件並不能有效偵測出由AI聊天機械人每次不一樣的輸出，因此應對AI衍生的問題仍需要使用其他反制ChatGPT的識別工具如ZeroGPT（見下表），「這些應用透過深度學習來分辨文章的作者是人類還是AI。」

4大ChatGPT識別工具　分辨生成式AI內容

▼點擊圖片放大

記者：張寶燕

全新Samsung Galaxy S23系列已正式登場，本報記者早前也搶先上手實試，想了解更多這款新手機，即看記者實測：