【AI搵答案】不法分子曾利用ChatGPT　製作釣魚郵件內容

人工智能（AI）聊天機器人ChatGPT近日成全球熱話，雖然開發者OpenAI表示免費版ChatGPT是在研究預覽階段，但由於其生成的答案十分精準及附有詳細解釋被熱捧，ChatGPT在今年1月已累計超過1億用戶。

近日各大科企Microsoft、Google也正積極為新一輪AI競賽作準備，不久將來亦會有更多AI技術會整合到各大網上服務。雖然AI的普及應用，能讓公眾的工作或生活上更省時便利，可是據香港生產力促進局轄下的香港電腦保安事故協調中心（HKCERT）指出，有不法分子已利用ChatGPT製作釣魚郵件內容，甚至編寫惡意程式。

HKCERT補充，縱使官方已加入保安機制禁止生成惡意內容，但已有網絡犯罪份子開發出規避方法，並以網絡犯罪服務方式販賣，由此可見潛在保安問題亦不容忽視。

【ChatGPT寫情信】用ChatGPT迎情人節？　防毒軟件商實測：65%人更喜歡AI寫情信

AI欺詐及毒害AI模型漸現

除上述提到的例子外，該機構還提到需提防AI欺詐及毒害AI模型​。而總結AI涉及的保安風險有以下幾種：

• 數據私隱和保密：AI需要大量數據進行訓練，其中可能包括敏感信息，如個人詳細信息、財務資料和醫療記錄。這可能引發了隱私問題，因為模型可能會存取和生成敏感信息。
• 錯誤訊息：AI為求產生的結果有連貫性及通順，可能會編造虛假或誤導性訊息，用戶慣性倚賴AI生成的資料可能會對事實有錯誤的認知。
• 偏見問題：AI的訓練數據可能來自互聯網，其中可能包含偏見和歧視。這可能導致模型產生使這些偏見和歧視的回應。
• 不法分子亦可利用偏頗的數據，訓練AI模型，令AI生成惡意的回應，此手法稱為對抗性干擾。

訓練數據只去到2021年　世界盃冠軍都答錯

在訊息準確度方面，該機構指會其受到其所接受的訓練數據影響，例如ChatGPT的訓練數據只去到2021年，所以當問到誰是最近的世界盃冠軍時，它會回答法國（2018年冠軍），而不是阿根廷（2022年冠軍）。

【迎戰ChatGPT AI】Google聊天AI Bard答錯問題　發言人：突顯審慎測試重要

此外，還有版權問題如：由ChatGPT輸出的回應中可能涉及的受版權保護的資料的擁有人，將侵犯他人的權利，包括未經許可使用其受版權保護的資料，可能會導致法律責任。因此，該機構建議使用ChatGPT時，要考慮和尊重其開發者和其他人的知識產權，並確保使用ChatGPT的答案都符合適用的法律法規。

機構還提到，其實AI是一個中性的工具，「本身並沒有對錯」，而最終責任應該落在用家本身。同時提醒公眾使用AI時，應該保持凡事核查的心態，從多個源頭查證事實。

責任編輯：張寶燕

全新Samsung Galaxy S23系列已正式登場，本報記者早前也搶先上手實試，想了解更多這款新手機，即看記者實測：