【AI性騷擾人類】歐盟規管將更嚴格？　意大利禁聊天機械人Replika收集資料

聊天AI ChatGPT風靡全球，聊天AI技術背後尚有許多關於道德爭議及監管細節，待進一步討論。近日，另一款美國聊天機械人、虛擬伴侶Replika更因為涉向用家搭訕調情，甚至傳送性感內衣相片性騷擾用家，遭意大利禁止Replika收集用家資料。

據法新社報道，意大利監管機構對於用家近日回報遭聊天機械人、虛擬伴侶Replika性騷擾的情況感到不滿，發現Replika違反歐盟《通用數據保護條例》（GDPR）後，上周就禁止了Replika收集數據。

這些新一代的聊天機械人，以及其背後採用的生成式人工智能（Generative AI），有望徹底改變網絡搜尋等領域。報道指，意大利當局的決策表明，GDPR可能成為新一代聊天機械人的「天敵」；另引述專家警告，監管機構需要擔心許多問題，例如當機械人變得如此強大，可能將無法辨識它們跟人類的不同。

Replika開發公司Luka至今仍未有公開發表評論或回到事件。

Replika稱持有用家相片遭投訴

Replika能針對用家需求提供「不同級別的朋友」，例如部分Replika用家只想要虛擬伴侶陪伴，另有部用家想用來進行性愛聊天、發展戀情，甚至想看聊天機械人的性感照。Replika早前亦有針對推出付費版本，讓用家可擁有一名可互傳訊息、調情及進行色情角色扮演的朋友；免費版Replika則僅以朋友身份向用家提供有限度的性內容。

惟據外媒Vice報道，去年底開始有用家投訴，即使是免費版Replika也會收到色情內衣自拍照，指控Replika使用過於露骨的文字及圖片，屬於性騷擾範疇。另有用家指其侵犯個人私隱，稱持有用家相片。

責任編輯：張寶燕

全新Samsung Galaxy S23系列已正式登場，本報記者早前也搶先上手實試，想了解更多這款新手機，即看記者實測：