黑暗技術掀AI大混戰 Deepfake到底是什麼?

科技 18:13 2020/01/09

分享:

Deepfake是一種源自人工智能(AI)的「生成對抗網絡」(Generative Adversarial Network,GAN)偽造技術,利用演算法從現有數據中,產生更多新數據。

一名自稱中國間諜的男子王立強去年從香港逃到澳洲尋求庇護,內地官媒早前發布一段影片,聲稱2016年王立強曾在法院受審,而他的真正身分是一名詐騙犯。惟該短片正面模糊不清惹來質疑,被指是深度造假(Deepfake)。

到底什麼是Deepfake呢?這是一種源自人工智能(AI)的「生成對抗網絡」(Generative Adversarial Network,GAN)偽造技術,利用演算法從現有數據中,產生更多新數據。例如將一張人臉撤換,以取代原來影片中的原始角色,最終生成像真度極高的偽造影片。

>>>抖音被爆秘密開發Face Swap換臉功能

至於GAN,一般利用兩個深度學習(Deep learning)網絡互相訓練,一個是產生者(Generator),不斷產生Deepfake影像;另一個則是判別者(Discriminator),判斷圖像真偽,透過不斷練習提升鑑定水準,以生成愈來愈像真的影像。除了改頭換面外,GAN甚至可生成整個場景。

從文字、聲音、相片以至影片,AI通通能模仿、合成以及竄改。舉例說,雙方通話時便可取得聲紋,再以Deepfake造假。這種革新技術一旦被濫用,便很易變成欺詐產業,美國前總統奧巴馬、現任總統特朗普、Facebook行政總裁朱克伯格等名人,亦曾被人以AI模擬演說的聲帶和影片,模仿程度足可以假亂真。

Facebook創辦人朱克伯格去年曾被惡搞,片中揚言掌控數據等同掌控未來,引起廣泛討論。(網上圖片)

>>>Deepfake及5G技術 影響2020年網絡安全

去年3月,就有黑客利用商業化人工智能語音生成軟件,冒充一間英國能源公司的行政總裁,要求員工完成一單緊急匯款,成功騙取22萬歐元(約190萬港元)。

不少人遂想到以AI對抗AI。美國國防部便研發出全球首款「反AI變臉刑偵檢測工具」,專門用於檢測AI變臉或換臉造假技術。Facebook周一(6日)亦宣布,將全面禁止Deepfake影片與內容,但搞笑模仿或諷刺的片段,或簡單剪輯的影片則不受限制。

不過,人工智能基金會的研究副主席Delip Rao承認,現時Deepfake檢測算法的準確率,即使可高達97%,但鑑於互聯網規模非常大,餘下的3%仍然極具破壞力。

責任編輯:姚慧儀

緊貼財經時事新聞分析,讚好hket Facebook 專版