【無此人】假Account進化!Facebook、Twitter驚現AI合成假人樣 舉報更艱難
撰文:經一編輯部 | 圖片:網站圖片
假Account橫行 進化使用AI照片
社交平台Facebook上年末宣布共刪除54萬個假戶口,Twitter亦於年中暫停20萬個來自中國的假戶口,疑與貶低香港示威活動有關,可見在網上以假相、假資料登記賬戶已非新鮮事。這些假戶口一般都會盜取其他用戶相片自用,假裝成真人,嘗試瞞騙Facebook的檢測團隊。以往一旦用戶發現自己身分被盜用,可以透過Facebook內置功能檢舉,假戶口隨即功虧一簣。然而,近日有專家發現假戶口已進化到使用AI人工智能組合出的假人圖片,即世界上根本沒有圖片中人,令團隊更難分辨出假戶口。
外國研究人員吉伯尼(E.J. Gibney)為組織「沉睡的巨人」(Sleeping Giants)成員。組織因為反對網站播出有歧視仇恨內容的廣告而飽受假戶口攻擊,吉伯尼於是收集所有曾經發言羞辱組織成員的假戶口,並提供CNN作研究。CNN將相片轉交視像鑑識專家,加州大學柏克萊分校(University of California, Berkeley)的法萊德教授(Hany Farid)及科羅拉多大學丹佛分校(University of Colorado, Denver)的媒體鑑識中心負責人史密夫(Jeff Smith)不約而同指出其中一張假相片人像出現問題,包括耳環形狀扭曲、左右眼反射影像不一致、人物背後牆壁彎曲等,判別照片應為人工智能組合出的虛假相片。
相關文章:AI考科學會考獲9成正確率 惟欠缺視覺識別技能|網民熱話
人工智能假照片隨手可得
人工智能技術雖然深奧,但AI所組合出的照片卻是隨手可得。前Uber工程師Phil Wang就寫出名為「這個人不存在」(This Person Does Not Exist)的網站,每次載入網頁就會自動生成一幅全新虛構人物照片。Phil解釋希望透過建立網站提醒大眾科技的可怕,警告人們要小心人工智能虛構人物外表的能力,但就無法肯定吉伯尼所收集的假戶口圖片是否出自自己的網站。
社交媒體主導輿論影響大
CNN報導中,吉伯尼團隊成員因為反對歧視廣告而引起爭議,其中正是受使用了假照片的帳號攻擊。這些帳戶會在社交平台上以訊息騷擾特定人物,或者假裝自己有其黑材料並作出威脅,試圖阻止該機構或人繼續發聲。其實透過社交媒體影響大眾輿論並不罕見,2016美國大選就是最佳例子。當時劍橋分析公司(Canbridge Analytica)曾非法取得五千萬名Facebook用戶資訊,並利用有關資料向不同帳戶針對發放各種假消息或個人化廣告,爭取中間派選民改而支持特朗普。如此洗腦做法其後被揭發,劍橋分析隨之宣布破產,知情不報的Facebook亦在國會聽證後被判罰款高達50億美元。