深度偽造以假亂真,人眼已經無法識別,該怎麼破?

財富中文網2019-08-23 20:24:26


藉助於人工智能,研究人員、立法者和大型科技公司正在努力抗擊日益增長的造假媒體的威脅。

原文刊登於:《財富》雜誌2019年8月刊

圖片來源:Zuckerberg: Courtesy of Faceboook; Obama: Neilson Barnard—Getty Images; Trump: Saul Loeb—AFP/Getty Images; Pelosi: Chip Somodevilla—Getty Images; Gadot & Johansson: Mike Coppola—Getty Images; Wireframes: Lidiia Moor—Getty images


它們就像是一大羣殭屍一樣,層出不窮。一開始,人們看到的是像素拼湊版的女演員蓋爾·加朵和斯嘉麗·約翰遜,被狡詐的用户植入了自己製作的成人電影。隨後,表情空洞的貝拉克·奧巴馬和唐納德·特朗普出現在從未經過自己同意的短片中,説了一些奧巴馬和特朗普自己從未説過的話。在6月,機器學習生成的Facebook的首席執行官馬克·扎克伯格就隱私問題做出了一些恐怖的評論,很快引爆網絡。


歡迎來到“深度偽造”時代,這是一種基於人工智能的新威脅,它能夠修改視頻或音頻剪輯中的語音,從海量的自拍中選出令人信服的特寫,甚至可以把人們放到他們從未去過的地方,讓他們與從未見過的人見面。很快,人們便開始擔心,那些加入深度偽造欺騙行列的人包括行為不端的政客、提供惡意報道的新聞主持人,以及那些為了開展詐騙而嚇唬僱員的騙子高管。


到目前為止,女性一直是深度偽造最大的受害者。在6月底,應用程序Deepnudes在一片爭議聲中下架,因為有記者披露用户可以嚮應用程序上傳女性照片,然後獲得這些女性的裸體圖片。


有人擔心,該技術的不良影響可能遠不止詭異那麼簡單,尤其對於那些尋求破壞大選或摧毀上市公司股票的無賴更是如此。緊張氣氛一觸即發。立法者希望禁止深度偽造技術。大型科技公司認為自家工程師會拿出補救措施。與此同時,位於一線的研究人員、學術界和數字權力活動家則歎息道,他們沒有相應的武器來應對這場戰爭。


位於紐約市的人權組織Witness的項目總監山姆·格里高利指出,識別深度偽造要比製作深度偽造難的多。不久之後,人們無需掌握多少技術便可以製作深度偽造作品。


Witness一直在培訓媒體公司和這一領域裏的積極分子如何識別人工智能生成的“合成媒體”,例如可能會破壞其工作信任的深度偽造和麪部再扮演(也就是錄製某個人的面部表情,然後將其移接至另一個人)。他和其他人已經開始呼籲科技公司採取更多舉措,管理這些偽造內容。格里高利説道:“公司在發佈幫助創作的產品的同時也應該發佈能夠甄別這類作品的產品。


軟件製作商Adobe Systems發現自己處於左右為難的境地。6月,供職於Adobe Research的計算機科學家展示了一個強大的文字語音機器學習算法,能夠逐字逐句地替換電影角色的對白。公司的一位發言人稱,Adobe研究人員也在努力幫助打假。例如,Adobe最近發佈了一項研究,能夠幫助檢測通過其熱門修圖軟件Photoshop修改的圖片。但研究人員和數字權力積極人士稱,由業餘人士和獨立編程人員組建的開源社區在從事深度偽造方面的組織性要高得多,因此深度偽造作品也就更逼真,也更難識別。


到目前為止,不良分子這一邊佔據着優勢。


這也是立法人員參與這場爭論的原因。美國眾議院情報委員會在6月就人工智能、受操縱媒體和深度偽造所帶來的國家安全挑戰舉行了一次聽證會。就在同一天,伊薇特·克拉克(紐約州民主黨)提出了深度偽造責任法案,這是美國國會首次嘗試對欺騙、詐騙或破壞公共穩定用途的合成媒體進行定罪。弗吉尼亞州、得克薩斯州和紐約州的州立法人員同時還引入或頒佈了其自身的立法,我們預計將迎來一場法律洪流,目的就是為了打擊偽造內容。


人工智能智庫OpenAI的政策總監傑克·克拉克在6月曾經就深度偽造問題前往國會山作證。他向《財富》雜誌透露,現在到了“行業、學術界和政府共同努力”尋找解決方案的時候了。克拉克提到,公共和私營領域在過去曾經聯合開發了蜂窩網絡,並規範了公用設施。他説:“我覺得人工智能也是一種非常重要的技術,我們需要採取類似的舉措。


為了避免出現此類政府幹預,科技公司正在努力向外界展示,它們可以在無需過分強行壓制自由言論的情況下,處理好這個問題。YouTube已經在用户舉報之後從網站上移除了數個深度偽造視頻。最近,Facebook的扎克伯格表示,他正在考慮針對識別自家網站上的深度偽造內容推出一項新政策,將由多名人工版主和自動化技術共同執行。


大多數深度偽造以及基於人工智能的合成媒體內容所仰仗的基礎性技術都是生成式對抗網絡(又稱GAN),於2014年由位於蒙特利爾的博士生伊萬·古德菲洛發明,後來他在谷歌工作了一段時間,然後於今年加入了蘋果公司。


在他的發明出現之前,機器學習算法一直十分擅長於在海量的培訓數據中識別圖片,但也就是僅此而已。藉助新面世的技術,例如更加強大的計算機芯片,GAN成為了遊戲顛覆者。它不僅能夠讓算法進行分類操作,同時還可以創建圖片。只要向GAN展示一張站立的側面人像圖片,它就可以對整個人像進行重構,既可以是正面也可以是背影。


GAN立即引發了研究人員的關注,他們認為GAN可以讓計算機彌補我們對身邊事物理解的空白,例如,繪製望遠鏡無法探測到的遙遠星系。其他編程人員則將其看作是製作超逼真名人黃色視頻的工具。


在2017年年底,Reddit上的一個名為“Deepfakes”的用户製作了這類視頻,並將其上傳至成人視頻網站,畫面中包括與知名好萊塢女演員長相相似的角色。深度偽造現象因此而一夜成名。


不久之後,機器學習領域博士希奧爾希奧·帕特里尼對GAN模型的利用方式感到痴迷,隨後又表示了其擔憂。他離開了實驗室,並共同創建了Deeptrace Labs。這是一家荷蘭初創企業,自稱正在打造“深度偽造抗體”。客户包括那些希望為記者們提供鑑別工具的媒體公司,這樣他們就可以發現其作品中經處理的內容,或驗證用户製作視頻短片的真實性。帕特里尼説,最近幾個月,聯繫他們公司的不僅有企業品牌聲譽經理,還有網絡安全專家。


帕特里尼説:“人們對於深度偽造及其在詐騙和社會工程方面的用途尤為擔憂。


位於加州聖克拉拉的Malwarebytes Labs最近也發出了類似的警告,它在6月有關人工智能威脅的一篇報道中指出,“深度偽造可能被用於極度逼真的魚叉式網絡釣魚攻擊,而用户則很難去識別真偽。”報告還提到,“試想一下,你接到老闆的視頻電話,她告訴你需要把錢打到某個賬號,用於出公差,隨後公司會補償給你。


在深度偽造領域裏,人們無需任何知名度便可以扮演主要角色。


作者:Bernhard Warner
譯者:馮豐
審校:夏林



每天花1分鐘看世界

  視界  


紀源資本的童士豪認為,各國的熱門手機程序遵循了相似的模式,且各地區的軟件開發商正大量湧現。



更多視頻,後台回覆關鍵字獲取


IBM執行副總裁:小小芯片幫助人類探索宇宙 | 回覆 YZ 獲取


來自商業領袖們的畢業建議 | 回覆 BY 獲取


40位40歲以下商界精英的人生三問 | 回覆 JY 獲取


https://hk.wxwenku.com/d/201222163