換臉軟件ZAO並沒有帶來新增隱患,人類可以適應技術的風險|大家

大家2019-09-11 05:45:30




就在一夜之間,一款名為Zao的APP迅速躥紅。在這款APP中,用户只要上傳頭像圖片,APP就能利用人工智能與機器視覺技術,把一些著名影視片段中的演員的樣子替換成用户的樣子。這些視頻發到社交媒體之後,迅速引發了病毒式的傳播。
 

Zao的廣告語是“可以和自己的偶像同框”。

這款APP也引發了一些憂慮,很多人擔心會泄露隱私,還有擔心會出現基於這種技術的騙局,一句“該技術曾被用於情色視頻”引發了很多人的恐慌。
 
換頭像當然是敏感的。所以 ,在用户協議中,ZAO做出了很強的自我保護。在用户協議中有這樣的內容:
 
1) 在您上傳及/或發佈用户內容之前,您同意或者確保實際權利人同意授予“ZAO”及其關聯公司以及“ZAO”用户全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於可以對用户內容進行全部或部分的修改與編輯(如將短視頻中的人臉或者聲音換成另一個人的人臉或者聲音等)以及對修改前後的用户內容進行信息網絡傳播以及《著作權法》規定的由著作權人享有的全部著作財產權利及鄰接權利;
 
2) 如果您把用户內容中的人臉換成您或其他人的臉,您同意或確保肖像權利人同意授予“ZAO”及其關聯公司全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利,包括但不限於:人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權利人的肖像權,以及利用技術對您或肖像權利人的肖像進行形式改動;
 
這一段看起來很嚇人,似乎用户放棄了一切。但用户協議所説的修改與編輯,並不是ZAO再次修改,而是指的當用户上傳自己的圖片後,要授權給他們,他們才能修改視頻。簡單的説,ZAO的意思是:你傳頭像,我們給你改視頻,但是,改過之後,你不要不認,再來找我們賠錢。更何況,無論如何在IOS中,ZAO的用户協議,都是基於蘋果的制約之下,一般消費者倒不用太擔心
 
用户協議之外,ZAO在APP的產品設計上做出了相應的安排。
 
首先,ZAO在用户界面明確提示:“出於對肖像權的保護,ZAO禁止使用低清晰度相片和網絡下載相片,僅支持手機拍攝照片你提交上傳後,ZAO會進行非公眾人物驗證和肖像權驗證”,確保符合相關法規才能使用”
 
其次,ZAO排除了某些照片先是排除手機相冊中的“低分辨率”相片,然後,再排除掉一些側臉、低頭的相片,防止有人用偷拍的相片。此外,網絡上的相片一般沒有EXIF信息(包括機身、鏡頭型號、拍攝時間、相機快門次數),ZAO再把沒有EXIF信息的相片排除掉。更進一步的,ZAO鎖定了後置攝像頭,也就是説只能用自拍的照片。這些措施,都是儘可能使得用户只能用自拍這個狀態下的照片,這要麼是自己,要麼是取得同意的。
 
不過,這些措施還是挺好繞過的。比如,給照片加上EXIF信息,然後再放入相冊。實際上,我發現很多微信裏面保存的別人發送的“原圖”,就被ZAO認為是本機拍攝的照片。另一個辦法就是,用屏幕打開照片,用前置攝像頭拍攝屏幕。我發現這個軟件的時候已經很晚了,孩子已經睡了,我想做一段她的視頻,就是用手機前置攝像頭拍攝的屏幕。不過,這段視頻我並未能上傳,也不能保存,直到第二天早上她起來,在ZAO裏做了肖像驗證,眨眼、扭頭、張嘴等一系列動作之後,才能保存,分享到微信中。
 
在換頭像的視頻的選擇上,ZAO提供的換臉的視頻是有限的,健康的。用户發出自己的換臉視頻,本質上和發一張自己的自拍和視頻,並沒有本質的區別。
 


ZAO這麼小心,是因為有前車之鑑。
 
前段時間,Deepnude在全球網絡上引發很大的爭議。Deepnude基於人工智能處理圖像與深度學習計算機視覺技術,在上傳女性圖片之後,只需一次點擊,就能把任何女性照片的衣服都“脱”下來,生成不雅照。在台灣,就有百名女生IG臉書等社交照片被人用DeepNude處理後上傳不雅網站。因此,引發技術有罪還是技術中立的爭論。
 


Deepnude引發巨大爭議

不過,Deepnude的效果其實並不好,人工智能還很初級。當女性本身的圖片都是大尺度的,暴露面積很大,“效果”會好一些,但生成的圖片,仍然不如三流的修圖師製作的圖片。如果女性的相片是正常穿着,生成的圖片,基本上就是五花八門的各種怪異了。
 
ZAO的技術應該源於2017年,reddit社區上一個ID為Deepfake的用户。當時,這個用户在reddit社區上傳了AI換臉視頻,把色情電影中女演員的臉換成了一些著名影星。在引發巨大的爭議之後,reddit論壇封禁了這個賬號,但deepfake卻把源代碼開源了。這就意味着,武器就公開暴露在網絡上,稍有技術力量的人與歐公司,都能完成同樣的事
 
這樣的技術,當然也會中國人copy to china,衍生了一些黑色產業鏈。諸如100元打包200部換臉情色片,5張照片幫你定製換臉視頻,400元就可以購買換臉軟件及教程幷包教包會。
 
不過,對於普通人來説,並不用太擔心,一般人並不會成為大眾的目標,被換頭暴露在公眾中。對於明星而言,這早已不是稀奇事了。
 
所以,這款APP並沒有帶來新增風險因為風險早已存在。類似於在網上能買到槍的情況下,水彈槍的風險。ZAO的出現,只是讓人知道了技術能做到這點而已,使問題引起注意,反而帶來了安全。
 
隨着這個技術的發展,未來必然對影視行業產生很大的衝擊。演員只需要授權自己的面部特徵,其他都交給電腦特效公司,利用人工智能生成。比如,前段時間,某影星因為出軌,人設崩塌,但其參與的電視台晚會節目已經全部錄好,最後,不得不採取剪切畫面等嚴重破壞觀感的辦法來消除該男星的形象。如果AI換臉技術完成度更高,就可以低成本地做到同樣的事。
 


在電影《未來學大會》中,過氣女主角羅賓賣掉了掃描自己面部產生的虛擬形象,這個形象藉由人工智能參與電影的角色扮演,反而大火。

在《阿甘正傳》中,湯姆·漢克斯扮演的阿甘就有和肯尼迪總統握手、互動的鏡頭。阿甘正傳是1994年的電影,已經是25年前的事了。當然那時的基礎技術原理和現在不同,那時是電影CG特效,現在是人工智能與機器視覺,可以做得更好。
 
技術不可阻擋,關鍵看用在什麼地方,趨利避害,可以利用在好的地方,避免不好的地方。更重要的是,那些無法完全避免,或者完全避免並不必要的壞處,人類社會也能通過經驗去適應。
 
隨着圖像技術的發展,現在假的圖片已經很多了,但社會基本上很好地適應了這個改變。哪怕這個改變僅僅出現在近十年內。人們會懷疑、會等待、直到專家確認。幸運的是,現在的修圖技術,仍然做不到天衣無縫,“毫無ps痕跡”。至於視頻,要做到完美則更難。所以,目前來看,並不會造成太大的衝擊。
 
當然有了這個技術,憑藉一張相片,就能做出眨眼、張嘴、扭頭等動作,這意味着人臉識別技術被破解。不過,這裏也有很大的誤解。比起古老的密碼技術,人臉識別技術是新發明,人們往往都認為新發明一定全面超越舊技術,自然認為人臉識別比輸入密碼更高級、更安全。但事實並不是這樣,人臉識別的好處是方便,而不是安全。一個是明晃晃暴露在公共場所的臉,一個是深埋大腦中的密碼,當然是後者更安全。
 
所以,很多時候,當人們依賴技術的時候,就會希望技術解決一切,但很多時候,迴歸自身,才是最好的解決方案。睜大眼睛、仔細觀察、不相信一切權威,獨立思考,才是維護自由、保證安全的好辦法。


大家一週閲讀排行

1.張偉 | 在香港,我看了一場容祖兒的演唱會

2.袁凌 | 一個生病的小孩,一個被漸漸拖垮的中國家庭

3.凌嵐|在紐約的白骨精們可以公開欣賞春宮畫之前,美國社會也是極端虛偽的

4.老貓 | 老老實實做貓奴,千萬不要想太多

5.魏武揮 | 對於中國的師生關係,你們可能有很大的誤解

點擊文末在看,幫喜歡的文章衝榜


文章內容純屬作者個人觀點,不代表平台觀點。

https://hk.wxwenku.com/d/201346671