你ZAO嗎,AI“換臉”爆紅,背後卻隱藏巨大隱患

金融投資報2019-09-10 21:01:15

本文共2381

閲讀完約5分鐘



“僅需一張照片,出演天下好戲”。近日,一款名為ZAO的AI換臉APP在朋友圈刷屏。


通過這款軟件,用户可實現與明星AI“換臉”,立馬進入明星出演的影視片段中。但是,這款App走紅後,隨之而來的是巨大的爭議,霸王條款、信息安全、用户隱私、倫理道德……,各種問題紛至沓來。


從8月30日ZAO一夜爆紅,到9月3日官方不得不出來致歉,不到4天,這款換臉App似乎就有下架風險,AI變臉應用背後面臨着怎樣的巨大隱患?個人信息應當如何保護?


1


陌陌新App“ZAO”一夜爆紅


網友們怎麼也沒想到,自己的臉有一天可以出現在電視劇電影裏,還能跟心愛的愛豆演起情侶。通過AI換臉,每個人都可以是女神、高富帥,也可以變身周星馳、彭于晏。


“我跟胡歌演對手戲啦。”“我已穿越到延禧攻略!”“我可以演大話西遊紫霞仙子啦!”


8月30日晚,大批網友在社交平台發佈了與明星合演的小視頻,“奧祕”就是從換臉軟件ZAO中上傳一張個人照片,在素材庫裏尋找心儀的影視素材,替換掉影視劇裏面的人物的臉,還原著名場面。


隨着3天的網絡發酵,ZAO迅速收割了百萬下載量,9月1日一躍成為App Store全站排行榜第2位,娛樂類App第1位,一夜爆紅。



網友們的過分熱情甚至一度造成了服務器的崩潰。


根據ZAO官方微博透露,這個月(8月份)花700萬元租的服務器,一晚就已經消耗了1/3,其火爆程度可見一斑。




可是很快,僅僅3天,這個爆款APP的標籤就從“新奇、有趣”變為“隱私、風險”。


大家開始擔心,自己上傳的人臉會不會被盜用於人臉識別,並發現ZAO的用户協議中,存在不少貓膩。


2


從走紅到落下神壇僅4天

ZAO暗藏隱患


首先發酵的是ZAO的霸王條款涉及的肖像權和隱私問題。


該APP的原用户協議顯示:

“在您上傳及/或發佈用户內容之前,您同意或者確保實際權利人同意授予ZAO及其關聯公司以及ZAO用户全球範圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利等。”


也就是説,在換臉的時候,用户不僅需要被換臉的對象的許可,而且還自動地把肖像權給了App,App具有完全免費、不可撤銷、永久的轉授權。

很明顯,這種條款完全是霸王條款。ZAO一方面規避了明星的肖像權問題,一方面又擅自決定自己可以使用用户的肖像權。


更嚴重的是,用户一旦把自己的肖像權讓渡了出去,就會面臨各種安全隱患,包括財產安全和人身安全的問題。法律界人士也指出這款軟件或成為一些不法分子敲詐勒索的工具。

其次,對於ZAO的素材使用也頗受爭議。


點進ZAO的素材使用頁,在版權聲明中,ZAO寫道:


“短視頻和表情素材,除了特別聲明是ZAO跟合作方進行版權合作的之外,均來自於用户自發的上傳,ZAO不享有素材的商業版權。


業內人士認為,是否商用並不是判定侵權的標準,業餘愛好者製作的視頻也可能會侵權。“在原作的基礎上進行二次創作,應該得到原作著作權人的許可,如果未經許可就使用了原作內容,就非常有可能構成侵權。”


隨着輿論持續發酵,ZAO隨後對上述用户協議條款做出了調整,刪除了“不可撤銷”、“永久授權”、“對修改前後的用户內容進行信息網絡傳播”等説法。



ZAO雖然修改了部分用户協議內容,但網友們也並不買賬。

9月2日, ZAO的微信分享鏈接已停止訪問,頁面顯示“網頁存在安全風險,被多人投訴,為維護綠色上網環境,已停止訪問”。截至9月3日,依舊未恢復。


ZAO的網絡評分也一直下滑,截至9月3日下午17時,App Store中ZAO的評分已由此前的4.6分降至2.5分,華為應用市場中ZAO的評分也已低至2.1分


9月3日午間,針對換臉應用隱私安全等問題的質疑,換臉App ZAO在官方微博發佈聲明道歉,稱不會存儲個人面部生物識別特徵信息,不會產生支付風險。


但部分網友表示,截至目前,還無法註銷。


據天眼查,ZAO所屬公司為長沙深度融合網絡科技有限公司,該公司是海南喵咖網絡科技的全資子公司,而海南貓咖網絡科技股東為陌陌高管雷小亮和王力,兩人各持50%股份。同時,海南喵咖網絡科技的所有股權都質押給了陌陌。

對於ZAO引發的熱議以及陌陌對於用户信息究竟是如何管理?截至發稿,陌陌方面未予迴應。


3


AI“換臉”觸用户逆鱗

生物信息泄露更可怕


事實上,在對ZAO的評論中,有這樣一類評論引發了這款App更大的爭議。


有評論稱,用户協議中的條款不是最重要的,目前最需要關注的是對用户生物識別信息的採集。當指紋或者面部信息被採集盜用,才是最讓人恐慌的。


“臉部信息的細節實在是太豐富了,是一種‘生物信息,可以説是非常敏感的個人信息,一旦泄露帶來的影響遠比上網時產生的數據信息泄露風險更大。”


新華社表示,“換臉”技術被用在一些涉嫌違法犯罪領域的情況已不少見。一些網站用“AI換臉”“換臉視頻”等方式提供用知名藝人“面孔”“嫁接”出的視頻。這些視頻往往涉嫌色情淫穢,且難辨真假。


實際上,AI換臉在國外早已“臭名昭著”。


早在2017年年底,就已經有用户利用DeepFakes技術,將蓋爾·加朵、斯嘉麗 · 約翰遜、艾瑪沃森等女明星的臉與AV女優進行替換,製作出了十分逼真的色情片。


比如印度記者Rana Ayyub,她因為揭露了古吉拉特暴亂中的某些黑幕,收到了死亡威脅,以及“色情復仇”。


知情人表示,除販賣“換臉”非法音視頻產品牟利外,一些不法分子還利用手中掌握的貸款人人臉信息,以此類技術進行非法催收活動,直接侵害貸款人人格權、名譽權,甚至滋生出敲詐勒索等其他嚴重犯罪活動。

很多網友最關心的話題還是刷臉支付是否會被破解。

對此,支付寶發微博稱:目前,網上各類換臉軟件有很多,但不管換的有多逼真,都是無法突破刷臉支付的。


但值得注意的是,技術風險可能還是存在的。此前央視315晚會就曾報道過,一張照片可騙過人臉識別,何況ZAO用的是動態的“臉”。


業內法律人士認為,“該軟件可能會蒐集位置信息、銀行卡號、支付寶賬號、相冊等,這些都是個人用户極為敏感的信息,一旦平台出現故障導致用户信息泄露,將會對用户造成很大的安全隱患。”

此外,有媒體表示,設計人臉信息識別的App不光有ZAO,還有超過40款涉及人臉信息識別的應用軟件,而類似ZAO的霸王條款也是屢見不鮮。


正如人民日報所評,在人工智能領域,特別是技術的產業化層面,中國公司已經走在了前面。對你我而言,哪款產品能火多久或許沒這麼重要,新技術中可能存在哪些風險更值得深思也更值得注意。

所以,個人信息的蒐集需要有底線,個人信息的保護必須有紅線。當企業再“造”這類爆款應用時,應該更早地把防火牆“造”起來,而且要把防火牆“造”得更堅固。而作為用户,看到這類“躁起來”的爆款,應用前請先確認安全風險,“稍安勿躁”。

部分資料來自新華網、人民日報等
編輯|陳思源 審核|賈秋紅

本文為|金融投資報jrtzb028(微信號)原創文章

未經授權,禁止轉載  如需轉載,請聯繫金妹兒

轉載須在正文開頭顯著位置

註明稿件來源及作者名,違者必究

 

本報法律顧問

北京煒衡(成都)律師事務所  羅浩斐 律師


 

聯繫金妹兒


商務合作:028-86968491




https://hk.wxwenku.com/d/201339042