他開發了一個系統,用來識別私生活混亂的女性

後窗工作室2019-06-07 19:01:46

有人提出,這個系統可能會被一部分人用來尋找濫交的女性,從而變成約炮工具,你有考慮過這個問題嗎?


不存在這個可能這個查詢系統需要通過eID(公民網絡電子身份標識)實名認證後註冊登錄,不經過本人同意是無法查詢的。增加人臉識別作為二次確認後,只能查詢自己是否有視頻或圖片被上傳到色情網站。


文 | 陳怡含

編輯 | 陶若谷


5月28日早上,程序員李旭(化名)到自己的公司後,發現前一天發的一條微博在網上炸了。評論區裏,罵聲撲面而來:“以蕩婦羞辱為本質”、“對他人隱私的完完全全地侵犯”、“違法而滿足一己私慾的炫技”……


半年時間,100多TB數據,利用海外一些主要色情網站採集的數據比對微博等社交媒體,李旭在名為“將記憶深埋“的微博裏寫,他們“在全球範圍內成功識別了10多萬從事不可描述行業的小姐姐”。


簡單説,他和他的團隊利用圖像比對的原理開發了一套AI系統,用來識別社交媒體上“濫交的女性”。2018年8月13日,他首次在網絡上發佈了關於這個項目的構想——


“鑑於很多人都在説程序員是各種退休小姐姐的接盤俠,我聯合了幾個小夥伴準備把各種色情網站上的視頻和圖片打tags後去做匹配,為碼農朋友們做一個初步過濾。”


專欄作家侯虹斌告訴《極晝》,女性選程序員作為’接盤俠’,“完全是他們一種非常荒誕的想象”。相反,她提到美國警方曾在一兩年前公佈過一項數據,某次“釣魚執法”抓到的上百名男性嫖客裏,中文姓名的超過1/10,身份是在當地工作的程序員。她認為,李旭從頭到尾都是要為男性謀福利,“帶有極其男權的視角,獵奇、猥瑣的那種”。


侯虹斌認為,視頻中的人不管是不是性工作者,一定有被偷拍的、被迫的。本來這些視頻只有很少一部分人才會看到,但經過他們傳播,色情網站的瀏覽量一定會暴增,對受害女性會二次傷害,除非這個系統完全沒有影響力。


“我一直在嘗試解釋,但已經沒有人願意聽了。”李旭接連發布多條微博,説明查詢需要通過實名認證和人臉識別,僅供本人檢測是否在網絡上被傳播過不雅視頻和圖片;項目並非為了盈利,而是想幫助“真正需要幫助的人”。他原本計劃“在解決法律問題後公開發布(這個查詢系統)”。


數輪辯論後,他關閉了評論功能。5月31日,他取消了前一日宣佈的開通直播間接受所有媒體採訪的計劃,只留下郵箱地址,用以迴應公眾的質疑。隨後,他刪除了項目的所有數據。


《極晝》通過郵件聯繫了李旭。他逐一回復了問題,答案總是簡短、概括。李旭在德國創業,有自己的科技公司。微博簡介裏,他給自己加上幾個標籤:異性戀,C/C++,Lisp,Julia Developer,Startup,非著名黑客,人工智能磚家,aka(Also Known As)真偽書生。


"我們篩選出了不到11萬女性,擁有微博或抖音帳號的不到1000人"


極晝:你做這個項目的靈感和初衷是什麼?


李旭:最初是為了尋找那些濫交的女性。但在項目真正啟動後,我覺得女性可以用它來查詢色情網站上是否有自己被迷姦、誘姦的視頻或圖片,並且它可以讓她們嘗試發送“DMCA刪除請求”給色情網站,這樣可能會更有意義。


(編者注:DMCA全稱為“Digital Millennium Copyright Act”,即美國的《數字千年版權法案》,是保護網絡作品著作權的法律依據。)


極晝:你怎麼定義“濫交的女性”?身邊有嗎?


李旭:就是網上一些炫耀自己睡了多少男人、喜歡羣交的女性。父母曾經教育過我要遠離那些“亂七八糟的女性”。我身邊沒有。


極晝:為什麼要尋找她們呢?


李旭:我有一個朋友,十多年前上大學的時候認識的,他被這種人傷害過。去年,他染上了HIV,問我借錢治病。他談起這件事的時候很懊悔,也帶着絕望。患病對他的影響很大,原本挺開朗的一個人,變得沉默寡言。現在他身體還好,仍然在治療中。


極晝:女方是性工作者嗎?


李旭:我不好給別人亂貼標籤,不知道是不是職業性工作者。但我在色情網站上發現了那個女孩和一些黑人的性愛視頻。


她並不知道自己被感染(HIV),不是惡意隱瞞。得知我朋友患病之後,她也很絕望。


極晝:項目真正啟動後,想法為什麼發生了轉變?


李旭:我們在抓取數據後發現,在歐美色情網站上,有很多中國女性被偷拍的性愛視頻,而且在一些社交平台上,還有人用視頻和圖片炫耀自己和多少箇中國女性做過愛。


後來我們在全球篩選出了不到11萬女性,其中擁有微博或抖音帳號的,只有不到1000人。這個數字在我意料之外,卻也在情理之中,因為我們並沒有採集到太多的國內社交媒體的數據。


極晝:為什麼只做女版,不做男版?


李旭:因為採集數據的時候,並沒有採集男性社交媒體數據來進行大規模訓練,倉促做男版誤報率可能會非常高。而且我現在工作很忙,沒有太多精力來做。


“做項目時沒有考慮那麼多”


極晝:你在微博上説“聯合了幾個小夥伴”,能介紹一下你的團隊嗎?


李旭:一共有七個人,來自不同國家,其中有一個女性。他們都是我打電話邀請的,其中兩個人有過猶豫,擔心程序做出來後被濫用,最終大家在線下見面,一起討論了整個項目的社會意義,以及如何保證數據不被濫用,才確定下來。


極晝:能形容一下他們都是什麼樣的人嗎?


李旭:可以説是Geek(極客),也可以説是Old School Hacker(老派黑客)。


極晝:中途有人退出嗎?


李旭:沒有。


極晝:你們是否考慮過合法性問題?從什麼時候開始的?


李旭:做項目的時候並沒有考慮那麼多,兩個月前開始考慮。我説過很多次,在做好完整的隱私條款、解決法律問題之前,這套查詢系統是不會發布的。


極晝:系統的數據來源是什麼?是否會有侵犯隱私權的風險?


李旭:目前的數據來源於互聯網的公開數據。至於採集社交媒體數據,那是沒辦法的事兒,因為前期需要數據做支撐,進行規模訓練。商業化的情況下,可能會存在部分侵犯隱私權(的風險)。


(編者注:西安交通大學蘇州信息安全法律研究中心主任馬民虎告訴《極晝》,根據我國的《網絡安全法》,未經本人同意在社交網絡收集個人信息是一種非法行為。如果有中國用户使用這個系統,開發者就會面臨違反《網絡安全法》的風險。


中國人民大學法學院教授張新寶補充,鑑於開發行為在德國發生,開發者會觸犯到歐盟去年5月25日出台的《通用數據保護條例》。這一條例曾被評價為“史上最嚴個人數據保護條例”。)


極晝:性愛視頻網站上有大量的偷拍,如何甄別擺拍與偷拍?


李旭:通過攝像機的角度和位置來區分。


極晝:如何甄別性交易與伴侶之間的性愛視頻?


李旭:無法甄別。


極晝:這樣可能會影響到不是性工作者的女性?


李旭:這個查詢系統需要通過eID(公民網絡電子身份標識)實名認證後註冊登錄,不經過本人同意是無法查詢的。增加人臉識別作為二次確認後,只能查詢自己是否有視頻或圖片被上傳到色情網站。我不認為這樣會影響到別的女性。


極晝:通過eID系統來保障隱私權,在技術上如何實現?


李旭:歐盟1999年開始推行eID ,目前在很多國家已經完全普及。eID服務是可以隨便申請接入的,在中國也一樣。


(編者注:馬民虎教授解釋,eID與二代身份證網絡認證不同,後者的應用受到《中華人民共和國居民身份證法》的保護,而前者在我國的普及度並不高,國家也沒有在法律層面推行。


中國公民網絡身份識別系統的官網顯示,“凡是認可《eID個人信息保護政策》,致力於保護個人信息的線上應用,均可申請接入eID服務”。申請者需與專門的服務機構簽訂合作協議,並通過eID簽發中心的審核。馬民虎認為,這個系統有非法收集個人信息的風險,簽發中心不會通過其接入eID服務的審核。)


圖片來源:中國公民網絡身份識別系統官網


極晝:有人提出,這個系統可能會被一部分人用來尋找“濫交的女性”,從而變成約炮工具,你有考慮過這個問題嗎?


李旭: 不存在這個可能,答案同上。我也多次在刪除的微博裏提到過。


極晝:有人説這個項目的本質是“蕩婦羞辱”,你怎麼看?


李旭:完全不是,這是典型的污衊。在2018年8月公佈要做這個項目的時候,我就已經考慮了隱私問題。


(編者注:李旭向《極晝》提供的一張截圖顯示,2018年8月13日,他在微博上就提出通過eID實名認證的想法。原文與現在的説法有部分差別:“為了避免濫用和相應法律風險,如果需要獲得源數據,我們會通過eID進行實名認證後獲取。”


2019年5月28日,引起輿論關注後,李旭發佈了這樣一條微博:“鑑於很多(人)説到偷拍視頻存在的問題……在合法的產品對外發布時,我會單獨把偷拍數據比對放在另外一個數據庫。僅供本人通過eID實名登錄並人臉識別認證才能查詢……”)


李旭微博截圖,受訪者供圖


“是的,我做錯了,不應該倉促發布”


極晝:你在什麼時候發現這個項目在網絡上引起了很大風波?


李旭:發佈項目成功那條微博的第二天,我到公司後在微博上看到的。一個帳號(對我的微博)選擇性截圖,並配了一份聊天記錄——不知道是微信還是QQ裏面,有人自稱開發了“原諒寶”程序,要發起眾籌。


網上流傳的那個“原諒寶”,我並不知情。目前為止,我這套系統還沒有命名,不可能是“原諒寶”。


我發現後給那個賬號發了消息,讓他道歉並澄清此事。但事實上已經沒多大作用了,他的微博被轉載到各種論壇和羣裏,鋪天蓋地的漫罵出現。我一直在嘗試解釋,但已經沒有人願意聽了,隨後我關閉了微博的評論。


極晝:之前有預料到會遭受到這麼多的反對和攻擊嗎?


李旭:沒有預料到。我還認為只可能有來自非法色情產業的攻擊。


整個項目過程中都沒有遇到過類似的反對和攻擊。如果有的話,我不會想再受到第二次這樣的攻擊。


極晝:你最不能接受的攻擊是哪種?


李旭:無腦謾罵。


極晝:團隊其他人什麼時候知道的?


李旭:5月29日。他們説我太冒失,不應該那麼衝動地公佈這個消息。


極晝:有人説,如果把這個項目寫進簡歷裏,再也沒有人會錄用你了。你怎麼看?


李旭:我這輩子都不會寫簡歷了,打工是不可能的。


極晝:5月31日,你刪除了項目的所有數據,為什麼?


李旭:承受不了輿論壓力。如果是因為法律風險,我最多不發佈產品。


極晝:你家人的態度是什麼?


李旭:我的未婚妻很支持,她知道這個項目後,主動減少讓我陪她購物的時間,以便我能儘早完成。她也知道我花錢採購設備,並沒有説我什麼。這幾天,她的態度還是和從前一樣,沒有變化。


極晝:這個項目一共花了多少錢?


李旭:超過20萬歐元,完全是我個人出資的。


極晝:這不是一筆小數目。


李旭:這筆錢對我而言並不多,業餘時間我在金融市場大概一個月能賺回來。我做這個項目不是奔着賺錢去的。


極晝:那是完全沒有考慮盈利嗎?


李旭:考慮了盈利,但所有的盈利,除去服務器升級、帶寬費用、電費等保障基礎運營的費用,剩餘的將全部捐贈給預防艾滋病的公益機構。這也是為什麼團隊成員都沒有拿一分錢,做這份業餘工作的最主要原因。


事實上,如果(5月31日)能正常直播的話,產生的所有收益也是直接捐贈給中國預防性病艾滋病基金會,用於救助受艾滋病影響的兒童。這個信息你們可以和平台確認。


極晝:你還把微博頭像改成了鞠躬的小人,旁邊寫着“對不起”,是覺得自己做錯了嗎?


李旭:是的,做錯了。我不應該倉促發布,應該做好完整的計劃,表明我們事實上是要做什麼,並儘可能爭取得到相應部門的支持。


極晝:那句“對不起”是對誰説的?


李旭:對我們的開發人員説的,也是對所有被誤解的人説的。


(應受訪對象要求,李旭為化名)



搜狐極晝工作室出品 

未經許可不得轉載


作者簡介

陳怡含

我情願相信世界不愚昧。

作品包括

《上萬人曾被強制絕育,半世紀後終於等到了國家道歉》

《同濟大學研究生之死》



為嚴肅閲讀提供選項

點擊閲讀原文來搜狐參加更多討論

https://hk.wxwenku.com/d/200827256