人在坐,AI在看

網易科技2019-09-11 07:36:38

乾明 魚羊 發自 凹非寺 
來源 | 量子位(公眾號ID:QbitAI)

教室之內,你做什麼AI都有記錄?!

為此曠視不得不迴應了。

昨天,一張帶有“MEGVII曠視”圖標的視頻監控圖像在社交網絡上瘋傳。

圖中顯示,兩名在教室中的女生身邊,顯示出了相應的課堂行為數據,比如趴桌子、玩手機、睡覺、聽講、閲讀、舉手等等。

伴隨這張圖,還有大量網友嚴厲的指責與質疑,認為這樣的技術不應該出現在課堂中。加之變臉AI應用ZAO引發的關注,隱私話題再次被談及。

不過相比起來,曠視對這些批評感覺有些冤,按照其官方迴應,“這只是技術場景化概念演示”。

但引發的關注還在繼續,更多教育場景內的AI應用,也引起前所未有的重新審視。


攝像頭盯着你上課

事情跟剛剛進入的開學季有關。

九月新學期開始後,不少學生就發現,自己熟悉的校園中出現了人臉識別系統。

比如位於南京的中國藥科大學,在校門、圖書館和宿舍都安裝了人臉識別門禁。

對於智能門禁,學生們的接受度倒是很高。有人認為這套系統識別準確,速度也很快;有人表示不再擔心忘帶校園卡,確實很方便。

學校保衞處負責人也表示,比起從前實行的校園卡刷卡通行,人臉識別系統的引入解決了過去師生忘帶校園卡的麻煩,也解決了代刷卡、複製卡等校園安保問題。

但這套來自“刷臉之王”曠視Face++的系統,可能不止是人臉識別刷門禁。

在梨視頻的採訪中,校方介紹,這套系統不僅能對進入教室的學生進行全程人臉識別,還能監測到學生抬頭低頭,是否玩手機,是否發呆等行為細節。

關於這類系統,曠視也早有過相關介紹,目標所指是輔助教育:

在課堂教學評價系統中,曠視科技將自主研發的人臉識別、行為識別、表情識別等技術,集成在考勤及行為分析攝像機MegEye-C3V-920和行為分析服務器中。

通過對課堂視頻數據進行實時的結構化分析,反饋學生行為、表情、專注度、前排上座率等多維度課堂數據,輔助教學評估評價。

沒想到,竟然在社交媒體上引發大討論。

曠視在官方迴應中説,自己在教育領域的產品專注於保護孩子在校園的安全。

相應的解決方案,可以協助學校管理人員提升效率並保障學生安全,主要用於智能校門、教室門及宿舍的出入,方便學生安全出入校園。

至於引發討論的課堂行為分析圖片,是技術場景化概念演示。

但根據校方説法,相關係統已在兩間教室中進行試點,如果效果好,會進行全校推廣。

其實,這樣的技術和應用並不算稀奇。有網友表示,這種校園分析的新聞去年前年就有了,現在竟然來了個大爆發……而且成為熱搜事件,着實意料之外。

教育場景正成為AI落地跑馬場

但不容忽視的事實是,這幾年來AI賦能落地千行百業的聲勢越來越大,在這樣的大趨勢面前,教育場景可以説是藍海一片。

《2019年中國智慧教育行業市場發展及趨勢研究報告》數據顯示,2010-2018年中國智慧教育行業規模持續擴大,增速保持在10%以上,2018年市場規模超過5000億元。

眾多AI技術公司、教育場景公司,都紛紛加入戰局,加入新紅利的爭奪中。

而且作為AI領域最為成熟的技術方向,各種計算機視覺/人臉識別方案早已見怪不怪。在校園中採用人臉識別技術,也都已經不稀罕。

但沒有哪家公司的方案,止步於門閘刷臉。

閘機只是切入點,更多方案提供商希望的是用AI來重構整個教育全流程,課堂自然是一個能夠大展拳腳的地方。

當然,水大魚大,競爭者也多。提供這樣方案的,遠不止曠視一家。

打開搜索引擎搜索“課堂人臉識別”,能夠得到621萬條結果,各種大大小小的公司,都有相應方案。

其中甚至不乏更為驚人的“黑科技”方案。

比如掌門1對1,已經與商湯達成戰略合作,在情緒智能識別等領域進行研究,目的就是通過在線輔導的情緒識別,看學生是否處於認真上課的狀態。

創始人兼CEO張翼還分享過用“腦電波”的設想:

腦機交互的可穿戴智能設備可以實時監測學生的腦電波數據,通過腦電動態數據採集分析,對學生在學習過程中進行情緒識別、疲勞度識別,分析判斷學生在學習過程中的精神狀態、思維活躍度和學習專注力。

此外,還有英特爾、K12在線教育機構海風教育,少兒英語教育結構VIPKID等等都有相應系統與解決方案提供。

總體來説,之前“一塊屏教育”的故事延續,就是AI可以幫助教學過程實現數據化、機器學習化。

而且談到AI落地傳統學校,也不是隻有這次引發關注的中國藥科大學。

隨手一查,案例新聞非常豐富:

比如2018年5月,浙江省重點杭州第十一中學(阿里雲之父王堅母校),將名為“智慧課堂行為管理系統”的科技應用於課堂教學。

新京報報道中表示,這一系統也可以對課堂上學生的行為進行分析,並對異常行為實時反饋,工作流程是這樣的:

系統每隔30秒會進行一次掃描,針對學生們閲讀、舉手、書寫、起立、聽講、趴桌子等6種行為,再結合面部表情是高興、傷心,還是憤怒、反感,分析出學生們在課堂上的狀態。

目前僅趴桌子一項為負分行為。若此類不專注行為達到一定分值,系統就會向顯示屏推送提醒,任課教師可根據提醒進行教學管理,而顯示屏僅任課教師可見。

不過,校方也給出了迴應,在系統設計伊始,便考慮到了隱私問題,系統只採集代碼,並非學生面部影像。

此外借AI落地之名進入校園,也不僅僅只是基於人臉識別的解決方案,還有基於各種傳感器的“智慧校服”。

去年12月底,貴州10多所中小學的學生穿上“智能校服”引起大量關注。

供應商介紹稱,這套智能校服,能精準、及時記錄他們的出勤和活動。只要身着這套校服,學生進出校門的準確時間就會自動發送給學校老師和家長。

而且如果未經許可出校門,那也會激活自動語音報警器。校服還會配合校門口的智能攝像頭一起使用,假如學生互換校服,警報也會響起。甚至它也能發送準確的具體位置,幫助學校和家長快速定位。

但類似方案,也不是中國專利,全球同此涼熱。

早在2012年3月份,巴西也推出了類似智能校服,引發了媒體廣泛關注。

巴西維多利亞達孔基斯塔市最早推出一款智能T恤,這條T恤內置了芯片,可以讓家長知道孩子究竟有沒有逃課了。

還有瑞典(真歐洲國家)一中學,使用人臉識別等技術對22名學生進行了為期三週的跟蹤調查,記錄下他們每次進入教室的情況。

毫無疑問,這樣的人工智能入校、AI+教育,也同樣引起了爭議與廣泛的討論。

爭議四起:隱私何在?

核心熱議焦點,依然是AI技術落地中的技術。

有抖機靈的網友説,學霸們研發的AI,正在不斷壓縮學渣摸魚的空間。

但更多網友,關注的還是技術價值觀的話題:技術本身無罪,但這並不代表技術的落地,不需要多方面權衡考量。

而且日常工作學習為攝像頭所監控,監控背後的AI還要分析量化你的一舉一動,未免讓人有些毛骨悚然。

另外在這場突然掀起的風暴之中,AI落地帶來的“隱私”邊界,也令人深思。

有微博網友認為,這種無死角全過程的AI監控,是在扼殺情感。

有人表示絕對不會讓自己的孩子處在這種環境之中。

也有人指出,這是對教育的本末倒置,學校應用這種技術,不是在培養人,而是在培養升學率。

“技術再好,用的地方不對有什麼意義呢?”

這種評論也代表了很多吃瓜網友的心聲。就像《黑鏡》中描述的未來科技,誕生之初哪有正邪之分呢?

除了隱私、自由,教育場景中令人擔心的還有數據安全問題。

2018年8月的一則判決文書中,就披露了一起非法出售學生信息的案例。

當時負責管理維護安徽全省學籍管理系統的張某,利用職務之便,以每條1毛錢的價格,出售了4萬名學生的隱私信息。據新浪財經報道,張某任職的公司正是科大訊飛。

前沿技術的發展,有時候遠超公眾的想象。當一項技術真正走向落地,就不再是小眾的狂歡,而要接受大眾的審視。

如何選擇更合適的技術落地場景,如何兼顧科技與社會人文,或許是AI賦能,必須要去面對和思考的問題。

國內國外,也開始越來越多傳遞出這樣的風向。

比如谷歌開始越來越多科普利於隱私的“聯邦學習”,騰訊在創辦20週年時將“科技向善”寫入公司使命和願景,而即將IPO上市的曠視實際也在招股書中明確建立“AI道德委員會”。

掌舵微軟AI的沈向洋還呼籲,應該每一項AI技術和產品應用前,都要通過倫理道德委員會審查。

雖然人類在發明汽車80年後才發明安全帶,但AI時代裏,我們需要現在就為AI技術繫上安全帶了。

總而言之,AI和隱私安全的話題,一切還不會就此終止,還會有更多事件、更多應用被放在聚光燈下審視。

你覺得呢?


https://hk.wxwenku.com/d/201348015