開學AI登場!高校“試水”人臉識別考勤管理學生

騰訊科技2019-09-12 06:22:35

點擊上方“騰訊科技”,“星標或置頂公眾號”

關鍵時刻,第一時間送達


來源 / 量子位(ID:QbitAI)

作者 / 乾明 魚羊 

歡迎下載騰訊新聞APP,查看更多科技熱點新聞


教室之內,你做什麼AI都有記錄?


為此曠視不得不迴應了。


昨天,一張帶有“MEGVII曠視”圖標的視頻監控圖像在社交網絡上瘋傳。


圖中顯示,兩名在教室中的女生身邊,顯示出了相應的課堂行為數據,比如趴桌子、玩手機、睡覺、聽講、閲讀、舉手等等。


伴隨這張圖,還有大量網友嚴厲的指責與質疑,認為這樣的技術不應該出現在課堂中。加之變臉AI應用ZAO引發的關注,隱私話題再次被談及。


不過相比起來,曠視對這些批評感覺有些冤,按照其官方迴應,“這只是技術場景化概念演示”。


但引發的關注還在繼續,更多教育場景內的AI應用,也引起前所未有的重新審視。


攝像頭盯着你上課


事情跟剛剛進入的開學季有關。


九月新學期開始後,不少學生就發現,自己熟悉的校園中出現了人臉識別系統。




比如位於南京的中國藥科大學,在校門、圖書館和宿舍都安裝了人臉識別門禁。


對於智能門禁,學生們的接受度倒是很高。有人認為這套系統識別準確,速度也很快;有人表示不再擔心忘帶校園卡,確實很方便。



學校保衞處負責人也表示,比起從前實行的校園卡刷卡通行,人臉識別系統的引入解決了過去師生忘帶校園卡的麻煩,也解決了代刷卡、複製卡等校園安保問題。


但這套來自“刷臉之王”曠視Face++的系統,可能不止是人臉識別刷門禁。


在梨視頻的採訪中,校方介紹,這套系統不僅能對進入教室的學生進行全程人臉識別,還能監測到學生抬頭低頭,是否玩手機,是否發呆等行為細節。



關於這類系統,曠視也早有過相關介紹,目標所指是輔助教育:


  • 在課堂教學評價系統中,曠視科技將自主研發的人臉識別、行為識別、表情識別等技術,集成在考勤及行為分析攝像機MegEye-C3V-920和行為分析服務器中。


  • 通過對課堂視頻數據進行實時的結構化分析,反饋學生行為、表情、專注度、前排上座率等多維度課堂數據,輔助教學評估評價。


沒想到,竟然在社交媒體上引發大討論。


曠視在官方迴應中説,自己在教育領域的產品專注於保護孩子在校園的安全。


相應的解決方案,可以協助學校管理人員提升效率並保障學生安全,主要用於智能校門、教室門及宿舍的出入,方便學生安全出入校園。


至於引發討論的課堂行為分析圖片,是技術場景化概念演示。



但根據校方説法,相關係統已在兩間教室中進行試點,如果效果好,會進行全校推廣。


其實,這樣的技術和應用並不算稀奇。有網友表示,這種校園分析的新聞去年前年就有了,現在竟然來了個大爆發……而且成為熱搜事件,着實意料之外。


教育場景正成為AI落地跑馬場


但不容忽視的事實是,這幾年來AI賦能落地千行百業的聲勢越來越大,在這樣的大趨勢面前,教育場景可以説是藍海一片。


《2019年中國智慧教育行業市場發展及趨勢研究報告》數據顯示,2010-2018年中國智慧教育行業規模持續擴大,增速保持在10%以上,2018年市場規模超過5000億元。


眾多AI技術公司、教育場景公司,都紛紛加入戰局,加入新紅利的爭奪中。


而且作為AI領域最為成熟的技術方向,各種計算機視覺/人臉識別方案早已見怪不怪。在校園中採用人臉識別技術,也都已經不稀罕。


但沒有哪家公司的方案,止步於門閘刷臉。


閘機只是切入點,更多方案提供商希望的是用AI來重構整個教育全流程,課堂自然是一個能夠大展拳腳的地方。


當然,水大魚大,競爭者也多。提供這樣方案的,遠不止曠視一家。


打開搜索引擎搜索“課堂人臉識別”,能夠得到621萬條結果,各種大大小小的公司,都有相應方案。



其中甚至不乏更為驚人的“黑科技”方案。


比如掌門1對1,已經與商湯達成戰略合作,在情緒智能識別等領域進行研究,目的就是通過在線輔導的情緒識別,看學生是否處於認真上課的狀態。


創始人兼CEO張翼還分享過用“腦電波”的設想:


腦機交互的可穿戴智能設備可以實時監測學生的腦電波數據,通過腦電動態數據採集分析,對學生在學習過程中進行情緒識別、疲勞度識別,分析判斷學生在學習過程中的精神狀態、思維活躍度和學習專注力。


此外,還有英特爾、K12在線教育機構海風教育,少兒英語教育結構VIPKID等等都有相應系統與解決方案提供。



總體來説,之前“一塊屏教育”的故事延續,就是AI可以幫助教學過程實現數據化、機器學習化。


而且談到AI落地傳統學校,也不是隻有這次引發關注的中國藥科大學。


隨手一查,案例新聞非常豐富:


比如2018年5月,浙江省重點杭州第十一中學(阿里雲之父王堅母校),將名為“智慧課堂行為管理系統”的科技應用於課堂教學。


新京報報道中表示,這一系統也可以對課堂上學生的行為進行分析,並對異常行為實時反饋,工作流程是這樣的:


  • 系統每隔30秒會進行一次掃描,針對學生們閲讀、舉手、書寫、起立、聽講、趴桌子等6種行為,再結合面部表情是高興、傷心,還是憤怒、反感,分析出學生們在課堂上的狀態。


  • 目前僅趴桌子一項為負分行為。若此類不專注行為達到一定分值,系統就會向顯示屏推送提醒,任課教師可根據提醒進行教學管理,而顯示屏僅任課教師可見。


不過,校方也給出了迴應,在系統設計伊始,便考慮到了隱私問題,系統只採集代碼,並非學生面部影像。


此外借AI落地之名進入校園,也不僅僅只是基於人臉識別的解決方案,還有基於各種傳感器的“智慧校服”。


去年12月底,貴州10多所中小學的學生穿上“智能校服”引起大量關注。


供應商介紹稱,這套智能校服,能精準、及時記錄他們的出勤和活動。只要身着這套校服,學生進出校門的準確時間就會自動發送給學校老師和家長。



而且如果未經許可出校門,那也會激活自動語音報警器。校服還會配合校門口的智能攝像頭一起使用,假如學生互換校服,警報也會響起。甚至它也能發送準確的具體位置,幫助學校和家長快速定位。


但類似方案,也不是中國專利,全球同此涼熱。


早在2012年3月份,巴西也推出了類似智能校服,引發了媒體廣泛關注。


巴西維多利亞達孔基斯塔市最早推出一款智能T恤,這條T恤內置了芯片,可以讓家長知道孩子究竟有沒有逃課了。


還有瑞典(真歐洲國家)一中學,使用人臉識別等技術對22名學生進行了為期三週的跟蹤調查,記錄下他們每次進入教室的情況。


毫無疑問,這樣的人工智能入校、AI+教育,也同樣引起了爭議與廣泛的討論。


爭議四起:隱私何在?


核心熱議焦點,依然是AI技術落地中的技術。


有抖機靈的網友説,學霸們研發的AI,正在不斷壓縮學渣摸魚的空間。



但更多網友,關注的還是技術價值觀的話題:技術本身無罪,但這並不代表技術的落地,不需要多方面權衡考量。


而且日常工作學習為攝像頭所監控,監控背後的AI還要分析量化你的一舉一動,未免讓人有些毛骨悚然。


另外在這場突然掀起的風暴之中,AI落地帶來的“隱私”邊界,也令人深思。


有微博網友認為,這種無死角全過程的AI監控,是在扼殺情感。


有人表示絕對不會讓自己的孩子處在這種環境之中。



也有人指出,這是對教育的本末倒置,學校應用這種技術,不是在培養人,而是在培養升學率。



“技術再好,用的地方不對有什麼意義呢?”



這種評論也代表了很多吃瓜網友的心聲。就像《黑鏡》中描述的未來科技,誕生之初哪有正邪之分呢?


除了隱私、自由,教育場景中令人擔心的還有數據安全問題。


2018年8月的一則判決文書中,就披露了一起非法出售學生信息的案例。



當時負責管理維護安徽全省學籍管理系統的張某,利用職務之便,以每條1毛錢的價格,出售了4萬名學生的隱私信息。據新浪財經報道,張某任職的公司正是科大訊飛。


前沿技術的發展,有時候遠超公眾的想象。當一項技術真正走向落地,就不再是小眾的狂歡,而要接受大眾的審視。


如何選擇更合適的技術落地場景,如何兼顧科技與社會人文,或許是AI賦能,必須要去面對和思考的問題。


國內國外,也開始越來越多傳遞出這樣的風向。


比如谷歌開始越來越多科普利於隱私的“聯邦學習”,騰訊在創辦20週年時將“科技向善”寫入公司使命和願景,而即將IPO上市的曠視實際也在招股書中明確建立“AI道德委員會”。


掌舵微軟AI的沈向洋還呼籲,應該每一項AI技術和產品應用前,都要通過倫理道德委員會審查。


雖然人類在發明汽車80年後才發明安全帶,但AI時代裏,我們需要現在就為AI技術繫上安全帶了。


總而言之,AI和隱私安全的話題,一切還不會就此終止,還會有更多事件、更多應用被放在聚光燈下審視。


你覺得呢?




近期精選

全球首個 “數字人類” 曝光!意識在雲端永生

腦門貼張紙,騙過Face ID!

“墳場”以外的歸屬:共享單車都去哪了?

https://hk.wxwenku.com/d/201360099