人臉識(shí)別十字路口：觸發(fā)臉的恐慌

    “低調(diào)的學(xué)校上熱搜，準(zhǔn)沒好事?！敝袊?guó)藥科大學(xué)大四學(xué)生周琪看到學(xué)校的新聞時(shí)想。

　　8月底，有“藥界清華”之稱的中國(guó)藥科大學(xué)全面引入人臉識(shí)別技術(shù)，不僅用于門禁，還在試點(diǎn)教室安裝攝像頭刷臉考勤，并對(duì)學(xué)生課堂聽課情況全面監(jiān)控。有報(bào)道稱：“在部分教室試水后，逃課和‘替同學(xué)答到’或?qū)⒊蔀闅v史?！?/P>

　　一切早有端倪。6月，周琪收到學(xué)校通知，稱為了做好人臉識(shí)別系統(tǒng)，學(xué)生要提交高要求的照片做信息采集。兩個(gè)月后，周琪就體驗(yàn)到了人臉識(shí)別的應(yīng)用，出入校門、圖書館等“刷臉”通過，不用費(fèi)勁找學(xué)生卡很方便，但是她沒想到隨之而來的是一場(chǎng)風(fēng)暴。

　　最初的宣傳焦點(diǎn)，是學(xué)校應(yīng)用了先進(jìn)的AI技術(shù)，但風(fēng)向很快轉(zhuǎn)變，更多人開始對(duì)教室里無時(shí)無刻的監(jiān)控感到恐懼。

　　在賽迪顧問人工智能部門負(fù)責(zé)人王曉寧看來，這次的爭(zhēng)議，是人臉識(shí)別技術(shù)深入應(yīng)用后必然會(huì)面臨的一個(gè)節(jié)點(diǎn)。從業(yè)內(nèi)來看，2019年，將是人臉識(shí)別被市場(chǎng)檢驗(yàn)的關(guān)鍵一年，很多公司正急于證明自己的變現(xiàn)能力，搶占更多賽道。但整個(gè)行業(yè)卻突然被集體卷入風(fēng)暴眼：人臉識(shí)別使用的邊界，到底是什么？

　　校園信息化的利弊

　　山世光看到中國(guó)藥科大學(xué)的新聞時(shí)，并不意外。他是中科院計(jì)算所研究員、中科院智能信息處理重點(diǎn)實(shí)驗(yàn)室常務(wù)副主任，研究人臉識(shí)別技術(shù)已經(jīng)有二十多年。

　　對(duì)于做技術(shù)的人而言，在校園應(yīng)用人臉識(shí)別技術(shù)監(jiān)控學(xué)生狀態(tài)不算新鮮事。“在業(yè)內(nèi)，一些科技公司早已有了這樣的設(shè)想，或者擁有了接近成熟的技術(shù)?！鄙绞拦庹f。

　　人臉識(shí)別進(jìn)課堂的探索最早引發(fā)關(guān)注，始于2018年。在2018年第75屆中國(guó)教育裝備展示會(huì)上，人工智能公司曠視科技曾展出其智慧教育解決方案，利用人臉識(shí)別、表情識(shí)別等技術(shù)，記錄學(xué)生行為、表情、專注度、前排上座率等多維度課堂數(shù)據(jù)，輔助教學(xué)評(píng)估。除了曠視，百度、騰訊云等其他科技公司也都推出了“課堂專注度”分析的解決方案，技術(shù)和應(yīng)用場(chǎng)景都相差無幾。

　　一些學(xué)校和培訓(xùn)機(jī)構(gòu)正積極擁抱這項(xiàng)新技術(shù)。百度AI開放平臺(tái)顯示，杭州金沙湖實(shí)驗(yàn)學(xué)校、在線機(jī)構(gòu)海風(fēng)教育，以及小童科技創(chuàng)業(yè)公司均是教育方案的客戶。

　　去年3月底，浙江省杭州十一中在高一兩個(gè)班級(jí)試運(yùn)行“智慧課堂行為管理系統(tǒng)”。與中國(guó)藥科大學(xué)幾乎同步，今年8月底，上海中醫(yī)藥大學(xué)附屬閔行薔薇小學(xué)與上海交通大學(xué)E-LEARNING實(shí)驗(yàn)室合作，開發(fā)了智慧課堂行為分析系統(tǒng)。

　　這些系統(tǒng)的做法普遍類似：每隔一段時(shí)間，用攝像頭掃描一次學(xué)生的臉，采集并分析他們的坐姿、表情，評(píng)價(jià)他們有沒有專注聽講。山世光把人臉識(shí)別監(jiān)控學(xué)生狀態(tài)的能力，稱作“對(duì)人的深刻理解”。相較于常見的用于門禁“刷臉”的身份識(shí)別能力，這是更高的要求。

　　深刻理解人類，本是人們對(duì)人工智能的美好期待之一，但是用在教室這個(gè)場(chǎng)景下，卻引起極大的不適感。

　　山世光從業(yè)內(nèi)了解到，一些學(xué)校和老師的確對(duì)這項(xiàng)技術(shù)有需求。中國(guó)藥科大學(xué)圖書與信息中心主任許建真在接受媒體采訪時(shí)就提到，安裝人臉識(shí)別系統(tǒng)是教務(wù)部門的要求，意在減少學(xué)生逃課、早退、找人代課以及上課不認(rèn)真聽講等行為，嚴(yán)肅課堂紀(jì)律，同時(shí)評(píng)估老師的教學(xué)質(zhì)量。

　　“不是說做技術(shù)的人非把這個(gè)方案推銷給學(xué)校，一些老師在教學(xué)上面臨難題，他們不能關(guān)注到班里的每一個(gè)孩子，無法準(zhǔn)確把握全班同學(xué)的學(xué)習(xí)狀態(tài)，如果有人臉理解技術(shù)做輔助，老師們可以更好地調(diào)整教學(xué)辦法?！蓖瑯由頌槔蠋?，山世光也有相似的感觸。

　　但他也提到，不同職位的教育工作者對(duì)此有不同的態(tài)度。學(xué)校領(lǐng)導(dǎo)傾向于認(rèn)為該技術(shù)有助于提升教學(xué)質(zhì)量，而一些教師持反對(duì)意見，認(rèn)為自己也被監(jiān)控了。

　　“大家的爭(zhēng)議主要在于公共場(chǎng)合下，個(gè)人信息被利用前的知情權(quán)，信息被采集的范圍和使用邊界等問題?！?賽迪顧問人工智能部門負(fù)責(zé)人王曉寧對(duì)《中國(guó)新聞周刊》說。

　　中國(guó)藥科大學(xué)在使用這項(xiàng)技術(shù)前，曾向當(dāng)?shù)毓膊块T和法務(wù)部門咨詢，得到的答復(fù)是，教室屬于公共場(chǎng)所，不存在侵犯隱私的問題。

　　但中國(guó)政法大學(xué)傳播法研究中心副主任朱巍認(rèn)為，人臉識(shí)別要獲取學(xué)生的肖像權(quán)，肯定涉及侵犯學(xué)生隱私權(quán)，“盡管很多時(shí)候在使用肖像權(quán)上，學(xué)校會(huì)和學(xué)生有協(xié)議，但是學(xué)生通常是弱勢(shì)群體，這樣的協(xié)議是無效的，所以人臉識(shí)別監(jiān)控的行為值得去探討?！?/P>

　　教育學(xué)者關(guān)注的另一個(gè)問題是：即便不討論隱私，用人臉識(shí)別監(jiān)控學(xué)生的狀態(tài)，更涉及教育的根本價(jià)值觀。

　　在人臉識(shí)別進(jìn)入課堂前，很多教室早已安裝了監(jiān)控?cái)z像頭。中國(guó)教育科學(xué)研究院研究員儲(chǔ)朝暉告訴《中國(guó)新聞周刊》，是否在教室里引入監(jiān)控，是教育領(lǐng)域研究幾十年的老問題，業(yè)內(nèi)的結(jié)論是：不能。他認(rèn)為，反對(duì)基于兩個(gè)原因：“一、安裝監(jiān)控系統(tǒng)后，教師和學(xué)生會(huì)以偽裝的面目出現(xiàn)在教學(xué)環(huán)境中，長(zhǎng)此以往，教師和學(xué)生也會(huì)以偽裝的人格出現(xiàn)在社會(huì)上，這個(gè)習(xí)慣很難消除，可能會(huì)引發(fā)嚴(yán)重的社會(huì)問題；二、這涉及對(duì)教師和學(xué)生基本權(quán)利尊重的問題。”

　　“人臉識(shí)別技術(shù)本身并無好壞，關(guān)鍵是看技術(shù)如何被使用?！鄙绞拦庹f，如何被使用，是一道選擇題，隱私、（公共）安全和便捷是三個(gè)選項(xiàng)，最好的答案是在三個(gè)維度上取得平衡，“中國(guó)藥科大學(xué)引入人臉識(shí)別技術(shù)并不新鮮，它之所以成為社會(huì)熱點(diǎn)事件，是因?yàn)樵谝陨先齻€(gè)方面沒有很好地平衡?！?/P>

　　在一片質(zhì)疑聲中，教育+AI卻正成為未來教育的趨勢(shì)。前瞻產(chǎn)業(yè)研究院報(bào)告顯示，2023年，“智慧教育”市場(chǎng)規(guī)模有望突破萬億。作為AI領(lǐng)域目前最成熟的技術(shù)，人臉識(shí)別正深入教育行業(yè)，在刷臉簽到、學(xué)員身份查詢、校園安防、課堂檢測(cè)等諸多場(chǎng)景應(yīng)用。

　　一個(gè)繞不開的疑問是：人臉識(shí)別在校園里使用的邊界到底是什么？

　　在儲(chǔ)朝暉看來，人臉識(shí)別技術(shù)在校園唯一適合的場(chǎng)景就是安防，用于識(shí)別非學(xué)校人員，保護(hù)學(xué)生安全，其余場(chǎng)景都用不上?！凹夹g(shù)對(duì)于教學(xué)只能是錦上添花，不能替代教與學(xué)的位置?！眱?chǔ)朝暉對(duì)《中國(guó)新聞周刊》說。

　　教育部已經(jīng)就中國(guó)藥科大學(xué)的新聞作出了回應(yīng)。科學(xué)技術(shù)司司長(zhǎng)雷朝滋在接受澎湃新聞采訪時(shí)表示，“（對(duì)于人臉識(shí)別技術(shù)應(yīng)用）我們要加以限制和管理。現(xiàn)在我們希望學(xué)校非常慎重地使用這些技術(shù)軟件?！彼J(rèn)為，人臉識(shí)別進(jìn)校園，既有數(shù)據(jù)安全也有個(gè)人隱私問題。對(duì)于學(xué)生個(gè)人信息要非常謹(jǐn)慎，能不采集就不采。能少采集就少采集，尤其是涉及個(gè)人生物信息。

　　教育部在近日也告訴《中國(guó)新聞周刊》，目前教育部正在針對(duì)人臉識(shí)別技術(shù)制定相關(guān)管理文件。

　　2018年1月10日，比亞迪和華為公司聯(lián)合發(fā)布“云軌”無人駕駛系統(tǒng)。“云軌”實(shí)現(xiàn)了全自動(dòng)無人駕駛運(yùn)行，并具有人臉識(shí)別、斷電無人駕駛、自動(dòng)診斷等多種功能。圖/新華

　　蒙眼狂奔的行業(yè)

　　在中國(guó)藥科大學(xué)引發(fā)風(fēng)波的同時(shí)，以人臉識(shí)別起家的曠視科技也被推向了風(fēng)口浪尖。

　　9月初，曠視科技“智慧課堂解決方案”的視頻在網(wǎng)上流傳。視頻中，公司運(yùn)用人臉識(shí)別技術(shù)，學(xué)生的臉被方框圈出，旁邊顯示“專注度33％，表情分析結(jié)果：厭惡”“趴桌子0次，玩手機(jī)0次，睡覺0次，聽講6次，閱讀8次，舉手6次……”

　　這樣先進(jìn)的“科技”，讓很多人不寒而栗。不過，據(jù)核實(shí)，中國(guó)藥科大學(xué)使用的并非曠視科技的技術(shù)，但是這個(gè)視頻卻成了人臉識(shí)別監(jiān)控學(xué)生狀態(tài)最形象的注解。

　　曠視科技很快作出官方回應(yīng)，稱網(wǎng)上出現(xiàn)的課堂行為分析圖片，只是技術(shù)場(chǎng)景化概念演示。曠視在教育領(lǐng)域的產(chǎn)品專注于保護(hù)孩子在校園的安全，其列舉的方案內(nèi)容主要是在出入校門的身份識(shí)別。這樣的解釋，卻很難自圓其說。

　　陷入爭(zhēng)議和風(fēng)波，對(duì)剛剛申請(qǐng)IPO的曠視來說，不是一個(gè)好兆頭。8月25日，曠視科技在港交所提交IPO招股文件，一旦成功IPO，曠視科技將是AI上市第一股。

　　作為AI明星創(chuàng)業(yè)公司，曠視一路高歌猛進(jìn)，正代表了國(guó)內(nèi)人臉識(shí)別產(chǎn)業(yè)的發(fā)展速度。以人臉識(shí)別發(fā)家的商湯、曠視、依圖、云從四大計(jì)算機(jī)視覺“四小龍”，一直是資本的寵兒，也是人工智能公司中的“網(wǎng)紅”。IDC（互聯(lián)網(wǎng)數(shù)據(jù)中心）統(tǒng)計(jì)，2017年CV“四小龍”合計(jì)占據(jù)計(jì)算機(jī)視覺應(yīng)用市場(chǎng)69.4％的市場(chǎng)份額。

　　人臉識(shí)別所屬的計(jì)算機(jī)視覺技術(shù)，是無人駕駛、VR/AR、醫(yī)療檢測(cè)等應(yīng)用背后的基礎(chǔ)技術(shù)之一。在深度學(xué)習(xí)算法驅(qū)動(dòng)下，計(jì)算機(jī)視覺技術(shù)在近幾年取得了突破性的進(jìn)展。眾多巨頭和創(chuàng)業(yè)公司紛紛涌入，人臉識(shí)別成為AI最熱門的賽道之一。

　　國(guó)金證券行業(yè)研報(bào)提到，計(jì)算機(jī)視覺是最具商業(yè)化價(jià)值的賽道，全球40％的AI企業(yè)都集中在該領(lǐng)域。應(yīng)用方向上，國(guó)內(nèi)以安防、金融和互聯(lián)網(wǎng)為主，國(guó)外以消費(fèi)、機(jī)器人和智能駕駛為主。

　　在所有計(jì)算機(jī)視覺創(chuàng)業(yè)公司中，人臉識(shí)別的公司數(shù)量最多，技術(shù)成熟度也比較高。目前，中國(guó)人臉識(shí)別精確度已經(jīng)超過人眼。前瞻產(chǎn)業(yè)研究院的數(shù)據(jù)顯示，2016年，我國(guó)人臉識(shí)別行業(yè)市場(chǎng)規(guī)模約為17.25億元，同比增長(zhǎng)27.97％。

　　“四小龍”基本都靠人臉識(shí)別技術(shù)起家，不過，這些以單點(diǎn)技術(shù)起家的CV（計(jì)算機(jī)視覺）公司正努力擺脫“CV”標(biāo)簽，從最初的算法提供商轉(zhuǎn)變成平臺(tái)或者服務(wù)商。曠視科技品牌市場(chǎng)團(tuán)隊(duì)副總裁謝憶楠曾對(duì)《中國(guó)新聞周刊》表示，大家跑馬圈地的階段結(jié)束，證明算法是否世界第一不重要了，目前進(jìn)入到了證明商業(yè)價(jià)值的階段，要看技術(shù)給行業(yè)能帶來什么改變。

　　曠視在成立之初主要推出Face++人臉識(shí)別開放平臺(tái)，如今，其官網(wǎng)則強(qiáng)調(diào)自己是“智能物聯(lián)網(wǎng)方案提供專家”，業(yè)務(wù)涉及安防、金融、零售等領(lǐng)域。商湯重點(diǎn)發(fā)力金融、安防、智能駕駛、移動(dòng)互聯(lián)網(wǎng)、醫(yī)療和教育等行業(yè)，云從將金融、安防、風(fēng)控、交通、商業(yè)作為重點(diǎn)探索場(chǎng)景，依圖也聚焦安防、醫(yī)療和金融、零售等行業(yè)。

　　從頭部公司探索的應(yīng)用場(chǎng)景看來，計(jì)算機(jī)視覺的應(yīng)用仍然暴露出明顯的問題：應(yīng)用領(lǐng)域重合，落地產(chǎn)品同質(zhì)化，競(jìng)爭(zhēng)異常激烈。

　　不少業(yè)內(nèi)人士都注意到，隨著人臉識(shí)別技術(shù)應(yīng)用進(jìn)入“井噴期”，“掛羊頭賣狗肉”的產(chǎn)品不少，存在較大的產(chǎn)業(yè)泡沫。以最常見的“考勤機(jī)”為例，價(jià)值數(shù)百元至上萬元不等，一些暢銷的“千元機(jī)”，只要臉部采集的數(shù)據(jù)能吻合六成以上，便能認(rèn)定是同一人。市場(chǎng)良莠不齊，很多打著“人工智能”旗號(hào)的人臉識(shí)別技術(shù)真假難辨。

　　國(guó)金證券報(bào)告提到了另一個(gè)行業(yè)痛點(diǎn)：計(jì)算機(jī)視覺技術(shù)研發(fā)周期長(zhǎng)、盈利困難。除安防、金融等少數(shù)場(chǎng)景，大多數(shù)領(lǐng)域還找不到清昕的商業(yè)模式。

　　曠視科技一直處于虧損狀態(tài)，根據(jù)其招股書顯示，2016年至2019年上半年，曠視科技分別虧損3.43億元、7.59億元，及33.51億元和52億元。不過曠視科技回應(yīng)，大幅虧損主要是由于上市引發(fā)的優(yōu)先股的公允價(jià)值變動(dòng)。

　　曠視招股書顯示，曠視成立8年來，共融資13.51億人民幣，業(yè)內(nèi)預(yù)計(jì)曠視的估值會(huì)在40億美元左右。而另一家獨(dú)角獸商湯則是“四小龍之首”，其聯(lián)合創(chuàng)始人徐立近日證實(shí)，商湯今年的估值超過75億美元。線性資本創(chuàng)始人王淮曾對(duì)《中國(guó)新聞周刊》介紹，“如果僅僅是做人臉識(shí)別撐不起這么高的估值，這些公司必然要去拓展其他業(yè)務(wù)，才能匹配這樣的高估值。”

　　人臉識(shí)別公司，正在不斷地嘗試打破更多邊界，急于向投資人證明自己的估值。人臉識(shí)別進(jìn)課堂的爭(zhēng)議，正是在這個(gè)大背景下發(fā)生的。一位行業(yè)人士在接受虎嗅網(wǎng)采訪時(shí)坦言，作為一家將要IPO，但營(yíng)收并不好看、還存在虧損的人臉識(shí)別技術(shù)公司之一，業(yè)績(jī)壓力也讓他們想尋找各個(gè)途徑實(shí)現(xiàn)技術(shù)變現(xiàn)，對(duì)于一些產(chǎn)品設(shè)計(jì)的思考可能欠妥當(dāng)。

　　5月7日，在福州舉行的第二屆數(shù)字中國(guó)建設(shè)成果展覽會(huì)上，觀眾了解體驗(yàn)人臉識(shí)別技術(shù)。圖/視覺中國(guó)

　　刷臉無處不在

　　在產(chǎn)業(yè)前景和資本助推下，人臉識(shí)別正在成為無法阻擋的趨勢(shì)。

　　前瞻產(chǎn)業(yè)研究院報(bào)告顯示，隨著國(guó)內(nèi)智慧城市的深入發(fā)展，城市監(jiān)控的高清化進(jìn)一步普及，攝像頭數(shù)量大規(guī)模增長(zhǎng)，人臉識(shí)別在數(shù)據(jù)采集上的阻礙大大減小，提升了人臉識(shí)別的質(zhì)量與應(yīng)用領(lǐng)域。預(yù)計(jì)未來5年人臉識(shí)別市場(chǎng)規(guī)模將保持年均25％的增速，2022年市場(chǎng)規(guī)模將達(dá)到約67億元。

　　越來越多高校、醫(yī)院、社區(qū)、工業(yè)園區(qū)、景區(qū)、機(jī)場(chǎng)、火車站，都在推廣“刷臉”通行。清華大學(xué)新聞學(xué)院教授沈陽曾對(duì)媒體提到，中國(guó)人平均每天要暴露在各種攝像頭下超過500次。

　　2017年5月，上海開始試點(diǎn)“電子警察”抓拍行人闖紅燈設(shè)備。一旦監(jiān)測(cè)到有行人闖紅燈，設(shè)備就會(huì)對(duì)闖紅燈行為進(jìn)行完整攝錄，并對(duì)該行人進(jìn)行連續(xù)抓拍進(jìn)行人臉識(shí)別，隨即在周邊的公交站點(diǎn)顯示屏上進(jìn)行公告。這項(xiàng)技術(shù)目前在深圳、天津、太原、濟(jì)南等多個(gè)城市都已經(jīng)展開使用。

　　各種應(yīng)用場(chǎng)景“腦洞大開”，2017年，北京天壇公園在3座公廁中安裝了6臺(tái)人臉識(shí)別廁紙機(jī)，以此杜絕偷廁紙的行為。

　　在網(wǎng)約車行業(yè)，基于人臉識(shí)別的駕駛員身份驗(yàn)證，也開始普遍應(yīng)用。比如，美團(tuán)打車的新注冊(cè)駕駛員，在首次接單前、更換手機(jī)設(shè)備或活躍接單駕駛員都會(huì)觸發(fā)App端人臉識(shí)別，通過技術(shù)比對(duì)確認(rèn)實(shí)際運(yùn)營(yíng)駕駛員與平臺(tái)注冊(cè)信息及公安部門登記信息是否一致。人臉識(shí)別未通過的駕駛員將不能接單，需重新提交信息。

　　而讓更多人“驚喜”的是，人臉識(shí)別在抓獲逃犯方面，屢建奇功。有網(wǎng)友統(tǒng)計(jì)，自2018年以來，“歌神”張學(xué)友在全國(guó)各地的巡回演唱會(huì)中，警方依靠人臉識(shí)別技術(shù)，抓獲了幾十名逃犯。

　　人臉識(shí)別在社交應(yīng)用軟件中也無孔不入。8月底，國(guó)內(nèi)一個(gè)AI換臉App“ZAO”在朋友圈刷屏，僅需一張照片，用戶就可以換臉成為熱門劇作里的角色。其實(shí)，此類社交性的應(yīng)用早就無處不在，美顏相機(jī)、照片換臉，背后皆是人臉識(shí)別技術(shù)在支持。

　　但對(duì)這項(xiàng)技術(shù)安全隱患的擔(dān)憂，從來沒有停歇。人臉和其他生物特征數(shù)據(jù)（如指紋）之間的一個(gè)巨大區(qū)別是，它們可以遠(yuǎn)距離起作用。智能硬件、攝像頭隨時(shí)隨地采集個(gè)人影像資料，長(zhǎng)時(shí)間、大規(guī)模地積累用戶數(shù)據(jù)，而不被察覺。

　　除了被強(qiáng)制收集，這些人臉信息的存儲(chǔ)，同樣存在安全隱患。今年2月，GDI基金會(huì)荷蘭安全研究員Victor Gevers在推特上爆料，中國(guó)深網(wǎng)視界科技有限公司(SenseNets)發(fā)生了大規(guī)模數(shù)據(jù)泄露事件，稱這家公司掌握的250多萬人的個(gè)人信息，其中包含身份證號(hào)碼、地址、生日、通行證、雇主，以及其過去24小時(shí)內(nèi)路過攝像頭的位置，可供任何人訪問。

　　人臉識(shí)別技術(shù)本身也存在很多漏洞。在GeekPwn2017國(guó)際安全極客大賽上，畢業(yè)于浙江大學(xué)計(jì)算機(jī)專業(yè)的90后女選手“tyy”僅用時(shí)兩分半鐘就破解了人臉識(shí)別門禁系統(tǒng)，把設(shè)備中存儲(chǔ)的評(píng)委人臉換成了自己的臉，這也意味著可以用任意人臉來“蒙騙”人臉識(shí)別系統(tǒng)，打開門禁。

　　“目前，對(duì)人們生物特征的保護(hù)，例如虹膜、人臉、指紋等的保護(hù)，都沒有被寫進(jìn)現(xiàn)有法律，信息保護(hù)的責(zé)任主體、責(zé)任邊界，如何使用、處理和銷毀信息，法律都未具體規(guī)定?！敝袊?guó)政法大學(xué)傳播法研究中心副主任朱巍告訴《中國(guó)新聞周刊》，在法律脫節(jié)的當(dāng)下，商業(yè)倫理要有約束力，“人臉識(shí)別公司作為技術(shù)源頭以及獲益者，必須讓用戶有獲知風(fēng)險(xiǎn)的知情權(quán)?！?/P>

　　技術(shù)發(fā)展的倫理和法律邊界

　　不僅在中國(guó)，當(dāng)前全球很多國(guó)家都籠罩著“被人臉識(shí)別監(jiān)控”的憂慮。

　　近日，微軟刪除了其最大的人臉識(shí)別數(shù)據(jù)庫(kù)MS Celeb，英國(guó)《金融時(shí)報(bào)》報(bào)道，數(shù)據(jù)庫(kù)中采集的很多圖像的主人并沒有授權(quán)這一行為，MS Celeb 數(shù)據(jù)庫(kù)通過“知識(shí)共享”許可證來抓取和搜索圖像，這引發(fā)一些人的反對(duì)。

　　美國(guó)的一些地方開始出臺(tái)禁令，對(duì)人臉識(shí)別說不。今年5月14日，美國(guó)高新技術(shù)產(chǎn)業(yè)聚集的舊金山通過一條禁令，決定該市所有政府部門，包括該市交通管理局和執(zhí)法部門，都禁止使用這個(gè)新技術(shù)。隨后，馬薩諸塞州的薩默維爾和加州的奧克蘭相繼出臺(tái)人臉識(shí)別禁令。

　　歐洲對(duì)人臉識(shí)別的使用更為謹(jǐn)慎。2018年5月，歐盟實(shí)施通用數(shù)據(jù)保護(hù)條例（簡(jiǎn)稱“GDPR”），規(guī)定違規(guī)收集個(gè)人信息（其中包含指紋、人臉識(shí)別、視網(wǎng)膜掃描、線上定位資料等）、沒有保障數(shù)據(jù)安全的互聯(lián)網(wǎng)公司，最高可罰款2000萬歐元或全球營(yíng)業(yè)額的4％，被稱為“史上最嚴(yán)”條例。

　　近日，瑞典一所高中因使用了人臉識(shí)別系統(tǒng)記錄學(xué)生的出勤率，經(jīng)過調(diào)查后被認(rèn)定學(xué)校對(duì)學(xué)生個(gè)人信息處理不符合“GDPR”的規(guī)定，收到了第一張基于“GDPR”的罰單，金額為20萬瑞典克朗（約合14.5萬人民幣）。

　　美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）2018年全球人臉識(shí)別算法測(cè)試最新結(jié)果中，2018年共有全球39家企業(yè)和機(jī)構(gòu)參與本次競(jìng)賽，前五名算法被中國(guó)公司包攬。

　　山世光認(rèn)為，中國(guó)人臉識(shí)別技術(shù)和產(chǎn)業(yè)的發(fā)展，得益于互聯(lián)網(wǎng)上大量的數(shù)據(jù)，比如網(wǎng)民很樂于在互聯(lián)網(wǎng)上發(fā)布自己的照片，加上國(guó)內(nèi)外政界、娛樂界公眾人物的照片，科技公司都可以拿來用作訓(xùn)練人臉識(shí)別的能力，這在法律上也處于灰色地帶。

　　“這些數(shù)據(jù)采集后如何保存、傳輸，傳給誰，怎么用，誰能看得到，誰能把數(shù)據(jù)考走，能否放在網(wǎng)絡(luò)上等等，都是純粹的法律問題?！鄙绞拦鈱?duì)《中國(guó)新聞周刊》說。

　　作為技術(shù)研發(fā)者，山世光內(nèi)心的感受很復(fù)雜。在他看來，一方面，中國(guó)的人臉識(shí)別技術(shù)和應(yīng)用均在全球領(lǐng)先，如果完全追隨美國(guó)和歐洲對(duì)數(shù)據(jù)和隱私的保護(hù)，對(duì)人臉識(shí)別發(fā)展會(huì)產(chǎn)生很大的阻礙。

　　但他承認(rèn)，人臉識(shí)別技術(shù)帶來的隱私和安全問題，已經(jīng)到了必須正視的時(shí)候，“要在隱私、安全和便捷三者之間找到恰當(dāng)?shù)钠胶?，允許技術(shù)適度向前發(fā)展，同時(shí)保護(hù)公民隱私?！?/P>