對“人工智能+教育”應(yīng)持審慎態(tài)度

人臉識(shí)別進(jìn)校園引發(fā)爭議實(shí)時(shí)監(jiān)控或讓學(xué)生變戲精專家認(rèn)為

人臉識(shí)別進(jìn)校園,，既有數(shù)據(jù)安全也有個(gè)人隱私問題,，包含學(xué)生的個(gè)人信息要非常謹(jǐn)慎,，能不采集就不采集,，能少采集就少采集，尤其涉及個(gè)人生物信息的,。

網(wǎng)絡(luò)安全法規(guī)定,，網(wǎng)絡(luò)運(yùn)營者收集、使用個(gè)人信息,，應(yīng)當(dāng)遵循合法,、正當(dāng)、必要的原則,，公開收集,、使用規(guī)則,，明示收集,、使用信息的目的,、方式和范圍，并經(jīng)被收集者同意,。

表情監(jiān)控在某種程度上侵犯了學(xué)生的尊嚴(yán),，也是對學(xué)生自主學(xué)習(xí)能力和教師授課能力的不信任。學(xué)生長期在監(jiān)控環(huán)境下學(xué)習(xí),、成長,，容易養(yǎng)成“表演性人格”。

記者 杜 曉  實(shí)習(xí)生 景千姿

隨著人工智能不斷發(fā)展,，人臉識(shí)別技術(shù)被越來越多地應(yīng)用于校園中,。

據(jù)了解，一所知名大學(xué)2019級(jí)新生“刷臉”就能瞬間完成報(bào)到程序,，系統(tǒng)是這所學(xué)校的學(xué)生研發(fā)的,，學(xué)生對著攝像頭，人臉識(shí)別系統(tǒng)就開始進(jìn)行比對,，眨眼間就能完成掃描,，整個(gè)報(bào)到注冊手續(xù)幾乎不到一秒鐘。此外,，通過人臉識(shí)別還可以對學(xué)生進(jìn)行考勤,，以及實(shí)時(shí)觀察學(xué)生的上課狀況等。

對此,，教育部科學(xué)技術(shù)司司長雷朝滋認(rèn)為,，“(對于人臉識(shí)別技術(shù)應(yīng)用)我們要加以限制和管理。現(xiàn)在我們希望學(xué)校非常慎重地使用這些技術(shù)軟件,。教育部已經(jīng)開始關(guān)注這個(gè)事情,，組織專家論證研究”。

雷朝滋還說,，人臉識(shí)別進(jìn)校園,，既有數(shù)據(jù)安全也有個(gè)人隱私問題，“包含學(xué)生的個(gè)人信息都要非常謹(jǐn)慎,，能不采集就不采集,，能少采集就少采集，尤其涉及個(gè)人生物信息的”,。

人臉識(shí)別進(jìn)校園究竟會(huì)有哪些利弊,？《法制日報(bào)》記者對此進(jìn)行了采訪。

實(shí)時(shí)監(jiān)控課堂表現(xiàn)

老師學(xué)生壓力增大

近日,，中國藥科大學(xué)試水“人臉識(shí)別進(jìn)課堂”,，在校門口,、學(xué)生宿舍、圖書館及部分教室等場所安裝人臉識(shí)別系統(tǒng),。這個(gè)系統(tǒng)除了能自動(dòng)識(shí)別學(xué)生的出勤情況外,，還能識(shí)別出學(xué)生是否認(rèn)真聽講，課堂上抬頭低頭了幾次,，低頭是否在玩手機(jī),，是否閉眼打瞌睡等。有網(wǎng)友認(rèn)為,，這樣的系統(tǒng)在校園廣泛應(yīng)用或涉嫌“侵犯隱私”,。

據(jù)了解，早在2015年,，國內(nèi)一所知名高校就曾在高校信息化建設(shè)中首次引入人臉識(shí)別技術(shù),。近年來，有些地方的初中出于“提升校園安全”考慮,，在校園門口安裝人臉識(shí)別考勤系統(tǒng),。

“現(xiàn)在是互聯(lián)網(wǎng)科技時(shí)代，到處都講‘互聯(lián)網(wǎng)+教育’,這是教育的創(chuàng)新,，我們也很樂意看到新技術(shù)的應(yīng)用能給教育行業(yè)帶來新的生機(jī),。”一位從教近10年的高中老師楊妮(化名)對《法制日報(bào)》記者說,。

“初,、高中學(xué)生上課自覺性比較差，需要老師的督促,，如果上課期間需要老師不停地維持課堂紀(jì)律,，那么課堂質(zhì)量就會(huì)有所降低。而且傳統(tǒng)的點(diǎn)名方式浪費(fèi)時(shí)間,，準(zhǔn)確率也不高,。從這個(gè)方面來說，在教室安裝人臉識(shí)別系統(tǒng)確實(shí)能幫助老師維持課堂的秩序,，從而專心把精力放在對課堂內(nèi)容的把控上,，很大程度上提高了課堂效率?！睏钅菡f,。

楊妮認(rèn)為，盡管人臉識(shí)別系統(tǒng)能給教學(xué)帶來一些好處,，但是如果老師和學(xué)生長期處于人工智能的“監(jiān)視”之下,，有可能會(huì)適得其反。一旦學(xué)生意識(shí)到自己處于監(jiān)控狀態(tài)之下,，那他們在課堂中的表現(xiàn)就必然是失真的,，老師們無法得到真實(shí)的教學(xué)反饋,，也不能準(zhǔn)確了解學(xué)生們的興趣點(diǎn)和對知識(shí)的掌握情況。

“對于老師而言,，在監(jiān)控之下教學(xué),，難免會(huì)出現(xiàn)迎合的心態(tài)，無法完全放開自主發(fā)揮,。老師們把課堂教學(xué)變成表演,，學(xué)生們也在表演，長此以往,，教學(xué)效果就會(huì)不斷降低?！睏钅菡f,。

西安一名大學(xué)生陳霖(化名)告訴《法制日報(bào)》記者，沒有哪個(gè)學(xué)生會(huì)喜歡這種上課方式,?！斑@就像是有人在一直監(jiān)視你，沒有人會(huì)喜歡被監(jiān)視,。對于類似的系統(tǒng),，我們肯定是比較抵觸的，如果強(qiáng)制安裝,，那只會(huì)讓大家的逆反心理更重,，根本達(dá)不到提高課堂質(zhì)量的效果，學(xué)習(xí)關(guān)鍵還是要靠自覺,?！?/p>

陳霖就讀的大學(xué)目前已經(jīng)開始通過人臉識(shí)別進(jìn)行考勤，出入宿舍也會(huì)有人臉識(shí)別,。

“這些都是出于安全考慮,，我們可以理解，但如果人臉識(shí)別真的推廣到教室里,，連大家的細(xì)微表情都能監(jiān)控,，那就有點(diǎn)可怕了?！标惲卣f,。

人臉識(shí)別侵犯隱私

教育創(chuàng)新尊重學(xué)生

據(jù)中國藥科大學(xué)圖書與信息中心有關(guān)負(fù)責(zé)人介紹，目前學(xué)校在兩間教室試點(diǎn)安裝的人臉識(shí)別系統(tǒng),，除了自動(dòng)識(shí)別學(xué)生出勤情況外,，學(xué)生是否認(rèn)真聽講，課堂上是否抬頭低頭,，低頭是否在玩手機(jī),，是否閉眼打瞌睡,，都逃不過系統(tǒng)的“法眼”。

上述人臉識(shí)別系統(tǒng)引起關(guān)注后不久,，該人臉識(shí)別系統(tǒng)的開發(fā)企業(yè)回應(yīng)稱,，該圖為技術(shù)場景化概念演示。針對網(wǎng)友熱議的隱私保護(hù)等問題,，這家開發(fā)企業(yè)稱,，在人工智能技術(shù)的各種場景中，會(huì)堅(jiān)持正當(dāng)性,、數(shù)據(jù)隱私保護(hù)等核心原則,，接受社會(huì)的廣泛建議和監(jiān)督。

中國傳媒大學(xué)法律系主任鄭寧認(rèn)為,，人臉識(shí)別系統(tǒng)在校園推廣確實(shí)有侵犯學(xué)生隱私的可能性,。人臉屬于個(gè)人生物信息，而且屬于可以識(shí)別的個(gè)人信息,，一旦被泄露或被不法分子利用,，風(fēng)險(xiǎn)遠(yuǎn)遠(yuǎn)高于其他信息。

鄭寧告訴《法制日報(bào)》記者,，網(wǎng)絡(luò)安全法中提到,，網(wǎng)絡(luò)運(yùn)營者收集、使用個(gè)人信息,，應(yīng)當(dāng)遵循合法,、正當(dāng)、必要的原則,，公開收集,、使用規(guī)則，明示收集,、使用信息的目的,、方式和范圍，并經(jīng)被收集者同意,。網(wǎng)絡(luò)運(yùn)營者不得收集與其提供的服務(wù)無關(guān)的個(gè)人信息,，不得違反法律、行政法規(guī)的規(guī)定和雙方的約定收集,、使用個(gè)人信息,，并應(yīng)當(dāng)依照法律、行政法規(guī)的規(guī)定和與用戶的約定,，處理其保存的個(gè)人信息,。民法總則也明確提出，自然人的個(gè)人信息受法律保護(hù),。任何組織和個(gè)人需要獲取他人個(gè)人信息的,，應(yīng)當(dāng)依法取得并確保信息安全,，不得非法收集、使用,、加工,、傳輸他人個(gè)人信息，不得非法買賣,、提供或者公開他人個(gè)人信息,。

鄭寧認(rèn)為，人格尊嚴(yán)是法律規(guī)定的人的基本權(quán)利,，表情監(jiān)控在某種程度上侵犯了學(xué)生的尊嚴(yán),，也是對學(xué)生自主學(xué)習(xí)能力和教師授課能力的不信任。

“作為一線教師,，我認(rèn)為,，靠人臉識(shí)別系統(tǒng)對學(xué)生進(jìn)行表情監(jiān)控來提高課堂效率，既不合法,，也不合理。提高課堂效率,，歸根到底,，還是要靠先進(jìn)的教學(xué)理念和教學(xué)方式、豐富生動(dòng)的教學(xué)內(nèi)容,?！编崒幷f。

21世紀(jì)教育研究院副院長熊丙奇告訴《法制日報(bào)》記者,，去年,，某中學(xué)使用“黑科技”打造“智慧教室”，對學(xué)生進(jìn)行表情監(jiān)控,，以提高課堂教學(xué)效率,，輿論對此普遍質(zhì)疑，認(rèn)為此舉不尊重學(xué)生的人格權(quán)利,，侵犯學(xué)生隱私,。學(xué)生長期在監(jiān)控環(huán)境下學(xué)習(xí)、成長,，容易養(yǎng)成“表演性人格”,。因此，對這種所謂的技術(shù)創(chuàng)新應(yīng)該持十分慎重的態(tài)度,。

熊丙奇還認(rèn)為,，在資本逐利和學(xué)校提高教學(xué)效果的雙重驅(qū)動(dòng)下，一些企業(yè)開發(fā)并推廣這種以監(jiān)控學(xué)生上課表情,、行為的人工智能系統(tǒng),，也有一些學(xué)校采用這樣的系統(tǒng),，并以使用后的效果，諸如學(xué)生上課更投入,，老師管理學(xué)生更方便,，學(xué)生成績提升以及學(xué)生間、師生間的沖突與糾紛減少,，來論證采用這一系統(tǒng)的科學(xué)性,、合理性。

“現(xiàn)代科學(xué)技術(shù)當(dāng)然可以用于教育教學(xué)中,，但需要首先分辨清楚教育是什么,。很顯然，在教室里安裝監(jiān)控,，全天無休地對著學(xué)生,，適時(shí)采集學(xué)生的表情、動(dòng)作,，這種做法的反教育性質(zhì)比較明顯,，但卻得到個(gè)別教育管理者和學(xué)校的認(rèn)可。這是因?yàn)橛械慕逃吆娃k學(xué)者忽略了教育的本質(zhì),，只是考慮怎么管理方便以及怎樣提高成績,。”熊丙奇說,，學(xué)校是育人的地方,，必須幫助學(xué)生健康成長，所有的教育創(chuàng)新必須以尊重學(xué)生的人格為基本出發(fā)點(diǎn),。

新技術(shù)推廣須謹(jǐn)慎

教育不能偏離正軌

另據(jù)了解,，除了中國藥科大學(xué)之外，某小學(xué)也在使用同一套系統(tǒng),。這套系統(tǒng)運(yùn)用在姿態(tài)評估,、表情識(shí)別、語言識(shí)別,、教師軌跡熱力分析等方面,，可以捕捉到學(xué)生在校園生活中是否有微笑、向老師問好,、主動(dòng)撿垃圾,、列隊(duì)整齊等良好行為，或者快速奔跑,、摔跤,、打架、擁擠等危險(xiǎn)動(dòng)作。

鄭寧認(rèn)為,，在學(xué)校推廣人臉識(shí)別技術(shù)要特別慎重,。一些學(xué)校啟用人臉識(shí)別進(jìn)出校門，作為校園安全管理措施,，有其正當(dāng)性,，但應(yīng)該向師生明示收集、使用個(gè)人信息的目的,、方式,、范圍，并取得他們的授權(quán),，并且建立完善的個(gè)人信息安全保護(hù)措施,，防止相關(guān)信息泄露或被不法分子利用，否則要承擔(dān)相應(yīng)的法律責(zé)任,。在課堂里利用人臉識(shí)別進(jìn)行表情監(jiān)控,，除非經(jīng)過學(xué)生明確授權(quán)，否則應(yīng)當(dāng)禁止,。

在熊丙奇看來,，教室里可以安裝監(jiān)控，但應(yīng)該只在兩種情況下使用,，一是在考試時(shí)監(jiān)控考場秩序,，二是在獲得教師和學(xué)生同意的情況下，直播課堂教學(xué),，與其他學(xué)校、課堂共享教育資源,。如果一直使用監(jiān)控,，盯著學(xué)生和教師的上課情況，會(huì)讓整個(gè)教學(xué)活動(dòng)變?yōu)楸硌?，對學(xué)生的人格成長產(chǎn)生很大的負(fù)面影響,。

“也有人說安裝監(jiān)控系統(tǒng)，便于教師管理學(xué)生,，但其實(shí)在監(jiān)控體系之下,，教師也是被管理對象，長期使用監(jiān)控系統(tǒng),，對教師的職業(yè)化,、專業(yè)化發(fā)展也會(huì)有很大的負(fù)面影響，教師上課就依靠智能系統(tǒng)的‘反饋’,告訴教師哪個(gè)學(xué)生不認(rèn)真,，哪個(gè)學(xué)生不專注,，這是技術(shù)識(shí)別的結(jié)果。離開了技術(shù)手段，老師還會(huì)教學(xué)嗎,？教育是有情感和靈魂的事業(yè),，無節(jié)制地使用人臉識(shí)別等技術(shù)，會(huì)把教育變得沒有靈魂和情感,，那還不如使用教育機(jī)器人,。”熊丙奇說,。

熊丙奇認(rèn)為,，要讓教育創(chuàng)新符合教育規(guī)律，應(yīng)該由教師委員會(huì)和學(xué)術(shù)委員會(huì)進(jìn)行論證,，并廣泛聽取教師和學(xué)生的意見,，不能由少數(shù)人決定。在資本驅(qū)動(dòng)下,，某些企業(yè)傾向于對一些教育領(lǐng)域的新概念進(jìn)行炒作,，某些學(xué)校會(huì)因此變得急功近利，讓“人工智能+教育”的路越走越偏,，因此需要及時(shí)正本清源,、回歸正道。