共存：堅守教育本位，合乎法律倫理
技術(shù)發(fā)展得太快，一個不留神，人臉識別類技術(shù)已經(jīng)進(jìn)校園、進(jìn)課堂了，而我們關(guān)于其帶來的復(fù)雜的倫理、法律和安全等問題的討論，似乎慢了些。
不可否認(rèn)的是，AI已成為擴大優(yōu)質(zhì)教育資源覆蓋面和實現(xiàn)新型智能教育服務(wù)模式的重要一環(huán)。曾海軍認(rèn)為，抱著“鴕鳥”心態(tài)，完全拒絕此類技術(shù)在教育場景內(nèi)的應(yīng)用，按照傳統(tǒng)的思維方式和模式來應(yīng)對新變化，并不現(xiàn)實。
業(yè)內(nèi)專家的共識是，AI是信息化發(fā)展的新階段，面對其衍生出的復(fù)雜的安全、隱私等問題，仍需要進(jìn)一步規(guī)范，提前布局，謹(jǐn)慎應(yīng)對。
不管AI如何與教育耦合，都必須堅守教育本位的定位，將以人為本放在首位。張生說，“學(xué)生的生命成長能否得到促進(jìn)，是衡量技術(shù)在教育領(lǐng)域中應(yīng)用有效性的唯一標(biāo)準(zhǔn)，在技術(shù)應(yīng)用中，學(xué)生、家長、教師的體驗和滿意度都是需要考察的重點”。
AI技術(shù)能否促進(jìn)教與學(xué)也是重要的評判標(biāo)準(zhǔn)。蘇尚鋒認(rèn)為，AI技術(shù)在教育場景內(nèi)大規(guī)模推廣使用之前，需要由教育專業(yè)人士所組成的團隊進(jìn)行評估與鑒定，要經(jīng)過嚴(yán)格的科學(xué)實驗和論證，要對該技術(shù)在教育教學(xué)工作中所處的位置有明晰的分辨與判斷，并對其使用制定一套明確的程序與規(guī)范，從而切實做到技術(shù)服務(wù)于教育、服務(wù)于育人工作。
隱私權(quán)是一項基本的人權(quán)，現(xiàn)代社會對個人隱私的保護(hù)已經(jīng)形成共識。目前學(xué)界主要將隱私分為信息隱私、空間隱私、自決隱私等領(lǐng)域，當(dāng)下，在教育場景內(nèi)，上述三種隱私均存在被AI類產(chǎn)品侵犯的風(fēng)險。因此，在應(yīng)用AI技術(shù)時，除明確法律紅線以外，還要做到尊重學(xué)生和程序透明化，由當(dāng)事人及家長來做選擇。蘇尚鋒建議：“使用的基本原則，應(yīng)該是被監(jiān)控者知情同意和最大程度的隱私保護(hù)。在不違法的條件下，如果用于中小學(xué)生，理應(yīng)得到其法定監(jiān)護(hù)人以及學(xué)生本身的認(rèn)可，如果用于大學(xué)生，理當(dāng)做到明確告知并獲得許可。”
2017年6月1日起正式施行的《中華人民共和國網(wǎng)絡(luò)安全法》，明確規(guī)定了要對非法收集、買賣用戶數(shù)據(jù)的行為進(jìn)行處罰。面對可怕的數(shù)據(jù)泄露風(fēng)險，專家建議，應(yīng)規(guī)范和明確數(shù)據(jù)所有權(quán)、數(shù)據(jù)隱私和服務(wù)之間的關(guān)系，將公共利益的數(shù)據(jù)可用性放在法律和倫理框架下運行，通過相應(yīng)的機制確保AI應(yīng)用的安全、合乎倫理和注重隱私。
“應(yīng)構(gòu)建預(yù)警機制，一旦發(fā)現(xiàn)類似于隱私泄露、數(shù)據(jù)安全、病毒傳播、系統(tǒng)不穩(wěn)定等情況，應(yīng)及時預(yù)警和進(jìn)行相關(guān)處置，確保整個系統(tǒng)的可信、可靠、穩(wěn)定。”曾海軍說。
在教育場景內(nèi)使用AI技術(shù)，需要進(jìn)一步推進(jìn)法治化進(jìn)程，建立相關(guān)法律法規(guī)，做到有法可依。張生認(rèn)為，這是確保技術(shù)不被濫用、限制技術(shù)的負(fù)面影響、真正發(fā)揮其促進(jìn)教育教學(xué)作用的關(guān)鍵所在。他還呼吁各級各類政府要加強監(jiān)管，在為新業(yè)態(tài)發(fā)展留足空間的前提下守住底線。
可喜的是，好的改變已經(jīng)發(fā)生。目前歐盟、英國、日本等國際組織和國家，均發(fā)布了人工智能的倫理準(zhǔn)則。2019年國際人工智能與教育大會達(dá)成的《北京共識》重點聚焦了安全和倫理問題，關(guān)注“服務(wù)于人”，將“和諧與優(yōu)化共生”這一中國哲學(xué)和文化中的特色理念，作為尋求跨行業(yè)、跨部門、跨地區(qū)全球協(xié)作的指導(dǎo)思想，并強調(diào)促進(jìn)人工智能相關(guān)準(zhǔn)則的“落地”，為未來打造負(fù)責(zé)任的、有益的人工智能。（記者 于珍）
