人工智能作為當(dāng)今時(shí)代人類一項(xiàng)重要的發(fā)明，將帶來(lái)整個(gè)社會(huì)的顛覆性變化。由人工智能驅(qū)動(dòng)創(chuàng)生的智能教育，將在人類歷史上革命性地實(shí)現(xiàn)大規(guī)模的個(gè)性化教育。但人工智能的不確定性很可能誘發(fā)或帶來(lái)教育領(lǐng)域中隱私、公平、歧視、真實(shí)、情感、法律、責(zé)任、安全等諸多方面的新風(fēng)險(xiǎn)與新隱患。面對(duì)天真活潑、善良可愛、代表著人類未來(lái)的兒童，省思智能教育的風(fēng)險(xiǎn)與隱患不是可有可無(wú)，而是必不可缺。

接下來(lái)，讓我們通過本書的內(nèi)容“信息繭房與教育真實(shí)風(fēng)險(xiǎn)”，來(lái)進(jìn)一步了解為何要省思智能教育。

案例：游戲少年身陷信息繭房

日前，《半月談》在一篇文章中講述了一個(gè)愛玩游戲的少年小明陷入信息繭房的故事。小明喜歡玩游戲，有一天他在抖音上看到一個(gè)游戲大神的操作視頻，就多看了幾遍，然后關(guān)注了這位游戲主播。抖音根據(jù)特定信息生成了用戶畫像，不斷過濾、篩選、推薦個(gè)性化信息。一段時(shí)間后，小明的抖音推薦界面大部分都是關(guān)于游戲操作技巧的。有一天，一位游戲主播在抖音上開了直播，小明留言夸贊主播的游戲技巧了得，得到了主播翻牌回應(yīng)，同時(shí)，小明還在關(guān)注其他粉絲的留言并與之互動(dòng)。在這一過程中，小明先在興趣導(dǎo)向下編織了自己的信息繭房；然后在觀看類似視頻、與有相同愛好的朋友的交流中形成了“回聲室”；最后，小明的“回聲室”和信息繭房加深了他的游戲欲望，促使其沉溺于花錢購(gòu)買游戲裝備和打賞游戲主播。

私人訂制編織信息繭房

如果從現(xiàn)象層面來(lái)解釋，信息繭房指的是人們所瀏覽、擁有的信息，會(huì)像蠶繭一樣把當(dāng)事人困住，換言之，信息會(huì)成為無(wú)形的網(wǎng)，把人們軟禁在一定范圍內(nèi)并使其難以察覺，從而使當(dāng)事人永遠(yuǎn)生活在這個(gè)圈子內(nèi)。

1995年，比爾·蓋茨在《未來(lái)之路》一書中最早提出了關(guān)于“私人訂制”的預(yù)想。

次年，美國(guó)計(jì)算機(jī)科學(xué)家尼古拉斯·尼葛洛龐帝在《數(shù)字化生存》中預(yù)言了個(gè)性化定制產(chǎn)品“我的日?qǐng)?bào)”即將出現(xiàn)。

2006年，美國(guó)哈佛大學(xué)法學(xué)院教授，也是奧巴馬總統(tǒng)的法律顧問凱斯·桑斯坦出版了《信息烏托邦：眾人如何生產(chǎn)知識(shí)》一書（見圖4-1）。該書在尼葛洛龐帝所提出的“我的日?qǐng)?bào)”的基礎(chǔ)上，第一次提出了信息繭房的概念。

從“私人訂制”到“我的日?qǐng)?bào)”，再到“信息繭房”，這些概念無(wú)一不圍繞著個(gè)性化展開。當(dāng)下，互聯(lián)網(wǎng)高速發(fā)展，信息量呈現(xiàn)出爆炸性增長(zhǎng)的趨勢(shì)。人類作為信息的受眾，面對(duì)紛繁復(fù)雜的信息，選擇時(shí)必然會(huì)帶有偏好。天性使然，人們會(huì)更愿意選擇自己喜歡的內(nèi)容，也更有可能閱讀與自己觀點(diǎn)一致的信息，個(gè)體之間就形成差異化的信息選擇。2016年中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的互聯(lián)網(wǎng)新聞市場(chǎng)研究報(bào)告顯示，近一半的中國(guó)網(wǎng)民對(duì)自己感興趣的新聞會(huì)閱讀深度報(bào)道或持續(xù)關(guān)注（見圖4-2）。

每個(gè)人在面對(duì)信息時(shí)，都會(huì)留下選擇或閱讀的痕跡，而每一次的選擇都為算法提供了偏好數(shù)據(jù)。無(wú)數(shù)次選擇之后，智能算法就會(huì)為個(gè)體精準(zhǔn)畫像，為個(gè)人提供反映其偏好的精準(zhǔn)化個(gè)性服務(wù)。

個(gè)性化選擇是個(gè)性化服務(wù)的基石，而個(gè)性化服務(wù)反過來(lái)也限制了個(gè)人的進(jìn)一步選擇。在日常網(wǎng)絡(luò)瀏覽或購(gòu)物中，如果搜索過某個(gè)東西，在短時(shí)間內(nèi)會(huì)不斷獲得與之相關(guān)的推送。比如，A喜歡看娛樂新聞，那么A每天看到的大多都是娛樂新聞，幾乎不會(huì)獲得體育方面的資訊。智能算法推薦的信息都是基于我們個(gè)人偏好的選擇，我們不喜歡的信息被算法排除了，表面上看是我們?cè)谶x擇信息，實(shí)質(zhì)上偏好限制了我們的選擇，最終我們就會(huì)像蠶一樣逐漸被囚禁在信息繭房之內(nèi)。

信息繭房給人們帶來(lái)的危害無(wú)疑是巨大的。

首先，認(rèn)知窄化。智能算法基于個(gè)人偏好所推送的資訊，限制了我們接觸的信息的范圍，長(zhǎng)期瀏覽這些內(nèi)容又使智能算法更加確定我們對(duì)這類信息的偏好，長(zhǎng)此以往，我們的認(rèn)知反而不斷被窄化在特定范圍內(nèi)，影響我們對(duì)外部世界的認(rèn)識(shí)。這種影響對(duì)于未成年人來(lái)說更是不容忽視。在互聯(lián)網(wǎng)時(shí)代，青少年學(xué)生借助網(wǎng)絡(luò)本來(lái)可以獲取更豐富的信息資源，了解外部更廣闊的世界，但是現(xiàn)在的智能推送、個(gè)性化定制反而將學(xué)生禁錮在狹隘的信息世界里，嚴(yán)重影響著他們的發(fā)展。

其次，思維固化。同聲相應(yīng)，同氣相求。人們總是傾向于選擇那些自己認(rèn)同或喜歡的信息、觀點(diǎn)與態(tài)度，以此找到一種認(rèn)同感。在智能算法的“協(xié)助”下，我們?cè)诟骶W(wǎng)絡(luò)平臺(tái)不斷受到同類信息的“狂轟濫炸”。在此背景下，個(gè)體越來(lái)越接觸不到與自己觀點(diǎn)不同的信息，從而越來(lái)越陷入一種自我確認(rèn)的固化陷阱，最終導(dǎo)致思維固化，甚至產(chǎn)生極端的思想和行為。

信息繭房建構(gòu)“真實(shí)世界”

信息繭房對(duì)于個(gè)體認(rèn)知與思維發(fā)展的影響是巨大的。如果這種影響擴(kuò)大到群體層面，則會(huì)產(chǎn)生更大的“地震”。

陷入了信息繭房的人們由于長(zhǎng)時(shí)間被推送某一類或某幾類信息，無(wú)法踏入繭房以外的信息世界，慢慢將自己固化于特定的世界。同樣的，由于愛好、觀點(diǎn)相似，志趣相投，部分個(gè)體出于某種偏好就會(huì)慢慢積聚于某一網(wǎng)絡(luò)平臺(tái)，形成一個(gè)個(gè)同質(zhì)小群體，最終構(gòu)建起他們所認(rèn)為的“真實(shí)世界”。他們喜好的話題相同，觀點(diǎn)相似，交流頻繁，再加上缺乏與異質(zhì)群體的對(duì)話，結(jié)果整個(gè)群體都會(huì)表現(xiàn)出共同的傾向與行為，并可能出現(xiàn)群體極化現(xiàn)象。

中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心發(fā)布的《2019年全國(guó)未成年人互聯(lián)網(wǎng)使用情況研究報(bào)告》顯示，玩游戲、看短視頻在未成年人上網(wǎng)從事的活動(dòng)中占據(jù)了較大比例，“粉絲應(yīng)援”在初中生、高中生從事的網(wǎng)絡(luò)活動(dòng)中所占的比例均超過了10%。（見圖4-3、圖4-4、圖4-5）

青春期是人成長(zhǎng)中的一個(gè)特殊階段，這一時(shí)期的青少年正經(jīng)歷著生理與心理的巨大變化。美國(guó)心理學(xué)家愛利克·埃里克森的人生發(fā)展八階段理論指出，這一時(shí)期青少年面臨角色同一與角色混亂之間的矛盾，他們想要獲得社會(huì)認(rèn)同感與群體歸屬感，從而分化進(jìn)入不同的小圈子內(nèi)。由于青少年的心智尚未成熟，極易受到群體內(nèi)領(lǐng)頭人意見的影響，再在同伴的影響下形成符合這個(gè)圈子的思維與行為模式。如果這個(gè)群體的價(jià)值觀出現(xiàn)了問題，青少年就極容易在群體的鼓動(dòng)下發(fā)表不合適的言論、做出不理智的極端行為或者受到這些行為的傷害。圖4-6顯示，近一半的未成年人在網(wǎng)上遭到過諷刺或謾罵，這些網(wǎng)絡(luò)暴力的施加者往往也是未成年人。當(dāng)這些青少年熟悉并認(rèn)同的“群體世界”與現(xiàn)實(shí)社會(huì)的主流價(jià)值觀不一致時(shí)，他們?cè)诂F(xiàn)實(shí)生活就中就會(huì)遭遇更大的價(jià)值矛盾與心理混亂，影響身心健康發(fā)展。

教育真實(shí)風(fēng)險(xiǎn)的防范

當(dāng)信息繭房中的未成年人醒來(lái)，從繭房世界邁入現(xiàn)實(shí)世界時(shí)，便會(huì)迷茫、彷徨、不知所措。這時(shí)，部分人就會(huì)逃避現(xiàn)實(shí)甚至是走向極端。事實(shí)上，盡管在信息繭房的形成中，智能算法難辭其咎，但其主要原因仍在于個(gè)體本身：一方面，部分人尚未意識(shí)到自己被困；另一方面，部分人即使已經(jīng)意識(shí)到了繭房的存在也不愿意離開。成長(zhǎng)在互聯(lián)網(wǎng)世界中的年青一代更易受到信息繭房的困擾與影響。為了更好地促進(jìn)青少年學(xué)生認(rèn)知與行為的健康發(fā)展，在當(dāng)前及未來(lái)的智能化教育中，迫切需要采取措施，預(yù)防學(xué)生陷入信息繭房，避免出現(xiàn)群體性的極端行為。

首先，學(xué)校要注重媒介素養(yǎng)教育，提升學(xué)生的批判思維能力。早在1933年，英國(guó)學(xué)者利維斯就預(yù)見性地提出了學(xué)校教育要引導(dǎo)學(xué)生抵制媒介帶來(lái)的負(fù)面影響，媒介素養(yǎng)教育就是一個(gè)有效途徑。媒介素養(yǎng)是指人們對(duì)于信息的解讀和批判能力，以及將這些信息應(yīng)用于生活與社會(huì)發(fā)展的能力。學(xué)校要有意識(shí)地引導(dǎo)學(xué)生學(xué)會(huì)盡可能從不同角度收集信息、收集不同觀點(diǎn)的信息，對(duì)獲取的信息加以判斷，不盲從某一種觀點(diǎn)。學(xué)校、教師應(yīng)該有意識(shí)地培養(yǎng)學(xué)生傾聽他人的習(xí)慣，讓學(xué)生學(xué)會(huì)聆聽并接受與自己不一致的觀點(diǎn)，激發(fā)學(xué)生獨(dú)立思考與自我反思的意識(shí)。學(xué)校也應(yīng)該重視與加強(qiáng)教師媒介素養(yǎng)的提升，通過開展集中培訓(xùn)與專題講座等方式，提升教師自身對(duì)于信息的判斷力和利用信息開展教育教學(xué)的能力。

其次，學(xué)校、社會(huì)要注意價(jià)值與輿論的引導(dǎo)。從群體生態(tài)可以看出，群體的輿論氛圍對(duì)于群體的發(fā)展起著重要的導(dǎo)向作用。對(duì)于未成年的學(xué)生而言，尤其要注意價(jià)值與輿論的引導(dǎo)。學(xué)校要充分利用自身優(yōu)勢(shì)，營(yíng)造健康、積極、向上的輿論氛圍，對(duì)青少年學(xué)生的意見與輿論加強(qiáng)了解，積極加強(qiáng)對(duì)青少年學(xué)生的正面引導(dǎo)，針對(duì)個(gè)別學(xué)生群體的極端言論和行為要及時(shí)制止。

再次，學(xué)校要開展社會(huì)實(shí)踐活動(dòng)，提高學(xué)生對(duì)于社會(huì)主流價(jià)值觀的認(rèn)同感。在進(jìn)一步加強(qiáng)馬克思主義、社會(huì)主義核心價(jià)值觀等主流思想教育的同時(shí)，學(xué)?？梢苑e極開展社會(huì)實(shí)踐活動(dòng)，讓學(xué)生走出校門、走出繭房，走進(jìn)現(xiàn)實(shí)、走進(jìn)社會(huì)，接觸更多元的價(jià)值，了解更多元的社會(huì)，讓學(xué)生在實(shí)踐中真正理解這些主流思想，并且看到其現(xiàn)實(shí)的轉(zhuǎn)化力量，真正提高學(xué)生對(duì)社會(huì)主流價(jià)值觀的認(rèn)同。

最后，不斷創(chuàng)新，推動(dòng)智能算法為個(gè)體提供更多元的信息。現(xiàn)有的算法還停留在基于個(gè)體偏好的推送狀態(tài)，長(zhǎng)此以往就會(huì)讓個(gè)體陷入信息繭房。人工智能的研究者要密切關(guān)注這一問題，不斷加強(qiáng)算法創(chuàng)新，努力打破智能算法基于用戶偏好與舒適區(qū)的信息推送，為人們提供更多樣化的信息，促進(jìn)個(gè)體享受更加健康、智能的網(wǎng)絡(luò)與信息生活。

本文節(jié)選自《智能教育的風(fēng)險(xiǎn)》，編輯時(shí)有刪減。教育科學(xué)出版社2022年1月出版。