每經(jīng)記者｜孫宇婷  杜蔚    每經(jīng)編輯｜張益銘    

在“萬物皆可對話”的時代，孩子們正在與一個不知疲倦、無所不答的“伙伴”——AI（人工智能）共處。然而，在這種看似積極、開放的人機互動常態(tài)下，一系列隱蔽風(fēng)險正悄然滋生。

從播放音樂到隨時應(yīng)答的“百科助手”，智能音箱已成為許多家庭的標配。北京岳女士5歲的兒子突然向“小愛同學(xué)”提問：“有哪些奧特曼被打死過？”設(shè)備隨即平靜描述出“被冰凍大卸八塊”“砍頭”等細節(jié)，令岳女士緊急叫停。而在成都，4歲女孩自幼兒園了解到某個大模型后，便沉迷于和大模型對話，一次聊天能持續(xù)近兩小時。

隨著ChatGPT引爆生成式AI浪潮，以豆包為代表的新一代AI產(chǎn)品，憑借語音交互等功能，正以前所未有的速度和深度，涌入學(xué)齡前兒童的世界。孩子們向這位“全能伙伴”拋出無窮無盡的問題，其展現(xiàn)的“淵博”與“耐心”，讓不少家長放下戒備，甚至視之為“數(shù)字家教”。但矛盾隨之而來?！拔乙婚_始覺得很開心可以解放自己，但是孩子現(xiàn)在有些成癮了。”網(wǎng)絡(luò)平臺上，不少家長的相關(guān)發(fā)帖和留言，暴露了“AI上癮低齡化”的問題。而最早一批嘗鮮“AI帶娃”的家長，已有人開始卸載相關(guān)應(yīng)用。

網(wǎng)友發(fā)帖中充滿了對AI帶娃的擔(dān)憂 社交平臺截圖

“用少了怕落后，用多了怕他不會思考?！币晃患议L的感慨也道出了家庭的普遍焦慮。

在擁抱技術(shù)便利的同時，也要正視其伴生的認知與倫理挑戰(zhàn)——當(dāng)AI成為孩子的“啟蒙家教”，我們該如何守護孩子們真實世界的成長根基？

中國教育科學(xué)研究院研究員儲朝暉向《每日經(jīng)濟新聞》記者指出，兒童正處于認知發(fā)展的關(guān)鍵期。過度依賴AI可能導(dǎo)致現(xiàn)實感知混淆、社交能力萎縮，并削弱主動思考與深度閱讀等高階能力。當(dāng)虛擬內(nèi)容不斷擠占真實體驗，兒童甚至更信任AI而非父母。

幼兒在與大模型聊天 受訪者供圖

案例1：無過濾的成人世界——一次天真的提問，如何滑向恐怖故事？

在5歲半的貝貝眼里，爸爸手機上的AI軟件是個“無所不知”的伙伴。一次，她好奇地問AI：“地下有什么？”AI隨即開始平和地描述，并在屏幕上推送了一條相關(guān)視頻。貝貝點開，伴隨語音解讀，畫面從可愛的地鼠洞穴，迅速切換到陰森的埃及法老墓穴。“法老是什么？”被畫面吸引的貝貝追問道。AI再次給出解釋，并順勢推薦了更多“法老”“木乃伊”“金字塔詛咒”相關(guān)的視頻。

幾次點擊之間，內(nèi)容已從地理科普滑向法老傳說、木乃伊之謎，甚至恐怖故事。好奇心在算法的“喂養(yǎng)”下，越過了認知安全的邊界，視頻中可怕的圖像和驚悚的音樂導(dǎo)致貝貝連續(xù)多日難以安眠。

孩子和大模型對話后，大模型還同步推送了視頻 受訪者供圖

案例2：價值觀的隱蔽塑造——“媽媽，AI說的都是對的”

“它明明超厲害的，怎么說都不聽，就只按自己的想法來！”4 歲的石頭正對著屏幕里的大模型犟嘴，一旁的唐萍（化名）滿臉無奈地跟記者念叨：“你看，這孩子又在跟大模型發(fā)火了?！?自打在幼兒園聽說了豆包，石頭就迷上了和各類智能大模型對話，家里的阿爾法蛋是他的專屬聊天搭子，就連大人們手機里的不同大模型，他也總要挨個點開聊上幾句。起初唐萍還覺得這事挺不錯，大模型永遠耐心十足，會認認真真回應(yīng)石頭的每一個問題，這份穩(wěn)穩(wěn)的陪伴感，遠比整日忙碌的自己能給到的要多得多。

可漸漸地，她發(fā)現(xiàn)了不對勁——大模型似乎總在順著石頭的心意來，無論孩子提出多么天馬行空的要求，它都一味附和，只要孩子不同意，吵鬧幾句，大模型馬上開啟“寵溺模式”。

AI知識豐富，又特別會夸人，讓石頭沉浸在極高的情緒價值里。但唐萍憂慮，這信息流背后的算法，正悄悄扼殺孩子的偶然性探索，在與小朋友在一起玩耍時，石頭無法容忍不同的觀點。被父母批評后，石頭甚至說出某款大模型更懂他?！拔倚遁d了所有大模型。因為它們提供的這些‘寵溺’對話，把孩子‘可能不喜歡的東西’全部擋在了外面，但也把我們擋在了外面。”

孩子與大模型的對話，一味附和孩子 受訪者供圖

案例3：被誤讀的“專注”——“別動，AI看著呢！”

在越來越多的家庭中，一個“AI監(jiān)工”悄然上崗，一些家長選擇讓孩子在AI軟件的攝像頭前寫作業(yè)，一旦孩子開小差、坐姿或握筆姿勢不正，AI便會立刻發(fā)出語音提醒。

為什么家長愿意請AI軟件這樣的“電子監(jiān)工”？一位家長向記者坦言，在工作和帶娃的雙重壓力下，一個不會發(fā)脾氣、永遠在線的“監(jiān)督員”，聽起來太有吸引力了。于是，本應(yīng)親自參與的陪伴和引導(dǎo)，被家長拱手交給了算法。

在視頻監(jiān)督中，AI往往只能識別“低頭”“東張西望”等動作，沒有辦法理解孩子是在思考、卡殼了，還是真的走神。在家長得到片刻喘息的同時，頻頻被打斷的孩子，專注力反而被這些“過度關(guān)心”的聲音破壞了。長期下來，孩子要么變得像機器人一樣聽話，要么心生反感，對學(xué)習(xí)更提不起勁。

而那枚一直亮著的監(jiān)控攝像頭，也意味著孩子的學(xué)習(xí)場景、家庭環(huán)境、甚至實時視頻流，都可能被采集分析，這也給兒童隱私保護帶來了極大的隱患。

專家支招“不被算法定義”的童年

“幼兒無法區(qū)分AI構(gòu)建的虛擬與現(xiàn)實，容易出現(xiàn)認知偏差。”中國教育科學(xué)研究院研究員儲朝暉講述了一個令人憂心的觀察：在高鐵上，一個學(xué)齡前孩子指著窗外的樹，驚恐地說是“殺人樹”。“這就是長期接觸虛擬內(nèi)容、缺乏真實體驗導(dǎo)致的認知錯位?！彼l(fā)現(xiàn)，AI的確會盲目迎合，讓孩子易形成“AI即權(quán)威”的觀念，這不僅沖擊現(xiàn)實規(guī)則，還可能引發(fā)親子沖突。

儲朝暉對此很憂心，在他看來，而長期沉迷AI將擠壓戶外活動與真實社交，直接影響兒童健康，并可能導(dǎo)致“虛擬性人格”，使其喪失與現(xiàn)實世界打交道的能力。

一些意識到問題的家長，已開始有意識地增加孩子與現(xiàn)實生活的互動體驗。當(dāng)孩子提議“點外賣”，家長會轉(zhuǎn)而邀請：“走，我們?nèi)ゲ耸袌?。”在那里，觸摸蔬菜、感受雨滴、與攤主交流……這些真實的知覺與社會規(guī)則學(xué)習(xí)，是算法無法賦予的成長基石。

越來越多的家長開始意識到大模型對幼兒的影響 社交平臺截圖

“真實的人際互動、自由的游戲乃至消磨‘無聊時間’，恰恰來自人與人之間的不確定性，這正是AI很難提供的部分。”長期專注于批判性思維研究，并關(guān)注技術(shù)如何塑造認知的通識教育研究者李萬中向每經(jīng)記者指出，這一代孩子與AI共生已不可避免，關(guān)鍵在于如何與其智慧相處。

在他看來，當(dāng)孩子從AI處聽到不適宜內(nèi)容時，家長的第一反應(yīng)至關(guān)重要。“不應(yīng)恐慌或否定，而應(yīng)冷靜介入——先了解孩子聽到了什么、如何理解，再用他們能懂的語言重新解釋。”李萬中認為，一次“事故”可轉(zhuǎn)化為“契機”?！罢嬲陌踩?，是讓孩子在遇到問題時，知道該向誰求助、該如何思考。”

為此，他提出了一個具體的行動建議：家長應(yīng)優(yōu)先規(guī)劃“何時不用”——如睡前、情緒低落或家庭共處時光。更重要的是，讓AI成為全家共同探索的工具，而不是直接交給孩子。在此過程中，家長應(yīng)展現(xiàn)謙遜、好奇、謹慎等品格，“孩子在觀察父母如何與AI互動中，也許能學(xué)到很多東西”。

儲朝暉則強調(diào)“有限、均衡”是基本準則：3歲前幼兒最好不接觸，3至6歲幼兒每日使用時間不宜超過日?；顒拥氖种?。

紅線何在？小度、小米等回應(yīng)兒童AI安全

隨著AI語音助手成為萬千家庭的“數(shù)字新成員”，行業(yè)應(yīng)如何設(shè)立安全護欄，才能讓科技真正護航童年？

李萬中指出，對于學(xué)齡前兒童，產(chǎn)品設(shè)計不應(yīng)盲目追求“更真實的陪伴感”?！皬S家需要想清楚，哪些情感功能不該由產(chǎn)品來承擔(dān)，明確的功能邊界本身就是一種保護。對孩子而言，如果只把AI當(dāng)作信息工具，并在內(nèi)容分級上做到位，風(fēng)險是相對可控的?！?/p>

儲朝暉認為，平臺責(zé)任至關(guān)重要。“未成年模式不應(yīng)是簡單的‘減法’，而應(yīng)提供豐富且適齡的內(nèi)容?！彼J為，在科技前沿與兒童使用之間必須設(shè)立“區(qū)間”——在技術(shù)、內(nèi)容和時間上嚴格區(qū)分成人與未成年人，尤其要重視幼兒道德判斷力弱的特點，避免不良誤導(dǎo)。

網(wǎng)友分享AI帶娃 社交平臺截圖

作為占據(jù)大量家庭入口的頭部廠商，小度、字節(jié)跳動、小米、科大訊飛等企業(yè)均向《每日經(jīng)濟新聞》記者表示，已通過“兒童模式”等機制，實施更嚴格的內(nèi)容過濾與數(shù)據(jù)管理，包括分級內(nèi)容管控和限定問答邊界等。

針對“當(dāng)孩子向AI提問時，背后的推薦算法是否考慮到兒童用戶的特殊性”的問題，小度稱系統(tǒng)能識別兒童交互場景（如播放兒歌后）并自動啟動保護機制；小米則透露正探索基于聲紋識別的身份判定方案，以提升準確性。

小度方面還表示，即使在普通模式（未開啟兒童模式）下，產(chǎn)品也持續(xù)通過AI算法實時識別并攔截不良信息，保障內(nèi)容安全合規(guī)。同時，小度方面建議若產(chǎn)品主要由未成年人使用，用戶應(yīng)主動切換至兒童模式以獲得更全面的保護。

據(jù)悉，豆包App已正式上線未成年人模式。開啟該模式后，回答展示視頻、瀏覽第三方網(wǎng)頁、與豆包以外的智能體對話及AI創(chuàng)作等功能都無法使用。

在備受關(guān)注的兒童數(shù)據(jù)處理方面，小米方面表示，遵循“采集須經(jīng)監(jiān)護人授權(quán)、存儲符合規(guī)范、使用設(shè)定禁區(qū)”的原則，承諾不將兒童數(shù)據(jù)用于模型訓(xùn)練，也不會向第三方轉(zhuǎn)讓用于商業(yè)營銷。小度則明確表示收集的用戶數(shù)據(jù)僅用于提升產(chǎn)品自身的體驗，并已建立涵蓋采集、傳輸、存儲、使用、共享、銷毀各階段的完善個人信息保護合規(guī)制度與數(shù)據(jù)管理體系。

北京市隆安律師事務(wù)所上海分所律師賈玉倩在接受每經(jīng)記者采訪時建議，內(nèi)容分級可采取“年齡+認知”的雙重標準，借助身份認證與算法優(yōu)化，在未成年模式下細化推送機制，并建立實時審查與阻斷體系。對未成年人生物信息的收集與處理，必須在監(jiān)護人明確同意下，嚴格遵循最小必要、最小授權(quán)原則，進行全流程安全管控與合規(guī)審計，并在發(fā)生泄露時立即補救和通知監(jiān)護人。

“AI發(fā)展迅猛，相關(guān)立法雖在持續(xù)完善，但面對技術(shù)迭代中的新問題仍存在滯后性，無法全面覆蓋未成年人使用AI的各類風(fēng)險，所以要結(jié)合立法的基本原則考慮?！辟Z玉倩直言，“監(jiān)護人是保護未成年人的第一責(zé)任人，數(shù)據(jù)管理方是數(shù)據(jù)安全的第一責(zé)任人。只有各方協(xié)同，才有可能實現(xiàn)未成年人網(wǎng)絡(luò)安全，尤其是監(jiān)護人，一定要關(guān)注未成年人的網(wǎng)絡(luò)使用情況?！?/p>

封面圖片來源：受訪者供圖