原標(biāo)題：從“一鍵生成作文”到數(shù)據(jù)泄露隱患

學(xué)生用AI,，邊界何在,？

□ 本報(bào)記者 趙麗

□ 本報(bào)實(shí)習(xí)生 陳穎

在某AI（人工智能）工具中輸入“五年級(jí)游記,，不要太復(fù)雜,，有游覽過(guò)程，中間和結(jié)尾提升環(huán)保主題”,，不到30秒,，屏幕上便跳出一篇結(jié)構(gòu)完整,、內(nèi)容豐富的文章,。

再輕輕滑動(dòng)屏幕,，快速瀏覽一遍后，調(diào)整幾個(gè)句式,，摘除過(guò)分華麗的不屬于五年級(jí)水平的詞匯,。就這樣，在北京某小學(xué)上五年級(jí)的劉曉暢輕輕松松便完成了清明假期的作文作業(yè),。

“只要不寫(xiě)得太‘完美’,，老師就察覺(jué)不到,。”劉曉暢對(duì)《法治日?qǐng)?bào)》記者說(shuō),，“班上很多同學(xué)都在電腦、iPad,、手機(jī)里裝了AI應(yīng)用,，有時(shí)作業(yè)太多，時(shí)間不夠用,，AI能幫上大忙,。”

像劉曉暢這樣熟練使用AI應(yīng)用的學(xué)生不在少數(shù)。某機(jī)構(gòu)去年對(duì)全國(guó)范圍內(nèi)14歲以上未成年人和學(xué)齡兒童家長(zhǎng)展開(kāi)的調(diào)查顯示：處于學(xué)習(xí)黃金階段的青少年對(duì)人工智能技術(shù)等前沿科技的了解意愿較強(qiáng)烈,，聽(tīng)說(shuō)過(guò)人工智能技術(shù)的青少年比例有92%,，近半數(shù)青少年使用過(guò)人工智能產(chǎn)品，內(nèi)容生成是主要用途之一,，占比超30%,。

多名受訪家長(zhǎng)反映,，從語(yǔ)文作文，到數(shù)學(xué)方程,，再到英語(yǔ)聽(tīng)力,，對(duì)孩子們來(lái)說(shuō)，樣樣皆可求助AI,。“這會(huì)不會(huì)影響孩子的自主學(xué)習(xí)能力,？”“AI工具‘適當(dāng)使用’的邊界在哪里？”……不少家長(zhǎng)對(duì)此亦有擔(dān)憂,。

AI在學(xué)生群體盛行

記者近日隨機(jī)采訪了北京,、上海、貴州等地30名中小學(xué)生,，幾乎所有受訪者都表示曾使用過(guò)AI輔助完成語(yǔ)文作文,、英語(yǔ)翻譯、數(shù)學(xué)解題等作業(yè),。

“我用AI寫(xiě)作文已經(jīng)半年了,，效果還不錯(cuò)。”來(lái)自上海的高一學(xué)生林亮告訴記者,，他常用AI生成作文初稿,，再根據(jù)自己的想法進(jìn)行修改，“初稿雖然有種濃濃的‘AI味’,，但至少給了我一個(gè)思路,，省去了很多思考的時(shí)間。這種做法沒(méi)啥不妥,，反而是一種‘高效學(xué)習(xí)’的方法,。”

在貴州貴陽(yáng)某中學(xué)讀寄宿的王澤龍說(shuō)，學(xué)校不允許學(xué)生攜帶手機(jī),，因此日常作業(yè)沒(méi)法用AI,。但一到周末，如果作業(yè)寫(xiě)不完,，就用搜題軟件,，拍照就能出結(jié)果。

記者試用了兩款在學(xué)生中較為流行的App,，發(fā)現(xiàn)這兩款A(yù)pp均有拍照作業(yè)批改,、檢查等功能。AI寫(xiě)作功能更是被兩款軟件單獨(dú)突出展示,。輸入作文標(biāo)題,、寫(xiě)作要求及字?jǐn)?shù)要求，片刻間就能生成一篇成熟的文章,。

“一些學(xué)生回家后完成的習(xí)作,，交上來(lái)就‘AI里AI氣’的,。”北京市西城區(qū)某小學(xué)語(yǔ)文教研組組長(zhǎng)段老師說(shuō)，他通常會(huì)根據(jù)文章的邏輯連貫性,、語(yǔ)言風(fēng)格及是否貼合學(xué)生實(shí)際生活經(jīng)驗(yàn)等方面,，判斷學(xué)生的作業(yè)是否由AI輔助完成。

記者采訪發(fā)現(xiàn),，除了中小學(xué)生外,，一些大學(xué)生也在用AI工具輔助完成論文撰寫(xiě)等作業(yè)。

“即使老師在布置結(jié)課論文時(shí)百般強(qiáng)調(diào)‘現(xiàn)在AI這么強(qiáng)大,，禁止你們使用是不可能的,，只希望大家用AI來(lái)獲取新的靈感，不要照搬照抄’,。但一到期末,，我們要寫(xiě)很多篇論文，時(shí)間緊任務(wù)重,，我和很多同學(xué)都會(huì)用AI寫(xiě)論文,。但沒(méi)有人會(huì)把AI生成的內(nèi)容原封不動(dòng)地粘貼到正式文本中，因?yàn)锳I給出的一些論文參考并不準(zhǔn)確,，所以我們通常是生成內(nèi)容,，自己再順幾遍，確保有十分的‘人味’和準(zhǔn)確度,。”在江蘇南京某高校讀研的李婷說(shuō),。

教育數(shù)據(jù)公司麥可思發(fā)布的2024年中國(guó)高校師生生成式AI應(yīng)用情況研究顯示，國(guó)內(nèi)高校師生幾乎都曾在學(xué)習(xí)和工作中使用過(guò)生成式AI,，從未使用過(guò)生成式AI的高校師生比例僅為1%,。其中，近六成高校師生頻繁使用生成式AI,。

AI是一把“雙刃劍”

學(xué)生完成作業(yè)是否需要此類(lèi)“神器”輔助,？頻繁使用AI會(huì)給學(xué)生帶來(lái)怎樣的影響？

“上課做幾乎全錯(cuò),，回家做就幾乎全對(duì),。”北京市民張芳（化名）的孩子今年上小學(xué)六年級(jí)，她發(fā)現(xiàn)孩子在家寫(xiě)作業(yè)都是用AI工具“一掃”“一搜”完成的,，可一到課堂或者考試就露餡了，“這不是糊弄家長(zhǎng)和學(xué)校嗎,？如果是啟發(fā)孩子動(dòng)腦思考,、自主找尋答案還好，但直接告知答案,，等同于作弊”,。

在北京外國(guó)語(yǔ)大學(xué)法學(xué)院教授姚金菊看來(lái),，AI在教育中能夠根據(jù)學(xué)生的學(xué)習(xí)進(jìn)度、理解能力和興趣,，為其量身定制學(xué)習(xí)內(nèi)容,，幫助學(xué)生有效提升學(xué)習(xí)效率。然而,，這種個(gè)性化的幫助也可能導(dǎo)致學(xué)生缺乏對(duì)問(wèn)題本質(zhì)的深刻理解和對(duì)知識(shí)背后邏輯的探索,，進(jìn)而逐漸失去主動(dòng)思考和自主探索的能力。

來(lái)自貴州貴陽(yáng)某中學(xué)的數(shù)學(xué)教師湯捷認(rèn)為,，對(duì)于中學(xué)生來(lái)說(shuō),，使用AI完成作業(yè)弊大于利，因?yàn)樗鼤?huì)讓學(xué)生產(chǎn)生一定的依賴性,。尤其是數(shù)學(xué),，學(xué)生長(zhǎng)期用AI做題而不自己深入思考，數(shù)學(xué)思維就培養(yǎng)不出來(lái),。

“雖然現(xiàn)在流行AI進(jìn)課堂,，用于提高課堂效率，但教育是有溫度的,，是針對(duì)人的教育,，AI沒(méi)法代替師生間的互動(dòng)。”湯捷說(shuō),，為了更好地教學(xué),，發(fā)掘教師和學(xué)生的主體價(jià)值，她開(kāi)發(fā)了“四滿課堂”,，并在授課時(shí)增加了“一課多問(wèn)”的步驟,，鼓勵(lì)學(xué)生對(duì)數(shù)學(xué)進(jìn)行質(zhì)疑與創(chuàng)新，拓展學(xué)習(xí)的邊界,。

在湖南株洲某中學(xué)任教的英語(yǔ)老師李沐純說(shuō),，自己贊成學(xué)校開(kāi)展AI教育，但不贊成讓學(xué)生自由使用,，因?yàn)槌踔猩月尚韵鄬?duì)不足,，尤其是小縣城中很多家長(zhǎng)沒(méi)有充足的時(shí)間陪伴監(jiān)督孩子，一些孩子為了盡快玩耍就用AI寫(xiě)作業(yè),。

中國(guó)傳媒大學(xué)文化產(chǎn)業(yè)管理學(xué)院法律系主任鄭寧指出,，AI生成的文章在表達(dá)上有時(shí)候看似觀點(diǎn)很全面，但其中不乏邏輯性,、準(zhǔn)確性,、真實(shí)性的問(wèn)題，尤其會(huì)出現(xiàn)數(shù)據(jù)和材料的偽造情況,，需要學(xué)生在使用AI時(shí)警惕可能帶來(lái)的學(xué)術(shù)倫理問(wèn)題,。

須發(fā)揮AI輔助作用

記者梳理公開(kāi)資料發(fā)現(xiàn),，為杜絕AI在校園中的濫用，教育部和一些高校出臺(tái)了相關(guān)舉措,。

2021年,，教育部辦公廳印發(fā)通知，對(duì)加強(qiáng)教育App管理,、推動(dòng)與“雙減”政策銜接提出明確要求,，對(duì)于提供和傳播“拍照搜題”等惰化學(xué)生思維能力、影響學(xué)生獨(dú)立思考,、違背教育教學(xué)規(guī)律的不良學(xué)習(xí)方法的作業(yè)App,，暫時(shí)下線。整改到位并經(jīng)省級(jí)教育行政部門(mén)審核后,，方可恢復(fù)備案,；未通過(guò)審核的，撤銷(xiāo)備案,。

福州大學(xué)發(fā)布通知,，對(duì)2024屆本科生畢業(yè)論文（設(shè)計(jì)）進(jìn)行AI代寫(xiě)的檢測(cè)，結(jié)果將作為成績(jī)?cè)u(píng)定和優(yōu)秀畢業(yè)論文評(píng)選的參考依據(jù),。

華東師范大學(xué)傳播學(xué)院聯(lián)合北京師范大學(xué)新聞傳播學(xué)院發(fā)布《生成式人工智能學(xué)生使用指南》,，規(guī)定使用生成式AI時(shí)應(yīng)明確標(biāo)注，且直接生成內(nèi)容不超過(guò)全文的20%,。

復(fù)旦大學(xué)發(fā)布本科畢業(yè)論文（設(shè)計(jì)）使用AI工具的試行規(guī)定,，明令禁止直接使用AI工具生成正文文本、致謝或其他組成部分,，禁止使用AI工具進(jìn)行語(yǔ)言潤(rùn)色和翻譯等,。

在姚金菊看來(lái)，對(duì)于未成年人來(lái)說(shuō),，可以通過(guò)智能管理與權(quán)限分層來(lái)規(guī)范,，通過(guò)“實(shí)名認(rèn)證+人臉識(shí)別+設(shè)備綁定”三重驗(yàn)證，防止未成年人冒用他人賬號(hào)用AI代寫(xiě)作業(yè),。同時(shí),，硬件設(shè)備和數(shù)字化平臺(tái)可以通過(guò)技術(shù)手段根據(jù)不同年級(jí)向?qū)W生開(kāi)放對(duì)應(yīng)內(nèi)容。教育,、網(wǎng)信,、公安等部門(mén)也應(yīng)聯(lián)合加強(qiáng)監(jiān)管，對(duì)違規(guī)App及時(shí)下架,、實(shí)施相應(yīng)處罰,。

“學(xué)生要學(xué)會(huì)質(zhì)疑AI生成的內(nèi)容，評(píng)估其準(zhǔn)確性和可靠性,，培養(yǎng)自主判斷能力,。在使用AI時(shí)，可以分階段,、以輔助的形式使用,，以自主構(gòu)建的邏輯框架作為AI優(yōu)化的引導(dǎo)指令，真正發(fā)揮AI的輔助作用,。學(xué)校和教師也可以通過(guò)制定明確的AI使用規(guī)范,，規(guī)定文章中的AI生成內(nèi)容比例。”姚金菊說(shuō),。

與此同時(shí),，記者注意到，2024年,，教育部辦公廳發(fā)布《關(guān)于加強(qiáng)中小學(xué)人工智能教育的通知》,，提出要于2030年前在中小學(xué)基本普及人工智能教育。北京,、上海,、深圳、杭州等地則更早拿出了行動(dòng)方案,。

有受訪者焦慮道：AI教育的本質(zhì)是數(shù)據(jù)驅(qū)動(dòng),，而這些數(shù)據(jù)直接關(guān)聯(lián)學(xué)生的個(gè)人信息。一旦數(shù)據(jù)泄露,，將對(duì)學(xué)生的成長(zhǎng),、安全乃至未來(lái)發(fā)展造成不可逆的傷害。

首都師范大學(xué)教育政策與法律研究院副院長(zhǎng)蔡海龍建議,，學(xué)校等教育機(jī)構(gòu)在引入AI技術(shù)時(shí),，必須嚴(yán)格遵守?cái)?shù)據(jù)保護(hù)法規(guī)，選擇安全可靠的產(chǎn)品和服務(wù),，并建立完善的數(shù)據(jù)管理和安全防護(hù)機(jī)制,。技術(shù)提供商更應(yīng)承擔(dān)起保護(hù)學(xué)生數(shù)據(jù)的重任，采用最先進(jìn)的加密和匿名化技術(shù),，杜絕數(shù)據(jù)泄露的風(fēng)險(xiǎn),。

（文中受訪學(xué)生均為化名）

[來(lái)源：法治日?qǐng)?bào) 編輯：孫寶震]