近日，ChatGPT炮制出一條“杭州3月1日取消限行”的假新聞,，引發(fā)各方擔(dān)憂,。復(fù)盤此事件,，是有業(yè)主嘗試用ChatGPT寫了一篇杭州不限行的新聞稿，并在群里直播了全過(guò)程和最終文章,。有些業(yè)主不看上下文,，隨手截圖轉(zhuǎn)發(fā),，導(dǎo)致失實(shí)信息傳播。相關(guān)詞條也登上熱搜,，ChatGPT“編造謠言”的“功能”令人擔(dān)心。如果虛假信息在政治,、經(jīng)濟(jì)等關(guān)鍵領(lǐng)域泛濫,，所造成的社會(huì)影響將更加惡劣。

ChatGPT,，可以將其簡(jiǎn)單視為一個(gè)“聊天機(jī)器人+搜索工具+文本創(chuàng)造工具”的組合體,。在國(guó)內(nèi)一般稱作“人工智能自然語(yǔ)言處理工具”。根據(jù)研究機(jī)構(gòu)測(cè)試發(fā)現(xiàn),，如果對(duì)著ChatGPT提出充斥陰謀論和誤導(dǎo)性敘述的問(wèn)題,，它能在幾秒鐘內(nèi)改編信息，產(chǎn)生大量令人信服卻沒有來(lái)源依據(jù)的內(nèi)容,。

以往的謠言大多都有粗制濫造,、漏洞百出的特點(diǎn)，“劣質(zhì)”謠言的套路尚可總結(jié)：來(lái)源不權(quán)威,，輕信短視頻平臺(tái)的非官方媒體賬戶和朋友圈截圖,；內(nèi)容“三不提”：不提“政策”來(lái)源部門、不提“政策”所在文件,、不提“政策”發(fā)布時(shí)間,；話術(shù)真假摻半，如“社?？ńy(tǒng)一（假）辦理電子版（真）,，不辦理就會(huì)被銷戶（假）”，這樣的謠言迷惑性極強(qiáng),；風(fēng)格嚇唬人,，慣用“必須”“后果自負(fù)”等聳人聽聞?dòng)迷~和大量感嘆號(hào)，目的就是利用焦慮情緒替代判斷力,。

如今,，懷有不良企圖的人卻可以引導(dǎo)ChatGPT寫出邏輯清晰、語(yǔ)言表達(dá)流暢的謠言,。這樣一來(lái),，ChatGPT生成的內(nèi)容很容易被當(dāng)作是權(quán)威信息而大肆傳播，而且查證的難度很高,。謠言的傳播能力取決于事件的重要性,、模糊程度和公眾的判斷能力，ChatGPT的“專業(yè)性”影響了受眾的判斷能力,，勢(shì)必會(huì)助推虛假信息的傳播,。

ChatGPT的使用成本極低,，造謠成本同樣也在大大降低。“一本正經(jīng)地胡說(shuō)八道”不能只是一句調(diào)侃的玩笑,，“錯(cuò)誤的廢話”絕不是無(wú)足輕重,，一旦ChatGPT被不法分子利用輸出誤導(dǎo)信息，將可能導(dǎo)致ChatGPT衍生成為互聯(lián)網(wǎng)上制造和傳播網(wǎng)絡(luò)謠言的工具,。如果虛假信息在政治,、經(jīng)濟(jì)等重要領(lǐng)域泛濫，如果謠言大肆泛濫卻無(wú)法追責(zé),，那么對(duì)于新聞媒體,、平臺(tái)和大眾來(lái)說(shuō)，傷害都是不可估量的,。

ChatGPT向人們展現(xiàn)了人工智能先進(jìn)性,，與此同時(shí)，造謠工具的“利刃”也在出鞘,。2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,，為ChatGPT套上了制約的枷鎖?！兑?guī)定》中明確,，任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制,、發(fā)布,、傳播法律、行政法規(guī)禁止的信息,，不得利用深度合成服務(wù)從事危害國(guó)家安全和利益,、損害國(guó)家形象、侵害社會(huì)公共利益,、擾亂經(jīng)濟(jì)和社會(huì)秩序,、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng),。深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作,、復(fù)制、發(fā)布,、傳播虛假新聞信息,。

推動(dòng)引導(dǎo)ChatGPT有序發(fā)展，還需多方發(fā)力,，方能實(shí)現(xiàn)多贏,。針對(duì)人工智能自然語(yǔ)言處理工具所面臨的現(xiàn)實(shí)問(wèn)題，建議使用ChatGPT在互聯(lián)網(wǎng)生成和發(fā)布信息的,，進(jìn)行實(shí)名制認(rèn)證,，網(wǎng)絡(luò)平臺(tái)加強(qiáng)監(jiān)管,，對(duì)結(jié)果進(jìn)行審核。加強(qiáng)互聯(lián)網(wǎng)人工智能自然語(yǔ)言處理工具管理,，在充分調(diào)研的基礎(chǔ)上,，結(jié)合《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法律法規(guī)，網(wǎng)信部門可出臺(tái)相關(guān)管理措施,，最大程度上保證新技術(shù)不被濫用,。未來(lái)，期待AI安全有更完善的法律保護(hù),。

信網(wǎng)評(píng)論員 秦璐