新火種AI|垃圾論文泛濫成災(zāi)，專業(yè)領(lǐng)域的AI監(jiān)管將何去何從？

原創(chuàng) 贊收藏 評(píng)論

舉報(bào) 2024-05-14

掃描,分享朋友圈

作者：小巖

編輯：彩云

OpenAI研發(fā)的聊天機(jī)器人模型ChatGPT如今已經(jīng)成為了全世界范圍內(nèi)無人不知，無人不曉的AI利器了。自2022年11月推出以來，歷經(jīng)多次的迭代和升級(jí)，如今的GPT4版本已經(jīng)擁有了十分強(qiáng)大的文本生成能力。

它能夠根據(jù)用戶提示生成原創(chuàng)文章，故事，歌詞等內(nèi)容，并在一些測(cè)試中顯示出驚人的表現(xiàn)，甚至可以通過高難度的專業(yè)考試，諸如法律考試，美國(guó)醫(yī)學(xué)執(zhí)照考試等。不過，隨著ChatGPT的普及，它的濫用問題也不斷出現(xiàn)，甚至還給學(xué)術(shù)圈帶去了一系列問題和困擾。

ChatGPT攻陷學(xué)術(shù)圈，垃圾論文比比皆是。

“用AI寫論文” 成為了當(dāng)今學(xué)術(shù)圈的通病，我們先來看看用ChatGPT寫出的論文是什么樣子的。

這一篇題目為Comprehensive Review of the Book Study of Language by George Yule的社科類論文被發(fā)表在迪拜大學(xué)的Saudi Journal of Humanities and Social Sciences（沙特人文與社會(huì)科學(xué)雜志）上。作者是來自印度北方邦的研究人員，包括Muneer Alam教授，Munawwar Mushtaque教授和Mohd Rizwanullah教授。

這篇文章的表達(dá)十分有問題，可以看到，文中Limitations這部分，一上來就是“作為一個(gè)語言模型，我無法對(duì)書籍的質(zhì)量發(fā)表個(gè)人看法”，讓人一眼看出作者的真實(shí)身份其實(shí)是ChatGPT。

圖片7.png

而這一篇名為Synergistic Effect of Phosphatic Fertilizer and Biofertilizers on Soil Enzyme Activity and Yield of Finger Millet (Eleusine coracana L.)的文章，發(fā)表在了Biological Forum – An International Journal（生物論壇 - 國(guó)際期刊）上。作者有四位，其中一位標(biāo)明自己的職位是副院長(zhǎng)，另一位的職位則是高級(jí)科學(xué)家。就是這樣一篇諸多大牛“寫”出來的文章，卻早早暴露除了ChatGPT代筆的痕跡。

圖片1.png

圖片2.png

就連十分小眾的神學(xué)領(lǐng)域也被ChatGPT染指了，來自山景學(xué)院神學(xué)院的Christian Joseph Pacoli，就借助ChatGPT探索了基督的本質(zhì)。這篇名為Exploring the Nature of Christ: An Insightful Examination of Seventh-day Adventist的文章，充滿了ChatGPT的痕跡。據(jù)了解，位于谷歌總部附近的山景學(xué)院，是美國(guó)為低收入學(xué)生提供優(yōu)質(zhì)教育的頂尖學(xué)校之一。

圖片3.png

ChatGPT能在學(xué)術(shù)圈大行其道，足以說明這個(gè)領(lǐng)域的浮躁和良莠不齊。很多合著的教授，甚至是指導(dǎo)老師，都對(duì)ChatGPT在學(xué)術(shù)圈的肆意蔓延置之不理。這些人作為指導(dǎo)老師，似乎也只關(guān)心自己能不能盡快完成論文的“配額”，卻不在意文章的質(zhì)量和深度到底達(dá)不達(dá)標(biāo)。

更離譜的是，直到文章最終見刊，整個(gè)流程里竟然沒有任何人發(fā)現(xiàn)問題和端倪，這說明大概率是沒有人認(rèn)真閱讀過這些利用ChatGPT生成的內(nèi)容。由此可見，搞科研的用AI寫論文，學(xué)生用AI寫作業(yè)，老師也用AI批作業(yè)，整個(gè)過程都沒有真人來參與了。

AI濫用導(dǎo)致學(xué)術(shù)誠(chéng)信危機(jī)，ChatGPT會(huì)成為學(xué)術(shù)造假的幫兇嗎？

不可否認(rèn)，ChatGPT具有強(qiáng)大的自然語言處理能力和大規(guī)模預(yù)訓(xùn)練模型的知識(shí)庫(kù)，使其能夠自動(dòng)生成文章和論文，回答學(xué)生的問題、幫助學(xué)生完成作業(yè)等。但與此同時(shí)，它也是一把雙刃劍，ChatGPT會(huì)讓學(xué)生過于依賴于技術(shù)，減少他們的獨(dú)立思考能力和創(chuàng)造性，從而可能對(duì)學(xué)生的學(xué)術(shù)能力和研究能力產(chǎn)生負(fù)面影響，甚至影響學(xué)術(shù)誠(chéng)信和教育質(zhì)量。

從某種程度上說，用ChatGPT直接寫論文的方式，和從維基百科上“復(fù)制粘貼”的行為并沒有什么不同。此外，ChatGPT的大規(guī)模預(yù)訓(xùn)練模型的知識(shí)來源于互聯(lián)網(wǎng)上的大量文本數(shù)據(jù)?；ヂ?lián)網(wǎng)上的信息質(zhì)量良莠不齊，經(jīng)常存在不準(zhǔn)確和不全面的信息，這些信息可能不符合學(xué)術(shù)標(biāo)準(zhǔn)和規(guī)范，從而可能導(dǎo)致學(xué)術(shù)研究存在誤導(dǎo)性和偏見。

也正因此，許多高校開始重新定義作弊和剽竊，一些院校明令禁止學(xué)生在論文和作業(yè)中使用ChatGPT。譬如Bryn Mawr學(xué)院學(xué)生榮譽(yù)委員會(huì)主席Carlee Warfield表示，使用人工智能平臺(tái)的行為一律被視為剽竊；香港大學(xué)向全體師生發(fā)出通告，稱禁止在所有課堂，作業(yè)和評(píng)估中使用ChatGPT或其他AI工具，否則將被視為抄襲；法國(guó)頂尖學(xué)府之一的巴黎政治學(xué)院也宣布，該校將禁止使用ChatGPT。

圖片4.png

當(dāng)ChatGPT遇上學(xué)術(shù)圈：機(jī)遇與挑戰(zhàn)并存的時(shí)刻到來了。

早在去年，一則醫(yī)生利用ChatGPT寫論文的新聞就刷屏了。

美國(guó)田納西大學(xué)健康科學(xué)中心的一名放射科醫(yī)生用ChatGPT狂寫論文，在4個(gè)月時(shí)間里直接肝出16篇。更奇葩的是，其中的5篇文章已經(jīng)發(fā)表了。很顯然，這樣的行為已經(jīng)很大程度的影響到學(xué)術(shù)的專業(yè)度和嚴(yán)謹(jǐn)性了。

圖片5.png

當(dāng)然，學(xué)術(shù)類的文章并非不能使用AI。但是AI的作用應(yīng)該只限于提高作品的可讀性和語言性，而不應(yīng)該取代關(guān)鍵的寫作任務(wù)。AI不能夠，也不應(yīng)該在嚴(yán)肅的學(xué)術(shù)論文中給出科學(xué)結(jié)論，提供臨床建議等。即便AI會(huì)通過計(jì)算產(chǎn)生科學(xué)，教學(xué)，醫(yī)學(xué)見解，抑或得出某些科學(xué)結(jié)論或提供臨床建議，這些內(nèi)容也應(yīng)該在人類的監(jiān)督和控制下完成，所有的工作都應(yīng)該被仔細(xì)審查和編輯。因?yàn)榧幢鉇I產(chǎn)生聽起來權(quán)威的輸出，但這些輸出有可能是不正確的，不完整的或有偏見的。人類作者始終要對(duì)作品內(nèi)容負(fù)有最終責(zé)任和義務(wù)。

我們不能否認(rèn)以ChatGPT為代表的各類AI模型的功能和優(yōu)勢(shì)，這的確是一個(gè)非常實(shí)用的工具，但也只是工具而已，我們不能將 ChatGPT 視為萬能的解決方案。

圖片6.png

人會(huì)犯錯(cuò)，由人類主導(dǎo)研發(fā)的AI自然也會(huì)犯錯(cuò)。我們要明確“ChatGPT 的確會(huì)是存在一些限制和缺陷”這一事實(shí)，接受它可能會(huì)產(chǎn)生一些錯(cuò)誤的回答或者無法理解某些復(fù)雜的問題的可能。更重要的是，所以它不應(yīng)該作為知識(shí)的唯一來源，只能作為搜索引擎的輔助，對(duì)于要追求嚴(yán)謹(jǐn)和專業(yè)的學(xué)術(shù)圈而言，就更是如此了。

所以，如果你還是學(xué)生，或許有撰寫學(xué)術(shù)論文的任務(wù)，請(qǐng)務(wù)必謹(jǐn)慎使用AI模型，學(xué)會(huì)正確使用和評(píng)估它們輸出結(jié)果，不過度依賴其提供的結(jié)論和答案，從而確保學(xué)術(shù)研究的準(zhǔn)確性和可靠性。

本文系作者授權(quán)數(shù)英發(fā)表，內(nèi)容為作者獨(dú)立觀點(diǎn)，不代表數(shù)英立場(chǎng)。
未經(jīng)授權(quán)嚴(yán)禁轉(zhuǎn)載，授權(quán)事宜請(qǐng)聯(lián)系作者本人，侵權(quán)必究。