每經(jīng)編輯 黃勝    每經(jīng)實(shí)習(xí)編輯 宋欣悅    

8月4日，據(jù)外媒報(bào)道，OpenAI已掌握一項(xiàng)技術(shù)，能夠精準(zhǔn)識(shí)別出論文或研究報(bào)告是否由ChatGPT撰寫，甚至能追溯其使用的具體時(shí)間點(diǎn)。盡管社會(huì)各界對(duì)學(xué)生可能借助人工智能工具進(jìn)行學(xué)術(shù)不端行為的憂慮日益加劇，但截至目前，OpenAI尚未公開披露這一檢測(cè)手段的具體信息。

據(jù)知情人士披露和《華爾街日?qǐng)?bào)》看到的內(nèi)部文件內(nèi)容，該項(xiàng)目在OpenAI內(nèi)部陷入了長達(dá)兩年的激烈爭論，而且早在一年之前就已做好了發(fā)布準(zhǔn)備。其中一位知情人士表示，“發(fā)布這項(xiàng)技術(shù)只是按一個(gè)按鈕的問題。”

圖片來源：視覺中國-VCG31N2008743681

• 堅(jiān)守公司原則還是留住用戶？

然而，在實(shí)際決策過程中，OpenAI的員工陷入了兩難境地，他們既想要堅(jiān)守公司最初承諾的透明度原則，又希望平衡吸引和維持用戶群體的需求。一項(xiàng)針對(duì)忠實(shí)ChatGPT用戶的調(diào)查顯示，有近三分之一的用戶表示，一旦反作弊技術(shù)推出，他們可能會(huì)選擇停止使用ChatGPT。

有網(wǎng)友表示，這種防止作弊的技術(shù)不過是一場(chǎng)“貓鼠游戲”，非但不能從根本上解決問題，反而可能催生更為復(fù)雜的作弊手段。并且，目前市面上已經(jīng)有很多與GPT-4o相媲美的產(chǎn)品，“作弊者”同樣可以轉(zhuǎn)向使用其它大模型。

還有網(wǎng)友表達(dá)了對(duì)防作弊技術(shù)可能帶來的副作用的擔(dān)憂，認(rèn)為其嵌入可能會(huì)削弱ChatGPT的整體響應(yīng)質(zhì)量和用戶體驗(yàn)。

圖片來源：Reddit

OpenAI一位發(fā)言人表示，公司擔(dān)心該工具可能會(huì)對(duì)非英語母語人士等群體產(chǎn)生格外重大的影響。她解釋道，“我們正在開發(fā)的文本水印方法在技術(shù)層面極具前景，但也存在著重大風(fēng)險(xiǎn)，目前我們正在研究替代方案并權(quán)衡這些風(fēng)險(xiǎn)。在我們看來，考慮到問題的復(fù)雜性以及對(duì)OpenAI之外更廣泛生態(tài)系統(tǒng)的潛在沖擊，我們有必要采取更為審慎的處理方法。”

支持該工具發(fā)布的員工，包括那些幫助開發(fā)該工具的員工都曾在內(nèi)部表示，與這項(xiàng)技術(shù)所能帶來的好處相比，上述觀點(diǎn)顯得蒼白無力。

OpenAI首席執(zhí)行官薩姆·阿爾特曼（Sam Altman）和首席技術(shù)官米拉·穆拉蒂（Mira Murati）也參與了有關(guān)反作弊工具的討論。一些知情人士表示，阿爾特曼對(duì)該項(xiàng)目表示肯定，但并未實(shí)際推動(dòng)其發(fā)布。

• 準(zhǔn)確性高達(dá)99.9%

ChatGPT由一套人工智能系統(tǒng)提供支持，該系統(tǒng)可以預(yù)測(cè)句子中接下來應(yīng)該出現(xiàn)的單詞或單詞片段。OpenAI正在討論的這款反作弊工具會(huì)略微改變token選取方式，通過這種變化來創(chuàng)建一種文本水印。

這些水印肉眼是無法察覺的，但可以通過OpenAI的檢測(cè)技術(shù)識(shí)別出來。檢測(cè)器會(huì)給出一個(gè)分?jǐn)?shù)，用以衡量整個(gè)文檔或者部分文檔內(nèi)容由ChatGPT生成的可能性。

根據(jù)內(nèi)部文件，在ChatGPT創(chuàng)建了足夠多的新文本之后，水印機(jī)制的準(zhǔn)確性高達(dá)99.9%。

斯坦福大學(xué)研究員約翰·西克斯頓（John Thickstun）所在的團(tuán)隊(duì)，也在開發(fā)類似的AI文本水印方法，他表示：“明天太陽原地爆炸的概率，都比學(xué)生們不用AI寫文章的幾率大。”

但也有一位知情的OpenAI員工表示，他們擔(dān)心這些水印可以通過簡單的技術(shù)清除，比如由谷歌將文本翻譯成另一種語言，之后再翻譯回來；或者讓ChatGPT在文本中添加表情符號(hào)，再將其手動(dòng)刪除。

公司內(nèi)部普遍認(rèn)為，這款檢測(cè)器究竟該交給誰使用也是個(gè)大問題。如果使用的人太少，那它就缺乏現(xiàn)實(shí)意義；而如果廣泛對(duì)外開放訪問權(quán)限，惡意人士可能會(huì)破解其中采用的水印技術(shù)。

OpenAI員工還討論過將檢測(cè)器直接提供給教育工作者或者外部企業(yè)，以幫助學(xué)校識(shí)別由AI撰寫的論文和抄襲作品。

谷歌也曾開發(fā)過一款水印工具，可以檢測(cè)由其Gemini AI生成的文本。這款工具名為SynthID，目前處于內(nèi)測(cè)階段，尚未全面向公眾開放。

OpenAI還有一款工具，可以用來確定圖像內(nèi)容是否由DALL-3（OpenAI旗下的文生圖模型）生成，而且該工具已在今年春季開放了測(cè)試。知情員工表示，OpenAI其實(shí)優(yōu)先考慮的是音頻和視覺水印，而非文本水印。畢竟考慮到美國已經(jīng)迎來又一個(gè)選舉年，前者的危害明顯更大。

• 學(xué)生濫用AI寫作，教師焦慮升級(jí)

生成式AI可以根據(jù)一個(gè)提示，在幾秒鐘內(nèi)免費(fèi)創(chuàng)建整篇論文或研究論文。教師和教授們紛紛表示，他們迫切需要官方幫助來打擊這種濫用AI技術(shù)的行為。

紐約市高中英語與新聞學(xué)教師亞歷克斯·古特曼（Alexa Gutterman）表示，“這已經(jīng)成了大問題，跟我共事的每一位老師都在討論這種趨勢(shì)。”

民主與技術(shù)中心（一家關(guān)注技術(shù)政策非營利組織）最近的一項(xiàng)調(diào)查發(fā)現(xiàn)，59%的初中和高中教師明確發(fā)現(xiàn)有學(xué)生在使用AI幫助完成作業(yè)，這一比例較上學(xué)年增長了17個(gè)百分點(diǎn)。

圖片來源：X

2023年1月，OpenAI發(fā)布了一種算法，旨在檢測(cè)由包括其自家模型在內(nèi)的多種AI模型編寫的文本，但成功率只有6%。七個(gè)月之后，OpenAI決定將其撤回。

還有其他由外部企業(yè)和研究人員開發(fā)的類似AI輸出文本檢測(cè)工具，不少教師表示他們已經(jīng)試用過這些工具，但有時(shí)候不僅無法檢測(cè)到由先進(jìn)大語言模型生成的文本、還經(jīng)常會(huì)產(chǎn)生誤報(bào)。

也有部分教師鼓勵(lì)學(xué)生使用AI來幫助研究或者為當(dāng)前思路提供反饋。但問題在于，如果學(xué)生純靠ChatGPT這樣的應(yīng)用程序完成作業(yè)，那他們自己甚至都不知道學(xué)了些什么。

去年，猶他大學(xué)政治學(xué)教授喬什·麥克雷恩（Josh McCrain）給學(xué)生們布置了一項(xiàng)寫作作業(yè)，其中也摻雜了某些難以辨認(rèn)的短文本片段，要求學(xué)生在作業(yè)中引用蝙蝠俠的內(nèi)容。而如果他們把作業(yè)直接粘貼進(jìn)AI對(duì)話框，這部分說明也會(huì)被納入其中。

果然，有少數(shù)學(xué)生在提交的作業(yè)中莫名其妙地引用了蝙蝠俠這一元素。為此，麥克雷恩正在不斷調(diào)整作業(yè)的內(nèi)容，盡可能在作業(yè)中加上AI相對(duì)不熟悉的時(shí)事素材上，同時(shí)勸告學(xué)生們不要完全依賴AI來完成作業(yè)。“我一直反復(fù)向?qū)W生強(qiáng)調(diào)：這是你們自己的學(xué)習(xí)旅程，偷懶是不可取的。”

• 持續(xù)多年的爭論

知情人士指出，關(guān)于水印工具的討論早在OpenAI于2022年11月推出ChatGPT之前就開始了，而且長期成為沖突和對(duì)立的根源。這款工具由計(jì)算機(jī)科學(xué)教授斯科特·阿倫森（Scott Aaronson）開發(fā)而成，他在得克薩斯大學(xué)兩年休假期間一直在OpenAI從事安全工作。

圖片來源：德克薩斯大學(xué)官網(wǎng)

2023年初，OpenAI公司聯(lián)合創(chuàng)始人之一約翰·舒爾曼（John Schulman）在一份共享Google文檔中概述了該工具的優(yōu)勢(shì)和缺點(diǎn)。OpenAI高管則決定在采取進(jìn)一步行動(dòng)之前，先征求更多人的意見。

在接下來的一年半時(shí)間里，OpenAI的管理層反復(fù)討論這項(xiàng)技術(shù)，并希望通過數(shù)據(jù)分析來決定到底要不要對(duì)外發(fā)布。

一份內(nèi)部文件顯示，OpenAI于2023年4月委托開展的一項(xiàng)調(diào)查指出，有四分之一的用戶支持AI檢測(cè)工具的推出。

同月，OpenAI針對(duì)ChatGPT用戶開展了一項(xiàng)調(diào)查，結(jié)果顯示，高達(dá)69%的受訪者擔(dān)憂由于作弊檢測(cè)技術(shù)的誤判，使用AI的人可能會(huì)無端遭受“濫用AI”的指責(zé)。此外，近30%的受訪者強(qiáng)烈表示，如果ChatGPT決定實(shí)施水印機(jī)制，他們將選擇轉(zhuǎn)向那些不采用水印機(jī)制的競(jìng)爭對(duì)手平臺(tái)，或者至少會(huì)減少對(duì)ChatGPT的使用頻率。

OpenAI公司內(nèi)部還一直存在擔(dān)憂，即反作弊工具可能會(huì)損害ChatGPT的寫作質(zhì)量。但知情人士表示，OpenAI今年早些時(shí)候進(jìn)行了一項(xiàng)測(cè)試，發(fā)現(xiàn)水印并不會(huì)影響ChatGPT的性能。

根據(jù)內(nèi)部文件，參與測(cè)試的員工總結(jié)道：“既然我們確認(rèn)了水印不會(huì)降低輸出質(zhì)量，恐怕就很難繼續(xù)反對(duì)文本水印機(jī)制的落地了。”

今年6月初，OpenAI的高層團(tuán)隊(duì)與研究人員再次開會(huì)，就該項(xiàng)目進(jìn)行了深入討論。小組內(nèi)部達(dá)成了共識(shí)，認(rèn)為水印技術(shù)確實(shí)展現(xiàn)出了良好的效果，但同時(shí)，去年ChatGPT用戶調(diào)查的結(jié)果依然具有重要的參考價(jià)值。據(jù)知情人士透露，有觀點(diǎn)提出，公司應(yīng)該探索那些尚未得到驗(yàn)證、但有望在用戶群體中引發(fā)較少爭議的新方法。

內(nèi)部文件揭示，與會(huì)者普遍認(rèn)為OpenAI應(yīng)在今年秋季之前擬定一項(xiàng)策略，旨在引導(dǎo)公眾對(duì)AI透明度的正面認(rèn)知，并考慮推動(dòng)相關(guān)立法進(jìn)程以支持這一方向。

6月會(huì)議紀(jì)要的核心指出：“若未能及時(shí)行動(dòng)，我們的聲譽(yù)將會(huì)受損，公眾可能會(huì)因此質(zhì)疑OpenAI的責(zé)任感。”

每日經(jīng)濟(jì)新聞綜合自公開消息