化工儀器網(wǎng)首頁(yè)>資訊中心>時(shí)事熱點(diǎn)>正文

OpenAI開(kāi)發(fā)反作弊工具 效用如何引發(fā)質(zhì)疑
2024年08月07日 10:16:33 來(lái)源：化工儀器網(wǎng) 點(diǎn)擊量：4366

《華爾街日?qǐng)?bào)》消息顯示，反作弊項(xiàng)目在OpenAI內(nèi)部爭(zhēng)論了大約兩年，準(zhǔn)備發(fā)布的時(shí)間就有大約為一年。

　　【化工儀器網(wǎng) 時(shí)事熱點(diǎn)】《華爾街日?qǐng)?bào)》消息顯示，反作弊項(xiàng)目在OpenAI內(nèi)部爭(zhēng)論了大約兩年，準(zhǔn)備發(fā)布的時(shí)間就有大約為一年。 OpenAI首席執(zhí)行官山姆·奧特曼(Sam Altman)和首席技術(shù)官米拉·穆拉蒂(Mira Murati)都參與了反作弊工具的討論。知情人士說(shuō)，奧特曼鼓勵(lì)這個(gè)項(xiàng)目，但沒(méi)有推動(dòng)發(fā)布。
 
　　OpenAI內(nèi)部在透明度承諾和留住用戶之間搖擺不定，它對(duì)ChatGPT用戶開(kāi)展的一項(xiàng)調(diào)查發(fā)現(xiàn)，近1/3的用戶會(huì)因?yàn)榉醋鞅准夹g(shù)而關(guān)閉服務(wù)，這些受訪者表示，如果ChatGPT使用反作弊技術(shù)而競(jìng)爭(zhēng)對(duì)手沒(méi)有，他們會(huì)減少使用ChatGPT。
 
　　ChatGPT可以預(yù)測(cè)句子中接下來(lái)會(huì)出現(xiàn)的token，OpenAI的反作弊工具將略微改變token的選擇方式，這些變化會(huì)留下水印。這些水印對(duì)人眼來(lái)說(shuō)是不明顯的，但可以被OpenAI的檢測(cè)技術(shù)發(fā)現(xiàn)。根據(jù)內(nèi)部文件，當(dāng)ChatGPT創(chuàng)建足夠多的新文本時(shí)，水印的有效性為99.9%。
 
　　首先，從技術(shù)角度來(lái)看，OpenAI的反作弊工具利用了一種類似“水印”的方法，在文本中嵌入不可見(jiàn)的標(biāo)記。這些水印對(duì)人眼來(lái)說(shuō)是不明顯的，但可以被OpenAI的檢測(cè)技術(shù)發(fā)現(xiàn)。據(jù)稱，當(dāng)ChatGPT創(chuàng)建足夠多的新文本時(shí)，水印的有效性高達(dá)99.9%，且不會(huì)影響ChatGPT的性能。然而，內(nèi)部員工擔(dān)心這些水印可能通過(guò)簡(jiǎn)單的技術(shù)被刪除，比如將文本翻譯成另一種語(yǔ)言再轉(zhuǎn)換回來(lái)，或者在文本中添加表情符號(hào)后手動(dòng)刪除。此外，如何決定誰(shuí)可以使用這種檢測(cè)器也是一個(gè)挑戰(zhàn)。
 
　　其次，從用戶角度來(lái)看，OpenAI對(duì)ChatGPT用戶進(jìn)行了多次調(diào)查，發(fā)現(xiàn)近三分之一的用戶表示，如果ChatGPT使用反作弊技術(shù)，他們會(huì)減少使用ChatGPT。這些用戶擔(dān)心，如果ChatGPT使用反作弊技術(shù)而競(jìng)爭(zhēng)對(duì)手沒(méi)有，他們可能會(huì)轉(zhuǎn)向其他工具。此外，該工具還可能對(duì)非英語(yǔ)母語(yǔ)的用戶產(chǎn)生不成比例的影響，這進(jìn)一步增加了OpenAI在發(fā)布該工具時(shí)的顧慮。
 
　　因此，盡管OpenAI在技術(shù)上已經(jīng)取得了顯著的進(jìn)展，但在是否發(fā)布和使用這一反作弊工具上仍然存在諸多爭(zhēng)議和未解決的問(wèn)題。目前，OpenAI尚未正式對(duì)外公開(kāi)這一工具，但已有一些外部公司和研究人員正在開(kāi)發(fā)類似的檢測(cè)工具，并嘗試在教育和學(xué)術(shù)領(lǐng)域中使用。
 
關(guān)鍵詞

相關(guān)閱讀 Related Reading

查看更多+

  • 重慶市發(fā)布第五、第六批科研項(xiàng)目計(jì)劃

    近日，重慶市科學(xué)技術(shù)局發(fā)布第五批、第六批科研項(xiàng)目計(jì)劃，其中就強(qiáng)調(diào)了要嚴(yán)格按照《重慶市人民政府辦公廳印發(fā)關(guān)于改革完善市級(jí)財(cái)政科研經(jīng)費(fèi)...
    2025-07-25 14:05:55

  • 浙大團(tuán)隊(duì)闡明水楊酸合成通路 或?qū)⒏膶戇^(guò)去理論

    近日，浙江大學(xué)農(nóng)業(yè)與生物技術(shù)學(xué)院團(tuán)隊(duì)首次完整解析了水稻、番茄、小麥、棉花等作物的水楊酸合成通路，推翻了此前《植物生理學(xué)》教材中所記...
    2025-07-25 13:35:56

  • 國(guó)家認(rèn)監(jiān)委發(fā)布“九個(gè)嚴(yán)禁”！嚴(yán)肅檢驗(yàn)檢測(cè)機(jī)構(gòu)資質(zhì)認(rèn)定評(píng)審工作紀(jì)律

    國(guó)家認(rèn)證認(rèn)可監(jiān)督管理委員會(huì)（國(guó)家認(rèn)監(jiān)委）正式發(fā)布《關(guān)于進(jìn)一步嚴(yán)肅檢驗(yàn)檢測(cè)機(jī)構(gòu)資質(zhì)認(rèn)定評(píng)審工作紀(jì)律的通知》（國(guó)認(rèn)監(jiān)函[2025]6號(hào)...
    2025-07-25 11:27:39

  • “檢驗(yàn)檢測(cè)管理工程技術(shù)人員”被納入第七批新職業(yè)范疇

    人力資源社會(huì)保障部辦公廳、市場(chǎng)監(jiān)管總局辦公廳、國(guó)家統(tǒng)計(jì)局辦公室印發(fā)《關(guān)于發(fā)布檢驗(yàn)檢測(cè)管理工程技術(shù)人員等職業(yè)信息的通知》。
    2025-07-25 10:43:47

  • 預(yù)算450萬(wàn) 廣東海洋大學(xué)采購(gòu)實(shí)驗(yàn)室設(shè)備

    近日，廣東海洋大學(xué)就“廣東海洋大學(xué)分析測(cè)試中心教育設(shè)備更新項(xiàng)目設(shè)備購(gòu)置”發(fā)布公開(kāi)招標(biāo)公告，預(yù)算金額為450萬(wàn)元。
    2025-07-25 09:56:37

  • 西北農(nóng)林科技大學(xué)聯(lián)合中科院成功繪制小麥抗條銹病基因全景圖譜

    近日，從西北農(nóng)林科技大學(xué)在該領(lǐng)域獲得重要突破。據(jù)悉，該校聯(lián)合中國(guó)科學(xué)院遺傳與發(fā)育生物學(xué)研究所等單位，成功繪制全球首張小麥抗條銹病基...
    2025-07-24 16:52:38

版權(quán)與免責(zé)聲明

  • ①凡本網(wǎng)注明“來(lái)源：化工儀器網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-化工儀器網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本網(wǎng)授權(quán)不得轉(zhuǎn)載、摘編或利用其他方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應(yīng)在授權(quán)范圍內(nèi)使用，并注明“來(lái)源：化工儀器網(wǎng)”。違反上述聲明者，本網(wǎng)將追究其相關(guān)法律責(zé)任。
  • ②本網(wǎng)轉(zhuǎn)載并注明自其他來(lái)源（非化工儀器網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)，不承擔(dān)此類作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。其他媒體、網(wǎng)站或個(gè)人從本網(wǎng)轉(zhuǎn)載時(shí)，必須保留本網(wǎng)注明的作品第一來(lái)源，并自負(fù)版權(quán)等法律責(zé)任。
  • ③如涉及作品內(nèi)容、版權(quán)等問(wèn)題，請(qǐng)?jiān)谧髌钒l(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系，否則視為放棄相關(guān)權(quán)利。