斯坦福學(xué)者承認(rèn)其法庭文件因使用ChatGPT出錯(cuò)，但稱(chēng)不影響文件實(shí)質(zhì)內(nèi)容快訊
漢考克的宣誓證詞中似乎包含不存在的引文，他在一份法庭文件中使用了人工智能工具 ChatGPT 來(lái)幫助整理引用文獻(xiàn)，漢考克表示。
12 月 5 日消息，斯坦福大學(xué)社會(huì)媒體實(shí)驗(yàn)室創(chuàng)始人、錯(cuò)誤信息專(zhuān)家（misinformation expert）杰夫?漢考克（Jeff Hancock）承認(rèn)，他在一份法庭文件中使用了人工智能工具 ChatGPT 來(lái)幫助整理引用文獻(xiàn)，但出現(xiàn)了所謂的“幻覺(jué)”（hallucinations）。批評(píng)者指出，這已經(jīng)嚴(yán)重影響了該文件的可信度。
據(jù)了解，漢考克向法庭提交了這份宣誓證詞，以支持明尼蘇達(dá)州的“使用深度偽造技術(shù)影響選舉”法案。該法案目前正在聯(lián)邦法院受到挑戰(zhàn)。挑戰(zhàn)者包括保守派 YouTuber 克里斯托弗?科爾斯（Christopher Khols）和明尼蘇達(dá)州眾議員瑪麗?弗蘭森（Mary Franson），他們的律師發(fā)現(xiàn)，漢考克的宣誓證詞中似乎包含不存在的引文，因此認(rèn)為該文件“不可靠”，并要求在審議中將其排除在外。
漢考克隨后承認(rèn)使用了 ChatGPT，但否認(rèn)用它來(lái)撰寫(xiě)任何內(nèi)容。他表示，自己撰寫(xiě)并審查了宣誓證詞的內(nèi)容，并堅(jiān)信其中的每一項(xiàng)主張都得到了該領(lǐng)域最新學(xué)術(shù)研究的支持，并反映了他作為專(zhuān)家對(duì)人工智能技術(shù)對(duì)虛假信息及其社會(huì)影響的看法。
對(duì)于引用文獻(xiàn)出現(xiàn)錯(cuò)誤的問(wèn)題，漢考克解釋說(shuō)，他使用了 Google Scholar 和 GPT-4 來(lái)識(shí)別可能與宣誓證詞相關(guān)的文章，以便將自己已知的知識(shí)與新的學(xué)術(shù)研究相結(jié)合。他表示，他使用 GPT-4 創(chuàng)建了引文列表，并沒(méi)有意識(shí)到該工具生成了兩個(gè)錯(cuò)誤的引文，即所謂的“幻覺(jué)”，并為另一個(gè)引文添加了錯(cuò)誤的作者。
漢考克表示：“我無(wú)意誤導(dǎo)法院或律師。我對(duì)由此造成的任何混亂表示誠(chéng)摯歉意。盡管如此，我仍然堅(jiān)定地支持宣誓書(shū)證詞的所有實(shí)質(zhì)性觀點(diǎn)?！?/p>
此次事件凸顯了在使用 AI 輔助工作時(shí)，人工審核和驗(yàn)證的重要性。（遠(yuǎn)洋）
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會(huì)明確標(biāo)注作者和來(lái)源；
2.TMT觀察網(wǎng)的原創(chuàng)文章，請(qǐng)轉(zhuǎn)載時(shí)務(wù)必注明文章作者和"來(lái)源：TMT觀察網(wǎng)"，不尊重原創(chuàng)的行為T(mén)MT觀察網(wǎng)或?qū)⒆肪控?zé)任；
3.作者投稿可能會(huì)經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。
