ChatGPT商業(yè)推薦被曝引用不可靠信息來源,專家提醒用戶勿盲目信任快訊
人工智能工具 ChatGPT 在商業(yè)推薦中可能引用了不可靠的信息來源,包括被黑客攻擊的網(wǎng)站和已被重新利用的過期域名,但如果推薦內(nèi)容來源不可靠。
7 月 10 日消息,一項(xiàng)最新發(fā)現(xiàn)指出,人工智能工具 ChatGPT 在商業(yè)推薦中可能引用了不可靠的信息來源,包括被黑客攻擊的網(wǎng)站和已被重新利用的過期域名。
據(jù)了解,該發(fā)現(xiàn)由 SEO 專家、Digitaloft 公司董事總經(jīng)理詹姆斯?布羅克班克(James Brockbank)通過個(gè)人測(cè)試得出,并非基于正式研究。他在測(cè)試中發(fā)現(xiàn),ChatGPT 在推薦公司或服務(wù)時(shí),有時(shí)會(huì)引用被篡改或誤導(dǎo)性的內(nèi)容。這些內(nèi)容往往來自被黑客入侵的高權(quán)重網(wǎng)站,或是已被重新注冊(cè)并用于發(fā)布無關(guān)信息的過期域名。由于這些域名本身具有較高的“權(quán)威性”,ChatGPT 在生成回答時(shí)仍將其視為可信來源。
布羅克班克指出,這種現(xiàn)象主要涉及兩類問題:一是被黑客攻擊的網(wǎng)站,攻擊者在這些網(wǎng)站上植入與原本內(nèi)容無關(guān)的信息;二是過期域名的再利用,一些機(jī)構(gòu)或個(gè)人購買這些域名后,發(fā)布與其原主題無關(guān)的內(nèi)容,以借助其原有的搜索引擎權(quán)重誤導(dǎo) AI 系統(tǒng)。
“重建一個(gè)域名,僅僅是為了讓語言模型引用它?這就是操控?!辈剂_克班克在接受采訪時(shí)表示。他強(qiáng)調(diào),雖然通過合法媒體投放和精心策劃的內(nèi)容可以提升在 AI 推薦中的曝光度,但利用被黑或過期域名則明顯越過了道德底線。
這一發(fā)現(xiàn)對(duì)企業(yè)和用戶均具有重要影響。對(duì)于企業(yè)而言,AI 推薦已成為品牌曝光的重要渠道,但如果推薦內(nèi)容來源不可靠,可能誤導(dǎo)消費(fèi)者,甚至損害品牌聲譽(yù)。對(duì)于用戶來說,盲目信任 AI 推薦可能帶來信息誤判的風(fēng)險(xiǎn)。
布羅克班克呼吁,AI 開發(fā)者應(yīng)加強(qiáng)對(duì)操控內(nèi)容的識(shí)別與過濾機(jī)制,提升系統(tǒng)的信息篩選能力。在此之前,他建議用戶在使用 ChatGPT 等 AI 工具時(shí),應(yīng)對(duì)其推薦的信息來源進(jìn)行核實(shí),而非全盤接受。
“我們還沒有到可以完全信任 ChatGPT 推薦而不加驗(yàn)證的階段?!辈剂_克班克提醒道。(遠(yuǎn)洋)
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范,任何轉(zhuǎn)載的稿件都會(huì)明確標(biāo)注作者和來源;
2.TMT觀察網(wǎng)的原創(chuàng)文章,請(qǐng)轉(zhuǎn)載時(shí)務(wù)必注明文章作者和"來源:TMT觀察網(wǎng)",不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任;
3.作者投稿可能會(huì)經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。