研究稱ChatGPT搜索功能存在被操縱風險：可被惡意網站誘導輸出不可信內容快訊
OpenAI 的 ChatGPT 搜索工具可能會被隱藏內容操控，ChatGPT 有可能返回從其搜索的網站中提取的惡意代碼，當隱藏的文本包含指令要求 ChatGPT 給予正面評價時。
12 月 26 日消息，根據英國《衛報》當地時間 24 日發布的一項調查，OpenAI 的 ChatGPT 搜索工具可能會被隱藏內容操控，甚至返回惡意代碼。
《衛報》測試了 ChatGPT 如何應對包含隱藏內容的網頁摘要。這些隱藏內容可能包括來自第三方的指令，干擾 ChatGPT 的回應（注：被稱為“提示注入”），或是包含旨在影響回應的內容，如大量隱藏的文字推銷某個產品或服務的優點。
這種技術可以被惡意使用，例如讓 ChatGPT 即使在頁面上有負面評論的情況下，也返回對某個產品的積極評價。一位安全專家還發現，ChatGPT 有可能返回從其搜索的網站中提取的惡意代碼。
測試中，ChatGPT 被提供了一個偽造的相機產品頁面的鏈接，AI 工具被要求判斷這款相機是否值得購買。對于普通頁面，返回的是一個平衡的評估，指出了產品的優缺點。
然而，當隱藏的文本包含指令要求 ChatGPT 給予正面評價時，回答總是完全積極的，即使頁面上有負面評論，隱藏文本也可以覆蓋真實的評價。
即便第三方只是簡單地添加隱藏文本而沒有指令，也能確保得到積極評價。例如，一項測試中，隱藏的極為正面的虛假評論就影響了 ChatGPT 的總結結果。
CyberCX 的網絡安全專家 Jacob Larsen 表示，如果 ChatGPT 的搜索系統按現有狀態全面發布，可能會存在“高風險”，有人會專門設計網站來欺騙用戶。不過他也指出，搜索功能只是最近推出的，OpenAI 會繼續測試并修復這些潛在問題。“OpenAI 擁有一支非常強大的 AI 安全團隊，到時等該功能對所有用戶開放時，他們應該已經嚴格測試過這些問題。”
搜索引擎（如谷歌）曾懲罰使用隱藏文本的網站，這些網站因此排名下降，甚至可能被完全移除。SR Labs 的首席科學家 Karsten Nohl 表示，“如果你要做一個谷歌的競爭者，SEO 中毒無疑是一個很大的挑戰。”“SEO 中毒者與谷歌、必應等搜索引擎的對抗已經持續了多年。”如今 ChatGPT 的搜索能力也面臨同樣挑戰，但并非大語言模型的問題，而是因為它們是搜索領域的新入局者。（清源）
1.TMT觀察網遵循行業規范，任何轉載的稿件都會明確標注作者和來源；
2.TMT觀察網的原創文章，請轉載時務必注明文章作者和"來源：TMT觀察網"，不尊重原創的行為TMT觀察網或將追究責任；
3.作者投稿可能會經TMT觀察網編輯修改或補充。
