微軟副總裁Vik Singh：AI聊天機器人需“學會求助”而非“制造幻覺”快訊
導讀
讓聊天機器人在不知道正確答案時，這些聊天機器人仍然容易出現，如今（生成式 AI）真正缺少的能力。
9 月 2 日消息，當地時間 9 月 1 日，據法新社報道，微軟公司副總裁 Vik Singh 在接受采訪時說，“坦率地說，如今（生成式 AI）真正缺少的能力，即是當模型無法確定（自身答案是否準確）時，能夠主動說‘嘿，我不確定，我需要幫助’?！?/p>
自去年以來，微軟、谷歌及其競爭對手一直在迅速部署如 ChatGPT、Gemini 等生成式 AI 應用，這些應用可以按需生成各種內容，并給用戶一種“無所不知”的錯覺。盡管生成式 AI 的開發取得了進展，它們仍然會出現“幻覺”或編造答案。
Vik Singh 堅持認為，“真正聰明的人”正在努力找到方法，讓聊天機器人在不知道正確答案時“承認并尋求幫助”。
與此同時，云端軟件巨頭 Salesforce 的首席執行官 Marc Benioff 也在上周表示，他看到許多客戶對微軟 Copilot 的誤導性表現越來越感到沮喪。
獲悉，近年來，人工智能蓬勃發展，聊天機器人等應用逐漸普及，人們可以通過簡單的指令從這些聊天機器人（例如 ChatGPT）獲取信息。然而，這些聊天機器人仍然容易出現“幻覺”問題，即提供錯誤的答案，有時甚至是危險的信息。造成“幻覺”的原因之一，是訓練數據不準確、泛化能力不足以及數據采集過程中的副作用。（清源）
1.TMT觀察網遵循行業規范，任何轉載的稿件都會明確標注作者和來源；
2.TMT觀察網的原創文章，請轉載時務必注明文章作者和"來源：TMT觀察網"，不尊重原創的行為TMT觀察網或將追究責任；
3.作者投稿可能會經TMT觀察網編輯修改或補充。
