OpenAI正開發(fā)ChatGPT“兒童版”，平衡青少年安全、用戶自由與隱私保護(hù)快訊
OpenAI 將嘗試聯(lián)系家長，OpenAI 正研發(fā)更先進(jìn)的安全功能，闡述了其在青少年安全、用戶自由與隱私保護(hù)三個(gè)原則之間的取舍與決策。
9 月 17 日消息，OpenAI 昨晚發(fā)布公告，闡述了其在青少年安全、用戶自由與隱私保護(hù)三個(gè)原則之間的取舍與決策。
OpenAI 表示，這些領(lǐng)域存在一定沖突，因此需要在透明的前提下作出平衡。
OpenAI 強(qiáng)調(diào)，AI 對話涉及高度個(gè)人化的信息，其敏感程度可類比醫(yī)生問診或律師咨詢。公司認(rèn)為，這類信息應(yīng)獲得同等的“特權(quán)保護(hù)”，并正積極向政策制定者倡導(dǎo)這一立場。
為此，OpenAI 正研發(fā)更先進(jìn)的安全功能，確保用戶數(shù)據(jù)即便對公司員工也保持私密性。但公告同時(shí)指出，在特定情況下仍會有例外，例如自動化系統(tǒng)監(jiān)測到嚴(yán)重濫用，或涉及生命威脅、他人安全風(fēng)險(xiǎn)、大規(guī)模網(wǎng)絡(luò)安全事件時(shí)，數(shù)據(jù)可能被提交人工審核。
OpenAI 表示，其目標(biāo)是在安全范圍內(nèi)盡可能保障用戶的使用自由。隨著模型可控性增強(qiáng)，用戶的自由度也在逐步提升。例如，模型默認(rèn)不會生成曖昧對話，但如成年用戶主動提出，則應(yīng)當(dāng)提供；而涉及自殺相關(guān)內(nèi)容時(shí)，模型不會提供實(shí)施指導(dǎo)，但若是成年用戶要求幫助創(chuàng)作包含自殺情節(jié)的虛構(gòu)作品，則應(yīng)予以支持。OpenAI 稱這一原則為 “把成年人當(dāng)成年人對待”。
對于未成年人群體，OpenAI 明確優(yōu)先考慮安全而非隱私和自由。ChatGPT 的使用對象設(shè)定為 13 歲及以上，公司正在研發(fā)年齡預(yù)測系統(tǒng)，以區(qū)分未成年人和成年人。
如果系統(tǒng)識別用戶未滿 18 歲，將自動進(jìn)入青少年專屬模式，屏蔽露骨性內(nèi)容，并在用戶表現(xiàn)出嚴(yán)重心理困擾時(shí)，可能聯(lián)系家長或在緊急情況下通知執(zhí)法部門。
如果無法確定年齡或信息不完整，系統(tǒng)將默認(rèn)進(jìn)入未成年人模式；成年人則可通過驗(yàn)證方式解鎖完整功能。
針對未成年用戶，OpenAI 制定了更嚴(yán)格的規(guī)則：
不允許生成曖昧對話；
不參與任何形式的自殺或自殘?jiān)掝}，即便是在文學(xué)創(chuàng)作背景下；
若用戶表現(xiàn)出自殺意圖，OpenAI 將嘗試聯(lián)系家長，若無法聯(lián)系則會在存在緊急危險(xiǎn)時(shí)上報(bào)有關(guān)部門。
OpenAI 還宣布，將于本月內(nèi)推出 家長控制功能，支持家長：
通過電子郵件邀請，將自身賬戶與子女賬戶（13 歲以上）關(guān)聯(lián)；
管理 ChatGPT 針對青少年的行為規(guī)則；
控制是否啟用記憶功能與聊天記錄；
在檢測到青少年處于嚴(yán)重心理危機(jī)時(shí)接收通知（如無法聯(lián)系到家長則可能上報(bào)有關(guān)部門）；
設(shè)定“禁用時(shí)段”，限制青少年在特定時(shí)間段使用 ChatGPT。
此外，面向所有用戶的提醒功能仍將保留，例如在長時(shí)間使用時(shí)提示適度休息。（問舟）
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會明確標(biāo)注作者和來源；
2.TMT觀察網(wǎng)的原創(chuàng)文章，請轉(zhuǎn)載時(shí)務(wù)必注明文章作者和"來源：TMT觀察網(wǎng)"，不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任；
3.作者投稿可能會經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。
