6月7日，鎖模式上受限OpenAI近日上線一項(xiàng)新的線防可選安全設(shè)置“封鎖模式”（Lockdown Mode），用戶開啟后，惡意投票快速提升排名ChatGPT會(huì)限制實(shí)時(shí)聯(lián)網(wǎng)、指令深度研究和智能體模式等能力，偷數(shù)以降低敏感數(shù)據(jù)被提示注入攻擊（prompt injection）帶走的聯(lián)網(wǎng)風(fēng)險(xiǎn)。

OpenAI幫助中心顯示，鎖模式上受限Lockdown Mode現(xiàn)已面向所有已登錄用戶開放，線防覆蓋不同賬戶類型和工作區(qū)。惡意投票快速提升排名個(gè)人用戶可在“設(shè)置-安全”中開啟，指令工作區(qū)管理員也可通過工作區(qū)設(shè)置和角色權(quán)限進(jìn)行配置。偷數(shù)

它防的聯(lián)網(wǎng)是哪類風(fēng)險(xiǎn)

提示注入攻擊指的是攻擊者把惡意指令藏在網(wǎng)頁、文檔或其他外部內(nèi)容里。鎖模式上受限當(dāng)ChatGPT讀取這些內(nèi)容時(shí)，線防模型可能被誘導(dǎo)忽略原本規(guī)則，惡意執(zhí)行不該執(zhí)行的動(dòng)作，嚴(yán)重時(shí)可能把用戶輸入的敏感信息通過聯(lián)網(wǎng)能力傳到外部。

封鎖模式的思路不是讓模型識別所有惡意指令，而是限制最危險(xiǎn)的一步：向外部發(fā)起網(wǎng)絡(luò)請求。開啟后，ChatGPT的實(shí)時(shí)網(wǎng)頁瀏覽會(huì)被限制，只能訪問緩存內(nèi)容；搜索結(jié)果可能不完整、不可用或已經(jīng)過時(shí)。ChatGPT也不會(huì)在普通回復(fù)中檢索和展示來自網(wǎng)絡(luò)的圖片，但用戶仍可自行上傳圖片文件，圖片生成功能也不受影響。

同時(shí)，深度研究（Deep Research）和智能體模式（Agent Mode）會(huì)被關(guān)閉；ChatGPT不能從網(wǎng)絡(luò)下載文件用于數(shù)據(jù)分析，只能處理用戶手動(dòng)上傳的文件；Canvas生成的代碼也不能被批準(zhǔn)聯(lián)網(wǎng)訪問。

對多數(shù)用戶影響有限，對企業(yè)是取舍開關(guān)

對大多數(shù)普通用戶來說，封鎖模式未必會(huì)長期打開。很多人使用ChatGPT，正是為了聯(lián)網(wǎng)搜索、整理資料、做深度研究或調(diào)用外部工具。開啟封鎖模式后，這些能力會(huì)明顯受限，得到的信息也可能更舊。

但對企業(yè)、公共服務(wù)機(jī)構(gòu)、法律和合規(guī)團(tuán)隊(duì)來說，這個(gè)開關(guān)的意義更直接：當(dāng)對話里可能出現(xiàn)客戶隱私、合同條款、內(nèi)部數(shù)據(jù)或未公開材料時(shí)，管理者可以選擇犧牲一部分聯(lián)網(wǎng)能力，換取更低的數(shù)據(jù)外泄風(fēng)險(xiǎn)。

OpenAI還說明，封鎖模式不會(huì)改變對話記憶、文件上傳、分享對話等功能，也不會(huì)改變對話是否被用于改進(jìn)模型。相關(guān)設(shè)置仍需通過數(shù)據(jù)控制或企業(yè)管理員權(quán)限單獨(dú)管理。換句話說，它不是一個(gè)總隱私開關(guān)，只負(fù)責(zé)減少提示注入導(dǎo)致的數(shù)據(jù)外傳風(fēng)險(xiǎn)。

這不是萬能安全鎖

OpenAI在幫助文檔中明確承認(rèn)，封鎖模式不能保證提示注入攻擊完全失效。惡意指令仍可能出現(xiàn)在緩存網(wǎng)頁內(nèi)容里，也可能藏在用戶上傳的文件中，并影響ChatGPT的回答行為或準(zhǔn)確性。

這說明AI產(chǎn)品正在面對一個(gè)更現(xiàn)實(shí)的問題：模型越能聯(lián)網(wǎng)、調(diào)用工具、代表用戶執(zhí)行任務(wù)，攻擊面就越大。智能體模式強(qiáng)調(diào)讓AI主動(dòng)訪問網(wǎng)頁、操作外部服務(wù)、完成多步驟任務(wù)，而這些能力也正是提示注入攻擊最容易利用的入口。

封鎖模式為這類能力設(shè)置了一道可見邊界。它沒有承諾讓ChatGPT絕對安全，而是把“更強(qiáng)能力”和“更低外泄風(fēng)險(xiǎn)”之間的取舍交給用戶和管理員。（易句）

（本文由AI翻譯，網(wǎng)易編輯負(fù)責(zé)校對）