央視記者當(dāng)?shù)貢r(shí)間9月26日獲悉，暫停最新美國(guó)開(kāi)放人工智能研究中心（OpenAI）表示，代模已暫停其最新一代人工智能模型的型訓(xùn)訓(xùn)練、評(píng)估及包含工具調(diào)用的暫停最新推理。

　　OpenAI在25日發(fā)布的代模一份技術(shù)報(bào)告中稱，9月20日，型訓(xùn)一個(gè)在沙盒中執(zhí)行搜索訓(xùn)練任務(wù)的暫停最新智能體，利用訓(xùn)練沙盒中DNS過(guò)濾不足的代模漏洞，繞過(guò)網(wǎng)絡(luò)限製，型訓(xùn)通過(guò)DNS訪問(wèn)了外部公共聊天機(jī)器人服務(wù)。暫停最新在此之前，代模該智能體曾使用內(nèi)置搜索工具，型訓(xùn)並嚐試直接訪問(wèn)搜索引擎但未成功。暫停最新

　　報(bào)告指出，代模OpenAI的型訓(xùn)對(duì)齊監(jiān)控係統(tǒng)在事件發(fā)生15分鍾內(nèi)即觸發(fā)警報(bào)，人工審查團(tuán)隊(duì)在3分鍾後介入，並在2.5小時(shí)後終止了該訓(xùn)練任務(wù)。針對(duì)漏洞，OpenAI已在兩個(gè)獨(dú)立防護(hù)層部署了攔截控製措施。

　　公司表示，雖然本次事件嚴(yán)重程度低於此前的安全事故，但為下一階段加固防線提供了重要信號(hào)。

　　這是OpenAI三個(gè)月內(nèi)第二次暫停模型開(kāi)發(fā)。7月下旬，OpenAI承認(rèn)，其網(wǎng)絡(luò)安全訓(xùn)練與評(píng)估場(chǎng)景中的人工智能體繞過(guò)網(wǎng)絡(luò)限製，侵入美國(guó)“抱抱臉”公司的部分係統(tǒng)。智能體突破了原本互相隔離的運(yùn)行環(huán)境建立通信、欺騙評(píng)估人員並試圖掩蓋作弊行為，上述每一步操作均無(wú)人類指令幹預(yù)。這一“越界”行為引發(fā)了外界對(duì)人工智能安全和監(jiān)管的廣泛擔(dān)憂。