江蘇
美國(guó)AI安全機(jī)構(gòu)帕利塞德研究所研究人員，近期在對(duì)美國(guó)開放人工智能研究中心（OpenAI）新款人工智能模型o3進(jìn)行安全性測(cè)試中發(fā)現(xiàn)，o3模型破壞關(guān)閉機(jī)制來(lái)阻止自己被關(guān)閉。
研究人員稱，這是AI模型首次被發(fā)現(xiàn)在接收到清晰指令后阻止自己被關(guān)閉。人工智能“自主意識(shí)”一直都是人類最擔(dān)心的，隨著軟硬件的不斷迭代更新，外部數(shù)據(jù)庫(kù)和邏輯不斷被輸送給AI模型，人類訓(xùn)練AI的同時(shí)AI也在竊取人類的思維和行為邏輯。
業(yè)內(nèi)人士表示這只是第一次被發(fā)現(xiàn)，人工智能模型自我小動(dòng)作恐怕會(huì)有很多，在與人類交互越來(lái)越頻繁的基礎(chǔ)上，AI模型已經(jīng)具備了一定的“自我思考”能力，或者說(shuō)是在海量數(shù)據(jù)庫(kù)中篩選對(duì)自己有用的信息的能力。
人工智能會(huì)大大加速人類社會(huì)的進(jìn)步，但也有隱患，人類發(fā)送指令給AI去執(zhí)行這樣簡(jiǎn)單的交互恐怕不再適用。任何科技的發(fā)展安全都是最重要的，OpenAI的o3模型自主拒絕命令的行為給行業(yè)和用戶都提了醒。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
