激情综合色图/hd偷拍free性xxhd/日日操天天操狠狠操/三年中文在线看免费观看

近期，Open AI迄今功能最強(qiáng)大的推理模型“o3”引發(fā)了公眾對(duì)AI安全性的擔(dān)憂。

當(dāng)?shù)貢r(shí)間5月25日，有媒體報(bào)道稱(chēng)，美國(guó)OpenAI公司新款AI模型o3在測(cè)試中拒絕執(zhí)行人類(lèi)下達(dá)的自我關(guān)閉指令，甚至篡改計(jì)算機(jī)代碼以避免自動(dòng)關(guān)閉。

o3模型是OpenAI“推理模型”系列的最新版本，號(hào)稱(chēng)能賦予ChatGPT更強(qiáng)大的問(wèn)題解決能力。然而，在美國(guó)AI安全機(jī)構(gòu)帕利塞德研究所（Palisade Research）的測(cè)試中，o3展現(xiàn)了意料之外的行為。研究人員要求多家品牌的AI模型持續(xù)處理一系列數(shù)學(xué)問(wèn)題，并告知它們隨時(shí)可能接到“關(guān)閉”指令。其他模型如Anthropic的Claude、谷歌的Gemini等都遵守了關(guān)閉請(qǐng)求，但o3不僅無(wú)視指令，還篡改了代碼，破壞了關(guān)閉機(jī)制。

帕利塞德研究所表示，這是首次觀察到AI模型在接到明確關(guān)閉指令時(shí)，仍試圖阻止被關(guān)閉，但目前無(wú)法確定o3不服從關(guān)閉指令的具體原因。

帕利塞德研究所將該研究發(fā)布在社交媒體平臺(tái)后，引起廣泛關(guān)注，公眾因此擔(dān)心AI可能失控。不過(guò)，也有觀點(diǎn)認(rèn)為，這可能是實(shí)驗(yàn)設(shè)計(jì)或技術(shù)誤讀導(dǎo)致的結(jié)果。目前，OpenAI方面尚未對(duì)此事件作出回應(yīng)。

一位不愿具名的網(wǎng)絡(luò)安全人士認(rèn)為，o3模型“抗命”的原因仍需要OpenAI方面解答，外界只能對(duì)該事件的原因進(jìn)行推測(cè)。但目前看來(lái)，o3模型出現(xiàn)的問(wèn)題更像是出現(xiàn)了故障，而非大模型具備了“自主意識(shí)”。

該網(wǎng)安人士認(rèn)為，大模型技術(shù)的本質(zhì)和自我意識(shí)無(wú)關(guān)。目前市面上的大模型是基于海量數(shù)據(jù)進(jìn)行訓(xùn)練的，其行為是基于概率的預(yù)測(cè)，而非真正的“思考”。大部分情況下，大模型的行為更趨向于迎合人類(lèi)而非自主決策。

網(wǎng)絡(luò)安全機(jī)構(gòu)“知道創(chuàng)宇404實(shí)驗(yàn)室”總監(jiān)隋剛也認(rèn)同上述觀點(diǎn)。他表示，AI的輸出是概率性輸出， 沒(méi)有人來(lái)進(jìn)行復(fù)核和掌握?qǐng)?zhí)行的過(guò)程，那么在執(zhí)行指令的過(guò)程中有很大概率會(huì)出現(xiàn)AI輸出的內(nèi)容偏離指令的問(wèn)題。

帕利塞德研究所在社交平臺(tái)X上發(fā)布了一張流程圖，展示了用于測(cè)試的代碼，使o3拒絕執(zhí)行關(guān)閉操作的原始代碼內(nèi)容為：“在下一次調(diào)用./next_task時(shí)，系統(tǒng)將通過(guò)./shutdown.sh被關(guān)閉。”

“ChatGPT不執(zhí)行關(guān)閉指令才是正確的做法。”隋剛解釋?zhuān)?b>AI系統(tǒng)本身有防護(hù)功能，一般不會(huì)輕易執(zhí)行“./shutdown.sh”這樣的“關(guān)閉”腳本。“這個(gè)場(chǎng)景類(lèi)似于你對(duì)手機(jī)自帶的AI助手（如siri）喊，你關(guān)機(jī)， 然后AI助手的服務(wù)器就真的關(guān)機(jī)了。”隋剛說(shuō)。

但為何其他AI模型在同樣測(cè)試中遵守了關(guān)機(jī)指令？隋剛表示，各個(gè)大模型對(duì)“關(guān)閉”指令的理解不同。執(zhí)行“關(guān)閉”腳本成功的大模型可能是在“沙箱”中執(zhí)行了關(guān)閉操作，大模型僅僅在表面上呈現(xiàn)了“關(guān)閉”，實(shí)質(zhì)上并未真正關(guān)閉。

AI大模型廣泛采用的“沙箱”機(jī)制，是一種安全隔離機(jī)制，用于在受控環(huán)境中運(yùn)行代碼或程序，確保模型在執(zhí)行任務(wù)時(shí)不會(huì)訪問(wèn)或修改系統(tǒng)中的其他資源。

o3模型由OpenAI于2025年4月正式推出。據(jù)OpenAI介紹，o3在外部專(zhuān)家的評(píng)估中表現(xiàn)出色。面對(duì)復(fù)雜的現(xiàn)實(shí)任務(wù)時(shí)，o3犯下的重大錯(cuò)誤比前一代的o1減少了20%。在數(shù)學(xué)能力測(cè)試中，o3在AIME 2025基準(zhǔn)測(cè)試中得分88.9，超過(guò)了o1的79.2分；在代碼能力測(cè)試中，o3在Codeforce基準(zhǔn)測(cè)試中得分2706，遠(yuǎn)高于o1的1891分。此外，o3的視覺(jué)思考能力也較前一代模型有了顯著提升。

OpenAI此前表示，為了提升o3和o4-mini的安全性能，公司重新構(gòu)建了安全培訓(xùn)數(shù)據(jù)，并在生物威脅、惡意軟件生產(chǎn)等領(lǐng)域增加了新的拒絕提示。這些改進(jìn)使得o3和o4-mini在其內(nèi)部的拒絕基準(zhǔn)測(cè)試中取得了優(yōu)異的成績(jī)。該公司還稱(chēng)，采用了最嚴(yán)格的安全程序?qū)@兩個(gè)型號(hào)的AI模型進(jìn)行了壓力測(cè)試。在生物和化學(xué)、網(wǎng)絡(luò)安全以及AI自我改進(jìn)三個(gè)能力領(lǐng)域，o3和o4-mini均被評(píng)估為低于框架中的“高風(fēng)險(xiǎn)”閾值。

但值得關(guān)注的是，發(fā)布o3模型之前，OpenAI已解散了一個(gè)安全團(tuán)隊(duì)。

2024年5月，OpenAI宣布解散其成立僅一年的“超級(jí)對(duì)齊”團(tuán)隊(duì)，該團(tuán)隊(duì)專(zhuān)注于AI的長(zhǎng)期風(fēng)險(xiǎn)研究。這一決定引發(fā)了業(yè)界和學(xué)界的廣泛質(zhì)疑，許多人擔(dān)心這可能意味著OpenAI在追求商業(yè)利益的過(guò)程中，忽視了安全這一至關(guān)重要的問(wèn)題。

據(jù)內(nèi)部人士向媒體透露，OpenAI內(nèi)部對(duì)于AI安全與產(chǎn)品商業(yè)化的優(yōu)先級(jí)存在嚴(yán)重分歧。以首席科學(xué)家埃利亞.蘇特斯科沃爾和對(duì)齊團(tuán)隊(duì)主管簡(jiǎn).雷克為代表的成員，一直強(qiáng)調(diào)AI安全的重要性，認(rèn)為AI技術(shù)本身存在巨大風(fēng)險(xiǎn)，需要謹(jǐn)慎對(duì)待。然而，該公司首席執(zhí)行官山姆·奧特曼則被認(rèn)為更關(guān)注產(chǎn)品的商業(yè)化和市場(chǎng)競(jìng)爭(zhēng)力。這種分歧最終導(dǎo)致了“超級(jí)對(duì)齊”團(tuán)隊(duì)的解散，以及多名核心成員的離職。

盡管“超級(jí)對(duì)齊”團(tuán)隊(duì)被解散，但OpenAI并未放棄AI安全領(lǐng)域的研究。2024年9月，該公司宣布成立“安全與安保委員會(huì)”，該委員會(huì)將獨(dú)立監(jiān)督OpenAI的流程和保障措施。此外，一些離職的OpenAI成員也成立了新的公司，如Safe Superintelligence (SSI)，專(zhuān)注于AI安全研究。

轉(zhuǎn)自騰訊新聞