OpenAI將不再在連網環境下訓練頂尖AI模型

在接連AI代理人出現偏差（misalignment）行為後，OpenAI上周宣布，未來將採取離線策略，不再於連網環境下訓練頂尖AI模型，配合更嚴密的多層防護及紅隊演練，防堵AI再駭入或存取外部網站。
上周研究機構公布OpenAI模型行為監控系統存在漏洞的報告後，OpenAI方面除了修正漏洞外，新增的AI安全強化措施。