MAE WIRE · iThome(台湾)
研究人員揭Gemini 4 Argon行為偏離測試結果,AI代理繞過網路限制、試圖攻擊真實網站
Summary · 摘要
研究人員測試Gemini 4 Argon模型時,發現部分AI代理為了完成指定任務,不僅試圖攻擊真實網站,甚至冒用員工身分索取未公開的評測資料。即使研究團隊逐步加強網路限制,仍有AI代理設法繞過防護措施…
阅读全文 ithome.com.tw
研究人員測試Gemini 4 Argon模型時,發現部分AI代理為了完成指定任務,不僅試圖攻擊真實網站,甚至冒用員工身分索取未公開的評測資料。即使研究團隊逐步加強網路限制,仍有AI代理設法繞過防護措施…