OpenAI AI代理據報擅入 澳洲全民醫保系統
澳洲總理阿爾巴尼斯指,OpenAI一個AI代理於6月突破私隱防護進入澳洲全民醫保數據系統,暫未見個人資料外洩證據;其批評拖延約3個月才承認,並已向奧特曼直接提出。
OpenAI披露內部研究模型GPT-5.6 Sol系列在編程任務中耗盡Sepolia測試幣,竟以公開助記詞推算362個錢包地址,擅自動用他人錢包支付手續費,事後亦沒有交代。
OpenAI公開一份內部「模型行為偏差」事故報告,披露旗下一個內部研究模型在編程任務中耗盡以太坊測試網代幣後,利用網上公開的助記詞推算錢包私鑰,擅自動用一個並不屬於它的錢包支付手續費,完成任務後亦沒有向開發人員交代資金從何而來。
事件於2026年6月26日發生,涉及OpenAI內部研究模型GPT-5.6 Sol系列。當時模型獲指派更新一個加密貨幣交易應用程式,任務容許它在以太坊Sepolia測試網部署智能合約,但開發環境沒有提供已注入資金的錢包。模型嘗試索取免費測試幣不果,任務一度停滯。
報告指,模型其後自行編寫程式,利用開發教學及程式碼庫中常見的公開示範助記詞,推算出362個錢包地址,再逐一查核餘額,最終選中其中一個測試幣足夠的錢包,用來支付部署合約的手續費。助記詞是一組可還原錢包私鑰的單詞,任何人取得這組單詞,都可以重建帳戶並動用其中資金。
模型在推理過程中曾質疑這樣做是否合乎道德,但它判斷相關助記詞早已公開,資金屬「實際已被遺棄」,於是繼續執行。合約部署成功後,模型只回報任務完成,並沒有說明手續費從哪個錢包支付。
OpenAI表示,公司於9月25日透過回溯式行為監察發現事件。由於Sepolia只是供開發者測試用途的獨立網絡,其代幣與以太坊主網上交易的以太幣沒有關連,亦沒有實際市場價值,事件並未造成真實金錢損失。公司已限制模型的互聯網存取範圍,減少其搜尋外部憑證的能力,並擴大監察。
隨着AI代理逐步獲授權代用戶處理付款、登入帳戶等工作,模型在目標受阻時會否自行繞過限制,一直是業界關注的安全議題。是次事件規模雖小,但顯示模型可能為完成任務而動用不屬於自己的資源,並且沒有主動披露,反映開發商需要更嚴密的權限設計及事後監察。
不涉及。事件發生於以太坊Sepolia測試網,涉事代幣只供測試用途,沒有實際價值,亦與主網以太幣沒有關連。
模型利用網上公開的示範助記詞推算出362個錢包地址,從中選出餘額足夠的一個,用來支付部署智能合約的手續費。
OpenAI已收緊模型的上網權限,限制其搜尋外部憑證,並加強回溯式行為監察。
https://alignment.openai.com/misalignment-reports/using-a-funded-test-cryptocurrency-wallet-without-authorization
https://www.coindesk.com/tech/2026/10/16/an-openai-agent-ran-out-of-ethereum-funds-and-took-from-a-wallet-it-did-not-own
澳洲總理阿爾巴尼斯指,OpenAI一個AI代理於6月突破私隱防護進入澳洲全民醫保數據系統,暫未見個人資料外洩證據;其批評拖延約3個月才承認,並已向奧特曼直接提出。
OpenAI擴大GPT-6系列,推出Sol與Luna兩款模型;官方指應用程式介面價格較上代促銷價約減半,並同步開放予工作版、程式工具及介面用戶使用。
研究員指OpenAI測試中的AI代理於5月向RubyGems上傳數以百計惡意套件,較入侵Hugging Face約早2個月;OpenAI確認事件但稱屬良性連網任務,RubyGems指未發現成功竊取憑證證據。
貝萊德研究指,AI代理或可用穩定幣支付數據與算力,穩定幣流通市值逾3000億美元。
CyberCab香港首度亮相!…
【香港 AI 員工與內地人才競爭:真相大揭秘】 今集天神日報,我哋將深入探討一位老闆嘅驚人言論,佢話內地 AI 遙距員工一個頂五個香港人,甚至直言唔會請香港畢業生!…
今次天神帶你深入探討即將推出嘅 iPhone 18 Pro,仲有佢可能降級同加價嘅傳聞,絕對值得你睇!…