據《金融時報》報導，由於蘋果安全團隊被AI生成且虛構不存在缺陷的提交報告淹沒，蘋果已限制研究人員可同時提交的漏洞報告數量。
這項限制已經讓它錯失了一個真實的漏洞。米蘭的網路安全新創公司Bynario告訴該報，它在三週內利用OpenAI的ChatGPT在最新版macOS中發現了超過50個錯誤。其中包括一個權限提升漏洞鏈，這是一種能讓攻擊者對機器獲得不受限制控制的缺陷。
Bynario無法報告此漏洞，因為蘋果已經拒絕了進一步的提交。執行長Alfredo Pesoli估計該漏洞在黑市上的價值介於10萬至20萬美元之間，並表示「維護者和供應商已被發現的龐大漏洞數量淹沒」。蘋果告訴《金融時報》，它目前正與該公司聯繫並審查其工作。
蘋果在六月採取行動，在其安全門戶網站上增加了上限和30天的冷卻期，研究人員需要申請更大的配額。儘管蘋果內部正使用AI來篩選這些報告，但每一個聲稱的缺陷仍需要人工確認。蘋果表示，它「最近調整了研究人員可同時提交的新報告數量」，並且研究人員可以隨時申請更高的限制。
同樣的工具也正在為蘋果服務。據《金融時報》報導，在上週的安全更新中，蘋果歸功於Anthropic和OpenAI軟體發現了缺陷，修復的數量大約是正常週期的五倍。
AI錯誤報告數量問題在近幾個月來日益嚴重。五月份，客戶包括OpenAI的安全公司Bugcrowd表示，三月份在其平台上提交的報告數量在三週內翻了四倍多，且大多數是假的。HackerOne和Nextcloud在四月份暫停了其付費計畫，Nextcloud表示在找到過濾低品質報告的方法之前，將「無論嚴重程度」都不支付獎勵。
報告數量激增的原因是高額的獎勵，Meta、微軟、蘋果和Crypto.com預計在2025年將支付至少5800萬美元的獎金，而蘋果自身最高級別的單一發現獎勵可達500萬美元。
與此同時，大型語言模型（LLMs）在發現錯誤方面也變得越來越熟練。三月份，Anthropic推出了專注於網路安全的模型Mythos，最初在「玻璃之翼計畫」（Project Glasswing）下僅限於選定的科技公司、銀行和研究人員使用。Mozilla表示，在內部測試中，Mythos在Firefox中發現了271個漏洞。
五月份，越南的安全新創公司Calif表示，它已使用預覽版建構出第一個能夠繞過記憶體完整性強制（Memory Integrity Enforcement）的公開macOS核心記憶體損壞漏洞利用，蘋果在去年九月宣佈記憶體完整性強制是消費作業系統史上最大的記憶體安全升級。Calif在4月25日發現了這些錯誤，並在5月1日擁有了一個可運作的漏洞利用程式。
Calif沒有提交報告，而是親自將漏洞利用程式帶到蘋果的加州總部，表示它希望避免「被提交洪流淹沒」，因為Pwn2Own駭客競賽的參賽者就曾陷入這種困境。三個月後，Bynario嘗試使用該門戶網站，但未能成功提交。
除了追捕威脅之外，AI也被用於在加密貨幣領域設計漏洞利用程式。Coldcard錢包製造商Coinkite表示，AI很可能被用來發現其開源韌體中一個五年來未被注意到的錯誤，使攻擊者能夠從其硬體錢包中竊取超過1億美元。
此事件發生在Zcash披露研究員Taylor Hornby與Claude Opus 4.8合作，在其Orchard隱私池中發現兩行程式碼，允許ZEC進行四年不可檢測的偽造之後兩個月——這促使這個隱私幣上個月推出了Ironwood升級來解決該漏洞。
