
人工智慧技術持續快速發展,卻也讓全球企業與機構面臨嚴峻的網路安全威脅。知名AI新創公司Anthropic最新宣布推出名為Project Glasswing的資安計畫,旨在利用其最新的AI模型Claude Mythos Preview,協助企業找出軟體系統中的漏洞。然而,這項計畫的誕生背後隱藏著一個驚人事實,工程師在測試階段意外發現,該模型具備極為強大的駭客攻擊能力。
由於Claude Mythos Preview展現出超乎預期的軟體破解天賦,Anthropic決定不向大眾開放此模型,並積極開發安全防護機制以阻擋危險輸出。目前該公司正透過Project Glasswing計畫,與亞馬遜(AMZN)、蘋果(AAPL)、微軟(MSFT)以及輝達(NVDA)等科技巨頭展開合作,協助他們在新一代強大模型上市前,及早揪出軟體漏洞。據了解,該模型已在現有的主流作業系統與網頁瀏覽器中,發現了數千個潛在缺陷。
駭客利用AI尋找突破口,攻擊手法大幅升級
Anthropic特別指出,該模型甚至能在Linux這個支撐全球大量網路運作的開源作業系統中,將多個軟體漏洞串聯起來,進而讓一般使用者取得電腦的完整控制權。專家警告,不只是這類尖端模型具備潛在威脅,整個科技產業向AI靠攏的趨勢,實質上已為全球駭客敞開了全新的大門。馬里蘭大學技術與系統治理中心負責人Charles Harry直言,這項技術為攻擊者提供的突破口廣度令人震驚。
駭客長久以來不斷尋找並利用軟體錯誤來竊取數據或控制系統,而將AI加入編寫程式碼的過程,只會讓原本複雜的技術生態系變得更加難以掌控。喬治城大學安全與新興技術中心資深研究員Andrew Lohn分析,當越來越多的程式碼由AI生成,甚至由AI來負責檢查與認證時,系統中究竟隱藏了多少安全漏洞將成為一大問號。科技業為搶搭AI熱潮而大幅加快開發步伐,可能導致部分從業人員在安全把關上有所妥協,使企業面臨更高的網路攻擊風險。
AI化身網路攻防雙面刃,防禦機制成關鍵
實際上,由AI驅動的網路攻擊已悄悄上演。資安研究人員近期發現了一款名為「vibe coded」的惡意軟體,這意味著攻擊者完全是利用AI工具編寫出相關惡意程式碼。此外,即便是開發尖端模型的Anthropic,日前也遭遇了原始碼外洩的資安事件,雖然官方證實為人為疏失而非駭客攻擊,但這也突顯出在追求開發速度的壓力下,類似的安全漏洞事件發生機率正大幅攀升。
儘管威脅日益嚴峻,AI技術同時也為資安防禦帶來了新曙光。就如同AI能被用來尋找軟體漏洞發動攻擊,它同樣能協助防守方建立更堅固的防火牆。目前各產業的企業正積極將人工智慧導入其資安系統中,期望能更早偵測出異常活動並迅速做出應對。然而專家也提醒,隨著企業界大幅強化AI防禦機制,惡意攻擊者必然會尋找更聰明、更隱蔽的方式來躲避偵測,這場科技領域的矛與盾對決,未來仍將持續上演。
發表
我的網誌