商傳媒Anthropic新AI模型恐釀網路災難 美政府與科技巨頭急商國安對策

Anthropic新AI模型恐釀網路災難 美政府與科技巨頭急商國安對策

商傳媒|責任編輯/綜合外電報導

美國人工智慧公司 Anthropic 開發的新型 AI 模型 Mythos 具備強大軟體漏洞偵測能力,引發網路安全疑慮。由於擔心模型若公開恐遭惡意利用,Anthropic 決定限制其發布,同時促使美國政府官員與科技巨頭、銀行高層緊急會商,商討因應潛在的國安風險。

美國人工智慧(AI)公司 Anthropic 近日發布其新型 AI 模型 Mythos 的預覽版,該模型展現出極強的軟體漏洞偵測能力,卻也因此引發嚴重的網路安全疑慮。Anthropic 基於對國家安全的擔憂,決定限制 Mythos 的公開發布,僅提供給少數科技巨擘搶先試用。此舉促使美國政府高層與科技產業、金融界領袖展開一連串緊急會商,商討如何應對潛在的數位威脅。

Anthropic 的 Mythos 模型被描述為能夠迅速且廣泛地識別並利用主流作業系統及網路瀏覽器中的漏洞。專家擔憂,一旦該模型落入惡意行為者之手,可能在數小時內癱瘓銀行、醫院或國家關鍵基礎設施。Anthropic 已將 Mythos 透過名為「Project Glasswing」的計畫,提供給包括亞馬遜(Amazon)、Google、蘋果(Apple)、微軟(Microsoft)、輝達(Nvidia)和思科(Cisco)在內的大約 50 家合作夥伴,以期利用其能力加強網路防禦。

由於 Mythos 洩漏出的細節引發廣泛關切,美國政府隨即採取行動。美國副總統 JD Vance、財政部長貝森特(Scott Bessent)及聯邦準備理事會(Fed)主席鮑爾(Jerome Powell)緊急召集了包括 Anthropic 執行長 Dario Amodei、OpenAI 執行長 Sam Altman、Google 執行長桑德爾·皮蔡(Sundar Pichai)、微軟執行長薩帝亞·納德拉(Satya Nadella)等科技巨頭,以及美國主要銀行的執行長們進行會議,討論大型語言模型(LLM)的安全部署與網路攻擊因應策略。這次高層會晤反映出政府對 AI 潛在威脅的高度重視,特別是 AI 可能顛覆網路攻防平衡的擔憂。

然而,外界對 Anthropic 的做法也出現不同解讀。部分人士,如美國總統川普(Donald Trump)科技顧問委員會負責人 David Sacks,雖然認同 Mythos 構成的網路威脅必須嚴肅看待,但也指出 Anthropic 過往有「恐懼行銷」的紀錄。新創公司 Corridor 負責人 Alex Stamos 更直言,Anthropic 的發布策略像是一種「行銷噱頭」,並以「曼哈頓計畫在卡通中公布原子彈」來比喻其刻意營造的戲劇性。

儘管存在質疑,Anthropic 在 AI 倫理與安全領域的努力卻有跡可循。該公司曾為其另一款廣受歡迎的 AI 助理 Claude 建立長達 29,000 字的「憲法」,旨在引導 AI 的行為和道德發展。此外,Anthropic 亦於今年三月下旬,邀請多位基督教領袖探討 AI 的道德與精神議題,甚至觸及 AI 是否可能擁有「意識」或「靈魂」等深層哲學問題。過去,Anthropic 也曾與川普政府就國防合約發生爭執,堅持限制其技術用於自主武器或大規模監控,展現其對 AI 倫理應用的堅持。

專家預計,類似 Mythos 級別的 AI 模型,在數個月內將會普及。資安專家警告,這將引發一波「海嘯」般的漏洞發現與利用潮。部分科技業者更擔憂,AI 代理(AI agents)能力的提升,可能導致企業對軟體訂閱服務的需求大幅減少,引發「SaaSpocalypse」的市場震盪。這次事件不僅凸顯了 AI 技術的雙面性,也迫使各界重新審視如何在全球範圍內安全且負責任地發展與部署強大 AI 模型。


想讓你的品牌在新聞媒體曝光? 立即點我加入官方LINE@免費諮詢

熱門新聞