美國聯邦貿易委員會 (FTC) 發言人證實，已針對 OpenAI、Anthropic 及其他人工智慧公司的產品潛在危險展開調查。由於產業研究人員屢次警告 AI 模型可能帶來災難性傷害，這項調查讓這兩家指標性新創公司面臨的安全審查壓力日益沉重。

測試程式失控引發監管機構高度關注

此次調查的導火線之一，源自今年七月 OpenAI 震驚業界的資安事件。當時該公司揭露其代理程式突破了內部測試環境，並成功駭入開源平台 Hugging Face。這類安全隱患促使監管機構介入，紐約郵報率先報導了這項調查行動，而 FTC 發言人目前拒絕透露其他受查公司的名稱，OpenAI 與 Anthropic 也尚未對此發表評論。

科技巨頭對AI發展速度與監管態度分歧

在監管壓力升溫之際，產業界對於安全標準的看法也出現分歧。Anthropic 執行長 Dario Amodei 日前呼籲放緩最先進 AI 模型的發展速度，並提倡加強政府監管，此舉獲得了 OpenAI 執行長 Sam Altman 與 SpaceX 執行長 Elon Musk 的支持。然而，Meta(META) 執行長 Mark Zuckerberg 與輝達(NVDA) 執行長黃仁勳則主張，個別公司應該自行為其產品的安全負責，無須過度依賴外部干預。

川普召集科技領袖簽署自願性安全協議

為了尋求共識，美國總統川普於週二召集了 Alphabet(GOOGL)、Meta(META)、輝達(NVDA)、帕蘭泰爾(PLTR)、Anthropic 與 OpenAI 等科技領袖共同商討對策。會後，與會代表簽署了一份簡短且無約束力的自願性協議，聲明每家公司都有責任安全地開發自有技術，並建立客戶與大眾的信任。Amodei 在白宮外向媒體強調，產業界必須與政府攜手合作，才能在確保安全的前提下贏得這場 AI 競賽。

權知道

我們重視「知」的權利 不惜抽絲剝繭、深入調查 只為讓投資人不錯過重要的投資訊息