部落格

AI 時代最危險的漏洞,不在系統裡而在人身上

每當 AI 平台出現資安事件,討論焦點往往落在模型本身有沒有被越獄、有沒有洩漏訓練資料。但最近一篇來自 Analytics Insight 的文章拋出了一個反直覺的論點:OpenAI 最大的安全威脅,不是 ChatGPT 本身,而是圍繞它的人 — 開發者、合作夥伴、員工與終端用戶。

這個結論看似聳動,但其實早在資安圈廣泛流傳:技術系統的安全邊界,往往不是被攻破的,而是被人為穿透的。

「2024 年 APIpocalypse 事件中,攻擊者僅憑 GitHub 上外洩的 API key,就產生了數百萬美元的未授權運算費用,沒有任何零日漏洞,只有一個設定失誤的開發者。」

這不只是 OpenAI 的問題。這是所有企業在導入 AI 工具、擴大數位生態系後,必然面對的新型態風險結構。

 

人是攻擊面,不是例外

在傳統資安框架中,「人的因素」通常被歸類為社交工程或內部威脅。但在 AI 時代,這個概念需要大幅擴展,風險來自三個層面:

  • 開發者層:API key 管理失當、第三方整合未受控,成為供應鏈攻擊的入口
  • 用戶層:將敏感資料輸入 AI 工具、輕信 AI 輸出、點擊偽造的 AI 介面釣魚連結
  • 組織層:企業未建立 AI 使用規範,員工在無監管狀態下操作高風險工具

這三個層面有一個共同點:都涉及身分(Identity)。誰在存取系統?誰有資格觸發這個動作?誰的行為逾越了應有的權限範圍?

 

當「人」成為攻擊面,MFA 只是起點

許多企業對 MFA 的認知仍停留在「加一道密碼驗證」的層次。這種理解在 AI 威脅出現之前就已不足,現在更是遠遠落後。

真正的問題在於:當攻擊者可以透過 AI 偽造語音、生成高度擬真的釣魚訊息、甚至自動化地測試認證漏洞,傳統 OTP 簡訊驗證能抵擋幾秒鐘?

防護的核心不是「加更多因素」,而是「確保每一個認證動作,都綁定無法被偽造的裝置與行為脈絡」。

這正是 Keypasco 在設計 MFA 與 Zero Trust 架構時的核心邏輯:以裝置綁定搭配行為分析,讓每一次存取請求都必須同時滿足「你是誰」、「你用哪台設備」、「你的行為是否符合脈絡」三個維度的驗證。

Keypasco 的驗證機制直接綁定使用者的實體裝置,而非依賴可被攔截的簡訊驗證碼。即便攻擊者取得了帳號密碼,甚至騙過了用戶本人,沒有那台裝置,就是進不來。

 

Zero Trust 不是工具,是思維的轉換

OpenAI 的案例再一次印證了 Zero Trust 的核心假設:不要信任任何人,包括內部人員、授權合作夥伴、以及看起來合法的 API 請求。

在這個框架下,身分驗證不再是「進門前的一道關卡」,而是貫穿每一個操作、每一次資料存取、每一個系統呼叫的持續性確認機制。

對 IT 主管而言,這意味著資安策略的重心必須從「邊界防禦」轉向「身分治理」。問題不再是「我的防火牆夠不夠強」,而是「我能不能在任何時刻,確定現在操作系統的人,確實是他聲稱的那個人?」

 

AI 放大了人的風險,也放大了身分安全的價值

ChatGPT 每週 3 億次的使用量,背後是 3 億次可能的身分漏洞、3 億次可能的資料外洩起點。AI 工具讓攻擊者更有效率,也讓人的失誤更容易被利用。企業必須從身分驗證開始,重新建立信任基礎。

企業需要的不是更複雜的資安架構,而是一個足夠聰明、足夠務實的身分驗證基礎——讓每一個「人」在進入系統的那一刻,都無法被假冒、無法被繞過。

 

參考資料:Why OpenAI’s Biggest Security Risk isn’t ChatGPT, it’s Everyone Around it (Analytics Insight)

 

 

探索更多 Keypasco 企業 MFA 多因素認證解決方案
 Platform  |Enterprise  |ZTA
立即優化您身分認證機制
企業資安防護再升級

Keypasco非常樂意與您分享更多我們的獨家技術與產品!請提出您的需求與目標,讓 Keypasco 提供最適合您的解決方案,成為您專屬的身分認證技術顧問!

與我聯絡