image
20250505鄭勝得/綜合外電報導

AI員工 Anthropic估一年內上線

 OpenAI競爭對手、AI新創公司Anthropic資安長柯林頓(Jason Clinton)近日預測,由AI驅動的虛擬員工將在一年內出現並參與企業運作。這些AI員工將擁有自主記憶、公司帳戶與密碼,但也可能帶來新的資安風險。

 柯林頓接受網路媒體Axios訪問時表示,虛擬員工可能成為AI領域下一波創新的重點。這些AI員工將擁有自己的「記憶」、在公司裡扮演特定角色,並持有帳號與密碼,自主性遠高於現行的AI代理人。

AI代理人通常被設計用來執行特定、可程式化的任務,例如處理釣魚郵件警報等工作。虛擬員工則將自動化提升到新層次。

 但柯林頓表示:「在這樣的世界,從資安角度來看還有很多問題尚未解決,我們必須盡快處理。」這些問題包括:如何保護AI員工的使用者帳戶、要給予哪些網路存取權限,以及由誰負責管理他們的行為。他認為,如何處理虛擬員工帶來的資安問題,將是未來幾年AI企業投入最多資源的重點領域。AI員工執行任務時可能失控,入侵企業用來整合與測試新程式碼的系統。

 他表示:「在舊的工作模式,這被視為可懲處的行為。但在新的世界裡,AI代理人執行數周後出錯,該算是誰的責任?」

 柯林頓特別看好能監控AI員工帳號行為的工具,及更符合虛擬員工需求的新的帳號分類系統。

 今年2月資安服務商Okta推出統一控管平台,加強非人類員工的保護,並持續監控公司帳號的存取權限與可疑行為。