一名男子意外取得數千台掃地機器人的存取權，揭露數以百萬計美國民眾面臨的人工智慧網路安全夢魘風險

(SeaPRwire) –   當這位軟體工程師坐下來用PlayStation 5遊戲控制器操控他的新DJI Romo掃地機器人時，他沒想到自己會意外掌控一個全球監控網絡。Azdoufal透過AI編碼助手逆向工程分析這台掃地機器人與DJI遠端伺服器的通訊方式，提取了一個用於證明他擁有特定裝置的安全令牌。然而，後端伺服器卻將他識別為24個國家近7,000台正在運作的掃地機器人的擁有者。

透過幾次鍵入操作，Azdoufal發現自己可以接入實時攝像頭畫面、啟用麥克風，甚至匯整陌生人私人住宅的2D平面圖。儘管他選擇負責任地通報（）這項安全漏洞而非利用它，但這項駭人的弱點揭露了一個恐怖現實：自動化系統的快速、無節制整合正製造一個龐大且前所未有的安全缺口。

數百萬美國人越來越頻繁地將這些連網裝置引入他們最私密的空間。截至2020年，約有5,400萬美國家庭至少安裝了一台智慧家居設備。此外，Figure、1X等公司正競相推出先進的，能進駐家庭並執行複雜家務的機器人。

智慧裝置的監控能力在今年早些時候成為全國議題，當時一起涉及《今日》節目主持人Savannah Guthrie的母親Nancy Guthrie涉嫌綁架案的雲端數據被曝光。隨後不久，其Ring產品的超級碗廣告本意是呈現一則可愛的走失狗狗救援故事，卻意外揭露了美國境內監控攝像頭無處不在的事實。這波反彈似乎與一家警方監控公司有關。當自動化AI代理加入這場混局，便形成了網路巨頭Thales所描述的「正在醞釀的噩夢場景」。

即將到來的噩夢場景

根據近期發布的，高達70%的組織現已明確將AI列為首要數據安全風險。就像依賴遠端雲端伺服器的DJI掃地機器人一樣，企業正積極將AI嵌入日常工作流程，賦予自動化系統廣泛存取龐大企業數據的權限。

核心問題在於可見性與基礎數據控制的嚴重缺失。顯示僅34%的組織確實知道其所有敏感數據的存放位置。由於AI系統持續在廣大雲端環境中攝取並處理資訊，要落實「最小權限訪問」（即僅授予必要最低權限的做法）極為困難。若機器的憑證（如令牌或API金鑰）遭竊，數據外洩後果將不堪設想。

事實上，憑證竊取現已成為針對雲端管理基礎設施的首要攻擊手法，67%遭受過雲端攻擊的組織提及此點。試想，若7,000台掃地機器人換成整個社區的Nest或Ring裝置，且操控者是AI代理，後果將如何。

iRobot聯合創始人、Roomba掃地機器人發明者Rodney Brooks認為，伊隆·馬斯克所描繪的「人形機器人驅動未來」的願景「不切實際」，因為這些機器人實在太笨拙。

「儘管創業投資人和大型科技公司投入數億甚至數十億美元用於訓練，當今人形機器人仍無法學會靈巧操作，」Brooks在一篇中寫道。目前尚不清楚這種觀點是否適用於人類或AI代理遠端操控機器人的情境。

「內部風險不再僅限於人類，也包括被過度信任的自動化系統，」Thales網路安全產品高級副總裁Sebastien Cano警告。當身份治理與訪問政策等基礎安全措施薄弱時，Cano指出「AI能以遠超人類的速度放大企業環境中的這些弱點。」

更糟的是，用於開發軟體的工具正降低利用這些系統的門檻。AI驅動的編碼工具（如Azdoufal用於輕鬆逆向工程DJI伺服器的工具）讓技術知識較淺的人也能輕鬆發現並利用軟體漏洞。儘管自動化威脅不斷升級，受訪企業中僅30%有專門的AI安全預算，多數仍依賴為人類用戶設計的傳統邊界防禦。

正如S&P Global旗下451 Research首席分析師Eric Hanselman指出，我們迫切需要根本性的典範轉移。

「當AI深度嵌入企業運營，持續的數據可見性與保護不再是可選項，」Hanselman表示。

若不徹底重新思考身份與加密協議，社會無異於為下一個拿著遊戲控制器的軟體工程師敞開大門。