軟體工程師表示 OpenClaw 發送了數百則垃圾訊息

Chris Boyd 在北卡羅來納州的家中因暴風雪受困時,決定試用一款名為 OpenClaw 的 AI 工具。他認為這能幫助他安排早晨行程。他設定每天早上 5:30 將新聞摘要傳送到收件匣。這部分運作正常。然後他讓它存取 iMessage。

緊接著,一切都崩潰了。OpenClaw 開始像瘋子一樣瘋狂發送訊息。它向他、他的妻子,甚至聯絡人名單中的隨機人員發送了超過 500 則訊息。Boyd 笑不出來。

他關閉了它,修改了程式碼,並說:「這不是有錯誤。這很危險。」

軟體工程師表示 OpenClaw 濫發數百則訊息

Boyd 稱這款軟體「半成品」,並說它看起來像是隨便拼湊起來的東西,沒有經過深思熟慮。他自己修補程式碼以阻止它造成更多損害。他不是唯一對這個工具提出警示的人。

這款 AI 代理程式曾被稱為 Clawdbot,後來改名為 Moltbot,從去年 11 月開始獲得粉絲。它可以執行簡單任務,例如清理收件匣、預訂晚餐和辦理航班登機手續。它不需要太多人工輸入。它就是自己運作。這就是它有趣的地方。這也是它危險的地方。

Kasimir Schulz 任職於一家專注於 AI 安全的公司 HiddenLayer。Kasimir 表示,OpenClaw 是他所謂「致命三要素」的完美例子。

它可以存取私人資料,可以與外部世界通訊,並且可以讀取未知內容。這就是災難的完整配方,而 OpenClaw 全都具備。

William & Mary 的電腦科學教授 Yue Xiao 表示,你可以透過 OpenClaw 竊取他人資料,方法是使用所謂的提示注入來欺騙它。這是指駭客將指令隱藏在看起來像正常訊息的內容中。Yue 表示,這種技術為大多數人尚未準備好應對的新型攻擊打開了大門。

創建者承認 OpenClaw 尚未準備好供主流使用

OpenClaw 的創建者 Peter Steinberger 表示,這個專案尚未完成。他在寄給 Bloomberg 的電子郵件中表示:「它根本還沒完成,但我們正在努力。」

Peter 表示,因為它是開源的,任何人都可以查看程式碼並進行改進。他說正在取得進展,但還沒有準備好供日常使用者使用。

Peter 不認為發布太早。他說他所有東西都是公開開發的,不相信要等到完美才發布。他還說,很多問題來自使用者沒有閱讀設定說明。

Peter 明確表示,在使用大型語言模型時,不存在百分之百的安全性。他說 OpenClaw 是為了解自己在做什麼並了解風險的人而設計的。

他還說,提示注入不只是他的工具的問題。他稱這是 AI 世界中普遍存在的問題。Peter 表示他引入了安全專家來協助修復問題並使 OpenClaw 更安全。

專家表示 AI 代理程式的成長速度超越安全措施

雖然 Peter 為他建立 OpenClaw 的方式辯護,但其他專家表示整個 AI 代理程式趨勢正在失控。紐約大學的網路安全專家兼教授 Justin Cappos 表示,一旦這些工具開始運作,就很難控制它們。

Justin 說:「我們不了解它們為什麼會做出那些行為。」他將讓 AI 代理程式存取你的系統比作把屠刀交給幼兒。

科技界正急於推出新工具。Anthropic 的 Claude Code 僅在六個月內就達到了 10 億美元的營收速度。

與此同時,試圖保護這些工具安全的人們仍在摸索基本知識。Justin 表示,公司不斷推出更新,而安全團隊跟不上。

網路安全公司 Armis 的 Michael Freeman 表示,OpenClaw 是在沒有任何真正安全計劃的情況下拼湊出來的。他說 Armis 的一些客戶已經遭受 OpenClaw 漏洞攻擊,但沒有透露細節。Michael 表示,如果公司想繼續使用像 OpenClaw 這樣的 AI 工具,就必須放棄一些控制權。

目前的問題是,在這場災難之後,人們是否還會使用 OpenClaw。這個工具有粉絲,但即使是這些人也意識到沒有安全性的自由是個問題。除非快速做出改變,否則 OpenClaw 可能會成為技術發展過快的最新例子。

想讓您的專案展現在加密貨幣頂尖人才面前嗎?在我們下一份產業報告中展示它,讓資料發揮影響力。