短短幾年間,人工智慧已融入日常商業運營,許多公司正迅速推動流程自動化並依賴人工智慧驅動的系統。但根據 Georg Meyer,一位策略專家和系統專家的說法,速度和便利性可能需要付出代價,特別是當企業失去對其最重要系統實際運作方式的可見性時。
Meyer警告說,最大的風險之一是虛假的理解感。「公司可能認為他們知道發生了什麼,因為他們給出了提示詞,」他解釋說,「但他們並沒有真正看到黑盒子內部發生了什麼。」
現代人工智慧系統,特別是大型語言模型,功能強大但難以全面檢查。它們的內部流程並不總是透明的,而且由於內建的隨機性,其輸出可能會有所不同。這在一致性和可靠性方面造成挑戰,特別是當人工智慧用於核心業務功能時。「可重複性和可靠性存在隱藏風險,」Meyer說,「當它們影響到公司的核心時,可能是災難性的。」
對Meyer來說,解決方案不是避免人工智慧,而是確保人類理解仍然居於核心地位。企業仍然需要了解系統如何運作的人員,即使這些系統由人工智慧支援。
短期收益,長期風險
Meyer強調的另一個問題是人工智慧對組織內專業知識的長期影響。雖然人工智慧可以大幅加快工作流程並幫助將知識轉化為行動,但過度依賴它可能帶來意想不到的後果。
「過度依賴和依賴不足都可能存在風險,」Meyer說。「人工智慧可以減少應用專業知識所需的時間,但它提出了一個重要問題,如果下一代專家從未培養基礎能力,我們如何培訓他們?」
短期內,人工智慧可以使團隊更有生產力。但如果員工開始依賴它進行核心思考和解決問題,企業就有失去處理複雜、意外或需要人性化處理情況所需專業知識的風險。Meyer認為,企業和教育工作者都需要有意識地維持基礎知識,特別是在無法依賴人工智慧的情境中。
問責制仍然屬於人類
也許Meyer提出的最重要問題是問責制。隨著人工智慧系統承擔更多責任,一些組織可能會在出現問題時轉移責任。Meyer明確表示這不是可行的方法。
「問責制及其法律對應物責任,從根本上與人類相連,」他說。「你不能通過說『人工智慧做的』來撇清不良結果的責任。」
他指出,許多公司已經在試圖處理這個灰色地帶。人工智慧提供商經常包含免責聲明,表示他們的系統可能會出錯,而汽車等行業推廣「自動駕駛」功能,但仍然讓人類駕駛承擔責任。然而,Meyer認為,如果系統真正自主,責任必須轉移到設計和部署它們的人身上。
這甚至適用於較小的日常使用案例。例如,使用人工智慧建構處理敏感資料的應用程式的企業不能假設技術會正確管理安全性。「人工智慧不被委託處理資料,」 Meyer說。「公司才是。」
