南非各政府部門越來越依賴數位工具來評估公共計畫並監測績效。這是更廣泛公部門改革的一部分。其目標是提高問責制、回應審計壓力,並以有限的人力和預算管理大規模計畫。
這裡有一個例子。追蹤住房交付、社會補助金或基礎設施推出的國家部門依賴數位績效系統,而非定期的紙本報告。儀表板——一種在單一位置顯示視覺化資料的方式——提供近乎即時的服務交付更新。
另一個是使用收集移動資料的平台。這些平台允許第一線官員和承包商直接從現場上傳資訊。
這兩個例子都適合使用人工智慧(AI)來處理大型資料集,並產生以前需要數月才能分析的洞察。
這種轉變通常被描述為公部門問責制和效率的一大進步。
我是一名公共政策學者,特別關注政府計畫的監測與評估。我最近的研究顯示了一個令人擔憂的趨勢,即技術轉型的展開速度遠快於旨在規範它的倫理和治理框架。
在我研究的案例中,數位工具已經嵌入常規的監測和評估流程中。但沒有明確的標準來指導其使用。
這帶來了監視、排斥、資料濫用和專業判斷不當等風險。這些風險並非抽象的。它們塑造了公民如何體驗國家、如何處理他們的資料,以及誰的聲音最終在政策決策中發揮作用。
當技術超越政策時
公部門評估涉及評估政府計畫和政策。它決定了:
- 公共資源是否得到有效使用
- 計畫是否達成預期成果
- 公民是否能讓國家對績效負責。
傳統上,這些評估依賴社區、評估人員、政府和其他人之間的面對面互動。它們包括允許細微差別、解釋和建立信任的質性方法。
數位工具改變了這一點。
在我的研究中,我訪談了政府、非政府組織、學術界、專業協會和私人顧問公司的評估人員。我發現了一個普遍的擔憂。數位系統通常在沒有針對評估實務的倫理指導下被引入。
倫理指導將為數位工具在評估中的使用提供明確、實用的規則。例如,在使用儀表板或自動化資料分析時,指導應要求評估人員解釋資料如何產生、誰可以存取這些資料,以及調查結果可能如何影響被評估的社區。它還應防止使用數位系統在未經同意的情況下監控個人,或以忽略背景的方式對計畫進行排名。
南非的《個人資訊保護法》為資料保護提供了一般法律框架。但它沒有解決當評估變得自動化、基於雲端和演算法中介時所產生的具體倫理困境。
結果是,評估人員經常在沒有明確標準的情況下應對複雜的倫理領域。這迫使機構依賴先例、非正式習慣、過去做法和軟體預設值。
監視蔓延和資料濫用
數位平台使收集大量資料成為可能。一旦資料上傳到基於雲端的系統或第三方平台,對其儲存、重複使用和分享的控制權就經常從評估人員轉移到其他人手中。
幾位評估人員描述了這樣的情況:他們代表政府部門收集的資料後來被該部門或其他國家機構重複使用。這是在參與者未明確知情的情況下完成的。數位環境中的同意流程通常簡化為單次點擊。
其他用途的例子包括其他形式的分析、報告或機構監控。
研究中出現的倫理風險之一是將這些資料用於監視。這是使用資料來監控個人、社區或第一線工作人員。
數位排斥和隱形的聲音
數位評估工具通常被宣傳為擴大覆蓋範圍和參與度。但在實務上,它們可能會排斥已經被邊緣化的群體。網路存取受限、數位素養低、語言障礙或基礎設施不可靠的社區不太可能充分參與數位評估。
自動化工具有其局限性。例如,它們可能難以處理多語言資料、地方口音或文化特定的表達形式。這導致對生活經驗的部分或扭曲的呈現。我研究中的評估人員在實務中看到了這種情況的發生。
這種排斥具有嚴重後果,尤其是在像南非這樣不平等的國家。嚴重依賴數位工具的評估可能會找到城市、連網的人口,並使農村或非正式社區在統計上變得隱形。
這不僅僅是技術限制。它塑造了哪些需求被認可,以及誰的經驗為政策決策提供資訊。如果評估資料低估了最弱勢群體,公共計畫可能看起來比實際更有效。這掩蓋了結構性失敗,而不是解決它們。
在我的研究中,儘管評估人員注意到資料收集存在差距,但一些評估仍報告了積極的績效趨勢。
演算法並非中立
評估人員還對授予演算法輸出的權威日益增加表示擔憂。儀表板、自動化報告和AI驅動的分析通常被視為真實情況。即使它們與基於現場的知識或背景理解相衝突,這種情況也會發生。
例如,儀表板可能顯示目標正按計畫進行。但在現場訪問的例子中,評估人員可能會發現缺陷或不滿。
幾位參與者報告了來自資助者或機構的壓力,要求依賴數字分析。
然而,演算法反映了其設計中嵌入的假設、資料集和優先事項。當不加批判地應用時,它們可能會複製偏見、過度簡化社會動態並忽視質性洞察。
如果數位系統規定了必須如何收集、分析和報告資料,評估人員就有可能成為技術人員,而不是行使判斷的獨立專業人士。
為什麼非洲需要情境敏感的倫理
在整個非洲,有關數位技術的國家戰略和政策通常大量借鑒國際框架。這些框架是在非常不同的背景下發展起來的。關於AI倫理和資料治理的全球原則提供了有用的參考點。但它們沒有充分解決非洲大部分公部門的不平等、歷史不信任和不均衡數位存取的現實。
我的研究認為,數位評估的倫理治理必須具有情境敏感性。標準必須解決:
- 如何獲得同意
- 誰擁有評估資料
- 如何選擇和審計演算法工具
- 如何保護評估人員的獨立性。
倫理框架必須在數位系統的設計階段嵌入。
Lesedi Senamele Matlala,公共政策、監測與評估高級講師和研究員,約翰尼斯堡大學
本文根據創用CC授權從The Conversation轉載。閱讀原文。
