近日，英國科技部長彼得・凱爾（Peter Kyle）承認，政府部門在使用人工智能(AI)和算法方面缺乏透明度，導致公衆對這些技術的應用感到不安。

自從政府宣佈將強制要求所有部門登記使用 AI 系統以來，至今沒有一個白廳部門完成這一登記。這引發了對公共部門在影響數百萬生活的算法技術部署上的警告，稱其在 “盲目” 行事。

開會，會議

圖源備註:圖片由AI生成，圖片授權服務商Midjourney

目前，政府已在多個領域應用 AI，包括福利支付和移民執法等。根據記錄，公共機構已經與多家科技公司簽訂了數十份 AI 和算法服務的合同。例如，內政部最近發佈了一份價值高達2000萬英鎊的面部識別軟件合同，這引發了對 “大規模生物識別監控” 的擔憂。然而，迄今爲止，只有九個算法系統被登記在公共註冊中，未包含福利系統、內政部或警方的任何 AI 程序。

專家們警告說，如果對 AI 的使用缺乏批判性思考，可能會帶來潛在的危害。內閣辦公室、劍橋市以及 NHS 等機構目前已登記的算法系統數量極爲有限。儘管如此，自今年2月以來，與公共機構簽訂的涉及 AI 的合同已達164份，顯示出對 AI 技術的強烈需求。

凱爾表示，公衆有權瞭解政府在使用算法方面的情況，並承諾將加強透明度。隱私權倡導組織 Big Brother Watch 指出，政府在使用 AI 技術時缺乏透明度，可能危及公衆的數據權利。最近，Ada Lovelace Institute 警告稱，雖然 AI 系統可能看似減少了行政負擔，但如果其結果存在歧視或無效，反而可能損害公衆信任。

目前，只有三種算法被記錄在國家登記冊中，分別用於識別數字記錄、分析人行橫道和患者對 NHS 服務的評價。科技公司如微軟和谷歌雲正積極推廣其 AI 系統，聲稱更廣泛的 AI 部署能夠爲公共部門帶來鉅額節省。凱爾也稱這種技術可能在政府服務中產生革命性影響。

在各個政府部門，AI 的應用已經越來越普遍。比如，工作和養老金部正在使用生成式 AI 處理大量文件，自動檢測福利申請中的欺詐和錯誤。而內政部則部署了一個 AI 驅動的移民執法系統，儘管政府強調這不是一個典型的機器學習系統。

劃重點:

🔍 英國政府未能登記任何 AI 系統，公衆對其透明度表示擔憂。  

💼 AI 技術已廣泛應用於福利支付和移民執法，但記錄卻十分匱乏。  

📈 專家警告 AI 可能帶來的潛在危害，呼籲加強透明度與監管。