把握好人工智能政府采購10項原則

編者按：世界各國在政府治理中越來越多地使用人工智能。然而，由于欠缺對人工智能的了解，擔憂技術過于復雜，且缺少實施技術的必要知識，公共機構往往對采用人工智能保持謹慎態度。為此，包括Salesforce、德勤（Deloitte）、世界經濟論壇(WEF)和英國AI辦公室在內的一個協作小組日前推出了《人工智能系統政府采購白皮書》。該指南為政府提供了人工智能的定義和大致按順序排列的10項原則，以確保公共部門負責任地使用。本刊對該指南進行編譯，以饗讀者。

把握好人工智能政府采購10項原則

《人工智能系統政府采購白皮書》——摘編（一）

什么是人工智能？

“人工智能”（Artificial Intelligence），英文縮寫為AI，它正式被定義為計算機科學的一個分支，企圖了解智能的實質，并生產出一種新的能以人類智能相似的能力做出反應的智能機器。這些能力包括：學習和適應;感覺理解和互動;推理和規劃;優化程序和參數;自治;創造力。

過去十年，人工智能蓬勃發展，特別是作為人工智能核心技術，神經網絡和深度學習的發展極大地提高了人工智能在復雜環境與多體交互中做出最優決策的能力。同時，人工智能以新數據集合和新算法助力很多領域和具體工作大幅度提高工作效率、生產率和可靠性，甚至可以說為絕大多數的行業都帶來了可觀的收益。

為什么公共采購需要人工智能？

世界各國政府也在積極布局人工智能。政府治理中通過大數據、超算、精算等計算理論以及深度學習等技術提高公共部門生產力或工作效率。此外，布局人工智能技術還可以極大地提高政府公共服務精準化水平，提升公民生活質量。例如，人工智能為改善人們生產生活提供了技術支撐，并在城市治理、社會治理、環境治理、城市運行、學校教育、醫療養老、司法服務等領域廣泛應用。但是，目前各國政府缺乏獲取人工智能解決問題的經驗，大部分公共機構對人工智能這一技術持謹慎觀望態度。人工智能政府采購準則也許可以為政府解決上述問題提供思路。

首先，政府和社會公眾出于對偏見、隱私、問責制、透明度和整體復雜性的擔憂，對利用人工智能持謹慎態度。因此，公共機構在采用人工智能上既要了解其帶來的積極影響，更要了解負面結果。例如，在司法領域，盡管人工智能輔助辦案系統的開發和應用，能夠為法官刑事辦案提供證據分析判斷的技術幫助。然而，如果量刑規范化本身存在問題，過于限制法官個體的刑事裁量權，則人工智能輔助辦案系統也會不適當地壓縮辦案法官的司法能動空間，甚至無限擴大量刑規范本身帶來的負面效應。

（政府官員應使用可以提供可解釋性的AI系統，以便對模型如何得出結論提供解釋。）在沒有關于如何確保問責制、透明度和可解釋性的明確指導的情況下，政府可能無法履行其對制定算法決策的專家以及公眾的期望，并可能無意中造成新的風險或危害。

當前，關于人工智能各國公共機構缺乏必要的技能完全理解或跟蹤人工智能算法的因果關系，需要依賴人工智能技術的供應商的專業知識以及已有模型認識人工智能內涵及其發展邏輯。因此，無論是公共機構還是提供人工智能的供應商都希望構建一個強大的、嚴格的、透明的人工智能政府采購指導框架。一方面，可以幫助大多數行政機構克服不愿購買或使用人工智能技術的思想；另一方面，可以幫助研發人工智能的公司打開新的市場，幫助人工智能領域的公司在透明、公開的環境中競爭政府合同。

其次，建議通過立法、政策措施、框架協議、示范合同等方式建立一套有效的人工智能政府采購制度，以此提升人工智能政府采購效率，提高采購結果滿意度。因為，良好的、技術性的政府采購既定原則可能在人工智能政府采購中具有更大的意義。例如，許多政府的采購工作已經交給專業性的采購官或者采購團隊負責。對比，具有專業性采購經驗的人士，通過人工智能方式進行政府采購活動，對弱勢群體、少數民族地區以及其他受保護團體可能會產生無意的歧視或損害。考慮到政府在維護包容性方面的作用，因此人工智能政府采購中未來還需進一步強調多學科交叉和多種條件交叉融合。

再其次，人工智能近年來發展迅速，推動經濟社會各領域從數字化、網絡化向智能化加速研究與應用。更重要的是政府以及公共機構通過政府采購啟動重大項目和系統來促進新一代人工智能技術的運用和傳播。

最后，政府采購規則和采購慣例通常會對市場產生重大影響，尤其是任何一項新技術發展的早期階段。政府權威與公信力對行業標準的制定有一定的借鑒。總而言之，人工智能政府采購白皮書旨在指導與公共采購全生命周期有關的所有各方（政策官員、采購官員、數據科學家、技術提供者及其他相關人士）朝著維護公共利益和福祉的總體目標邁進。

人工智能政府采購指南如何制定？

人工智能政府采購指南由世界經濟論壇（WEF）第四次工業革命中心與多方利益相關者協商后制定的。包括英國人工智能辦公室組成的協作小組、盛龐卡大數據公司（Splunk）、德勤有限公司（Deloitte）以及Salesforce（一家CRM解決方案提供商）。辦公室的項目研究員召開研討會，由來自政府、學術界、民間社會和私營部門的代表探討關鍵問題并共同設計應對方案。

如何使用指南？

該指南提供了政府在獲取和部署人工智能解決方案和服務之前應確定的基本采購準則。指南特別強調：人工智能采購準則并非旨在解決所有公共機構采購人工智能時所遇到的所有問題，但希望通過準則為政府使用人工智能和采購人工智能技術時提供有力的幫助。具體來說，該準則將有助于加快行政機構政策目標的落實；政府采購官員與商務團隊制定與人工智能相關的提案請求并管理政府采購流程；數據從業者（例如數據科學家、數據工程師、統計學家和軟件工程師）維護公共利益并識別和管理潛在風險；人工智能解決方案提供商可以更好地了解政府人工智能項目的核心期望并使他們的提案與最新的公共采購標準保持一致。該準則由10項高級別建議組成，根據它們與采購累積過程的相關性，按順序大致排序。這些建議包括：每項準則包括多個相關的原則；準則中會詳細闡述每個原則的實質內容。隨著人工智能技術復雜程度和政府用途的發展，人工智能政府采購指南應該不定時更新以反映新的技術和領先實踐。最終目標是為各國政府以及國際機構制定正確的政策，協議甚至標準，以促進有效、負責任和符合道德的人工智能供公眾使用。

人工智能政府采購指南中準則概述

從事人工智能政府采購流程前，編寫需求建議書和評估建議書響應時應考慮以下原則：

1.采購流程應關注所面臨的問題和機會，而不是特定的解決方案，并支持迭代方法。

a.創新采購流程。以創新為中心的采購流程為加速人工智能系統等新技術的采用、促進創新、支持次要政策標準等提供了機會。比如，這些過程支持早期的市場參與，使購買者可以在不同階段進入市場。這樣就有機會在真正購買決策前對該技術在相關問題領域進行測試。

b.采購時要給出明確的問題描述，而不是解決方案的詳細說明。除了能發揮各相關方的優勢外，該方法還有兩個好處：一是可以在早期進入市場；二是可以讓新的AI服務提供商參與進來，政府不再關注于特定的產品。培育新興的AI生態系統是未來關鍵的經濟投資。

c.在產品開發過程中支持迭代方法。AI驅動的解決方案與其他技術在學習和利用新數據來進行訓練方面有明顯的不同。因此，AI系統的采購過程應該為迭代預留一定的空間，以確保公平的、透明的評估和決策過程。

2.對使用AI對公眾的益處進行定義并評估風險。

a.在需求建議書中說清楚為什么覺得這個問題和AI相關，同時接受可選的技術方案。

b.在需求建議書中解釋清楚在評估標書時公共利益是自動決策過程的主要驅動力。

c.在開始采購過程前進行人工智能風險和影響評估，確保評估結果反饋到采購需求層面，并在決策點重新進行評估。除此之外，在人工智能解決方案的全生命周期內，從設計到實現后的維護，都要進行系統性和持續性的風險監控。人工智能解決方案提供商可以通過項目管理功能來識別、草擬解決方案和報告風險。

3.使采購與現有的政府戰略一致，并有助于其進一步改進。

a.查閱政府發展規劃文件和關于新技術的公共政策指南文件，如人工智能國家戰略、創新戰略和工業戰略。

b.與其他相關政府機構和科研院所相互協作和學習。

4.在需求建議書中加入相關的潛在立法和行業規則。

a.對管理數據類型和應用類型的相關立法、權利、管理規則和其他規范進行審查，并在需求建議書中進行引用。

b.將與人工智能系統部署相關的機密性、商業密碼保護、數據隱私最佳實踐考慮進來；根據公共利益需要，可以在保密和保護商業秘密的前提下，在調查過程中，可以通過部分披露、有限的審查選擇和其他增強公眾信任的手段促進透明度。

5.闡明訪問相關數據的技術和管理可行性。

a.確保從采購流程開始就有適當的數據管理機制。

b.評估相關數據對項目是否可用。

c.定義是否以及如何就采購計劃和隨后的項目與廠商進行數據共享。

6.強調數據使用的技術和倫理限制來避免歷史數據偏見這樣的問題。

a.考慮數據的敏感性，以及數據使用是否公平；評估不同數據集的隱私需求以確定適當的保護等級。

b.在需求建議書中強調對數據的限制，要求投標者描述如何解決這些問題。并為未提到的相關限制提出解決方案；如果政府沒有正確的技能或方法來綜合檢查數據的可能限制，可以提供給廠商關于數據高級狀態的指南，以起草適當的提議。保證需求建議書中數據的需求還包括進行數據質量評價和為低質量的數據提出解決方案。

7.與不同的、跨學科團隊工作。

a.在跨學科的團隊中通過采購流程提出想法并進行決策。組成包含設計、采購和操作人工智能系統的跨學科團隊。跨學科的團隊應包括人工智能解決方案要應用領域的政策、機器學習/數據科學、數據工程、技術、采購、倫理和人權方面的專業人才。確保有多樣性的團隊。包括來自不同性別、種族、社會和經濟背景的成員，還應確保有觀點的融合。這可以確保問題和解決方案是來自不同角度的，這樣可以幫助解決偏見的問題。

b.要求中標者組織具有適當技能的團隊。在評標時應當對中標者的團隊技能進行評估，并作為評標結果的一部分。

8.關注采購流程的算法審計和透明性機制。（在傳統模型中，服務接受者和服務提供者可以就結果或決策進行交互。接受者還可以對決策提出問題或對結果進行挑戰。但在使用神經網絡類技術的全自動系統中，服務接受者無法預測結果。因此神經網絡這樣的算法非常準確，但無法就決策向第三方進行解釋。）

a.通過人工智能解決方案來促進可審計的文化。在一些場景下，應當對服務提供商提出允許對方案進行獨立審計的要求。這可以幫助預防或解決一些意外的后果。服務提供商和政府官員應當對人工智能解決方案的意外后果進行風險分析，并將法律的限制寫進合同中來明確各方的責任。

b.確保人工智能決策系統盡可能透明。鼓勵可解釋人工智能（XAI）的使用。要求投標者提供關于模型構建方法的信息等。

c.通過算法內部和外部的可解釋性來作為建立審計和市場競爭的方法。

9.實現人工智能服務提供者和收購實體進行成果轉讓和長期風險評估的過程。

a.在采購過程中要明確采購包括人工智能在內的工具并非一次性的決定，而要在全生命周期內測試應用。

b.要求人工智能服務提供者確保成果轉讓和培訓是項目參與的一部分，確保人工智能解決方案的維護和第三方獨立審計。

c.要求人工智能服務提供者提供如何管理非專業人員對應用的合理使用的方法。

d.在提出的方案的評估標準中加入倫理的考慮。

10.為人工智能解決方案提供商創造公平競爭的條件。

a.用多種方式盡可能多地接觸人工智能解決方案提供商。

b.通過采購流程盡早與廠商建立聯系。

c.確保AI解決方案的互操作性，并要求公開許可條款以防廠商鎖定（lock-in）。考慮避免廠商鎖定的策略，尤其是與黑盒算法相關的那些。具體包括使用開放標準、公開許可條款和公共領域發布條款；既可以設計新算法，也可以對現有算法進行修改。因此需要考慮知識產權的問題；為了保持對過時的系統的訪問，要確保可以獨立于廠商地對人工智能解決方案進行逆向以維護系統。

昝妍/編譯

本報擁有此文版權，若需轉載或復制，請注明來源于中國政府采購報，標注作者，并保持文章的完整性。否則，將追究法律責任。