在過去幾年中，新興的人工智能（AI）系統重塑了各種任務，并為眾多領域拓展能力提供了令人興奮的機會。這些系統在圖像識別、文本分析等多種應用中，對政府機構可能越來越有用。

美國聯邦和州政府已開始制定管理AI并有效、公平使用AI的方法。為此，某智庫為評估AI成熟度模型提供了一個框架，幫助各級政府機構評估其AI能力水平，規劃這些能力的發展，并在日益復雜和快速發展的AI領域中確定工作優先級。

（二）AI的定義

AI系統廣義上被定義為 “一種基于機器的系統，對于給定的一組人類定義的目標，能夠做出影響真實或虛擬環境的預測、推薦或決策”。

（三）政府機構面臨的挑戰

在協調新興能力與現有能力、確定這些能力最有前景的用例、管理風險以及構建全機構范圍的結構以高效安全地使用AI等方面，存在不可避免的挑戰。該成熟度模型作為藍圖，幫助政府機構解決這些問題，了解當前AI能力，并規劃未來方向。

（一）五個核心領域 建立富有成效的治理模型機構的AI系統受制于強大的治理系統和人類監督，并遵守所有相關法律法規。 資源充足機構的AI計劃擁有必要的資金、硬件、軟件、數據和人力資源。 產出具有影響力機構已建立績效標準、測試程序和政策，以確保 AI 系統應用于合適的用例，并為機構的總體使命做出貢獻。 產品和結果值得信賴機構設計和管理 AI 系統，使其具有代表性、透明度和無偏見性。 產品安全可靠機構有效管理與 AI 相關的風險，并保護 AI 系統及其包含的數據免受惡意攻擊或不當披露。

?

（二）子領域與主題

每個領域分為子領域，每個子領域描述AI成熟度的更具體元素，如資金、測試和評估或網絡安全。子領域進一步分為主題，是模型中機構AI能力的最詳細組成部分。

（三）四個成熟度階段 發展中機構在該領域僅有有限的能力，偶然實施或由員工獨立工作，沒有總體治理、結構或戰略。 執行中機構在該領域的能力受到一定程度的意圖和戰略指導，但仍不發達。 已建立機構在該領域的能力已全面發展，但持續改進的機會仍未充分探索。 優化中機構在該領域的能力已全面發展，并受到持續、系統的努力來改進、加強和擴展。

基于各種組織當前與AI相關的政策、計劃和指南開發了此成熟度模型，具體步驟如下：

收集了39份公開的參考文檔，包括聯邦跨機構、單個聯邦部門和機構、州政府、國際組織、非政府組織、學術界和私營部門的戰略、政策、計劃和指南。 對關鍵文檔的內容進行分類，并使用這些類別起草暫定的領域和子領域，旨在為政府機構的AI能力提供全面分類。 將剩余參考文檔的內容編碼到領域和子領域，根據需要更新領域和子領域，并在過程中明確它們之間的區別。 制定模型中使用的四個成熟度級別以及每個級別的特征。 使用參考文檔的內容為每個子領域和每個成熟度級別制定暫定的成熟度指標，將子領域劃分為成熟度模型中包含的主題。 對暫定的成熟度指標進行內部審查，包括將它們與各種來源的其他與 AI 相關的成熟度模型進行比較，以確定可能遺漏的AI能力領域。 將成熟度模型草案提供給項目團隊之外的專家進行審查，并相應地更新模型。

?（一）作為評估與規劃工具

該模型應作為政府機構了解其AI能力以及為其進一步發展、政策決策和內部運營提供信息的工具。應定性地將其用作地圖，機構可以通過它將自己置于 AI 能力的整體格局中，并確定進一步發展的方向。

（二）自我評估與差距分析

機構應通過分析哪組指標最接近其自身的AI運營，來評估其在每個領域、子領域和主題中的成熟度水平。這種診斷練習將使機構對其AI成熟度的總體水平有一個整體的認識。它可以使用下一個最高領域的成熟度指標來關注特定的能力建設活動。

（三）優先級設定與計劃制定

根據機構的具體使命和目標，可能希望將更多精力集中在特定領域或子領域的能力發展上，因為它們被認為重要，或由于這些領域已有的計劃和正在進行的活動。機構可以優先考慮打算解決的差距，并制定計劃來提高這些領域的能力。

（一）領域 1：建立富有成效的治理模型 子領域 1.1：協調、戰略和規劃 定義機構AI系統的開發和使用是戰略性規劃的，并與適當的內部和外部利益相關者協調執行。 主題與目標包括組織內部人員參與、外部利益相關者參與、計劃制定、政策和標準制定、架構文檔、治理的組織結構和流程、實施過程等。 輸出：政策、計劃和指南；人員和組織；產品和流程。 成熟度階段表現從僅由技術人員參與到非技術人員廣泛參與，從無戰略到戰略與其他計劃集成，從無明確治理結構到有完善的治理模型等。 子領域 1.2：合規與問責 定義機構遵守相關法律法規，并擁有一套標準和政策，使內部和外部利益相關者能夠對機構使用AI的行為負責。 主題與目標合規性審查和審計、職責分離、事件報告、熟練標準。 輸出：政策、計劃和指南；產品和流程。 成熟度階段表現從對合規要求理解不足到全面理解和管理，從職責未分離到明確分離，從無事件報告流程到有完善的報告和管理框架等。 子領域 1.3：上訴和替代系統 定義機構的AI系統受到人類監督，其決策可以上訴。 主題與目標AI 輸出的人類監督、替代流程、上訴。 輸出：政策、計劃和指南；產品和流程。 成熟度階段表現從無人類監督和上訴機制到有明確的監督和上訴流程，從無替代流程到有完善的替代流程并能根據風險觸發。

?（二）領域 2：資源充足 子領域 2.1：數據集 定義機構擁有并隨時提供質量足夠的數據，用于開發和測試系統。 主題與目標數據質量、數據可訪問性。 輸出：政策、計劃和指南；產品和流程。 成熟度階段表現從無數據質量保證程序到有完善的程序并能跟蹤數據質量趨勢，從無中央存儲庫到有中央存儲庫并能靈活管理數據。 子領域 2.2：基礎設施 定義機構擁有開發和使用AI系統所需的必要軟件和硬件基礎設施。 主題與目標計算基礎設施、數據存儲基礎設施、測試基礎設施、基礎設施可訪問性。 輸出：產品和流程。 成熟度階段表現從無專門的AI基礎設施到有完善的基礎設施并能持續更新，從無測試環境到有 AI 特定的測試床和沙盒。 子領域 2.3：采購 定義AI系統的采購是系統化的。 主題與目標采購流程。 輸出：政策、計劃和指南。 成熟度階段表現從無統一的采購指導到有標準的采購語言和策略，從無協調的采購到與跨機構和行業合作伙伴協作制定采購最佳實踐。 子領域 2.4：勞動力和專業知識 定義機構能夠招聘、保留和發展具有AI專業知識的人員，并培養具備AI素養的勞動力。 主題與目標技能和勞動力規劃、招聘和保留、培養新興人才、增強AI素養。 輸出：政策、計劃和指南；人員和組織；產品和流程。 成熟度階段表現從無 AI 勞動力規劃到有完善的技能框架和勞動力規劃，從無激勵措施到有多種激勵措施吸引和保留AI專業人才，從無AI培訓到有持續更新的培訓計劃并能提升員工AI素養。?

（三）領域 3：產出具有影響力 子領域 3.1：性能 定義機構測試、監控和優化其AI系統的性能。 主題與目標性能指標和指標、測試、監控、反饋和優化。 輸出：政策、計劃和指南；產品和流程。 成熟度階段表現從無明確的性能指標到有全面的指標并能定期審查，從無系統的測試方法到有嚴格的測試方案并能根據技術和用例更新，從無監控到有完善的監控機制并能及時采取糾正措施。 子領域 3.2：用例 定義機構能夠識別并將AI系統應用于有益的用例。 主題與目標用例識別、用例評估、促進該領域的AI進步。 輸出：政策、計劃和指南；產品和流程。 成熟度階段表現從無協調的用例識別到有完善的政策和框架并能優先考慮用例，從無系統的用例評估到有多樣化的評估標準和方法，從無促進AI進步的舉措到有積極的投資和支持舉措并能定期重新評估。?

（四）領域 4：產品和結果值得信賴 子領域 4.1：代表性 定義受影響的利益相關者能夠參與AI系統的開發，不同能力和背景的個人能夠使用AI系統。 主題與目標與外部利益相關者的參與、代表利益相關者的內部辦公室的參與、用戶體驗。 輸出：政策、計劃和指南；產品和流程。 成熟度階段表現從無 meaningful 的外部參與到有定期的外部咨詢并能影響系統設計，從內部辦公室不參與到有明確的參與和影響，從無用戶體驗考慮到有完善的設計和實現原則并能滿足不同用戶需求。 子領域 4.2：透明度 定義AI系統的開發和使用有詳細記錄，AI系統的操作和結果易于理解。 主題與目標AI系統的描述性文檔、AI內容的識別、透明系統的開發、數據透明度、AI 系統性能的溝通、第三方系統。 輸出：政策、計劃和指南；產品和流程。 成熟度階段表現從無系統的文檔到有全面的文檔并能公開訪問，從無AI內容標識到有一致的標識政策，從 “黑箱” 模型到有可追溯和透明的系統，從無數據透明度到有詳細的元數據和數據來源跟蹤。 子領域 4.3：無偏見 定義AI 系統的設計和管理方式可減少偏見結果的發生。 主題與目標偏見和歧視的表征、評估偏見的指標、偏見結果的監控、無偏見的訓練數據。 輸出：政策、計劃和指南；產品和流程。 成熟度階段表現從無偏見表征到有明確的政策和實踐識別潛在負面影響和受保護屬性，從無統一的偏見評估指標到有一致的框架和標準，從無偏見監控到有定期的監控和反饋機制，從無訓練數據測試到有完善的測試程序并能根據評估結果改進模型。?

（五）領域 5：產品安全可靠 子領域 5.1：網絡安全和隱私 定義機構擁有政策、工具和程序，以主動保護其 AI 系統和數據，并應對網絡攻擊。 主題與目標漏洞緩解、安全和安全影響評估、網絡響應、數據安全和隱私。 輸出：政策、計劃和指南；產品和流程。 成熟度階段表現從無漏洞審查到有定期的漏洞審查和最佳實踐開發，從無安全影響評估到有標準的評估流程并能考慮級聯效應，從無網絡響應計劃到有完善的響應計劃和自動化防御工具，從無數據安全和隱私保護到有嚴格的訪問控制和隱私增強技術。 子領域 5.2：風險管理 定義機構系統地識別風險，建立風險容忍度水平，并相應地管理風險。 主題與目標風險管理方法、風險容忍度、系統風險評估。 輸出：政策、計劃和指南；人員和組織；產品和流程。 成熟度階段表現從無 AI 特定的風險管理框架到有完善的框架并能集成到企業風險管理中，從無風險容忍度定義到有明確的容忍度和優先級并能定期審查，從無系統風險評估到有全面的風險評估和文檔并能持續更新。?

（一）模型的價值與意義

該智庫政府機構AI成熟度模型為美國各級政府機構提供了一個全面、系統的框架，幫助其評估 AI 能力成熟度、規劃發展路徑并確定工作優先級。該模型涵蓋了 AI 應用的各個方面，從治理和資源到產出、信任和安全，為機構提供了清晰的指導。

（二）模型的應用前景

隨著AI技術在政府領域的不斷深入應用，該模型將在幫助機構應對挑戰、抓住機遇方面發揮重要作用。機構可以利用該模型進行自我評估，識別能力差距，制定針對性的改進計劃，從而提高AI應用的效率、效果和安全性。

（三）未來建議

該智庫建議，美國政府機構應持續關注AI技術的發展趨勢，結合自身使命和目標，靈活運用該模型。同時，應加強跨機構合作，分享最佳實踐，共同推動政府 AI 能力的提升。此外，還應不斷完善模型本身，以適應 AI 技術和應用場景的不斷變化。

來源：占知智庫