在全國科技大會、國家科學技術獎勵大會、兩院院士大會上，習近平總書記對我國要建成的科技強國作出深入闡釋，提出必須具備五方面基本要素。

其中，“擁有強大的科技治理體系和治理能力，形成世界一流的創新生態和科研環境”是五方面基本要素之一。習近平總書記的重要講話深刻闡明了新時代加強科技治理體系和治理能力建設的重要性，進一步明確了科技治理體系和治理能力建設要實現的戰略目標。科技倫理治理體系是科技治理體系的重要組成部分，也是確保人工智能向善發展，為中國式現代化建設提供持續、健康、強勁動能的重要保障。

治理面臨新形勢新任務

近年來，我國高度重視、積極推動人工智能倫理治理，并取得顯著成效。一系列舉措包括成立國家科技倫理委員會及人工智能倫理分委員會、發布新一代人工智能治理原則、推進人工智能倫理治理相關法律法規建設、創新人工智能倫理治理政策工具、參與全球人工智能倫理治理對話合作等。還要看到的是，對標“擁有強大的科技治理體系和治理能力”的目標，對照人工智能迅猛發展和廣泛應用的現實，當前我國人工智能倫理治理體系和治理能力建設面臨新形勢，亟待完成新任務。

一是要更全面、準確識別人工智能的影響及其倫理意涵。識別和評估影響，是人工智能倫理治理的前提。人工智能的廣泛應用會產生什么影響，在哪些方面產生影響，不同影響如何生成和傳導，以及各種影響會帶來哪些倫理挑戰，這些問題都未明晰。同時，在很多人工智能技術的應用場景中，我國實際上已扮演先行先試者的角色，沒有太多可借鑒的現成經驗。因此，新時期必須加強人工智能影響評估的理論和方法研究，持續豐富治理實踐，努力形成人工智能倫理治理的中國經驗和中國方案。

二是要更重視人工智能治理實踐中的倫理問題。治理方式和治理工具符合倫理規范，是強大的科技倫理治理體系和治理能力的題中應有之義。隨著人工智能治理規則、工具和實踐增多，這些活動本身的倫理問題愈加凸顯。這些問題的實質，是人工智能治理實踐是否符合倫理規范，即是否以符合倫理的方式開展人工智能治理。新時期加強人工智能倫理治理體系和治理能力建設，必須高度重視對人工智能治理實踐的倫理審查和倫理反思。

三是要提高人工智能倫理治理體系的有效性。近年來，我國積極推動人工智能倫理治理法律法規建設，涉及人工智能倫理治理的“硬法”和“軟法”逐漸增多，并衍生出多樣化治理機制和政策工具。但是，逐漸復雜的規則、多元主體的參與、日益豐富的政策工具，也增加了治理體系的復雜性，提高了出現合成謬誤、治理體系整體效能下降的風險。因此，需進一步優化治理體系，明確各參與主體的責任與義務，加強跨部門、跨領域的協調合作，提升政策工具的有效性和針對性，確保人工智能倫理治理體系高效運行。

四是要增強人工智能倫理治理的國際影響力和引領力。國際影響力和引領力是強大的人工智能倫理治理能力的重要內容。近年來，我國通過積極參與人工智能倫理治理雙多邊對話合作、發布《全球人工智能治理倡議》、倡導加強人工智能能力建設國際合作等舉措，與各國攜手推進全球人工智能倫理治理體系和治理能力建設，在持續為全球人工智能倫理治理貢獻中國力量和中國智慧的同時，也有效提升了我國在全球人工智能倫理治理領域的影響力。但是，全球人工智能倫理治理領域既存在廣泛合作，也存在博弈和競爭，我國在全球人工智能倫理治理中的影響力和引領力，仍然與我國在全球人工智能技術發展和應用中的地位不夠相稱，需要進一步加強。

多措并舉提升可操作性

新時期，如何加強我國人工智能倫理治理體系和治理能力建設？一方面，要全面認識人工智能倫理問題的內涵以及影響倫理治理實踐的關鍵因素，確保治理體系和治理能力建設符合規律要求、符合實際情況；另一方面，要突出問題導向，抓住治理體系和治理能力建設中的關鍵點、改革工作的突破點，著力提升工作的針對性和可操作性。具體而言，可從以下六方面發力。

一是健全人工智能倫理治理法律法規體系。一方面，以法律法規的形式明確人工智能倫理問題的邊界、不同主體在人工智能研發和應用過程中的權責劃分，并根據實際情況適時對其進行動態調整；另一方面，用法律法規約束人工智能倫理治理實踐，確保倫理治理實踐符合法律規定和倫理規范。

二是健全人工智能倫理審查機制。加快健全人工智能倫理審查機構體系和倫理審查規范體系；通過業務培訓等多種方式，加強倫理審查專業人才隊伍建設；通過規范審查機構人員構成和審查流程等關鍵環節，加強倫理審查機構的能力建設，提高倫理審查質量；優化人工智能倫理風險分級分類標準，并建立與之相匹配的倫理審查和監管工作機制；進一步增加倫理審查工作的透明度，更好發揮倫理審查的導向作用。

三是建立人工智能倫理問題多元監督機制。進一步優化政府監管、行業自律、公眾監督等多種監督方式的分工協作機制，增強監督工作的及時性和有效性、提高監督效率；支持人工智能企業和研發機構聯合制定、共同遵守行業倫理準則，發揮自我約束機制的作用；提高公眾對人工智能倫理問題的關注度和理解力，增強公眾有序參與人工智能倫理監督和治理的能力。

四是加強人工智能倫理教育。支持從事人工智能技術研發的機構面向研發人員開展倫理培訓，鼓勵人工智能產品和服務提供機構與用戶就特定應用場景中的倫理規范加強溝通；在中小學科技類課程中，適當增加人工智能倫理議題相關內容，將人工智能倫理課程作為相關專業本科生和研究生的必修課以及面向全體大學生的選修課；加強面向全社會的人工智能倫理規范和知識普及教育。

五是加強人工智能倫理問題及治理效果研究。前瞻性開展人工智能社會實驗，支持政產學研在人工智能經濟社會影響識別、政策干預效果評估等方面共同開展系統性研究；支持在各個應用場景中開展差異化的倫理治理機制探索和工具創新，增強倫理治理體系的敏捷性和韌性。

六是積極參與全球人工智能倫理治理。推動以聯合國為中心的全球人工智能倫理治理對話與合作；圍繞人工智能倫理治理問題，積極開展雙多邊交流合作，共享最佳實踐、共同支持相關研究、協同制定治理規則，與各國攜手推動全球人工智能倫理治理體系和治理能力建設。

（作者系中國科學技術發展戰略研究院研究員）