近年來，人工智能的新技術(shù)不斷突破、新業(yè)態(tài)持續(xù)涌現(xiàn)、新應(yīng)用加快拓展，已成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量。同時，人工智能發(fā)展在法律、安全、就業(yè)、道德倫理等方面也面臨著一系列新課題。國際組織和世界多國已開始在理念、立法和科普等方面探索人工智能治理的可行性路徑并達成一些共識，努力在發(fā)展和安全之間尋求平衡，但全球人工智能治理仍面臨“監(jiān)管滯后”“技術(shù)鴻溝”“安全泛化”“共識難聚”“歸責不明”“執(zhí)行不力”等挑戰(zhàn)。
探索全球人工智能治理共識機制
近年來，全球主要經(jīng)濟體和國際組織紛紛致力于人工智能治理框架的構(gòu)建與迭代，積極探索全球人工智能治理共識機制。
“從全球范圍來看，人工智能已步入技術(shù)發(fā)展的‘奇點時刻’與監(jiān)管治理的‘關(guān)鍵時刻’。”對外經(jīng)濟貿(mào)易大學(xué)數(shù)字經(jīng)濟與法律創(chuàng)新研究中心主任張欣在接受本報記者采訪時表示，當前，作為全球科技競爭最激烈的領(lǐng)域之一，人工智能的國際競爭早已超越技術(shù)和產(chǎn)業(yè)的競爭，并實質(zhì)拓展到以法律規(guī)制為代表的治理競爭。美國、中國、歐盟、英國、日本、韓國、加拿大、新加坡和巴西等均高度重視人工智能治理，形成“技術(shù)賽道”“產(chǎn)品賽道”和“制度賽道”多軌并行的新格局。
國際組織積極探索促成全球人工智能治理共識達成的規(guī)范框架。張欣介紹，2019年，經(jīng)濟合作與發(fā)展組織發(fā)布了全球首個政府間人工智能治理原則的文件。同年，二十國集團提出“G20人工智能原則”，確定了人工智能應(yīng)促進包容性增長、可持續(xù)發(fā)展和社會福祉以及“以人為本”的價值觀和“問責制”等治理的基礎(chǔ)性原則。2023年10月，聯(lián)合國秘書長安東尼奧·古特雷斯宣布組建高級別人工智能咨詢機構(gòu)，該機構(gòu)于2023年12月發(fā)布《臨時報告：以人為本的人工智能治理》。
國際組織尤為重視生成式人工智能的負責任創(chuàng)新。張欣介紹，聯(lián)合國《全球數(shù)字契約》《關(guān)于負責任的生成式人工智能的建議》（世界經(jīng)濟論壇）、《生成式人工智能在教育和研究中的應(yīng)用指南》等一系列文件發(fā)布，共同強調(diào)了在發(fā)展和應(yīng)用生成式人工智能技術(shù)時必須遵循的倫理原則和規(guī)范，進一步呼吁各國政府、私營主體、學(xué)術(shù)機構(gòu)以及民間團體共同努力，加強全球合作治理。
中國一直是人工智能全球治理的積極倡導(dǎo)者和踐行者。2021年12月，中國向聯(lián)合國《特定常規(guī)武器公約》第六次審議大會提交《中國關(guān)于規(guī)范人工智能軍事應(yīng)用的立場文件》，2022年11月又向聯(lián)合國《特定常規(guī)武器公約》締約國大會提交了《中國關(guān)于加強人工智能倫理治理的立場文件》。2023年10月，中國提出《全球人工智能治理倡議》，為凝聚國際社會共識、推進全球共享共治發(fā)揮了積極作用。2024年7月，第78屆聯(lián)合國大會以協(xié)商一致方式通過了中方主提的“加強人工智能能力建設(shè)國際合作”決議，143個聯(lián)合國會員國參加聯(lián)署。這是全球首個聚焦人工智能能力建設(shè)的共識性文件。
“在全球人工智能治理秩序形成的過程中，各大科技企業(yè)也積極探索人工智能治理的多元化路徑，嘗試探尋自我規(guī)制的創(chuàng)新方案。”張欣說，一方面，科技企業(yè)積極尋求與監(jiān)管者溝通合作，力求通過自我承諾、自我約束開展人工智能治理；另一方面，科技企業(yè)也積極開發(fā)人工智能治理工具以紓解新型技術(shù)風險，推進負責任的創(chuàng)新與研發(fā)。
“面對人工智能技術(shù)革新及由此引發(fā)的治理挑戰(zhàn)，當前，全球范圍內(nèi)已初步形成主權(quán)國家主導(dǎo)、國際組織推進、科技企業(yè)協(xié)同的多方治理格局，并出現(xiàn)人工智能治理法治化、智慧化和軟法與硬法雙軌并行深度治理的趨勢。”張欣說。
加強人工智能治理規(guī)則的全球協(xié)作日益成為各方共識
過去一年多來，生成式人工智能技術(shù)已取得了質(zhì)的飛躍。這不僅體現(xiàn)在技術(shù)進步的速度上，更體現(xiàn)在其廣泛而深遠的影響上，為各行各業(yè)帶來了前所未有的變革。
據(jù)美國一個面向公眾開放的數(shù)據(jù)集——人工智能、算法、自動化事件和爭議存儲庫顯示，2021年新報告的人工智能事件和爭議數(shù)量是2012年的26倍。其中，生成式人工智能引發(fā)的虛假信息問題尤為突出。由于虛假信息面向的是互聯(lián)網(wǎng)信息內(nèi)容領(lǐng)域，因此產(chǎn)生的影響具有行業(yè)和場景的廣泛性。
“與傳統(tǒng)技術(shù)風險有所不同，人工智能技術(shù)風險具有隱蔽性、跨域性、全球性和長期性，需要從國際層面展開持續(xù)性、系統(tǒng)性和協(xié)同性的治理努力。”張欣說，人工智能技術(shù)的突破式發(fā)展導(dǎo)致新舊風險疊加，帶來了一系列安全和倫理挑戰(zhàn)。由于人工智能的技術(shù)迭代以日為單位，若不在早期實施有效的介入治理，則可能出現(xiàn)后期風險難以控制的治理困境。
“各國雖在人工智能治理思路和具體方案上存在差異，但加強人工智能治理規(guī)則的全球協(xié)作日益成為各方共識。”張欣說，2023年11月，人工智能安全峰會在英國舉行，達成了全球首個人工智能治理協(xié)議《布萊切利宣言》，包括中國、美國、英國等28個國家及歐盟共同簽署了該項宣言。
國際社會已形成共識：將“以人為本”作為人工智能研發(fā)和部署的基本原則和重要理念。張欣分析，“以人為本”這一共識意味著，在人工智能技術(shù)的開發(fā)與應(yīng)用過程中，首要任務(wù)是確保技術(shù)始終以人類利益為先，尊重每個個體的基本權(quán)利和人的尊嚴，維護人的主體性地位，確保人工智能技術(shù)的發(fā)展真正服務(wù)于增進人類福祉的目標。“以人為本”的理念還強調(diào)人工智能開發(fā)應(yīng)采取負責任的創(chuàng)新方式。這要求在技術(shù)設(shè)計、開發(fā)和部署階段，應(yīng)系統(tǒng)地評估和衡量潛在的影響與風險，確保系統(tǒng)設(shè)計的公平性和多樣性，避免技術(shù)濫用。
張欣說，從實踐來看，全球人工智能治理仍然存在以下不足：一是國際組織參與度高于政府，但尚未有國際組織承擔起全球人工智能核心監(jiān)管機構(gòu)的角色，各國際組織間呈現(xiàn)出高度分散的碎片化狀態(tài)。二是政府間合作多具有地域特征和大國競爭導(dǎo)向。以G7國家為代表的發(fā)達國家試圖構(gòu)建一套普適性的人工智能監(jiān)管規(guī)則， 而以金磚國家為代表的新興市場和發(fā)展中國家在人工智能治理的國際合作中潛力尚待發(fā)揮。
不斷彌合智能鴻溝和治理能力差距
由于技術(shù)發(fā)展水平和文化背景差異，各國對人工智能風險的感知也顯著不同。斯坦福大學(xué)人工智能研究所發(fā)布的《2023年人工智能指數(shù)報告》引用調(diào)查機構(gòu)易普索2022年的調(diào)查指出，部分發(fā)展中國家對人工智能普遍更加樂觀。如78%的中國受訪者同意“使用人工智能產(chǎn)品和服務(wù)的好處多于壞處”的觀點，76%的沙特阿拉伯受訪者和71%的印度受訪者認為人工智能產(chǎn)品“利大于弊”。德國、荷蘭、澳大利亞、比利時和加拿大等一些發(fā)達國家對人工智能產(chǎn)品和服務(wù)的評價則稍顯負面。
“打造一個全方位、多層次、匯聚廣泛共識， 具有真正的包容性、平等性、多元性的治理框架仍然面臨多項挑戰(zhàn)。其中尤為突出的當屬意識形態(tài)對人工智能治理框架的影響以及資本逐利帶來的負面沖擊。”張欣認為，面對人工智能技術(shù)創(chuàng)新及接踵而來的治理挑戰(zhàn)，全球人工智能治理確實已站在歷史選擇的“關(guān)鍵十字路口”，能否超越分歧達致共識，能否超越個別利益實現(xiàn)共同利益，是決定全球人工智能治理模式是否有韌性、有效的關(guān)鍵因素。
張欣說，全球人工智能治理面臨歸責框架不清晰和協(xié)作治理機制不健全等問題。如何處理數(shù)據(jù)安全、隱私保護、算法濫用等問題，并形成全球范圍內(nèi)的協(xié)同有效治理，也是當前的重要議題。
中國始終將發(fā)展中國家的期待與需求放在重要位置。《全球人工智能治理倡議》指出，增強發(fā)展中國家在人工智能全球治理中的代表性和發(fā)言權(quán)，確保各國人工智能發(fā)展與治理的權(quán)利平等、機會平等、規(guī)則平等，開展面向發(fā)展中國家的國際合作與援助，不斷彌合智能鴻溝和治理能力差距。
中國常駐聯(lián)合國代表傅聰介紹加強人工智能能力建設(shè)國際合作決議草案時表示，大多數(shù)國家特別是發(fā)展中國家尚未能真正接觸、使用人工智能并從中受益，全球數(shù)字鴻溝仍有擴大之勢。在此背景下，中國順應(yīng)廣大國家特別是發(fā)展中國家的期待，倡導(dǎo)人工智能能力建設(shè)國際合作，平等發(fā)展和利用人工智能技術(shù)，共享人工智能知識成果，體現(xiàn)了中國對人工智能發(fā)展和治理的負責任態(tài)度。
“發(fā)展中國家與發(fā)達經(jīng)濟體之間在人工智能技術(shù)發(fā)展和治理議程設(shè)置能力上仍存在‘智能鴻溝’和治理代差。”張欣說，構(gòu)建全球人工智能治理機制需要以包容性、平等性、多元性為基礎(chǔ)原則，探索政府間、企業(yè)間、專家間的對話交流和磋商機制，通過在重點領(lǐng)域率先凝聚治理共識推動實現(xiàn)協(xié)同發(fā)展、和諧共榮的治理格局。
(責編：夏巖)
