斯蒂芬·霍金曾說過，人工智能的崛起，要么是人類歷史上最好的事，要么是最糟的。人工智能在帶動巨大技術進步的同時，也給經(jīng)濟社會治理帶來了新的挑戰(zhàn)。人工智能發(fā)展如何實現(xiàn)風險最小化、效益最大化?

　　國際安全與和平面臨挑戰(zhàn)

　　伊萊克利·伯利茲

　　我們生活在一個超凡的歷史時代。在科學和技術的推動下，世界正變得更加相互依賴、相互依存。這些技術進步的重要性在幾年內(nèi)將逐漸凸顯出來，特別是在它們作為一種即時、高效和低成本運作的工具來實現(xiàn)可持續(xù)發(fā)展目標時。衛(wèi)生、教育、能源、環(huán)境等眾多關鍵領域都將因人工智能受益。

　　人工智能在國際安全方面意味著什么?有人認為，隨著各國不斷努力發(fā)展以人工智能為基礎的軍事力量，我們很快就會發(fā)現(xiàn)自身處于人工智能軍備競賽的邊緣。有人認為，人工智能和機器人技術可能在軍事力量方面提供重要優(yōu)勢，世界可能面臨新的軍備競賽，人工智能和機器人技術將取代冷戰(zhàn)時期的核武器。

　　我們也應當開始思考人工智能對非國家行為體，如恐怖組織和犯罪組織的意義。同時我們也必須付出時間和精力去理解如何利用人工智能打擊犯罪和恐怖活動，以及尋找能夠加強全球安全的途徑。在聯(lián)合國系統(tǒng)中，包括科學和技術促進發(fā)展委員會、國際勞工組織、國際電信聯(lián)盟、聯(lián)合國貿(mào)易與發(fā)展會議、聯(lián)合國兒童基金會、聯(lián)合國教科文組織等在內(nèi)，都在各自的職責范圍內(nèi)積極評估人工智能等技術進步帶來的影響。

　　聯(lián)合國犯罪和司法研究所人工智能和機器人項目的一項基本原則是，人工智能和機器人技術與其他技術一樣不存在好壞之分，最終都是可以用來實現(xiàn)目標的工具。但這些技術存在著非常明顯的風險效益二元性，我們必須謹慎，避免過度傾向于風險。

　　聯(lián)合國犯罪與司法研究所在荷蘭海牙成立了第一個聯(lián)合國人工智能和機器人中心，該中心致力于通過提高認知、教育、信息交換和協(xié)調(diào)利益相關者，來處理與犯罪相聯(lián)系的人工智能和機器人帶來的安全影響和風險。這樣做的目的在于，方便向相關領域中的政策制定者和政府官員提供信息。

　　人工智能帶來的風險和益處是交織在一起的。而且，不論人工智能能否結束貧困或者是引發(fā)一個新的犯罪和恐怖時代，都取決于今天所作出的決定。鑒于技術的復雜性和該領域的快速發(fā)展，這些決定需要充分估算到其潛在的影響。我們只有通過整合相關各方，才能實現(xiàn)風險最小化、效益最大化。

　　警惕人工智能發(fā)展不平衡

　　魯傳穎

　　人工智能被譽為引領科技變革的通用型技術，同時也是一項顛覆性技術。各國政府紛紛制定戰(zhàn)略，推動人工智能在民用和軍事領域快速發(fā)展。與此同時，人們也應提高警惕，人工智能不僅會帶來倫理、經(jīng)濟結構等社會性變革，同時也有可能對國際經(jīng)濟和安全秩序產(chǎn)生根本性影響。因此，要從全球治理的高度，加大對人工智能可能給全球秩序帶來挑戰(zhàn)的關注。

　　人工智能最大的影響在經(jīng)濟領域。對傳統(tǒng)產(chǎn)業(yè)的替代會在全球范圍內(nèi)導致大量失業(yè)，而新的就業(yè)崗位能否被創(chuàng)造出來還面臨很大的不確定性。從國家角度來看，人工智能的先發(fā)國家和大國，依舊可以通過發(fā)展人工智能的收益來彌補傳統(tǒng)產(chǎn)業(yè)的損失，通過將部分收益用于轉(zhuǎn)移支付和社會保障系統(tǒng)來維護社會的基本穩(wěn)定。而一些未能跟上人工智能發(fā)展浪潮的國家，大量就業(yè)可能會轉(zhuǎn)移到國外，導致政府缺乏足夠的資源來應對經(jīng)濟社會面臨的沖擊。

　　不僅如此，從全球經(jīng)濟體系角度來看，發(fā)達國家居于中心地位，發(fā)展中國家和欠發(fā)達國家依靠廉價的土地、資源和人力要素居于半邊緣和邊緣地位，并且形成了一種對中心國家的依附關系。人工智能可能發(fā)生的顛覆性情景包括：發(fā)達國家通過人工智能在經(jīng)濟領域的應用，減少對發(fā)展中國家勞動密集型產(chǎn)業(yè)以及自然資源的需求，從而改變發(fā)展中國家在全球經(jīng)濟體系中所扮演的角色，讓發(fā)展中國家從世界經(jīng)濟的邊緣滑落到體系之外。

　　從全球安全體系角度來看，人工智能在軍事、安全領域的應用將會進一步拓展。有觀點認為，人工智能會讓軍人變得更加安全，民眾變得更加脆弱。前者是因為各種智能武器開始取代軍人執(zhí)行戰(zhàn)場任務。后者是因為依托人工智能進行攻擊的目標越來越針對網(wǎng)絡目標，如電廠、地鐵等關鍵基礎設施，這些都是和人們?nèi)粘Ｉ钕⑾⑾嚓P、不可或缺的，一旦戰(zhàn)爭發(fā)起，攻擊首先來自網(wǎng)絡，對平民來說受到傷害的幾率將遠遠大于傳統(tǒng)戰(zhàn)爭。

　　人工智能對全球經(jīng)濟和安全的影響還處于早期階段，但我們應從工業(yè)文明崛起過程中對農(nóng)耕文明所帶來的影響出發(fā)，反思如何通過全球治理發(fā)揮人工智能的積極作用，減小其可能的沖擊。因此，人們不僅需要重視倫理、失業(yè)等直接相關的問題，更應注重全球治理問題，重視人工智能在全球?qū)用姘l(fā)展不平衡、不平等的問題，呼吁國際社會為廣大發(fā)展中國家更好抓住人工智能發(fā)展機遇，提供人才培養(yǎng)、技術轉(zhuǎn)移和應用創(chuàng)新等方面的資源和幫助。

　　全球多方共同探討新模式

　　悟思·蓋瑟

　　人工智能及相關技術給我們的社會發(fā)展帶來了巨大益處。醫(yī)療機器人在一些疾病的診斷和治療上可以發(fā)揮輔助作用。在交通領域，智能出行可以實時監(jiān)測交通狀況、規(guī)劃最優(yōu)路線，基于人工智能的無人駕駛技術也將在不遠的將來大規(guī)模應用。在環(huán)保領域，人工智能結合衛(wèi)星探測系統(tǒng)對大氣污染的監(jiān)測，分析污染的成分和來源，更好地幫助政府對環(huán)境進行有效治理。

　　世界各國的政策制定者以及相關部門都應當肩負起制定新的治理框架和政策的重任。它不僅要充分發(fā)揮人工智能的全部潛力，同時也能夠應對一系列的潛在挑戰(zhàn)。許多專家認為，擺在我們面前的最大挑戰(zhàn)是如何設計和使用人工智能，來建立一個更加包容的社會。未來，人工智能可以用自動化替代危險的工作，或者為人類提供更多需要技能和判斷力的復雜工作，因此人工智能擁有巨大潛力。這種潛力只有在教育、勞動力和稅收等重要領域中采取正確政策才能釋放出來。同時，需要共同努力確保人工智能不會加劇現(xiàn)有的經(jīng)濟不平等，而是平等地惠及全體社會，包括弱勢群體。

　　未來的監(jiān)管模式將從以國家為中心的指揮控制監(jiān)管機制向更加復雜的治理手段轉(zhuǎn)變。盡管未來人工智能治理模式的準確輪廓仍在變化中，但目前的研究已經(jīng)看到了“分層治理”模式中模塊化理念的好處。這個治理框架基于最佳實踐，涵蓋了社會、法律、道德和技術等方方面面的措施，也配套了相應的工具，如國際條約、標準和準則。

　　人工智能未來產(chǎn)生的深遠影響可能是跨部門和管轄權的。在設計治理框架時，政府、企業(yè)、學術界和民間需共同攜手，讓人工智能造福社會。相關對話不僅應在地區(qū)和國家層面開展，更需要在國際層面開展。過去10年，全球互聯(lián)網(wǎng)治理的經(jīng)驗已經(jīng)證明了全球多方參與的重要性。能夠預見的是，未來關于人工智能治理新模式的討論需要更多的全球合作和參與。

　　中國被廣泛視為人工智能領域中的領先國家，在為人類和全球的利益構建全球人工智能倫理和治理的重要時刻，中國也是國際社會公認的重要參與者。

　　為人工智能治理貢獻中國智慧

　　賀 佳

　　人工智能發(fā)展帶來的挑戰(zhàn)對治理提出了新需求，如何讓人工智能更好地造福人類，這是全球各國共同面臨的新課題。

　　中國政府從戰(zhàn)略層面高度重視人工智能的發(fā)展和治理。2017年連續(xù)發(fā)布了《新一代人工智能發(fā)展規(guī)劃》和《促進新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃(2018—2020年)》，統(tǒng)籌協(xié)調(diào)人工智能的發(fā)展戰(zhàn)略。

　　從發(fā)展層面來看，優(yōu)越的政策環(huán)境、繁榮的應用創(chuàng)新和豐富的用戶數(shù)據(jù)，為中國在人工智能領域?qū)崿F(xiàn)加速趕超、為全球治理做出積極貢獻提供了堅實基礎。從2015—2016年開始，中國關于深度學習發(fā)表的論文就已經(jīng)處于全球領先地位，而且人工智能企業(yè)數(shù)量和專利數(shù)量也處于全球第一陣營。

　　中國人工智能行業(yè)發(fā)展的一大特色是注重應用創(chuàng)新，特別是在計算機視覺與圖像、語音識別、自動駕駛系統(tǒng)等領域，并且在基于深度學習的信息分發(fā)產(chǎn)品和云計算服務的技術規(guī)模方面也具有一定優(yōu)勢。人工智能產(chǎn)業(yè)的崛起帶動建立了多個領先的人工智能實驗室，推動人工智能商業(yè)化，將人工智能技術應用在傳播、娛樂、教育、金融、醫(yī)療等多個方面，并且新興科技企業(yè)憑借人工智能的技術優(yōu)勢和在本土市場積累的實踐經(jīng)驗，正在以多種方式加速國際化步伐。未來決定人工智能發(fā)展的算法、數(shù)據(jù)和計算能力三個要素中，中國具有數(shù)據(jù)的優(yōu)勢，計算能力也在不斷改進。

　　從治理層面來看，人工智能治理的主要議題包括，人工智能的發(fā)展將引發(fā)哪些社會問題，哪些問題需要全球范圍內(nèi)的協(xié)調(diào)解決，哪些問題具有國家的特殊性，誰來為這些問題埋單等。人工智能的技術仍在快速發(fā)展，應用尚處于早期，因此全球人工智能治理也只是剛剛起步，尚未就這些議題達成共識，也未形成一個能有效匯聚各利益相關方、制定相應的國際行為準則和規(guī)范的核心平臺。

　　作為人工智能領域的新興大國，中國可以為人工智能全球治理提供豐富的應用案例。為提升中國在全球人工智能規(guī)則制定中的影響力和話語權，中國各界亟須加強對人工智能治理相關議題和進程的早期參與，保持與全球的認知同步和建立共同的話語體系。同時加強產(chǎn)業(yè)界、學術界之間的國際對話與交流，準確理解全球各利益相關方的訴求，為各項決策儲備充分的知識，為國際社會人工智能治理的理論研究和實踐發(fā)展貢獻中國智慧與力量。