931年，愛因斯坦在與加州理工大學的學生們交流時，充滿深情地說：關心人的本身，應當始終成為一切技術奮斗的主要目標，以保證我們的科學思想的成果能夠造福于人類，而不至于成為禍害。
人工智能是第四次工業(yè)革命的標志性技術，近年來智能化正在深刻改變我們的生產(chǎn)、生活方式，智能時代的大門已經(jīng)緩緩開啟。然而，人工智能在給我們帶來更多驚喜的同時，也帶來了公共安全風險、隱私侵權、數(shù)字鴻溝、責任困境、倫理失范等許多新挑戰(zhàn)。
因此，人工智能治理這一概念應運而生。如何引導技術“負責任”地發(fā)展已成為全世界的共同訴求。
近日，在2021人工智能合作與治理國際論壇上，與會專家圍繞“推動構建平衡包容的人工智能治理體系”開展討論，探尋讓人工智能安全、可靠、負責的造福全人類之路——
科技并不是存在于真空之中
毋庸置疑，我們正在進入“人機物”三元融合，萬物互聯(lián)的智能時代。
最近一段時間，受到全社會熱議的“困在算法里的外賣小哥”、網(wǎng)絡游戲沉迷、掌握用戶數(shù)據(jù)和高級算法優(yōu)勢形成壟斷性超級平臺、信息繭房導致群體極化和網(wǎng)絡暴力等問題，都在警示著我們——對于人工智能，如果利用得當，將大有裨益；但是，科技并不是存在于真空之中，也有可能使得現(xiàn)有問題進一步加劇。
聯(lián)合國開發(fā)計劃署駐華代表白雅婷舉例說，人工智能的客觀性僅在于其算法，而這些算法由人來編寫，因此人類的偏見可能會被編入人工智能當中，從而延續(xù)偏見和歧視；另外，人工智能系統(tǒng)的有效性基于數(shù)據(jù)，這可能會成為濫用數(shù)據(jù)和侵犯個人隱私的動機。如果沒有恰當?shù)闹卫恚@些技術的有害之處將對于人的生活構成有害的影響。
同時，從總體來看，在人工智能的發(fā)展中，目前發(fā)展中國家話語權較少；在國家內部，發(fā)揮人工智能潛能，只需要少數(shù)人獲得的先進技能和專業(yè)知識，如果這種不平衡持續(xù)下去，會出現(xiàn)掉隊的數(shù)字弱勢群體，數(shù)字鴻溝將持續(xù)擴大。
在清華大學公共管理學院教授、清華大學智庫中心主任蘇竣看來，在這場人工智能掀起的人類社會劇變中，我們需要科學的方法來研究和應對科學技術帶來的種種風險、問題和挑戰(zhàn)。不但要關注技術本身，更要關注技術對社會的影響，需要做長周期、多學科、寬領域的觀察、研究，通過實踐的積累，通過實驗去深刻理解人類社會轉型的過程機理，全方位回應來自學術界，以及每個普通的人的關切。
“因此，政策制定者必須具備前瞻性的思維，不能僅解決當下的問題，還必須要預見未來的挑戰(zhàn)。”白雅婷指出。
治理標準的統(tǒng)一并不容易
對于人工智能治理的路徑，專家們已有共識。
中科院院士、清華大學校長邱勇指出，人工智能治理必須協(xié)同多元主體，經(jīng)過多維目標，融合多元價值，加強全球合作與對話，構建平衡、包容的人工智能治理體系。
然而，這些原則的具體落地并不是那么簡單。據(jù)統(tǒng)計，目前全世界已有160多套組織、國家等建立的人工智能道德和治理原則，但缺少將這些獨立的倡議結合起來的框架和標準；且在數(shù)據(jù)、算法、算力、場景等方面面臨許多挑戰(zhàn)。
11月24日，聯(lián)合國教科文組織在法國巴黎發(fā)布了《人工智能倫理建議書》，這是全球首個針對人工智能倫理制定的規(guī)范框架。
據(jù)世界工程組織聯(lián)合會主席、中國新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長龔克介紹，這個建議書的制定付出了艱辛的過程。
早在2020年年初，建議書就在網(wǎng)上公開征求意見。在當時意見基礎上，在全球遴選了24人組成特殊專家組，其中考慮了性別平衡、區(qū)域平衡、學科平衡等；通過專家組多輪討論和修改后，第一輪修改草稿在線征求意見，收到了來自90多個國家的5000多條意見；在此基礎上繼續(xù)修改，并在全球6個地區(qū)（涉及亞太、歐洲、非洲等），與涉及102個成員國代表開展在線協(xié)商；定稿后再由聯(lián)合國教科文組織總干事發(fā)送給193個成員國征求意見，最終才正式通過。
龔克認為，“這體現(xiàn)了多利益攸關方開放參與規(guī)定制定過程，不僅為人工智能治理體系建立提供了重要基石，本身協(xié)商過程也建立了多邊典范。”
事實上，當前我國已躋身人工智能水平的第一梯隊，也肩負著參與國際治理規(guī)則制定的職責。
科技部副部長李萌表示，我國已成立了由15個部門構成的人工智能規(guī)劃推進辦公室，辦公室設立新一代人工智能治理專業(yè)委員會，發(fā)布了相關治理原則和倫理規(guī)范；同時開展了長周期、跨學科的人工智能綜合影響社會實驗，部署了城市、農村、教育、醫(yī)療、能源、環(huán)境等30多個領域的場景實驗研究；并依托領軍企業(yè)布局了一批開放創(chuàng)新平臺，依托地方建立了17個創(chuàng)新發(fā)展實驗區(qū)。
作為我國新一代人工智能治理專業(yè)委員會主任、清華大學人工智能國際治理研究院院長薛瀾指出，當前人工智能治理已從理念探討走到了實踐探索的前沿。近年來，專委會正致力于構建有效的治理框架和相關規(guī)則。
按照目前的研究成果，思路是構建“政府、企業(yè)、公眾、大學與科研機構、媒體、非營利組織、國際組織”等多主體參與，以“底線思維、人本思維、發(fā)展思維、全球思維”為價值導向，以“算法、數(shù)據(jù)、算力、外部環(huán)境、場景”為治理對象，應用“宏觀-中觀-微觀”多維治理工具的人工智能綜合治理框架體系，通過“形成價值共識、多主體分工協(xié)作、治理理念迭代優(yōu)化”等治理機制推動人工智能健康發(fā)展，促進人類福祉提升。
為人工智能發(fā)展劃定“紅線”
人們越來越認識到：人工智能不是萬能藥，它的好壞取決于使用人工智能的人及數(shù)據(jù)基礎、治理標準等；而治理正是確保大船行穩(wěn)致遠的航向標。
為此，向著“平衡包容”的目標，各方都在努力前行，為人工智能發(fā)展畫定“紅線”。
龔克提出，目前不僅要發(fā)展人工智能的相關應用技術、開發(fā)更加有效的算法，還需要發(fā)展一批支撐治理的技術，如監(jiān)督性技術，用于保護公平性以及隱私等。比如從社會中采集的數(shù)據(jù)，其實帶有一定偏見，這不是社會的錯，是現(xiàn)實社會固有的。但如果沒有適當技術對數(shù)據(jù)進行“減偏”，公平無歧視原則可能就無法落地。因此，要著力強調發(fā)展一批監(jiān)管性支撐技術。
李萌認為，人工智能技術應該將普遍適用與分類推進相結合，根據(jù)不同群體需求提出差異化選擇，切實保護各相關主體合法權益，提高弱勢群體的適應性，努力消除數(shù)字鴻溝；同時也要尊重和幫助弱勢群體提供必要的替代方案，避免忽視、偏見、歧視。
邱勇提到了教育的意義，他指出，大學作為人類科技文明的重要策源地，不僅要在人工智能基礎理論與技術前沿努力突破創(chuàng)新，也要進行科技向善的文化理念，塑造良善的人工智能價值倫理。
卡內基理事會資深研究員、清華大學人工智能國際治理研究院學術委員溫德爾·瓦拉赫（Wendell Wallach）強調了新的國際合作方式的重要性。他認為，人工智能國際治理機制應該具有敏捷性、適應性、預見性、響應性和包容性，中美兩國需要共同參與制定人工智能國際治理方案，將使其更具有可行性。同時，每個國家要處理好對國家安全和國際合作雙重需求之間的關系，接受國際標準的同時，積極開展旨在應對新挑戰(zhàn)的前瞻性對話。
不過專家們也提出，人工智能治理的目的不是限制其發(fā)展，而是要為了實現(xiàn)向善、造福人類的健康發(fā)展。
李萌指出，目前社會對人工智能的社會風險、倫理風險和法律風險的認識，有一些是基于理性的推演預判，也有一些是基于主觀判斷的臆想。他認為，應該秉持積極而負責任的態(tài)度，努力實現(xiàn)人工智能創(chuàng)新發(fā)展與有效規(guī)制之間的協(xié)調，技術邊界拓展與應用范圍限制之間的平衡，避免陷入倫理陷阱而阻礙前沿技術的研究與應用。
