人工智能將如何影響國(guó)際規(guī)范
趙慶秋
2020年01月07日 00:00
傅瑩
《國(guó)際政治科學(xué)》2019年第1期人工智能可能對(duì)現(xiàn)行國(guó)際規(guī)范帶來(lái)一系列沖擊。
第一，人工智能有可能改變戰(zhàn)爭(zhēng)的內(nèi)涵和形式。美國(guó)學(xué)者斯蒂芬·平克指出了人類(lèi)相互間使用暴力減少的歷史大趨勢(shì)，認(rèn)為“今天我們也許處于人類(lèi)有史以來(lái)最和平的時(shí)代”(20)。王緝思對(duì)當(dāng)今世界戰(zhàn)爭(zhēng)明顯減少的現(xiàn)象給出了5個(gè)方面的解釋?zhuān)ǎ捍髧?guó)發(fā)動(dòng)戰(zhàn)爭(zhēng)可能付出的成本和代價(jià)大大高于可能的收益，通過(guò)非戰(zhàn)爭(zhēng)手段也可以獲得過(guò)去需要通過(guò)戰(zhàn)爭(zhēng)才能獲得的收益，國(guó)家間相互了解的增加以及危機(jī)預(yù)防和管控機(jī)制的普遍建立，國(guó)際軍控機(jī)制的建立，和平作為一種國(guó)際價(jià)值觀的深入人心。(21)而人工智能的發(fā)展有可能使國(guó)家和非國(guó)家行為體在是否使用軍事手段解決矛盾的選擇中，顧慮下降。至少?gòu)睦碚撏蒲莸慕Y(jié)果看，人工智能能夠從決策者、軍隊(duì)、民意3個(gè)層面減少對(duì)戰(zhàn)爭(zhēng)的制約，降低戰(zhàn)爭(zhēng)門(mén)檻。無(wú)人武器使得戰(zhàn)爭(zhēng)行為者的人員傷亡預(yù)期可以降到近乎“零”。人工智能技術(shù)的快速迭代和新材料的廣泛運(yùn)用將極大地壓縮戰(zhàn)爭(zhēng)的物理成本，讓?xiě)?zhàn)爭(zhēng)的經(jīng)濟(jì)適用性上升，甚至變得有利可圖。這使得決策者發(fā)動(dòng)戰(zhàn)爭(zhēng)的誘惑增大、顧慮減少?！俺暰唷弊鲬?zhàn)的可能性和機(jī)器人戰(zhàn)士的出現(xiàn)，將進(jìn)一步從心理上解放士兵。未來(lái)戰(zhàn)爭(zhēng)中，士兵或許不必上戰(zhàn)場(chǎng)，作戰(zhàn)任務(wù)可以通過(guò)事先設(shè)計(jì)好的算法，由“人工智能將軍”指揮無(wú)人自動(dòng)武器完成?！皹O速戰(zhàn)”可以極大壓縮戰(zhàn)爭(zhēng)時(shí)間，在出現(xiàn)民意的反彈之前戰(zhàn)爭(zhēng)就可以結(jié)束了。這些可能改變?nèi)藗儗?duì)戰(zhàn)爭(zhēng)的立場(chǎng)，讓暴力回潮。
2018年10月，美國(guó)陸軍協(xié)會(huì)陸戰(zhàn)研究所發(fā)布的報(bào)告《影響力機(jī)器——讓自動(dòng)化信息作戰(zhàn)成為戰(zhàn)略制勝機(jī)制》稱(chēng)，在人工智能的幫助下，利用算法生成內(nèi)容，實(shí)施個(gè)性化的目標(biāo)鎖定和采用密集的信息傳播組合，可以生成“影響力機(jī)器”，實(shí)施信息作戰(zhàn)，由此能產(chǎn)生指數(shù)級(jí)的影響效應(yīng)。該報(bào)告認(rèn)為，“影響力機(jī)器”信息作戰(zhàn)在戰(zhàn)略層面上的影響力遠(yuǎn)勝于人工智能技術(shù)在其他領(lǐng)域的應(yīng)用。因?yàn)樗梢栽跈C(jī)器學(xué)習(xí)的輔助下，對(duì)情感、偏見(jiàn)和價(jià)值觀等指標(biāo)進(jìn)行篩選，并鎖定那些心理最易受到影響的目標(biāo)受眾，然后將定制的“精神彈藥”快速密集的“射向”目標(biāo)群體，達(dá)到影響其心理、操縱其認(rèn)知的目的。(22)
第二，人工智能可能沖擊全球戰(zhàn)略穩(wěn)定。約瑟夫·奈曾經(jīng)談到，核武器的出現(xiàn)使軍事力量作為維護(hù)安全的手段走到了極限，甚至走向其反面。人們認(rèn)識(shí)到，在核戰(zhàn)爭(zhēng)中沒(méi)有贏家，核武器可能使全人類(lèi)面臨滅亡的危險(xiǎn)。(23)而人工智能將挑戰(zhàn)經(jīng)典的“相互確保摧毀”理論。蘭德公司在2018年發(fā)布的《人工智能對(duì)核戰(zhàn)爭(zhēng)風(fēng)險(xiǎn)的影響》報(bào)告中分析認(rèn)為，到2040年，人工智能技術(shù)的進(jìn)步使報(bào)復(fù)性核反擊力量成為目標(biāo)并被摧毀的可能性大大增加，從而削弱“相互確保摧毀”的基礎(chǔ)，打破核戰(zhàn)略平衡。即使各國(guó)無(wú)意發(fā)起先發(fā)制人的攻擊，也會(huì)傾向于追求先發(fā)制人的能力，以此作為與對(duì)手討價(jià)還價(jià)的手段，而這無(wú)疑將破壞戰(zhàn)略穩(wěn)定。(24)
第三，人工智能的自身特點(diǎn)讓建立相關(guān)國(guó)際軍控和防擴(kuò)散機(jī)制變得困難。在2018年7月清華大學(xué)第七屆世界和平論壇“人工智能與安全”分論壇的討論中，《智能時(shí)代的戰(zhàn)略競(jìng)爭(zhēng)》報(bào)告的作者之一格里戈利·艾倫(Gregory C.Allen)說(shuō)，人工智能也有軍民兩用性，但其軍事應(yīng)用不同于核，更像電。如果可以認(rèn)為核是一種黑白技術(shù)，只存在“有”或“沒(méi)有”兩種狀態(tài)，一國(guó)要么是有核國(guó)，要么是無(wú)核國(guó)。而電則是一種光譜技術(shù)，就像紅橙黃綠藍(lán)靛紫七色光有不同的波長(zhǎng)和媒介反射率一樣，不同的國(guó)家都可以用電，只是應(yīng)用方式和程度會(huì)有很大差異。人工智能在軍事上的應(yīng)用更像電，無(wú)法禁止哪一個(gè)國(guó)家使用人工智能。就像美蘇冷戰(zhàn)期間的軍備競(jìng)賽一樣，未來(lái)很可能出現(xiàn)人工智能強(qiáng)國(guó)之間的算法競(jìng)賽。問(wèn)題是，當(dāng)年美蘇通過(guò)軍控談判簽署了一系列核導(dǎo)軍控協(xié)議，確定了基本規(guī)則，未來(lái)的人工智能強(qiáng)國(guó)間能否本著同樣的精神達(dá)成算法控制協(xié)議呢？艾倫認(rèn)為，從目前大國(guó)關(guān)系態(tài)勢(shì)看，達(dá)成這樣的共識(shí)幾無(wú)可能；然而，考慮到未來(lái)無(wú)序發(fā)展的風(fēng)險(xiǎn)，大國(guó)又必須認(rèn)真考慮就此進(jìn)行共同探討的必要性。
第四，人工智能給國(guó)際法帶來(lái)了一系列的問(wèn)題。在應(yīng)用人工智能武器的條件下，國(guó)際人道法和戰(zhàn)爭(zhēng)法的有關(guān)原則是否能夠繼續(xù)適用？比如，區(qū)別對(duì)待軍民目標(biāo)的“區(qū)分原則”、禁止過(guò)分攻擊的“比例原則”、非軍事手段無(wú)法達(dá)成目標(biāo)的“軍事必要原則”，對(duì)作戰(zhàn)手段的限制等。有沒(méi)有必要針對(duì)人工智能武器制定專(zhuān)門(mén)的規(guī)則？在智能化戰(zhàn)爭(zhēng)條件下，如何區(qū)分戰(zhàn)斗人員和非戰(zhàn)斗人員？戰(zhàn)爭(zhēng)機(jī)器人是否享有人道待遇？人工智能武器是否對(duì)其造成的損害有承擔(dān)責(zé)任的能力？如果它不具備承擔(dān)責(zé)任的能力，那責(zé)任主體應(yīng)該是武器的制造者還是使用者？當(dāng)人工智能武器侵犯國(guó)家的主權(quán)原則時(shí)，它的行為能否觸發(fā)國(guó)家責(zé)任？
第五，人工智能可能沖擊國(guó)際關(guān)系民主化。人工智能的發(fā)展有可能固化國(guó)際權(quán)力結(jié)構(gòu)，深化小國(guó)、弱國(guó)對(duì)強(qiáng)國(guó)、大國(guó)的科技、經(jīng)濟(jì)和安全的依賴(lài)。當(dāng)“贏者通吃”的人工智能技術(shù)競(jìng)爭(zhēng)和商業(yè)競(jìng)爭(zhēng)規(guī)律復(fù)制到國(guó)際關(guān)系上時(shí)，必然會(huì)沖擊大小、強(qiáng)弱國(guó)家間的主權(quán)平等關(guān)系。當(dāng)主要大國(guó)之間的競(jìng)爭(zhēng)加劇時(shí)，結(jié)盟關(guān)系是否會(huì)再度成為弱國(guó)的必然選擇呢？而結(jié)盟本身就是一種盟主和盟友之間的不平等關(guān)系。
第六，人工智能對(duì)全球治理提出了新的課題。人工智能的發(fā)展對(duì)于解決當(dāng)今世界面臨的三大困境(老齡化、數(shù)字化和氣候變化)都具有意義。(25)而更大的挑戰(zhàn)也許是人工智能帶來(lái)的對(duì)于“人”的價(jià)值的進(jìn)一步思考。(26)一些國(guó)家和城市也開(kāi)始探索試行“普遍個(gè)人收入”制度(UPI，universal personal income)。(27)但這必定是一個(gè)需要匯聚全球智慧與力量共同去思考和實(shí)踐的問(wèn)題。
在規(guī)則與制度層面上，以數(shù)據(jù)為例，在近代人類(lèi)歷史上，國(guó)際社會(huì)先后就自然人的跨境移動(dòng)、船只和飛行器等交通工具的跨境移動(dòng)、資本和商品的跨境移動(dòng)等，形成了普遍認(rèn)同的規(guī)則和制度安排。當(dāng)前，數(shù)據(jù)作為一種資源的重要性與日俱增，隨之而來(lái)的問(wèn)題是：數(shù)據(jù)跨境轉(zhuǎn)移應(yīng)遵循什么規(guī)則、在什么樣的制度安排下進(jìn)行？數(shù)據(jù)的產(chǎn)生方、使用方、輸出方、接收方等利益相關(guān)各方分別享有什么權(quán)利、承擔(dān)什么義務(wù)？數(shù)據(jù)本土儲(chǔ)存和跨境轉(zhuǎn)移之間是什么關(guān)系？國(guó)家與數(shù)據(jù)企業(yè)之間是什么關(guān)系？這些都將是未來(lái)全球治理的難題。2019年G20的東道主日本已經(jīng)提議將全球數(shù)據(jù)治理列入G20的議程。
注釋略
]]> 2020年01月07日 11:22