【秦安點(diǎn)評(píng)】這是兩位軍事前沿領(lǐng)域探索者的有深度研究成果,是新軍事變革的高價(jià)值新銳思考。隨著互聯(lián)網(wǎng)技術(shù)的迅速普及,網(wǎng)絡(luò)空間成為新的作戰(zhàn)領(lǐng)域,戰(zhàn)爭(zhēng)的概念和實(shí)踐都在發(fā)生極大的變化。即便傳統(tǒng)的的作戰(zhàn)樣式也離不開(kāi)信息系統(tǒng)和各種數(shù)據(jù)的支持。尤其是在大數(shù)據(jù)時(shí)代,驅(qū)動(dòng)數(shù)據(jù)的就是算法,算法呈現(xiàn)為解決問(wèn)題的一系列步驟,代表著用系統(tǒng)的方法描述解決問(wèn)題的策略機(jī)制,在很多時(shí)候起著決定性的作用,這包括左右軍事指揮官的判斷和決策。因此,沒(méi)有算法安全就沒(méi)有軍事安全的新軍事變革成為必然,簡(jiǎn)單利用所謂標(biāo)準(zhǔn)算法、開(kāi)源算法都是一種極其危險(xiǎn)的隱患,我們亟待向華為任正非學(xué)習(xí),高度重視數(shù)學(xué)人才在未來(lái)智能化戰(zhàn)爭(zhēng)中的重要價(jià)值與核心地位。于此同時(shí),我們必須看到,算法戰(zhàn)爭(zhēng)必然超越軍事領(lǐng)域,滲透到政治、經(jīng)濟(jì)、文化等各個(gè)方面,尤其是跨入5G時(shí)代,我們面對(duì)的信息浪潮必然從“驚濤拍岸”涌現(xiàn)為“水漫金山”,算法的作用和價(jià)值將極大提升。本文作者的研究成果,開(kāi)啟了秦安戰(zhàn)略研究院“算法戰(zhàn)爭(zhēng)”系列的序幕,歡迎大家期待并參與相關(guān)研究。
2017年4月,美國(guó)國(guó)防部副部長(zhǎng)羅伯特·沃克正式提出“算法戰(zhàn)爭(zhēng)”概念,并授權(quán)建立“算法戰(zhàn)跨功能小組”以推動(dòng)包括人工智能、大數(shù)據(jù)及機(jī)器學(xué)習(xí)在內(nèi)的“戰(zhàn)爭(zhēng)算法”關(guān)鍵技術(shù)研究。可以說(shuō),智能化戰(zhàn)爭(zhēng)時(shí)代算法和數(shù)據(jù)的較量大幕已然開(kāi)啟。正如俄羅斯總統(tǒng)普京所說(shuō),“誰(shuí)能成為人工智能領(lǐng)域的領(lǐng)導(dǎo)者,誰(shuí)就將成為世界的統(tǒng)治者。”目前,圍繞“算法戰(zhàn)爭(zhēng)”的內(nèi)涵特征等問(wèn)題仍然存在一定爭(zhēng)論,但毫無(wú)疑問(wèn)的是,智能化算法在未來(lái)戰(zhàn)爭(zhēng)中將扮演舉足輕重的角色,而“算法安全”將逐漸成為軍事安全乃至國(guó)家安全的新興領(lǐng)域,應(yīng)當(dāng)予以充分重視和高度關(guān)注。
01
—
算法在未來(lái)戰(zhàn)爭(zhēng)舞臺(tái)上的角色愈發(fā)重要
算法是解決問(wèn)題的一系列步驟,代表著用系統(tǒng)的方法描述解決問(wèn)題的策略機(jī)制。算法是人工智能的基礎(chǔ),是實(shí)現(xiàn)智能化決策、指揮和協(xié)同的關(guān)鍵因素,是智能化軍事建設(shè)必須搶占的制高點(diǎn)。“戰(zhàn)爭(zhēng)算法”則是指在戰(zhàn)爭(zhēng)行動(dòng)中使用的各類(lèi)智能化軍事應(yīng)用相關(guān)底層設(shè)計(jì)中實(shí)現(xiàn)獲取戰(zhàn)場(chǎng)信息、預(yù)測(cè)戰(zhàn)爭(zhēng)走勢(shì)、完成作戰(zhàn)任務(wù)、提升裝備性能等關(guān)鍵指標(biāo)的計(jì)算機(jī)指令代碼,是為各類(lèi)裝備系統(tǒng)注入“戰(zhàn)爭(zhēng)技術(shù)生命力”的少數(shù)關(guān)鍵。隨著智能化戰(zhàn)爭(zhēng)步伐日益加快,算法在戰(zhàn)爭(zhēng)各環(huán)節(jié)各領(lǐng)域中的重要作用也愈發(fā)凸顯。
(一)顯著提升武器裝備性能
新型武器裝備離不開(kāi)底層“戰(zhàn)爭(zhēng)算法”的支撐,算法能夠讓武器裝備性能產(chǎn)生極大提升甚至質(zhì)的飛躍。例如,美軍F-35戰(zhàn)機(jī)較之F-22占優(yōu)的超視距提前識(shí)別打擊功能,正是基于數(shù)據(jù)系統(tǒng)中識(shí)別算法的高效匹配能力,通過(guò)提前分析判斷識(shí)別敵機(jī)進(jìn)而得以實(shí)現(xiàn)。普通無(wú)人機(jī)經(jīng)過(guò)內(nèi)部算法升級(jí)組合后,可以形成無(wú)人機(jī)“蜂群”新作戰(zhàn)單元進(jìn)而實(shí)現(xiàn)各類(lèi)新型無(wú)人機(jī)戰(zhàn)法。以人工智能為代表的高技術(shù)領(lǐng)域中,先進(jìn)的“戰(zhàn)爭(zhēng)算法”已經(jīng)是高精尖智能化軍事裝備的基礎(chǔ),對(duì)提升裝備性能產(chǎn)生著顯而易見(jiàn)的積極影響。即使某類(lèi)技術(shù)裝備在物理性能上已趨極限,但支撐算法的優(yōu)化仍可能使裝備作戰(zhàn)效能進(jìn)一步躍升。
(二)豐富未來(lái)戰(zhàn)爭(zhēng)作戰(zhàn)手段
未來(lái)戰(zhàn)爭(zhēng)面臨的威脅更加多種多樣,沒(méi)有硝煙的戰(zhàn)場(chǎng)將與日俱增,包括通信網(wǎng)絡(luò)、情報(bào)、偵察、監(jiān)視、大數(shù)據(jù)和物聯(lián)網(wǎng)在內(nèi)的各項(xiàng)技術(shù)將使戰(zhàn)爭(zhēng)形態(tài)發(fā)生很大變化。2011年“震網(wǎng)病毒”事件中,“震網(wǎng)病毒”對(duì)伊朗布什爾核電站中離心機(jī)的攻擊成功造成其運(yùn)行失控,破壞伊朗核力量建設(shè)。“震網(wǎng)病毒”在攻擊過(guò)程中還成功掩蓋設(shè)備故障情況,利用內(nèi)部復(fù)雜病毒算法謊報(bào)情況并將偽造正常運(yùn)轉(zhuǎn)記錄回傳給管理部門(mén),造成敵方?jīng)Q策誤判,完成己方政治任務(wù)。作為首個(gè)廣為人知的依托智能算法進(jìn)行攻擊的自主武器,“震網(wǎng)病毒”再次刷新人類(lèi)認(rèn)知,擴(kuò)寬戰(zhàn)場(chǎng)邊界。算法潛在應(yīng)用范圍十分廣闊,類(lèi)似“震網(wǎng)”病毒的攻擊方式能夠以信息傳播速度展開(kāi)攻擊行動(dòng)并破壞以人為中心的戰(zhàn)場(chǎng)節(jié)奏,利用各種新型作戰(zhàn)手段將戰(zhàn)爭(zhēng)沖突帶到另一維度空間。
(三)高效輔助加速軍事決策
未來(lái)戰(zhàn)場(chǎng)上,算法在情報(bào)分析、輔助決策、計(jì)劃校驗(yàn)、精確協(xié)同、智能指揮等方面也將發(fā)揮著關(guān)鍵作用。未來(lái)的戰(zhàn)爭(zhēng)需要決策優(yōu)勢(shì),這是數(shù)據(jù)技術(shù)實(shí)現(xiàn)快節(jié)奏沖突時(shí)的一個(gè)重要優(yōu)勢(shì)。戰(zhàn)爭(zhēng)的勝負(fù)將取決于哪一方最好地控制、理解和傳播戰(zhàn)爭(zhēng)中的信息,在快節(jié)奏戰(zhàn)場(chǎng)環(huán)境中獲勝需要具備在短時(shí)間內(nèi)提供和處理多來(lái)源、高清晰、超簡(jiǎn)潔、能夠高質(zhì)量輔助決策的關(guān)鍵信息。算法不僅可以加速現(xiàn)有的決策流程和周期,甚至?xí)淖兯鼈儭H斯ぶ悄芩惴梢栽诙虝r(shí)間內(nèi)剔除無(wú)關(guān)數(shù)據(jù)、篩選有效數(shù)據(jù)、專(zhuān)注關(guān)鍵任務(wù)信息,在幾分鐘內(nèi)完成軍事工作人員需要耗費(fèi)數(shù)小時(shí)甚至更久時(shí)間完成的工作,從而允許戰(zhàn)爭(zhēng)人員快速準(zhǔn)確做出最佳決策。利用算法收集、整理、分析戰(zhàn)場(chǎng)信息的各類(lèi)實(shí)體將使戰(zhàn)爭(zhēng)人員從繁瑣的數(shù)據(jù)處理過(guò)程中解脫出來(lái),專(zhuān)心進(jìn)行戰(zhàn)斗和決策。指揮官可以集中精力保持戰(zhàn)場(chǎng)態(tài)勢(shì)感知,戰(zhàn)斗人員可以專(zhuān)注于打好“一蹴而就”的戰(zhàn)斗,進(jìn)而直擊戰(zhàn)場(chǎng)需求,改進(jìn)作戰(zhàn)體系,實(shí)現(xiàn)命令結(jié)構(gòu)扁平化。所有這些優(yōu)勢(shì)都將服務(wù)于決策優(yōu)化,幫助戰(zhàn)爭(zhēng)人員適應(yīng)多變復(fù)雜的戰(zhàn)場(chǎng)態(tài)勢(shì),發(fā)揮驗(yàn)證既定戰(zhàn)法、尋找未來(lái)制勝之策的作用。
(四)充分釋放作戰(zhàn)人員潛能
仿生學(xué)可穿戴設(shè)備(士兵外骨骼、人形機(jī)甲)依靠算法實(shí)現(xiàn)眾多傳感器、系統(tǒng)和平臺(tái)協(xié)作,可以充分釋放人類(lèi)智能的潛力,大大增強(qiáng)個(gè)體人員的戰(zhàn)斗能力進(jìn)而引領(lǐng)作戰(zhàn)變革。美國(guó)最新的數(shù)字化單兵系統(tǒng)“塔羅斯”以及俄羅斯新一代“戰(zhàn)士-3”系統(tǒng)等,都是集合生物、信息、機(jī)械、智能技術(shù)于一體的人體增強(qiáng)技術(shù)集成應(yīng)用代表。即使現(xiàn)實(shí)版“鋼鐵俠”難以在短期內(nèi)得以實(shí)現(xiàn),人工智能算法也可以對(duì)軍隊(duì)整體訓(xùn)練協(xié)同能力帶來(lái)提升。美軍軍隊(duì)協(xié)同能力和訓(xùn)練水平的大幅度提升,離不開(kāi)旅及旅以下戰(zhàn)斗指揮系統(tǒng)(FBCB2)以及實(shí)戰(zhàn)、虛擬、構(gòu)造訓(xùn)練系統(tǒng)(LVC)這類(lèi)高精尖信息系統(tǒng)的支撐。先進(jìn)的作戰(zhàn)訓(xùn)練系統(tǒng)無(wú)一例外都強(qiáng)調(diào)依托算法對(duì)復(fù)雜的作戰(zhàn)問(wèn)題進(jìn)行求解分析、找出規(guī)律、發(fā)現(xiàn)方法,進(jìn)而找到問(wèn)題求解之策。
02
—
是“算法戰(zhàn)爭(zhēng)”還是“算法安全”?
準(zhǔn)確來(lái)說(shuō),未來(lái)戰(zhàn)爭(zhēng)模式將是以大規(guī)模“戰(zhàn)爭(zhēng)算法”為支撐、智能化裝備為主導(dǎo)的體系對(duì)抗。就“算法戰(zhàn)爭(zhēng)”概念而言,戰(zhàn)爭(zhēng)主體之間是否能夠在算法層面實(shí)現(xiàn)直接的博弈對(duì)抗,仍然存在高度的未知性和不確定性。但可以肯定的是,隨著各國(guó)加快軍事智能化發(fā)展,人工智能軍事應(yīng)用趨于常態(tài),“算法安全”將具有越來(lái)越強(qiáng)的現(xiàn)實(shí)意義。在軍事領(lǐng)域,算法安全意味著軍事各環(huán)節(jié)使用的算法不受內(nèi)外部因素干擾、持續(xù)正常高效運(yùn)行的能力,以及算法支撐各類(lèi)智能化軍事應(yīng)用在現(xiàn)實(shí)環(huán)境實(shí)現(xiàn)預(yù)期功能的客觀狀態(tài)。在認(rèn)識(shí)到算法對(duì)于戰(zhàn)爭(zhēng)模式轉(zhuǎn)變的推動(dòng)作用的同時(shí),對(duì)其本身的特有屬性以及潛在風(fēng)險(xiǎn)的關(guān)注也十分必要。
(一)警惕“算法戰(zhàn)爭(zhēng)”的概念陷阱
從技術(shù)角度看,高性能算法往往需要與強(qiáng)大計(jì)算能力和大量有效數(shù)據(jù)相結(jié)合,才能產(chǎn)生高效計(jì)算結(jié)果。實(shí)際情況下有限的計(jì)算能力、因針對(duì)性不強(qiáng)導(dǎo)致過(guò)于冗余的數(shù)據(jù)內(nèi)容,以及其他客觀技術(shù)條件,制約著戰(zhàn)爭(zhēng)算法的實(shí)際效能。強(qiáng)大的戰(zhàn)爭(zhēng)算法往往需要與之相匹配的其他戰(zhàn)爭(zhēng)能力才能充分發(fā)揮潛能。這客觀上意味著算法能力不斷提升的同時(shí)將帶來(lái)更高的資源投入和軍事開(kāi)支。當(dāng)算法以外的常規(guī)戰(zhàn)爭(zhēng)能力未獲得質(zhì)的提升時(shí),盲目追求算法在軍事行動(dòng)中的大規(guī)模應(yīng)用有可能適得其反,甚至可能導(dǎo)致國(guó)家在面對(duì)沖突時(shí)過(guò)度自信、做出錯(cuò)誤判斷、導(dǎo)致錯(cuò)失戰(zhàn)機(jī)甚至全盤(pán)皆輸。從效應(yīng)角度看,算法作為底層的計(jì)算方法,實(shí)質(zhì)上是一種能使發(fā)揮實(shí)際作用的客觀實(shí)體高效運(yùn)行的虛擬工具。其自身無(wú)法直接展現(xiàn)軍事效能,需要依托其他實(shí)體才能發(fā)揮戰(zhàn)爭(zhēng)作用。也就是說(shuō),算法本身或許并非直接用于軍事對(duì)抗的戰(zhàn)爭(zhēng)工具,而是提升戰(zhàn)斗力甚至改變戰(zhàn)斗力生成模式的輔助手段。可以預(yù)見(jiàn)的是,在未來(lái)很長(zhǎng)一段時(shí)間內(nèi),算法本身依然無(wú)法成為有實(shí)際作戰(zhàn)效能的武器,無(wú)法單獨(dú)創(chuàng)造實(shí)際殺傷或威懾效應(yīng)。盲目追求超前算法優(yōu)勢(shì),反而有可能陷入新形式軍備競(jìng)賽中的“概念陷阱”。
(二)算法依賴(lài)可能產(chǎn)生“阿喀琉斯之踵”
武器裝備智能化程度的提升、軍事決策的提速與優(yōu)化、戰(zhàn)術(shù)系統(tǒng)之間的復(fù)雜協(xié)同……無(wú)處不在的算法應(yīng)用將帶來(lái)日益顯著的算法依賴(lài)。隨著搭載“戰(zhàn)爭(zhēng)算法”的各類(lèi)實(shí)體在戰(zhàn)場(chǎng)上隨處可見(jiàn),算法產(chǎn)生的功能和過(guò)程都將在指揮官和作戰(zhàn)人員沒(méi)有注意的情況下發(fā)生。類(lèi)似于蜂窩服務(wù)、智能設(shè)備功能或網(wǎng)絡(luò)操作,使用算法功能本身不需要專(zhuān)門(mén)的開(kāi)/關(guān)按鈕,但當(dāng)其失效停止運(yùn)轉(zhuǎn)無(wú)法提供常規(guī)支撐保障時(shí),人們才會(huì)恍然自覺(jué)對(duì)其依賴(lài)程度之深。當(dāng)前快速技術(shù)變革所定義的復(fù)雜安全環(huán)境下,陸、海、空、天、電、網(wǎng)等多維安全領(lǐng)域中,“戰(zhàn)爭(zhēng)算法”的持續(xù)穩(wěn)定高效運(yùn)行面臨各種未知考驗(yàn)。算法在設(shè)計(jì)過(guò)程中對(duì)所有的采集輸入內(nèi)容、復(fù)雜環(huán)境變量、運(yùn)算干擾因素不可能考慮得面面俱到,一旦在軍事應(yīng)用過(guò)程中出現(xiàn)不可控變量,造成算法無(wú)法適應(yīng)新的環(huán)境變化或出現(xiàn)意料之外的漏洞,就可能使實(shí)施效果出現(xiàn)重大偏差。例如,當(dāng)使用高度智能化的預(yù)警系統(tǒng)識(shí)別導(dǎo)彈威脅并做出自主回應(yīng)時(shí),如果底層算法存在沒(méi)有被預(yù)先發(fā)覺(jué)的漏洞,可能導(dǎo)致實(shí)際危機(jī)發(fā)生時(shí)系統(tǒng)不反應(yīng)或者過(guò)度反應(yīng),釀成無(wú)法挽回的災(zāi)難后果。過(guò)度依賴(lài)算法還可能造成戰(zhàn)爭(zhēng)人員危機(jī)處理能力以及相關(guān)應(yīng)對(duì)機(jī)制的退化,進(jìn)而演變成整個(gè)作戰(zhàn)體系中的新型“軟肋”。
(三)算法反向破解可能帶來(lái)致命性危害
技術(shù)層面上看,算法的敏感性和脆弱性無(wú)法忽視。比起設(shè)計(jì)一套完美無(wú)缺的算法,針對(duì)某套算法進(jìn)行漏洞挖掘和后門(mén)攻擊的代價(jià)要小的多。未來(lái)智能化戰(zhàn)爭(zhēng)中,算法的一大作用就是為各類(lèi)智能化自主武器系統(tǒng)提供底層支撐。一旦各類(lèi)武器系統(tǒng)的底層算法遭到破解,很可能面臨失能失效甚至給己方帶來(lái)嚴(yán)重傷害的結(jié)果。例如,如果攻擊者能夠成功破解對(duì)方無(wú)人機(jī)“蜂群”系統(tǒng)協(xié)同攻擊的支撐算法并進(jìn)行操縱,很可能通過(guò)改變無(wú)人機(jī)之間安全距離以及對(duì)攻擊目標(biāo)的識(shí)別功能等方式,讓整個(gè)“蜂群”彼此碰撞毀滅甚至調(diào)轉(zhuǎn)槍口“倒戈相向”實(shí)現(xiàn)戰(zhàn)術(shù)打擊。跟蹤導(dǎo)彈對(duì)攻擊目標(biāo)的瞄準(zhǔn)鎖定、無(wú)人機(jī)對(duì)敵我人員的身份識(shí)別、防空系統(tǒng)對(duì)來(lái)襲導(dǎo)彈的軌跡預(yù)判等等,都依賴(lài)有關(guān)算法的正確高效運(yùn)行。未來(lái)戰(zhàn)場(chǎng)上,科幻大片中黑客靠一臺(tái)電腦、幾行代碼控制飛機(jī)大炮扭轉(zhuǎn)整個(gè)戰(zhàn)局的情景有可能成為現(xiàn)實(shí)。功能/漏洞悖論是人工智能算法所固有的特性,其功能容易受到其運(yùn)行所需的大量數(shù)據(jù)輸入源的攻擊,甚至受到欺騙、降級(jí)或其他形式的顛覆。隨著算法發(fā)揮的作用與日俱增,對(duì)相關(guān)防火墻等維護(hù)“算法安全”的防御措施的挑戰(zhàn)也越來(lái)越大。
03
—
保證算法安全是打贏智能化戰(zhàn)爭(zhēng)的基礎(chǔ)
恩格斯認(rèn)為,尖端科技的應(yīng)用最早是從軍事領(lǐng)域開(kāi)始,當(dāng)新科技顯著提升軍事作戰(zhàn)能力時(shí),便促成了新軍事變革的發(fā)生。在作戰(zhàn)仿真、兵棋推演、軍事運(yùn)籌、作戰(zhàn)模擬等軍事領(lǐng)域,依托算法對(duì)復(fù)雜戰(zhàn)爭(zhēng)問(wèn)題進(jìn)行深度分析進(jìn)而發(fā)現(xiàn)規(guī)律、提出方法、解決問(wèn)題的求解之策早已不斷普及。在軍事技術(shù)由信息化向智能化深化發(fā)展的未來(lái),人工智能技術(shù)引爆智能化戰(zhàn)爭(zhēng)的拐點(diǎn)悄然臨近。能否針對(duì)歷史必然提前規(guī)劃、妥善處理算法安全問(wèn)題,應(yīng)對(duì)新一輪軍事變革,直接影響著未來(lái)戰(zhàn)爭(zhēng)的勝負(fù)走向。
(一)提高算法安全風(fēng)險(xiǎn)意識(shí)
維護(hù)算法安全的首要前提,是清醒認(rèn)識(shí)算法軍事應(yīng)用過(guò)程中可能存在的風(fēng)險(xiǎn)和局限性。在全面使用智能化軍事應(yīng)用前,需要確保算法以受控的方式安全和可靠地運(yùn)行。研究可靠、真實(shí)和可信賴(lài)的“戰(zhàn)爭(zhēng)算法”,面臨著復(fù)雜戰(zhàn)場(chǎng)環(huán)境、目標(biāo)設(shè)定偏差、人機(jī)交互限制等不確定性極強(qiáng)的現(xiàn)實(shí)因素挑戰(zhàn),需要國(guó)家、政府、軍隊(duì)廣泛開(kāi)展專(zhuān)項(xiàng)基礎(chǔ)科研,加大重視程度和投資力度,保證關(guān)鍵領(lǐng)域中長(zhǎng)期應(yīng)用的算法安全性和可靠性檢驗(yàn),特別是要建立算法運(yùn)行的反饋通路,以確保系統(tǒng)出現(xiàn)差錯(cuò)時(shí)運(yùn)行者能及時(shí)覺(jué)察并進(jìn)行有效干預(yù),進(jìn)而保證各類(lèi)基于人工智能算法的武器裝備和決策系統(tǒng)的功能優(yōu)化和長(zhǎng)期安全。
(二)培養(yǎng)智能化軍事人才
習(xí)主席在黨的十九大報(bào)告中明確指出,“要加快軍事智能化發(fā)展”。然而大量的商業(yè)和學(xué)術(shù)報(bào)告表明,人工智能基礎(chǔ)算法領(lǐng)域的人才短缺現(xiàn)象越來(lái)越嚴(yán)重。提高智能化戰(zhàn)爭(zhēng)中的算法安全能力,需要更好了解當(dāng)前和未來(lái)軍事領(lǐng)域算法人才的需求,對(duì)照智能化軍事建設(shè)的國(guó)家圖景,培養(yǎng)和引進(jìn)技術(shù)人才,分析預(yù)測(cè)未來(lái)人力需求,將軍事技術(shù)基礎(chǔ)教育和算法知識(shí)專(zhuān)項(xiàng)培訓(xùn)結(jié)合統(tǒng)一。特別需要打破原先涇渭分明、條塊分割的學(xué)科體系思想的束縛,用思想轉(zhuǎn)變引領(lǐng)能力提升,堅(jiān)決貫徹軍民融合戰(zhàn)略,培養(yǎng)具備多元化軍事技術(shù)基礎(chǔ)的官兵隊(duì)伍,確保國(guó)家在未來(lái)智能化戰(zhàn)爭(zhēng)中以主動(dòng)優(yōu)勢(shì)贏得領(lǐng)先地位。
(三)構(gòu)建完善評(píng)估體系
算法安全影響涉及社會(huì)倫理、道德法律等方面,跨越計(jì)算機(jī)科學(xué)、行為科學(xué)、法律和政策研究等多學(xué)科,新興技術(shù)轉(zhuǎn)變戰(zhàn)爭(zhēng)模式的同時(shí)也帶來(lái)了新的困境與挑戰(zhàn)。當(dāng)無(wú)人自主系統(tǒng)代理人類(lèi)行為時(shí),最高期望是它們能夠根據(jù)人類(lèi)正式和非正式的規(guī)范行事。因此,在技術(shù)可行范圍內(nèi),研究人員必須開(kāi)發(fā)與現(xiàn)有法律、社會(huì)倫理和道德規(guī)范一致或相符的算法和框架。系統(tǒng)工程師需要關(guān)注如何能最好地處理符合道德、法律和社會(huì)目標(biāo)的智能化軍事應(yīng)用系統(tǒng)整體設(shè)計(jì)。國(guó)家理應(yīng)積極組織跨部門(mén)討論與多領(lǐng)域協(xié)作,突破價(jià)值沖突和應(yīng)用困境。相關(guān)國(guó)際組織應(yīng)該致力于制定符合國(guó)際關(guān)系準(zhǔn)則和人類(lèi)道德約束的國(guó)際規(guī)范或公約,維護(hù)未來(lái)人類(lèi)共同價(jià)值觀穩(wěn)定以及和平福祉長(zhǎng)久安全。
伴隨著信息技術(shù)獲取、大數(shù)據(jù)挖掘、超算能力、人工智能等新興技術(shù)在軍事領(lǐng)域的飛速發(fā)展和大規(guī)模使用,作為底層工具的算法技術(shù)也必將成為改變戰(zhàn)爭(zhēng)游戲規(guī)則的基礎(chǔ)性、關(guān)鍵性、顛覆性技術(shù)。但正如已故物理學(xué)家霍金擔(dān)憂(yōu)人工智能的崛起可能帶來(lái)人類(lèi)文明的終結(jié)一樣,算法技術(shù)同樣可能為未來(lái)智能化戰(zhàn)爭(zhēng)埋下了不少始料未及的難題。只有清醒認(rèn)識(shí)到算法的雙刃劍效應(yīng),理清影響算法安全的多重因素,解決步入算法時(shí)代的現(xiàn)實(shí)問(wèn)題,才能真正把握戰(zhàn)爭(zhēng)模式變化,掌握戰(zhàn)爭(zhēng)制勝機(jī)理,提高戰(zhàn)爭(zhēng)打贏能力。
1、本文只代表作者個(gè)人觀點(diǎn),不代表本站觀點(diǎn),僅供大家學(xué)習(xí)參考;
2、本站屬于非營(yíng)利性網(wǎng)站,如涉及版權(quán)和名譽(yù)問(wèn)題,請(qǐng)及時(shí)與本站聯(lián)系,我們將及時(shí)做相應(yīng)處理;
3、歡迎各位網(wǎng)友光臨閱覽,文明上網(wǎng),依法守規(guī),IP可查。
作者 相關(guān)信息
王智勇 劉楊鉞:算法安全”是智能化戰(zhàn)爭(zhēng)的博
2019-07-23內(nèi)容 相關(guān)信息
王智勇 劉楊鉞:算法安全”是智能化戰(zhàn)爭(zhēng)的博弈焦點(diǎn)
2019-07-23? 昆侖專(zhuān)題 ?
? 十九大報(bào)告深度談 ?
? 新征程 新任務(wù) 新前景 ?
? 國(guó)資國(guó)企改革 ?
? 雄安新區(qū)建設(shè) ?
? 黨要管黨 從嚴(yán)治黨 ?
? 社會(huì)調(diào)查 ?
圖片新聞