美國軍事研究人員正在深入研究深度神經(jīng)網(wǎng)絡(luò),以在戰(zhàn)地物聯(lián)網(wǎng)上利用新技術(shù)的強大力量。
美國陸軍和工業(yè)研究人員本周表示,他們已經(jīng)開發(fā)出一種“置信度指標(biāo)”,用于評估深度神經(jīng)網(wǎng)絡(luò)中使用的AI和機器學(xué)習(xí)算法的可靠性。這一指標(biāo)旨在通過嚴格基于系統(tǒng)的訓(xùn)練來限制預(yù)測以進一步提高可靠性。目標(biāo)是開發(fā)基于人工智能(AI)的系統(tǒng),當(dāng)系統(tǒng)提供超出其訓(xùn)練范圍的信息時,它們不易受到欺騙。
SRI International公司自2018年以來一直與美國陸軍研究實驗室合作,作為美國陸軍的物聯(lián)網(wǎng)野戰(zhàn)協(xié)作研究聯(lián)盟互聯(lián)網(wǎng)的一部分。美國陸軍的合作伙伴正在研究“強化”機器學(xué)習(xí)算法的方法,以使其不易受到研究人員認為將是AI對策的影響。
美國陸軍科學(xué)家Brian Jalaian表示,研究的目標(biāo)之一是創(chuàng)建“強大而有彈性的下一代算法”。Jalaian補充說,美國陸軍研究實驗室的方法“可以使用現(xiàn)代機器學(xué)習(xí)算法作為陸軍許多現(xiàn)代算法的附加模塊,這些現(xiàn)代機器學(xué)習(xí)算法基于用于視覺圖像的深度神經(jīng)網(wǎng)絡(luò)。”
美國陸軍研究人員希望將這一新指標(biāo)應(yīng)用于陸軍指揮與控制、決策支持系統(tǒng)以及精確的火力之中。
美國陸軍行業(yè)小組對他們的神經(jīng)網(wǎng)絡(luò)度的研究已經(jīng)發(fā)表了相關(guān)研究報告。這些研究報告中的方法被稱為“基于屬性的置信度指標(biāo)”,它表征了深度神經(jīng)網(wǎng)絡(luò)輸出和輸入的組合是否值得信任。
美國陸軍研究人員指出,深度神經(jīng)網(wǎng)絡(luò)“在訓(xùn)練分布范圍之外的輸入上是脆弱的,因此容易受到對抗性攻擊”。他們補充說,該度量標(biāo)準(zhǔn)不需要訪問訓(xùn)練數(shù)據(jù),也不需要使用驗證數(shù)據(jù)集訓(xùn)練校準(zhǔn)模型。他們補充說:“因此,即使只有經(jīng)過訓(xùn)練的模型可用于推斷,新的指標(biāo)也可以使用。”
美國陸軍研究人員還與AI社區(qū)合作開發(fā)容器化軟件,以衡量對在多種應(yīng)用中運行的算法的信心。
其中的應(yīng)用是“戰(zhàn)地物聯(lián)網(wǎng)”,它將使用彈性神經(jīng)網(wǎng)絡(luò)模型來部署智能設(shè)備網(wǎng)絡(luò)。這些戰(zhàn)場設(shè)備必須經(jīng)過加固才能抵御網(wǎng)絡(luò)攻擊和其他攻擊。置信度指標(biāo)被視為建立對美國陸軍下一代基于人工智能(AI)的系統(tǒng)的信任的第一步。
Jalaian表示:“我們沒有辦法檢測到最強大的最新攻擊,例如[對抗性]補丁,這些攻擊會給圖像增加噪音,從而導(dǎo)致錯誤的預(yù)測。”美國陸軍提出的生成模型“在底層原始深度神經(jīng)網(wǎng)絡(luò)中調(diào)整原始輸入圖像的各個方面。” 他補充說,原始網(wǎng)絡(luò)的“后期評估對這些生成的輸入的響應(yīng),以測量模型的一致性。”
喬治·利奧波德2020年4月3日
1、本文只代表作者個人觀點,不代表本站觀點,僅供大家學(xué)習(xí)參考;
2、本站屬于非營利性網(wǎng)站,如涉及版權(quán)和名譽問題,請及時與本站聯(lián)系,我們將及時做相應(yīng)處理;
3、歡迎各位網(wǎng)友光臨閱覽,文明上網(wǎng),依法守規(guī),IP可查。
作者 相關(guān)信息
美國陸軍尋求將人工智能應(yīng)用于物聯(lián)網(wǎng)
2020-04-08美國網(wǎng)絡(luò)司令部尋求開發(fā)網(wǎng)絡(luò)作戰(zhàn)工具
2019-05-13內(nèi)容 相關(guān)信息
美國陸軍尋求將人工智能應(yīng)用于物聯(lián)網(wǎng)
2020-04-08報告:華為物聯(lián)網(wǎng)平臺布局獲第一 勝思科阿里
2019-01-043分鐘了解物聯(lián)網(wǎng)三大技術(shù)的未來爭奪戰(zhàn)!
2018-08-18物聯(lián)網(wǎng)裝置不設(shè)防,助紂為虐做幫兇
2018-08-01劉鵬:無所不在的物聯(lián)網(wǎng)設(shè)備,也可能成為無所不在的安全隱患
2018-02-02? 昆侖專題 ?
? 十九大報告深度談 ?
? 新征程 新任務(wù) 新前景 ?
? 我為中國夢獻一策 ?
? 國資國企改革 ?
? 雄安新區(qū)建設(shè) ?
? 黨要管黨 從嚴治黨 ?
? 社會調(diào)查 ?
圖片新聞