久久99国产精品尤物-国产高清色播视频免费看-男生肌肌往女人桶爽视频-精品国产-91PORNY九色|www.jqdstudio.net

在數字化時代，人工智能正迅速成為推動社會發展的關鍵力量。從智能城市的構建到關鍵基礎設施的運維，人工智能的應用無處不在。但隨著技術的飛速發展，我們如何確保人工智能的安全和可靠？元戰略梳理概括美國蘭德公司最新研究，探討人工智能在關鍵基礎設施的應用及其帶來的風險，以期為讀者提供參考。

一

人工智能的定義與分類

美國國家標準與技術研究院（NIST）將人工智能定義為“致力于開發數據處理系統的計算機科學分支，這些系統通常執行與人類智能相關的功能，如推理、學習和自我改進”。人工智能分為狹義人工智能（Artificial Narrow Intelligence，ANI）、通用人工智能（Artificial General Intelligence，AGI）、超級人工智能(Artificial Super lntelligence，ASI)。狹義人工智能通常在汽車駕駛、游戲和醫療診斷等方面比人類更好、更快。通用人工智能是指具有高效的學習和泛化能力、能夠根據所處的復雜動態環境自主產生并完成任務的智能體。超級人工智能可以設定自己的目標，而不是依賴于人類的認識和理解。研究指出，目前我們主要處于ANI階段，盡管有些技術已經展現出了AGI的初步跡象。

二

人工智能在關鍵基礎設中的應用

由于關鍵技術來自多個領域，每個領域都為人工智能技術制定了特定的分類標準，因此不存在單一的權威性人工智能分類標準。例如，在《人工智能在智慧城市中的應用：全面回顧》一文中，作者指出了六種關鍵的人工智能技術：機器學習(包括深度學習和預測分析)、自然語言處理(包括轉譯、信息提取和分類以及聚類)、計算機語音(包括語音轉文本和文本轉語音)、計算機視覺(包括圖像識別和機器視覺)、專家系統和機器人技術。

此研究借鑒了有關智慧城市的文獻，因此，研究認為在城市的關鍵基礎設施中嵌入人工智能的早期能力是發展智慧城市的初始階段。智慧城市這一假設的內在含義是，關鍵基礎設施對于社會的安全和有效運行、人口的安全以及經濟的運營至關重要。智慧城市的例子為人工智能應用如何融入教育、醫療保健、能源、環境、廢物和危險管理、農業和灌溉和交通以及本地化災害和風險管理等領域提供了路線圖。此研究認為，人工智能將像互聯網、移動蜂窩設備和GPS技術一樣無處不在，并且在許多關鍵基礎設施領域提高了生產力和效率。

三

評估新興技術風險的框架

研究者制定了一個評估新興技術風險的框架，該評估包括對技術可用性(TAV)和風險和場景評估（RS）。TAV評估涵蓋五個方面：科學和技術成熟度；用例、需求和市場力量；投入的資源；政策、法律、道德和監管障礙；以及技術可得性。RS評估包括三個方面：威脅、脆弱性和后果。T類和R類的評級從1到5不等，其中1代表挑戰很多，5代表挑戰很少，甚至沒有任何挑戰。五個TAV領域的平均值被納入新興技術風險評估。為了在后果評估中對新興技術進行比較，研究者根據可能的受影響程度（國家、地區或地方）、潛在死亡率和發病率以及可能的經濟和社會破壞程度對影響進行了評級。通過計算威脅、脆弱性、后果和TAV平均值，可將特定情景下的新興技術風險評估為低（0<2）、中（2<4）或高（4至5）。這些評估在三個時期內重復進行：短期（最多三年）、中期（三至五年）和長期（五至十年）。這樣，就可以對TAV和RS隨著時間的推移將受到的影響進行單獨和集體評估。在評估中，考慮了威脅、脆弱性和后果隨著時間的推移會如何演變，以及是否已經開展了任何可以降低風險的準備、緩解和應對活動。

（一）技術可用性評估(TAV)

TAV評估是在不涉及具體潛在風險的情況下獨立進行的。第一，構成人工智能的眾多技術成熟度各不相同，這使得為人工智能領域確定一個精確的技術準備水平（TRL）變得具有挑戰性。因此，一種更有效的方法是將各個人工智能技術的TRL與其可能的應用案例聯系起來，進行評估。第二，考慮到人工智能的快速發展可能會變得“不可控和不可逆，從而導致人類文明出現不可預見的變化”，為此，技術發展和相應的防護措施應當同步考慮，以確保避免這種失控狀態的發生。第三，開發者、用戶甚至整個社會都應該預見到，人工智能應用將面臨固有的脆弱性和挑戰，此研究認為這種影響將具有累積性。例如，數據科學、網絡領域以及物聯網都存在漏洞，這些漏洞可能會在人工智能平臺中相互結合和融合。為確保人工智能的安全使用，這些影響需要得到妥善的緩解。

（二）風險和場景評估（RS）

1. 威脅

人工智能技術可能被濫用于攻擊，如通過錯誤輸入設計基礎設施或利用生成對抗網絡技術發動網絡攻擊。物聯網的融合增加了網絡攻擊的脆弱性，人工智能系統可能被用于無人干預的網絡偵察和攻擊。人工智能還能開發逃避網絡防御的惡意軟件，利用生成對抗網絡針對個人進行社會工程攻擊。內部威脅也是關鍵問題，可能在人工智能系統的開發和使用中引入不安全因素。人工智能系統的自主權程度也是一個潛在風險，錯誤的自主響應可能導致問題。

2. 脆弱性

人工智能系統的規模、范圍和復雜性是其脆弱性的關鍵因素。小規模、特定領域的人工智能應用可能不會引起太多擔憂，但隨著應用的范圍和規模擴大，例如自動駕駛車輛和金融服務，擔憂也隨之增加。人工智能在智慧城市或電網等關鍵基礎設施中的應用可能會被用于攻擊計劃，而針對美國選舉系統的人工智能使用，或人工智能在開發生物和化學武器方面的潛在用途，都引起了廣泛的關注。隨著人工智能系統復雜性的增加，接近通用人工智能時，人類理解人工智能決策的難度也隨之增加，這增加了脆弱性。為了減少這種脆弱性，需要遵循負責任、公平、可追溯、可靠和可控的AI技術原則，并重視使用生成對抗網絡、驗證人工智能模型的協議以及減少人工智能發展和使用相關技術的脆弱性。

3. 后果

與人工智能用例相關的后果也會受到應用范圍、規模和復雜性的影響。范圍廣、規模大的關鍵基礎設施項目和部門預計會產生嚴重后果。如果關鍵基礎設施受到人工智能威脅的攻擊，或者人工智能設計系統出現故障，那么對整個部門甚至是單一部門重要部分的關鍵基礎設施就有可能產生更大的影響。此研究認為謹慎地部署人工智能系統是一個有用的方法，特別是如果它們直接與公眾交互。確保設置適當的防護欄，使人工智能反映適當的目標也十分重要。此外，建立公眾對人工智能系統的信任，對利用人工智能帶來的機遇并減少挑戰也至關重要。

四

結論

人工智能的影響力有望與互聯網相媲美，并滲透至社會的各個層面，尤其是關鍵基礎設施領域。人工智能已經廣泛應用于制造業、金融服務、交通、醫療保健、能源、食品和農業等多個關鍵領域。研究指出，人工智能的發展和安全性將受到與新興技術相同的諸多因素的影響，包括網絡安全的維護、知識產權的保護、關鍵數據的保障以及專有方法和流程的維護。若這些方面得不到妥善處理，可能會給國家的關鍵基礎設施帶來潛在的巨大風險。

研究指出，人工智能領域包含眾多技術，這些技術一旦成熟，將被整合進人工智能關鍵基礎設施相關系統中。因此，人工智能科學和技術成熟度將依賴于幾個重要的技術領域，包括高性能計算、先進半導體開發和制造、機器人技術、機器學習和自然語言處理，以及積累和保護關鍵數據的能力。盡管人工智能在過去十年中受到廣泛關注，但該技術仍處于相對初級的成熟階段。

研究指出，未來人工智能在關鍵基礎設施領域的應用將不斷擴展，以提高現有基礎設施的效能與效率。這既帶來了挑戰也帶來了機遇，需要審慎地進行管理。研究指出，人工智能在某些應用和場景中的融入速度可能超過其他技術。因此，人工智能在關鍵基礎設施中的應用應該更加謹慎且有序。

文章來源于元戰略 ，作者元戰略