久久99国产精品尤物-国产高清色播视频免费看-男生肌肌往女人桶爽视频-精品国产-91PORNY九色|www.jqdstudio.net

|  站內搜索:
網站首頁 > 環球聚焦 > 深度評析 > 閱讀信息
李德毅院士:認知的形式化
點擊:  作者:李德毅 1 鄭思儀 2 黃立威 3 劉玉超    來源:戰略前沿技術 微信號  發布時間:2024-06-25 12:09:52

 

編者按人類認知的整個活動,就是如何解釋、解決人類在生存和繁衍過程中所遇到的現實問題。OODA環是指揮控制領域的經典認知模式。2021年李德毅院士就在第九屆中國指揮控制大會作主旨報告“對OODA環的再認識——用腦和認知科學解開博伊德環之謎”。近期,李院士明確提出人類認知的 4 種基本模式:記憶驅動的經驗模式(OOA)、知識驅動的推理模式(OODA)、聯想驅動的創造模式(OOCA)以及假說驅動的發現模式(OOHA),用這 4個相對獨立的認知模式來完成認知的形式化。這也為未來指揮控制的研究帶來了新的啟發思路。

 

摘要:人類認知的整個活動,就是如何解釋、解決人類在生存和繁衍過程中所遇到的現實問題。通過分析古今中外著名的認知案例,概括人類認知的4種基本模式為記憶驅動的經驗模式(OOA)、知識驅動的推理模式(OODA)、聯想驅動的創造模式(OOCA)以及假說驅動的發現模式(OOHA),用這4個相對獨立的認知模式來完成認知的形式化,OOAOOCA兩個模式是由下而上思維,從物理空間轉向認知空間;OODAOOHA兩個模式是由上而下思維,從認知空間轉向物理空間。4個模式發生的頻度不同,相互之間的轉換帶有不確定性,共同構成了趨于統一的無盡認知。認知的形式化為構建可交互、會學習和自成長的新一代人工智能系統架構奠定了基礎。

 

1 認知的螺旋式過程

 

著名的法國啟蒙思想家、哲學家和教育家盧梭說,“人生而自由,卻無往不在枷鎖之中”。思想生而自由,卻又無處不在形式化之中,這很好地詮釋了“以約束為前提”的思維。所以,認知離不開形式化。認知是學習以及解釋、解決現實問題的能力,而學習的能力常常是解釋、解決預設問題的能力,預設問題就是現實問題的形式化。人類和其他生物相比,以抽象、聯想和交互見長,但人類能否把宇宙的奧秘探尋清楚仍然是個謎。在宇宙這個巨大的物理空間中,絕大多數的物質硬構體是自在的,并不是以人為本的。人的本性是求知,杰出科學家和工程師都有一個基本的信念,即相信宇宙在本質上是有秩序的和可認知的,這是一切科學工作的基礎。物理學家阿爾伯特·愛因斯坦說,“宇宙最不可理解之處是它是可理解的”。但一個人在宇宙里的地位太過渺小,在有限短暫的生命中要認知無限是一件十分困難的事情。人類能夠通過文明、文化的傳承,形成科學的理論,解釋如此廣袤的宇宙,站在牛頓、愛因斯坦、達爾文等科學巨人的肩膀上,繼續探索,就能夠把越來越多的未知變成已知。“可理解”本質上是人類認知的群體共識,盡管人類認知的道路曲折,對于千萬年前還不可理解的事物,因為“知識斷層”或者“學科斷層”等諸多因素,現在人類可能也僅理解了其中的一部分,但卻是在逼近真理。人類認知的整個活動,就是如何解釋、解決人類在生存和繁衍過程中所遇到的現實問題。每一次完整的認知活動可以分為感知、思維和行為 個階段。感知是認知的源泉,思維是認知空間里的內在思考,行為是認知的目的和外化表現 。無論是認知自然的能力,還是認知人文的精神,都不是與生俱來的物質存在,它自成體系,比物理空間更為深遠廣闊。認知活動不停地在物理空間和認知空間循環交互,以回答“在哪里”“是什么”“為什么”“怎么做”等問題。近 300萬年,人類大腦容積激增、大腦皮層組織與功能爆發式進化,使得人類認知有了生物學基礎。尤其是近10000年以來,人類發明了語言、文字、工具、教育、科技,產生了文化和文明,群體認知所積累的人工智能對環境生態的改變雖然微弱,但使人類看到了未來的希望。每個人都有一個由生物學意義進化而來的、基于大腦皮層復雜神經網絡形成的認知空間,在其成長與生活環境里,通過具身行為與物理空間及其他人進行交互。其在成長過程中,接受教育,學習科學和技術,吸收群體的智能,并通過自己的思維和實踐,不停地修飾、修剪或重塑大腦皮層神經網絡細胞及連接,形成了個體獨特的認知。

 

1.1  時間是認知的基石

 

宇宙一直處在運動和變化中,在人類創造出時間概念之前,生物在地球上出現之前或者滅絕之后,這些運動和變化都一直延續。宇宙里沒有絕對時間,同一個時鐘放置在宇宙的不同位置呈現不同的時間,時間不能完全脫離和獨立于空間。但對人類來說,進化使大腦有了分工的記憶區,包括瞬時記憶區、工作記憶區和長期記憶區,正是記憶讓人類延續了過去和現在的認知,從而區分過去和現在。歷史就是過去的現在,現在又將成為過去。以史為鏡,這是人類高等生物群體特有的認知方法。時間不是物質,可以用年月日時分秒表達時刻,用高精度的時鐘度量時間間隔,時間不是發現,而是發明。時間是物質變化和運動順序的表現,用來形容物體或者天體的運動,用來描述人類自身進化的歷史和文明,用來度量從有序走向無序的熵增過程。反過來,正是這些描述或度量讓人類感受到了時間的存在。認知機器包括物質、能量、結構和時間4個基本要素 ,其中時間對于機器的認知至關重要,機器在沒有能量供給的時候是一堆死物質。時鐘依賴能量,時間依賴時鐘,秩序依賴時間,機器自舉實現思維自動化,自我復用實現認知自成長,機器運行靠程序,程序靠時序,軟件靠交互,時序和交互產生負熵,機器賴負熵為生。時鐘不停,與外界交互不息,思維和認知不止。機器之所以能思維,是因為至少存在下一個時間周期,使得機器能繼續去“想”,人的思維和機器的思維在數學上是同構的 。只有人類依靠想象力和創造力發明了時間,人類才能夠認知時間、標記時間并度量時間,用時間來記憶、記錄和解釋宇宙天體的運動變化、物質的化學變化、物體的空間變化、生物的機體變化,以及人類社會自身文明的發展等。時間成為認知空間不可或缺的要素,是認知的基石。

 

1.2 數學是認知最抽象的語言

 

宇宙有運動,運動有秩序。宇宙里沒有數學,數學卻可以解釋宇宙。對宇宙本身而言,數學沒有意義,對人類來說,數學是現實世界的主觀反映。思維的核心是抽象、聯想和交互,抽象是結構形成的基礎。科學的各個學科都有自己的專業語言,但自然語言是所有專業語言的元語言。思維的最高形式是數學,數學是人類自然語言的高階形態,是建立在明確的公設定理體系之上的。通過數學反映萬物,通過函數和泛函反映萬物之間的關聯,形成人類認知自然的一個飛躍。抽象的數學語言從無到有的形成過程很漫長。文字產生之初就開始發明數字符號,數和直線等基礎概念的形成經過了漫長的時間,數學作為一種基于公理知識的形式系統,不斷地被人們用來解釋現實世界的實體。人們只是想利用數學來解釋、證明自然界的現象而已,數學思維對于認識宇宙發揮了極其重要的作用。數學產生結構和數據,抽象的數據在智能時代被比作“石油”,可以進行大數據挖掘,幫助尋求事物運行的規律。數學是基于想象和推理的,數學不是發現,而是發明。例如:無理數的發明是體現數學理論在解釋自然規律和現象深刻性方面的一個典型例子,無理數是無限不循環小數,是不能通過測量得到的;點是沒有大小的,線是沒有寬度的,面是沒有厚度的;數學能夠研究、解釋無限的世界,并可以利用無限研究有限,整數有無限個,實數也有無限個,這兩個無限是有本質差別的。偉大的數學家戴維·希爾伯特說,“從未有其他的問題能如此深刻地觸動人的心靈,沒有其他的思想能如此富有成果地激發人的思維邏輯領悟力”。在個人的認知世界里,思維常常遠超出實際。如虛數是通過解方程x²+1=0 產生的,后來才發現有廣泛的應用;17世紀才被用于描述田奇的運動;黎曼幾何是廣義相對論的數學框架;纖維叢理論在規范場理論中發揮的作用;矩陣和無限維空間在描述量子力學中的重要意義;概率論在統計力學、生物和金融中的廣泛應用等。一切數學結果必須根據事先明確規定的公理用演繹法推出,偉大的數學家高斯曾說“數學是科學的皇后”,那么宇宙應該是數學的“皇帝”。把數學歸屬于自然科學并不確切,物理是研究現實存在的,是基于觀察和實證的,沒有數學,宇宙里的很多現象和規律就無法表達。物質和能量都是有量綱的,數學是不帶有任何物理量綱的主觀認知,關注的僅僅是量與形的規律。物理被寫在宇宙這本“天書”里,它持續地打開在人類眼前,但在人類的認知空間里,在人類學會書寫文字和符號之前,在發明數學之前,人類是無法讀懂這本“天書”的。因此,數學是探索和認知物理空間的工具。人類在數學上的嘗試使得人們開始理解宇宙。愛因斯坦說,“純粹的數學構造使我們能夠發現概念和聯系這些概念的規律,這些概念和規律給了我們理解自然現象的鑰匙”。因此,數學受到高于其他一切學科的特殊尊重。但是,無論數學語言如何抽象,結構如何復雜,它也離不開人類自然語言的支撐。

 

1.3 認知的螺旋

 

人類既是自然的成員,也是自然的觀察者。一個人在物理空間中的具身行為和在認知空間中的思維活動,總是以“感知、思維、行為、再感知、再思維、再行為”的方式交互、循環、迭代,人腦進化形成瞬時記憶、工作記憶和長期記憶 個不同的、分層級的區域 。感知是認知的源泉,利用各種感覺器官聯合觀察,在瞬時記憶區依據當前注意力,通過跨模態感知融合得到的信息,進一步在工作記憶區利用記憶智能和計算智能作出判斷和決策,鞏固或調整長期記憶區,通過具身行為與客觀世界交互。行為是認知的目的和外化表現。感知和行為都發生在物理空間中,思維發生在認知空間中,感知、思維和行為隨時間變化在物理空間和認知空間中不停循環。一個正確的認知往往需要經過由物理空間到認知空間、再到物理空間的多次迭代。每一次迭代得到的結果會作為下一次迭代的初始,不斷地糾錯、調整和提升不同形式的記憶區。認知的形式化需要分析以下幾點:認知的開放性,尤其是交互性;認知的不確定性,尤其是不確定性中的基本確定性;認知的層次性,尤其是遞歸性;認知的主動性,尤其是注意力機制;認知的復雜性,尤其是涌現;認知的整體性,尤其是感知—思維—行為之間的協同性。物理空間和認知空間的交互,激發了人類的想象力和創造力,激發了從感知到思維的再抽象。每一次感知到的可能僅僅是部分特征、不完整碎片和屬性,如時空識別或者目標識別。而思維是對被認知事物整體進行領悟、頓悟的過程,是對已有的記憶概念進行聯想、再理解、再調整,或者是對認知事件進行統一,形成整體記憶。因此,思維是感知的高階,行為是思維的目的和外化,認知隨時間變化不斷螺旋提升。人類是群居動物,人類智能始于語言,人工智能始于文字,語言和文字是人類思維共通共有的載體。人在主觀的、抽象的和內在的認知空間里通過語言、文字進行學習、思維、分享,試圖以此解釋外在的、客觀的和實在的物理空間的奧秘,解決現實中的各種問題,形成群體共識,最終形成人類文明生態。只有通過思維實現認知和記憶的不斷累積,人類或機器在認知空間里的知識和智能才能成長,越來越逼近真實,才能不斷解釋、解決物理空間的諸多現實問題以及從未出現過的新問題 。無論是個人、群體,還是人類或者智能機器,弄清認知的基本模式/范式非常重要,這是所有認知科學的工具和基礎。

 

2 認知形式化的 4 種基本模式

 

《實踐論》中提到,“無論何人要認識什么事物,除了同那個事物接觸,即生活于(實踐于)那個事物的環境中,是沒有法子解決的”。這就是感知、思維和行為的關系。其中還提及,“感覺到了的東西,我們不能立刻理解它,只有理解了的東西,才更深刻地感覺它”。這就是思維,是感知的高階。去粗取精,去偽存真,由此及彼,由表及里,分層分類,形而上,形成認知物理空間的知識體系,更新記憶,實現認知映射,有人稱之為知識圖譜或認知地圖。不論是認知、思維,還是智能,都是指學習的能力,以及解釋、解決問題的能力。人工智能是人類智能的體外延伸。本文從曾經的人工智能符號主義學派拓展“抽象”,從連接主義學派拓展“聯想”,從行為主義學派拓展“交互”,研究認知的形式化,從而提出認知形式化存在以下4種基本的認知模式(認知范式),為構建可交互、會學習、自成長的新一代人工智能架構奠定基礎。

 

2.1 記憶驅動的經驗模式

 

人類認知始于行為也終于行為,行為最原始的方法是不停地從形象上模仿和試錯,在物理空間通過視聽等感知手段主動觀察(observe)待解決問題的表象,在認知空間進行思維活動,分析和判斷(orient)當前情況,對多通道、跨模態的感知數據去除噪聲,消解沖突,進行情境融合,聚焦問題態勢,然后喚醒記憶,在大腦皮層搜索,執簡馭繁,從早先的記憶中迅速匹配到應對方案,在物理空間中進行行動(act)驗證,一次次反復實踐,形成記憶或者鞏固記憶。記憶是思維的結果,是在重復行為中加深的結果,具有統計意義。如果再遇到同樣的問題,直接選擇記憶中對的方案,按經驗處理即可,通過經驗生成的記憶具有對新對象的識別能力。先界定邊界,后推理。把一部分經驗解釋清楚的認知先放到特定邊界的記憶中去完成推理,如果不行,再根據外部任務環境的變化結合自己的認知去確定問題的新前提或者新邊界。在一個新的記憶邊界框架下再推理,如此循環,直到問題被正確解決。在這種記憶驅動的經驗模式 OOAobserve-orient-act)中,記憶智能發揮了十分重要的作用。小孩從牙牙學語就開始養成小樣本記憶,如識別媽媽和周圍人群。小樣本記憶的核心是記憶邊界形成的小世界。機器學習中的深度學習從人臉識別開始取得成功,依靠記憶驅動實現分類和歸納,記憶隨著腦發育而迅速成長,形成越來越多的經驗數據。這都表明記憶智能和生長的環境強相關。

 

2.1.1 案例一:二十四節氣

 

人類依據二十四節氣開展農耕活動和養生活動,是記憶驅動的經驗模式中的典型案例。我國古代勞動人民長期反復觀察太陽周年運動,進行判斷,搜索匹配記憶里有關二十四節氣的季節規律,直接開展實踐活動。早在春秋時代,便有“二分”(春分、秋分)和“二至”(夏至、冬至) 個節氣,到了戰國末期,又增加了“四立”(立春、立夏、立秋、立冬),又經過 100 多年的逐步補充,到秦漢時期基本完備。用天氣的寒暑(小暑、大暑、處暑、小寒、大寒)、水氣的凝結(白露、寒露、霜降)、雨雪的多少(雨水、谷雨、小雪、大雪)和生物的發育(驚蟄、清明、小滿、芒種)來反映某一天屬于春夏秋冬的程度,形成二十四節氣對應農耕活動和養生活動的群體記憶。人們觀察當前的時間,判斷離哪個節氣最近,搜索匹配已有的經驗,直接進行行動。如對于芹菜種植而言,立夏育苗,立秋定植,立冬收獲。記憶驅動的二十四節氣經驗行為還有很多,如圖1所示。

 

 

二十四節氣的農耕活動和養生活動

 

2.1.2 案例二:傳統中醫

 

傳統中醫的觀察方法是“望、聞、問、切”。望診患者的神色、舌象;聞診患者的咳嗽、呼吸、口氣、體氣;問診身體的寒熱、是否出汗、大小便的形態、飲食喜惡和勞倦;切診包括脈診(觸摸脈象的變化),如脈的沉浮、虛實、遲數、滑澀、洪細等,還有按診,如胸腹的軟硬、皮膚的腫脹、手足的溫涼等。通過全面的分析,判斷疾病的病機,搜索匹配醫家豐富的經驗,特別是自己長期實踐形成的案例記憶,高效快捷地開出合適的方劑或者針灸治療方案,強調一人一策,一次一方,待一個療程之后,再觀察患者,再診斷、治療。中醫診斷是根據肌體整體狀態不斷調整治療方案的 OOA 交互過程(圖 2)。

 

 

中醫診斷的 OOA 交互過程

 

2.1.3  案例三:深度學習識別人臉和語音

 

 10 年,深度學習極大地推動了人工智能的革新 深度學習算法依靠大數據驅動實現了機器視覺、語音識別等感知的智能。機器通過學習大規模數據樣本來訓練一個深度神經網絡大模型架構中的結構參數和上億級數量的連接權重。對于卷積神經網絡、Transformer 等各類深度學習模型(圖 3),如果算力足夠大,由大量人工神經元和相互連接權重構成的深度神經網絡具有逼近任意復雜函數的泛化能力。機器基于大量的示例可以自主學習完成感知識別,無須進行顯式編程,通過嘗試、犯錯以及自我調整等操作,逐步減少感知誤差,機器通過自主學習實現感知智能,開辟了機器學習的新紀元。這與高等生物視覺神經系統分層的觀察、聯想和識別十分類似,成功模擬了從人的視網膜到初級視覺皮層,再到視覺皮層,最后到顳下皮層的視覺神經系統的感知。深度學習利用大量標記或無標記數據來學習,屬于記憶驅動的經驗模式。標記數據代表了人類的經驗,作為機器先驗的領域知識,實現了注意力選擇和語義提取,替代長期記憶,形成解決實際問題中的記憶智能和記憶驅動。當前,基于自監督預訓練的大規模深度學習模型已經成為新一代人工智能應用的基礎設施,其可以對海量無標記數據進行記憶。整個模型代表了人類共同的經驗,所有人員在使用階段能夠直接調用基礎模型,不需要進行復雜邏輯推理,而是直接給出解決問題的方案。深度學習正是屬于記憶驅動的經驗認知模式。

 

各類深度學習模型

 

2.1.4案例四:人工駕駛日常生活中,人工駕駛是記憶驅動經驗模式中的一個明顯案例。駕駛是一個“觀察—判斷—行動” 的過程,熟練的司機擁有許多關于駕駛的記憶智能,大部分情況下是依據已有的經驗直接駕駛車輛,很少進行精確推理或者計算。其并不拘泥于精確的數字,而僅是安全駕駛,其駕駛行為很自如,駕駛動作近乎本能。人在一生成長過程中的許多智能和技能,都屬于記憶驅動的經驗模式。在人類的多元認知中,這種模式是最原始、最直覺、最基礎的,也是最寶貴的,歷久彌新。

 

2.2 知識驅動的推理模式

 

人類的第一次認知革命是 6 000 年前語言、文字和教育的發明,從而創造了文化和文明。摩爾根將文明定義為“這一時代以聲音字母之使用以及文字記錄之制作而開始”[18]。智能可以脫離人體以文字等形式獨立存在,人工智能始于文字,隨后發明了教育,教育濃縮重演了人類的文明,迅速實現了人類認知的二次擴張,使得人類知識和技能得以傳承 [19-20]。人類通過接受教育掌握群體積累的知識,從此人類認知有了知識驅動的推理模式,表現為“觀察(observe)—判斷(orient)—決策(decide)—行動(act)”的認知螺旋形式,簡稱為 OODA。首先是觀察。觀察發生在物理空間。這需要融入周圍環境,對物理空間特定領域問題所處的變化進行細致觀察,形成感知。感知有時是被動的,觀察是主動的,需要了解問題的背景和要素。其次是判斷。判斷是認知循環中最重要的一環,發生在認知空間,對要解決的問題進行導向和定位,聚焦當前的態勢,利用自己的知識以及前期觀察到的相關現象,判斷當前狀態和發展趨勢,對現象分析進行解釋,最終形成判斷。但并不是一定能夠形成判斷,如果判斷有困難,要返回外部環境再觀察。再次是決策。決策發生在工作記憶區,提取長期記憶中已經具有的關于這個特定情境下的相關知識、符號處理模型和算法,進行邏輯推理或演繹計算,比較不同方案的優劣和風險,作出決策,形成特定問題的具體解決方案。同樣,如果觀察和判斷不到位,就很難作出決策,此時就需要迅速返回到前兩步,甚至陷入局部死循環。最后是行動。行動需要返回到物理空間中,按照決策的方案步驟執行,決策的正確性只有在實踐中才能得到驗證。整個過程不斷迭代,形成一個螺旋式認知過程,如圖4所示。將認知看作以邏輯為基礎的符號推理過程或計算活動,正是人們期望的可解釋的人工智能。

 

 

物理空間和認知空間中的 OODA 循環

 

2.2.1 案例五:自駕駛

 

自駕駛的目標是實現一個有感知、有認知、有行為、可交互、會學習、自成長的輪式機器人。區別于人工駕駛,自駕駛的關鍵是要厘清駕駛認知中的 OODA 循環。車輛通過各類異構傳感器在物理空間完成對周邊環境和自身狀態的瞬時感知。在認知空間的工作記憶區,利用選擇性注意機制,識別當前場景,從感知的各類跨模態信息中,提取出與駕駛活動相關的要素,形成駕駛態勢和實際擁有路權的變化,從長期記憶中提取相關知識,對態勢進行分析和理解,作出每次的操控決策。自駕駛車輛通過電信號直接控制方向盤、油門、剎車和檔位等車輛執行機構,使車輛達到或接近期望的動力學行為。最后將當前狀態反饋給感知系統,形成閉環。在跟隨駕駛、路口駕駛、換道超車和泊車等典型駕駛場景中,可利用OODA模式來實現車輛的自駕駛(圖5)。

 

 

自駕駛認知中的OODA循環

 

2.2.2 案例六:檢驗醫學

 

西醫以溯因和解釋為主。西醫對病人常常分科進行門診、檢驗和治療。根據臨床癥狀觀察和醫學儀器進行診查,包括體液學、血液學、微生物學、生理生化等常規檢驗和花樣(圖6)。如通過磁共振、計算機斷層掃描(CT)、超聲、心電圖和運動平板試驗等獲得大量生理數據,醫生再根據自身所掌握的醫學知識和經驗作出判斷。例如,對于慢性心血管疾病,醫生根據檢驗結果作出了“前降支重度狹窄的冠狀動脈粥樣硬化”的判斷,再結合病人的具體情況和比較成熟的冠心病治療方案,經過理性分析,比較不同方案的優劣,最終作出決策,給出精準治療的措施,如藥物治療、冠狀動脈介入治療或者冠狀動脈搭橋治療等,以實現血運重建。

 

 

西醫以溯因和解釋為主,分科門診、檢驗和治療

 

知識是人類的共同財富,語言、文字和教育是人類智能的基石 [22]。人類群體的知識和技能通過傳承學習和自主學習,成為個體智能。OODA 認知模式使得人類思想的邏輯性、通用性和可解釋性增強,理性思維占據主導。1956 年達特茅斯會議之后,“思維的本質即計算”形成熱潮 [23],用計算機來實現知識驅動的推理取得巨大成功,知識工程、專家系統得以普遍應用,導致以計算智能為代表的人工智能得到巨大發展,促進了人類智能和人工智能的迅速迭代成長。

 

2.3 聯想驅動的創造模式

 

思維的核心是抽象和聯想。抽象是聯想的基礎,聯想產生類比,進而形成一般智能,也稱通用智能。聯想驅動的創造模式最早可追溯到10 000年前的農業革命。到了500年前的工業革命,即物質革命和技術革命,以蒸汽機的發明為標志,人類通過抽象和聯想,逐漸掌握了如何利用物質和能量創造動力工具來延伸人的體能。自此,聯想驅動的創造模式開始非常迅速地發展,形成人類的第二次認知革命。重大技術工程,甚至技術革命的目標都是由人類創造新的物件來極大地解放人的體力,即利用宇宙里的天然物質發明人工物件,并把人類智能物化到人類發明的工具、儀器、機器等各種組織結構,乃至自然中,解決現實中的眾多實際問題,進一步解放人的智力。創造人工物件,需要回答“怎么做”的問題,主要依靠實踐。聯想驅動的創造模式通過對物理空間的事件進行觀察,從而產生聯想,利用已有的知識,在自己的認知空間里進行判斷,總結出需要解決的問題,然后利用自然界的材料、物質和能源,以及想象力、創造力,創造出全新的人工物件,再回到物理空間通過行動進行驗證,證明創造的有效性。這就構成了以聯想驅動的創造模式,即“觀察(observe)—判斷(orient)—創造(create)—行動(act)”的 OOCA 循環。2.3.1 案例七:輪子的發明輪子是人類創造的古老人工物件的代表,人們經常把它的發明和火的使用相提并論。輪子的發明距今已有約5 500 年的歷史。古人通過觀察,發現石頭、圓木等物體的滾動可以解決滑動阻力過大的問題,由此聯想,發明了輪子。進一步,將輪子和輪軸進行結合,并讓兩者分離,從而發明了自由轉動的輪子(圖7)。輪子是聯想驅動的創造模式的一個典型案例。

 

 

輪子的演變2.3.2

 

案例八:數學的機械化數學的機械化最早可追溯到結繩記數,之后發明了手工算盤。最早的算盤是由我國東漢數學家徐岳發明的,他所撰的《數術記遺》中寫到,“珠算控帶四時,經緯三才”。意思是把木板刻為三個部分,上下兩個部分是停游珠用的,中間部分用作定位。每位各有五顆珠,上面一顆珠與下面四顆珠用顏色區別,后稱之為“檔”。上面一珠當五,下面每珠當一。算盤由古代的“籌算”演變而來,唐代已見籌算乘除法的改進,到宋代產生了籌算的除法歌訣。15 世紀中期的《魯班木經》中有制造算盤的流程,1593 年明代程大位所著的《算法統宗》是流傳最久的珠算書。幾千年來算盤一直是我國古代人普遍使用的計算工具,即使現代的電子計算器也不能完全取代算盤。在《九章算術》中有對開平方、開立方的機械化過程描述,到宋元時代又有求解高次代數方程的機械化方法。從算盤、比例規、對數計算尺等計算工具發展到第一臺手搖機械計算機,即1642 年法國科學家帕斯卡發明的一種能代替人工進行快速計算的機器(圖8)。我國著名數學家吳文俊對數學的機械化也作出了重要的貢獻,提出了使用計算機證明幾何定理的“吳方法”[24],為數學機械化的發展奠定了堅實的基礎。

 

 

算盤、比例規、對數計算尺和手搖機械計算機

 

2.3.3 案例九:立軸大風車立軸大風車是我國公元12 世紀前后發明的一種人工物件,是一種旋轉軸垂直于地面的風力機械。立軸大風車是根據船帆的設計和運行產生的聯想,用來解決如何有效利用風力驅動水車的問題,其巧妙之處在于風帆能夠自動調節迎風方向,接受任意方向的來風,為龍骨水車提供原動力,實現自動工作。立軸大風車可用于農田灌溉等,其設計、制造與使用體現了因地制宜的思想。可以說,其是以聯想驅動創造的一種風力的、自動化的動力裝置(圖9)。

 

 

立軸大風車示意

 

2.3.4 案例十:都江堰水利工程更早的重大人工發明可追溯到公元前256 年前后的都江堰水利工程,其位于四川省都江堰市西的岷江干流上,是世界上現存歷史最久遠的無壩引水工程,經歷代不斷改造與完善,沿用至今。渠首樞紐包括魚嘴、飛沙堰和寶瓶口 3項主要工程,分別起到分水、泄洪排沙和引水作用,因為選擇在特定位置,在分水時具有調節外江水流比例的作用,在旱澇時期能夠形成相反的四六比例,滿足了灌溉與防洪的需要。盡管主持修建的李冰父子那時未必懂得流體動力學理論,但這項工程成為千古不朽的水利工程(圖 10)。

 

 

10 都江堰水利工程示意

 

2.3.5 案例十一:測量時間的工具宇宙里只有運動和變化,沒有時間,更沒有絕對時間,時間是人類自己發明的概念。自然進化形成的具有抽象、聯想和記憶能力的腦神經系統,是人類發明時間的生物學基礎。測量時間的工具包括日冕和鐘擺等。鐘擺理論是由意大利著名數學家與物理學家伽利略提出的,具體的科學實驗則由荷蘭數學家與物理學家惠更斯完成。1657 年荷蘭鐘表制造師科斯特制造出了第一臺擺鐘,1658 年惠更斯出版了《擺鐘論》(圖11)。如果把同一批生產的相同時鐘放置在宇宙的不同位置,會呈現出不同的時間,這就充分證明了時間不能完全脫離和獨立于空間。人類農耕時代只能發明簡單的手工工具來測量時間,如沙漏,這類工具包括物質和結構雙要素。到工業革命時期,人類發明復雜的機器來測量時間,如鐘表。復雜機器是由各種機械零部件按照一定結構組裝成的、能夠利用能量運轉產生有用功的裝置。目前人們使用的原子鐘芯片,每2 000 萬年才會產生 1 s 的誤差。在智能時代,只有將時鐘加入智能機器中,才使機器有了思維的能力。

 

 

11 惠更斯發明鐘擺

 

2.3.6 案例十二:人文作品在人類的精神世界中,語言、文字和情感常常是共通的,承載著人們豐富的內心思想或精神追求。人文工作者觀察社會生活中的個人或者人群,從政治、國家、政黨、族群、團體或社區中汲取思想營養,判斷并創作出有關哲學的、思想的、精神的、文學的各類作品,包括宗教、哲學、憲章、法律、信仰、詩歌、小說、音樂和美術等。好的人文作品一定能滋養和豐富人們的精神生活和想象力。這樣的人工物件既源于生活又高于生活,還會反作用于生活。一旦被社會認同接受,就可以成為群體認知或群體智慧,促進人類文明。2.3.7 案例十三:人造衛星定位系統用多顆人造衛星來定位,是根據天體定位聯想而來的(12)。中國北斗衛星導航系統(BDS)美國全球定位系統(GPS)、俄羅斯格洛納斯衛星導航系統(GNSS)和歐盟研制的伽利略衛星導航系統(GSNS)屬于人造工程。這些定位的技術從最初的定位精度低、不能實時定位、難以提供及時的導航服務,發展到如今的高精度全球定位系統,輔以地基增強系統,實現了任意時刻、任意地點都可以同時觀測到4顆以上的衛星,也實現了導航、定位和授時等功能。衛星導航定位可以用來引導飛機、船舶車輛和個人沿著選定的路線準確到達目的地,也可以應用到手機追蹤等諸多其他功能中。

 

 

12 北斗衛星導航定位系統人造工程

 

2.3.8 案例十四:智能芯片當前,人類認知創造的代表性人工物件是支撐程序運行的微電子技術和人工智能芯片。以家用電器為例,空調、電冰箱、吸塵器、掃地機、電飯煲和熱水器等都被嵌入了一個小的人工物件——帶有時鐘的智能芯片(圖 13)。從解決生活中的實際問題出發,通過 OOCA 循環迭代和版本升級,人工智能芯片的可行性和可靠性得到大幅提高。工業革命時期由物質和能量組成的機器,在智能時代變成了可交互、會學習、自成長的智能機器,成為“有溫度”的家用電器。

 

 

13 智能芯片

 

聯想驅動的創造模式主要是工程師和技術員等通過技術或工程實踐實現的發明創造,在物理空間中形成物質硬構體,如人造城市、人造建筑、人造衛星等,雖然對整個宇宙的改變是微乎其微的,但對人類認知乃至人類社會的影響是深遠的。在以聯想驅動的“觀察—判斷—創造—驗證”的創造模式中,人工創造的物件不僅僅是物理空間里的技術和工程等物質硬構體,還可以是人類思想寄生在物質上形成的人文作品。值得注意的是,這類人類精神世界中的虛幻物件,反過來可能讓人產生過度幻想。

 

2.4 假說驅動的發現模式

 

 100多年,人類進入第三次認知革命--交叉科學革命,主要研究如何填補物質科學、生命科學和社會科學之間的鴻溝,同時重視大科學交叉中的基礎研究。對物理空間的自然、生命以及發生的社會事件進行反復觀察(observe),然后在認知空間中運用想象力,對事件進行深入判斷(orient)創造性地提出假說(hypothesis),再到物理空間用行動( act)驗證,如此反復,就構成了“觀察-判斷假說-行動”的 OOHA 模式。這是人類認知的自由創造,不具有任何其他客觀性。如果觀察不夠充分,就不足以形成判斷,或者判斷的結果不足以形成假說,或者行動的結果不足以驗證假說,則又需要回到前一個環節進行局部小循環。

 

OOHA 模式是一個厚積薄發的過程,它十分尊重觀察和實驗,發揮科學家的認知力和創造力。該模式起源于感覺,但并不是所有人都能夠擁有這樣的認知模式,只有極少數超凡的知識精英,有特殊的天賦和罕見的專注,善于向群體學習,才能做到,如物理學家、數學家、力學家牛頓。他們對全人類認知的貢獻比“普通”的高水平學者,要“偉大” 百倍甚至更多。

 

人們開始時普遍認為地球是平的,到了古希臘時期,亞里士多德認為地球是圓形的、靜止的,地球是宇宙的中心。之后,哥白尼認為地球和行星在圍繞著太陽的圓周軌道上運動,被 100 年后的開普勒和伽利略所證明。1687 年牛頓才正確解釋了行星圍繞太陽公轉的原因。牛頓的代表作《自然哲學的數學原理》發表,遵循了古希臘的公理化方法,從定義、公理出發,導出命題,利用極限理論和微積分(流數術),提出牛頓三大定律。這部劃時代的經典力學著作,影響了物理學、天文學、數學和工程學等幾乎所有近代科學領域,也影響了哲學、神學,乃至啟蒙運動等社會變革。這早已成為人類共享的知識,并通過教育代代傳承。

 

經過幾千年人類文明的積累,假說驅動的發現模式構成了許許多多的學科,科學乃分科而學,是所有學科的總稱。這些分學科的、體系化的自然知識,可以解釋自然現象和現實生活中遇到的問題,主要回答為什么。人類發明了教育,確保了學科知識的普及和傳承。在每個人的頭腦里,都有獨特的認知映射圖,反映其對科學知識體系的認知以及對各類學科的認知。

 

假說在科學問題研究中發揮綱領性的作用,任何學科的理論都是人類在自己認知空間中建立的一套解釋系統,講清楚物理空間實體事件的原因,是基于特定假說前提下的存活。天文學中的“日心說”、地質學中的“板塊構造學說”、物理學中的“原子結構學說”、化學中的“燃素說”、地球科學中的“蓋亞假說”、生物學中的“遺傳變異學說”等在科學史上都發揮了重要作用。科學發展的歷史就是新的假說和原來假說之間競爭、更迭的歷史。實驗檢驗假說前提下的理論,若在物理空間中觀察到和假說相一致的結果,則該理論成立,并增加了人們對該假說的信賴。科學通過證偽而發展,一旦發現和假說不一致的新觀察,就必須修正或者拋棄該假說。

 

2.4.1 案例十五:達爾文的《物種起源》

 

1859 年達爾文的《物種起源》[25] 開創了生物學發展史上的新紀元(圖 14),否定了當時的神學。達爾文通過對古生物學、生物地理學、形態學、胚胎學和分類學等領域的大量研究,以自然選擇為中心,從變異性、遺傳性、人工選擇、生存競爭和適應等方面論證物種起源和生命自然界的多樣性與統一性。由簡單到復雜,由低等到高等,不斷發展變化,用自然選擇、物競天擇、適者生存,給出物種發展的新解釋,自此生命科學迅速崛起。但達爾文沒有專門研究腦科學和人類認知,沒有解釋人類區別于其他高等生物的原因。

 

 

14 達爾文的《物種起源》

 

2.4.2案例十六:門捷列夫的元素周期表1869 年化學家門捷列夫提出元素(以及由它所形成的單質和化合物)的性質隨著原子量(現根據國家標準稱為相對原子質量)的遞增而呈周期性的變化,將當時已經發現的63種元素,依據原子量遞變(并適當留下空位),排列為周期縱成族的完美體系。他根據周圍元素的性質預言了亞硼、亞鋁和亞硅3個未知元素。這在以后的十幾年內,逐一得到證實,使人們相信元素周期表闡明了自然界重要的本質(15)

 

 

15 門捷列夫與元素周期表

 

2.4.3案例十七:愛因斯坦的相對論

 

1905年愛因斯坦提出要拋棄絕對時間,提出相對論,1915 年又提出廣義相對論(16)。宇宙學的最終目標是希望能夠提供一個描述整個宇宙的統一理論,目前雖尚未實現,但可以用廣義相對論描述引力和宇宙的大尺度(1024km)結構,用量子力學解釋尺度極端微小的(10-12 km)現象。人們通過精確觀測水星,發現它的運動和牛頓引力理論預言的運動有微小的差異,而愛因斯坦廣義相對論卻可以正確預言其運動。這個事實是對這個新理論的一個關鍵的證實。如弗里德曼和勒梅特基于愛因斯坦的引力場方程提出了宇宙膨脹的假說,最終被哈勃觀測驗證,而史瓦西利用引力場方程提出了黑洞的假說,最終也被觀測證實。

 

 

16 愛因斯坦提出相對論

 

2.4.4案例十八:數學中的猜想

 

數學一定要建立在公理之上,如兩點可以劃一條直線、所有直角都全等都是無須證明的,歐幾里得把這些作為基本的公理。數學學科的發展實際上就是諸多數學猜想不斷被提出、修正和證明的過程(圖17)。如 3 個數的平方如果有勾股定理的關系,那么也可以有高次冪的關系,這就是數論中著名的費馬方程。直到20 世紀 90 年代,這個困擾了數學家300 多年的問題才被安德魯·懷爾斯解決。又如,素數是數學研究中最基本的對象之一,針對素數在自然數中占有多少的問題,最有智慧的數學家也無法解決。哥德巴赫提出猜想:每一個大于 的偶數都是兩個素數的和。截至目前,人類并未完全理解它們,最好的結果是陳景潤證明了每個充分大的偶數都可以寫成一個素數加另一個數,另一個數的素數因子個數不超過 。黎曼猜想也是數學中最有名的問題之一,它與素數研究有著非常密切的關系。實際上,當時黎曼提出這個猜想就是為了研究素數,而且黎曼假設現在還沒有完全解決。大自然賦予人類的渴望多于智慧,是無盡的認知追求。

 

 

17 數學中的猜想

 

2.4.5案例十九:DNA 雙螺旋結構

 

19532月,沃森、克里克看到了富蘭克林在1951 11月拍攝的一張 DNA 品體X射線衍射照片受到了啟發。他們提出并確認了 DNA 的螺旋結構分析得出了螺旋參數(18)四。雙螺旋結構顯示出 DNA 分子在細胞分裂時能夠自我復制,完善地解釋了生命體要繁衍后代,以及物種如何保持穩定的原因,即細胞內必須存在有遺傳屬性和復制能力的機制。這是假說驅動的發現模式推動大科學交叉基礎研究發展的一個典型案例。當前,正在興起的智能科學也是一個跨物質科學、生命科學和社會科學的新交叉學科。

 

 

18 DNA 雙螺旋結構

 

人類認知中崇尚想象力和創造力的完全自由,開辟了不以應用為目的的基礎研究,以興趣尋求合作,不宜組織大團隊“攻關”。盡管可解釋性是相對的,但科學更廣泛的可解釋性是人類永遠的追求。在學科發展過程中,設計出的新理論往往是原先理論的一次擴展。隨著人類認知的推進,牛頓力學、量子力學、相對論或者達爾文的生命科學等可能會被證明不是完全正確的。科學的偉大在于能夠解釋科學的界限在哪兒。哲學上認為客觀世界完全獨立于主觀世界而存在,這也并非是完全正確的。人們真正觀察到的是客觀和主觀之間的結合,由于客觀的世界不是靜止的,觀察者和被觀察的世界又存在相互作用,任何時刻都不可能把主觀世界和客觀世界分離得一清二楚,也不可能精準地把客觀世界了解透徹。

 

3 各智其智,智人之智,智智與共,兼容并蓄

 

3.1 認知模式之間轉換的不確定性

 

人們討論生物自然進化的現象時,常用的時間尺度是“萬年”;討論人類文明生態現象時,常用的時間尺度是“千年”;討論科學技術的進步時,常用的時間尺度是“百年”,甚至“十年”。隨著6 000 年前人類文明誕生后,尤其是技術革命造就的現代文明誕生后,聯想驅動的創造模式迅速崛起,智能的材料、能源、工具、機器和工程等不斷出現,成為科學的先導,如應用核能形成的人工物件核彈可以毀滅地球,但同時催熟了核科學。假說驅動的發現模式是近 200 年才大量出現的。美國科學家Simon[27] 在《人造物的科學》中多次強調:科學發現只是一種特殊類型的問題求解。假說驅動的發現模式一旦成為人類共享的知識,成為知識驅動的推理模式的源頭,其作用不低于人造的核彈。有的時候,幾十年整個人類群體認知進展不大;有的時候,幾位杰出人物的重大發現,對全人類的認知會影響幾百年。得益于語言、文字和教育,以及人工智能和人類智能的不斷迭代發展,體外延伸的人工智能為人類智能提供了一面巨大的鏡子,映射出人類認知無盡的演化歷程。

 

人類的認知過程是通過不斷的實踐推動的,而不是由時間盡頭的“絕對真理”目標拉動的,就如同生物進化是從過去的物種進化來的,而不是向目標物種去進化。認知從根本上是不斷學習、持續成長的,而成長需要時間來積累。

 

認知的形式化就是要厘清認知活動,為實現認知機器化奠定基礎。本文提出用4個相對獨立的認知模式來完成認知的形式化,OOA側重于形象思維如果用機器實現這種模式,要求機器具有的硬核是算法、算力和數據;OODA側重于邏輯思維,如果用機器實現這種模式,要求機器具有的硬核是算法和算力;0OCAOOHA更多依賴于人的靈感和頓悟,如果用機器實現這種模式,要求機器具有新的硬核--抽象、聯想和交五。00A  OOCA 兩個模式是由下而上實現的,形而上,從物理空間轉向認知空間:OODAOOHA兩個模式是由上而下實現的,形而下,從認知空間轉向物理空間。4個模式發生的頻度不同,相互之間的轉換常常帶有不確定性。認知模式轉換不確定性的物理學依據可追溯到最小自由能原理。

 

OOAOODAOOCA OOHA4種認知模式相互之間是排他的,在同一時間不存在混合模式。可以將其統一刻畫為 OOXA,差別是X。對特定的一個人,也許一生沒有任何創造或者發現。對于一個要解決的特定問題,如駕駛認知,在人或者智能機器的不同成長階段,幾個模式之間可以轉換運用。認知螺旋中的試錯、犯錯、糾錯的實踐,不可或缺負面的記憶甚至更難遺忘,時間之箭留下認知模式在物理空間和認知空間迭代的痕跡。4種認知模式在物理空間與認知空間中的迭代如圖19所示。

 

 

19 4 種認知模式在物理空間與認知空間中的迭代

 

多元認知模式形成的多元智能覆蓋形象思維邏輯思維和頓悟,核心是抽象、聯想和交互,其相互支撐、轉換、驅動,互為先導,螺旋推進。就個人的認知而言,想象力和創造力是有差異的,在不同時期、不同情境,可能會采用不同的認知模式小孩從牙牙學語就開始形成記憶驅動的經驗模式幼腦外皮層的重塑能力非常強,學會了語言、文字,記憶智能快速增長;進入學校,直到讀完大學,個人會接受各種教育,掌握人類的群體智能和知識,學會理性分析問題,運用知識驅動的推理模式的場景顯著增加;進入社會,參加工作之后,更多的是自主學習、實踐活動和感悟,會不經意地激活記憶網絡,呈現一種嶄新結構,從一種認知模式轉換到另外一種認知模式,如嘗試采用聯想驅動的創造模式,在失敗中成長;隨著時間推移,又會轉到知識驅動的推理模式。對于少數天才而言,也許能夠通過假說獲得重大發現。

 

對同一個問題,不同人的認知模式可能不同,如初學者駕駛可能采用OODA 模式;熟悉路況的司機可能采用OOA模式;對專門從事自動駕駛研究的工程師們,可能采用 0OCA 模式,創造出一個全新的人工物件--機器駕駛腦,代替駕駛員的認知對同一個問題,同一個人在不同時間的認知模式也可能不同。當僅采用一種模式無法解決難題時,通常會尋找另一種模式來解決。即使當時無解,也不會停止求知。在人類歷史長河中,使用較多的是記憶驅動的經驗模式。當人們對事物有了一定的認知,就能夠運用知識對事物作出判斷和推理,即運用知識驅動的推理模式解決實際問題。無論是創造還是發現,都需要聯想驅動的創造模式和假說驅動的發現模式它們都是非常艱難的,對于多數人而言,終其一生可能也無法做到,但這也是社會不斷前進的真正動力。

 

3.2 認知從多元趨向統一,是無盡的追求

 

對于人類認知的模式,本文提出的 種模式可能難以完全覆蓋。最好有一個統一的模式,可稱作元模式,覆蓋并解釋所有包含的子模式,但是這比較困難。如同人類的幾千種語言,不能用統一的世界語言——元語言來覆蓋一樣。因為語言是由語境、語用、語義和語法4個要素決定的,不可能找到一種元語言去覆蓋所有語言。哥德爾不完全性定理雖然證明了形式系統的不完備性,給人類形式化的系統劃定了一點邊界,讓人明白止其所止,不可窮盡,亦即有所窮盡,但人類永遠可以在“實在主義”中通過直觀和直覺引入構成高一級形式系統的新東西,建立新公理系統,原有形式系統中不可定義、不可證明的部分,在新系統中即可多涵蓋一點,如此推進以至無窮。就像不能阻擋人們對語言統一形式化——元語言的追求一樣,認知從多元趨向統一是人類無盡的追求。在多元驅動下的認知模式之間的不確定性轉換,會促進知識圖譜的微重構,通過大腦皮層神經元網絡的反復修飾、修剪和重塑,隨時間形成新的認知和記憶。人腦的生命期非常有限,是智能的弱統一體,各智其智,智人之智,智智與共,兼容并蓄,是人之常態。

 

4 結語

 

人類的學習能力和記憶能力、人類創造虛擬物件和人造物件的能力源于生物的進化,源于用語言傳遞和交流思想的群居生活,源于生存和競爭,源于長期記憶只記抽象的“小宇宙”,源于本能的適應性。這使得人類后天的認知在人類文明的生態里可以有飛躍發展。傳承學習、集體學習和自主學習迭代的結果,使得人類認知這塊“長板”更長。和地球上其他物種相比,人類率先從“覓食者”躍升為“種植者”“生產者”“建設者”,又進一步躍升為“創造者”。勞動創造人類,認知成就人類。人類的認知力、想象力、學習的能力,以及解釋、解決問題的能力,正在快速提升。

 

人類對認知的追求要比對知識和智能的占有更可貴。人類認知呈螺旋式發展,不會有盡頭,人類認知之球愈大,則其與未知接觸之界面會更大。生命進化賦予了人類大腦皮層特有的思維優勢、學習優勢、認知優勢、創造優勢,極大地釋放了人的體力和智力。和地球上其他物種相比,人類沒有無條件地服從大自然的進化,而是努力創造出各種各樣的工具和機器等,解放人的體力和智力,使人類站到了地球生物鏈的頂端。

 

來源:中國人工智能學會

作者:李德毅 1 鄭思儀 2 黃立威 3 劉玉超

責任編輯:向太陽
特別申明:

1、本文只代表作者個人觀點,不代表本站觀點,僅供大家學習參考;

2、本站屬于非營利性網站,如涉及版權和名譽問題,請及時與本站聯系,我們將及時做相應處理;

3、歡迎各位網友光臨閱覽,文明上網,依法守規,IP可查。

作者 相關信息

  • 李德毅院士:認知的形式化

    2024-06-25
  • 內容 相關信息

  • 李德毅院士:認知的形式化

    2024-06-25
  • 熱點排行
  • 一周
  • 一月
  • 半年
  • 建言點贊
  • 一周
  • 一月
  • 半年
  • 友情鏈接
  • 人民網
  • 央視網
  • 新華網
  • 求是
  • 中國軍網
  • 中國經濟網
  • 中國社會科學網
  • 中國科技網
  • 中國共產黨歷史和文獻網
  • 紅色文化網
  • 觀察者網
  • 參考消息
  • 環球網
  • 毛澤東思想旗幟網
  • 紅旗文稿
  • 紅歌會
  • 紅旗網
  • 烏有之鄉
  • 橘子洲頭
  • 四月網
  • 新法家
  • 中紅網
  • 激流網
  • 宣講家網
  • 中共黨史網
  • 國史網
  • 全國黨建網
  • 中國集體經濟網
  • 中國延安精神研究會
  • 西北革命歷史網
  • 善之淵
  • 俄羅斯衛星通訊社
  • 趙曉魯律師事務所
  • 烽火HOME
  • 備案/許可證編號:京ICP備15015626號-1 昆侖策研究院 版權所有 舉報郵箱:kunlunce@yeah.net