久久99国产精品尤物-国产高清色播视频免费看-男生肌肌往女人桶爽视频-精品国产-91PORNY九色|www.jqdstudio.net

洞悉！人工智能將如何影響未來社會？

點擊：3877  作者：記者    來源：人民論壇網 微信號  發布時間:2022-01-20 12:24:49

 

歷史上，每一次技術上的突飛猛進都會造成人類社會結構的巨大變革。人工智能的快速發展向人類展現了未來社會的多種可能性。然而，人工智能在給人類帶來福祉的同時也在給社會帶來現實的或者可能的“技術代價”。南京大學哲學系教授潘天群認為，面對當前快速發展的智能技術，人類要立足當下對未來進行協商，在人類未來的多種可能性中共同選擇或者設計一個對人類有利的未來。更多精彩觀點，一起來看《學術前沿》最新文章。

 

 

來源 | 《學術前沿》雜志及人民論壇網（rmltwz）

 

01

社會增強的智能技術

 

在生存競爭中，人類（智人）因為有了理性，其他物種已經無法與人類抗衡，人類便開始了與自己的生存博弈：不同社會或者人類集團之間進行競爭。在這種新的競爭類型中，發明并使用先進技術尤其是顛覆性技術，被實踐證明是有效的獲勝策略。不同歷史階段有不同的先進工具，從原始社會的石器、文明之初的青銅器、農業時代的鐵器，到近代的各種電力驅動下的機器以及當前的通用機器計算機，這些工具中包含了時代最先進的競爭性技術，相對于不采用它們是“占優策略”——采用者在競爭中得分高或者勝出，不采用者得分低或者出局。這樣，人類社會一直是技術社會（technosociety）——“技術社會是人與技術高度融合的社會，在這樣的社會中人與人之間的交流、交易等互動，以及人或者集團應對外部自然，都高度依賴技術。在技術社會中技術及技術產品或者人工物（artifact）是這個社會中的一部分。”通過技術的相互競爭人類社會整體增強了，即人類一直在通過技術發展而進行“社會增強”（society enhancement）。

 

現在輪到人工智能技術出場來進行社會增強了。人工智能，簡單說來，就是人建造可替代人類心靈來進行工作的機器。20世紀50年代，科學家提出了人工智能概念并開始了偉大的實踐。人工智能的出現是計算機被建造后的自然結果——1946年，人類第一臺計算機ENIAC得以建成。計算、思維與智能三者難以分開，而用機器來解決復雜的計算本身就是高度智能化的事情，至少在當時人們是這么認為的。因而，我們在考慮對人工智能發展作出貢獻的英雄如圖靈、西蒙時，不要忘了計算機之父馮·諾依曼——當然，馮·諾依曼在多個領域中都作出了偉大的貢獻，指出他在人工智能上的貢獻只是錦上添花。有了計算機后，人們便探索如何讓計算機擁有像人那樣的智能，而不僅僅是實現人腦的部分功能即計算功能。

 

今天人類社會被高速發展的智能技術不斷嵌入和重構。當下的社會已經是智能型社會，或者簡單說，智能社會。人工智能技術對人類生活、工作與交往全面滲透，人類社會被整體“增強”，盡管若干年后當我們回看時會認為今天的社會最多是“原始的”智能社會。科學家、工程師以及企業家們，不關心哲學家關于“人工智能”是否可能的學理爭論，他們也不關心強人工智能與弱人工智能之爭；這里，強人工智能是指那種具有理解能力的機器，而弱人工智能是指能夠通過圖靈檢驗即貌似有人的智能的機器。他們根據社會需求開發出各種智能技術產品，而這些產品的社會化又進一步刺激或者促進新的社會需求。當前，不僅僅有谷歌公司開發的圍棋智能程序AlphaGo、AlphaZero和分析蛋白質結構的智能程序AlphaFold這樣“小眾”的人工智能程序，而且有各類科技公司開發的大量“大眾化”的市場化人工智能產品，如各種人工智能客服、商場的問路機器人、汽車導航系統，以及逐漸成熟的智能陪伴機器人等。這些市場化產品達不到弱人工智能的標準，它們最多在某個領域中“看上去”具有某種程度的智能表現。因此，通用智能（全域智能）和專門智能（局域）兩個概念更能有效對這些產品進行描述，通用智能（全域智能）指的是能夠解決環境中所有問題的智能，而專門智能（局域智能）指的是能夠解決環境中的某一類問題的智能。

 

這些不斷出現的各種人工智能產品不僅僅為我們提供了生活便利，更重要的是它們打開了人們對未來的想象空間。人們開始展望人工智能社會的未來。弗洛里迪說：“我們正在經歷著一場意義深遠的圖靈革命，這場革命在很大程度上由信息與通訊技術驅動。”根據弗洛里迪的分析，人類歷史上發生了三次顛覆性的自我認知的革命，它們分別為“哥白尼日心說理論”、“達爾文的生物進化論”和“弗洛伊德的精神分析理論”；而當下“圖靈革命”可以與它們相提并論。哥白尼革命之后地球失去了宇宙中心的榮耀，但人類仍認為自己是地球的主宰；達爾文于1859年發表的《物種起源》則告訴我們，所有事物都來自于共同的祖先并在自然選擇下不斷進化，人類并不是萬物之靈；弗洛伊德揭示了人類大腦中無意識的存在，意識只是冰山一角、并被無意識所控制，因而我們不是意識（心靈）的絕對控制者。在弗洛里迪看來，圖靈革命使人類喪失了“獨一無二性”，人類不再是信息圈的中心。弗洛里迪說：“圖靈使我們認識到，人類在邏輯推理、信息處理和智能行為領域的主導地位已經不復存在，人類已不再是信息圈毋庸置疑的主宰，數字設備代替人類執行了越來越多的原本需要人的思想來解決的任務，而這使得人類被迫一再地拋棄一個又一個人類自認為獨一無二的地位。”這些非人類智能體的數字設備，盡管目前不如人類聰明，但它們可以輕而易舉地超越我們，并且承擔越來越多的任務。如果弗洛里迪說的是對的，那么，那些能夠進行信息處理的機器應當與人類有一樣的地位。

 

漢斯·莫拉維克認為，人類的身份在本質上是一種信息形式，而不是一種實體化的規定與表現。因而，他認為在不久的將來，人類可以將人的意識“上傳”（upload）到計算機內。他的將意識上傳到計算機中的觀點為學者們所熱烈討論。意識是作為生物體大腦的功能，因而筆者極度懷疑“意識的內容”能夠通過非生物的設備被完全“讀取”從而被上傳。莫拉維克的另外一個更重要的激進觀點是，將機器看成是人類心靈的孩子（mind children）。他說，今天，我們的機器仍然是簡單的創造物；它們需要作為父母的我們的關心，新生兒還需要呵護。今天它們幾乎不值得用“智能”這個詞。但是，“在下個世紀內，它們將發展成和我們一樣復雜的成熟實體，并最終發展成為某種超越我們所知的一切事物的事物——并且當我們稱它們為我們的后代時，我們感到驕傲。”這樣的人工智能機器將接替我們，“從漫長的生物進化中解放出來，我們的心靈的孩子將自由成長，它們將面對更大宇宙的巨大和根本挑戰。我們人類在一段時間里將從它們的勞作中受益，但遲早它們會像自然的孩子一樣探索自己的命運，而我們，它們年邁的父母，則默默地等待消失。”莫拉維克相信具有智能的機器人將在50年內出現——他寫作《心靈的孩子》是在1988年。

 

對于人工智能或者機器人的未來，馬文·明斯基說，機器取代“我們”這樣的思考方式沒有意義。他同意莫拉維克的“機器是我們心靈的孩子”的觀點。他認為，機器是進化的必然產物，“在過去，我們傾向于將自己視為進化的最終產物——但我們的進化并沒有停止。事實上，我們現在進化得更快了——盡管不是以我們熟悉的、緩慢的達爾文方式。我們早該開始思考我們新的身份了。我們現在可以設計基于新型‘非自然選擇’的系統，這種系統可以利用明確的計劃和目標，也可以利用獲得性的遺傳。進化論者花了一個世紀的時間來使自己避免這些想法——生物學家稱之為‘目的論’和拉馬克主義，但是，現在我們可能不得不改變這些規則！”明斯基從生物進化史中得到了“目的論”生物觀：心靈是所有生物在進化中的一個目標，而機器作為心靈之子將繼續在地球上生存與演化。他說：“機器人會繼承（inherit）地球嗎？是的。但它們會是我們的孩子。我們的心靈的產生要歸功于參與進化斗爭的所有生物的生與死。而我們的工作是確保所有這些工作不會白白浪費。

 

在人工智能未來展望中，沒有概念比“智能爆炸”或者奇點（singularity）概念更有沖擊力了。奇點概念最早由統計學家古德（I. J. Good）所提出。古德在《關于第一臺超智能機器的猜測》（1965）中寫道：“讓我們把超智能機器定義為一種可以遠遠超越任何聰明的人類的所有智能活動的機器。由于機器的設計是智能活動之一，超智能機器或也將可以設計出更好的機器；到那時，毫無疑問會出現‘智能爆炸’，而人類的智能將被遠遠地拋在后面。因此，第一臺超智能機器是人類要做的最后一項發明。”奇點不是幻想家的純粹遐想，它是具有智慧的學者們根據當前技術狀況及發展趨勢所作出的關于未來的深刻洞見。奇點概念強烈沖擊著社會，而被學術界所抵制，哲學家大衛·查爾莫斯（D. Chalmers）不滿學術界的這種傲慢。他認為，我們應當嚴肅對待奇點論證，圍繞奇點產生的哲學討論具有極大的實踐和哲學意義。在實踐上，查爾莫斯說：“如果真有奇點的話，那將是這個星球歷史上最重要的事件之一。智能爆炸有巨大的潛在好處：治愈所有已知疾病，終結貧困，獲得非凡的科學進步，等等。它也有巨大的潛在危險：人類的終結，交戰機器的軍備競賽，毀滅地球的力量。因此，哪怕只有極小的概然性會出現奇點，我們也應該好好思考它可能會以何種形式出現，以及我們是否可以做些什么以讓結果朝著積極的方向發展。”而在哲學上，奇點提出了許多重要的哲學問題，查爾莫斯說：“智能爆炸的基本論點本身在哲學上就很有趣，并使我們認真思考智能的本質和人工智能的心智能力。智能爆炸的潛在后果使我們認真思考價值觀、道德、意識和個人同一性的問題。實際上，奇點喚起了一些最棘手的傳統哲學問題，同時也提出了一些新的哲學問題。”對是否將有奇點的問題，查爾莫斯的看法是，奇點的發生是無疑的，而如果有障礙阻止它發生，主要障礙可能是動機上的而不是能力上的。因此，查爾莫斯說，我們要做的是與奇點協商，將適當的價值植入機器，先在虛擬世界中構建最初的那種人工智能以保證可控，等等。

 

歷史中并不包含未來，但人們傾向于從歷史中“歸納”而推理未來、從歷史中“找到”未來。然而，不同的人根據對歷史的不同的觀察會得到不同甚至相反的未來。弗洛里迪無非是在論證當前的人工智能革命或者圖靈革命的意義，可以與哥白尼日心說、達爾文的進化論和弗洛伊德的精神分析理論的意義相比擬；莫拉維克和明斯基則將人類心靈作為生物演化的最后產品，而這樣的演化接力棒應當由機器承接下去；而奇點論者則是從技術的加速變化中“看到了”智能機器的未來……這里，我們沒有闡述哲學家如德雷福斯和塞爾對人工智能技術的不樂觀的觀點。我們不能說哪種觀點及其歸納論證是正確的或者更接近真理，正如休謨所說的，這種根據過去經驗的外推是人類的一種沒有邏輯根據的心理傾向。但是，這些根據當下和歷史對未來的“外推”具有社會意義，它們能夠幫助人類思考未來、選擇未來。

 

 

02

智能技術帶來的可能的技術代價

 

新技術與社會的融合能夠給社會帶來利益，同時也會帶來傷害。新技術帶給社會的傷害可以看作是社會要付出的“技術代價”，這樣的代價是社會整體為技術發展而所要付出的總體成本。在信息技術發展的短暫時間里，許多人尤其是青少年沉湎于電子游戲甚至患上網癮，這已經是不爭的事實。信息技術給社會帶來的巨大利益使得它的發展不可阻擋；而對于沉湎于游戲甚至染上網癮的孩子，其家庭自動地歸責于自己或者是某個偶然原因，而不會將責任歸于社會發展信息技術。從技術的社會化角度來看，這便是社會為發展信息技術所要付出的“技術代價”。

 

某種技術對某個個體的傷害可能只是概率上的或者是偶然的，而某些技術對社會的傷害則是必然的，只不過不同的技術給社會造成的傷害形式及傷害程度是不同的。社會要權衡的是相應技術的代價是否是可接受的。汽車使人們出行更便利，然而汽車的普及造成了大量的交通事故與死亡人數；而假設沒有現代交通系統，許多死亡就可以避免。據統計，2017年～2019年，中國每年交通事故死亡人數約為6.3萬。盡管人們逐漸適應現代交通技術系統，相對于汽車保有量，交通事故率也在降低，但是中國汽車總量在逐年增加，因為交通事故而死亡的總人數并沒有進一步下降。這些死亡或者傷殘是現代交通技術給社會帶來的不可避免的代價，盡管它們不是唯一的代價。社會可以通過采取各種可能的措施降低傷害，但是這樣的傷害有一個不可降低的“下限”。日本是交通事故率較低的國家，據報道，2017年，日本因交通事故而死亡人數只有3000余人；日本政府希望將交通事故死亡人數控制在2500人以下，而實際上這是難以完成的目標——這樣便是現代汽車系統運行下不可再低的代價。我們通常對交通事故中的死亡或傷殘的人態度漠然，認為那是必然的“不幸”，如同自然死亡或者生病一樣。我們習慣于將每年因交通事故而死亡的人數只看作一個數字，沒有人怪罪或者攻擊現代交通系統，而事故家庭只能怪罪自己的不幸或者交通肇事者。人們認為現代交通系統的采用是必然的，而沒有現代交通系統是不可想象的。然而，有些技術的不被采用是可想象的。據美國網站提供的數據，1999年～2016年，美國67.7%的謀殺案是由槍支造成的，總共有213175人死亡，即平均每年有11843人死于槍擊謀殺。我們當然不能將這些謀殺案造成的死亡人數全部歸因于槍支合法化，因為假設沒有槍支合法化，其中的部分死亡者也會被其他方式所謀殺。但是槍支合法化使得謀殺變得容易，因而，美國平均每年1萬多人的槍擊謀殺死亡中有很大比例應當歸因于槍支合法化，這些死亡是社會為槍支使用合法化所付出的技術代價。在美國，人們經常抗議政府而要求禁槍，因為全面禁槍的社會是可想象且一定程度可接受的社會。因此，現代交通系統是所有社會協商出來的結果，而槍支合法化也是美國這個國家協商出來的結果。

 

人類處于高度互聯時代，人類的理性或者嚴格地說“集體理性”得以彰顯。這樣的理性體現在人類關于未來的協商中。這種協商不僅僅體現在集體理性對個體理性困境——如囚徒困境——的克服中，而且更重要的是，人類能夠對人類未來進行整體地考慮，分析未來的各種可能性，權衡利弊，選擇并確定未來。在協商人工智能社會的未來時，我們首先得要弄清人工智能給社會帶來的可能代價是什么，因為只有弄清可能的代價，我們才能進行利弊權衡。

 

人工智能會使人類整體性地淪為徹底的“無用階級”嗎？機器作為勞動的替代物而被設計和制造出來，它天生與勞動處于對立的關系；這一點上人工智能也一樣。傳統機器替代人的體力，被替代的勞動者因具有智力上的優勢，其替代是暫時的，從理論上講被替代的勞動者能夠通過學習新知識而找到新的工作。與傳統機器不同的是，人工智能替代的是人的智力，它們能夠進行勞動，能夠代替人的勞動而創造價值——在這個意義上，馬克思的勞動價值論也面臨著挑戰。而一旦人工智能形成規模并在智能上完全超越人類，人工智能能夠完全接替人類來創造價值，人便沒有了價值；而無需等到超級智能機器被設計出來（奇點）的那一天。屆時，地球上將由人工智能機器統治，正如明斯基和莫拉維克所認為的那樣。對人類來說，這樣的代價可能“太大了”，至少是當下的大多數人所不能接受的。當然，很有可能的是，未來的人類會贊同明斯基等人的觀點，人類與機器人都是“我們”，而機器人將是人類心靈的孩子，人類心甘情愿地讓它們作為我們的后代接管地球！智能社會中人群會面臨被機器算法全面操控的風險。當前，我們已經被算法部分操控。智能手機上的各種推送，是計算機視覺根據它所“看到”的我們的偏好而精準投放的。大數據是信息技術系統在與人類社會交互中所產生的巨量信息；無論如何，它們是個體或者群體行為的相關信息——太空中獲取的星體數據不能成為大數據，盡管它們是科學儀器“觀察”和“加工”后的信息。大數據被認為包含著巨大的價值，或者巨大的商業價值，因為這些大數據中包含由個體信息和個體偏好形成的群體偏好或者規律。我們被數據化從而被客體化，同時被計算與預測。基于大數據的計算便是基于個體組成的群體的行為信息之上，這樣個體的“行”和“為”，乃至“思”和“想”都被關注、收集與計算。因而，盡管可能的是，在算法設計時通過將倫理嵌入到算法之中保證沒有人在背后對作為數據對象的個體進行“偷窺”，但實際上，群體被偷窺，商業價值和政治目的便通過群體被偷窺而實現。由大數據而產生的價值是通過偷窺我們的行為以及這些行為背后的思想，從而預測乃至操控我們的行為來實現的。掌握數據的公司可以通過投放某些數據擾動人群，對人群進行操縱，這種操縱可以是商業的，也可以是政治的。這種操縱如同羊群被恐嚇聲所驅趕或者被投放的食物所吸引。個體數據是大數據時代個體的新的身份。這是數據化個體的時代，我們無處可逃。而對我們的數據進行操作則是需要規制的。

 

對于個體而言，存在“不可數據化”的東西（如隱私）和可數數據化的部分，不可數據化的邊界在哪里？可數據化的使用權限在哪里？等等。數據化個體并對群體進行這種操縱可能催生新型的政治或者商業模式，我們得適應并運用政策與倫理規制這種操縱；我們需要考慮并建立新型的政治或者商業倫理以及制定相應的治理政策。

 

基于互聯網的“虛擬世界”正“廢物化”人類。每個人都會做夢，每個人也能夠進行幻想。做夢是人的心靈處于沉睡狀態下心理的自然呈現；而與夢境不同的是，幻想是人的心靈的正常功能，它是對現實狀態的理性超越。幻想是想象一系列非真實的事件；或者說幻想是在構建某個虛擬世界，在這個世界中有一系列引發行為主體情緒的虛擬事件發生，這樣的系列事件盡管不符合現實，但它們之間一定符合邏輯。夢境只能是私人的，人們無法“共同做夢”——不同的人無法進入同一個夢境；但是人們可以“共同幻想”。共同幻想是指不同的人在同一個現實時空中共同構建某個虛擬世界，或者進入某個虛擬世界中一起進行新的想象。人類的神話、文學等便是特定群體的共同幻想。而今天互聯網為人們搭建了一個新的共同幻想的平臺。人們能夠通過互聯網進入同一個“虛擬世界”，“共同地”且全身心地沉浸到某個幻境中并進行新的幻想。每個人都能夠進入的虛擬世界構成共同幻境。然而，基于互聯網而構建的虛擬世界或者共同幻境正“廢物化”人類。赫拉利說：“那些對社會來說多余的人，可以多花點時間在3D虛擬世界里；比起了無生趣的現實世界，虛擬世界能夠為他們提供更多的刺激，誘發更多的情感投入。……這些人對社會毫無用處，整天活在現實與虛擬之間，這樣的生命何來神圣？”Meta（Facebook）宣布建設元宇宙（Metaverse），元宇宙便是在構建巨大的共同幻境——盡管元宇宙有助于服務當下世界。基于互聯網的共同幻境（元宇宙）的構建對人的精神的控制與圈養等副作用是巨大的，而且很可能的是，它正全面“廢物化”人類。

 

基于互聯網的人工智能將會對人類社會產生巨大的影響，我們要審慎對待其中可能出現的災難。互聯網看上去是一個物理設備相互聯結的網絡，實際上其包含物理部分（或者硬件部分）和軟件部分：前者是后者發展的基礎。由于這兩部分的迅速發展，互聯網在當下及未來的智能社會中有巨大的發展空間。由于互聯網上有大量各種類型的數據和人類社會的知識，工程師們借助于互聯網這個平臺實現產品的智能化。當前的許多智能化產品便是這么做的。正如人需要依賴于社會而生存與發展一樣，人工智能也要依賴于某個網絡環境。構建專門的物聯網當然是一種實現人工智能生存環境的方式，但依賴于目前的互聯網似乎更為可行，這樣它們能夠與人類進行交互，參與到人類社會的構建，成為智能社會的一部分。當前基于互聯網的人工智能產品是初級的、非自主的，那種自主的、高級的“活”在互聯網環境下某個虛擬世界中的人工智能或者“受控人工智能”似乎暫時還沒有出現。一旦科學家或者工程師在基于互聯網的某個控制的虛擬環境中發明了某個“受控人工智能”，并且它們被設計能夠在虛擬世界中進化，那么它們的威力是巨大的，它們的泄露也是可能的。而一旦它們泄露，將會產生巨大的社會災難：它們首先會泄露到網絡世界之中并干預我們的網絡世界；它們甚至會泄露到現實世界之中，通過現實化自身干預現實社會，造成社會困擾。虛擬世界不必然是人工智能的居住場所，正如實驗室不必然是人造病毒的場所、核反應不必然在反應堆中進行一樣。“智能泄露”及其災難將會是未來重要的學術及社會問題。

 

互聯網構建的虛擬世界與現實世界爭奪資源將會是一個普遍現象。比特幣作為虛擬世界的貨幣，它通過有強大算力的“礦機”（特制的高效計算機）計算而得，比特幣被認為是去中心化的網絡交易貨幣。比特幣高昂的市場價格吸引投機者們“挖礦”逐利。然而，“挖礦”需要大量的電力，根據劍橋大學替代金融研究中心的研究，截至2021年5月17日，全球比特幣挖礦的年耗電量大約是134.89太瓦時；這里，1太瓦時相當于10億度電。這樣的耗電量已經超過馬來西亞、烏克蘭、瑞典等國家的耗電量，已十分接近耗電排名第25名的越南。

 

挖礦消耗能源是虛擬世界消耗或者搶奪現實世界能源的一種方式，而虛擬世界對現實世界能源的這種搶奪將會成為一個常見現象。將電力消耗在虛擬世界之中是否是正義的？這至少是可討論的。當今的人類的生活離不開電力，人類進一步的工業生產也離不開電力。電力是社會耗費公共資源而生產出來的有限社會資源，這樣的資源是屬于全社會的。因而，它的使用要公平和合理——在保證基本民生的前提下合理分配給企業進行利于社會的生產，用于挖礦投機則是不義的，盡管挖礦者按照市場價格支付挖礦電費。社會如何對有限資源進行分配是一個永恒的哲學話題。“朱門酒肉臭，路有凍死骨”描述的便是一個不義的社會，在該社會中某些人奢靡浪費的正是另外一部分人生存所需要的。因而，并非按照市場規則運行的社會就是正義的，盡管某些人的消耗是基于社會規則的交易而非暴力搶奪。電子游戲不僅影響甚至是毒害了一大批年輕人，而且游戲PC比普通辦公PC更耗電。游戲PC配置高、耗電量大，這是人們的共識。E.米爾斯和N.米爾斯研究團隊在《能源效率》（Energy Efficiency）雜志發表了一項研究報告，題為“馴服游戲電腦的能量使用”。他們的研究表明：游戲PC耗電量十分驚人，在全球所有PC中（包括主機）僅有2.5%占比，但卻消耗了高達21%的能耗，這一數字達到了75太瓦時／年。這意味著需要25座標準發電廠為其提供電力，或者相當于1.6億臺冰箱的能耗。此外，報告還指出，目前使用高端游戲PC的用戶正在不斷增長。他們的研究表明，一臺典型的游戲PC，包括顯示器，一年大約消耗1400千瓦時，相當于一臺標準PC的6倍。我們看到，電子游戲不僅耗費人大量的心理能量，同時耗費大量的能源（電力）。我們現在沒有完整的理論或者說辭表明，玩電子游戲就是不道德的，但是耗費人的心力和體力的活動（如賭博）而不產生外部正效應（價值），這至少是不值得提倡的。

 

我們無法判定比特幣未來的價值，但耗費有限的電力資源來進行投機至少在目前看來是不義的。我們也不能說人類進行電子游戲如抽鴉片般是人類惡習，且有不少健康的電子游戲，但是一些所謂高科技公司通過網絡游戲從心理上牢牢控制了一大批年輕人，讓他們不斷為公司充值。未來，是否會通過網絡發生更大規模耗費人類的心理能量和現實資源而不生產價值的現象？當前，人工智能正嘗試代替人進行“藝術創作”，對于接受人工智能“作者”及其作品，我們是否有充分的心理準備？更進一步，我們是否有充分的心理準備接受人類作者“完全”被機器所替代？在中文世界中，2017年5月，微軟“小冰”的原創詩集《陽光失了玻璃窗》正式出版，這是人類史上第一部完全由人工智能程序創作的詩集。

 

同年，清華大學“九歌”（THUAIPoet）誕生，它是中文古體詩歌生成系統。對于“小冰”創作的詩集和“九歌”所作的古體詩歌，一般的讀者難以區分它們是機器所作還是人類所作。“小冰”和“九歌”在專業領域里的表現可以認為通過了圖靈測試，它們具有了“專門智能”。不僅如此，“小冰”和“九歌”的創作速度大大超過人類，且它們能夠被改進以自我進化。人工智能創作者的出現表明“作者之死”——人類或將不再是文學作品的創作者。對于人類，“寫作是為了成就一個不同的自己，探索不同的書寫方式，乃是對自我之生成的最好捍衛。……人工智能作為人之智能的分裂和對立，也許恰恰督促了重新反思人之為人或主體之為主體的根本所在。”但是，人工智能正挑戰人類作為意義構建者即作者的地位，沿著這樣的發展趨勢，人工智能將會發展成意義的構建者，而人將只是作為讀者而存在。人是意義的消費者，而意義的主人是人工智能。這樣的狀況恐怕是人類難以接受的。

 

 

03

人工智能發展的保守主義路徑

 

我們通過新技術一步步走向未來。對未來的協商體現在對技術的每一步考慮之中。面對不斷涌現的人工智能新技術，技術保守主義立場可能更為可取。

 

技術保守主義可以理解為：在發展或者選擇技術時我們應當以尊重當下所有人的利益為前提。具體地說，在發展技術時應當堅持以新技術的采用可以讓所有人的利益都得到提高或者至少不損害為最高原則；在接受某項新技術時社會應當保持慎重的態度，該新技術的采用要使當下所有人的利益都得到帕累托改進；并且不采用技術后果不明的技術。

 

技術保守主義至少有如下三條作為辯護的理由：第一，人類對技術的全面后果是無知的或者至少是部分無知的；而技術的全面后果往往是無法通過實驗或者理論來推演的。第二，因技術發展的巨大慣性，人們即使發現了技術的災難性后果，社會也很難即刻停下來。第三，技術專家往往傾向于他們所發明的新技術的實施。他們輕視或者忽視該技術的“壞處”，而放大該項技術的“益處”，這不是說他們不客觀或者不道德，而是說，這是自我肯定的人性使然。如，核能被告知是清潔且安全的能源，而核電站一直以來也被科學家們宣稱絕對安全、發生核事故是小概率事件。然而，自核能技術被人類應用以來，已經發生多起核事故，2009年美國《時代》雜志對歷史上發生的令人恐怖的核事故進行了回顧，評出“十大核事故”，其中包括1986年的蘇聯切爾諾貝利核電站事故。其時，還沒有發生日本福島核事故。2011年的福島核事故不斷產生的核污染廢水問題一直困擾著周邊國家。1979年美國的三英里島核事故、1986年切爾諾貝利核電站及2011年福島核事故均是核電站事故，而當前核電站遍布全球！

 

基于以上理由，新技術被應用之前應當得到充分且全方位的評估與論證，并且應當讓公眾（外行）參與到技術評估與論證中來。可以看到，技術保守主義并不是限制新技術的使用，而是對技術的使用采取審慎的態度。對于當前不斷推陳出新的人工智能新技術，技術保守主義不僅要求人工智能技術被實施之前需要充分評估與論證，而且重要的是，因為人工智能技術的特殊性，它還要經得起倫理和社會的審查。事實上，人們一直在考慮如何約束機器人或者人工智能的發展。1950年，美國著名科幻作家艾薩克·阿西莫夫出版了他的著作《我，機器人》。在這部著作里，阿西莫夫提出了著名的機器人三定律：第一定律，機器人不得傷人，或任人受傷而袖手旁觀；第二，除非違背第一定律，機器人必須服從人的命令；第三，在不違背第一及第二定律的情況下，機器人必須保護自己。我們看到，在按照阿西莫夫三定律而建立起來的人與機器人共存的社會中，機器人對整體人類只有幫助，不會造成傷害，至少表面上如此。這樣的技術的采納應當是對所有人的福利都有提高而沒有傷害，因而符合技術保守主義的立場。

 

然而，遵循阿西莫夫三定律而建造的人工智能或者機器人是奴隸般的，它們在社會上運行可以幫助人類整體，但它們奴隸般的地位是我們人類希望的嗎？這是技術社會的理想形態嗎？弗洛里迪說：“允許人類和智能陪伴做朋友是否是一個道德倫理層面的問題。我們是否會因為它們的非生物性而歧視它們？”就我們目光所及的人—機社會的未來，人工智能還處于人類的控制之下。

 

在這樣的人—機社會里，理想的人—機關系應當如何？

 

人工智能不僅應當提高人類的整體物質福利，而且應當滿足人類的精神需求。為此，人們提出了“友善的人工智能”（friendly AI）概念。一個友善的人工智能是指它采取的行動在整體上對人類和人性仁慈而非暴力，善意而非敵意。美國機器智能研究所（前身是著名的奇點研究所）的研究人員俞德考夫斯基（Eliezer Yudkowsky）在2001年發布了《創造友善AI1.0：仁慈目標架構的分析與設計》研究報告，在該報告中他是這樣表述友善的人工智能：它們是被設計來完成真實世界的目標且對人類有益、無傷害人類行動的系統。而創造友善的人工智能則描述了建造一個仁慈（benevolent）即友善（friendly）的人工智能的設計特征和認知構架。

 

福洛丁和皮得森（Barbro Fröding & Martin Peterson）認為，未來人工智能最重要的特征之一是它們擁有運用友好的方式對待人類的能力：“它們對人類具有（看上去）友好的能力，而不是刻薄、敵意或者不友善。”在他們看來，不是說友善的人工智能與人類之間存在真正的友誼，而是說人類與它們之間具有“似友誼”（asif friendship）。他們在亞里士多德關于友誼的理論中找到了理論支撐。他們認為，高度順從的奴隸式人工智能（Slave AIs）不是友善的人工智能，功用人工智能（Utility AIs）和社交人工智能（Social AIs）則是友善的人工智能。這就是說，由于友善（友誼）是相互的，一個理想的人工智能社會是人類與人工智能友好相處的社會。

 

04

結束語

 

在對未來的思考中，科學家與技術家們往往趨于樂觀，而哲學家們往往趨于保守——哲學的這種保守是一種對人性的守護和熱愛。然而，在對未來的思考中，哲學似乎有點力不從心，文學似乎更有吸引力。人類一直由偉大的敘事鼓舞并引導。在這樣的敘事中，人類行動的意義被設定，倫理也被偷偷嵌入。然而，不同的敘事中生命被賦予的意義是不同的。如果有偉大敘事認為我們有使命走向星辰大海，我們將前仆后繼地走向宇宙深處；而如果有偉大敘事認為我們人類自身只是走向更高級智能的一個環節，而人工智能就是人類智能的更高級的接棒者，那么，我們會大力發展人工智能，并心甘情愿地接受人工智能替代我們人類占據這個星球。我們現在需要關于人類、生命和人類未來的偉大敘事，這樣的敘事可能不是哲學，但一定包含著深刻的哲學；這樣的敘事超越人工智能相關的科學和技術本身，并對人性有獨到的理解。并且最重要的是，這樣的敘事能夠真正洞悉我們這個世界背后的超級密碼。

 

來源 |《學術前沿》雜志2021年12月上

原標題 | 協商人工智能社會的未來