人類傾向于高估人工智能的進步，低估自身智能的復雜性-讀《AI 3.0》
點擊： 作者：記者 來源：人工智能學家 微信號 發布時間:2021-02-15 11:36:24
有很多關于人工智能的書。亞馬遜網站上就有20,000本。其中很多書都有戲劇性的標題，比如《生命3.0》 ，《終極算法》 ，尤其是《奇點來臨》。梅勒妮 · 米切爾的新書的標題更加謙虛，但是在我看來，在這個主題上，它是最有智慧的書。作者是波特蘭州立大學的計算機科學教授，同時也是圣菲研究所科學委員會的外部教授和聯合主席，是暢銷書《復雜》的作者。而且，與這個領域的大多數活躍的從業者不同，她對人工智能的現狀和前景的評估是可以衡量的，謹慎的，而且常常是懷疑的。 這本書的序言: 恐懼”是一個關于她如何與人工智能相結合的個人故事，靈感來自侯世達的神書GEB（哥德爾，埃舍爾，巴赫）。憑借著運氣、膽識和毅力，Mitchell 先是成為了 Hofstadter 的研究生，后來又成為了他手下的教授的博士生。幾十年后的2014年，在與Hofstadter 一起參加的谷歌(Google)會議上，她了解到，Hofstadter 對一個人工智能程序擊敗了國際象棋世界冠軍，而另一個程序創作的音樂“作品”與肖邦(Chopin)的真正作品幾乎沒有區別(甚至評價更好)感到不安。Hofstadter 的擔憂激發了她去寫追求人類水平的人工智能(甚至更高)。 本書分為五個部分: 背景; 觀察與學習; 游戲與學習; 人工智能與自然語言的結合; 意義的障礙。盡管米切爾事先聲明，這本書并不打算成為人工智能的全面概述或歷史，但為了正確地看待當今熱情洋溢的樂觀情緒，她仍然設法講述了足夠多的人工智能歷史——尤其是1956年由John McCarthy、Marvin Minsky、Allen Newell和Herbert simon主持的達特茅斯會議。 正如米切爾解釋的那樣，人工智能研究的第一個分支是人工神經網絡(ANN) ，它是當今深度學習算法的基礎。她提供了一個這樣的人工神經網絡的例子，“感知器”設計來“學習”如何識別手寫數字。說明性的網格是18 × 18，每個正方形有四種顏色: 白色，淺灰色，深灰色和黑色。 奇怪的是，她甚至沒有提到這樣一個相對溫和的 ANN 的基本問題: 在這種情況下，不同可能的不同輸入的數量是2的326次方(2326) ，或者:136,703,170,298,938,245,273,281,389,194,851,335,334,573,089,430,825,777,276,610,662,900,622,062,449,960,995,201,469,573,563,940,864 書中簡要討論了著名的圖靈測試，開創性的數學家 Alan Turing 在1950年提出(稱之為模仿游戲測試) ，作為一種可操作的驗證智力的方法。圖靈測試相當于說，如果美國宇航局像一些陰謀論者所堅持的那樣，在偽造月球的問題上做得更好的話，它本可以成功登陸月球的。米切爾指出，使用微不足道的聊天機器人，天真的測試人員可以輕而易舉地通過圖靈測試，但她自己并不對測試本身的有效性做出判斷。 在第二部分中，米切爾闡述了圖像識別和機器學習的困難，特別是深度學習。她從這張黑白照片開始: 一張豐富細節的，且有著故事的照片。人工智能圖像識別程序很難解釋它，除非標注它包含一只狗。 盡管照片中有一些可以辨認出來的東西ー一只狗，一個穿著迷彩服的女人，一束花，一臺筆記本電腦，一句歡迎回家！這張照片講述了一個故事，這就是為什么它被評為2015年50張最佳軍事照片之一的原因?，F有的人工智能程序無法理解它。例如，微軟的 CaptionBot 聲稱“我可以理解任何照片的內容，我會試著像描述任何人一樣描述它”，但在這張照片中卻屢屢失敗，給出了“我現在似乎不舒服”的借口。以后再試。”當我用谷歌圖片搜索的時候，谷歌只找到了那只狗。在做出這個決定之后，谷歌提供了大量“非常相似”的圖片，其中唯一的共同點就是一只狗。 這僅僅是對米切爾關于圖像識別，深度學習程序如何工作，以及它們表面上的成功的脆弱性的更深入討論的介紹。在人工智能領域很有名，但在外界卻鮮為人知(對我來說也是如此) ，你可以把一個可辨認的圖像變成一個明顯相同的圖像，人工智能程序可以自信地認定這個圖像是你喜歡的任何東西，包括一些完全不同的東西。米切爾舉了幾個例子，包括這一對: 一個可識別的圖像可以不知不覺地被改變，這樣它就會被圖像識別軟件誤認。(左) : 原圖: 照片正確識別為一輛校車。(中間) : 應用于原始圖像的差異造成錯誤識別。(右圖) : 一輛校車的照片顯然被誤認為是鴕鳥。 也許更令人震驚的是電視上的雪和抽象的幾何圖案被認定為特定的實體(同樣，非常有信心) : 電視上的雪花圖案和被人工智能識別為特定對象的抽象幾何圖案。 正如米切爾總結的那樣，這表明這些圖像識別程序并沒有學習我們認為它們正在學習的東西。出于某種原因，米切爾將題為“關于可信賴和道德的人工智能”的章節放在第二部分(觀察和學習) ，而不是放在結論部分，因為它更適合放在那里。她用了13頁的篇幅來談論這個話題是不夠的，這個話題甚至在維基百科(wikipedia)上也得到了更為徹底的討論——更不用說成千上萬的網站，甚至整本書了。 在第三部分，學會玩，米切爾恢復了她的熱情和她的熟練掌握。雖然這部分還是很簡短，但她關于機器狗如何學會踢足球和電腦程序如何學會玩Atrai游戲機、國際象棋和圍棋的討論是清晰和有益的。她對這種成功所帶來的輕率的熱情表示懷疑: “這么說可能有點奇怪，但是... ... 學校象棋俱樂部里最低等的幼兒園小朋友都比 AlphaGo 聰明。” 在我看來，機器在翻譯、閱讀理解等方面達到人類水平的可能性微乎其微，僅僅依靠在線數據，基本上對它們處理的語言沒有真正的理解。 第四部分---- 人工智能遇到自然語言，第五部分---- 意義的障礙---- 之間的界限是任意和多余的，正如米切爾清楚地意識到的，沒有意義，語言就不是自然的。但是她對這兩個主題的討論知識豐富，信息量大，而且很有說服力，特別是關于類比的主題，這也是她博士論文的主題(發表為《作為感知的類比: 計算機模型》)。 在這里，她也有充分的理由表示懷疑: “在我看來，機器在翻譯、閱讀理解和類似方面達到人類水平的可能性極小，完全來自網絡數據，而且基本上對它們處理的語言沒有真正的理解。語言依賴于常識性的知識和對世界的理解。缺乏人性化的理解... ... 難道不可避免地導致他們脆弱、不可靠、易受攻擊嗎？沒有人知道答案，這個事實應該讓我們所有人停下來。” 在倒數第二章中，米切爾用一張照片重申了她貫穿全書的觀點，就像士兵回家一樣，這是任何人工智能程序都無法理解的(奧巴馬總統在體重秤上增加磅數的幽默) : 一張超出人工智能程序理解范圍的照片: 奧巴馬總統在同事稱體重時偷偷地增加了幾磅。 最后一章《問題、答案和推測》遠沒有米切爾所假裝的那樣具有推測性: “從這本書中得到的信息是，我們人類傾向于高估人工智能的進步，低估我們自身智能的復雜性。今天的人工智能遠非一般智能，我不相信機器‘超級智能’會出現在任何地方。” 《AI 3.0》是對人工智能最近令人印象深刻的成功及其長期(或許是固有的)局限性、問題和失敗的高度可讀的解釋。最引人注目的是，與像我這樣持懷疑態度的局外人不同，這本書的作者在她的整個職業生涯中一直積極從事該領域的工作。 來源：人工智能學家 微信號
責任編輯：向太陽
特別申明：
1、本文只代表作者個人觀點，不代表本站觀點，僅供大家學習參考；
2、本站屬于非營利性網站，如涉及版權和名譽問題，請及時與本站聯系，我們將及時做相應處理；
3、歡迎各位網友光臨閱覽，文明上網，依法守規，IP可查。
作者 相關信息
內容 相關信息
人類傾向于高估人工智能的進步，低估自身智能的復雜性-讀《AI 3.0》
2021-02-15高奇琦｜為什么要發展人工智能、區塊鏈？它們涉及國家治理現代化的兩大革命
2019-11-30? 昆侖專題 ?
? 高端精神 ?
? 新征程 新任務 新前景 ?
? 習近平治國理政 理論與實踐 ?
? 我為中國夢獻一策 ?
? 國資國企改革 ?
? 雄安新區建設 ?
? 黨要管黨 從嚴治黨 ?
熱點排行
建言點贊
圖片新聞
