“人工智能的發(fā)展是一把雙刃劍，既是機(jī)遇也是挑戰(zhàn)。”“如何回應(yīng)人工智能帶來的挑戰(zhàn)？我們可以從中華文明和中國式現(xiàn)代化中汲取智慧。”
“用中國人的智慧趨利避害，我們要超前十年、二十年、三十年把問題看清楚想清楚。”
“通用人工智能會催生重大的技術(shù)和產(chǎn)業(yè)創(chuàng)新，可能會導(dǎo)致行業(yè)生態(tài)的重新洗牌。”
在東方衛(wèi)視8月7日播出的《這就是中國》第197期節(jié)目中，復(fù)旦大學(xué)中國研究院院長張維為教授和清華大學(xué)人工智能研究院常務(wù)副院長孫茂松教授，共同探討人工智能的現(xiàn)狀與前景。
2023年6月26日，我應(yīng)邀來到孔子故里山東曲阜尼山腳下與來自全球政企學(xué)研各領(lǐng)域的數(shù)百名代表，共同探討“人工智能時(shí)代：構(gòu)建交流、互鑒、包容的數(shù)字世界”這樣一個(gè)主題。在這次世界互聯(lián)網(wǎng)大會數(shù)字文明尼山對話上，我有一個(gè)發(fā)言，現(xiàn)在跟大家匯報(bào)一下，是我的一孔之見，供大家參考。人工智能的發(fā)展是一把雙刃劍，既是機(jī)遇也是挑戰(zhàn)。從機(jī)遇來說，它可以極大地方便人類的工作、生活；從挑戰(zhàn)來看，它可能顛覆許多產(chǎn)業(yè)，甚至被武器化，最終傷害整個(gè)人類。如何回應(yīng)人工智能帶來的挑戰(zhàn)？我認(rèn)為我們可以從中華文明和中國式現(xiàn)代化的成功中汲取智慧。首先，作為一個(gè)“文明型國家”，中華文明延續(xù)五千多年至今仍然生機(jī)勃勃，而且實(shí)現(xiàn)了現(xiàn)代國家的轉(zhuǎn)型，一個(gè)重要的原因是中華文明具有擁抱新事物同時(shí)能夠“守正創(chuàng)新”的特點(diǎn)。中國人擁抱新事物的熱情舉世罕見，“茍日新，日日新，又日新”這一千年古訓(xùn)，一直激勵著我們推進(jìn)中國的現(xiàn)代化事業(yè)。短短數(shù)十年間，中國完成了從農(nóng)業(yè)文明邁入工業(yè)文明，又邁入信息文明的偉大變革。中國今天已經(jīng)處在包括人工智能在內(nèi)的第四次工業(yè)革命的全球第一方陣。其次，中華文明具有源遠(yuǎn)流長的辯證思維的傳統(tǒng)，對于不那么具有確定性的新事物，我們往往允許試驗(yàn)，并以“趨利避害”的辯證思維加以對待，力求最大限度地發(fā)揮它對人類生活的有利一面，減少其有害的一面。我們的執(zhí)政理念和做法，包括代表先進(jìn)生產(chǎn)力發(fā)展的要求，包括順勢而為，包括在發(fā)展過程中解決可能出現(xiàn)的各種問題等等，這些本身都包含了中華文明的許多政治智慧。中華文明是見過大世面的文明，它很少驚慌失措，而是勇敢地面對挑戰(zhàn)，既來之，則安之，盡可能實(shí)現(xiàn)人民利益最大化、損害最小化這樣一個(gè)目標(biāo)。
【張維為院長出席2023年世界互聯(lián)網(wǎng)大會數(shù)字文明尼山對話】第三點(diǎn)，中國式現(xiàn)代化的成功背后是源遠(yuǎn)流長的“民本主義”文化傳承，也就是“民為邦本，本固邦寧”，它體現(xiàn)在“以人民為中心”的發(fā)展理念中。國家的任何政策，包括互聯(lián)網(wǎng)政策、人工智能的發(fā)展與治理的有關(guān)政策，都首先聚焦?jié)M足人民對美好生活的追求，為老百姓提供用得上、用得起的信息服務(wù)。這也是為什么中國成了世界上唯一的一個(gè)做到了“一部手機(jī)、全部搞定”的國家。這與另外一些國家相比完全不一樣。那些國家從一開始就把互聯(lián)網(wǎng)發(fā)展“政治化”，然后在全世界范圍內(nèi)推動“顏色革命”，中國的做法和它形成了鮮明的對照。但這種損人不利己的做法最終也導(dǎo)致這些國家本身內(nèi)部出現(xiàn)了民粹主義泛濫以及社會嚴(yán)重分裂、嚴(yán)重撕裂的局面。民本主義理念還意味著中國式現(xiàn)代化關(guān)注對資本力量的必要引領(lǐng)，從而在整個(gè)國家層面形成一種政治力量、社會力量、資本力量，有利于絕大多數(shù)人的利益平衡，而非資本利益獨(dú)大，那最終會損害廣大公眾的利益。第四，中華文明具有“推己及人”“和而不同”的文化傳統(tǒng)，這十分有利于推動不同國家、不同文化乃至不同文明之間的互學(xué)互鑒。中國過去數(shù)十年就是這樣一路走來而且受益良多。今天，面對人工智能的挑戰(zhàn)，沒有一個(gè)國家能夠置身事外、獨(dú)善其身。唯有世界各國攜手努力，共同維護(hù)人類的整體利益，共同遏制可能出現(xiàn)的人工智能濫用，從而使人工智能能夠真正地造福人類，而非少數(shù)人，少數(shù)國家。第五，中華文明具有“兼聽則明”“有事好商量”的文化傳承。我曾在不同的場合談過中國“微信革命”背后的中華文明密碼。我說，相比其它語言，中文是世界上最凝練的語言，一部手機(jī)的小小屏幕上，中文可以處理的信息遠(yuǎn)遠(yuǎn)多于其它語言。此外，中國文化具有“兼聽則明”“兼收并蓄”“有事好商量”歷史傳承，中國人可以隨時(shí)隨地拉個(gè)微信群來商量事情。所以，這一切都為“微信革命”提供了非常寶貴的人文基礎(chǔ)。現(xiàn)在我們討論人工智能的全球治理，可以從中華文明中借鑒我們最擅長的協(xié)商民主。國際社會確實(shí)有太多的技術(shù)問題、倫理問題、法律問題等等，需要共同商量、民主協(xié)商，才能真正地實(shí)行有效的管控乃至問題的解決。同時(shí)，我們要十分警惕且堅(jiān)決反對世界上少數(shù)國家奉行唯我獨(dú)尊、以鄰為壑的立場，他們甚至提出要把中國排除在人工智能的“行為規(guī)則”之外，他們說要“搶在中國之前”制定人工智能發(fā)展的規(guī)則。我想他們的做法是非常短視的，也是不可能成功的。第六，中華文明從來都把危機(jī)看作是“危”與“機(jī)”并存，人工智能的時(shí)代就是風(fēng)險(xiǎn)與機(jī)遇并存的時(shí)代。人類社會隨著全球化和互聯(lián)網(wǎng)發(fā)展早已日益密切地聯(lián)系在一起，一榮俱榮、一損俱損，唯有攜手合作，國際社會才能應(yīng)對人工智能時(shí)代的各種挑戰(zhàn)，才能共同更好地構(gòu)建人類命運(yùn)共同體，我想這也是唯一正確的方向。如果人類社會能夠沿著這種積極的方向前行，那么從一個(gè)更為積極的角度來看，人工智能的合理發(fā)展也符合馬克思提出的共產(chǎn)主義社會的理想，也就是說在人類經(jīng)濟(jì)和技術(shù)高度發(fā)達(dá)之后，人類的必要勞動時(shí)間將大大減少，人類將擁有更多的閑暇時(shí)間，體力勞動和腦力勞動之間的差別、城鄉(xiāng)之間的差別都將消失，人類也會因此而獲得更大的自由和幸福。
我長期從事人工智能研究，現(xiàn)在嘗試從技術(shù)角度延展談一下。去年年底ChatGPT異軍突起、一鳴驚人，標(biāo)志著通用人工智能開始走進(jìn)人類的視野。而這一點(diǎn)，在一年以前還是不可想象的。下面簡單討論一下ChatGPT的主要技術(shù)特點(diǎn)。它的核心算法是“下一個(gè)詞預(yù)測”，是由這個(gè)基本策略驅(qū)動的語言生成模型，貌似簡單，但其實(shí)不簡單。舉個(gè)例子，你隨便給機(jī)器一句話，然后在任何一個(gè)地方停下來，比如說，我昨天晚上吃了。“昨天晚上吃了”叫上文，給定這個(gè)上文去猜下一個(gè)詞應(yīng)該是什么詞，這叫“下一個(gè)詞預(yù)測”。但下一個(gè)詞我是告訴電腦了，就是“飯”，所以算法就會調(diào)動它的人工神經(jīng)網(wǎng)絡(luò)機(jī)制，使得下一個(gè)詞出現(xiàn)的應(yīng)該是“飯”。聽起來就這么簡單，但“把這個(gè)事告訴它”這件事，實(shí)際上是一個(gè)了不起的策略，叫自監(jiān)督學(xué)習(xí)。不需要人告訴它，機(jī)器自己就知道答案。這一點(diǎn)保證了這個(gè)算法可以對互聯(lián)網(wǎng)上任何一個(gè)句子來做這個(gè)操作，不需要人的絲毫介入。
我在互聯(lián)網(wǎng)規(guī)模的語料庫上去統(tǒng)計(jì)，就會得到不同概率分布，比如我昨天晚上吃了“飯”，它有一個(gè)概率分布，比如說3.5%；我昨天晚上吃了“菜”，比如說2.8%；我昨天晚上吃了“桌子”，這個(gè)概率分布一下就變很小?？傊?，你可以得到一個(gè)給定了上文、它下一詞的概率分布。那么，這大概有多少詞呢？詞典有多大，它就有多大。比如，《現(xiàn)代漢語詞典》大概有五六萬詞，它就有五六萬個(gè)選項(xiàng)。比如你要基于字來生成，《康熙字典》四萬八千個(gè)字左右，它就有四萬八千個(gè)選項(xiàng)。靠著這個(gè)大數(shù)據(jù)，概率統(tǒng)計(jì)就可以做得比較準(zhǔn)確。如果再往前挪一個(gè)詞，上文就變了。比如“我昨天晚上吃了北京”，第一你知道它肯定沒說完，第二大概率后面就應(yīng)該出現(xiàn)“烤鴨”“烤肉”這類詞。“烤鴨”的概率我估計(jì)能到百分之二三十。如果說“我昨天晚上吃了上海”，那后面出現(xiàn)“小籠包”，也是大概率；第二估計(jì)是上海小餛飩。這樣它的分布就變了。所以在大數(shù)據(jù)的加持下，我任意給定一個(gè)上文，就會得到一個(gè)比較合理的下一個(gè)詞的概率分布。這一點(diǎn)實(shí)際上是了不得的，因?yàn)樯衔氖菬o限的。這件事實(shí)際上，一是靠大數(shù)據(jù)，再一個(gè)是靠大模型，即深層神經(jīng)網(wǎng)絡(luò)，也就是基于Transformer架構(gòu)的深層神經(jīng)網(wǎng)絡(luò)，才可以把這件事做出來。當(dāng)然，要做出來還需要大算力。大家都很熟悉，要做出來，這“三個(gè)大”缺一不可。一旦有了這套東西，你就可以讓機(jī)器生成任何你想生成的句子。這是它的一個(gè)基本機(jī)理。這種生成式算法具有強(qiáng)大的文本內(nèi)容生成能力。舉個(gè)例子，比如我們現(xiàn)在讓機(jī)器寫五言律詩，每句五個(gè)字，一共四十個(gè)字。你對每一個(gè)字的選擇，就好像你走路走到一個(gè)路口，有多少個(gè)分叉呢？比如《康熙字典》四萬八千個(gè)字，大概是四萬八千個(gè)選項(xiàng)，這里邊有的路比較寬，那接續(xù)比較自然；有些路是很窄的，可能根本不能接續(xù)，那四萬八千個(gè)選項(xiàng)不可能都是通暢的。我假設(shè)平均一個(gè)路口后邊有一百個(gè)字的選擇，這應(yīng)該是比較保守的估計(jì)，那么能夠產(chǎn)生多少首不同的比較通順的五律，我們可以簡單算一算，一個(gè)路口，如果有一百種可能性，總共連續(xù)四十個(gè)路口就是一百的四十次方，理工科同學(xué)一看這個(gè)數(shù)就害怕了。給大家一個(gè)形象的比較，全宇宙中的原子加起來大概是這個(gè)數(shù)。換句話說，我們?nèi)祟愖怨诺浇窳鱾飨聛淼奈迓刹怀^五十萬首，和我剛才講的數(shù)相比，這五十萬首只是什么？不能叫滄海一粟，叫“銀河系一粟”。所以它有巨大的創(chuàng)作空間，大多數(shù)五律我們?nèi)祟惗紱]有來得及寫出來。這種方式就使得我們的創(chuàng)作形式產(chǎn)生了變化。比如以前要寫詩，你自己殫思竭慮，會去琢磨怎么寫出新意。但人工智能這個(gè)模型就變成，我可以把整個(gè)空間生成出來，天文數(shù)字的五律詩詞生成出來，然后你來挑。如果你對其中個(gè)別字不滿意，就去改一改，所以它的模式就變了。挑的過程既可以讓人去挑，也可以讓機(jī)器去挑。比如說我們?nèi)绻讲砜冢驼覍挼牡廊プ撸隙ㄊ峭樀?，但新意就不夠；如果按窄的道路去走，非常具有新意，但有可能不通順?？梢?，這種模型的創(chuàng)造能力不可限量。以ChatGPT為典型代表的通用人工智能會催生重大的技術(shù)和產(chǎn)業(yè)創(chuàng)新。比如ChatGPT和搜索引擎結(jié)合就很有可能催生下一代搜索引擎。它也可能帶來產(chǎn)業(yè)生態(tài)的重新洗牌，比如ChatGPT最近把插件和一些大的知名公司合作，比如跟旅游公司合作，用戶去訂酒店訂機(jī)票的時(shí)候，就用人類語言去跟它講，可以表達(dá)非常復(fù)雜的訴求，假設(shè)我想在王府井附近訂一個(gè)酒店，最好離購物區(qū)近一點(diǎn)，但又不要太吵，價(jià)錢適中，這個(gè)訴求以前可能需要費(fèi)半天勁才能解決，但如果和ChatGPT合作，就有可能比較好地理解你的意愿，然后快速給你訂到你希望的酒店。剛開始可能還不太行，但你在跟它的交互過程中，最后訂了這家酒店，相當(dāng)于你給它做了深層次的語義標(biāo)注，它就會越做越好?？梢栽O(shè)想它如果能夠很好地理解用戶訂酒店的訴求，一句話把這事搞定，那么其他的辦旅游的網(wǎng)站應(yīng)該機(jī)會就不大了。現(xiàn)在ChatGPT和衣、食、住、行、用、教育等行業(yè)有影響的網(wǎng)站結(jié)合，未來會影響行業(yè)生態(tài)，可能導(dǎo)致行業(yè)生態(tài)的重新洗牌。這是更值得我們警惕的，因?yàn)樯鷳B(tài)競爭是最高形態(tài)的競爭。4月，中共中央政治局召開會議，提出要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風(fēng)險(xiǎn)，不管我們愿意還是不愿意，人類通用人工智能之路已經(jīng)開啟，它是不以人的意志為轉(zhuǎn)移的。正如張維為教授所指出的，前路充滿著巨大的機(jī)遇和挑戰(zhàn)，確定性與不確定性并存，這將是對人類智慧的一次重大考驗(yàn)。我就講到這里，謝謝大家。
主持人：謝謝兩位教授的演講，因?yàn)樯墒饺斯ぶ悄艿某霈F(xiàn)，也讓普通人覺得人工智能離我們并不遙遠(yuǎn)。想問一下孫教授，人工智能將來到底會怎么樣地進(jìn)入我們的生活？孫教授：其實(shí)只要是人和機(jī)器用人類的語言打交道，所有這些場合它都會發(fā)揮重要作用。比如說現(xiàn)在中國老齡化程度越來越嚴(yán)重，老年人很孤獨(dú)，如果設(shè)計(jì)一個(gè)人形機(jī)器人，配上ChatGPT，讓機(jī)器人去理解并根據(jù)人的某種偏好，來產(chǎn)生回答，就可以用作陪伴老人的機(jī)器人，而且是個(gè)性化的。這就是一個(gè)很大的產(chǎn)業(yè)。
主持人：因?yàn)槲覀兌贾乐袊谶~入一個(gè)老齡化社會，未來健康產(chǎn)業(yè)是巨大的一片藍(lán)海，人工智能在這個(gè)領(lǐng)域里會有很大的作用。張教授：最近華為發(fā)布的盤古大模型，賦能千行百業(yè)，比方說制藥業(yè)，它可以降低藥物研發(fā)成本百分之七十，以最快速度從海量藥物分子篩選出最適合的小分子。而且關(guān)鍵是ChatGPT用的是英偉達(dá)的芯片，盤古用的是華為自己研發(fā)的昇騰芯片，這也是一個(gè)重要的突破。主持人：我還可以舉個(gè)例子，比如給農(nóng)業(yè)生產(chǎn)賦能。種植農(nóng)作物的時(shí)候，通過人工智能的一些設(shè)備輔助，可以非常精準(zhǔn)地感受到植物的生長狀況，可以讓生長周期再快一點(diǎn)或者再緩一點(diǎn)來滿足外界的需求。所以千行百業(yè)都可以接受人工智能的服務(wù)。當(dāng)然我們剛才說的是人工智能賦能的一部分，為什么我們會這么關(guān)心人工智能？是因?yàn)榇蠹铱吹剿鼛淼哪芰恐?，也有?dān)憂。人工智能未來會不會產(chǎn)生一些顛覆性的變革？張教授：我看到有一個(gè)報(bào)道，關(guān)于美國國防部的一項(xiàng)試驗(yàn)，說是一個(gè)人控制無人機(jī)打仗，然后他給無人機(jī)下命令說你必須停止發(fā)射，結(jié)果無人機(jī)把這個(gè)指揮員打死了。因?yàn)樗ㄟ^大數(shù)據(jù)積累判斷，認(rèn)為你的指令不符合我的利益，就把你打死了。但是后來美國國防部說這不是真實(shí)發(fā)生的事情，而只是他們預(yù)設(shè)的一個(gè)場景，但他辟謠辟得晚了。同時(shí)，人們也覺得這種情況是完全可能的。主持人：類似這種情節(jié)，我們在科幻電影里看到過。以往可能大家覺得這個(gè)事離我們很遙遠(yuǎn)，但像這種通用的生成式人工智能的出現(xiàn)，突然一下覺得這個(gè)隱憂不得不重視起來。現(xiàn)在有不少的科學(xué)家都已經(jīng)提出來，生成式人工智能的發(fā)展要緩一緩。孫教授：剛才張教授舉的那個(gè)例子，其實(shí)專用人工智能就可以，而且我相信它已經(jīng)是現(xiàn)實(shí)的，已經(jīng)不是科幻電影了。比如把物體識別能力再加上某些定位，再加上機(jī)器人有執(zhí)行能力，所以我覺得應(yīng)該已經(jīng)存在危險(xiǎn)。主持人：孫教授能否給大家做一個(gè)解讀，我們現(xiàn)在整個(gè)人工智能的發(fā)展到了什么樣的水平和狀態(tài)？在上海舉行的世界人工智能大會，每年都有熱詞，今年討論的就是大模型。您剛說“三大”，大數(shù)據(jù)、大模型、大算力，您能不能給我們做個(gè)介紹，世界人工智能的領(lǐng)域和中國目前是怎樣的發(fā)展水平？孫教授：我們國家和全球在人工智能領(lǐng)域的發(fā)展水平對比，在ChatGPT之前應(yīng)該說差不太多，一般美國是領(lǐng)跑，我們是跟跑，這是一個(gè)總的狀況，但我們跟得比較快，我覺得比美國差半個(gè)肩膀。但這次ChatGPT出來，一下子把我們甩掉了一百米。從通用人工智能角度來看，我們和ChatGPT有非常大的距離。但從它的專用能力來看，大模型有專用能力，應(yīng)該是差不多。通用能力，可以有些例子去測試，ChatGPT4，你給它一些問題，回答得還都比較靠譜。我們自己的系統(tǒng)，有時(shí)候測試會產(chǎn)生一個(gè)不錯的句子，你會覺得懸的心好像放下了，但實(shí)際上還是有很大差距。主持人：這一次世界人工智能大會上有幾十家大模型的相關(guān)院校、廠家、企業(yè)等，都拿出自己的作品來參與展覽。大家意識到，我們在通用型的生成式人工智能這一塊有比較大的距離，所以很多設(shè)計(jì)方、科研機(jī)構(gòu)都開始發(fā)力追趕。張教授：中國人看得很清楚，我們的差距在哪里，哪些地方是有優(yōu)勢的，哪些地方是有劣勢的，然后想辦法彌補(bǔ)。我看了這次華為發(fā)布的一些報(bào)道，他們做事情也是從源頭，包括從芯片和大模型開始做很多事情。孫教授：我剛才講，我們的大模型的專用性還是沒問題的，它即使不具備通用性，但結(jié)合各個(gè)行業(yè)能發(fā)揮很大的效果。張教授：任正非有一個(gè)判斷：人工智能軟件平臺對人類社會的直接貢獻(xiàn)可能不到2%，而98%應(yīng)該是對經(jīng)濟(jì)、社會等各行各業(yè)的促進(jìn)，所以從政府治理到金融、到煤炭、礦山、港口，華為都在做。盤古大模型與中國這種全球最強(qiáng)大的制造業(yè)、最完整的產(chǎn)業(yè)鏈相結(jié)合，這是美國所不具備的。
主持人：現(xiàn)在我們討論通用的部分，可能未知數(shù)比較多。在技術(shù)上我們還是要抓緊升級迭代要追趕上，同步地再來考慮，它可能會產(chǎn)生的負(fù)面影響，到底怎么去約束它。前段時(shí)間網(wǎng)信辦等七個(gè)部門聯(lián)合發(fā)布了《生成式人工智能的服務(wù)管理暫行辦法》的文件，8月15日開始施行。這里頭確定了很多管理邊界，比如數(shù)據(jù)不能過度收集等等。但是我注意了一下，它的原則叫包容審慎、分類分級監(jiān)管。張教授：我覺得這四個(gè)字很重要，包容審慎，“包容”放在前面，那就是先鼓勵你發(fā)展，容忍你發(fā)展，然后再審慎對待。之前有個(gè)征求意見稿，這個(gè)是新的版本，有一些變化。其中一個(gè)大的變化是，之前的監(jiān)管部門主要是網(wǎng)信辦，現(xiàn)在包括了教育部、發(fā)改委、工信部、公安部等。另外對于社會動員這類具有輿論屬性的人工智能是要嚴(yán)管的。我覺得這也是很合理的考量。孫教授：應(yīng)該說這個(gè)辦法還是充分吸收了各方面的意見，比如剛才說的包容審慎，這個(gè)原則特別重要。因?yàn)檫@種生成式的模型，一方面它生成能力很強(qiáng)，同時(shí)它是概率式的。概率式模型就會產(chǎn)生幻覺現(xiàn)象，這是必然的。你想你一個(gè)人走路，如果在每個(gè)路口都有四萬八千個(gè)分岔口，然后我讓你走二十個(gè)岔口，你還能精準(zhǔn)地走到你希望到的那個(gè)地方嗎？不太可能。所以產(chǎn)生問題是必然的。如果監(jiān)管辦法是一個(gè)問題都不能出現(xiàn)，那這個(gè)技術(shù)就沒法發(fā)展，我注意到文件中提到要分類分級監(jiān)管。這就很好，它不能零容忍，零容忍的話，這個(gè)技術(shù)就搞死了。但另一方面，確實(shí)是錯誤要越小越好，這實(shí)際上對技術(shù)也是提出挑戰(zhàn)。比較好的監(jiān)管，它會促進(jìn)技術(shù)精準(zhǔn)定位。適度監(jiān)管，對技術(shù)本身也是一個(gè)發(fā)展。主持人：此外，像ChatGPT4這樣的生成式人工智能的出現(xiàn)，也讓大家討論另外一個(gè)話題，就是科技向善和科技發(fā)展之間的關(guān)系，包括像職業(yè)創(chuàng)造和職業(yè)替代之間的關(guān)系。比如科技公司，都可以用生成式人工智能來寫初級代代碼，有一些從事相關(guān)工作的人可能就失去了工作機(jī)會，包括從事初期創(chuàng)意的，像初期文案，初期策劃，可能都會失去工作。這確實(shí)是一個(gè)問題。孫教授：通用人工智能肯定會替代一部分人的工作，特別是重復(fù)性的、相對低端的智力勞動。從好的角度來看，是使得生產(chǎn)效率大大提高，生產(chǎn)成本降低，因?yàn)椴恍枰@么多人了；不好的方面，是對個(gè)人來說，可能就會有一部分人失業(yè)。從工業(yè)革命到現(xiàn)在都是這個(gè)規(guī)律。所以這塊應(yīng)該是不可避免的。但它不會取代這個(gè)行業(yè)。比如寫代碼，好像谷歌測了一下ChatGPT4，基本上可以給它18萬美金的年薪，但還是我剛才講的，這個(gè)模型存在幻覺現(xiàn)象，它寫的代碼不能保證都是對的。所以一定是后續(xù)需要有人來校對、審視，其實(shí)是對人提出了更高要求。主持人：就像您說可能還會催生出一些新的工作機(jī)會，創(chuàng)造就業(yè)也好，還是給所有人提供機(jī)會也好，它講究一個(gè)公平性，并不是所有人都有那么好的條件來應(yīng)對這種新的創(chuàng)造所帶來的挑戰(zhàn)。所以其實(shí)我是蠻擔(dān)心這個(gè)問題的，就是生成式人工智能的活躍發(fā)展，對于普通人來說，沖擊會有多大，怎么保護(hù)大家的權(quán)益？孫教授：現(xiàn)在有個(gè)詞叫終身學(xué)習(xí)。你不學(xué)習(xí)就落后，落后可能就丟掉工作，這其實(shí)是正常的。我想這個(gè)問題要換個(gè)角度來看，ChatGPT有嚴(yán)重的局限性，它不是一個(gè)基于理性思辨的算法，而是一個(gè)概率式的算法。這個(gè)東西要達(dá)到?jīng)Q策的層面，現(xiàn)在是做不到的。另外確實(shí)也會產(chǎn)生新的行業(yè)，新的職業(yè)創(chuàng)造。主持人：或者我們要放寬視野，就像我們剛才講了它會賦能千行百業(yè)，可能會在千行百業(yè)當(dāng)中，根據(jù)自己行業(yè)發(fā)展的特性會創(chuàng)造出新的職業(yè)崗位，這是有機(jī)會的。孫教授：將來會出現(xiàn)這種情況，人少了的話，機(jī)器反而能夠彌補(bǔ)我們勞動力短缺的問題。再有，我干嘛一周一定都要工作五天八個(gè)小時(shí)。我可以少工作，去生活；只要制定合適的規(guī)則，讓大家都能享受人工智能帶來的這種好處，就可行。主持人：所以我們的政府、我們的社會要做管理要做服務(wù)，其實(shí)就是希望把人工智能的正面部分發(fā)揮到最大，它提出來的挑戰(zhàn)，或者可能會由此帶來的一些管理上的難題，要更加花力氣去解決。就像您剛剛說的，可能有些相對弱勢的群體會受到挑戰(zhàn)，那么可能政府就要很好地去思考，在勞動創(chuàng)造上、在其他崗位的給予上，怎么去保護(hù)這樣的人群。因?yàn)樯鐣绞冀K是我們非常重要的追求目標(biāo)。張教授：放寬思路，最終可能是必要勞動的大幅減少。比方說過去是每天八個(gè)小時(shí)，一周工作五天，以后每個(gè)星期工作三天、至兩天，獲得同樣的收入、甚至更高的收入，你將有更多的閑暇時(shí)間，我們要放眼未來。觀眾：兩位老師好，主持人好，我叫王洪丹，畢業(yè)于香港大學(xué)，同樣是一名互聯(lián)網(wǎng)從業(yè)人員。剛剛兩位老師多次提到人工智能是一把雙刃劍，今年未來科學(xué)研究所也發(fā)表一篇公開信，呼吁所有的人工智能實(shí)驗(yàn)室停止訓(xùn)練比ChatGPT4更強(qiáng)大的人工智能模型。一方面是擔(dān)憂人工智能可能會產(chǎn)生一些誤導(dǎo)性信息，另一方面是擔(dān)憂人工智能有可能會超越我們?nèi)祟惖乃季S，甚至是取代它。在這樣一個(gè)人工智能發(fā)展的時(shí)代下，安全和公眾的信任接下來將如何發(fā)展呢？謝謝。張教授：我個(gè)人感覺大概這樣的，可能有點(diǎn)像核能、原子彈發(fā)展的歷史。當(dāng)核能開始發(fā)展的時(shí)候，大家相當(dāng)積極，但產(chǎn)生原子彈后大家非常悲觀，包括愛因斯坦，他的理論為此作出過貢獻(xiàn)，但他呼吁一定要停止核武器，他變成反戰(zhàn)的和平運(yùn)動創(chuàng)始人之一。你剛才講的科學(xué)家們的呼吁，我完全可以理解。但是我自己研究國際政治和國際關(guān)系，我的判斷是說不定人類還得走過去核武器發(fā)展的老路，還是大家不得不發(fā)展，不得不競爭。你看最近的報(bào)道，英國跟美國在談要在今年下半年在英國開一個(gè)人工智能國際會議，他們明確地說，要趕在中國人之前制定規(guī)則，要讓所謂的“民主國家”團(tuán)結(jié)在一起。當(dāng)然，我認(rèn)為這將是徒勞無益的，因?yàn)橹袊绹呀?jīng)處在第一方陣。但我擔(dān)心最終還是要通過這樣的競爭，經(jīng)過摩擦、斗爭、交鋒到一個(gè)點(diǎn)上，人類智慧和理性才會回來。就跟核武器一樣，甚至已經(jīng)使用過了，最后超級大國之間、核武器國家之間才通過談判達(dá)成各種各樣的、比如核裁軍協(xié)議等等，但執(zhí)行時(shí)候還會碰到很多困難。在人工智能領(lǐng)域內(nèi)，我們可能也會經(jīng)歷這么一個(gè)跌宕起伏的過程?？傊也皇鞘謽酚^。
今年3月，圖靈獎得主Yoshua Bengio、伯克利計(jì)算機(jī)科學(xué)教授Stuart Russell、特斯拉CEO埃隆·馬斯克、蘋果聯(lián)合創(chuàng)始人Steve Wozniak 等在內(nèi)的數(shù)千名對人工智能關(guān)注的人士發(fā)起一封公開信，呼吁暫停訓(xùn)練比GPT-4更強(qiáng)大的系統(tǒng)，期限為六個(gè)月，理由是這些模型對社會和人類存在潛在風(fēng)險(xiǎn)。孫教授：我同意張教授的判斷。這個(gè)事不以人的意志為轉(zhuǎn)移，除非全球形成共識，否則停不下來。因?yàn)樯婕暗絿腋偁?，甚至是終極競爭，通用人工智能還只是在一個(gè)很初級的階段。現(xiàn)在我們擔(dān)心什么？按它的算法，它現(xiàn)在這個(gè)能力都不應(yīng)該有。但它有了這個(gè)能力，就怕模型再做大以后會產(chǎn)生別的東西。孫教授：對。我剛才演講專門講了不確定性和確定性并存。當(dāng)前程不明確的時(shí)候，大家一定想要去一探究竟，這里邊主要的動力其實(shí)是來自科學(xué)、科學(xué)研究。因?yàn)樽寵C(jī)器具有智能，初心實(shí)際上是來自科學(xué)。所以科學(xué)家就會往前走，但是他走到那一步，必然會影響社會，必然會影響產(chǎn)業(yè)，這件事就復(fù)雜化了。張教授：這個(gè)點(diǎn)還沒有到，人類就是這樣前進(jìn)的。我想到德國哲學(xué)家康德說過一句名言，大意是誰都知道戰(zhàn)爭不好，和平好。但最終可能還是要通過無數(shù)的戰(zhàn)爭才能實(shí)現(xiàn)和平，所以他認(rèn)為人應(yīng)該有智慧直接擁抱和平，而不是通過戰(zhàn)爭。但遺憾的是人類歷史往往不是這樣發(fā)展的。這是很有哲理的。我希望我們?nèi)祟惖闹腔勰軌蛟缫稽c(diǎn)覺悟到這一點(diǎn)，然后形成共識一起來做事情，用中國人的智慧趨利避害，我們要超前十年、二十年、三十年把問題看清楚想清楚。觀眾：兩位老師好，主持人好，我叫劉浩，是一位科技行業(yè)的創(chuàng)業(yè)者?，F(xiàn)在世界各國都認(rèn)識到人工智能是關(guān)系到國家競爭和戰(zhàn)略博弈的一個(gè)關(guān)鍵因素，但是也沒有形成一個(gè)統(tǒng)一的治理模式。我的問題就是現(xiàn)在像歐盟、美國他們有怎樣的規(guī)范和治理？如何更好地推動人工智能技術(shù)在多元文化中的交流，謝謝。張教授：很多差別已經(jīng)明顯存在了。我們過去討論人權(quán)時(shí)候也說過，像歐洲很多國家，包括法國這樣的國家，到現(xiàn)在都認(rèn)為人臉識別是侵犯人權(quán)，但中國人擁抱新事物的熱情，真的是在基因里的，同時(shí)我們能夠守正創(chuàng)新，趨利避害，在發(fā)展過程中解決可能出現(xiàn)的問題。至于國際標(biāo)準(zhǔn)的制定，某種意義上，因?yàn)橹袊鴳?yīng)用場景和應(yīng)用實(shí)踐非常之豐富，我覺得中國現(xiàn)在自己制定的、哪怕是中國國內(nèi)的各種標(biāo)準(zhǔn)，都可能產(chǎn)生全球的影響。比方說，你現(xiàn)在出門，走半個(gè)小時(shí)，被拍了一百次，實(shí)際上我們的公安系統(tǒng)如果要查人臉識別等，它是有一套比較嚴(yán)格的程序的。再比方說，我們的邊檢要有明確的授權(quán)才能查看你的手機(jī)和電腦，而美國的邊檢可以任意扣押、查看你的手機(jī)和電腦，這方面我們管理程序已經(jīng)比美國嚴(yán)格多了。孫教授：國外特別是歐洲，包括聯(lián)合國對人工智能的科技倫理，這幾年出臺了幾個(gè)文件。我覺得主要的原則界定得還是比較清楚的。像美國，今年在美國總統(tǒng)科技顧問委員會下面專門成立了一個(gè)生成式人工智能的工作委員會，相當(dāng)于子委員會。其實(shí)在人工智能科技倫理的大原則下，跟我們有很多是相通的，我認(rèn)為這方面應(yīng)該在聯(lián)合國框架下加強(qiáng)國際對話，盡早形成共識?，F(xiàn)在關(guān)鍵是在執(zhí)行層面對這一原則的界定可能有問題。比如說剛才講的隱私，保護(hù)隱私無論東西方都是提倡的，這是一個(gè)原則，大家都一樣，但到具體領(lǐng)域比如說視頻這塊你怎么處理，這其實(shí)又跟文化有關(guān)。所以擺到桌面上，大家心平氣和地談，其實(shí)是有可能達(dá)成某種共識的。這一塊我覺得應(yīng)該盡早制定國際性準(zhǔn)則。比如網(wǎng)信辦等七部門發(fā)布的規(guī)定，再早幾年科技部也有關(guān)于人工智能科技倫理的規(guī)定。這都為我們進(jìn)行國際對話，打下了非常好的基礎(chǔ)。（主講嘉賓：張維為，復(fù)旦大學(xué)中國研究院院長、教授，昆侖策研究院高級研究員；孫茂松，清華大學(xué)人工智能研究院常務(wù)副院長、教授。來源：昆侖策網(wǎng)【授權(quán)】，轉(zhuǎn)編自“觀察者網(wǎng)”“東方衛(wèi)視”）
【昆侖策研究院】作為綜合性戰(zhàn)略研究和咨詢服務(wù)機(jī)構(gòu)，遵循國家憲法和法律，秉持對國家、對社會、對客戶負(fù)責(zé)，講真話、講實(shí)話的信條，追崇研究價(jià)值的客觀性、公正性，旨在聚賢才、集民智、析實(shí)情、獻(xiàn)明策，為實(shí)現(xiàn)中華民族偉大復(fù)興的“中國夢”而奮斗。歡迎您積極參與和投稿。更多文章請看《昆侖策網(wǎng)》，網(wǎng)址：
特別申明：
1、本文只代表作者個(gè)人觀點(diǎn)，不代表本站觀點(diǎn)，僅供大家學(xué)習(xí)參考；
2、本站屬于非營利性網(wǎng)站，如涉及版權(quán)和名譽(yù)問題，請及時(shí)與本站聯(lián)系，我們將及時(shí)做相應(yīng)處理；
3、歡迎各位網(wǎng)友光臨閱覽，文明上網(wǎng)，依法守規(guī)，IP可查。
劉云：中資工程企業(yè)應(yīng)通過“高點(diǎn)定位” 與愛屋及烏效應(yīng)來力推中國技術(shù)標(biāo)準(zhǔn)
何慶濤：黨建無小事 成長在個(gè)人
