久久99国产精品尤物-国产高清色播视频免费看-男生肌肌往女人桶爽视频-精品国产-91PORNY九色|www.jqdstudio.net

2020年度全球人工智能十大事件

點(diǎn)擊：  作者：記者    來源：人工智能學(xué)家 微信號(hào)  發(fā)布時(shí)間:2021-02-19 10:14:43

 

該文章內(nèi)容轉(zhuǎn)載自戰(zhàn)略前沿技術(shù)

 

當(dāng)前，新一代人工智能技術(shù)在全球蓬勃興起，迅猛發(fā)展，與大數(shù)據(jù)、區(qū)塊鏈、5G等新技術(shù)相互融合、相互因應(yīng)，為經(jīng)濟(jì)社會(huì)發(fā)展尤其是數(shù)字經(jīng)濟(jì)發(fā)展注入新動(dòng)能，正在深刻改變社會(huì)生產(chǎn)生活方式。與此同時(shí)，如何在新技術(shù)變革浪潮中始終立于主動(dòng)，實(shí)現(xiàn)人工智能等前沿科技領(lǐng)域有效治理，確保其持續(xù)健康發(fā)展，也隨之成為一個(gè)國際國內(nèi)、社會(huì)各界都廣泛關(guān)注的重大現(xiàn)實(shí)問題、重大時(shí)代議題。

 

人工智能治理是復(fù)雜性、系統(tǒng)性很高的社會(huì)議題，涵蓋政策、技術(shù)、產(chǎn)業(yè)、法律、傳播、倫理、安全、國際關(guān)系、意識(shí)形態(tài)等諸多領(lǐng)域。與之相應(yīng)，對(duì)國際國內(nèi)人工智能治理標(biāo)志性事件開展研究，也必然需要各界協(xié)同，共同推動(dòng)。為此，人民智庫與曠視AI治理研究院成立聯(lián)合課題組，共同開展“2020年度全球十大人工智能治理事件”遴選、評(píng)議，組織相關(guān)領(lǐng)域權(quán)威專家學(xué)者，從AI與公眾福祉、AI與公平正義、AI政府（企業(yè)）治理、AI系統(tǒng)安全性與數(shù)據(jù)隱私安全等四個(gè)主要維度出發(fā)，依據(jù)理論價(jià)值、實(shí)踐價(jià)值、新聞價(jià)值、研究價(jià)值等四個(gè)評(píng)價(jià)標(biāo)準(zhǔn)進(jìn)行評(píng)議，并面向社會(huì)公眾開展在線問卷調(diào)查，對(duì)人工智能產(chǎn)業(yè)領(lǐng)域從業(yè)者，相關(guān)部委、行業(yè)協(xié)會(huì)領(lǐng)導(dǎo)專家等典型群體進(jìn)行深入訪談。經(jīng)綜合各方面資料、數(shù)據(jù)、意見、觀點(diǎn)，最終得出2020年度全球十大人工智能治理事件。

 

這些事件，反映人工智能治理領(lǐng)域?qū)嵺`探索和前沿趨勢(shì)，反映新一代人工智能技術(shù)的廣泛應(yīng)用前景，反映公眾對(duì)AI（人工智能）治理，引導(dǎo)科技向善，助力政府、機(jī)構(gòu)、企業(yè)的多層次、多樣化參與，通過新一代信息技術(shù)的良性發(fā)展增進(jìn)人類福祉、改善民生的熱切期待。

 

1

 

AI成“監(jiān)工”：算法下外賣騎手挑戰(zhàn)交通規(guī)則，“助手”可能變“殺手”

 

得票率：51.2%

 

案例描述：

 

為提高配送效率，一些外賣平臺(tái)研究開發(fā)了實(shí)時(shí)智能配送系統(tǒng)。借助AI算法，平臺(tái)可以最優(yōu)化地安排訂單，也能給騎手規(guī)劃最合理的路線。但出于平臺(tái)、騎手和用戶三方效率最大化的目標(biāo)，AI算法將所有時(shí)間壓縮到了極致，為了按時(shí)完成配送，騎手們只能用超速去挽回超時(shí)這件事。超速、闖紅燈、逆行……外賣騎手挑戰(zhàn)交通規(guī)則的舉動(dòng)是一種逆算法，是騎手們長期在系統(tǒng)算法的控制與規(guī)訓(xùn)之下做出的不得已的勞動(dòng)實(shí)踐，而這種逆算法的直接后果則是——外賣員遭遇交通事故的數(shù)量急劇上升。同時(shí)，這也意味著，在很多人類勞動(dòng)者和AI的協(xié)作專業(yè)工作中，人類將處在被管轄和被監(jiān)督之下。（來源：《人物》雜志）

 

專家點(diǎn)評(píng)：

 

徐云程 

 

曠視首席發(fā)展官、曠視AI治理研究院院長

 

“這個(gè)案例雖然講的是外賣騎手，但我們可以思考，當(dāng)AI算法嵌入到人類社會(huì)的方方面面，人類在不知不覺中已經(jīng)作為一個(gè)數(shù)據(jù)被算法研究，人類每天看到的信息究竟是算法推送還是客觀公正的？當(dāng)算法的技術(shù)不斷臻于完美，商業(yè)利益不斷迭代，對(duì)人類福祉的影響到底是什么？對(duì)AI企業(yè)來說，應(yīng)在早期產(chǎn)品實(shí)驗(yàn)室研究過程和產(chǎn)品化過程中考慮到平等問題；作為個(gè)人，在推動(dòng)AI治理時(shí)，應(yīng)思考如何貢獻(xiàn)更多前瞻性看法。”

 

梁正 

 

清華大學(xué)公共管理學(xué)院教授、清華大學(xué)人工智能國際治理研究院副院長

 

“選擇該案例并不是因?yàn)檫@是一個(gè)現(xiàn)象級(jí)問題，而是可以看出人工智能治理問題不是某一個(gè)單一主體可以解決的。我們可以看到，在這個(gè)案例里還包括交通規(guī)劃、收入保障體系不到位等問題，我的結(jié)論是——我們需要一個(gè)多元主體共治的治理體系。”

 

徐勇 

 

哈爾濱工業(yè)大學(xué)深圳研究生院教授、博導(dǎo)

 

“AI技術(shù)的發(fā)展與普及給人類生活帶來了極大的便利，但由于商業(yè)驅(qū)動(dòng)產(chǎn)生了以盈利為導(dǎo)向的技術(shù)優(yōu)化，使得勞動(dòng)人員在技術(shù)監(jiān)管下對(duì)現(xiàn)實(shí)社會(huì)規(guī)章制度產(chǎn)生破壞行為。AI技術(shù)的應(yīng)用應(yīng)有利于人類社會(huì)良性發(fā)展，我國處于AI技術(shù)高速發(fā)展的階段，企業(yè)以AI技術(shù)壓榨人力勞動(dòng)術(shù)來增加商業(yè)利益無疑是一種舍本逐末的行為。需要運(yùn)用法律和道德對(duì)AI技術(shù)的研發(fā)和應(yīng)用進(jìn)行約束，正確引導(dǎo)企業(yè)的價(jià)值觀。在人工智能普及的時(shí)代，也應(yīng)充分保護(hù)勞動(dòng)者的合法權(quán)益，人工智能算法的應(yīng)用在追求效率和利益之外，不可忽略人性與理性，不能讓機(jī)器的冰冷碾壓人性的光輝。”

 

2

 

人工智能可以翻譯大腦想法將大腦信號(hào)轉(zhuǎn)化為文本數(shù)據(jù)，“讀懂意識(shí)”讓隱私無處遁藏

 

得票率：50.09%

 

案例描述：

 

加州大學(xué)JosephMakin博士在《自然神經(jīng)科學(xué)》雜志上發(fā)表了研究，其開發(fā)了一個(gè)系統(tǒng)，可以將大腦活動(dòng)轉(zhuǎn)化為文本數(shù)據(jù)，單句錯(cuò)詞僅3％。

 

實(shí)驗(yàn)參與者被要求多次朗讀50個(gè)固定句子，研究者們跟蹤了他們講話時(shí)的神經(jīng)活動(dòng)。這些數(shù)據(jù)隨后被輸入到機(jī)器學(xué)習(xí)算法中，系統(tǒng)能將每個(gè)口述句子的大腦活動(dòng)數(shù)據(jù)轉(zhuǎn)換為數(shù)字字符串。不過，由于通過腦機(jī)接口翻譯大腦想法的技術(shù)對(duì)人們的隱私構(gòu)成了強(qiáng)大的威脅，因此也一直伴隨著不小的爭議。（來源：綜合新浪、鳳凰網(wǎng)）

 

專家點(diǎn)評(píng)：

 

喻豐 

 

武漢大學(xué)哲學(xué)學(xué)院教授

 

“機(jī)器人實(shí)際上是人所創(chuàng)造出的客體，但在未來社會(huì)它可能會(huì)同人這個(gè)本體相脫離，成為本體的存在，而且反客為主，反過來束縛、支配、乃至壓抑人類。我們這些站在食物鏈頂端的人類會(huì)在不久的將來面臨前所未有的危機(jī)和挑戰(zhàn)，比如算法開始替代人類作出選擇，一些原來只有人類能做的工作將會(huì)被機(jī)器所取代。”

 

徐勇 

 

哈爾濱工業(yè)大學(xué)深圳研究生院教授、博導(dǎo)

 

“人工智能可簡單看做是一種模擬和擴(kuò)展人類智慧的科學(xué)技術(shù)。對(duì)人類大腦運(yùn)行機(jī)制的解析，一方面有助于人對(duì)自身的深入認(rèn)知，另一方面有助于人們生活的便捷化與智慧化。上述技術(shù)的改進(jìn)及成熟化應(yīng)用，也許有助于聾啞人等殘疾人士的交流，助力于他們的生活。但是，假如相應(yīng)技術(shù)被濫用或誤用，也可能使得人們大腦中的想法無任何隱私可言；人類大腦這一“潘多拉盒子”被打開的程度與方式是全社會(huì)需要思考的問題。”

 

3

 

全國首例：法院認(rèn)定人工智能生成文章構(gòu)成作品，擁有著作權(quán)

 

得票率：49.78%

 

案例描述：

 

2020年1月，廣東省深圳市南山區(qū)人民法院一審審結(jié)原告深圳市騰訊計(jì)算機(jī)系統(tǒng)有限公司訴被告上海盈某科技有限公司侵害著作權(quán)及不正當(dāng)競爭糾紛一案，認(rèn)定人工智能生成的文章構(gòu)成作品。此案系全國首例認(rèn)定人工智能生成的文章構(gòu)成作品案件。該案明確了人工智能生成物的獨(dú)創(chuàng)性判斷步驟，并在如何看待人工智能生成物的創(chuàng)作過程以及相關(guān)人工智能使用人員的行為能否被認(rèn)定為法律意義上的創(chuàng)作行為的問題上做出了探索，認(rèn)定人工智能生成的文章構(gòu)成作品，對(duì)于今后同類型案件的審理有一定的借鑒意義。（來源：人民網(wǎng)深圳頻道）

 

專家點(diǎn)評(píng)：

 

盧瑞昌 

 

北京大學(xué)光華管理學(xué)院金融學(xué)助理教授

 

“這個(gè)案例很重要，這是關(guān)于法律是如何定義人工智能的。隨著社會(huì)發(fā)展，未來人工智能在各行業(yè)的應(yīng)用、人工智能的歸屬權(quán)、法律是否將其定義為一個(gè)法律主體，將是很重要的一個(gè)爭執(zhí)點(diǎn)。”

 

梁正 

 

清華大學(xué)公共管理學(xué)院教授、清華大學(xué)人工智能國際治理研究院副院長

 

“這個(gè)案例是從法律的層面上討論AI生成作品一事，但我們需要注意到AI可能會(huì)對(duì)很多產(chǎn)業(yè)產(chǎn)生革命性的作用，并且要理性思考AI還可以應(yīng)用到什么領(lǐng)域。”

 

4

 

歐美、韓國相繼出臺(tái)AI治理新規(guī)，嚴(yán)格限制、甚至禁用相關(guān)人工智能技術(shù)在某些場(chǎng)景的發(fā)展和應(yīng)用

 

得票率：49.73%

 

案例描述：

 

歐盟委員會(huì)發(fā)布《人工智能白皮書》，希望通過不斷實(shí)現(xiàn)科學(xué)突破，維護(hù)歐盟的技術(shù)領(lǐng)先地位并確保新技術(shù)在尊重人權(quán)的基礎(chǔ)上，改善人們生活。當(dāng)前歐洲采取了一致的方法來應(yīng)對(duì)AI對(duì)人類和社會(huì)道德的影響，并思考了如何利用大數(shù)據(jù)進(jìn)行創(chuàng)新。歐盟正在考慮禁止在公共場(chǎng)所使用人臉識(shí)別技術(shù)長達(dá)五年，以便有時(shí)間研究如何防止這種技術(shù)被濫用。歐盟委員會(huì)表示，在為期3至5年的禁令期間，“可以確定和制定評(píng)估這一技術(shù)的影響和可能的風(fēng)險(xiǎn)管理措施的健全方法”。歐盟文件稱，對(duì)于安全項(xiàng)目以及科技研發(fā)活動(dòng)，禁令可能會(huì)有例外。該文件還建議，對(duì)人工智能的開發(fā)者和用戶都施加一些義務(wù)，歐盟國家的政府應(yīng)該指定監(jiān)管機(jī)構(gòu)來監(jiān)管新規(guī)則。

 

韓國科學(xué)技術(shù)信息通信部2020年11月27日與情報(bào)通信政策研究院（KISDI）共同發(fā)布“國家人工智能倫理標(biāo)準(zhǔn)”，提出理想的人工智能開發(fā)和運(yùn)用方向，指出人工智能需以人為中心。在開發(fā)和運(yùn)用人工智能的過程中，需遵守維護(hù)人的尊嚴(yán)、社會(huì)公益和技術(shù)合乎目的這3大原則。

 

此外，美國東海岸城市波士頓通過了禁止面部識(shí)別技術(shù)用于市政用途的投票。這是自2019年5月舊金山頒布此項(xiàng)禁令以來，采用此項(xiàng)禁令的第二大美國城市。該法令獲得一致通過，這條法令將阻止城市使用面部識(shí)別技術(shù)或獲得使用該技術(shù)進(jìn)行監(jiān)視的軟件。此后，俄勒岡州波特蘭、緬因州波特蘭也均通過了類似禁令以限制該技術(shù)在政府部門的應(yīng)用。（來源：綜合鳳凰網(wǎng)等）

 

專家點(diǎn)評(píng)：

 

薛瀾 

 

清華大學(xué)人工智能國際治理研究院院長

 

“人工智能治理的核心要素中基本價(jià)值觀、治理體系、參與者、治理對(duì)象以及效果評(píng)價(jià)五個(gè)方面至關(guān)重要。很多治理問題可以通過技術(shù)本身來解決，目前人工智能發(fā)展面臨的最大挑戰(zhàn)是：人工智能技術(shù)發(fā)展太快，而治理準(zhǔn)則作為一種社會(huì)體系，其發(fā)展有其程序，又是緩慢的，因此，我們需要“敏捷治理”。

 

人工智能可以學(xué)習(xí)已有的國際機(jī)制，未來不斷加強(qiáng)AI領(lǐng)域的國際合作，我們可以在合作過程中找到各方的共同點(diǎn)，并不斷探討、溝通，一同尋找人工智能共同的準(zhǔn)則和規(guī)則，引導(dǎo)人工智能的健康發(fā)展，為人類造福。”

 

徐云程 

 

曠視首席發(fā)展官、曠視AI治理研究院院長

 

“這個(gè)案例非常重要。2020年談到人臉識(shí)別技術(shù)，大多是負(fù)面消息，AI治理似乎不是一個(gè)“為善”問題，而是帶有風(fēng)險(xiǎn)的問題。隨著技術(shù)的發(fā)展，人們逐漸意識(shí)到了技術(shù)的一些風(fēng)險(xiǎn)。但值得注意的是，當(dāng)輿論一邊倒時(shí)，對(duì)于技術(shù)的一刀切其實(shí)有待考慮，也要思考?xì)W盟和美國所做決定的合理性以及是否應(yīng)該仿效。

 

對(duì)于在全世界范圍內(nèi)人臉識(shí)別技術(shù)的應(yīng)用場(chǎng)景與其背后的人類福祉、安全隱私等問題，大家在沒有進(jìn)行深入探討的情況下，不應(yīng)過分否定。同時(shí)也應(yīng)考慮，人臉識(shí)別技術(shù)只是深度學(xué)習(xí)相對(duì)成型和商業(yè)應(yīng)用比較廣泛的一類技術(shù)，在新技術(shù)不斷成熟的過程中，我們應(yīng)該用怎樣的方法來解決不斷涌現(xiàn)出的新問題。

 

個(gè)人希望，人臉識(shí)別技術(shù)能夠?yàn)槿斯ぶ悄軙r(shí)代打造一個(gè)樣本，即在面對(duì)新出現(xiàn)的倫理問題時(shí)，不因噎廢食，同時(shí)又能建設(shè)性地解決問題。中國的人臉識(shí)別技術(shù)如果能走出這條路，對(duì)于我們?cè)谌蚍秶鷥?nèi)提出“中國觀點(diǎn)”是很有幫助的。”

 

孫明俊 

 

中關(guān)村智用人工智能研究院執(zhí)行院長、中視科技CEO

 

“面部識(shí)別作為自動(dòng)化分析的代表性應(yīng)用，在政府部門的應(yīng)用中與現(xiàn)有的發(fā)達(dá)國家的法律制度有很大的不兼容性。首先，公眾“棱鏡門”丑聞再次出現(xiàn)的警惕。

 

2007年美國國家安全局啟動(dòng)的網(wǎng)絡(luò)監(jiān)控計(jì)劃“棱鏡（PRISM）”將任何涉外通訊列為監(jiān)聽對(duì)象。2013年該項(xiàng)目由美國特工愛德華斯諾登曝出。“棱鏡門”直接使得歐洲美國之間的個(gè)人數(shù)據(jù)流通協(xié)議作廢，并增加了美國公民對(duì)政府的不信任。

 

其次，隱私權(quán)，即公權(quán)力無權(quán)侵入私人生活，是美國公民和歐盟公民最重要的憲法權(quán)利。面部識(shí)別，結(jié)合云計(jì)算，具備的強(qiáng)大分析功能，可能會(huì)使公權(quán)力完整記錄私人行蹤的軌跡成為可能。歐盟法院曾經(jīng)在“數(shù)字權(quán)利愛爾蘭”一案中，將政府的大范圍數(shù)據(jù)分析裁定為非法。

 

最后，面部識(shí)別在公權(quán)力的應(yīng)用是否符合人類中心原則是模糊的。歐盟、日本、韓國和電氣電子工程師學(xué)會(huì)（美國）的人工智能文件中都提到了人工智能開發(fā)的人類中心原則，人工智能開發(fā)應(yīng)以增進(jìn)人類福祉為目的。但基于統(tǒng)計(jì)方法的面部識(shí)別技術(shù)在公權(quán)力，尤其是行政機(jī)關(guān)，的應(yīng)用很可能將機(jī)器凌駕于人之上。”

 

5

 

AI向善，技術(shù)預(yù)警獨(dú)居老人水表及校園暴力行為

 

得票率：49.69%

 

案例描述：

 

“水表”和“老人安全”看似沒有關(guān)聯(lián)，但在上海市長寧區(qū)江蘇路街道“一網(wǎng)統(tǒng)管”平臺(tái)，隱藏背后的邏輯清晰可見——當(dāng)獨(dú)居老人家中超過12小時(shí)用水不足0.01立方米時(shí)，系統(tǒng)會(huì)判斷老人家中有事，并及時(shí)向居委會(huì)預(yù)警。一個(gè)小小的設(shè)計(jì)，沒有像攝像頭那樣不得不關(guān)注老人過多的隱私，也無需大量的經(jīng)濟(jì)和人力投入，就能實(shí)現(xiàn)對(duì)老年人的關(guān)愛，甚至關(guān)鍵時(shí)刻能挽救老人的生命。

 

北京某科技公司生產(chǎn)的校園暴力AI防控語音偵測(cè)設(shè)備，可以作為視頻監(jiān)控的彌補(bǔ)而出現(xiàn)在校園安全解決方案當(dāng)中，為平安校園再添新色彩。該產(chǎn)品通過AI音頻識(shí)別，全天候監(jiān)控異常聲音，自動(dòng)報(bào)警及聲光驅(qū)離等技術(shù)，重點(diǎn)勘察校園視頻監(jiān)控“死角”，在校園霸凌事件發(fā)生中及時(shí)干擾、阻止，制止校園暴力的發(fā)生。（來源：北京日?qǐng)?bào)）

 

專家點(diǎn)評(píng)：

 

張勇 

 

深圳大學(xué)教授

 

“AI技術(shù)的落地應(yīng)用，在一定程度上可有效提升人們生活的安全性，這兩個(gè)案例中第一個(gè)是通過水表對(duì)獨(dú)居老人進(jìn)行安全預(yù)警，體現(xiàn)對(duì)獨(dú)居老人的無感關(guān)愛，這對(duì)當(dāng)前促進(jìn)社會(huì)民生改善有一定參考價(jià)值。

 

當(dāng)然，這個(gè)案例中要提高水表計(jì)數(shù)的敏感度和數(shù)據(jù)采集的及時(shí)性與準(zhǔn)確性，才能降低誤報(bào)率。第二個(gè)案例AI技術(shù)應(yīng)用，可有效減少校園暴力事件的發(fā)生，當(dāng)然，這需要AI技術(shù)更智能，包括對(duì)異常聲音的識(shí)別，這里的異常聲音包括肢體動(dòng)作發(fā)出的聲音、呼救的聲音、威脅的聲音等，并且需要提升拾音效果。另外，采用語音偵測(cè)較視頻偵測(cè)的另一個(gè)好處就是可保護(hù)未成年人隱私。”

 

盧瑞昌 

 

北京大學(xué)光華管理學(xué)院金融學(xué)助理教授

 

“該案例是用AI防止校園暴力，雖然是一個(gè)正面案例，但也要考慮到無限的監(jiān)聽會(huì)引發(fā)隱私及對(duì)其他問題的擔(dān)憂。”

 

6

 

美國科技巨頭依據(jù)自身道德判斷，加強(qiáng)企業(yè)自律及對(duì)人工智能技術(shù)的監(jiān)管

 

得票率：49.55%

 

案例描述：

 

據(jù)外媒消息，IBM將不再提供、開發(fā)或研究面部識(shí)別技術(shù)，并表示“IBM堅(jiān)決反對(duì)并且不會(huì)容忍將任何面部識(shí)別技術(shù)用于大規(guī)模監(jiān)視、侵犯基本人權(quán)和自由或與我們的宗旨不符的任何行為。”此外，亞馬遜、微軟也均表態(tài)要支持種族平等，叫停人臉識(shí)別：亞馬遜聲明暫停向警方提供人臉識(shí)別技術(shù)一年時(shí)間；微軟也表態(tài)停止向警方銷售人臉識(shí)別軟件，直到有相關(guān)國家法律出臺(tái)。

 

歐盟有關(guān)方面和微軟、IBM等科技巨頭共同簽署了《人工智能倫理羅馬宣言》，討論如何規(guī)范人工智能的社會(huì)影響，這是歐盟推動(dòng)全球數(shù)字經(jīng)濟(jì)監(jiān)管新標(biāo)準(zhǔn)的最新舉措。與美國不同，在數(shù)字經(jīng)濟(jì)和人工智能領(lǐng)域，歐盟采取的是先規(guī)范后發(fā)展的路徑。《人工智能倫理羅馬宣言》指出，人工智能技術(shù)應(yīng)尊重個(gè)人隱私，以可靠而無偏見的方式工作，考慮所有人的需求，并以透明方式運(yùn)作。這些表述顯示歐盟擔(dān)憂人工智能的負(fù)面影響，認(rèn)為人工智能系統(tǒng)尚處于研究階段，其做出的決定往往難以預(yù)測(cè)。

 

Google啟動(dòng)了800多名員工的初始“技術(shù)道德”培訓(xùn)，并還針對(duì)AI原則問題發(fā)現(xiàn)了新的培訓(xùn)。Google最近發(fā)布了此培訓(xùn)的一個(gè)版本，作為面向客戶的Cloud團(tuán)隊(duì)的必修課程，已有5，000名Cloud員工參加了該培訓(xùn)。這些員工提出了一些關(guān)鍵問題來發(fā)現(xiàn)潛在的道德問題，例如AI應(yīng)用程序是否會(huì)導(dǎo)致經(jīng)濟(jì)或教育上的排斥或造成身體、心理、社會(huì)或環(huán)境傷害。（來源：綜合人民網(wǎng)等）

 

專家點(diǎn)評(píng)：

 

盧瑞昌 

 

北京大學(xué)光華管理學(xué)院金融學(xué)助理教授

 

“我們需要思考AI與企業(yè)治理的關(guān)系，AI倫理如何嵌入到商業(yè)運(yùn)行之中。誰來做企業(yè)開發(fā)AI算法時(shí)的最后判斷者？我們應(yīng)該從哪個(gè)環(huán)節(jié)切入，思考人工智能所導(dǎo)致的結(jié)果。

 

從防衛(wèi)意義上講，谷歌提供“技術(shù)道德培訓(xùn)”是很重要的，谷歌的培訓(xùn)能否應(yīng)對(duì)AI道德倫理的挑戰(zhàn)，力度夠不夠、能否完成，這都是一個(gè)爭論點(diǎn)。IBM等公司不再提供、開發(fā)或研究面部識(shí)別技術(shù)也值得關(guān)注。

 

算法在某種意義上會(huì)提升商業(yè)利益，但也要注意它所帶來的歧視問題。我們需要去思考，如何判斷當(dāng)人工智能以明確的目標(biāo)制定出來，為最大化實(shí)現(xiàn)某個(gè)目標(biāo)時(shí)所導(dǎo)致的歧視問題。”

 

季衛(wèi)東 

 

上海交通大學(xué)文科資深教授、中國法與社會(huì)研究院院長

 

“谷歌提供“技術(shù)道德培訓(xùn)”的案例涉及到軟法問題。軟法主要指道德，我們可以看到美國的企業(yè)已經(jīng)從道德入手，制定企業(yè)內(nèi)部規(guī)則或是技術(shù)操作規(guī)則。這個(gè)案例的研究意義不在于這種現(xiàn)象，而在于其反映的軟法的管理。”

 

孫明俊 

 

中關(guān)村智用人工智能研究院執(zhí)行院長、中視科技CEO

 

“2016年6月，歐盟生效了個(gè)人數(shù)據(jù)保護(hù)規(guī)范《一般數(shù)據(jù)保護(hù)規(guī)則》，該《規(guī)則》具體規(guī)定了個(gè)人數(shù)據(jù)處理的操作規(guī)范以及歐盟公民的個(gè)人數(shù)據(jù)流出歐盟的基本條件。其中第22條專門規(guī)定了基于個(gè)人數(shù)據(jù)自動(dòng)化決策和分析（Profiling）的條件。根據(jù)該《規(guī)則》，任何第三國，作為歐盟公民數(shù)據(jù)流出的目的地，的個(gè)人數(shù)據(jù)保護(hù)標(biāo)準(zhǔn)應(yīng)等于或者高于歐盟標(biāo)準(zhǔn)。這也是美國科技巨頭不斷提高人工智能隱私保護(hù)標(biāo)準(zhǔn)的原因之一。

 

一方面，對(duì)于跨國數(shù)字企業(yè)，自我規(guī)范在企業(yè)合規(guī)中極為重要。歐盟在《一般數(shù)據(jù)保護(hù)規(guī)則》中規(guī)定了數(shù)據(jù)控制方，也即處理數(shù)據(jù)的責(zé)任方需要證明其業(yè)務(wù)遵守了《規(guī)則》中的相關(guān)義務(wù)。而且歐盟在《一般數(shù)據(jù)保護(hù)規(guī)則》中要求在歐盟成員國有業(yè)務(wù)的企業(yè)都應(yīng)建立組織架構(gòu)，包括獨(dú)立的數(shù)據(jù)保護(hù)官員以及相關(guān)機(jī)制，確保自我規(guī)范的有效性。考慮到歐盟市場(chǎng)是美國科技巨頭利潤的重要來源，美國科技巨頭確保自身業(yè)務(wù)在《一般數(shù)據(jù)規(guī)則》下的合規(guī)極為重要。

 

另一方面，企業(yè)社會(huì)責(zé)任報(bào)告是實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)（Sustainable Development Goals）的重要機(jī)制，這種企業(yè)自愿報(bào)告工具正在逐漸普及。企業(yè)社會(huì)責(zé)任報(bào)告是由全球報(bào)告計(jì)劃（Global Report Initiative）等非盈利組織推動(dòng)的一種技術(shù)工具，報(bào)告公司業(yè)務(wù)對(duì)社會(huì)、經(jīng)濟(jì)、人權(quán)的影響。積極的自我規(guī)范在可持續(xù)發(fā)展目標(biāo)投資框架下也能夠?yàn)槠髽I(yè)爭取到更多的公共投資。”

 

7

 

自動(dòng)駕駛服務(wù)進(jìn)入快車道，“無人車”行駛背后的權(quán)責(zé)歸屬引關(guān)注

 

得票率：48.89%

 

案例描述：

 

據(jù)不完全統(tǒng)計(jì)，我國有融資信息的無人駕駛相關(guān)企業(yè)超過70家，融資金額高達(dá)數(shù)百億元。此外，我國共有超過1.2萬件與“自動(dòng)駕駛”或“無人駕駛”相關(guān)的專利，其中于2019年新申請(qǐng)的專利超過3000余件。2020年10月，百度官微發(fā)布，自動(dòng)駕駛出租車服務(wù)在北京經(jīng)濟(jì)技術(shù)開發(fā)區(qū)、海淀區(qū)、順義區(qū)等地全面開放，數(shù)十個(gè)自動(dòng)駕駛出租車站點(diǎn)，不需要提前預(yù)約，直接下單就能免費(fèi)試乘自動(dòng)駕駛出租車服務(wù)。2020年6月，滴滴首次面向公眾開放了無人駕駛服務(wù)。目前中美兩地已有近400人的團(tuán)隊(duì)，已獲得北京、上海、蘇州、美國加州等地路測(cè)資格。（來源：綜合新華網(wǎng)、鳳凰網(wǎng)）

 

專家點(diǎn)評(píng)：

 

張成崗 

 

清華大學(xué)社會(huì)治理與發(fā)展研究院院長、教授，清華大學(xué)社會(huì)創(chuàng)新與風(fēng)險(xiǎn)管理研究中心研究員

 

“智能物聯(lián)網(wǎng)發(fā)展的原始動(dòng)力主要來自于對(duì)密集的、高變動(dòng)性的“物的流動(dòng)”的管理和控制需要。因?yàn)橐獙?duì)“物的流動(dòng)”進(jìn)行實(shí)時(shí)優(yōu)化，所需的管理成本極高，傳統(tǒng)的人工管理方式幾乎不可能實(shí)現(xiàn)。

 

隨著當(dāng)代人工智能技術(shù)的快速發(fā)展和廣泛應(yīng)用，智能物聯(lián)網(wǎng)技術(shù)使得對(duì)“物的流動(dòng)”的實(shí)時(shí)管理成為可能，極大地提高了效率、降低了人力成本。同時(shí)，智能物聯(lián)網(wǎng)技術(shù)也為城市管理水平的提高提供了一條可行的技術(shù)路徑，其核心是“感知化”“互聯(lián)化”和“智能化”，例如，城市交通管理、共享單車管理以及無人駕駛出租車管理等，將商業(yè)、運(yùn)輸、通信、能源等城市運(yùn)行的各個(gè)系統(tǒng)整合為“系統(tǒng)之系統(tǒng)”。”

 

孫明俊 

 

中關(guān)村智用人工智能研究院執(zhí)行院長、中視科技CEO

 

“無人駕駛汽車的上路對(duì)現(xiàn)有機(jī)動(dòng)車事故民事責(zé)任分配提出了新的問題。全球各主要經(jīng)濟(jì)體，在缺乏有效的立法干預(yù)前，無人駕駛汽車的事故責(zé)任仍采取事故責(zé)任人過錯(cuò)責(zé)任制，也即無人駕駛汽車的車主/駕駛員對(duì)事故負(fù)責(zé)。在具體事故涉及到產(chǎn)品責(zé)任時(shí)，則由車主/駕駛員向制造商進(jìn)行追索。

 

美國和歐盟已經(jīng)開始推動(dòng)新的立法動(dòng)議。歐洲議會(huì)在立法建議中積極推動(dòng)根據(jù)美國汽車工程師協(xié)會(huì)定義的汽車自動(dòng)化水平L1-L4的汽車采取風(fēng)險(xiǎn)責(zé)任，并拓展產(chǎn)品責(zé)任法的適用。L5-L6級(jí)汽車，作為非自動(dòng)汽車，仍適用過錯(cuò)責(zé)任。民事責(zé)任中的風(fēng)險(xiǎn)責(zé)任，或稱嚴(yán)格責(zé)任，是指不考慮責(zé)任方的過錯(cuò)，責(zé)任方根據(jù)造成的損失進(jìn)行賠償。而在無人駕駛汽車事故適用產(chǎn)品責(zé)任規(guī)則時(shí)，仍有明顯的障礙。首先，對(duì)于無人駕駛汽車這類的復(fù)雜工業(yè)產(chǎn)品，消費(fèi)者很難證明產(chǎn)品存在明顯缺陷。其次，產(chǎn)品責(zé)任規(guī)則并不要求廠商在定型產(chǎn)品時(shí)完全避免風(fēng)險(xiǎn)，這也就是說，科學(xué)上未知的風(fēng)險(xiǎn)最終仍將是由消費(fèi)者承擔(dān)的。最后，由于無人駕駛汽車技術(shù)的復(fù)雜性，法院很難形成一致的責(zé)任分配標(biāo)準(zhǔn)，進(jìn)而降低司法確定性。”

 

張軍平 

 

復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授

 

“無人駕駛是未來智能交通的發(fā)展方向。目前在封閉道路或慢速行駛時(shí)已獲得良好的無人駕駛性能。在高速公路上，也能部分減少駕駛員長時(shí)間駕駛形成的疲勞和因此導(dǎo)致的潛在交通事故。

 

但在開放環(huán)境下的自動(dòng)駕駛方面，距離完全無人的自動(dòng)駕駛情況還有一定的差距。它不僅體現(xiàn)在傳感器的價(jià)格和維護(hù)成本高，也體現(xiàn)在處理復(fù)雜環(huán)境時(shí)，仍然存在一些實(shí)際場(chǎng)景無法預(yù)測(cè)和處理的問題，尤其是在國內(nèi)一些人、機(jī)與非機(jī)混合行駛的路況下。同時(shí)也應(yīng)考慮事故發(fā)生后的倫理問題及相應(yīng)立法措施。

 

值得注意的是，著名的電車難題也是自動(dòng)駕駛面臨的倫理問題。未來智能駕駛時(shí)，車與車的聯(lián)系、車的控制都可能是建立在智能網(wǎng)上的。因而，還面臨一個(gè)如何抵抗攻擊的問題。”

 

8

 

人工智能技術(shù)突破現(xiàn)有邊界，具備“自主意識(shí)”，可實(shí)現(xiàn)獨(dú)立研發(fā)、自我修復(fù)等功能

 

得票率：48.75%

 

案例描述：

 

美國麻省理工學(xué)院（MIT）科學(xué)家在最新一期《細(xì)胞》雜志撰文稱，他們新研制出的一種深度學(xué)習(xí)人工智能（AI），鑒定出一種全新抗生素。實(shí)驗(yàn)室測(cè)試表明，這種抗生素能有效殺死多種世界上最麻煩的致病細(xì)菌，包括一些對(duì)所有已知抗生素耐藥的菌株。

 

美國佛蒙特大學(xué)計(jì)算機(jī)科學(xué)家和塔夫茨大學(xué)生物學(xué)家共同創(chuàng)造出100%使用青蛙DNA的可編程的活體機(jī)器人Xenobot，這種機(jī)器人的體長僅0.04英寸（約1毫米），能按照計(jì)算機(jī)程序設(shè)計(jì)的路線移動(dòng)，還能負(fù)載一定的重量，攜帶藥物在人體內(nèi)部移動(dòng)。Xenobot具有自我修復(fù)功能，當(dāng)科學(xué)家把它們進(jìn)行切割時(shí)，機(jī)器人會(huì)自行愈合并繼續(xù)移動(dòng)。佛蒙特大學(xué)表示，這些是“完全新的生命形式”。“它們既不是傳統(tǒng)的機(jī)器人，也不是已知的動(dòng)物物種。它是一類新的人工制品：一種活的可編程生物。”（來源：綜合環(huán)球網(wǎng)等）

 

專家點(diǎn)評(píng)：

 

梁正 

 

清華大學(xué)公共管理學(xué)院教授、清華大學(xué)人工智能國際治理研究院副院長

 

“這個(gè)案例涉及到了人工智能技術(shù)的發(fā)展前景，這是人工智能治理的基礎(chǔ)，同時(shí)也可以讓我們思考人工智能的能力邊界究竟在何處。這個(gè)案例也代表了一種技術(shù)發(fā)展的苗頭，未來是否會(huì)有更多活體機(jī)器人的出現(xiàn)？這是非常具有沖擊意義的。”

 

徐云程 

 

曠視首席發(fā)展官、曠視AI治理研究院院長

 

“人工智能不但能替代一些傳統(tǒng)工作，提升效率、促進(jìn)企業(yè)發(fā)展，同時(shí)也可以做一些單靠人工無法進(jìn)行的工作，并且為人類未來的幸福生活提供了新的可能性。但我們要注意它的強(qiáng)大性和不可解釋性也帶了一些風(fēng)險(xiǎn)。這個(gè)案例體現(xiàn)了新技術(shù)的可能性，但在技術(shù)早期探索時(shí)，我們也要做一個(gè)嵌入式倫理的研究與控制。”

 

季衛(wèi)東 

 

上海交通大學(xué)文科資深教授、中國法與社會(huì)研究院院長

 

“Xenobot這個(gè)案例是很特殊的，非常聳人聽聞。這涉及到責(zé)任與法律人格認(rèn)定問題，是否要為活體機(jī)器人賦予法律人格平等權(quán)，這在AI治理上是具有重要意義的，尤其是在算法黑箱化問題愈發(fā)嚴(yán)重、問責(zé)困難的情況下，這值得我們的重視和思考。”

 

9

 

湖南岳陽警方破獲AI犯罪案，技術(shù)犯罪仍要懲罰人

 

得票率：48.75%

 

案例描述：

 

湖南省岳陽市岳陽樓公安分局聯(lián)合市局網(wǎng)技支隊(duì)破獲了一起利用人工智能語音機(jī)器人幫助網(wǎng)絡(luò)犯罪案，抓獲犯罪嫌疑人19人，查獲了大量作案電腦和手機(jī)，扣押涉案現(xiàn)金100余萬元，凍結(jié)涉案資金1000余萬元。該團(tuán)伙利用“AI智能語音機(jī)器人”對(duì)非法獲取的大批量手機(jī)號(hào)碼進(jìn)行撥打，通過“AI智能語音機(jī)器人”篩選后，將正在炒股或者有炒股意向的受害人拉入預(yù)先建立的虛假炒股微信群，進(jìn)而實(shí)施詐騙。目前，包括黃某在內(nèi)的12名主要犯罪嫌疑人已全部被公安機(jī)關(guān)依法刑事拘留，7人被依法治安拘留，相關(guān)案情正在進(jìn)一步深挖之中。（來源：岳陽日?qǐng)?bào)）

 

專家點(diǎn)評(píng)：

 

張軍平 

 

復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授

 

“AI技術(shù)具有雙面性，一方面能大幅度減少人力成本，提高工作效率，另一方面也可能為不法分子利用。本例案件采用的技術(shù)并不復(fù)雜，主要是通過AI智能語音機(jī)器人來替代原來的真人詐騙犯，再用真假難辨的虛擬機(jī)器人進(jìn)行智能分析和誘騙。我們需要提高AI應(yīng)用的準(zhǔn)入門檻，進(jìn)行有效的身份鑒別。同時(shí)也要對(duì)AI技術(shù)的新進(jìn)展進(jìn)行持續(xù)的關(guān)注和跟蹤，以及對(duì)潛在的風(fēng)險(xiǎn)如AI偏見、AI換聲換臉等保持一定的警惕性，避免技術(shù)被不法分子所利用，危害社會(huì)發(fā)展。”

 

10

 

人工智能首次控制美國軍用系統(tǒng)，或?qū)㈤_啟算法戰(zhàn)新時(shí)代

 

得票率：48.22%

 

案例描述：

 

2020年12月15日，美國空軍在加利福尼亞州首次成功使用人工智能副駕駛控制一架U2偵察機(jī)的雷達(dá)和傳感器等系統(tǒng)，這是人工智能首次控制美國軍用系統(tǒng)，將開啟算法戰(zhàn)的新時(shí)代。從三年前開始，美國空軍開始大步向數(shù)字化時(shí)代邁進(jìn)。最終開發(fā)出軍用人工智能算法，組建了五角大樓第一批商業(yè)化開發(fā)團(tuán)隊(duì)，編寫云代碼，甚至還建立了一個(gè)戰(zhàn)斗云網(wǎng)絡(luò)，通過該網(wǎng)絡(luò)，美軍以極高的機(jī)器響應(yīng)速度擊落了一枚巡航導(dǎo)彈。（來源：環(huán)球網(wǎng)）

 

專家點(diǎn)評(píng)：

 

劉偉 

 

北京郵電大學(xué)人機(jī)交互與認(rèn)知工程實(shí)驗(yàn)室主任、科技委人機(jī)融合智能組首席科學(xué)家

 

“人工智能過程不是被動(dòng)地對(duì)環(huán)境的響應(yīng)，而是一種在環(huán)境信息的刺激下，通過采集、過濾，改變態(tài)勢(shì)分析策略，從動(dòng)態(tài)的信息流中抽取不變性，在人機(jī)環(huán)境交互作用下產(chǎn)生近乎知覺的操作或控制的行為。人工智能技術(shù)中的計(jì)算是動(dòng)態(tài)、非線形、自適應(yīng)的，是外界環(huán)境、機(jī)器和人的認(rèn)知共同作用的結(jié)果，人機(jī)系統(tǒng)的特性應(yīng)該隨著與外界的交互而變化，這對(duì)于社會(huì)系統(tǒng)中重大事件（戰(zhàn)爭、自然災(zāi)害、金融危機(jī)等）的應(yīng)急指揮和組織、復(fù)雜工業(yè)系統(tǒng)中的故障快速處理等問題的解決都有著重要的參考價(jià)值。

 

由于人工智能系統(tǒng)涉及面較廣，極易產(chǎn)生非線性、隨機(jī)性、不確定性等系統(tǒng)特征，進(jìn)行系統(tǒng)建模的研究時(shí)面臨著很多困難，我們應(yīng)針對(duì)人機(jī)環(huán)境系統(tǒng)的實(shí)質(zhì)及人工智能的影響因素這兩個(gè)關(guān)鍵問題進(jìn)行深入探討，追根溯源，早日實(shí)現(xiàn)高效安全宜人可靠的人工智能系統(tǒng)。”

 

邱澤奇

 

教育部長江學(xué)者特聘教授，北京大學(xué)中國社會(huì)與發(fā)展研究中心主任

 

“算法戰(zhàn)的出現(xiàn)意味著人類軍事戰(zhàn)爭一個(gè)嶄新階段的來臨，也意味著數(shù)字化軍事戰(zhàn)爭的一種形態(tài)。在軍事戰(zhàn)爭中，武器，作為人類肢體和智力延伸的工具，一直是戰(zhàn)爭勝負(fù)的決定性變量。熱兵器對(duì)冷兵器的替代，是武器對(duì)人類肢體和體力的延伸；算法和無人機(jī)對(duì)人的肢體和體力的替代，則是武器對(duì)人類智力的延伸，是人類戰(zhàn)爭的第二次本質(zhì)躍升，并將從此改變戰(zhàn)爭的諸多屬性！

 

轉(zhuǎn)自人工智能學(xué)家微信號(hào)