久久99国产精品尤物-国产高清色播视频免费看-男生肌肌往女人桶爽视频-精品国产-91PORNY九色|www.jqdstudio.net

辛勇飛：推動生成式人工智能精細化治理

點擊：1889  作者：辛勇飛    來源：網(wǎng)信中國微信號  發(fā)布時間:2023-07-14 09:52:50

 

 

當前，生成式人工智能正在加速發(fā)展，不斷催生新場景、新業(yè)態(tài)、新模式和新市場，賦能千行百業(yè)。與此同時，其暴露出的安全風險也引發(fā)了各國監(jiān)管部門的廣泛關(guān)注，意大利、德國、法國、西班牙等多個國家的數(shù)據(jù)保護監(jiān)管機構(gòu)對ChatGPT表達擔憂或發(fā)起調(diào)查。近日，國家網(wǎng)信辦聯(lián)合國家有關(guān)部門公布了《生成式人工智能服務(wù)管理暫行辦法》（以下簡稱《辦法》）。《辦法》是我國促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用的專門立法，界定了生成式人工智能技術(shù)的基本概念，規(guī)定了生成式人工智能服務(wù)提供者的制度要求，為生成式人工智能的健康發(fā)展指明了方向。

 

一、促進發(fā)展，鼓勵生成式人工智能研發(fā)創(chuàng)新

 

新一代人工智能是推動科技跨越發(fā)展、產(chǎn)業(yè)優(yōu)化升級、生產(chǎn)力整體躍升的驅(qū)動力量。習近平總書記高度重視人工智能技術(shù)發(fā)展，指出要加快新能源、人工智能、生物制造、綠色低碳、量子計算等前沿技術(shù)研發(fā)和應(yīng)用推廣。中共中央政治局4月28日召開會議強調(diào)，“要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風險”。

 

《辦法》立足于促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，在總則中明確了國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，并在技術(shù)發(fā)展與治理一章中提出了一系列鼓勵措施。一是鼓勵創(chuàng)新應(yīng)用。生成式人工智能應(yīng)用場景豐富，可以與各行業(yè)深度結(jié)合，助力實現(xiàn)各行業(yè)智能化變革。《辦法》明確提出鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，有助于生成式人工智能賦能千行百業(yè)。二是鼓勵多方協(xié)作。生成式人工智能在技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風險防范等方面涉及多方主體，為此，《辦法》鼓勵行業(yè)組織、企業(yè)以及各個相關(guān)機構(gòu)之間開展協(xié)作。三是鼓勵自主創(chuàng)新與國際合作。生成式人工智能尚處于發(fā)展階段，而我國在生成式人工智能相關(guān)算法、芯片等技術(shù)研發(fā)方面起步相對較晚。《辦法》一方面鼓勵生成式人工智能相關(guān)基礎(chǔ)技術(shù)的自主創(chuàng)新，另一方面鼓勵平等互利開展國際交流與合作，從而促進我國人工智能技術(shù)發(fā)展。四是鼓勵資源共享。算力是支撐數(shù)字經(jīng)濟蓬勃發(fā)展的重要“底座”，數(shù)據(jù)是生成式人工智能的重要資源。為此，《辦法》提出推動生成式人工智能基礎(chǔ)設(shè)施和公共訓練數(shù)據(jù)資源平臺建設(shè)的措施，促進算力資源協(xié)同共享，提升算力資源利用效能。

 

二、劃定底線，推動生成式人工智能向上向善

 

以ChatGPT為代表的生成式人工智能在社會變革中的具有重要作用，但其可能存在的數(shù)據(jù)違法收集、知識產(chǎn)權(quán)侵權(quán)、生成虛假信息等問題同樣不容忽視。

 

《辦法》積極回應(yīng)生成式人工智能帶來的社會問題，明確提供和使用生成式人工智能服務(wù)的法律底線。一是不得生成違法內(nèi)容。《辦法》落實《網(wǎng)絡(luò)安全法》等法律的規(guī)定，強調(diào)提供和使用生成式人工智能服務(wù)應(yīng)當堅持社會主義核心價值觀，不得生成法律、行政法規(guī)禁止的內(nèi)容。二是防止歧視。訓練數(shù)據(jù)本身存在歧視內(nèi)容、算法更傾向于某些特征值、標注人員的主觀判斷等因素可能導致歧視問題，給社會帶來不良后果，如邊緣化弱勢人群或者煽動仇恨與暴力。為減少歧視現(xiàn)象發(fā)生，《辦法》要求在算法設(shè)計、訓練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取有效措施防止歧視。三是尊重知識產(chǎn)權(quán)和他人合法權(quán)益。生成式人工智能在個人信息的處理過程中，可能存在違法收集、使用個人信息等風險；生成式人工智能的訓練數(shù)據(jù)中如包括他人已發(fā)表并享有著作權(quán)的作品，也可能給知識產(chǎn)權(quán)造成侵害。為減少侵權(quán)事件的發(fā)生，《辦法》強調(diào)尊重知識產(chǎn)權(quán)、商業(yè)道德；尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽權(quán)、榮譽權(quán)、隱私權(quán)和個人信息權(quán)益。四是提高生成內(nèi)容準確性和可靠性。自生成式人工智能面世之初，其存在的“一本正經(jīng)地胡說八道”現(xiàn)象便引起了人們的警惕。這種虛假信息的產(chǎn)生很可能會誤導用戶，加劇社會對共享信息的不信任。如何保障生成內(nèi)容的真實性，既是產(chǎn)業(yè)界為進一步擴大生成式人工智能商用范圍需要克服的技術(shù)難題，也是監(jiān)管部門需要重點考量的問題。《辦法》要求生成式人工智能服務(wù)提供者（以下簡稱“提供者”）基于服務(wù)類型特點，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準確性和可靠性。這一要求充分體現(xiàn)了發(fā)展與安全并重的原則，符合生成式人工智能的技術(shù)原理與產(chǎn)業(yè)需要。

 

三、細化責任，構(gòu)建生成式人工智能治理體系

 

生成式人工智能從研發(fā)到落地需要經(jīng)歷多個環(huán)節(jié)，包括訓練數(shù)據(jù)處理、數(shù)據(jù)標注、提供服務(wù)等。清晰界定不同環(huán)節(jié)的要求更有利于降低生成式人工智能的安全風險，增強制度的可落地性。

 

《辦法》明確提供者的義務(wù)與責任，提供者是利用生成式人工智能技術(shù)提供生成式人工智能服務(wù)的組織、個人，包括通過提供可編程接口等方式提供生成式人工智能服務(wù)的組織、個人。在訓練數(shù)據(jù)處理環(huán)節(jié)，提供者應(yīng)當使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型，并采取有效措施提高訓練數(shù)據(jù)質(zhì)量，增強訓練數(shù)據(jù)的真實性、準確性、客觀性、多樣性。在數(shù)據(jù)標注環(huán)節(jié)，提供者應(yīng)當制定標注規(guī)則，開展數(shù)據(jù)標注質(zhì)量評估，并對標注人員進行培訓。在提供服務(wù)環(huán)節(jié)，提供者應(yīng)依法承擔網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責任，按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進行標識；發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當及時采取處置措施、進行整改并向有關(guān)主管部門報告；應(yīng)依法承擔個人信息處理者責任，對生成式人工智能服務(wù)使用者的輸入信息和使用記錄依法履行保護義務(wù)，及時受理和處理個人關(guān)于查閱、復制、更正、補充、刪除其個人信息等的請求；應(yīng)履行用戶管理義務(wù)，明確并公開服務(wù)適用情況，指導使用者科學理性認識和依法使用技術(shù)，采取未成年人防沉迷措施，依法處置從事違法活動的使用者，建立健全投訴、舉報機制；應(yīng)提供安全、穩(wěn)定、持續(xù)的服務(wù)。

 

四、強化披露，明確生成式人工智能監(jiān)管手段

 

人工智能算法具有“黑箱”特性，表現(xiàn)為行為不可控、決策機制難以解釋，給人工智能監(jiān)管帶來了一定困難。為此，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等規(guī)范已經(jīng)明確了算法備案、安全評估等監(jiān)管手段，提高算法的透明度與可問責性。

 

《辦法》與現(xiàn)有規(guī)范一脈相承，延續(xù)了此前監(jiān)管手段，同時明確了分類分級監(jiān)管的原則，健全了我國人工智能治理體系。一是明確了安全評估與算法備案要求。為有效應(yīng)對算法“黑箱”問題，《辦法》對提供具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)的，提出了安全評估與算法備案要求。二是明確了信息披露要求。《辦法》明確了提供者應(yīng)配合主管部門的監(jiān)督檢查，按要求對訓練數(shù)據(jù)來源、規(guī)模、類型、標注規(guī)則、算法機制機理等予以說明。

 

《辦法》是在區(qū)塊鏈、汽車數(shù)據(jù)、算法推薦、深度合成等立法之后，我國對新興領(lǐng)域立法的又一次探索。《辦法》充分協(xié)調(diào)了發(fā)展與安全之間的關(guān)系，一方面提出了生成式人工智能發(fā)展的鼓勵措施，另一方面明確了生成式人工智能的法律底線，構(gòu)建了生成式人工智能精細化治理體系，有利于推動生成式人工智能健康有序發(fā)展，為世界貢獻人工智能治理的中國智慧和中國方案。

 

作者：辛勇飛　中國信息通信研究院政策與經(jīng)濟研究所所長；來源：“網(wǎng)信中國”微信公眾號  圖片來源網(wǎng)絡(luò) 侵刪