|
黨的二十屆三中全會(huì )審議通過(guò)的《中共中央關(guān)于進(jìn)一步全面深化改革、推進(jìn)中國式現代化的決定》強調，建立人工智能安全監管制度。作為一種戰略性新興技術(shù)，人工智能已深度融入人們的生產(chǎn)生活，對于工作效率的提升大有裨益，還不斷催生出新產(chǎn)業(yè)、新業(yè)態(tài)、新商業(yè)模式，持續為經(jīng)濟社會(huì )發(fā)展注入新動(dòng)能。作為人工智能的一個(gè)重要組成部分，生成式人工智能技術(shù)的飛速發(fā)展，涵蓋虛擬現實(shí)、醫療保健、創(chuàng )意產(chǎn)業(yè)等多個(gè)領(lǐng)域，為各行各業(yè)帶來(lái)更多創(chuàng )新與價(jià)值。不過(guò)，當前也要密切注意生成式人工智能可能引發(fā)的數據安全、信息誤導等風(fēng)險挑戰，堅持發(fā)展與安全并重。
所謂生成式人工智能技術(shù)（AIGC），是指基于算法、模型、規則等，生成文本、聲音、、視頻等內容的新一代人工智能技術(shù)。算力、算法、數據是這種技術(shù)發(fā)展的三大核心要素，這幾個(gè)要素的綜合作用，使得其具備自生成模式，能實(shí)現閉環(huán)式學(xué)習體系的構建，通過(guò)利用海量數據信息，自主學(xué)習要素，進(jìn)而生成原創(chuàng )性的專(zhuān)業(yè)知識內容或產(chǎn)品并可以不斷更新，進(jìn)行自我升級迭代。基于這些特點(diǎn)，越來(lái)越多的行業(yè)正將其作為提高生產(chǎn)力水平的新要素，創(chuàng )造出指數級的價(jià)值，并催生了大量的產(chǎn)業(yè)應用，教育、娛樂(lè )、商業(yè)等領(lǐng)域均有所及。2022年末，美國OpenAI公司推出的ChatGPT標志著(zhù)這一技術(shù)在文本生成領(lǐng)域取得顯著(zhù)進(jìn)展。世界知識產(chǎn)權組織（WIPO）不久前發(fā)布的《生成式人工智能專(zhuān)利態(tài)勢報告》顯示，2014年到2023年，中國生成式人工智能專(zhuān)利申請量超3.8萬(wàn)件，居世界第一位，是第二名美國的6倍。
生成式人工智能是把雙刃劍，在加強技術(shù)研發(fā)和創(chuàng )新的同時(shí)，需努力提高其安全性和可控性，有效識別潛在風(fēng)險和漏洞并形成應對策略。2023年8月15日正式施行的《生成式人工智能服務(wù)管理暫行辦法》指出，有關(guān)主管部門(mén)依據職責對生成式人工智能服務(wù)開(kāi)展監督檢查，提供者應當依法予以配合，按要求對訓練數據來(lái)源、規模、類(lèi)型、標注規則、算法機制機理等予以說(shuō)明，并提供必要的技術(shù)、數據等支持和協(xié)助。因此，未來(lái)要進(jìn)一步推動(dòng)生成式人工智能的發(fā)展，應從網(wǎng)絡(luò )安全、數據安全、個(gè)人信息保護等層面入手，采取包容審慎的態(tài)度，從技術(shù)、倫理、法律等多方面設置“安全閥門(mén)”，防范生成式人工智能風(fēng)險。
一方面，完善相關(guān)法律法規的有效界定，合理有效監管。加快立法進(jìn)程，針對數據、內容安全、知識產(chǎn)權等生成式人工智能發(fā)展的關(guān)鍵問(wèn)題，進(jìn)行分類(lèi)管理、分類(lèi)立法，通過(guò)政策立法對生成式人工智能的設計、演進(jìn)進(jìn)行有效引導、統籌管理。明確監管底線(xiàn)，制定相應技術(shù)使用規則和行業(yè)規范，強化對生成式人工智能企業(yè)、平臺和使用該技術(shù)高校各主體等失范行為的監管，及時(shí)發(fā)現處理違規行為。將“傳統事后監管模式”轉為“事前預防評估模式”和“事中控制模式”，制定事前評估、風(fēng)險預警和事中控制規范，有效減少安全事件的發(fā)生、降低安全事件對企業(yè)、高校等造成的負面影響。加快制定相應的技術(shù)使用規則和應急處理措施，強化對應用生成式人工智能的企業(yè)、平臺的監管和約束。
另一方面，持續增強數據安全。建立數據全生命周期監督管理，包括數據采集輸入階段的虛假、錯誤信息入庫管控，數據處理加工階段的數據標注管控監督，數據輸出階段（二次采集輸入階段）的數據真實(shí)性檢測驗真等。針對醫療、金融、電商、高校等重點(diǎn)領(lǐng)域，通過(guò)技術(shù)手段保障數據安全。及時(shí)發(fā)現和處理數據方面的違規行為，保障數據及隱私安全，防止濫用數據造成的損失，確保其符合法律法規和社會(huì )公德。
原標題：防范人工智能風(fēng)險要有安全閥
文章來(lái)源：http://www.ce.cn/cysc/tech/gd2012/202408/15/t20240815_39105001.shtml
|
