|
不久前出臺的《生成式人工智能服務(wù)管理暫行辦法》，意在促進(jìn)生成式人工智能健康發(fā)展和規范應用，維護國家安全和社會(huì )公共利益，保護公民、法人和其他組織的合法權益。可見(jiàn)，當前如何更好地防范生成式人工智能安全風(fēng)險，做到既鼓勵相關(guān)領(lǐng)域創(chuàng )新的“七十二變”，又要勒緊保護用戶(hù)隱私和消費者權益的“緊箍咒”，值得分析。
眼下，獲益于豐富多樣的數據資源、參數以及不錯的學(xué)習能力，大模型有效增強了人工智能的通用性。從與人類(lèi)暢聊到撰寫(xiě)文案、合同，從監測并檢驗程序安全漏洞到輔助創(chuàng )作影視劇……生成式人工智能正處于快速發(fā)展的過(guò)程中。而我國的人工智能大模型也已經(jīng)達到了一定水平。前不久發(fā)布的《中國人工智能大模型地圖研究報告》顯示，中國人工智能大模型正呈現蓬勃發(fā)展態(tài)勢。據不完全統計，截至目前，全國10億級參數規模以上的大模型已發(fā)布79個(gè)。研究表明，我國在大模型方面已建立起涵蓋理論價(jià)值和軟硬件技術(shù)的體系化研發(fā)水平。不過(guò)也要看到，生成式人工智能技術(shù)是把“雙刃劍”，其在推動(dòng)社會(huì )進(jìn)步的同時(shí)，也有可能帶來(lái)技術(shù)、設計、算法以及數據等方面的安全風(fēng)險。因此，必須做好前瞻研究，建立健全保障人工智能健康發(fā)展的法律法規、制度體系、倫理道德，在重視防范風(fēng)險的同時(shí)，同步建立容錯、糾錯機制，努力實(shí)現規范與發(fā)展的動(dòng)態(tài)平衡。
一方面，抓住生成式人工智能最根本的元素——數據和算法，以此為突破口，堅持問(wèn)題導向，在創(chuàng )新思維上下功夫，把控大數據源頭治理，提前布局和構建系統性大數據防火墻，控制和防范數據泄密。應及時(shí)啟動(dòng)并優(yōu)化國家級自主研發(fā)數據庫系統和備份系統，抓緊布局和研發(fā)人工智能大數據控制系統、分級分層享用系統、網(wǎng)絡(luò )風(fēng)險防范系統以及由此產(chǎn)生的AI智能管控監督架構系統。
另一方面，采取多種舉措推動(dòng)生成式人工智能的技術(shù)發(fā)展與治理。鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng )新應用，生成積極健康、向上向善的優(yōu)質(zhì)內容，探索優(yōu)化應用場(chǎng)景，構建應用生態(tài)體系。支持行業(yè)組織、企業(yè)、教育和科研機構、公共文化機構、有關(guān)專(zhuān)業(yè)機構等在生成式人工智能技術(shù)創(chuàng )新、數據資源建設、轉化應用、風(fēng)險防范等方面開(kāi)展協(xié)作。推動(dòng)生成式人工智能基礎設施和公共訓練數據資源平臺建設。促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能。推動(dòng)公共數據分類(lèi)分級有序開(kāi)放，擴展高質(zhì)量的公共訓練數據資源。鼓勵采用安全可信的芯片、軟件、工具、算力和數據資源。此外，還要從速從嚴構建和推廣實(shí)施生成式人工智能相關(guān)知識的普及宣傳，尤其是條例、法規宣傳和監督機構的完善和構建。
原文標題：嚴防生成式人工智能安全風(fēng)險
文章鏈接：http://www.ce.cn/cysc/tech/gd2012/202308/11/t20230811_38668532.shtml
|
