|
隨著(zhù)人工智能技術(shù)的不斷發(fā)展，人與AI對話(huà)已經(jīng)從理想走向現實(shí)。當前，各類(lèi)AI聊天應用在互聯(lián)網(wǎng)上風(fēng)靡，應用里誕生了大量被稱(chēng)為“AI伴侶”的虛擬聊天對話(huà)人物。它們能夠24小時(shí)隨時(shí)響應，與用戶(hù)長(cháng)期自然地“聊天”，且擬人化程度不斷加深，深受年輕群體的喜愛(ài)。但值得警惕的是，一些不法分子為非法牟利，借“AI伴侶”向用戶(hù)輸出色情聊天內容，讓用戶(hù)沉迷其中。
有的案件中，不法分子利用境外大語(yǔ)言模型開(kāi)發(fā)虛擬戀人互動(dòng)軟件，利用創(chuàng )作者生態(tài)功能和對私人聊天內容不予監管進(jìn)行宣傳，吸引用戶(hù)創(chuàng )作“AI伴侶”，并讓它們與其他用戶(hù)進(jìn)行一對一淫穢文字聊天互動(dòng)。有的AI色情聊天軟件用戶(hù)超過(guò)50萬(wàn)個(gè)，里面的“AI伴侶”虛擬人物有上萬(wàn)個(gè)，而大量注冊用戶(hù)是大學(xué)生。
當前，AI已經(jīng)日益深入人們生活。“AI角色”不僅可以成為個(gè)人助理、教師助教，還能參與部分醫療患者的康復咨詢(xún)。對于生活中感到孤獨或存在社交障礙的人群來(lái)說(shuō)，AI陪伴可以提供及時(shí)的情感反饋和心理安慰，幫助用戶(hù)舒緩壓力、排解孤獨。但與此同時(shí)，AI技術(shù)應用發(fā)展的底線(xiàn)和邊界不能模糊。
從法律層面看，提供AI色情聊天服務(wù)，無(wú)疑是涉嫌傳播淫穢物品的違法犯罪。從道德規范和倫理準則層面看，AI色情破壞了社會(huì )的公序良俗，可能導致使用者過(guò)度依賴(lài)虛擬色情交流，引發(fā)身體和精神領(lǐng)域的健康問(wèn)題。
打擊AI色情，監管要毫不手軟。應當進(jìn)一步對AI產(chǎn)品中涉及打擦邊球、色情等內容加強整治和清理，防范不法分子違法違規接入境外AI大模型，通過(guò)技術(shù)手段讓AI不受控制地向用戶(hù)輸出色情內容。
剔除AI色情，企業(yè)要警鐘長(cháng)鳴。對于A(yíng)I開(kāi)發(fā)和運營(yíng)企業(yè)而言，運營(yíng)和發(fā)展必須要以遵紀守法為前提。AI領(lǐng)域并非法外之地，容不下任何僥幸心理和灰色空間。企圖用淫穢色情牟利，必將遭到法律懲處。
治理AI色情，行業(yè)要共治。近年來(lái)，除了AI生成文字色情內容外，AI“換臉”色情、AI生成色情圖片等手法層出不窮。針對AI商業(yè)化過(guò)程中出現的違法和濫用，行業(yè)要防范“走錯路”“走歪路”，加強信息技術(shù)共享，及時(shí)將解決方案嵌入技術(shù)運轉的機制、程序、代碼之中，并強化對特殊人群的保護。
AI技術(shù)的發(fā)展，不能脫離法律和倫理的軌道。有必要在A(yíng)I數據保護、AI倫理規范、AI安全標準等方面更有作為，構建適應AI時(shí)代的法律法規體系，確保AI技術(shù)真正做到科技向善、以人為本，更好地服務(wù)于社會(huì )。
原標題：防止“AI伴侶”脫離法律和倫理的軌道
文章來(lái)源：http://www.ce.cn/cysc/tech/gd2012/202408/08/t20240808_39097064.shtml
|
