|
近日，一系列由AI生成的配音視頻在網(wǎng)絡(luò )上引發(fā)關(guān)注，其逼真程度令人驚訝，不僅畫(huà)面栩栩如生，聲音特征也與真人幾乎無(wú)異，短時(shí)間內便收獲了過(guò)億次的播放量。然而，這些視頻中的內容與畫(huà)面中的公眾人物毫無(wú)關(guān)聯(lián)，現已被平臺下架。
AI技術(shù)的發(fā)展降低了深度偽造和低價(jià)量產(chǎn)的門(mén)檻，AI生成影像、換聲及換臉視頻大量出現。這些視頻雖吸引眼球，但背后隱藏的風(fēng)險卻不容忽視。
當前，虛假信息的制造和傳播已成為全球性問(wèn)題，以假亂真的AI合成技術(shù)讓普通人在信息甄別上陷入困境。《2024年人工智能安全報告》顯示，基于A(yíng)I的深度偽造欺詐在2023年激增30倍，對網(wǎng)絡(luò )安全和社會(huì )安全構成嚴重威脅。虛假信息的泛濫，不僅擾亂了網(wǎng)絡(luò )空間的正常秩序，更可能將負面情緒從虛擬世界傳導至現實(shí)，加劇社會(huì )焦慮。
應對深度偽造等亂象，需要多方協(xié)作、共同治理。目前，我國已出臺《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》等法律法規，從源頭加強內容管理。同時(shí)，《人工智能生成合成內容標識辦法（征求意見(jiàn)稿）》的發(fā)布，也標志著(zhù)國家層面正加大對AI技術(shù)的監管力度。只有讓AI在合法合規的框架內健康發(fā)展，才能讓人們真正享受到技術(shù)變革帶來(lái)的紅利，推動(dòng)人工智能產(chǎn)業(yè)良性發(fā)展。
作為信息傳播的重要一環(huán)，平臺運營(yíng)商和服務(wù)提供者也應承擔起相應的責任，對AI生成內容劃定紅線(xiàn)，嚴禁違法違規、侵權欺詐內容的傳播，并添加顯著(zhù)提示標識，防范虛假信息擴散。此外，利用數字水印、時(shí)間戳、哈希函數等技術(shù)手段，既能提高信息真實(shí)性的可驗證性，也是防范虛假信息傳播的有效手段。作為內容消費者，受眾也應保持警惕，提高辨別AI生成內容的能力，避免偏聽(tīng)偏信。
原標題：人工智能技術(shù)應用亟待規范
文章來(lái)源：http://www.ce.cn/cysc/tech/gd2012/202410/31/t20241031_39187406.shtml
|
