下載APP
報(bào)料
關(guān)于
湖南日報(bào)·新湖南客戶端 2025-07-16 10:54:21
楊玉龍
西裝革履的小伙子舌燦蓮花兜售保健品，背景和神態(tài)總是雷同；視頻中的妙齡女子聲稱要做老人的“好妹妹”，卻明顯聲畫不同步……如今，AI工具被一些別有用心的人濫用，專門用來圍獵對新技術(shù)不熟悉的老人。
這些AI制造的假信息混淆視聽，在短視頻平臺(tái)上流傳甚廣，目標(biāo)就是漲粉并誘導(dǎo)粉絲進(jìn)行消費(fèi)。而現(xiàn)實(shí)中，被AI數(shù)字人牽動(dòng)心緒的老年人不在少數(shù)。
據(jù)報(bào)道，不久前，北京市老齡協(xié)會(huì)、北京律維銀齡研究與服務(wù)中心發(fā)布專項(xiàng)報(bào)告，提醒老年人注意防范AI換臉詐騙。報(bào)告指出，老年人因?yàn)槿狈Ψ直婺芰?，已成為AI詐騙的重災(zāi)區(qū)。對于年輕人而言，應(yīng)該關(guān)注老人的上網(wǎng)習(xí)慣，也應(yīng)引導(dǎo)他們遠(yuǎn)離“免費(fèi)領(lǐng)大獎(jiǎng)”“重大優(yōu)惠政策”等宣傳。
去年相關(guān)部門就提出，人工智能生成合成內(nèi)容需進(jìn)行標(biāo)識(shí)。然而，現(xiàn)實(shí)情況是，這些AI生成的視頻與音頻，要么壓根沒標(biāo)識(shí)；要么雖然標(biāo)注了“內(nèi)容由AI生成”等字樣，但提示信息字體很小。對此，相關(guān)部門當(dāng)引起重視，逐步構(gòu)建完善的人工智能監(jiān)管體系，加大對AI詐騙的懲治力度。
有專家表示，相關(guān)技術(shù)團(tuán)隊(duì)可開發(fā)和部署針對欺詐模式的AI系統(tǒng)，通過話語特征、行為模式等進(jìn)行識(shí)別并報(bào)警，利用AI檢測輔助老人辨識(shí)偽造內(nèi)容。此外，應(yīng)加強(qiáng)用戶數(shù)據(jù)的加密和保護(hù)，防止數(shù)據(jù)被黑客或不法分子竊取和利用。
AI暴露出的算法偏見、數(shù)據(jù)泄露、虛假內(nèi)容生成、不當(dāng)利用等安全風(fēng)險(xiǎn)，極易引發(fā)新型犯罪。對此，互聯(lián)網(wǎng)平臺(tái)應(yīng)負(fù)起責(zé)任。畢竟，在人類與AI的對壘中，平臺(tái)企業(yè)扮演著重要角色，平臺(tái)應(yīng)恪守法律底線行事，而不能為了利益縱容詐騙套路層出不窮。
（作者單位：河北省高碑店市辛橋鎮(zhèn)人民政府)
責(zé)編：張英
一審：張英
二審：歐陽金雨
三審：易博文
來源：湖南日報(bào)·新湖南客戶端
我要問
湘公網(wǎng)安備 43010502000374號