防范AI詐騙重在數(shù)據(jù)治理

    邢萌

    最近，“AI詐騙正在全國(guó)爆發(fā)”話題熱度居高不下。事情起因在于包頭警方近日發(fā)布一起利用AI實(shí)施詐騙的典型案例，受騙人10分鐘內(nèi)被騙430萬(wàn)元。

    AI詐騙之所以如此受社會(huì)關(guān)注、甚至引發(fā)恐慌，主要原因在于AI詐騙是模仿真人聲音和面部實(shí)施詐騙，這種針對(duì)個(gè)人信息定制的“專屬劇本”詐騙成功率非常高。上述案件中，騙子盜用受騙人好友微信賬號(hào)，通過(guò)AI換臉和擬聲技術(shù)佯裝好友，通過(guò)視頻聊天成功對(duì)受騙人實(shí)施詐騙。多地警方提醒，AI詐騙的成功率接近100%。親友間網(wǎng)絡(luò)上借錢更要防范此類詐騙，避免個(gè)人信息被別有用心者盜用。

    面對(duì)此類詐騙案，網(wǎng)絡(luò)上甚至有網(wǎng)友自嘲，“還沒(méi)享受到AI的便利，就先遭到了AI的重錘”。眾所周知，利用新技術(shù)詐騙是電信詐騙的典型特點(diǎn)。從過(guò)往來(lái)看，無(wú)論是“盜版技術(shù)”BT種子下載還是“比特幣技術(shù)”區(qū)塊鏈，都曾是電信詐騙利用的工具。筆者在此呼吁，對(duì)于這種現(xiàn)象監(jiān)管部門(mén)需要高度重視，電信詐騙與新技術(shù)密切勾連，在實(shí)踐中容易造成上述污名化現(xiàn)象。其危害既影響科研人員積極性，又不利于營(yíng)造友好的創(chuàng)新環(huán)境。

    事實(shí)上，技術(shù)本身是中性的，“無(wú)罪的”，關(guān)鍵誰(shuí)來(lái)運(yùn)用。對(duì)于AI這樣的新一代信息技術(shù)，我們不能因噎廢食。當(dāng)前，ChatGPT引領(lǐng)AI變革，讓人們?cè)俅慰吹紸I技術(shù)在解放生產(chǎn)力、提高生產(chǎn)效率上的巨大潛力。

    同時(shí)，技術(shù)被濫用的風(fēng)險(xiǎn)不容低估。筆者建議，在AI詐騙剛剛冒頭之際，監(jiān)管部門(mén)不僅要嚴(yán)打AI詐騙，還要利用大數(shù)據(jù)技術(shù)查清到底是哪些人在為AI詐騙提供技術(shù)？背后是否形成了灰色產(chǎn)業(yè)鏈？目的就是在AI技術(shù)發(fā)展中堅(jiān)決規(guī)范并堵住危害社會(huì)的源頭。

    追根溯源，AI詐騙的源頭在于個(gè)人信息泄露，在于數(shù)據(jù)的治理。個(gè)人信息不泄露，騙子也就無(wú)法拿到個(gè)人信息，無(wú)從得知人際關(guān)系，更沒(méi)法模仿面貌腔調(diào)。然而，在當(dāng)前幾乎所有的App都想接入個(gè)人電話、照片、短信等權(quán)限的環(huán)境下，用戶“信息裸奔”現(xiàn)象時(shí)有發(fā)生。

    因此，對(duì)于電信詐騙，見(jiàn)招拆招誠(chéng)然重要，更重要的是防范。近年來(lái)，個(gè)人信息保護(hù)法、個(gè)人信息安全規(guī)范、數(shù)據(jù)安全法等法律法規(guī)陸續(xù)推出，加強(qiáng)了對(duì)公眾的生物特征等各類隱私數(shù)據(jù)保護(hù)力度。與此同時(shí)，生成式人工智能服務(wù)管理辦法出臺(tái)在即，重點(diǎn)強(qiáng)調(diào)了生成式人工智能產(chǎn)品訓(xùn)練數(shù)據(jù)及生成內(nèi)容的真實(shí)性。

    筆者認(rèn)為，監(jiān)管部門(mén)在貫徹落實(shí)好相關(guān)政策的同時(shí)，也要注重健全AI等新技術(shù)倫理規(guī)范，加強(qiáng)安全監(jiān)管舉措，引導(dǎo)和規(guī)范技術(shù)服務(wù)商行為。網(wǎng)絡(luò)社交等平臺(tái)企業(yè)要加強(qiáng)用戶賬號(hào)管理，防止被他人盜用、竊取。個(gè)人也要提高防范意識(shí)，避免過(guò)多暴露自身信息。