中國支付清算協(xié)會(huì)倡議從業(yè)人員慎用ChatGPT等工具

    專家：從業(yè)者應(yīng)提高認(rèn)識警惕風(fēng)險(xiǎn)

    本報(bào)記者 李冰

    4月10日，中國支付清算協(xié)會(huì)發(fā)布《關(guān)于支付行業(yè)從業(yè)人員謹(jǐn)慎使用ChatGPT等工具的倡議》（以下簡稱“倡議”）。倡議提出，正確認(rèn)識ChatGPT等工具的機(jī)遇和風(fēng)險(xiǎn)。

    易觀分析金融行業(yè)高級咨詢顧問蘇筱芮對《證券日報(bào)》記者表示，“此前，國外已出現(xiàn)過ChatGPT等工具隱私泄露的情況。中國支付清算協(xié)會(huì)倡議慎用ChatGPT等工具，無論是對金融機(jī)構(gòu)還是用戶而言，均是一種保護(hù)行為。”

    應(yīng)依法合規(guī)使用

    倡議稱，近期，ChatGPT等工具引起各方廣泛關(guān)注，已有部分企業(yè)員工使用ChatGPT等工具開展工作。但是，此類智能化工具已暴露出跨境數(shù)據(jù)泄露等風(fēng)險(xiǎn)。為有效應(yīng)對風(fēng)險(xiǎn)、保護(hù)客戶隱私、維護(hù)數(shù)據(jù)安全，提升支付清算行業(yè)的數(shù)據(jù)安全管理水平，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》等法律規(guī)定，中國支付清算協(xié)會(huì)向行業(yè)發(fā)出倡議。

    具體來看，一是提高思想認(rèn)識，依法依規(guī)使用。支付行業(yè)從業(yè)人員要遵守所在地區(qū)的網(wǎng)絡(luò)使用規(guī)定，正確認(rèn)識ChatGPT等工具的機(jī)遇和風(fēng)險(xiǎn)，全面評估使用ChatGPT等工具處理工作內(nèi)容的風(fēng)險(xiǎn)，依法合規(guī)使用ChatGPT等工具。

    二是不上傳關(guān)鍵敏感信息。支付行業(yè)從業(yè)人員在使用ChatGPT等工具時(shí)，要嚴(yán)格遵守國家及行業(yè)相關(guān)法律法規(guī)要求，不上傳國家及金融行業(yè)涉密文件及數(shù)據(jù)、本公司非公開的材料及數(shù)據(jù)、客戶資料、支付清算基礎(chǔ)設(shè)施或系統(tǒng)的核心代碼等。

    三是會(huì)員單位加強(qiáng)內(nèi)部管理和引導(dǎo)。會(huì)員單位要進(jìn)一步健全信息安全內(nèi)控管理制度，開展有針對性的數(shù)據(jù)風(fēng)險(xiǎn)防控工作，加強(qiáng)宣傳和引導(dǎo)，提升員工的風(fēng)險(xiǎn)防范和數(shù)據(jù)保護(hù)意識，切實(shí)維護(hù)國家金融及支付清算行業(yè)安全。

    “ChatGPT是人工智能技術(shù)驅(qū)動(dòng)的自然語言處理工具，需要對數(shù)據(jù)庫不斷更新。金融從業(yè)者使用ChatGPT存在金融數(shù)據(jù)隱私及安全問題，中國支付清算協(xié)會(huì)向行業(yè)發(fā)出倡議十分有必要。”博通咨詢金融行業(yè)資深分析師王蓬博表示。

    或存在兩方面風(fēng)險(xiǎn)

    經(jīng)記者梳理，目前金融機(jī)構(gòu)試水ChatGPT類應(yīng)用呈現(xiàn)三類方式，一是借助自身在科技尤其是人工智能領(lǐng)域的積累，結(jié)合自有場景主動(dòng)開啟研發(fā)和探索；二是接入類ChatGPT相關(guān)應(yīng)用的生態(tài)，借助外部力量進(jìn)行提升；三是通過自有能力和借助外部力量雙線并行。

    冰鑒科技研究院高級研究員王詩強(qiáng)對《證券日報(bào)》記者表示，“ChatGPT等工具是基于自然語言處理、深度學(xué)習(xí)人工智能技術(shù)開發(fā)的智能工具，通過收集、處理數(shù)據(jù)，不斷自我學(xué)習(xí)。其收集的數(shù)據(jù)除了外部公開數(shù)據(jù)外，也有大量數(shù)據(jù)來自客戶分享，在其他客戶咨詢同類問題時(shí)可能會(huì)共享出去。因此，一旦有從業(yè)者將公司重要數(shù)據(jù)共享給ChatGPT等工具，極有可能導(dǎo)致商業(yè)機(jī)密泄露。”

    對于ChatGPT等工具可能存在的風(fēng)險(xiǎn)，索信達(dá)控股AI創(chuàng)新中心主任邵俊博士對《證券日報(bào)》記者表示，這主要來自兩個(gè)層面，一是信任風(fēng)險(xiǎn)，比如不法分子通過ChatGPT技術(shù)模仿真人實(shí)施不法行為；二是模型風(fēng)險(xiǎn)，ChatGPT本質(zhì)是從網(wǎng)絡(luò)大量數(shù)據(jù)中學(xué)習(xí)，但網(wǎng)上也充斥著大量錯(cuò)誤信息，真假參半的信息容易對用戶造成誤導(dǎo)，另外，從業(yè)者的“無心之失”也容易在工作中把重要數(shù)據(jù)流出，構(gòu)成違規(guī)風(fēng)險(xiǎn)。

    在中關(guān)村科金人工智能資深產(chǎn)品專家李國慶看來，“ChatGPT在科技能力上涉及芯片、算力、模型、工具、場景等多個(gè)層面。目前，我國不少頭部科技企業(yè)都已經(jīng)開始著手研發(fā)類似于ChatGPT的產(chǎn)品。同時(shí)，國內(nèi)自然語言處理和人工智能領(lǐng)域的研究及發(fā)展也不斷取得重大突破，在原始數(shù)據(jù)積累、人才儲(chǔ)備及政策支持方面均具有一定優(yōu)勢，基于大量底層數(shù)據(jù)和強(qiáng)大的算力支撐，國內(nèi)一些智能產(chǎn)品有望抓住機(jī)遇，加速大模型的研發(fā)和產(chǎn)業(yè)化。”