【資料圖】
ChatGPT熱度不減，但人們逐漸開始關(guān)注到了安全性的問題。4月10日，中國支付清算協(xié)會發(fā)布了《關(guān)于支付行業(yè)從業(yè)人員謹(jǐn)慎使用ChatGPT等工具的倡議》(以下簡稱《倡議》)。
《倡議》表示，近期，ChatGPT等工具引起各方廣泛關(guān)注，已有部分企業(yè)員工使用ChatGPT等工具開展工作。但是，此類智能化工具已暴露出跨境數(shù)據(jù)泄露等風(fēng)險。為有效應(yīng)對風(fēng)險、保護(hù)客戶隱私、維護(hù)數(shù)據(jù)安全，提升支付清算行業(yè)的數(shù)據(jù)安全管理水平，中國支付清算協(xié)會向行業(yè)發(fā)出三條倡議。
具體看：一是提高思想認(rèn)識，依法依規(guī)使用；二是不上傳關(guān)鍵敏感信息；會員單位加強(qiáng)內(nèi)部管理和引導(dǎo)。
《倡議》表示，支付行業(yè)從業(yè)人員要遵守所在地區(qū)的網(wǎng)絡(luò)使用規(guī)定，正確認(rèn)識ChatGPT等工具的機(jī)遇和風(fēng)險，全面評估使用ChatGPT等工具處理工作內(nèi)容的風(fēng)險，依法合規(guī)使用ChatGPT等工具。在使用ChatGPT等工具時，要嚴(yán)格遵守國家及行業(yè)相關(guān)法律法規(guī)要求，不上傳國家及金融行業(yè)涉密文件及數(shù)據(jù)、本公司非公開的材料及數(shù)據(jù)、客戶資料、支付清算基礎(chǔ)設(shè)施或系統(tǒng)的核心代碼等。
此外，《倡議》還要求會員單位進(jìn)一步健全信息安全內(nèi)控管理制度，開展有針對性的數(shù)據(jù)風(fēng)險防控工作，加強(qiáng)宣傳和引導(dǎo)，提升員工的風(fēng)險防范和數(shù)據(jù)保護(hù)意識，切實(shí)維護(hù)國家金融及支付清算行業(yè)安全。
值得一提的是，ChatGPT是基于巨大的數(shù)據(jù)集訓(xùn)練出來的，這意味著它在回答問題可能存在偏見和錯誤；ChatGPT 以及其他類似的模型可能被用于惡劣的，例如傳播虛假信息和濫用個人信息。
虎符智庫研究員李建平告訴21世紀(jì)經(jīng)濟(jì)報道記者，如同其他人工智能模型一樣，ChatGPT是把雙刃劍，既可以是提升效率的工具，同時也可能被繞過安全機(jī)制，用于實(shí)施有害的活動。對于如何規(guī)避ChatGPT所帶來的安全問題，他認(rèn)為，從安全防護(hù)的角度來看，ChatGPT的運(yùn)營機(jī)構(gòu)需采取針對性的應(yīng)對措施。對ChatGPT等類似模型進(jìn)行培訓(xùn)，標(biāo)記惡意的活動和惡意代碼，避免其向惡意人員提供；同時對ChatGPT設(shè)置難以繞過護(hù)欄，提升惡意人員利用其生成惡意內(nèi)容、開展惡意活動的門檻。
（文章來源：21世紀(jì)經(jīng)濟(jì)報道）
標(biāo)簽：
