春節(jié)剛過(guò)，打工人還沒(méi)徹底從節(jié)后綜合癥里走出來(lái)，人工智能領(lǐng)域的ChatGPT就已經(jīng)火遍全網(wǎng)。智能銀行一直是銀行數(shù)字化轉(zhuǎn)型的重點(diǎn)方向，銀行自然也會(huì)密切關(guān)注這一冉冉升起的AI明星。
(資料圖)
2月6日，招商銀行(600036)發(fā)布招商銀行親情信用卡（附卡）推文。這篇推文通過(guò)與ChatGPT對(duì)話的方式對(duì)親情作出解釋，引發(fā)業(yè)界熱議。
2月8日，江蘇銀行(600919)相關(guān)負(fù)責(zé)人表示，該行已嘗試運(yùn)用ChatGPT 技術(shù)提升軟件開(kāi)發(fā)生產(chǎn)力，進(jìn)一步提高科技運(yùn)營(yíng)效能。
新技術(shù)應(yīng)用，銀行向來(lái)是積極的，同時(shí)也是謹(jǐn)慎的。從當(dāng)前的表現(xiàn)來(lái)看，銀行并未將ChatGPT應(yīng)用在具體的金融業(yè)務(wù)上。技術(shù)成熟度和可能產(chǎn)生的科技倫理風(fēng)險(xiǎn)是銀行對(duì)新技術(shù)保持謹(jǐn)慎的重要原因。
任何技術(shù)的出現(xiàn)所帶來(lái)的科技倫理問(wèn)題都會(huì)引起監(jiān)管的注意。ChatGPT一路狂飆，如何才能實(shí)現(xiàn)安全駕馭？如何引導(dǎo)技術(shù)健康發(fā)展，防范潛在風(fēng)險(xiǎn)一直是監(jiān)管留意和研究的重點(diǎn)課題。
2022年10月9日，中國(guó)人民銀行就正式發(fā)布了《金融領(lǐng)域科技倫理指引》（JR/T0258-2022）標(biāo)準(zhǔn)（以下簡(jiǎn)稱“《指引》）?！吨敢访鞔_，科技倫理即開(kāi)展科學(xué)研究、技術(shù)開(kāi)發(fā)等科技活動(dòng)需要遵循的價(jià)值理念和行為規(guī)范。
《金融領(lǐng)域科技倫理指引》
2022年1月，中國(guó)人民銀行印發(fā)《金融科技發(fā)展規(guī)劃（2022-2025年）》（以下簡(jiǎn)稱《規(guī)劃》）?！兑?guī)劃》提出了八個(gè)方面的重點(diǎn)任務(wù)。其中，第一條便是強(qiáng)化金融科技治理，全面塑造數(shù)字化能力，健全多方參與、協(xié)同共治的金融科技倫理規(guī)范體系，構(gòu)建互促共進(jìn)的數(shù)字生態(tài)。
除了金融監(jiān)管，即使是民間科技大佬也在呼吁“對(duì)人工智能進(jìn)行監(jiān)管”。
2018年3月，馬斯克是在接受 HBO 劇集《西部世界》聯(lián)合導(dǎo)演喬納森·諾蘭的采訪時(shí)表示，人類(lèi)需要對(duì)人工智能進(jìn)行監(jiān)管，以確保人工智能技術(shù)發(fā)展的安全性，這一點(diǎn)極其重要。
面對(duì)以ChatGPT為代表的人工智能應(yīng)用，銀行需要做好哪些風(fēng)險(xiǎn)防范呢？
一是技術(shù)風(fēng)險(xiǎn)。ChatGPT主要靠模型訓(xùn)練來(lái)豐富自己的對(duì)答能力。有技術(shù)專家認(rèn)為，“ChatGPT的輸出仍然更偏向于統(tǒng)計(jì)學(xué)規(guī)律，而不是真正的智能。”如果語(yǔ)料信息有誤導(dǎo)，那么訓(xùn)練的結(jié)果也會(huì)產(chǎn)生偏差。有些網(wǎng)友故意對(duì)其挖坑，它也善解人意地“跳坑”迎合。如下圖：
網(wǎng)友“挖坑”，ChatGPT“跳坑”
尤其是一些專業(yè)業(yè)務(wù)內(nèi)容，一般人很難判斷ChatGPT是一本正經(jīng)地胡說(shuō)八道還是有板有眼地進(jìn)行合理輸出，稍有不慎，就會(huì)給銀行或客戶帶來(lái)巨大損失。這也是為什么ChatGPT語(yǔ)料審查和標(biāo)準(zhǔn)成本高昂的原因之一。
二是數(shù)據(jù)泄露風(fēng)險(xiǎn)。AI訓(xùn)練的語(yǔ)料可以是多種多樣的。在銀行，AI會(huì)大量獲取銀行和客戶的敏感數(shù)據(jù)信息，這些數(shù)據(jù)如果不加限制，被AI隨意輸出，必然會(huì)帶來(lái)災(zāi)難。數(shù)據(jù)風(fēng)控內(nèi)審變得極為重要，監(jiān)管審查，包括代碼審查也變得十分必要。
三是監(jiān)管風(fēng)險(xiǎn)。技術(shù)的迭代效率大多是漸進(jìn)式的，但AI的訓(xùn)練和演化可能會(huì)不一樣。有研發(fā)人員表示，他在研究ChatGPT時(shí)有一種擔(dān)憂，如果它越過(guò)了某個(gè)奇點(diǎn)，那后果或許是十分可怕的。“可能，前幾分鐘，ChatGPT還是個(gè)傻子，但幾分鐘后，整個(gè)人類(lèi)在它面前都是傻子?！币坏┑搅四莻€(gè)時(shí)候，想管都管不住了。
另外，在電信詐騙方面，很多犯罪分子在直接參與電信詐騙之前，往往有“專業(yè)、集中、系統(tǒng)”的電詐話術(shù)培訓(xùn)，這些話術(shù)若被用于訓(xùn)練ChatGPT，那么ChatGPT成為詐騙犯的日子也就不遠(yuǎn)了，但我們會(huì)很難去抓住其背后的那個(gè)真正的詐騙犯。
除倫理風(fēng)險(xiǎn)外，ChatGPT在銀行領(lǐng)域的敏感風(fēng)險(xiǎn)還有成本風(fēng)險(xiǎn)。
對(duì)于單個(gè)金融機(jī)構(gòu)而言，人工智能的研發(fā)成本極其高昂。一位長(zhǎng)期關(guān)注人工智能發(fā)展趨勢(shì)的技術(shù)專家向中國(guó)電子銀行網(wǎng)表示，除了昂貴的軟硬件設(shè)施外，長(zhǎng)周期的語(yǔ)料“訓(xùn)練”是一般企業(yè)難以承受的。比如語(yǔ)料審查和標(biāo)注就是一項(xiàng)龐大的工作，時(shí)間成本和金錢(qián)成本會(huì)很高。
雖然，微軟近日提出，計(jì)劃在今年晚些時(shí)候發(fā)布軟件，幫助大公司創(chuàng)建類(lèi)似ChatGPT的聊天機(jī)器人。這樣可以在一定程度上降低企業(yè)的成本風(fēng)險(xiǎn)，但各企業(yè)的語(yǔ)料訓(xùn)練標(biāo)準(zhǔn)不一，也會(huì)導(dǎo)致風(fēng)險(xiǎn)治理難度的增大。
在智能金融創(chuàng)新活動(dòng)中化解和規(guī)避這些風(fēng)險(xiǎn)是銀行安全駕馭ChatGPT的重要前提條件。
（責(zé)編：王超）
關(guān)鍵詞： ChatGPT
