在瑞士達(dá)沃斯舉辦的世界經(jīng)濟(jì)論壇2024年年會(huì)上，世界經(jīng)濟(jì)論壇創(chuàng)始人兼執(zhí)行主席施瓦布在致辭中感慨道：2023年年初，生成式人工智能技術(shù)(AIGC)還只是個(gè)“嬰孩”，不過(guò)一年時(shí)間竟已長(zhǎng)成“少年”。

　　正因如此，“人工智能推動(dòng)經(jīng)濟(jì)社會(huì)發(fā)展”成為2024世界經(jīng)濟(jì)論壇年會(huì)的四大關(guān)鍵議題之一，AI熱度可謂點(diǎn)燃了這個(gè)以冰雪度假勝地聞名的小鎮(zhèn)。業(yè)界普遍認(rèn)為，人工智能技術(shù)在為人類社會(huì)發(fā)展提供機(jī)遇的同時(shí)，也在安全、治理、監(jiān)管、版權(quán)、倫理等多個(gè)方面帶來(lái)風(fēng)險(xiǎn)和挑戰(zhàn)。

　　從技術(shù)角度來(lái)看，人工智能算法面臨諸多涉及技術(shù)性攻擊的安全風(fēng)險(xiǎn)。常見的人工智能算法攻擊方法包括竊取攻擊、藥餌攻擊、閃避攻擊、逆向攻擊、模仿攻擊等。

　　近年來(lái)，借助人工智能迅猛發(fā)展的浪潮，銀行業(yè)乘勢(shì)推進(jìn)數(shù)字化、智能化轉(zhuǎn)型。國(guó)內(nèi)部分商業(yè)銀行積極布局AIGC以及其他人工智能技術(shù)相關(guān)的應(yīng)用場(chǎng)景。

　　但是，人工智能算法的應(yīng)用可能帶來(lái)更多金融交易風(fēng)險(xiǎn)和數(shù)據(jù)泄露風(fēng)險(xiǎn)，給金融領(lǐng)域系統(tǒng)安全帶來(lái)新的挑戰(zhàn)。因此人工智能技術(shù)應(yīng)用到金融領(lǐng)域，其安全性當(dāng)為重中之重。

　　為保障人工智能金融應(yīng)用健康發(fā)展，監(jiān)管部門不斷制定、完善相關(guān)法律法規(guī)與行業(yè)規(guī)范。2021年3月，中國(guó)人民銀行發(fā)布《人工智能算法金融應(yīng)用評(píng)價(jià)規(guī)范》(JR/T 0221—2021)，為金融機(jī)構(gòu)加強(qiáng)人工智能算法應(yīng)用風(fēng)險(xiǎn)管理提供指引。

　　中國(guó)金融認(rèn)證中心(CFCA)立足于金融行業(yè)，建立了涵蓋安全性、可解釋性、精準(zhǔn)性和性能等方面的人工智能算法檢測(cè)體系，可提供符合《人工智能算法金融應(yīng)用評(píng)價(jià)規(guī)范》(JR/T 0221-2021)要求的人工智能算法金融應(yīng)用評(píng)估服務(wù)。

　　2021年10月，CFCA作為試點(diǎn)檢測(cè)機(jī)構(gòu)參與了人工智能算法金融應(yīng)用安全測(cè)評(píng)試點(diǎn)工作，對(duì)寧波銀行“應(yīng)用于快審快貸產(chǎn)品的LightGBM算法”進(jìn)行了檢測(cè)。檢測(cè)結(jié)果顯示，寧波銀行送檢的應(yīng)用于快審快貸產(chǎn)品的LightGBM算法符合規(guī)范要求，具有較強(qiáng)的安全性保障。

　　近年來(lái)，CFCA在人工智能、多方安全計(jì)算、區(qū)塊鏈、聯(lián)邦學(xué)習(xí)等領(lǐng)域積極布局，參與各項(xiàng)技術(shù)標(biāo)準(zhǔn)和檢測(cè)標(biāo)準(zhǔn)的制定，持續(xù)加大人工智能領(lǐng)域的投入，與產(chǎn)業(yè)各方廣泛合作，為金融行業(yè)提供涵蓋安全性、可解釋性、精準(zhǔn)性和性能等方面的人工智能算法檢測(cè)服務(wù)，與各方攜手共同推進(jìn)人工智能技術(shù)在金融行業(yè)規(guī)范、健康發(fā)展。