易觀數(shù)字化：今年以來，政府層面、金融監(jiān)管層面在科技倫理治理的指導(dǎo)要求上持續(xù)加碼，《中共中央辦公廳 國務(wù)院辦公廳印發(fā)關(guān)于加強(qiáng)科技倫理治理的意見》中，點明人工智能作為重點領(lǐng)域應(yīng)完善科技倫理治理的規(guī)范和標(biāo)準(zhǔn)；《中國銀保監(jiān)會辦公廳關(guān)于銀行業(yè)保險業(yè)數(shù)字化轉(zhuǎn)型的指導(dǎo)意見》中指出，要防范模型和算法風(fēng)險，定期評估模型預(yù)測能力及在不同場景下的局限性，確保模型的可解釋性和可審計性，防止算法歧視。人工智能治理的形勢日益迫切，在這當(dāng)中，人工智能是否可信被視為一種重要的品質(zhì)，需要引起金融機(jī)構(gòu)的足夠重視。本文將從可信AI對于銀行的重要性、關(guān)鍵特征、評估與驗證方式、合作廠商選擇等維度進(jìn)行專題分析。

可信AI在銀行數(shù)字化轉(zhuǎn)型背景下的重要性日益凸顯

銀行業(yè)在數(shù)字化轉(zhuǎn)型建設(shè)過程中，人工智能技術(shù)是構(gòu)建數(shù)智化能力的關(guān)鍵領(lǐng)域，在技術(shù)創(chuàng)新與應(yīng)用的同時，銀行也面臨著來自人工智能的風(fēng)險挑戰(zhàn)。

易觀分析認(rèn)為，人工智能的倫理風(fēng)險、模型與算法風(fēng)險、數(shù)據(jù)風(fēng)險、隱私風(fēng)險是當(dāng)前銀行需要應(yīng)對的幾類主要AI風(fēng)險，人工智能黑盒性、不確定性、脆弱易攻擊性造成的隱憂和不信任感，使銀行在應(yīng)用層面難以對其委以重任，在研發(fā)層面也難以進(jìn)行有突破性的探索。因此AI是否可信、可控在當(dāng)前以數(shù)字化能力為依托的轉(zhuǎn)型背景下變得尤為關(guān)鍵，實現(xiàn)可信AI是銀行科技能力建設(shè)布局的重要內(nèi)容，是銀行實現(xiàn)業(yè)務(wù)穩(wěn)健發(fā)展的前提和有力保障。

可信AI的特征應(yīng)結(jié)合銀行實際應(yīng)用需求加以延展

可信AI的概念在國內(nèi)是由何積豐院士于2017年香山科學(xué)會議上首次提出，是指人工智能技術(shù)本身具備可信的品質(zhì)。目前學(xué)術(shù)界針對人工智能治理已經(jīng)發(fā)表了多篇研究論述，對其治理原則的普遍認(rèn)識聚焦在透明、安全、公平、可問責(zé)、隱私保護(hù)幾項特性中。結(jié)合銀行業(yè)AI應(yīng)用發(fā)展現(xiàn)狀，易觀分析認(rèn)為，可信AI應(yīng)當(dāng)具備八大關(guān)鍵特征，即穩(wěn)定性、魯棒性、可解釋性、安全性、公平性、普惠性、客戶自治性以及可追溯性。

相應(yīng)地，銀行對于AI是否具備可信品質(zhì)的考量應(yīng)圍繞自主可控戰(zhàn)略要求，結(jié)合銀行實際應(yīng)用需求，如識別欺詐、隱私泄露、系統(tǒng)攻擊、信貸風(fēng)險、洗錢風(fēng)險等風(fēng)險場景，對可信AI的關(guān)鍵特征加以延展。例如，AI在進(jìn)行智能決策分析、智能推薦、智能風(fēng)控等活動時應(yīng)做到透明可釋、記錄可溯，具備可解釋性、客戶自治性、可追溯性；在進(jìn)行智能識別、智能問答等活動時應(yīng)做到抗擾動、抗欺騙，且符合倫理道德與行業(yè)規(guī)范，具備魯棒性、公平性、普惠性。同時，人工智能應(yīng)具備抗風(fēng)險、抗攻擊和隱私保護(hù)的穩(wěn)定性、安全性特征。

可信AI本身作為技術(shù)能力的一種表現(xiàn)，是反映在算法和模型層面，而不是直接體現(xiàn)在業(yè)務(wù)流程或是客戶體驗中的。

易觀分析認(rèn)為，銀行在推進(jìn)人工智能相關(guān)項目時，應(yīng)有的放矢地進(jìn)行可信AI的評測。在銀行業(yè)對可信AI尚無統(tǒng)一評測標(biāo)準(zhǔn)的情況下，銀行應(yīng)基于場景視角，選擇有需求、有痛點、頻次高、風(fēng)險敏感等場景，以自主技術(shù)能力開展可信AI相關(guān)的評估與驗證，并將其作為銀行IT治理架構(gòu)下的關(guān)鍵任務(wù)進(jìn)行統(tǒng)籌考慮。評估與驗證應(yīng)以小規(guī)模驗證為主，通過風(fēng)險點和樣本設(shè)置，重點驗證可信AI一個或多個特征在單一場景下的表現(xiàn)，經(jīng)小規(guī)模驗證后再規(guī)模化啟動。

對廠商的選擇應(yīng)關(guān)注其人工智能的整體能力表現(xiàn)

從目前人工智能領(lǐng)域的市場來看，可信AI相關(guān)的參與者和產(chǎn)品提供者以大型互聯(lián)網(wǎng)公司、獨立創(chuàng)業(yè)公司、滲透行業(yè)的供應(yīng)商、產(chǎn)業(yè)背景公司為主，這些廠商具備了不同程度的可信AI研發(fā)能力，但并不存在單一提供可信AI產(chǎn)品的廠商。

易觀分析認(rèn)為，銀行應(yīng)從整體能力出發(fā)對廠商進(jìn)行選型評價，并且將可信能力需要作為AI產(chǎn)品及解決方案的重要評價標(biāo)準(zhǔn)之一，結(jié)合自身場景需求選擇合適的合作伙伴。

聲明須知：易觀數(shù)字化在本文中引用的第三方數(shù)據(jù)和其他信息均來源于公開渠道，易觀數(shù)字化不對此承擔(dān)任何責(zé)任。任何情況下，本文僅作為參考，不作為任何依據(jù)。本文著作權(quán)歸發(fā)布者所有，未經(jīng)易觀數(shù)字化授權(quán)，嚴(yán)禁轉(zhuǎn)載、引用或以任何方式使用易觀數(shù)字化發(fā)布的任何內(nèi)容。經(jīng)授權(quán)后的任何媒體、網(wǎng)站或者個人使用時應(yīng)原文引用并注明來源，且分析觀點以易觀數(shù)字化官方發(fā)布的內(nèi)容為準(zhǔn)，不得進(jìn)行任何形式的刪減、增添、拼接、演繹、歪曲等。因不當(dāng)使用而引發(fā)的爭議，易觀數(shù)字化不承擔(dān)因此產(chǎn)生的任何責(zé)任，并保留向相關(guān)責(zé)任主體進(jìn)行責(zé)任追究的權(quán)利。

       原文標(biāo)題 : 銀行推進(jìn)人工智能技術(shù)應(yīng)用時需同步考量可信AI的評估與驗證