可信AI引發全球關注

　　當前迅速爆火的ChatGPT似乎讓人們看到，人工智能距離進入每個人的日常生活已近在咫尺。但不可忽視的是，人工智能的大規模應用同時隱含著巨大的風險。ChatGPT在其月活用戶數快速突破一億之時，人們對其數據安全問題、知識產權保護問題、虛假信息傳播問題的疑慮也被快速放大。在人工智能快速發展的今天，亟需保障其對人類的“可信賴”。

　　在全球范圍來看，可信AI已引起高度重視。二十國集團領導人大會明確提出“促進公共和私人對人工智能研發的投資力度，以促進可信賴的人工智能(trustworthy artificial intelligence)創新;創建一個策略環境，為部署值得信賴的人工智能系統開辟道路。” 美國政府也已公布《促進政府使用可信人工智能》的行政命令，指導聯邦機構使用人工智能，促進公眾更加信任政府使用的人工智能技術。另外，歐盟發布的《人工智能白皮書》提出人工智能“可信生態系統”，旨在加強對人工智能的強制監管�？梢�，隨著人工智能的產業化發展，可信人工智能已成為業界焦點。

　　金融業可信AI的特征

　　金融業人工智能的可信特征，經過行業的不斷研究與沉淀，已逐漸在公平性、隱私保護、安全性、透明性、責任可追溯等方面達成共識。金融業可信人工智能要承接科技倫理的要求，將以人為本作為其根本。不同的是，科技倫理從宏觀層面做出指引，而可信人工智能則深入到金融機構內部對人工智能的管理、研發、運營等環節，提升金融消費者和整個行業對人工智能的信任程度。盡管不同的機構或個人可能對可信特征有不同側重，但從行業維度來看，金融業已開始圍繞這些可信特征進行理論研究和技術創新，解決金融業人工智能的可信問題。

　　AI可信問題帶來金融風險

　　人工智能在金融領域應用的廣度和深度在不斷拓展，已成為金融的重要支撐。人工智能的可信問題已逐漸成為金融風險的重要來源，體現在以下一些方面。

　　公平性缺失導致業務決策偏見。人工智能決策結果會受到訓練數據的影響，如果訓練數據中存在偏見歧視，算法會固化這種歧視，導致依托人工智能算法生成的決策形成偏見。例如在營銷場景下，某些智能推薦算法存在的偏見，可導致部分群體不能公平地獲得金融服務機會。

　　數據濫用導致隱私泄露。當前金融業務活動中會涉及大量個人信息，比如利用個人信息構建風控模型、在身份認證中采集個人生物特征，這些活動使得個人隱私數據泄露和濫用的可能性大增，加重了人們對金融安全風險的擔憂。

　　算法模型安全性低導致業務風險。以深度學習為代表的人工智能技術存在脆弱和易受攻擊的缺點，使得依靠人工智能支撐的金融業務難以得到足夠的信任。例如已在金融領域大量使用的人臉識別系統，受到眾多利用3D面具和合成照片等手段實施的欺騙攻擊，且部分攻擊可突破系統防御，給金融業務安全帶來了巨大隱患。

　　黑箱特性導致業務的不透明。人工智能采用的深度神經網絡具有高度復雜性和不確定性，很多情況下對人類來說是一個黑箱，人類無法直觀地了解人工智能的決策過程。這種特性導致科技的不透明性增加，考慮金融業務較高的安全合規要求，我們對于人工智能與金融業的深度融合產生了疑慮。

　　責任主體難以界定。人工智能的決策受多種因素影響，若利用人工智能系統做出的金融決策和判斷出現侵權、違法行為，從現行法律上看，難以將人工智能作為責任主體。人工智能的行為到底是由所有方還是研發方擔責，責任主體難以界定。

　　因此，為降低金融風險，須進行人工智能的可信治理，通過建立可信賴人工智能，打造消費者滿意和信任的金融服務。

　　馬上消費如何打造可信AI

　　馬上消費致力于將可信人工智能理念貫穿人工智能系統全生命周期，在設計、研發、應用人工智能系統的過程中，將可信的理念根植于關鍵環節。我們針對上述人工智能可信問題帶來的金融風險，綜合利用技術手段、管理方法保障系統可信。

　　公平性方面，馬上消費重點關注人工智能訓練數據集，構建完整異構數據，將數據歧視和偏見最小化。并研究公平決策量化算法對數據集進行評估，減輕決策偏差和潛在歧視。

　　隱私泄露防范方面，通過建立數據治理體系來避免數據的濫用，并使用隱私計算技術訓練人工智能模型。馬上消費已建立多方安全計算平臺，可在用戶數據不出庫的條件下進行人工智能模型的訓練，保障隱私數據安全。

　　為保障算法模型的安全性，馬上消費著力提升人工智能模型防御對抗攻擊與中毒攻擊的能力。對抗攻擊是通過針對性設計特定的輸入樣本使得人工智能系統決策出錯，中毒攻擊則是通過向訓練數據中注入特定數據使得訓練得到的模型推理判斷出現失真。為防御這些攻擊，馬上消費研究采用異常數據檢測方法來檢出并清除訓練數據中的惡意數據，減輕中毒攻擊帶來的干擾，并通過建立對抗樣本進行針對性訓練來抵抗對抗攻擊。

　　為保障人工智能系統透明性，重點研究人工智能的復現能力。目前業界已有一些研究方向，如通過建立可視化機制嘗試評估和解釋模型的中間狀態，或通過影響函數分析訓練數據對于人工智能模型的影響。馬上消費探索建立可解釋模型，模型通過對復雜的黑盒模型進行局部近似來研究黑盒模型的可解釋性。

　　另外，馬上消費致力于樹立可信的企業價值理念。發展可信人工智能不僅是建設可信的人工智能系統，更要把可信理念融入金融機構的血脈，樹立以消費者為中心的價值觀，為客戶提供可靠、透明、包容的科技服務。我們在鼓勵創新和實踐可信人工智能的同時，落實可信人工智能管理制度，明確責任部門和人員、工作方法和流程，打造更加可信的金融機構。

　　可信人工智能已經加速在金融行業的落地。雖然可信人工智能的特征包括了很多方面，但隨著相關理論研究與技術創新的不斷深入，可信理念將更深層次地與科技結合，確保金融業健康發展。


新財網對文中陳述、觀點判斷保持中立，不對所包含內容的準確性、可靠性或完整性提供任何明示或暗示的保證。讀者應詳細了解所有相關投資風險，并請自行承擔全部責任。本文內容版權歸新財網投稿作者所有！文中涉及圖片等內容如有侵權，請聯系編輯刪除。