近日，來自機器學習、計算機視覺、自然語言處理，以及在生物醫療、金融、推薦系統等應用領域的12位著名專家聯合創作的《可解釋人工智能導論》一書正式出版，該著作全面介紹了可解釋AI在理論上和應用上的發展現狀、存在的問題以及今后發展的方向。其中微眾銀行首席人工智能官楊強教授與人工智能首席科學家范力欣博士作為主要作者參與了此書的撰寫。
AI應用持續落地，打造可解釋AI日趨重要
進入21世紀以來，人工智能（Artificial Intelligence，AI）取得了長足發展，智能化的人機協同成為發展趨勢。如果能夠了解AI對決策的判斷，實現理解、信任、管理AI的目標，那么人們將更有信心全方位地應用AI。
在此背景下，發展可解釋、可擴展、安全可靠的AI顯得至關重要。可解釋性就如同醫生需要向病人解釋病因，才能提供可理解的診斷結果和治療措施。發展安全可靠的AI的首要任務，是人類能夠理解AI技術的基本原理、自動決策的機制，以應對潛在風險及準備防范措施。在實際情況中，核心AI算法尤其是深度學習算法通常運行在類似于“黑盒”中的工作模式，其運行結果需要輔以合理的解釋為人類所理解和信任。
各國現行的條例法規同樣要求人工智能系統的開發使用，必須在監管合規的條件下運行。因此，發展可解釋AI具有重要的理論意義與現實意義。首先，可解釋AI可幫助用戶建立對AI系統的信任，防止因為算法的黑盒特性做出有偏見的結論，促進算法的公平性；其次，它可以滿足監管機構的合規要求，促進AI的公平性、穩健性、安全性發展。
微眾銀行關注可信、可解釋的AI理論及應用
基于在金融領域的實踐，微眾銀行已經在智能服務、智能營銷、聯邦學習等方面獲得一系列成果。參與撰寫《可解釋人工智能導論》體現了微眾銀行在發展可信、可解釋、負責任的人工智能方面的探索。
據了解，針對隱私計算和聯邦學習所面臨的安全、效率、性能之間的平衡問題，近期楊強教授帶領微眾銀行AI團隊持續豐富和拓展聯邦學習的理論，提出了“可信聯邦學習”概念。“可信聯邦學習”以隱私保護、模型性能、算法效率為核心的三角基石，以模型的決策可解釋性和可監管性為兩大支柱，共同構成了更加安全可信的聯邦學習。
在“可信聯邦學習”理論框架下，楊強教授及團隊提出了隱私與模型性能的"No-free-lunch安全-收益恒定"定律，利用該定律可實現可信聯邦學習的安全、性能、效率三者的協調，在實現更高質量的隱私保護的同時，既不犧牲數據安全保護，也不致使模型性能和學習效率的大幅下降。有效運用該定律能夠量化分析隱私計算各種技術保護方案的優劣，進一步優化隱私保護算法設計。目前相關論文已被國際頂級學術期刊接收。
楊強教授表示：“數據安全、隱私保護與可解釋性應當與模型性能、算法效率并重，在金融應用場景中尤為重要。未來，微眾銀行將持續深入在相關領域的探索和研究，持續推動可信、可解釋、負責任的AI應用。”
