可解釋性人工智慧：解釋複雜的AI/ML模型
Jun 03, 2024 pm 10:08 PM
譯者| 李睿
#審校| 重樓
人工智慧（AI）和機器學(xué)習(xí)（ML）模型如今變得越來越複雜，這些模型產(chǎn)生的產(chǎn)出是黑盒子－無法向利害關(guān)係人解釋?？山忉屝匀斯ぶ腔郏╔AI）致力於透過讓利害關(guān)係人理解這些模型的工作方式來解決這個問題，確保他們理解這些模型實際上是如何做出決策的，並確保人工智慧系統(tǒng)中的透明度、信任度和問責(zé)制來解決這個問題。本文探討了各種可解釋性人工智慧（XAI）技術(shù)，以闡明它們的基本原理。
- 可解釋性人工智慧至關(guān)重要的幾個原因
- 信任度和透明度：為了讓人工智慧系統(tǒng)被廣泛接受和信任，使用者需要了解決策是如何做出的。
法規(guī)遵循：歐盟的《一般資料保護規(guī)範》(GDPR)等法律要求對影響個人的自動化決策做出解釋。
模型偵錯與改進：深入了解模型決策可以幫助開發(fā)人員識別和修正偏差或不準確之處。
可解釋性人工智慧的核心技術(shù)
智慧工人的可解釋性是指其技術(shù)模型可分為模型不可知方法和模型特定方法，每種方法都適用於不同類型的智慧工人模型和應(yīng)用。
模型不可知方法
#（1）局部可解釋模型不可知論解釋(LIME)
局部可解釋模型不可知識解釋（LIME）是一項創(chuàng)新性的技術(shù)，旨在使人類可以理解複雜機器學(xué)習(xí)模型的預(yù)測。從本質(zhì)上講，LIME的好處在於它的簡單性和解釋任何分類器或回歸器行為的能力，而不管其複雜性如何。 LIME透過在輸入資料的附近進行取樣，然後使用簡單模型（如線性迴歸模型）來近似原始複雜模型的預(yù)測。簡單模型會學(xué)習(xí)如何解釋複雜模型在特定輸入上的預(yù)測，以便可以理解複雜模型的決策過程。這樣，即使複雜模型是黑盒子，我們也可以透過簡單模型的解釋來
#LIME透過使用可解釋的模型在局部近似來闡明任何分類器或回歸器的預(yù)測。關(guān)鍵思想是擾動輸入資料並觀察預(yù)測如何變化，這有助於識別顯著影響預(yù)測的特徵。
在數(shù)學(xué)上，對於給定的實例\(x\)和模型\(f\)，LIME產(chǎn)生一個新的樣本資料集，並使用\(f\)對它們進行標記。然後，它學(xué)習(xí)一個基於\(f\)的局部忠實於（f）的簡單模型（如線性模型），最小化以下目標：
\[ \xi(x) = \underset{g \in G}{\text{argmin}} \; L(f, g, \pi_x) + \Omega(g) \]其中\(zhòng)(L\)是衡量\(g\)在\(x\)周圍近似\(f\)時的不忠實程度，\(\pi_x\)是是定義\（x\）周圍局部鄰域的鄰近度量，並且\(\Omega\)懲罰\(g\)的複雜性。
（2）Shapley可加上##性愛解釋(SHAP)
S
hapley可加性解釋(SHAP)透過為特定預(yù)測的每個特徵分配重要值來幫助人們理解機器學(xué)習(xí)模型的輸出。想像一下，人們正試圖根據(jù)房子的大小、年限和地點等特徵來預(yù)測房子的價格。某些特徵可能會提高預(yù)期價格，而其他特徵可能會降低預(yù)期價格。相對於基線預(yù)測（資料集的平均預(yù)測），SHAP值有助於人們準確量化每個特徵對最終預(yù)測的貢獻。
特徵\(i\)的SHAP值定義為：##\[ \phi_i = \sum_{S \subseteq F \setminus \{i\}} \frac{|S|!(|F| - |S| - 1)!}{|F|!} [f_x(S \cup \{i\}) - f_x(S)] \]
#其中，\F\）是所有特徵的集合， \S\）是不包括\（i\）的特徵的子集，\(f_x(S)\)是特徵集\S\）的預(yù)測，總和是所有可能的特徵子集。此公式確保每個特徵的貢獻根據(jù)其對預(yù)測的影響進行公平分配。
特定於模型的方法
#（1）神經(jīng)網(wǎng)路中的注意機制
###神經(jīng)網(wǎng)路中的注意機制強調(diào)輸入資料中與做出預(yù)測最相關(guān)的部分。在序列到序列模型的場景中，目標時間步長\(t\)和源時間步長\(j\)的注意力權(quán)重\(\alpha_{tj}\)計算為:###### ############\[ \alpha_{tj} = \frac{\exp(e_{tj})}{\sum_{k=1}^{T_s} \exp(e_{tk })} \]############其中\(zhòng)(e_{tj}\)是評分函數(shù)，用於評估位置\(j\)的輸入和位置\(t\)的輸出之間的對齊情況，\(T_s\ )是輸入序列的長度。這種機制允許模型專注於輸入資料的相關(guān)部分，從而提高可解釋性。
（2）決策樹的視覺化
決策樹透過將決策表示為從輸入特徵派生的一系列規(guī)則來提供固有的可解釋性。決策樹的結(jié)構(gòu)可以實現(xiàn)視覺化，節(jié)點表示基於特徵的決策，葉子表示結(jié)果。這種視覺化表示可以直接追蹤輸入特徵是如何導(dǎo)致特定預(yù)測的。
（3）實際實作與道德考量
實作可解釋的人工智慧需要仔細考慮模型類型、應(yīng)用程式要求和解釋的目標受眾。在模型性能和可解釋性之間進行權(quán)衡也很重要。從道德上來說，確保人工智慧系統(tǒng)的公平性、問責(zé)制和透明度至關(guān)重要?？山忉屝匀斯ぶ腔鄣奈磥矸较虬藴驶忉尶蚣芎屠^續(xù)研究更有效的解釋方法。
結(jié)論
#可解釋性人工智慧對於解釋複雜的AI/ML模型，提供信任和確保其應(yīng)用程式中的問責(zé)制至關(guān)重要。它利用了LIME、SHAP、注意力機制和決策樹視覺化等技術(shù)。隨著該領(lǐng)域的發(fā)展，更複雜和標準化??的可解釋性人工智慧方法的開發(fā)對於解決軟體開發(fā)和法規(guī)遵循的不斷發(fā)展的需求將是至關(guān)重要的。
原文標題：#Explainable AI: Interpreting Complex AI/ML Model
以上是可解釋性人工智慧：解釋複雜的AI/ML模型的詳細內(nèi)容。更多資訊請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！
熱AI工具
Undress AI Tool
免費脫衣圖片
Undresser.AI Undress
人工智慧驅(qū)動的應(yīng)用程序，用於創(chuàng)建逼真的裸體照片
AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。
Clothoff.io
AI脫衣器
Video Face Swap
使用我們完全免費的人工智慧換臉工具，輕鬆在任何影片中換臉！
熱門文章
熱工具
記事本++7.3.1
好用且免費的程式碼編輯器
SublimeText3漢化版
中文版，非常好用
禪工作室 13.0.1
強大的PHP整合開發(fā)環(huán)境
Dreamweaver CS6
視覺化網(wǎng)頁開發(fā)工具
SublimeText3 Mac版
神級程式碼編輯軟體(SublimeText3)
位元組跳動剪映推出 SVIP 超級會員：連續(xù)包年 499 元，提供多種 AI 功能
Jun 28, 2024 am 03:51 AM
本站6月27日訊息，剪映是由位元組跳動旗下臉萌科技開發(fā)的一款影片剪輯軟體，依託於抖音平臺且基本面向該平臺用戶製作短影片內(nèi)容，並相容於iOS、安卓、Windows 、MacOS等作業(yè)系統(tǒng)。剪映官方宣布會員體系升級，推出全新SVIP，包含多種AI黑科技，例如智慧翻譯、智慧劃重點、智慧包裝、數(shù)位人合成等。價格方面，剪映SVIP月費79元，年費599元（本站註：折合每月49.9元），連續(xù)包月則為59元每月，連續(xù)包年為499元每年（折合每月41.6元） 。此外，剪映官方也表示，為提升用戶體驗，向已訂閱了原版VIP
使用Rag和Sem-Rag提供上下文增強AI編碼助手
Jun 10, 2024 am 11:08 AM
透過將檢索增強生成和語意記憶納入AI編碼助手，提升開發(fā)人員的生產(chǎn)力、效率和準確性。譯自EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG，作者JanakiramMSV。雖然基本AI程式設(shè)計助理自然有幫助，但由於依賴對軟體語言和編寫軟體最常見模式的整體理解，因此常常無法提供最相關(guān)和正確的程式碼建議。這些編碼助手產(chǎn)生的代碼適合解決他們負責(zé)解決的問題，但通常不符合各個團隊的編碼標準、慣例和風(fēng)格。這通常會導(dǎo)致需要修改或完善其建議，以便將程式碼接受到應(yīng)
七個很酷的GenAI & LLM技術(shù)性面試問題
Jun 07, 2024 am 10:06 AM
想了解更多AIGC的內(nèi)容，請造訪：51CTOAI.x社群https://www.51cto.com/aigc/譯者|晶顏審校|重樓不同於網(wǎng)路上隨處可見的傳統(tǒng)問題庫，這些問題需要跳脫常規(guī)思維。大語言模型（LLM）在數(shù)據(jù)科學(xué)、生成式人工智慧（GenAI）和人工智慧領(lǐng)域越來越重要。這些複雜的演算法提升了人類的技能，並在許多產(chǎn)業(yè)中推動了效率和創(chuàng)新性的提升，成為企業(yè)保持競爭力的關(guān)鍵。 LLM的應(yīng)用範圍非常廣泛，它可以用於自然語言處理、文字生成、語音辨識和推薦系統(tǒng)等領(lǐng)域。透過學(xué)習(xí)大量的數(shù)據(jù)，LLM能夠產(chǎn)生文本
微調(diào)真的能讓LLM學(xué)到新東西嗎:引入新知識可能讓模型產(chǎn)生更多的幻覺
Jun 11, 2024 pm 03:57 PM
大型語言模型（LLM）是在龐大的文字資料庫上訓(xùn)練的，在那裡它們獲得了大量的實際知識。這些知識嵌入到它們的參數(shù)中，然後可以在需要時使用。這些模型的知識在訓(xùn)練結(jié)束時被「具體化」。在預(yù)訓(xùn)練結(jié)束時，模型實際上停止學(xué)習(xí)。對模型進行對齊或進行指令調(diào)優(yōu)，讓模型學(xué)習(xí)如何充分利用這些知識，以及如何更自然地回應(yīng)使用者的問題。但是有時模型知識是不夠的，儘管模型可以透過RAG存取外部內(nèi)容，但透過微調(diào)使用模型適應(yīng)新的領(lǐng)域被認為是有益的。這種微調(diào)是使用人工標註者或其他llm創(chuàng)建的輸入進行的，模型會遇到額外的實際知識並將其整合
你所不知道的機器學(xué)習(xí)五大學(xué)派
Jun 05, 2024 pm 08:51 PM
機器學(xué)習(xí)是人工智慧的重要分支，它賦予電腦從數(shù)據(jù)中學(xué)習(xí)的能力，並能夠在無需明確編程的情況下改進自身能力。機器學(xué)習(xí)在各個領(lǐng)域都有廣泛的應(yīng)用，從影像辨識和自然語言處理到推薦系統(tǒng)和詐欺偵測，它正在改變我們的生活方式。機器學(xué)習(xí)領(lǐng)域存在著多種不同的方法和理論，其中最具影響力的五種方法被稱為「機器學(xué)習(xí)五大派」。這五大派分別為符號派、聯(lián)結(jié)派、進化派、貝葉斯派和類推學(xué)派。 1.符號學(xué)派符號學(xué)（Symbolism），又稱符號主義，強調(diào)利用符號進行邏輯推理和表達知識。該學(xué)派認為學(xué)習(xí)是一種逆向演繹的過程，透過現(xiàn)有的
為大模型提供全新科學(xué)複雜問答基準與評估體系，UNSW、阿貢、芝加哥大學(xué)等多家機構(gòu)共同推出SciQAG框架
Jul 25, 2024 am 06:42 AM
編輯|ScienceAI問答（QA）資料集在推動自然語言處理（NLP）研究中發(fā)揮著至關(guān)重要的作用。高品質(zhì)QA資料集不僅可以用於微調(diào)模型，也可以有效評估大語言模型（LLM）的能力，尤其是針對科學(xué)知識的理解和推理能力。儘管目前已有許多科學(xué)QA數(shù)據(jù)集，涵蓋了醫(yī)學(xué)、化學(xué)、生物等領(lǐng)域，但這些數(shù)據(jù)集仍有一些不足之處。其一，資料形式較為單一，大多數(shù)為多項選擇題（multiple-choicequestions），它們易於進行評估，但限制了模型的答案選擇範圍，無法充分測試模型的科學(xué)問題解答能力。相比之下，開放式問答
VSCode 前端開發(fā)新紀元：12款 AI 代碼助理推薦
Jun 11, 2024 pm 07:47 PM
在前端開發(fā)的世界裡，VSCode以其強大的功能和豐富的插件生態(tài)，成為了無數(shù)開發(fā)者的首選工具。而近年來，隨著人工智慧技術(shù)的快速發(fā)展，VSCode上的AI代碼助理也如雨後春筍般湧現(xiàn)，大大提升了開發(fā)者的編碼效率。 VSCode上的AI代碼助手，如雨後春筍般湧現(xiàn)，大大提升了開發(fā)者的編碼效率。它利用人工智慧技術(shù)，能夠聰明地分析程式碼，提供精準的程式碼補全、自動糾錯、語法檢查等功能，大大減少了開發(fā)者在編碼過程中的錯誤和繁瑣的手工工作。有今天，就為大家推薦12款VSCode前端開發(fā)AI程式碼助手，幫助你在程式設(shè)計之路
SK 海力士 8 月 6 日將展示 AI 相關(guān)新品：12 層 HBM3E、321-high NAND 等
Aug 01, 2024 pm 09:40 PM
本站8月1日消息，SK海力士今天（8月1日）發(fā)布博文，宣布將出席8月6日至8日，在美國加州聖克拉拉舉行的全球半導(dǎo)體記憶體峰會FMS2024，展示諸多新一代產(chǎn)品。未來記憶體和儲存高峰會（FutureMemoryandStorage）簡介前身是主要面向NAND供應(yīng)商的快閃記憶體高峰會（FlashMemorySummit），在人工智慧技術(shù)日益受到關(guān)注的背景下，今年重新命名為未來記憶體和儲存高峰會（FutureMemoryandStorage），以邀請DRAM和儲存供應(yīng)商等更多參與者。新產(chǎn)品SK海力士去年在
