在機(jī)器學(xué)習(xí)和資料科學(xué)領(lǐng)域，模型的可解釋性一直是研究者和實(shí)踐者關(guān)注的焦點(diǎn)。隨著深度學(xué)習(xí)和整合方法等複雜模型的廣泛應(yīng)用，理解模型的決策過程變得尤為重要?？山忉屓斯ぶ腔郏‥xplainable AI | XAI）透過提高模型的透明度，幫助建立對機(jī)器學(xué)習(xí)模型的信任和信心。 提高模型的透明度可以透過多種複雜模型的廣泛應(yīng)用等方法來實(shí)現(xiàn)，以及用於解釋模型的決策過程。這些方法包括特徵重要性分析、模型預(yù)測區(qū)間估計(jì)、局部可解釋性演算法等。特徵重要性分析可以透過評估模型對輸入特徵的影響程度來解釋模型的決策過程。模型預(yù)測區(qū)間估計(jì)可以提供模型預(yù)測的確定性資訊。局部可解釋性演算法可以幫助

XAI是一套工具和框架，用於理解和解釋機(jī)器學(xué)習(xí)模型如何做出決策。其中，Python中的SHAP（SHapley Additive explanations）庫是一個(gè)非常有用的工具。 SHAP庫能夠量化特徵對單一預(yù)測及整體預(yù)測的貢獻(xiàn)，並提供美觀且易於使用的視覺化功能。

接下來，我們將概括介紹下SHAP函式庫的基礎(chǔ)知識，以理解在Scikit-learn中所建構(gòu)的迴歸和分類模型的預(yù)測。

SHAP 和SHAP values

SHAP（Shapley Additive Explanations）是一種解釋任何機(jī)器學(xué)習(xí)模型輸出的賽局理論方法。它利用經(jīng)典的博弈論博弈值及其相關(guān)擴(kuò)展，將最優(yōu)的信用分配與局部解釋相結(jié)合（詳細(xì)資訊和引用請參閱相關(guān)論文：https://github.com/shap/shap#citations）。 SHAP透過計(jì)算每個(gè)特徵對模型產(chǎn)出的貢獻(xiàn)，從而提供最優(yōu)的信用分配和局部解釋。這種方法可以應(yīng)用於各種模型類型，包括線性模型、樹模型、深度學(xué)習(xí)模型等。 SHAP的目標(biāo)是提供一種直觀且可解釋的方式，幫助人們理解機(jī)器學(xué)習(xí)模型的決策過程，以及各個(gè)特徵對於預(yù)測結(jié)果的影響程度。透過使用SHAP值和相關(guān)擴(kuò)展，我們可以獲得更準(zhǔn)確、全面的特徵重要性解釋，並對模型的預(yù)

SHAP+ values可以幫助我們量化特徵對預(yù)測的貢獻(xiàn)。 SHAP值越接近零，表示該特徵對預(yù)測的貢獻(xiàn)越?。欢鳶HAP值越遠(yuǎn)離零，表示該特徵對預(yù)測的貢獻(xiàn)越大。此外，SHAP值還可以告訴我們特徵對預(yù)測的貢獻(xiàn)大小。當(dāng)SHAP值接近零時(shí)，表示該特徵對預(yù)測的貢獻(xiàn)很??；而當(dāng)SHAP值遠(yuǎn)離零時(shí)，

#安裝shap 套件：

pip install shap-i https://pypi.tuna.tsinghua.edu.cn/simple

我們看下面的範(fàn)例：如何在迴歸問題中取得特徵的SHAP值。我們將從載入函式庫和範(fàn)例資料開始，然後快速建立一個(gè)模型來預(yù)測糖尿病的進(jìn)展：

import numpy as npnp.set_printoptions(formatter={'float':lambda x:"{:.4f}".format(x)})import pandas as pdpd.options.display.float_format = "{:.3f}".formatimport seaborn as snsimport matplotlib.pyplot as pltsns.set(style='darkgrid', context='talk', palette='rainbow')from sklearn.datasets import load_diabetesfrom sklearn.model_selection import train_test_splitfrom sklearn.ensemble import (RandomForestRegressor, RandomForestClassifier)import shapshap.initjs()# Import sample datadiabetes = load_diabetes(as_frame=True)X = diabetes['data'].iloc[:, :4] # Select first 4 columnsy = diabetes['target']# Partition dataX_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=1)print(f"Training features shape: {X_train.shape}")print(f"Training target shape: {y_train.shape}\n")print(f"Test features shape: {X_test.shape}")print(f"Test target shape: {y_test.shape}")display(X_train.head())# Train a simple modelmodel = RandomForestRegressor(random_state=42)model.fit(X_train, y_train)

一種常見的獲取SHAP值的方法是使用Explainer物件。接下來建立一個(gè)Explainer對象，並為測試資料提取shap_test值：

explainer = shap.Explainer(model)shap_test = explainer(X_test)print(f"Shap values length: {len(shap_test)}\n")print(f"Sample shap value:\n{shap_test[0]}")

shap_test的長度為89，因?yàn)樗嗣總€(gè)測試實(shí)例的記錄。從查看第一個(gè)測試記錄中，我們可以看到它包含三個(gè)屬性：

shap_test[0].base_values：目標(biāo)的基準(zhǔn)值

shap_test[0].data：每個(gè)特徵的值

shap_test[0].values：每個(gè)物件的SHAP值

• 基準(zhǔn)：基準(zhǔn)值（shap_test.base_values），也稱為期望值（explainer. expected_value），是訓(xùn)練資料中目標(biāo)值的平均值。

print(f"Expected value: {explainer.expected_value[0]:.1f}")print(f"Average target value (training data): {y_train.mean():.1f}")print(f"Base value: {np.unique(shap_test.base_values)[0]:.1f}")

• #shap_test.data?包含與X_test 相同的值

(shap_test.data == X_test).describe()

• values：shap_test 最重要的屬性是values 屬性，因?yàn)槲覀兛梢酝高^它來存取SHAP 值。讓我們將 SHAP 值轉(zhuǎn)換為 DataFrame，以便於操作：

shap_df = pd.DataFrame(shap_test.values,  columns=shap_test.feature_names,  index=X_test.index)shap_df

可以看到每條記錄中每個(gè)特征的 SHAP 值。如果將這些 SHAP 值加到期望值上，就會得到預(yù)測值：

np.isclose(model.predict(X_test),  explainer.expected_value[0] + shap_df.sum(axis=1))

現(xiàn)在我們已經(jīng)有了 SHAP 值，可以進(jìn)行自定義可視化，如下圖所示，以理解特征的貢獻(xiàn)：

columns = shap_df.apply(np.abs).mean()\ .sort_values(ascending=False).indexfig, ax = plt.subplots(1, 2, figsize=(11,4))sns.barplot(data=shap_df[columns].apply(np.abs), orient='h', ax=ax[0])ax[0].set_title("Mean absolute shap value")sns.boxplot(data=shap_df[columns], orient='h', ax=ax[1])ax[1].set_title("Distribution of shap values");plt.show()

左側(cè)子圖顯示了每個(gè)特征的平均絕對 SHAP 值，而右側(cè)子圖顯示了各特征的 SHAP 值分布。從這些圖中可以看出，bmi 在所使用的4個(gè)特征中貢獻(xiàn)最大。

Shap 內(nèi)置圖表

雖然我們可以使用 SHAP 值構(gòu)建自己的可視化圖表，但 shap 包提供了內(nèi)置的華麗可視化圖表。在本節(jié)中，我們將熟悉其中幾種選擇的可視化圖表。我們將查看兩種主要類型的圖表：

• 全局：可視化特征的整體貢獻(xiàn)。這種類型的圖表顯示了特征在整個(gè)數(shù)據(jù)集上的匯總貢獻(xiàn)。
• 局部：顯示特定實(shí)例中特征貢獻(xiàn)的圖表。這有助于我們深入了解單個(gè)預(yù)測。
• 條形圖/全局：對于之前顯示的左側(cè)子圖，有一個(gè)等效的內(nèi)置函數(shù)，只需幾個(gè)按鍵即可調(diào)用：

shap.plots.bar(shap_test)

這個(gè)簡單但有用的圖表顯示了特征貢獻(xiàn)的強(qiáng)度。該圖基于特征的平均絕對 SHAP 值而生成：shap_df.apply(np.abs).mean()。特征按照從上到下的順序排列，具有最高平均絕對 SHAP 值的特征顯示在頂部。

• 總結(jié)圖/全局：另一個(gè)有用的圖是總結(jié)圖：

shap.summary_plot(shap_test)

以下是解釋這張圖的指南：

• 圖的橫軸顯示了特征的 SHAP 值分布。每個(gè)點(diǎn)代表數(shù)據(jù)集中的一個(gè)記錄。例如，我們可以看到對于 BMI 特征，點(diǎn)的分布相當(dāng)散亂，幾乎沒有點(diǎn)位于 0 附近，而對于年齡特征，點(diǎn)更加集中地分布在 0 附近。
• 點(diǎn)的顏色顯示了特征值。這個(gè)額外的維度允許我們看到隨著特征值的變化，SHAP 值如何變化。換句話說，我們可以看到關(guān)系的方向。例如，我們可以看到當(dāng) BMI 較高時(shí)（由熱粉色點(diǎn)表示）SHAP 值傾向于較高，并且當(dāng) BMI 較低時(shí)（由藍(lán)色點(diǎn)表示）SHAP 值傾向于較低。還有一些紫色點(diǎn)散布在整個(gè)光譜中。
• 
  
• 熱力圖/全局：熱力圖是另一種可視化 SHAP 值的方式。與將 SHAP 值聚合到平均值不同，我們看到以顏色編碼的個(gè)體值。特征繪制在 y 軸上，記錄繪制在 x 軸上：

shap.plots.heatmap(shap_test)

這個(gè)熱力圖的頂部還補(bǔ)充了每個(gè)記錄的預(yù)測值（即 f(x)）的線圖。

• Force plot/全局：這個(gè)交互式圖表允許我們通過記錄查看 SHAP 值的構(gòu)成。

shap.initjs()shap.force_plot(explainer.expected_value, shap_test.values, X_test)

就像熱力圖一樣，x 軸顯示每個(gè)記錄。正的 SHAP 值顯示為紅色，負(fù)的 SHAP 值顯示為藍(lán)色。例如，由于第一個(gè)記錄的紅色貢獻(xiàn)比藍(lán)色貢獻(xiàn)多，因此該記錄的預(yù)測值將高于期望值。

交互性允許我們改變兩個(gè)軸。例如，y 軸顯示預(yù)測值 f(x)，x 軸根據(jù)輸出（預(yù)測）值排序，如上面的快照所示。

• 條形圖/局部:現(xiàn)在我們將看一下用于理解個(gè)別案例預(yù)測的圖表。讓我們從一個(gè)條形圖開始：

shap.plots.bar(shap_test[0])

與“ 條形圖/全局 ”中完全相同，只是這次我們將數(shù)據(jù)切片為單個(gè)記錄。

1. Force plot/局部:Force plot是單個(gè)記錄的強(qiáng)制圖。

shap.initjs()shap.plots.force(shap_test[0])

分類模型的SHAP values/圖表

上面示例是回歸模型，下面我們以分類模型展示SHAP values及可視化：

import numpy as npnp.set_printoptions(formatter={'float':lambda x:"{:.4f}".format(x)})import pandas as pdpd.options.display.float_format = "{:.3f}".formatimport seaborn as snsimport matplotlib.pyplot as pltsns.set(style='darkgrid', context='talk', palette='rainbow')from sklearn.datasets import load_diabetesfrom sklearn.model_selection import train_test_splitfrom sklearn.ensemble import RandomForestClassifierimport shapfrom sklearn.datasets import fetch_openml# 加載 Titanic 數(shù)據(jù)集titanic = fetch_openml('titanic', version=1, as_frame=True)df = titanic.frame# 選擇特征和目標(biāo)變量features = ['pclass', 'age', 'sibsp', 'parch', 'fare']df = df.dropna(subset=features + ['survived'])# 刪除包含缺失值的行X = df[features]y = df['survived']# 分割數(shù)據(jù)集X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)# 訓(xùn)練隨機(jī)森林分類器model = RandomForestClassifier(n_estimators=100, random_state=42)model.fit(X_train, y_train)

和回歸模型一樣的，shap values 值也是包括base_values 和values 值：

explainer = shap.Explainer(model)shap_test = explainer(X_test)print(f"Length of shap_test: {len(shap_test)}\n")print(f"Sample shap_test:\n{shap_test[0]}")print(f"Expected value: {explainer.expected_value[1]:.2f}")print(f"Average target value (training data): {y_train}")print(f"Base value: {np.unique(shap_test.base_values)[0]:.2f}")shap_df = pd.DataFrame(shap_test.values[:,:,1],  columns=shap_test.feature_names,  index=X_test.index)shap_df

我們仔細(xì)檢查一下將 shap 值之和添加到預(yù)期概率是否會給出預(yù)測概率：

np.isclose(model.predict_proba(X_test)[:,1],  explainer.expected_value[1] + shap_df.sum(axis=1))

內(nèi)置圖與回歸模型是一致的，比如：

shap.plots.bar(shap_test[:,:,1])

或者瀑布圖如下：

shap.plots.waterfall(shap_test[:,:,1][0])

示例

看一個(gè)具體的用例。我們將找出模型對幸存者預(yù)測最不準(zhǔn)確的例子，并嘗試?yán)斫饽Ｐ蜑槭裁磿龀鲥e(cuò)誤的預(yù)測：

test = pd.concat([X_test, y_test], axis=1)test['probability'] = model.predict_proba(X_test)[:,1]test['order'] = np.arange(len(test))test.query("survived=='1'").nsmallest(5, 'probability')

生存概率為第一個(gè)記錄的746。讓我們看看各個(gè)特征是如何對這一預(yù)測結(jié)果產(chǎn)生貢獻(xiàn)的：

ind1 = test.query("survived=='1'")\ .nsmallest(1, 'probability')['order'].values[0]shap.plots.waterfall(shap_test[:,:,1][ind1])

主要是客艙等級和年齡拉低了預(yù)測值。讓我們在訓(xùn)練數(shù)據(jù)中找到類似的例子：

pd.concat([X_train, y_train], axis=1)[(X_train['pclass']==3) & (X_train['age']==29) & (X_train['fare'].between(7,8))]

所有類似的訓(xùn)練實(shí)例實(shí)際上都沒有幸存。現(xiàn)在，這就說得通了！這是一個(gè)小的分析示例，展示了 SHAP 如何有助于揭示模型為何會做出錯(cuò)誤預(yù)測。

在機(jī)器學(xué)習(xí)和數(shù)據(jù)科學(xué)中，模型的可解釋性一直備受關(guān)注?？山忉屓斯ぶ悄埽╔AI）通過提高模型透明度，增強(qiáng)對模型的信任。SHAP庫是一個(gè)重要工具，通過量化特征對預(yù)測的貢獻(xiàn)，提供可視化功能。本文介紹了SHAP庫的基礎(chǔ)知識，以及如何使用它來理解回歸和分類模型的預(yù)測。通過具體用例，展示了SHAP如何幫助解釋模型錯(cuò)誤預(yù)測。