[TIL]36_Interpreting ML Model

목표

• PDP(Partial Dependence Plot; 부분의존플랏) 시각화 및 해석
• SHAP value plots를 사용해 개별 예측 사례를 설명

PDP(Partail Dependence Plots)

특정 특성에 대해 그 값을 샘플들이 갖고 있는 값들로 최소에서 최대까지 바꾸어 가며 타겟값을 예측해보는 방법입니다.
train set에 대해 학습된 모델이 있어야하고 val 또는 test set에 대해서 PDP를 진행합니다.

랜덤포레스트, 부스팅과 같은 앙상블 모델은 높은 성능을 가지지만 선형 모델에 비해 해석하기가 어렵습니다.

• 복잡한 모델 : 이해하기 어렵지만 성능이 우수
• 단순한 모델 : 이해하기 쉽지만 성능이 부족

랜덤포레스트, 부스팅의 경우 쉽게 특성중요도(feature importance)를 얻을 수 있지만 더 나아가 특성의 값에 따라 타겟값의 증감여부 등을 파악하기는 어렵습니다.(선형 모델의 경우, coefficients(회귀계수)를 이용해 변수와 타겟 관계 해석 용이)
이 때, PDP를 사용하면 특성이 타겟에 어떻게 영향을 주는지 비교적 쉽게 파악할 수 있습니다.

Tip) data set 나눌 때, 마지막 샘플을 기준으로 나누고 싶을 때

test = df[-10000:] # 마지막 샘플 전의 10,000개의 샘플

PDP-isolate(1개의 특성 사용)

예시) 부스팅 모델에 대한 경우

!pip install pdpbox

from pdpbox.pdp import pdp_isolate, pdp_plot

feature='A' # 영향을 보고 싶은 특성

isolated = pdp_isolate(
    model=boosting, # 여기서 모델은 기존에 train set에 대해 학습되어있는 어떤 모델 입니다.
    dataset=X_val,
    model_features=X_val.columns,
    feature=feature,
    num_grid_points=10 # default=10 
    # grid point를 크게 주면 겹치는 점이 생겨 number of unique grid points는 더 적을 수 있습니다.
    )

pdp_plot(isolated, feature_name=feature);

ICE(Individual Conditional Expectation) curves

• 하나의 ICE curve는 하나의 관측치에 대해 관심 특성을 변화시킴에 따른 타겟값 변화 곡선이고 이 ICE들의 평균이 PDP입니다.

pdp_plot(isolated,
         features_name=feature,
         frac_to_plot=10, # 샘플 수 : float으로 적으면, val set의 수 x float / int로 적으면 그냥 그 숫자만큼의 data
         plot_pts_dist=True # 맨 아래에 샘플들의 분포를 볼 수 있는 바코드 같이 생긴 plot 유무
         )

grid point로 plot되는 과정

PDP-interact(2개의 특성 사용)

• 두 특성간의 상호작용을 PDP를 통해 확인 가능

from pdpbox.pdp import pdp_interact, pdp_interact_plot

features = ['A', 'B']

interaction = pdp_interact(
    model=boosting, 
    dataset=X_val,
    model_features=X_val.columns, 
    features=features
)

pdp_interact_plot(interaction, plot_type='grid', feature_names=features);

Plotly를 활용하여 PDP-interaction을 3D로 보여줄 수 있습니다.

pdp = interaction.pdp.pivot_table(
    values='preds', # interaction['preds']
    columns=features[0], 
    index=features[1]
    ) # [::-1] index를 역순으로 만드는 sclicing으로 두 특성 간의 타겟값과의 관계를 잘 따져서 방향에 맞게 적용

import plotly.graph_objs as go

surface = go.Surface(
    x=pdp.columns, 
    y=pdp.index, 
    z=pdp.values
)


layout = go.Layout(
    scene=dict(
        xaxis=dict(title=features[0]), 
        yaxis=dict(title=features[1]), 
        zaxis=dict(title=target)
    )
)

fig = go.Figure(surface, layout)
fig.show()

SHAP

• 단일 관측치로부터 특성들의 기여도(feature attribution)를 계산하기 위한 방법
• 어떤 머신러닝 모델이든지 적용 가능
• Shapley value는 원래 게임이론에서 나오는 개념으로 복잡한 머신러닝모델의 예측을 설명하기 좋은 방법을 제공

SHAP 참조

Shapley values

• 게임이론에서 같은 팀 선수들(특성들)이 게임 목표(타겟, 예측값) 달성을 위해 각자 자신의 역할(기여도)을 한다고
  할 때, 목표 달성 후 받은 포상을 어떻게 하면 기여도에 따라 공평하게 나눌 수 있을까? 와 관련됩니다.

row = X_test.iloc[[1]]  # 중첩 brackets을 사용하면 결과물이 DataFrame입니다
row # 관측치 하나를 선택

# 실제 집값 확인
y_test.iloc[[1]] # 2번째 데이터를 사용했습니다

# 모델 예측값 확인
model.predict(row)

!pip install shap

# 모델이 이렇게 예측한 이유를 알기 위하여
# SHAP Force Plot을 그려보겠습니다.

import shap

explainer = shap.TreeExplainer(model) # 트리모델에 대해 설명하는 라이브러리
shap_values = explainer.shap_values(row)

shap.initjs() # javascript 초기화 (graph 초기화) 각 셀마다 써주어야 plot이 잘 보입니다.
shap.force_plot( # 정말 말그대로 force(힘)을 보는 것, 양의 힘/음의 힘 비교
    base_value=explainer.expected_value, 
    shap_values=shap_values,
    features=row
)

즉, 이 샘플에 대해서 각각의 특성과 그 특성이 예측한 타겟값이 base value(train set에 대한 타겟 예측값들의 평균)으로부터 어떻게 해서 나오게 되었는지를 보여줍니다.
주의) 위의 결과에서 'bathrooms는 타겟과 양의 관계에 있다.'라고 해석하면 안됩니다. 그저 이 샘플에서는 'bathrooms=2.5'라는 게 양의 역할을 했다고 생각하면 됩니다.

위의 경우를 하나의 row가 아닌 여러개의 row에 대해 동시에 하면 아래와 같습니다.

# 100개 테스트 샘플에 대해서 각 특성들의 영향을 봅니다. 샘플 수를 너무 크게 잢으면 계산이 오래걸리니 주의하세요.
shap.initjs()
shap_values = explainer.shap_values(X_test.iloc[:100])
shap.force_plot(explainer.expected_value, shap_values, features=X_test.iloc[:100])

• x축과 y축을 변경할 수 있습니다.

추가 팁(참고만)

def predict(bedrooms, bathrooms, longitude, latitude):

    # 함수 내에서 예측에 사용될 input을 만듭니다
    df = pd.DataFrame(
        data=[[bedrooms, bathrooms, longitude, latitude]], 
        columns=['bedrooms', 'bathrooms', 'long', 'lat']
    )

    # 예측
    pred = model.predict(df)[0]

    # Shap value를 계산합니다
    explainer = shap.TreeExplainer(model)
    shap_values = explainer.shap_values(df)

    # Shap value, 특성이름, 특성값을 가지는 Series를 만듭니다
    feature_names = df.columns
    feature_values = df.values[0]
    shaps = pd.Series(shap_values[0], zip(feature_names, feature_values))

    # 결과를 프린트 합니다.
    result = f'평균가격: ${explainer.expected_value[0]:,.0f} \n'
    result += f'예측가격: ${pred:,.0f}. \n'
    result += shaps.to_string()
    print(result)


    # SHAP Force Plot
    shap.initjs()
    return shap.force_plot(
        base_value=explainer.expected_value, 
        shap_values=shap_values, 
        features=df
    )

위와 같이 predict 함수를 정의하면

와 같이 값을 대입해서 예측값 및 각 특성값에 대한 기여도를 간단하게 볼 수 있습니다.

summary_plot

shap_values = explainer.shap_values(X_test.iloc[:300])
shap.summary_plot(shap_values, X_test.iloc[:300])

shap.summary_plot(shap_values, X_test.iloc[:300], plot_type="violin")

shap.summary_plot(shap_values, X_test.iloc[:300], plot_type="bar")

• 얼핏 보면 feature importance(MDI)와 비슷하지만 불순도를 따지는 것이 아닌 각 특성들의 값이 갖는 Shapley value들의 절댓값 평균을 나타냅니다.

추가) 분류문제에서의 SHAP 활용

import xgboost
import shap

explainer = shap.TreeExplainer(model)
row_processed = processor.transform(row)
shap_values = explainer.shap_values(row_processed)

shap.initjs()
shap.force_plot(
    base_value=explainer.expected_value, 
    shap_values=shap_values, 
    features=row, 
    link='logit' # SHAP value를 확률로 변환해 표시합니다. 이 부분을 기억
)