데이터분석
Model-Agnostic Interpretation method
모델의 종류와 상관없이 해석을 할 수 있는 방법들에 대해 살펴보고자 한다.1. 필요성Model Interpretability모델의 결과를 자연스럽게 납득 시켜주는 수단으로서 필요모델 개선을 위한 수단으로서 의미를 지님ex) 자율 주행차의 사고원인ex) 특정 인자에 따른 편향 파악Balck Box Model입력값을 통해 출력값을 도출할 수 있지만, Interpretability가 낮은 모델Ensemble, NN기반 모형등은 복잡한 문제에 대해 높은 성은을 보이지만 해석력은 떨어지는 대표적인 블랙박스 모델2. Model-Agnostic Method일반적인 모델을 Black Box 모델로 생각하여, 모델 내부에 접근하지 않고 모델 input과 output을 조절하며 그 변동에 대해 해석하는 방법Permutat..
