InterpretML

InterpretML은 최신 머신러닝 해석 기법을 한데 모은 오픈소스 패키지다. 구조 자체로 해석 가능한 글래스박스 모델(EBM 등)을 학습하고, 기존 블랙박스 시스템을 LIME·SHAP 등으로 설명할 수 있다. 모델 전체 동작(전역)과 개별 예측 이유(지역)를 모두 볼 수 있고, what-if 분석과 여러 모델 비교를 지원한다. 모델 디버깅, 공정성 문제 탐지, 규제 준수 감사 등에 쓰인다.

• Explainable Boosting Machine(EBM) 등 글래스박스 모델 학습
• LIME·SHAP 등 블랙박스 설명기
• 전역·지역·부분집합 특징 중요도
• what-if 분석으로 입력 변경 영향 확인
• 여러 모델 성능 동시 비교
• 차등 프라이버시 EBM
• 대화형 시각화

오픈소스 + 클라우드 매니지드 유료 플랜

오픈소스판은 무료, SaaS 매니지드판은 사용량/시트 기반 유료 구독

AI 지식 기반 추정 - 공식 사이트 확인 권장

• 관측성 및 평가 분야 AI 27개 가운데 하나예요.
• 다른 도구와 연결된 수 4개 — 같은 분야에서 15위예요.