Example of how LIME works

この例では実際に LIME を試してみて、どんな手法かざっくりイメージを持ってもらうことを意図しています。厳密な定義については論文をあたってください。(Japanese only)

機械学習のモデルの「説明性」としては大きく以下の２つ。

大域的説明性：モデル内の重要な説明変数を示す
局所的説明性：推論結果に強く影響した特徴量を示す

この例が注目するのは局所的説明性を与える手法の LIME (Local Interpretable Model-agnostic Explanations)。MATLAB R2020b から Statistics and Machine Learning Toolbox で関数が提供さています。各種パラメータをきちんと調整しないと意味のない結果になる可能性があるということを実感できるデモです。