【4 weeks challenge – AI技術】Day 2 LIME/SHAP

daily_trial

こんにちは、しらすです。

本日は「LIME/SHAP」について調べました!

LIME/SHAPとは何か?

LIMEとSHAPはどちらも機械学習におけるモデルに人が理解できるよう解釈を与えるものです。

LIME/SHAPのすごいところ

二分木モデルなどはアルゴリズムが最終的に出した結論に対して、なぜその判断結果に至ったかは、途中の分岐を見ていくことでわかるため人間が解釈できますが、精度は低いです。これに対して、精度が高いDeep learningなどの高度な機械学習モデルは精度が高い反面、なぜその結論に至ったのかが人にはわからないという背反があります。(以下が以前書いた記事。精度と解釈性に対する背反)

LIMEやSHAPは、この高度なアルゴリズムに対して、人が解釈できる解釈性を加える、というものです!画期的!

LIME/SHAPの活用事例

SHAPは構造化データに対して、各要素がどれくらい起因したかを可視化することができます。

大量の説明変数を持つデータに対して、どのデータがアルゴリズムに起因しているかを解析/表示することができます。

簡単にアルゴリズムに組み込めることも非常に使い勝手が良いです。

参考

AI(人工知能)とは何か? 言葉の意味や定義から機械学習・ディープラーニングまでわかりやすく簡単に解説
本記事では「AI(人工知能)」の言葉の意味や定義から未来にもたらす効果までを徹底解説。これまでのAI研究の歩みや機械学習・ディープラーニングといった学習の仕組み、AIが活用された機能まで、"知っているようで知らなかった"AI(人工知能)に関する基礎知識をわかりやすくレクチャーします。

コメント