機械学習で回帰を行う場合はMSEよりMAEを使うべき

はじめに

機械学習で回帰を行う場合、
一般的にはlossにはMSE(L2損失)ではなくMAE(L1損失)の方が良いらしいです

仕事でディープラーニングによるキーポイント(座標)回帰を行うことになったんですが、
機械学習に詳しい方からの助言をもらいました
(あなたが神か…)

なぜか?

自分で考えてみる

まず自分の頭で考えてみました
MSEは二乗誤差であり、
MAEは絶対値誤差(一乗)の誤差ですね

確かに考えてみると、値が限定的でない回帰において、
MAEよりMSEの方がより外れ値に影響されやすく、
MAEの方がよりいい感じはします

調べてみた

分かりやすい記事を見つけました
https://ichi.pro/subete-no-kikai-gakushusha-ga-shitteoku-beki-5-tsu-no-kaiki-sonshitsu-kansu-87622716871856

二乗誤差を使用すると解決が容易になりますが、絶対誤差を使用すると外れ値に対してよりロバストになります

なるほどですね、読んでみると、考えていたとこがおおよそ合っていたのかなと思います

この記事、他にも参考になる内容がたくさんありますね
まだまだ勉強が足りなさすぎると思う今日この頃です

きゅうこん

きゅうこん

元メカ設計者、現なんちゃってAIエンジニア。実験データを分析しているうちにプログラミングとAIのスキルを習得(?)職業何ですか?と聞かれたときに何と答えるべきかを考える日々。 Qiita: https://qiita.com/kamome885

タイトルとURLをコピーしました