はじめに
機械学習で回帰を行う場合、
一般的にはlossにはMSE(L2損失)ではなくMAE(L1損失)の方が良いらしいです
仕事でディープラーニングによるキーポイント(座標)回帰を行うことになったんですが、
機械学習に詳しい方からの助言をもらいました
(あなたが神か…)
なぜか?
自分で考えてみる
まず自分の頭で考えてみました
MSEは二乗誤差であり、
MAEは絶対値誤差(一乗)の誤差ですね
確かに考えてみると、値が限定的でない回帰において、
MAEよりMSEの方がより外れ値に影響されやすく、
MAEの方がよりいい感じはします
調べてみた
分かりやすい記事を見つけました
https://ichi.pro/subete-no-kikai-gakushusha-ga-shitteoku-beki-5-tsu-no-kaiki-sonshitsu-kansu-87622716871856
二乗誤差を使用すると解決が容易になりますが、絶対誤差を使用すると外れ値に対してよりロバストになります
なるほどですね、読んでみると、考えていたとこがおおよそ合っていたのかなと思います
この記事、他にも参考になる内容がたくさんありますね
まだまだ勉強が足りなさすぎると思う今日この頃です