MLE vs mínimos quadrados nas distribuições de probabilidade ajustadas

A impressão que tive, com base em vários artigos, livros e artigos que li, é que a maneira recomendada de ajustar uma distribuição de probabilidade em um conjunto de dados é usando a estimativa de máxima verossimilhança (MLE). No entanto, como físico, uma maneira mais intuitiva é ajustar apenas o pdf do modelo ao pdf empírico dos dados usando mínimos quadrados. Por que, então, o MLE é melhor que os mínimos quadrados na distribuição de probabilidades ajustada? Alguém poderia me indicar um artigo / livro científico que responda a essa pergunta?

Meu palpite é que o MLE não assume um modelo de ruído e o "ruído" no pdf empírico é heterocedástico e não é normal.

Uma maneira útil de pensar sobre isso é observar que há casos em que os mínimos quadrados e o MLE são os mesmos, por exemplo, estimando os parâmetros em que o elemento aleatório tem uma distribuição normal. Então, de fato, ao invés de (como você especula) que o MLE não assume um modelo de ruído, o que está acontecendo é que ele assume que há ruído aleatório, mas adota uma visão mais sofisticada de como isso é moldado, em vez de assumi-lo. tem uma distribuição normal.

Qualquer livro sobre inferência estatística lidará com as boas propriedades dos MLEs no que diz respeito à eficiência e consistência (mas não necessariamente à parcialidade). Os MLEs também têm a boa propriedade de serem assintoticamente normais em um conjunto razoável de condições.