Qual é o melhor livro introdutório de estatística bayesiana?

192

Qual é o melhor livro de introdução às estatísticas bayesianas?

Um livro por resposta, por favor.

Shane
fonte
36
Nas respostas, explique por que você está recomendando um livro como "o melhor".
whuber
3
Como pode haver mais de uma resposta para uma pergunta formulada dessa maneira?
naught101
7
Este é um tópico antigo agora, mas voltei a marcar com +1 um novo livro "Repensar Estatística. E, ao analisar as respostas de maior classificação no tópico, acho que uma distinção importante não foi feita:" introdutória "para quem? Um primeiro curso de estatística (que tem uma abordagem bayesiana)? Uma introdução aos métodos bayesianos para alguém com aulas básicas de estatística (não bayesiana)? Ou uma introdução à estatística bayesiana para um praticante de estatística não bayesiana que finalmente foi convencido de que essa coisa bayesiana não é uma moda passageira? Apresentações muito diferentes.
Wayne

Respostas:

79

John Kruschke lançou um livro em meados de 2011 chamado Doing Bayesian Data Analysis: A Tutorial with R and BUGS . (Uma segunda edição foi lançada em novembro de 2014: Fazendo Análise Bayesiana de Dados, Segunda Edição: Um Tutorial com R, JAGS e Stan .) É verdadeiramente introdutória. Porém, se você quiser passar de estatísticas freqüentes para Bayes, especialmente com modelagem multinível, recomendo Gelman e Hill.

John Kruschke também tem um site para o livro que possui todos os exemplos do livro em BUGS e JAGS. Seu blog sobre estatísticas bayesianas também se conecta ao livro.

Jeromy Anglim
fonte
A sugestão de @ Amir é uma duplicata disso. (O título completo do livro é "Fazendo análise de dados bayesiana: um tutorial com R e BUGS".) Como um livro verdadeiramente introdutório, marquei + cada um com +1.
Wayne
atualizou o título e adicionou alguns links relacionados.
precisa saber é o seguinte
4
Também voto no livro de Kruschke. Pesquisei a maioria dos livros listados nas respostas e esse foi o que achei mais claro. OMI, é o livro de estatísticas mais claro que li. Ajuda muito que o código R esteja disponível para corresponder fórmulas ao código. O autor começa com exemplos muito simples e baseia-se neles. É necessário muito pouco plano de fundo. Todas as avaliações na Amazon são altamente favoráveis. O livro de Hoff é o meu segundo favorito.
julieth
Haha, eu gosto da capa do livro: "Por que os filhotes felizes? (Como se filhotes felizes precisassem de justificativa!)"
Zhubarb
Meu voto também vai para o livro de Kruschke em 2010. Ao tentar aprender estatísticas bayesianas, tentei várias delas, e esta atingiu a marca. Difícil.
Patrick Coulombe
55

O meu favorito é "Bayesian Data Analysis", de Gelman, et al.

Shane
fonte
28
Este é um livro introdutório para pessoas que já têm uma quantidade razoável de antecedentes estatísticos.
John Salvatier
38
Eu comecei o doutorado em Estatística há 9 meses e, para ser sincero, o BDA de Gelman ainda está acima de mim, então não o chamaria de um texto introdutório!
28712 Sean
5
-1, porque, de acordo com vários comentários e outras respostas, isso não é introdutório.
naught101
6
@ naught101 então você votou sem conhecer o livro?
conjeturas
5
Os primeiros quatro ou cinco capítulos são realmente introdutórios! então pertence aqui.
precisa saber é o seguinte
33

O Repensar Estatístico foi lançado há apenas algumas semanas e, portanto, ainda o estou lendo, mas acho que é uma adição muito agradável e recente aos livros realmente introdutórios sobre Estatísticas Bayesianas. O autor usa uma abordagem semelhante à usada por John Kruschke em seus livros de filhotes ; explicações detalhadas e muito detalhadas, bons exemplos pedagógicos, ele também usa uma abordagem computacional e não matemática.

Palestras no YouTube e outros materiais também estão disponíveis aqui .

Código portado para Python / PyMC3

aloctavodia
fonte
4
+1 Estou ouvindo as palestras agora. Ele é muito divertido e tem uma boa abordagem. O livro é excelente e leva você do básico ao modelos hierárquicos. Ele assume apenas que o leitor é um tanto científico, tem uma compreensão razoável da matemática (sem incluir o cálculo) e ouviu algumas coisas sobre estatística. É o livro que eu gostaria de ter. A ordem em que ele apresenta as coisas e seu sistema de apartados é brilhante.
Wayne
11
Eu bati em uma parede tentando ler o livro de Kruschke, onde ele começou a dar alguns grandes saltos na lógica que eu simplesmente não conseguia seguir. Felizmente, me deparei com o Statistical Repensing, que até agora é o único livro que encontrei que fornece uma compreensão genuinamente intuitiva do tópico.
Brideau 27/03
Depois de analisar o tópico, tentei ler o primeiro capítulo deste livro e achei muito difícil como um falante não-nativo de inglês e como um não-cientista . Primeiro eu tive que passar por palavras como epistemologia , idiossincrática , depois há frases longas, que eu tive que ler duas vezes / três vezes para entender o que significa literalmente (esqueça a conclusão dessas frases). Então, o primeiro exemplo é sobre a evolução natural, que parecia grega para mim: número de sites, número de alelos, neutralidade . O livro pode ser fácil para um monte, mas poderia ser difícil para muitos
Gaurav Singhal
30

Outro voto para Gelman et al., Mas um segundo próximo para mim - sendo a persuasão de aprender fazendo - é "Computação Bayesiana com R" de Jim Albert .

ricos
fonte
5
Concordo plenamente. Ambos ótimos livros. Comece com computação bayesiana Com R, obtenha Gelman et al.
PeterR
26

Sivia e Skilling, análise de dados: um tutorial bayesiano (2ed) 2006 246p 0198568320 books.goo :

As aulas de estatística têm sido fonte de muita perplexidade e frustração por gerações de estudantes. Este livro tenta remediar a situação, expondo uma abordagem lógica e unificada para todo o assunto da análise de dados. Este texto pretende ser um guia tutorial para estudantes de graduação e pesquisa em ciências e engenharia ...

Não conheço as outras recomendações.

denis
fonte
3
Este livro é excelente. É curto e prático.
precisa
2
Penso que este é um texto introdutório muito melhor do que Gelman.
28712 Sean
21

Para uma introdução, eu recomendaria a Programação Probabilística e os Métodos Bayesianos para Hackers de Cam Davidson-Pilon, disponíveis gratuitamente online.

De sua descrição:

Introdução aos métodos bayesianos e programação probabilística do ponto de vista da computação / compreensão, matemática e segundo.

É altamente visual, reduz o valor diretamente e preenche detalhes mais tarde, possui muitos exemplos, possui código interativo (no IPython Notebook).

Piotr Migdal
fonte
4
Eu pensei que este livro on-line era difícil de seguir / mal escrito.
Captain_ahab
2
Eu acho que o livro está bem.
SmallChess
11
Eu penso que este livro é uma introdução fantástica para os programadores de ter uma grande primeira experiência com estatísticas Bayesian
SARose
19

Eu recomendo completamente a divertida polêmica "Teoria das Probabilidades: A Lógica da Ciência", de ET Jaynes.

Este é um texto introdutório no sentido de não exigir (e de fato preferir) nenhum conhecimento prévio de estatística, mas acaba empregando matemática bastante sofisticada. Comparado com a maioria das outras respostas fornecidas, este livro não é tão prático ou fácil de digerir, mas fornece a base filosófica sobre por que você deseja empregar métodos bayesianos e por que não usar abordagens freqüentes. É introdutório de maneira histórica e filosófica, mas não pedagógica.

Bogdanovist
fonte
8
Este é um livro brilhante sobre o pensamento bayesiano, em vez de aplicar métodos bayesianos. Eu acho que este é um bom texto complementar para algo que aborda mais como os cálculos bayesianos.
probabilityislogic
3
Essa é uma boa maneira de colocar isso. Eu acho que Sivia e Skilling é um texto complementar ideal para introduzir os métodos na prática (o que já foi sugerido em outra resposta).
Bogdanovist
2
Divertido, polêmico e original, com certeza, mas definitivamente não é um livro introdutório.
Xian
19

Sou engenheiro eletricista e não estatístico. Passei muito tempo estudando Gelman, mas acho que não podemos nos referir a Gelman como introdutório. Meu professor de guru bayesiano de Carnegie Mellon concorda comigo nisso. ter o conhecimento mínimo de estatística e R e Bugs (como a maneira mais fácil de fazer algo com estatísticas bayesianas) Como fazer análise de dados bayesiana: Um tutorial com R e BUGS é um começo incrível. Você pode comparar todos os livros oferecidos facilmente pela capa do livro!

Atualização de 5 anos depois: quero acrescentar que talvez uma outra maneira importante de aprender rapidamente (40 minutos) seja a documentação de uma ferramenta Bayesian Net GUI baseada em Netica 2 . Começa com o básico, orienta você pelas etapas de construção de uma rede com base em uma situação e dados, e como executar suas próprias perguntas de um lado para o outro para "entender!".

Amir
fonte
11
Esta é uma duplicata da resposta do @ rosser acima. Como um livro verdadeiramente introdutório, marquei com +1 cada um.
Wayne
16

Seu foco não é estritamente as estatísticas bayesianas, por isso carece de alguma metodologia, mas a teoria da informação, a inferência e os algoritmos de aprendizagem de David MacKay me fizeram entender intuitivamente as estatísticas bayesianas melhor do que outras - a maioria faz o quão bem, mas senti que MacKay explicou por que Melhor.

Joe
fonte
6
E está disponível para download gratuito na página dos autores: inference.phy.cam.ac.uk/mackay/itila/book.html
PeterR
5
Como Sivia, isso é muito bom se você tem alguma formação em física e pode ser difícil, se não. Não é um bom guia para qualquer tipo de estatística social aplicada (para isso, use Gelman e Hill, ou Gelman et al. Acima), mas é realmente ótimo para fazer você pensar sobre os principais problemas.
conjugateprior
16

Os livros de Gelman são todos excelentes, mas não necessariamente introdutórios, pois supõem que você já conhece algumas estatísticas. Portanto, eles são uma introdução à maneira bayesiana de fazer estatística, e não à estatística em geral. Eu ainda daria o polegar para eles, no entanto.

Como um livro introdutório de estatística / econometria que tem uma perspectiva bayesiana, eu recomendaria a Econometria Bayesiana de Gary Koop .

Graham Cookson
fonte
15

" Núcleo Bayesiano: Uma Abordagem Prática às Estatísticas Bayesianas Computacionais " de Marin e Robert, Springer-Verlag (2007).

"Por quê?": O autor explica o porquê da escolha bayesiana e o quão bem. É um livro prático, mas escrito por um dos melhores pensadores bayesianos vivos. Não é exaustivo. Outros livros têm esse objetivo. Ele aborda alguns tópicos que são relevantes, úteis e iluminam as bases.

Sobre a "escolha": se você realmente deseja se aprofundar na fundação bayesiana, a "Escolha Bayesiana" de Xian é clara, profunda e essencial.

gappy
fonte
7
@ Xi'an e gappy, explique por que este livro pode ser recomendado. Para quem é adequado? Em que sentido é "melhor"?
whuber
4
Eu não quero cair na auto-promoção. O Bayesian Core é uma entrada independente da inferência bayesiana para os modelos mais comuns e para os métodos computacionais (códigos R fornecidos). Ele requer algum fundo na teoria de probabilidade que podem ser demais para alguns leitores ... (Ele funciona bem com os nossos 4º e 5º ano os alunos na França.)
Xi'an
14

Meu primeiro texto de graduação favorito para estatística bayesiana é Bolstad, Introdução à estatística bayesiana . Se você está procurando algo em nível de pós-graduação, isso será muito elementar, mas para quem é novo em estatística, isso é ideal.

Rob Lachlan
fonte
13

Não sei por que ninguém mencionou o livro muito introdutório sobre Bayesiano:

insira a descrição da imagem aqui

Há uma versão em PDF grátis para o livro. O livro oferece material suficiente para quem tem muito pouca experiência em bayesiano. Introduz o conceito de distribuição anterior, distribuição posterior, distribuição beta etc.

Experimente, é grátis.

http://greenteapress.com/thinkbayes/

SmallChess
fonte
9

Dê uma olhada em "The Bayesian Choice" . Possui o pacote completo: fundações, aplicações e computação. Claramente escrito.

zen
fonte
Seria não apenas um "bayesiano", mas também uma "ótima escolha", se o manual da solução estivesse disponível para auto-estudo. Parece que este se destina apenas para uso universidade ...
gwr
9

Pelo menos olhei para a maioria deles nesta lista e nenhum é tão bom quanto as novas idéias bayesianas e análise de dados na minha opinião.

Edit: É fácil começar imediatamente a fazer análises bayesianas enquanto lê este livro. Não apenas modele a média de uma distribuição Normal com variação conhecida, mas a análise de dados real após os primeiros capítulos. Todos os exemplos de código e dados estão no site do livro. Abrange uma quantidade razoável de teoria, mas o foco são as aplicações. Muitos exemplos em uma ampla gama de modelos. Bom capítulo sobre não paramétricos bayesianos. Exemplos de Winbugs, R e SAS. Prefiro fazer Doing Bayesian Data Analysis (eu tenho os dois). A maioria dos livros aqui (Gelman, Robert, ...) não é introdutória na minha opinião e, a menos que você tenha alguém com quem conversar, provavelmente ficará com mais perguntas do que respostas. O livro de Albert não cobre material suficiente para se sentir à vontade analisando dados diferentes do que é apresentado no livro (novamente minha opinião).

Glen
fonte
2
"Bom" em que sentido?
whuber
Bom ponto. Bom como no melhor livro introdutório bayesiano. Acredito que seja 'melhor' do que a análise de dados bayesiana com R de Albert e achei a análise de dados bayesiana de Gelman et al. não basta como uma introdução. Depois de aprender algum material bayesiano, no entanto, é uma boa referência.
Glen
7

Eu simplesmente devo incluir o MCMC na prática . Ele fornece uma excelente introdução ao MCMC, talvez não tão geral quanto os outros livros mencionados, mas excelente para obter discernimento e intuição. Eu recomendaria lê-lo depois (ou em paralelo com) Bayesian Computação com R .

M. Tibbits
fonte
Mcmc não deve ser o foco de uma introdução às estatísticas bayesianas, na minha opinião. Acho que a amostragem por rejeição é mais atraente como uma maneira de entender como a aprendizagem bayesiana funciona. Além disso, o mínimo de quadrados é bayesiano (como é o máximo de semelhanças), portanto também representa uma introdução mais suave às estatísticas bayesianas, em comparação com o mcmc.
probabilityislogic
2
Minha opinião é que o mcmc deve ser evitado e usado como último recurso - ele simplesmente leva muito tempo na maioria dos casos (embora eu lide com grandes conjuntos de dados em que tudo é basicamente mle). O mcmc é uma "marreta" até certo ponto. Também mcmc é um algoritmo para integração numérica. Nada mais nada menos. Ele deve receber o mesmo tratamento introdutório que outros algoritmos, como o método laplace e o quadratre. Caso contrário, as pessoas desenvolverão uma visão estreita do que são "estatísticas bayesianas".
probabilityislogic
6

Se você vier das ciências físicas (física / astronomia), eu recomendaria a análise de dados lógicos bayesiana para as ciências físicas: uma abordagem comparativa com o suporte do Mathematica® por Gregory (2006).

Embora a parte "with Mathematica® Support" do título exista apenas para questões comerciais (os usos do código do Mathematica são muito pobres), o lado bom deste livro é que ele é realmente uma introdução ao assunto de probabilidades e estatísticas. Ele ainda tem alguns capítulos sobre estatísticas freqüentistas. No entanto, depois de tentar, vá para o livro de Gelman et. que muitas pessoas recomendaram você. A maior parte do material do livro de Gregory é tomada de ânimo leve (se não, não seria uma introdução): o livro de Gelman foi um verdadeiro despertar do Gregory para mim.

Néstor
fonte
O livro de Phil Gregory é realmente uma introdução muito agradável, um pouco como a introdução de Bolstad para pessoas com formação matemática avançada. Existem mais recursos no site de Phil Gregory e também um suplemento que aborda modelos hierárquicos e tratamento de dados ausentes.
gwr
6

Eu li:

Gelman et al (2013). Análise de Dados Bayesiana. CRC Press LLC. 3rd ed.

Hoff, Peter D. (2009). Um Primeiro Curso de Métodos Estatísticos Bayesianos. Springer Textos em Estatística.

Kruschke, Fazendo análise de dados bayesiana: um tutorial com R e Bugs, 2011. Academic Press / Elsevier.

e acho que o melhor para começar é o livro de Kruschke. É perfeito para uma primeira abordagem ao pensamento bayesiano: os conceitos são explicados com muita clareza, não há muita matemática e há muitos exemplos legais!

Gelman et al. é um ótimo livro, mas é mais avançado e sugiro lê-lo depois do livro de Kruschke.

Inversamente, eu não gostei do livro de Hoff porque é um livro introdutório, mas os conceitos (e o pensamento bayesiano) não são explicados de maneira clara. Eu sugiro deixar passar.

stochazesthai
fonte
6

Se eu tivesse que escolher um único texto para iniciantes, seria

              Sivia DS and Skilling J (2006) book (see below). 

De todos os livros listados abaixo, ele se esforça mais para oferecer uma compreensão intuitiva das idéias essenciais, mas ainda requer alguma sofisticação matemática da página 1.

Abaixo está uma lista de leituras adicionais do meu livro, com comentários sobre cada publicação.

Bernardo, JM e Smith, A, (2000) 4. Teoria Bayesiana Uma descrição rigorosa dos métodos bayesianos, com muitos exemplos do mundo real.

Bispo, C (2006) 5. Reconhecimento de padrões e aprendizado de máquina. Como o título sugere, trata-se principalmente de aprendizado de máquina, mas fornece um relato lúcido e abrangente dos métodos bayesianos.

Cowan G (1998) 6. Análise Estatística de Dados. Uma excelente introdução não bayesiana à análise estatística.

Dienes, Z (2008) 8. Compreendendo a psicologia como ciência: uma introdução à inferência científica e estatística. Fornece material tutorial sobre a regra de Bayes e uma análise lúcida da distinção entre estatísticas bayesianas e estatísticas freqüentadoras.

Gelman A, Carlin J, Stern H e Rubin D. (2003) 14. Análise de Dados Bayesiana. Uma conta rigorosa e abrangente da análise bayesiana, com muitos exemplos do mundo real.

Jaynes E e Bretthorst G (2003) 18. Teoria da Probabilidade: A Lógica da Ciência. O clássico moderno da análise bayesiana. É abrangente e sábio. Seu estilo discursivo o torna longo (600 páginas), mas nunca monótono, e é repleto de idéias.

Khan, S, 2012, Introdução ao teorema de Bayes. Os vídeos on-line de matemática de Salman Khan são uma boa introdução a vários tópicos, incluindo o governo de Bayes.

Lee PM (2004) 27. Estatísticas Bayesianas: Uma Introdução. Um texto rigoroso e abrangente com um estilo bayesiano estridente.

MacKay DJC (2003) 28. Teoria da informação, inferência e algoritmos de aprendizado. O clássico moderno da teoria da informação. Um texto muito legível que percorre amplamente diversos tópicos, quase todos os quais fazem uso da regra de Bayes.

Migon, HS e Gamerman, D (1999) 30. Inferência Estatística: Uma Abordagem Integrada. Um relato direto (e claramente definido) da inferência, que compara abordagens bayesianas e não bayesianas. Apesar de bastante avançado, o estilo de escrita é de natureza tutorial.

Pierce JR (1980) 34 2ª Edição. Uma introdução à teoria da informação: símbolos, sinais e ruído. Pierce escreve com um estilo informal de tutorial, mas não evita apresentar os teoremas fundamentais da teoria da informação.

Reza, FM (1961) 35. Uma introdução à teoria da informação. Um livro rigorosamente mais abrangente e matemático do que o livro de Pierce acima, e idealmente deve ser lido somente após a primeira leitura do texto mais informal de Pierce.

Sivia DS e Skilling J (2006) 38. Análise de Dados: Um Tutorial Bayesiano. Esta é uma excelente introdução ao estilo tutorial dos métodos bayesianos.

Spiegelhalter, D e Rice, K (2009) 36. Estatísticas bayesianas. Scholarpedia, 4 (8): 5230. http://www.scholarpedia.org/article/Bayesian_statistics Um resumo confiável e abrangente do status atual das estatísticas bayesianas.

E aqui está o meu livro, publicado em junho de 2013.

Regra de Bayes: Uma Introdução Tutorial à Análise Bayesiana, Dr. James V Stone, ISBN 978-0956372840

O Capítulo 1 pode ser baixado em: http://jim-stone.staff.shef.ac.uk/BookBayes2012/BayesRuleBookMain.html

Descrição: Descoberto por um matemático e pregador do século XVIII, o governo de Bayes é uma pedra angular da moderna teoria das probabilidades. Neste livro ricamente ilustrado, uma variedade de exemplos acessíveis é usada para mostrar como a regra de Bayes é realmente uma consequência natural do raciocínio de senso comum. A regra de Bayes é derivada usando representações gráficas intuitivas de probabilidade, e a análise bayesiana é aplicada à estimativa de parâmetros usando os programas MatLab fornecidos. O estilo tutorial de redação, combinado com um glossário abrangente, o torna ideal para iniciantes que desejam se familiarizar com os princípios básicos da análise bayesiana.

insira a descrição da imagem aqui

Jim Stone
fonte
4

Não estritamente estatística bayesiana, como tal, mas posso recomendar vivamente "Um primeiro curso sobre aprendizado de máquina", de Rogers e Girolami, que é essencialmente uma introdução às abordagens bayesianas do aprendizado de máquina. É muito bem estruturado, claro e direcionado a estudantes sem uma sólida formação matemática. Isso significa que é uma boa primeira introdução às idéias bayesianas. Há também o código MATLAB / OCTAVE, que é um recurso interessante.

Dikran Marsupial
fonte
4

Estatísticas Bayesianas para Cientistas Sociais . Phillips, Lawrence D. (1973), Thomas Crowell & Co. É muito claro, muito acessível, não assume nenhum conhecimento estatístico e, ao contrário de Bolstad, que achei seco, tem personalidade.

rolando2
fonte
3

Este livro sugere que ele visa o nível de graduação de nível básico

Bioestatística: Uma Introdução Bayesiana. Por George G Woodsworth.

Publicadas por John Wiley & Sons

Graham Webster
fonte
2

Como o tipo de iniciante não está especificado na pergunta, eis o meu conselho para estatísticos iniciantes:

Andrew B. Lawson e Emmanuel Lesaffre (2012): Bioestatística Bayesiana

Este livro foi usado no primeiro ano de nosso mestre em ciências estatísticas e achei relativamente fácil de entender para um assunto tão difícil. Como na maioria dos livros de 'bioestatística', os exemplos são principalmente biologia clínica, mas os métodos não estão restritos aos úteis na ciência clínica. Tivemos cerca de meio ano de ensino estatístico antes disso e, além do teorema de Bayes, as estatísticas bayesianas ainda não haviam sido introduzidas.

O que também é bom é que os 649 slides inteiros das apresentações acompanhantes estão disponíveis online .

Frans Rodenburg
fonte