Qual é o melhor livro introdutório de estatística bayesiana?

Qual é o melhor livro de introdução às estatísticas bayesianas?

Um livro por resposta, por favor.

John Kruschke lançou um livro em meados de 2011 chamado Doing Bayesian Data Analysis: A Tutorial with R and BUGS . (Uma segunda edição foi lançada em novembro de 2014: Fazendo Análise Bayesiana de Dados, Segunda Edição: Um Tutorial com R, JAGS e Stan .) É verdadeiramente introdutória. Porém, se você quiser passar de estatísticas freqüentes para Bayes, especialmente com modelagem multinível, recomendo Gelman e Hill.

John Kruschke também tem um site para o livro que possui todos os exemplos do livro em BUGS e JAGS. Seu blog sobre estatísticas bayesianas também se conecta ao livro.

O meu favorito é "Bayesian Data Analysis", de Gelman, et al.

O Repensar Estatístico foi lançado há apenas algumas semanas e, portanto, ainda o estou lendo, mas acho que é uma adição muito agradável e recente aos livros realmente introdutórios sobre Estatísticas Bayesianas. O autor usa uma abordagem semelhante à usada por John Kruschke em seus livros de filhotes ; explicações detalhadas e muito detalhadas, bons exemplos pedagógicos, ele também usa uma abordagem computacional e não matemática.

Palestras no YouTube e outros materiais também estão disponíveis aqui .

Código portado para Python / PyMC3

Outro voto para Gelman et al., Mas um segundo próximo para mim - sendo a persuasão de aprender fazendo - é "Computação Bayesiana com R" de Jim Albert .

Sivia e Skilling, análise de dados: um tutorial bayesiano (2ed) 2006 246p 0198568320 books.goo :

As aulas de estatística têm sido fonte de muita perplexidade e frustração por gerações de estudantes. Este livro tenta remediar a situação, expondo uma abordagem lógica e unificada para todo o assunto da análise de dados. Este texto pretende ser um guia tutorial para estudantes de graduação e pesquisa em ciências e engenharia ...

Não conheço as outras recomendações.

Para uma introdução, eu recomendaria a Programação Probabilística e os Métodos Bayesianos para Hackers de Cam Davidson-Pilon, disponíveis gratuitamente online.

De sua descrição:

Introdução aos métodos bayesianos e programação probabilística do ponto de vista da computação / compreensão, matemática e segundo.

É altamente visual, reduz o valor diretamente e preenche detalhes mais tarde, possui muitos exemplos, possui código interativo (no IPython Notebook).

Eu recomendo completamente a divertida polêmica "Teoria das Probabilidades: A Lógica da Ciência", de ET Jaynes.

Este é um texto introdutório no sentido de não exigir (e de fato preferir) nenhum conhecimento prévio de estatística, mas acaba empregando matemática bastante sofisticada. Comparado com a maioria das outras respostas fornecidas, este livro não é tão prático ou fácil de digerir, mas fornece a base filosófica sobre por que você deseja empregar métodos bayesianos e por que não usar abordagens freqüentes. É introdutório de maneira histórica e filosófica, mas não pedagógica.

Sou engenheiro eletricista e não estatístico. Passei muito tempo estudando Gelman, mas acho que não podemos nos referir a Gelman como introdutório. Meu professor de guru bayesiano de Carnegie Mellon concorda comigo nisso. ter o conhecimento mínimo de estatística e R e Bugs (como a maneira mais fácil de fazer algo com estatísticas bayesianas) Como fazer análise de dados bayesiana: Um tutorial com R e BUGS é um começo incrível. Você pode comparar todos os livros oferecidos facilmente pela capa do livro!

Atualização de 5 anos depois: quero acrescentar que talvez uma outra maneira importante de aprender rapidamente (40 minutos) seja a documentação de uma ferramenta Bayesian Net GUI baseada em Netica 2 . Começa com o básico, orienta você pelas etapas de construção de uma rede com base em uma situação e dados, e como executar suas próprias perguntas de um lado para o outro para "entender!".

Seu foco não é estritamente as estatísticas bayesianas, por isso carece de alguma metodologia, mas a teoria da informação, a inferência e os algoritmos de aprendizagem de David MacKay me fizeram entender intuitivamente as estatísticas bayesianas melhor do que outras - a maioria faz o quão bem, mas senti que MacKay explicou por que Melhor.

Os livros de Gelman são todos excelentes, mas não necessariamente introdutórios, pois supõem que você já conhece algumas estatísticas. Portanto, eles são uma introdução à maneira bayesiana de fazer estatística, e não à estatística em geral. Eu ainda daria o polegar para eles, no entanto.

Como um livro introdutório de estatística / econometria que tem uma perspectiva bayesiana, eu recomendaria a Econometria Bayesiana de Gary Koop .

" Núcleo Bayesiano: Uma Abordagem Prática às Estatísticas Bayesianas Computacionais " de Marin e Robert, Springer-Verlag (2007).

"Por quê?": O autor explica o porquê da escolha bayesiana e o quão bem. É um livro prático, mas escrito por um dos melhores pensadores bayesianos vivos. Não é exaustivo. Outros livros têm esse objetivo. Ele aborda alguns tópicos que são relevantes, úteis e iluminam as bases.

Sobre a "escolha": se você realmente deseja se aprofundar na fundação bayesiana, a "Escolha Bayesiana" de Xian é clara, profunda e essencial.

Meu primeiro texto de graduação favorito para estatística bayesiana é Bolstad, Introdução à estatística bayesiana . Se você está procurando algo em nível de pós-graduação, isso será muito elementar, mas para quem é novo em estatística, isso é ideal.

Não sei por que ninguém mencionou o livro muito introdutório sobre Bayesiano:

Há uma versão em PDF grátis para o livro. O livro oferece material suficiente para quem tem muito pouca experiência em bayesiano. Introduz o conceito de distribuição anterior, distribuição posterior, distribuição beta etc.

Experimente, é grátis.

http://greenteapress.com/thinkbayes/

Li algumas partes de Um Primeiro Curso de Métodos Estatísticos Bayesianos, de Peter Hoff, e achei fácil de seguir. (Exemplo de código R é fornecido em todo o texto)

Encontrei uma excelente introdução na análise de dados de Gelman e Hill (2007) usando modelos de regressão e modelos multiníveis / hierárquicos . (Outros comentários o mencionam, mas ele merece ser votado por si próprio.)

Vindo de antecedentes não estatísticos, achei a Introdução às Estatísticas e Estimativas Bayesianas Aplicadas para Cientistas Sociais bastante informativas e fáceis de seguir.

Se você está procurando um texto elementar, ou seja, um que não tenha um pré-requisito de cálculo, há a estatística de Don Berry : uma perspectiva bayesiana .

Dê uma olhada em "The Bayesian Choice" . Possui o pacote completo: fundações, aplicações e computação. Claramente escrito.

Pelo menos olhei para a maioria deles nesta lista e nenhum é tão bom quanto as novas idéias bayesianas e análise de dados na minha opinião.

Edit: É fácil começar imediatamente a fazer análises bayesianas enquanto lê este livro. Não apenas modele a média de uma distribuição Normal com variação conhecida, mas a análise de dados real após os primeiros capítulos. Todos os exemplos de código e dados estão no site do livro. Abrange uma quantidade razoável de teoria, mas o foco são as aplicações. Muitos exemplos em uma ampla gama de modelos. Bom capítulo sobre não paramétricos bayesianos. Exemplos de Winbugs, R e SAS. Prefiro fazer Doing Bayesian Data Analysis (eu tenho os dois). A maioria dos livros aqui (Gelman, Robert, ...) não é introdutória na minha opinião e, a menos que você tenha alguém com quem conversar, provavelmente ficará com mais perguntas do que respostas. O livro de Albert não cobre material suficiente para se sentir à vontade analisando dados diferentes do que é apresentado no livro (novamente minha opinião).

Gosto bastante da cadeia de Markov Monte Carlo: simulação estocástica para inferência bayesiana de Gamerman e Lopes.

Para iniciantes completos, tente William Briggs Quebrando a lei das médias: probabilidade e estatística da vida real em inglês simples

Eu simplesmente devo incluir o MCMC na prática . Ele fornece uma excelente introdução ao MCMC, talvez não tão geral quanto os outros livros mencionados, mas excelente para obter discernimento e intuição. Eu recomendaria lê-lo depois (ou em paralelo com) Bayesian Computação com R .

Se você vier das ciências físicas (física / astronomia), eu recomendaria a análise de dados lógicos bayesiana para as ciências físicas: uma abordagem comparativa com o suporte do Mathematica® por Gregory (2006).

Embora a parte "with Mathematica® Support" do título exista apenas para questões comerciais (os usos do código do Mathematica são muito pobres), o lado bom deste livro é que ele é realmente uma introdução ao assunto de probabilidades e estatísticas. Ele ainda tem alguns capítulos sobre estatísticas freqüentistas. No entanto, depois de tentar, vá para o livro de Gelman et. que muitas pessoas recomendaram você. A maior parte do material do livro de Gregory é tomada de ânimo leve (se não, não seria uma introdução): o livro de Gelman foi um verdadeiro despertar do Gregory para mim.

Eu li:

Gelman et al (2013). Análise de Dados Bayesiana. CRC Press LLC. 3rd ed.

Hoff, Peter D. (2009). Um Primeiro Curso de Métodos Estatísticos Bayesianos. Springer Textos em Estatística.

Kruschke, Fazendo análise de dados bayesiana: um tutorial com R e Bugs, 2011. Academic Press / Elsevier.

e acho que o melhor para começar é o livro de Kruschke. É perfeito para uma primeira abordagem ao pensamento bayesiano: os conceitos são explicados com muita clareza, não há muita matemática e há muitos exemplos legais!

Gelman et al. é um ótimo livro, mas é mais avançado e sugiro lê-lo depois do livro de Kruschke.

Inversamente, eu não gostei do livro de Hoff porque é um livro introdutório, mas os conceitos (e o pensamento bayesiano) não são explicados de maneira clara. Eu sugiro deixar passar.

Se eu tivesse que escolher um único texto para iniciantes, seria

              Sivia DS and Skilling J (2006) book (see below). 

De todos os livros listados abaixo, ele se esforça mais para oferecer uma compreensão intuitiva das idéias essenciais, mas ainda requer alguma sofisticação matemática da página 1.

Abaixo está uma lista de leituras adicionais do meu livro, com comentários sobre cada publicação.

Bernardo, JM e Smith, A, (2000) 4. Teoria Bayesiana Uma descrição rigorosa dos métodos bayesianos, com muitos exemplos do mundo real.

Bispo, C (2006) 5. Reconhecimento de padrões e aprendizado de máquina. Como o título sugere, trata-se principalmente de aprendizado de máquina, mas fornece um relato lúcido e abrangente dos métodos bayesianos.

Cowan G (1998) 6. Análise Estatística de Dados. Uma excelente introdução não bayesiana à análise estatística.

Dienes, Z (2008) 8. Compreendendo a psicologia como ciência: uma introdução à inferência científica e estatística. Fornece material tutorial sobre a regra de Bayes e uma análise lúcida da distinção entre estatísticas bayesianas e estatísticas freqüentadoras.

Gelman A, Carlin J, Stern H e Rubin D. (2003) 14. Análise de Dados Bayesiana. Uma conta rigorosa e abrangente da análise bayesiana, com muitos exemplos do mundo real.

Jaynes E e Bretthorst G (2003) 18. Teoria da Probabilidade: A Lógica da Ciência. O clássico moderno da análise bayesiana. É abrangente e sábio. Seu estilo discursivo o torna longo (600 páginas), mas nunca monótono, e é repleto de idéias.

Khan, S, 2012, Introdução ao teorema de Bayes. Os vídeos on-line de matemática de Salman Khan são uma boa introdução a vários tópicos, incluindo o governo de Bayes.

Lee PM (2004) 27. Estatísticas Bayesianas: Uma Introdução. Um texto rigoroso e abrangente com um estilo bayesiano estridente.

MacKay DJC (2003) 28. Teoria da informação, inferência e algoritmos de aprendizado. O clássico moderno da teoria da informação. Um texto muito legível que percorre amplamente diversos tópicos, quase todos os quais fazem uso da regra de Bayes.

Migon, HS e Gamerman, D (1999) 30. Inferência Estatística: Uma Abordagem Integrada. Um relato direto (e claramente definido) da inferência, que compara abordagens bayesianas e não bayesianas. Apesar de bastante avançado, o estilo de escrita é de natureza tutorial.

Pierce JR (1980) 34 2ª Edição. Uma introdução à teoria da informação: símbolos, sinais e ruído. Pierce escreve com um estilo informal de tutorial, mas não evita apresentar os teoremas fundamentais da teoria da informação.

Reza, FM (1961) 35. Uma introdução à teoria da informação. Um livro rigorosamente mais abrangente e matemático do que o livro de Pierce acima, e idealmente deve ser lido somente após a primeira leitura do texto mais informal de Pierce.

Sivia DS e Skilling J (2006) 38. Análise de Dados: Um Tutorial Bayesiano. Esta é uma excelente introdução ao estilo tutorial dos métodos bayesianos.

Spiegelhalter, D e Rice, K (2009) 36. Estatísticas bayesianas. Scholarpedia, 4 (8): 5230. http://www.scholarpedia.org/article/Bayesian_statistics Um resumo confiável e abrangente do status atual das estatísticas bayesianas.

E aqui está o meu livro, publicado em junho de 2013.

Regra de Bayes: Uma Introdução Tutorial à Análise Bayesiana, Dr. James V Stone, ISBN 978-0956372840

O Capítulo 1 pode ser baixado em: http://jim-stone.staff.shef.ac.uk/BookBayes2012/BayesRuleBookMain.html

Descrição: Descoberto por um matemático e pregador do século XVIII, o governo de Bayes é uma pedra angular da moderna teoria das probabilidades. Neste livro ricamente ilustrado, uma variedade de exemplos acessíveis é usada para mostrar como a regra de Bayes é realmente uma consequência natural do raciocínio de senso comum. A regra de Bayes é derivada usando representações gráficas intuitivas de probabilidade, e a análise bayesiana é aplicada à estimativa de parâmetros usando os programas MatLab fornecidos. O estilo tutorial de redação, combinado com um glossário abrangente, o torna ideal para iniciantes que desejam se familiarizar com os princípios básicos da análise bayesiana.

Não estritamente estatística bayesiana, como tal, mas posso recomendar vivamente "Um primeiro curso sobre aprendizado de máquina", de Rogers e Girolami, que é essencialmente uma introdução às abordagens bayesianas do aprendizado de máquina. É muito bem estruturado, claro e direcionado a estudantes sem uma sólida formação matemática. Isso significa que é uma boa primeira introdução às idéias bayesianas. Há também o código MATLAB / OCTAVE, que é um recurso interessante.

Estatísticas Bayesianas para Cientistas Sociais . Phillips, Lawrence D. (1973), Thomas Crowell & Co. É muito claro, muito acessível, não assume nenhum conhecimento estatístico e, ao contrário de Bolstad, que achei seco, tem personalidade.

Este livro sugere que ele visa o nível de graduação de nível básico

Bioestatística: Uma Introdução Bayesiana. Por George G Woodsworth.

Publicadas por John Wiley & Sons

Gill, J. (2014). Métodos Bayesianos: Uma Abordagem em Ciências Sociais e Comportamentais. 3ª edição.

Escrito por um professor de ciências políticas, tendo em mente os cientistas sociais. O código R é fornecido.

http://www.amazon.com/Bayesian-Methods-Behavioral-Sciences-Statistics/dp/1439862486/

Como o tipo de iniciante não está especificado na pergunta, eis o meu conselho para estatísticos iniciantes:

Andrew B. Lawson e Emmanuel Lesaffre (2012): Bioestatística Bayesiana

Este livro foi usado no primeiro ano de nosso mestre em ciências estatísticas e achei relativamente fácil de entender para um assunto tão difícil. Como na maioria dos livros de 'bioestatística', os exemplos são principalmente biologia clínica, mas os métodos não estão restritos aos úteis na ciência clínica. Tivemos cerca de meio ano de ensino estatístico antes disso e, além do teorema de Bayes, as estatísticas bayesianas ainda não haviam sido introduzidas.

O que também é bom é que os 649 slides inteiros das apresentações acompanhantes estão disponíveis online .