Ao aplicar o abandono em redes neurais artificiais, é preciso compensar o fato de que, no tempo de treinamento, uma porção dos neurônios foi desativada. Para fazer isso, existem duas estratégias comuns: escalando a ativação no momento do teste invertendo a desistência durante a fase de...
Em seu artigo seminal 'Regressão a Menor Ângulo' , Efron et al descrevem uma modificação simples do algoritmo LARS que permite calcular caminhos completos de regularização do LASSO. Eu implementei essa variante com êxito e geralmente plotei o caminho de saída em relação ao número de etapas...
Quase todos os livros de texto que discute a aproximação normal para a distribuição binomial menciona a regra de ouro que a aproximação pode ser usado se e . Alguns livros sugerem . A mesma constante geralmente aparece nas discussões sobre quando mesclar células no . Nenhum dos textos que encontrei...
Em várias competições de kaggle, a pontuação foi baseada em "logloss". Isso está relacionado ao erro de classificação. Aqui está uma resposta técnica, mas estou procurando uma resposta intuitiva. Gostei muito das respostas para esta pergunta sobre a distância de Mahalanobis, mas o PCA não é...
No famoso experimento de Fisher o observável é o número de copo corrigido imaginado tendo dois tipo de copo e . Geralmente é interessante calcular a região crítica para rejeitar a hipótese nula (a dama está adivinhando aleatoriamente), dado o tamanho do teste . Isso é feito facilmente usando a...
No contexto do aprendizado de máquina, digamos que você tenha um problema no qual as classes da população real não são equilibradas - por exemplo, a Classe A ocorre 80% das vezes e a Classe B ocorre 20% das vezes. Nesse caso, é geralmente melhor ter um determinado algoritmo ML baseado em dados com...
Alguém pode me dizer como simular , onde , usando um sorteio (quantas vezes você precisar) com ?Bernoulli(ab)Bernoulli(ab)\mathrm{Bernoulli}\left({a\over b}\right)a,b∈Na,b∈Na,b\in \mathbb{N}P(H)=pP(H)=pP(H)=p Eu estava pensando em usar amostras de rejeição, mas não consegui...
Minha pergunta, em resumo: existem métodos para melhorar o tempo de execução do R MICE (imputação de dados)? Estou trabalhando com um conjunto de dados (30 variáveis, 1,3 milhão de linhas) que contém (aleatoriamente) dados ausentes. Cerca de 8% das observações em cerca de 15 em 30 variáveis...
Eu sei que a prova da transformação integral de probabilidade foi dada várias vezes neste site. No entanto, as provas que encontrei usam a hipótese de que o CDF está aumentando estritamente (juntas, é claro, com a hipótese de que é uma variável aleatória contínua). Eu sei que, na verdade, a única...
Estou acostumado a conhecer "graus de liberdade" como , onde você tem o modelo linear \ mathbf {y} = \ mathbf {X} \ boldsymbol {\ beta} + \ boldsymbol {\ epsilon} com \ mathbf {y } \ in \ mathbb {R} ^ n , \ mathbf {X} \ em M_ {n \ vezes p} (\ mathbb {R}) a matriz de design com classificação r , \...
Suponhamos que temos uma amostra aleatória {xn,yn}Nn=1{xn,yn}n=1N\lbrace x_n ,y_n \rbrace_{n=1}^N . Suponha que yn=β0+β1xn+εnyn=β0+β1xn+εny_n = \beta_0 + \beta_1 x_n + \varepsilon_n e y^n=β^0+β^1xny^n=β^0+β^1xn\hat{y}_n = \hat{\beta}_0 +\hat{\beta}_1 x_n Qual é a diferença entre β1β1\beta_1 e...
É sabido que uma variável aleatória sendo Gamma distribuída com o parâmetro de forma inteira é equivalente à soma dos quadrados de k variáveis aleatórias normalmente distribuídas.kkkkkk Mas o que posso dizer sobre uma variável aleatória distribuída gama com não inteiro ? Existe alguma outra...
Recentemente, um amigo meu perguntou o que há de tão comum nos mínimos quadrados comuns. Não parecemos chegar a lugar algum na discussão. Nós dois concordamos que o OLS é um caso especial do modelo linear, tem muitos usos, é bem conhecido e é um caso especial de muitos outros modelos. Mas isso é...
Quando podemos diferenciar a função de custo e encontrar parâmetros resolvendo equações obtidas por meio de diferenciação parcial com relação a cada parâmetro e descobrir onde a função de custo é mínima. Também acho que é possível encontrar vários locais onde as derivadas são zero, assim podemos...
Pelo Teorema do Limite Central, a função densidade de probabilidade da soma de grandes variáveis aleatórias independentes tende a Normal. Portanto, podemos dizer que a soma de um grande número de variáveis aleatórias independentes de Cauchy também é
Estou tentando reconciliar diferentes definições da função de custo / perda do SVM de margem flexível na forma primária. Existe um operador "max ()" que eu não entendo. Eu aprendi sobre o SVM há muitos anos no livro de graduação em nível " Introdução à mineração de dados " de Tan, Steinbach e...
Tenho dificuldade em interpretar alguns resultados. Estou fazendo uma regressão hierárquica relacionada ecoreg. Se eu digitar o código, receberei resultados com odds ratio, ratio de confiança e uma probabilidade de log maximizada 2x. No entanto, não entendo completamente como interpretar a...
O número de acidentes por dia é uma variável aleatória de Poisson com o parâmetro ; em 10 dias escolhidos aleatoriamente, o número de acidentes foi observado como 1,0,1,1,2,0,2,0,0,1, o que será ser um estimador imparcial de ?λλ\lambdaeλeλe^{\lambda} Tentei tentar desta maneira: Sabemos que , mas...
Suponha que substituamos a função de perda da regressão logística (que normalmente é de probabilidade logarítmica) pelo MSE. Ou seja, ainda o log odds ratio seja uma função linear dos parâmetros, mas minimize a soma das diferenças quadráticas entre a probabilidade estimada e o resultado (codificado...
Alguém poderia me dizer por que estou obtendo resultados diferentes de Rmínimos quadrados ponderados e solução manual por operação de matriz ? Especificamente, estou tentando resolver manualmente , onde é a matriz diagonal dos pesos, é a matriz de dados, é a resposta vetor. W A bW A x = W...