Em geral, se tivermos um grande conjunto de dados, podemos dividi-lo em (1) treinamento, (2) validação e (3) teste. Usamos a validação para identificar os melhores hiperparâmetros na validação cruzada (por exemplo, C no SVM) e, em seguida, treinamos o modelo usando os melhores hiperparâmetros com o...
Eu queria estimar o intervalo de confiança para o desvio padrão para alguns dados. O código R tem a seguinte aparência: library(boot) sd_boot <- function (x, ind) { res <- sd(x$ReadyChange[ind], na.rm = TRUE) return(res) } data_boot <- boot::boot(data, statistic = sd_boot, R =...
Conduzi a Correspondência de Pontuação de Prospensidade (em R, usando o pacote R "Matchit"). Eu usei o método correspondente "vizinho mais próximo". Após a comparação, comparei o tratamento e o grupo de controle em termos da variável de resultado. Para esta comparação, usei o teste t. Descobri que,...
Eu tenho um conjunto de dados unidimensional e uso a boxplotfunção para criar um gráfico de caixa. Então eu posso ver que tenho alguns outliers. Os outliers contam quando os quantis estão sendo determinados? Existe uma maneira certa / errada ou ambas as formas estão corretas, desde que tenhamos...
Se minha probabilidade tem a forma de uma distribuição beta e eu quero usar o prior de Jeffreys para seus parâmetros, qual é a forma do prior? Para algumas distribuições, é bastante simples calcular. por exemplo, no caso binomial, a expectativa da segunda derivada fornece claramente . Mas se a...
Encontrei uma métrica de erro usada para quantificar o erro de reconstrução de um modelo: , ondeyié oith ponto de dados,mié a estimativa do modelo doith ponto de dados, e ˉ y é a média de todos os pontos de dados. O numerador é o erro quadrado total do modelo e o denominador é o desvio quadrado...
Podemos simular regressão linear sem aleatoriedade, o que significa que fazemos vez de . Então, se ajustarmos um modelo linear, os coeficientes serão idênticos à "verdade fundamental". Aqui está um exemplo.y = X β + ϵy=Xβy=Xβy=X\betay=Xβ+ϵy=Xβ+ϵy=X\beta+\epsilon set.seed(0) n <- 1e5 p <- 3 X...
Eu sou bastante novo em aprendizado de máquina e estatística, mas estava me perguntando por que a otimização bayesiana não é referida com mais frequência on-line quando se aprende que o aprendizado de máquina otimiza seus hiperparâmetros de algoritmo? Por exemplo, usando uma estrutura como esta:...
Uma abordagem para a comparação de modelos em uma estrutura bayesiana usa uma variável de indicador de Bernoulli para determinar qual dos dois modelos provavelmente é o "modelo verdadeiro". Ao aplicar ferramentas baseadas no MCMC para ajustar esse modelo, é comum usar pseudo-anteriores para...
TL; DR (muito longo, não leu): Estou trabalhando em um problema de previsão de séries temporais, que formulo como um problema de regressão usando o Deep Learning (keras). Quero otimizar a correlação de Pearson entre minha previsão e os rótulos verdadeiros. Estou confuso pelo fato de que o uso do...
Estou um pouco preocupado e confuso com a ideia de como a técnica de parada precoce é definida. Se você der uma olhada na Wikipedia , ela será definida da seguinte forma: Divida os dados de treinamento em um conjunto de treinamento e um conjunto de validação, por exemplo, na proporção de 2 para...
Eu tenho uma rede neural (camada única feed-forward) com a qual tento prever uma variável relacionada ao ambiente a partir de duas variáveis financeiras (regressão). Eu uso a função "train" do pacote de intercalação. Eu uso o nnet()algoritmo no pacote de sinal de intercalação. Eu tenho dois...
Eu tenho um conjunto de dados com 338 preditores e 570 instâncias (infelizmente não é possível carregar) no qual estou usando o Lasso para executar a seleção de recursos. Em particular, estou usando a cv.glmnetfunção da glmnetseguinte maneira, onde mydata_matrixé uma matriz binária de 570 x 339 e a...
Todo estimador de Bayes é admissível, pelo que sei. (Questões relacionadas - 1 , 2. ) Lembro-me de meu professor mencionando uma vez durante uma palestra que, pelo menos como uma intuição grosseira, o inverso também é verdadeiro, ou seja, todo estimador admissível é o estimador de Bayes para uma...
Eu já vi ótimos posts explicando o PCA e por que, sob essa abordagem, os autovetores de uma matriz de correlação (simétrica) são ortogonais. Também entendo as maneiras de mostrar que esses vetores são ortogonais entre si (por exemplo, pegar os produtos cruzados da matriz desses vetores próprios...
Eu entendo o assunto nos termos underfitting / overfitting , mas ainda luto para entender a matemática exata por trás disso. Eu verifiquei várias fontes ( aqui , aqui , aqui , aqui e aqui ), mas ainda não vejo por que exatamente o viés e a variação se opõem, como, por exemplo, e :exexe^xe-...
Costumo enfrentar a questão de ter que escolher um número de clusters. A partição que acabo escolhendo é mais frequentemente baseada em preocupações visuais e teóricas do que em critérios de qualidade. Eu tenho duas perguntas principais. O primeiro diz respeito à idéia geral de qualidade dos...
Estou vendo como a distância euclidiana mínima esperada entre pontos aleatoriamente uniformes e a origem muda à medida que aumentamos a densidade de pontos aleatórios ( pontos por unidade quadrada ) ao redor da origem. Eu consegui chegar a um relacionamento entre os dois descritos como...
Eu tenho um conjunto de dados com 5.818.446 linhas e 51 colunas, onde 50 delas são preditores. Minha resposta é quantitativa, por isso estou interessado em um modelo de regressão. Estou tentando ajustar uma floresta aleatória aos meus dados usando o pacote de intercalação. No entanto, não tenho RAM...
Suponha que uma variável de nível dependente seja medida em um nível de unidade (nível 1) aninhado em unidades do tipo (nível 2 ) e que unidades do tipo A estejam aninhadas em níveis do tipo B (nível 3 ).yyyAAA222AAABBB333 Suponha que eu ajuste a seguinte fórmula: y ~ "FIXED EFFECTS [my syntax]"...