Se eu tiver uma matriz de design , em que é o número de observações da dimensão , qual é a complexidade da solução para com LASSO, wrt e ? Acho que a resposta deve se referir a como uma iteração do LASSO é escalonada com esses parâmetros, e não como o número de iterações (convergência), a menos que...
Portanto, tenho 16 ensaios em que estou tentando autenticar uma pessoa de uma característica biométrica usando a Distância de Hamming. Meu limite está definido como 3,5. Meus dados estão abaixo e apenas o teste 1 é um verdadeiro positivo: Trial Hamming Distance 1 0.34 2 0.37 3 0.34 4 0.29 5 0.55 6...
Estou procurando uma referência sólida (ou referências) sobre técnicas de otimização numérica destinadas a estatísticos, ou seja, aplicaria esses métodos a alguns problemas inferenciais padrão (por exemplo, MAP / MLE em modelos comuns). Coisas como descida de gradiente (reta e estocástica), EM e...
Essa é uma pergunta bastante geral (ou seja, não necessariamente específica para estatística), mas notei uma tendência no aprendizado de máquina e na literatura estatística em que os autores preferem seguir a seguinte abordagem: Abordagem 1 : Obter uma solução para um problema prático, formulando...
Como posso estimar intervalos de confiança de 95% usando a criação de perfil para parâmetros estimados maximizando uma função de probabilidade de log usando optim em R? Eu sei que posso estimar assintoticamente a matriz de covariância invertendo o hessiano , mas estou preocupado que meus dados não...
Considere-se uma resposta y e matriz de dados X . Suponha que eu esteja criando um modelo do formulário - y ~ g (X, )θθ\theta (g () pode ser qualquer função de X e )θθ\theta Agora, para estimar usando o método de máxima verossimilhança (ML), eu poderia ir em frente com ML condicional (supondo...
Estou tentando entender a otimização da descida do gradiente nos algoritmos de ML (aprendizado de máquina). Entendo que existe uma função de custo - em que o objetivo é minimizar o erro . Em um cenário em que os pesos estão sendo otimizados para fornecer o erro mínimo e derivadas parciais estão...
Por padrão, quando usamos uma glmfunção em R, utiliza a mínimos quadrados iterativo reponderadas método (IWLS) para encontrar a estimativa da probabilidade máxima dos parâmetros. Agora eu tenho duas perguntas. As estimativas da IWLS garantem o máximo global da função de probabilidade? Com base no...
Estou procurando um pacote para me ajudar a resolver alguns problemas de otimização quadrática e vejo que há pelo menos meia dúzia de pacotes diferentes. De acordo com esta página: QP (programação quadrática, 90C20): cplexAPI , kernlab , limSolve , LowRankQP , quadprog , Rcplex , Rmosek Alguns...
No meu livro econométrico (Econometria Introdutória), que trata do OLS, o autor escreve: "O SSR deve cair quando outra variável explicativa é adicionada". Por que é
Eu estava pensando em resolver Lasso através de métodos de subgradiente de baunilha. Mas li pessoas sugerindo o uso da descida proximal do gradiente. Alguém pode destacar por que o GD proximal, em vez de os métodos do subgradiente de baunilha, são usados no
Então, eu estou tentando me ensinar redes neurais (para aplicações de regressão, não classificando imagens de gatos). Minhas primeiras experiências foram treinando uma rede para implementar um filtro FIR e uma Transformada Discreta de Fourier (treinamento em sinais "antes" e "depois"), pois essas...
Suponha que desejemos calcular alguma expectativa: EYEX| Y[ f( X, Y) ]EYEX|Y[f(X,Y)]E_YE_{X|Y}[f(X,Y)] Suponha que queremos aproximar isso usando a simulação de Monte Carlo. EYEX| Y[ f( X, Y) ] ≈ 1R S∑r = 1R∑s = 1Sf( xr , s, yr)EYEX|Y[f(X,Y)]≈1RS∑r=1R∑s=1Sf(xr,s,yr)E_YE_{X|Y}[f(X,Y)] \approx...
Estou treinando uma rede neural convolucional simples para regressão, onde a tarefa é prever a localização (x, y) de uma caixa em uma imagem, por exemplo: A saída da rede possui dois nós, um para x e um para y. O restante da rede é uma rede neural convolucional padrão. A perda é um erro...
Suponha que estejamos fazendo um exemplo de brinquedo decente em gradiente, minimizando uma função quadrática , usando tamanho de passo fixo . ( )α = 0,03 A = [ 10 , 2 ; 2 , 3 ]xTAxxTAxx^TAxα=0.03α=0.03\alpha=0.03A=[10,2;2,3]A=[10,2;2,3]A=[10, 2; 2, 3] Se traçarmos o traço de xxx em cada iteração,...
Eu gostaria de fazer algo em R que o SAS possa fazer usando o proc misto do SAS (existe alguma maneira de se fazer isso no STATA), ou seja, ajustar o chamado modelo bivariado de Reitsma et al (2005). Este modelo é um modelo misto especial em que a variação depende do estudo (veja abaixo)....
Acabei de começar a usar o pacote de autoencoder em R. As entradas para a autoencode()função incluem lambda, beta, rho e epsilon. Quais são os limites para esses valores? Eles variam para cada função de ativação? Esses parâmetros são chamados de "hiperparâmetros"? Supondo que um autoencoder...
Existem muitas regras para selecionar uma largura ideal de compartimento em um histograma 1D (veja, por exemplo ) Estou procurando uma regra que aplique a seleção das larguras ideais de barras iguais em histogramas bidimensionais . Existe essa regra? Talvez uma das regras conhecidas dos...
Estou realmente confuso com o uso do solver na otimização computacional. Eu olhei em volta por um mês dentro e fora, para ver se consigo entender bem o que esse termo significa, mas ainda não o entendo bem. Parece que, se eu gostaria de resolver um problema de otimização no aprendizado de máquina...
Estou trabalhando em visão computacional e preciso otimizar uma função objetiva que envolve a matriz e a matriz é uma matriz ortogonal.XXXXXX maximize f(X)maximize f(X)maximize \ \ f(X) s.t XTX=Is.t XTX=I s.t \ \ X^T X=I Onde é a matriz da unidade. Estou lendo alguns artigos e eles falavam...