Fiz essa pergunta em perguntas e respostas cruzadas validadas, mas parece que ela está relacionada ao CS muito mais que o Statistics. Você pode me dar exemplos de algoritmos de aprendizado de máquina que aprendem com as propriedades estatísticas do conjunto de dados e não com as próprias...
Digamos que temos uma rede neural de avanço de camada única com k entradas e uma saída. Calcula uma função de , é bastante fácil ver que isso tem pelo menos o mesmo poder computacional que . Apenas por diversão, chamaremos o conjunto de funções computável por uma rede neural de camada única "...
O lema Johnson-Lindenstrauss permite representar pontos em um espaço de alta dimensão em pontos de menor dimensão. Ao encontrar espaços dimensionais inferiores de melhor ajuste, uma técnica padrão é encontrar a decomposição do valor singular e, em seguida, pegar o subespaço gerado pelos maiores...
Sabe-se que, para a aprendizagem do PAC, existem classes de conceitos naturais (por exemplo, subconjuntos de listas de decisão) para as quais existem lacunas polinomiais entre a complexidade da amostra necessária para o aprendizado da teoria da informação por um aprendiz computacionalmente...
Eu tenho um conjunto de dados de milhares de pontos e um meio de medir a distância entre dois pontos, mas os pontos de dados não têm dimensionalidade. Eu quero um algoritmo para encontrar centros de cluster neste conjunto de dados. Eu imagino que, como os dados não têm dimensões, um centro de...
É sabido que, para uma classe conceitual com a dimensão VC , basta obter exemplos rotulados para o PAC learn . Não está claro para mim se o algoritmo de aprendizado do PAC (que usa essas muitas amostras) é adequado ou impróprio? Nos livros de Kearns e Vazirani, bem como Anthony e Biggs, parece que...
Aqui está um problema com um sabor semelhante ao aprendizado de juntas: Entrada: Uma função , representada por um oracle de associação, ou seja, um oracle que forneceu , retorna .f:{0,1}n→{−1,1}f:{0,1}n→{−1,1}f: \{0,1\}^n \rightarrow \{-1,1\}xxxf(x)f(x)f(x) Objetivo: Encontre um subcubo de com...
Dana Angluin ( 1987 ; pdf ) define um modelo de aprendizado com perguntas sobre membros e questões teóricas (contra-exemplos a uma função proposta). Ela mostra que uma linguagem regular representada por um DFA mínimo de estados pode ser aprendida em tempo polinomial (onde as funções propostas são...
Estou familiarizado com o algoritmo de descida de gradiente, que pode encontrar o mínimo local (máximo) de uma determinada função. Existe alguma modificação na descida do gradiente que permita encontrar o mínimo absoluto (máximo), onde a função possui vários extremos locais? Existem técnicas...
DDD{0,1}d×{0,1}{0,1}d×{0,1}\{0,1\}^d\times \{0,1\}CCCf:{0,1}d→{0,1}f:{0,1}d→{0,1}f:\{0,1\}^d\rightarrow\{0,1\}f∈Cf∈Cf \in CO P T ( C , D ) = min f ∈ C e r r ( f , D )e r r ( f, D ) = Pr( x , y) ∼ D[ f( X ) ≠ y]err(f,D)=Pr(x,y)∼D[f(x)≠y]err(f,D) = \Pr_{(x,y) \sim D}[f(x) \neq y]O PT( C, D ) = minf∈...
Alguns antecedentes: Estou interessado em encontrar limites inferiores "menos conhecidos" (ou resultados de dureza) para o problema de Aprendizagem com erros (LWE) e generalizações dos mesmos, como Aprender com erros por anéis. Para definições específicas, etc., aqui está uma boa pesquisa da...
No cs.stackexchange , perguntei sobre a biblioteca algebird scala no github, especulando por que eles precisam de um pacote de álgebra abstrata. A página do github tem algumas dicas: Implementações de Monoids para algoritmos de aproximação interessantes, como filtro Bloom, HyperLogLog e...
Especificamente, estou pedindo recursos para aprender sobre sistemas de aprendizado de máquina que podem atualizar suas respectivas redes de crenças (ou equivalente) durante a operação. Eu já encontrei alguns, embora não os tenha marcado como favorito. Como você pode imaginar, é um tópico bastante...
Quais classificadores de aprendizado de máquina são os mais paralelizáveis? Se você tivesse um problema de classificação difícil, tempo limitado, mas uma LAN decente de computadores para trabalhar, com quais classificadores você tentaria? Por um lado, parece-me com alguns classificadores padrão...
É sabido que, para a aprendizagem clássica do PAC, exemplos de são necessários para obter um erro vinculado a whp, onde é a dimensão VC da classe conceitual.ε dΩ ( d/ ε)Ω(d/ε)\Omega(d/\varepsilon)εε\varepsilonddd Sabe-se que exemplos de são necessários no caso agnóstico?Ω ( d/...
Estou bastante familiarizado com a teoria por trás do VC-Dimension, mas agora estou analisando os recentes (últimos 10 anos) avanços na teoria estatística da aprendizagem: médias (locais) de Rademacher, lema de classe finita de Massart, números de cobertura, encadeamento, Dudley's Teorema,...
Recentemente, tenho lido um número decente de artigos do CoLT. Embora eu não lute com os trabalhos individuais (pelo menos não mais do que normalmente luto com outros trabalhos teóricos), não sinto que tenha uma boa compreensão ampla do campo como um todo. Existe um texto padrão, pesquisas ou...
Estou pesquisando a dimensão VC do seguinte sistema definido. Universo tal que U ⊆ R 3 . No sistema de conjuntos R, cada conjunto S ∈ R corresponde a uma esfera em R 3, de modo que o conjunto S contém um elemento em U se e somente se a esfera correspondente o contém em R 3 .você= { p1 1, p2, … ,...
Quero dizer especificamente famílias de idiomas que admitem seqüências arbitrariamente longas - não conjunções sobre n bits ou listas de decisão ou qualquer outra linguagem "simples" contida em {0,1} ^ n. Estou perguntando sobre as linguagens regulares "teóricas dos autômatos", em oposição às...
Background––––––––––––––Background_\underline{\bf Background} Em 2005, Regev [1] introduziu o problema de Aprendizagem com Erros (LWE), uma generalização do problema de Paridade de Aprendizagem com Erros. A suposição da dureza desse problema para certas opções de parâmetro agora está subjacente às...