Questões teóricas sobre o aprendizado de máquina, especialmente a teoria da aprendizagem computacional, incluindo a teoria algorítmica da aprendizagem, a aprendizagem do PAC e a inferência bayesiana
Meu Ph.D. está em matemática pura, e admito que não sei muito (ou seja, nada) sobre CS teórico. No entanto, comecei a explorar opções não acadêmicas para minha carreira e, ao me apresentar ao aprendizado de máquina, deparei-me com afirmações como "Ninguém entende por que as redes neurais funcionam...
Dou aulas de algoritmos avançados e gostaria de incluir alguns tópicos relacionados ao aprendizado de máquina que serão do interesse dos meus alunos. Como resultado, eu gostaria de ouvir as opiniões das pessoas sobre os resultados algorítmicos atualmente mais interessantes / maiores no aprendizado...
Sabemos que (ver, por exemplo, Teoremas 1 e 3 de [1]), grosso modo, sob condições adequadas, funções que podem ser computadas eficientemente pela máquina de Turing em tempo polinomial ("computável eficientemente") podem ser expressas por redes neurais polinomiais com tamanhos razoáveis e,...
Vamos olhar para o futuro daqui a 30 anos. Vamos ser otimistas e assumir que as áreas relacionadas ao aprendizado de máquina continuam se desenvolvendo tão rapidamente quanto o que vimos nos últimos 10 anos. Isso seria ótimo, mas qual seria o papel da algorítmica tradicional em um futuro tão...
Em testes propriedade gráfico, um algoritmo de consulta um gráfico de alvo para a presença ou ausência de arestas e necessidades para determinar se o alvo quer tem uma certa propriedade ou é -muito de ter a propriedade. (Um algoritmo pode ser solicitado a ter sucesso com um erro lados ou dois...
Aqui está uma abstração de um problema de aprendizado / bandido on-line em que estive trabalhando no verão. Eu nunca vi um problema como esse antes e parece bastante interessante. Se você conhece algum trabalho relacionado, eu gostaria de receber referências. O problema A configuração é a de...
Atualmente, estou estudando matemática. No entanto, acho que não quero me tornar um matemático profissional no futuro. Estou pensando em aplicar meus conhecimentos de matemática para fazer pesquisas em inteligência artificial. No entanto, não tenho certeza de quantos cursos de matemática devo...
É possível testar algoritmicamente se um número computável é racional ou inteiro? Em outras palavras, seria possível para uma biblioteca que implementa números computáveis fornecer as funções isIntegerou isRational? Suponho que isso não seja possível e que isso esteja de alguma forma relacionado...
Nós sabemos (por agora cerca de 40 anos, obrigado Adleman, Bennet e Gill) que a inclusão BPP P / poli, e um ainda mais forte BPP / poli P / hold poli. O "/ poly" significa que trabalhamos de maneira não uniforme (um circuito separado para cada comprimento de entrada ), enquanto P sem esse "/ poly"...
Edit: Como não recebo nenhuma resposta / comentário há uma semana, gostaria de acrescentar que estou feliz em saber algo sobre o problema. Eu não trabalho na área, portanto, mesmo que seja uma observação simples, talvez eu não saiba. Mesmo um comentário como "Eu trabalho na área, mas não vi uma...
É conhecido pelo teorema da aproximação universal que uma rede neural com até uma única camada oculta e uma função de ativação arbitrária pode aproximar-se de qualquer função contínua. Que outros modelos existem também que são aproximadores de funções
fundo As funções em são aprendidas pelo PAC em tempo quase-polinomial com um algoritmo clássico que requer O ( 2 l o g ( n ) O ( d ) ) consultas escolhidas aleatoriamente para aprender um circuito de profundidade d [1]. Se não houver um algoritmo de fatoração 2 n o ( 1 ) , então isso é ótimo [2]....
A propagação de crenças tem se mostrado um método muito poderoso através da pesquisa em modelos gráficos probabilísticos. No entanto, eu não sei nada sobre a BP que seja comparável aos métodos MCMC, onde podemos ter esquemas de aproximação aleatória totalmente polinomiais (FPRAS) para problemas de...
Os algoritmos genéticos evoluem em menos gerações com uma população maior, mas também levam mais tempo para computar uma geração. Existem algumas diretrizes para equilibrar esses dois fatores, a fim de chegar a uma solução viável o mais rápido possível? Além disso, este é o melhor lugar para a...
Fiz essa pergunta em perguntas e respostas cruzadas validadas, mas parece que ela está relacionada ao CS muito mais que o Statistics. Você pode me dar exemplos de algoritmos de aprendizado de máquina que aprendem com as propriedades estatísticas do conjunto de dados e não com as próprias...
Digamos que temos uma rede neural de avanço de camada única com k entradas e uma saída. Calcula uma função de , é bastante fácil ver que isso tem pelo menos o mesmo poder computacional que . Apenas por diversão, chamaremos o conjunto de funções computável por uma rede neural de camada única "...
Parece-me que os especialistas em aprendizado de máquina / mineração de dados estão familiarizados com P e NP, mas raramente falam sobre algumas das classes de complexidade mais sutis (por exemplo, NC, BPP ou IP) e suas implicações para uma análise eficaz dos dados. Existe alguma pesquisa de...
Antecedentes: No aprendizado de máquina, geralmente trabalhamos com modelos gráficos para representar funções de densidade de probabilidade dimensional alta. Se descartamos a restrição de que uma densidade se integra (soma) a 1, obtemos uma função de energia estruturada em gráfico não normalizada...
Eu atribuído meus alunos o problema de encontrar um triângulo consistente com uma coleção de pontos em R 2 , rotulado com ± 1 . (Um triângulo T é consistente com a amostra rotulada se T contém todos os pontos positivos e nenhum dos pontos negativos; por suposição, a amostra admite pelo menos 1...
Quais são alguns problemas do mundo real que foram resolvidos usando um algoritmo genético? Qual é o problema? Qual é o teste de aptidão utilizado para resolver este