Aprendizado de máquina e teoria do aprendizado: aprendizado do PAC, teoria do aprendizado algorítmico e aspectos computacionais da inferência bayesiana e modelos gráficos.
Estou pensando no seguinte problema: Quero encontrar uma expressão regular que corresponda a um conjunto específico de cadeias de caracteres (por exemplo, endereços de email válidos) e não a outros (endereços de email inválidos). Suponha que por expressão regular queremos dizer alguma máquina de...
Sabemos que (ver, por exemplo, Teoremas 1 e 3 de [1]), grosso modo, sob condições adequadas, funções que podem ser computadas eficientemente pela máquina de Turing em tempo polinomial ("computável eficientemente") podem ser expressas por redes neurais polinomiais com tamanhos razoáveis e,...
Uma máquina PHPHPH recebe acesso Oracle a uma função booleana aleatória f:{0,1}n→{−1,1}f:{0,1}n→{−1,1}f:\{0,1\}^n \to \{ -1,1 \} e dois espectros de Fourier ggg e hhh . O espectro de Fourier de uma função fff é definido como F:{0,1}n→RF:{0,1}n→RF:\{0,1\}^n \to R...
A classificação de sinal de uma matriz A com entradas + 1, -1 é a menor classificação (acima dos reais) de uma matriz B que possui o mesmo padrão de sinal de A (ou seja, para todos os i , j ) Essa noção é importante na complexidade da comunicação e na teoria da aprendizagem.UMAeu jBeu j>...
Existe uma grande literatura sobre "teste de propriedade" - o problema de fazer um pequeno número de consultas de caixa preta em uma função para distinguir entre dois casos:f: { 0 , 1 }n→ Rf:{0,1}n→Rf\colon\{0,1\}^n \to R fff é membro de alguma classe de funçõesCC\mathcal{C} fff é de todas as...
A "otimização convexa on-line" de Zinkevich ( http://www.cs.cmu.edu/~maz/publications/ICML03.pdf ) generaliza os algoritmos de aprendizado de "minimização de arrependimento", de configurações lineares a convexas e fornece bom "arrependimento externo" . Existe uma generalização semelhante para...
Aqui está uma abstração de um problema de aprendizado / bandido on-line em que estive trabalhando no verão. Eu nunca vi um problema como esse antes e parece bastante interessante. Se você conhece algum trabalho relacionado, eu gostaria de receber referências. O problema A configuração é a de...
Estou tentando entender a complexidade das funções expressáveis através de portas de limiar e isso me levou a . Em particular, estou interessado no que se sabe atualmente sobre o aprendizado no T C 0 , pois não sou especialista na área.TC0TC0\mathsf{TC}^0TC0TC0\mathsf{TC}^0 O que eu descobri até...
fundo As funções em são aprendidas pelo PAC em tempo quase-polinomial com um algoritmo clássico que requer O ( 2 l o g ( n ) O ( d ) ) consultas escolhidas aleatoriamente para aprender um circuito de profundidade d [1]. Se não houver um algoritmo de fatoração 2 n o ( 1 ) , então isso é ótimo [2]....
Edit: Como não recebo nenhuma resposta / comentário há uma semana, gostaria de acrescentar que estou feliz em saber algo sobre o problema. Eu não trabalho na área, portanto, mesmo que seja uma observação simples, talvez eu não saiba. Mesmo um comentário como "Eu trabalho na área, mas não vi uma...
Considere (X,≤)(X,≤)(X, \leq) um poset finita sobre itens, e um predicado monótona desconhecido através (isto é, para qualquer , , se e , em seguida, ). Eu posso avaliar fornecendo um nó e descobrindo sennnPPPXXXxxxy∈Xy∈Xy \in XP(x)P(x)P(x)x≤yx≤yx \leq yP(y)P(y)P(y)PPPx∈Xx∈Xx \in XP(x)P(x)P(x) é...
Qual é a complexidade de consulta mais conhecida do algoritmo de aprendizado Goldreich-Levin? As notas da palestra do blog de Luca Trevisan , Lemma 3, afirmam . Isso é o mais conhecido em termos de dependência de n ? Ficarei particularmente grato por uma referência a uma fonte citável!O ( 1 / ϵ4n...
Antecedentes: No aprendizado de máquina, geralmente trabalhamos com modelos gráficos para representar funções de densidade de probabilidade dimensional alta. Se descartamos a restrição de que uma densidade se integra (soma) a 1, obtemos uma função de energia estruturada em gráfico não normalizada...
Fiz essa pergunta em perguntas e respostas cruzadas validadas, mas parece que ela está relacionada ao CS muito mais que o Statistics. Você pode me dar exemplos de algoritmos de aprendizado de máquina que aprendem com as propriedades estatísticas do conjunto de dados e não com as próprias...
Eu atribuído meus alunos o problema de encontrar um triângulo consistente com uma coleção de pontos em R 2 , rotulado com ± 1 . (Um triângulo T é consistente com a amostra rotulada se T contém todos os pontos positivos e nenhum dos pontos negativos; por suposição, a amostra admite pelo menos 1...
Eu tenho um conjunto de dados de milhares de pontos e um meio de medir a distância entre dois pontos, mas os pontos de dados não têm dimensionalidade. Eu quero um algoritmo para encontrar centros de cluster neste conjunto de dados. Eu imagino que, como os dados não têm dimensões, um centro de...
Sabe-se que, para a aprendizagem do PAC, existem classes de conceitos naturais (por exemplo, subconjuntos de listas de decisão) para as quais existem lacunas polinomiais entre a complexidade da amostra necessária para o aprendizado da teoria da informação por um aprendiz computacionalmente...
Autômatos residuais de estado finito (RFSAs, definidos em [DLT02]) são NFAs que possuem alguns recursos interessantes em comum com os DFAs. Em particular, sempre existe um RFSA de tamanho mínimo canônico para cada idioma regular, e o idioma reconhecido por cada estado no RFSA é um resíduo, assim...
O que se sabe sobre o seguinte problema? Dada uma coleção de funções , encontre a maior sub-coleção sujeita à restrição de que VC-Dimension para algum número inteiro .f : { 0 , 1 } n → { 0 , 1 } S ⊆ C ( S ) ≤ k kCCCf: { 0 , 1 }n→ { 0 , 1 }f:{0,1}n→{0,1}f:\{0,1\}^n\rightarrow\{0,1\}S⊆ CS⊆CS...
Inspirado por esta pergunta , estou curioso sobre o seguinte: Qual é a pior complexidade possível de verificar se um determinado DFA aceita o mesmo idioma que uma determinada expressão regular? Isso é conhecido? A esperança seria que esse problema estivesse em P - que houvesse um polinômio de...