Limites mais baixos para aprendizado na consulta de associação e no modelo de contra-exemplo

11

Dana Angluin ( 1987 ; pdf ) define um modelo de aprendizado com perguntas sobre membros e questões teóricas (contra-exemplos a uma função proposta). Ela mostra que uma linguagem regular representada por um DFA mínimo de estados pode ser aprendida em tempo polinomial (onde as funções propostas são DFAs) com O ( m n 2 ) consultas de associação e no máximo n - 1 consultas de teoria ( m é o tamanho do maior contra-exemplo fornecido pelo tutor). Infelizmente, ela não discute limites inferiores.nO(mn2)n1m

Podemos generalizar um pouco o modelo assumindo um tutor mágico que possa verificar a igualdade entre funções arbitrárias e fornecer contra-exemplos, se diferentes. Então podemos perguntar o quão difícil é aprender aulas maiores do que as línguas comuns. Estou interessado nesta generalização e na restrição original a idiomas regulares.

Existem limites inferiores conhecidos no número de consultas no modelo de associação e contra-exemplo?

Estou interessado em limites mais baixos no número de consultas de membros, de teoria ou de trocas entre as duas. Estou interessado em limites inferiores para qualquer classe de funções, mesmo para classes mais complicadas que as linguagens regulares.

Se não houver limites inferiores: existem barreiras conhecidas para provar limites inferiores de consulta neste modelo?


Perguntas relacionadas

Existem melhorias no algoritmo de Dana Angluin para aprender conjuntos regulares

Artem Kaznatcheev
fonte

Respostas:

11

NPcoNP

O(n)O(n2+nlogm)

Uma maneira fácil de obter limites mais baixos é a teoria da informação. Você pode descobrir quantos alvos distintos existem e quantos bits uma consulta fornece, etc. Esses limites superiores se aproximam, mas não existem. Também há questões em que é preciso pensar sobre como os "contra-exemplos" chegam ao aluno. Um contra-exemplo bem escolhido pode fornecer muitas informações.

Atualização para a discussão acima : Angluin e Dohrn abordam a questão da aprendizagem com contra-exemplos aleatórios em um artigo recente .

Lev Reyzin
fonte
Obrigado pela resposta! Você se importa se eu der a sua resposta à minha pergunta vinculada (sobre os links aqui)? Ou você planeja criar uma conta CS.SE? Eu concordo totalmente com o parágrafo 3, eu estava brincando exigindo que o tutor desse um contra-exemplo mínimo e o aprendizado parecesse muito mais fácil.
Artem Kaznatcheev
Sem problemas! Sinta-se à vontade para postar na pergunta CS.SE vinculada.
Lev Reyzin
Eu li a parte relevante da tese de Schapire (seção 5.4.5) e resumi a melhoria , espero ter entendido a essência. Examinarei mais de perto o artigo sobre limites inferiores que você cita no final da semana: D.
Artem Kaznatcheev
Legal. Eu upvote-lo se eu tivesse uma conta CS.SE :)
Lev Reyzin