Existem máquinas “pequenas” que podem corresponder eficientemente às expressões regulares?

30

É sabido que uma expressão regular pode ser reconhecida por um autômato finito não determinístico de tamanho proporcional à expressão regular ou por uma FA determinística que é potencialmente exponencialmente maior. Além disso, dada uma string e uma expressão regular , o NFA pode testar a associação em tempo proporcional a, e o DFA pode testar a associação no tempo proporcional a. A desaceleração da NFA decorre do fato de que precisamos rastrear os conjuntos de estados possíveis em que o autômato pode estar, e a explosão exponencial do DFA decorre do fato de que seus estados são elementos do conjunto de potências dos estados da região. NFA. $s$ $r$ $|s| \cdot |r|$ $|s|$

É possível eficientemente (ou seja, em tempo melhor que e espaço melhor que ) reconhecer expressões regulares, se permitirmos o uso de máquinas mais poderosas do que autômatos finitos? (Por exemplo, existem ganhos sucintos no reconhecimento de idiomas regulares com autômatos de empilhamento ou máquinas de contagem?) $O(|r| \cdot |s|)$ $O(2^{|r|})$

fl.formal-languages automata-theory regular-expressions Neel Krishnaswami
fonte

2

Quando você diz que "o NFA pode testar a associação em tempo proporcional a ", você quer dizer que uma máquina de RAM (determinística) que simula o NFA da maneira óbvia leva tanto tempo? Ou existe outra maneira de definir o "tempo de execução de uma NFA" que não se refira a outro modelo computacional? (Além da definição sensata, mas não muito útil, que diz que o tempo de execução de qualquer NFA para a cadeia é .)

| s | \cdot | r |

$|s|\cdot|r|$

s

$s$

| s |

$|s|$

Radu Grigore

Sim, essa é a interpretação correta da minha pergunta.

Neel Krishnaswami

2

Parece-me mais natural simplesmente perguntar o seguinte: Existe um algoritmo (em uma máquina RAM) que decide se uma string está no idioma definido pela expressão regular que funciona em tempo e espaço? (Especialmente se você definir o tempo de execução de um autômato pushdown também em termos de uma máquina de RAM.)

s

$s$

r

$r$

o (| s | \cdot | r |)

$o(|s|\cdot|r|)$

o (2^{| r |})

$o(2^{|r|})$

Radu Grigore

11

Eu não entendo exatamente o problema. A entrada é uma string s e uma expressão regular r, e o problema é decidir se s está no idioma definido pela expressão regular r?

Robin Kothari

@ Robin: sim, é isso. Gostaria de saber se é possível combinar expressões regulares com mais eficiência do que os autômatos finitos, usando mais poder computacional, ou se recursos extras (por exemplo, pilha, RAM) simplesmente não ajudam.

Neel Krishnaswami

20

É fácil o suficiente para trocar o tempo pelo espaço, da seguinte maneira.

Converter a expressão regular a um NFA - para concretude em algoritmos de comparação, vamos supor que é o número de estados NFA, de modo que o seu tempo ligado para simular diretamente o NFA é válido e seu espaço vinculado para executar o DFA convertido também é válido sempre que você estiver trabalhando em uma RAM que pode endereçar essa quantidade de memória. $r$ $O(rs)$ $O(2^r)$

Agora, particione os estados do NFA (arbitrariamente) em subconjuntos de no máximo estados cada. Dentro de cada subconjunto , podemos indexar os subconjuntos de por números de a . $k$ $S_i$ $\lceil r/k\rceil$ $S_i$ $A_i$ $S_i$ $0$ $2^{\lceil r/k\rceil}-1$

Construir uma tabela em que e são na gama de 0 a , é um símbolo de entrada, e é (o índice numérico de) um subconjunto de . O valor armazenado na tabela é (o índice numérico de) um subconjunto de : um estado está em se e somente se $T[i,j,c,A_i]$ $i$ $j$ $k-1$ $c$ $A_i$ $S_i$ $S_j$ $y$ $T[i,j,c,A_i]$ pertence a e há um estado em que faz a transição para no símbolo de entrada . $y$ $S_j$ $A_i$ $y$ $c$

Para simular o NFA, manter índices, um para cada , especificando o subconjunto dos estados em que podem ser alcançados por alguns prefixo da entrada. Para cada símbolo de entrada , utilizar as tabelas de olhar para cima, para cada par , o conjunto de estados em que pode ser alcançado a partir de um estado em por uma transição em , e, em seguida, usar um binário bit a bit ou operação nos índices numéricos desses conjuntos de estados para combiná-los em um único subconjunto de estados de $k$ $S_i$ $A_i$ $S_i$ $c$ $i,j$ $S_j$ $A_i$ $c$ $S_j$ . Portanto, cada etapa da simulação leva tempo , e o tempo total para a simulação é . $O(k^2)$ $O(sk^2)$

O espaço necessário é o espaço para todas as tabelas, que é . A análise de tempo e espaço é válida em qualquer RAM que possa endereçar tanta memória e que possa executar operações binárias em palavras grandes o suficiente para endereçar essa quantidade de memória. $O(k^2 2^{r/k})$

A troca de tempo e espaço que você obtém disso não corresponde perfeitamente à simulação da NFA, devido à dependência quadrática de . Mas então, eu sou cético de que é o momento certo com destino a simulação NFA: como você simular um único passo da NFA mais rápido do que olhar para todos os (possivelmente de forma quadrática muitos) transições permitida de um momento estado ativo para outro estado? Não deveria ser ? $k$ $O(rs)$ $O(r^2 s)$

De qualquer forma, deixando variar, é possível obter limites de tempo em um continuum entre os limites do DFA e do NFA, com menos espaço que o DFA. $k$

David Eppstein
fonte

Acho que sua correção está correta e sua resposta responde à minha pergunta. No entanto, a pergunta que eu queria fazer é quanto de poder computacional adicional ajuda. (Por exemplo, com um contador você pode encontrar uma string

em O espaço (1)). Se você não se importa, vou deixar a questão em aberto para um pouco mais de tempo para ver se alguém sabe a resposta para isso. ...

a^{k}

$a^k$

Neel Krishnaswami

@Neel: Se a solução de David é a melhor uma máquina RAM pode fazer, em seguida, pilhas, contadores, etc, não vai ajudar. (Mas, é claro, ele só deu limites superiores, limites não inferiores.)

Radu Grigore

11

Pelo que sei, minha solução usa "energia adicional": é baseada em pesquisas de tabela e índices inteiros, algo que não está disponível nos modelos DFA ou NFA. Então, eu realmente não entendo como isso não está respondendo a essa parte da pergunta.

David Eppstein

Aqui está uma maneira alternativa de parametrizar isso. Suponha que estamos em uma máquina RAM com largura de palavra

, onde

. Então a simulação NFA ocupa

tempo e

espaço. A simulação do DFA não é possível se

(espaço insuficiente disponível). A construção nesta resposta conjuntos

e leva

w

$w$

w \geq \lg r

$w \ge \lg r$

O (s r^{2})

$O(s r^2)$

O (r / w)

$O(r/w)$

r \geq w

$r \ge w$

k \approx ⌈ r / w ⌉

$k \approx \lceil r/w \rceil$

tempo e usa todo o espaço disponível (ou seja, algo próximo a

espaço). É basicamente explorar o paralelismo de bits disponível em uma máquina de RAM para fazer a simulação NFA mais rapidamente.

O (s r^{2} / w^{2})

$O(sr^2/w^2)$

2^{w}

$2^w$

DW

4

Esta não é uma resposta, mas é muito longa para um comentário. Estou tentando explicar por que a pergunta, como colocada, pode ser difícil de entender.

Há duas maneiras de definir complexidade computacional de um dispositivo X .

O primeiro e mais natural caminho é intrínseco . É preciso dizer como o dispositivo X usa a entrada, para que possamos ver mais tarde como o tamanho n da entrada afeta o tempo de execução do dispositivo. É preciso também dizer o que conta como uma operação (ou etapa ). Simplesmente deixamos o dispositivo rodar nas operações de entrada e contagem.

O segundo é extrínseco . Nós definimos complexidade computacional para um outro dispositivo de Y e, em seguida, programar Y para actuar como um simulador para X . Como pode haver várias maneiras de Y simular X , precisamos acrescentar que devemos usar a melhor. Deixe-me dizer o mesmo com outras palavras: Dizemos que X leva tempo em uma entrada de tamanho n se existe um simulador de X implementado na máquina Y que leva tempo . $O(f(n))$ $f(n)$

Por exemplo, uma definição intrínseca para a NFA diz que são necessárias n etapas para processar uma sequência de comprimento n ; uma definição extrínseca que usa uma máquina de RAM como dispositivo Y diz que o limite superior mais conhecido é provavelmente o que David Eppstein respondeu. (Caso contrário, seria estranho que (1) a melhor implementação prática apontada na outra resposta não use a melhor alternativa e (2) ninguém aqui indicou uma alternativa melhor.) Observe também que falando estritamente o seu dispositivo X é a expressão regular , mas como o NFA tem o mesmo tamanho, é seguro aceitá-lo como o dispositivo X que você está vendo.

Agora, quando você usa o segundo tipo de definição, faz pouco sentido perguntar como a restrição dos recursos do dispositivo X afeta o tempo de execução. No entanto, faz sentido perguntar como a restrição dos recursos do dispositivo Y afeta o tempo de execução. Obviamente, permitir máquinas mais poderosas Y pode simular o X mais rapidamente. Portanto, se assumirmos uma das máquinas mais poderosas que podem ser implementadas (isso exclui as máquinas não determinísticas, por exemplo) e apresentarmos um limite mais baixo , sabemos que nenhuma máquina menos poderosa poderia fazer Melhor. $\Omega(f(n))$

Portanto, de certa forma, a melhor resposta que você poderia esperar é uma prova em algo como o modelo de sonda celular que simular um NFA precisa de um certo tempo. (Observe que, se você levar em consideração a conversão NFA em DFA, precisará de tempo para anotar o grande DFA; portanto, a memória não é o único problema.)

Radu GRIGore
fonte

4

Mesmo que você acredite que não há nada novo ou velho a ser aprendido sobre a correspondência de expressões regulares, confira um dos artigos mais bonitos que já encontrei há muito tempo: uma peça sobre expressões regulares de S Fischer, F Huch e T Wilke, ICFP 2010.

(MMT Chakravarty merece o crédito por recomendar este documento.)

EDIT: A razão pela qual este artigo é relevante é que ele descreve uma nova técnica (baseada em Glushkov dos anos 60) que evita a construção da NFA completa (e muito menos da DFA) correspondente à ER. Em vez disso, o que é feito se assemelha à execução de um algoritmo de marcação semelhante ao conhecido para decidir a aceitação de uma palavra por um NFA na árvore de sintaxe do ER. As medições de desempenho sugerem que isso é competitivo, mesmo com a biblioteca re2 publicada recentemente pelo Google.

Kai
fonte

Um bom papel para ler !!

Hsien-Chih Chang # 06/02

1

Dê uma olhada neste artigo de Russ Cox. Ele descreve uma abordagem baseada em NFA, empregada pela primeira vez por Ken Thompson, pela qual uma sequência de entrada s pode ser correspondida a uma expressão regular r no tempo O (| s |. C ) e no espaço O (| r |. D ), em que c e d são constantes de limite superior. O artigo também detalha uma implementação em C da técnica.

fonte

2

Não estou convencido de que seja uma descrição precisa do artigo. Parece estar criando o DFA a partir da NFA conforme a necessidade e armazenando em cache os resultados. Mas o tamanho do cache pode ser exponencial em r.

David Eppstein

Existem máquinas “pequenas” que podem corresponder eficientemente às expressões regulares?

Respostas: