Maior substring comum em tempo linear

45

Esse desafio é escrever código para resolver o seguinte problema.

Dadas duas seqüências A e B, seu código deve gerar os índices inicial e final de uma subseqüência de caracteres A com as seguintes propriedades.

  • A substring de A também deve corresponder a alguma substring de B.
  • Não deve mais haver substring de A que satisfaça a primeira propriedade.

Por exemplo:

A = xxxappleyyyyyyy

B = zapplezzz

A substring applecom índices 4 8(indexação de 1) seria uma saída válida.

Funcionalidade

Você pode assumir que a entrada estará no padrão em ou em um arquivo no diretório local, que é sua escolha. O formato do arquivo será simplesmente duas strings, separadas por uma nova linha. A resposta deve ser um programa completo e não apenas uma função.

Eventualmente, gostaria de testar seu código em duas substrings extraídas das strings em http://hgdownload.cse.ucsc.edu/goldenPath/hg38/chromosomes/ .

Ponto

Este é o código-golfe com um toque. Seu código deve ser executado no O(n)tempo, onde né o comprimento total da entrada.

Línguas e bibliotecas

Você pode usar qualquer idioma que tenha um compilador / intérprete disponível gratuitamente / etc. para Linux. Você deve usar apenas bibliotecas de código-fonte aberto padrão não projetadas para resolver esta tarefa. Em caso de disputa, contarei isso como qualquer biblioteca que vem como padrão com o seu idioma ou que você pode instalar em uma máquina ubuntu padrão a partir de um repositório padrão.

Informação útil

Existem pelo menos duas maneiras de resolver esse problema em tempo linear. Um é primeiro calcular a árvore de sufixos e o segundo é primeiro calcular a matriz de sufixos e a matriz LCP.

Comunidade
fonte
4
O(n) timeTem certeza de que é possível?
Savenkov Alexey
17
@ Lembik Desculpe, mas estes são algoritmos muito complexos e não é realmente divertido gerar mais de 100 linhas de código.
FUZxxl 03/03
4
O artigo no segundo link que você fornece em "Informações úteis" diz que "a construção [de uma árvore de sufixos] requer tempo O (N ^ 2)"
KSFT 6/15/15
3
@Embembik Você deve apenas fazer a pergunta [código mais rápido], onde vence o programa com o pior caso de grande notação oh. Então você terá pelo menos algumas respostas e, mesmo que alguém possa resolvê-lo em O (n), elas vencerão.
Mbomb007
9
Esta deve ser a pergunta com as respostas mais excluídos por resposta válida ...
FlipTack

Respostas:

39

Python 2, 646 bytes

G=range;w=raw_input;z=L,m,h=[0]*3
s=w();t=len(s);s+='!%s#'%w();u=len(s);I=z*u
def f(s,n):
 def r(o):
    b=[[]for _ in s];c=[]
    for x in B[:N]:b[s[x+o]]+=x,
    map(c.extend,b);B[:N]=c
 M=N=n--~n/3;t=n%3%2;B=G(n+t);del B[::3];r(2);u=m=p=r(1)>r(0);N-=n/3
 for x in B*1:v=s[x:x+3];m+=u<v;u=v;B[x/3+x%3/2*N]=m
 A=1/M*z or f(B+z,M)+z;B=[x*3for x in A if x<N];J=I[r(0):n];C=G(n)
 for k in C:b=A[t]/N;a=i,j=A[t]%N*3-~b,B[p];q=p<N<(s[i:i-~b],J[i/3+b+N-b*N])>(s[j+t/M:j-~b],J[j/3+b*N]);C[k]=x=a[q];I[x]=k;p+=q;t+=1-q
 return C
S=f(map(ord,s)+z*40,u)
for i in G(u):
 h-=h>0;j=S[I[i]-1]
 while s[i+h]==s[j+h]:h+=1
 if(i<t)==(t<j)<=h>m:m=h;L=min(i,j)
print-~L,L+m

Isso usa o algoritmo de inclinação descrito em "Construção de matriz de sufixo de trabalho linear simples" por Kärkkäinen e Sanders. A implementação de C ++ incluída nesse documento já parece um pouco complicada, mas ainda há muito espaço para reduzi-lo. Por exemplo, podemos recuar até chegar a uma matriz de comprimento um, em vez de causar um curto-circuito, como no papel, sem violar o O(n)requisito.

Para a parte LCP, segui "Computação de prefixo mais longo em tempo linear em matrizes de sufixo e suas aplicações" por Kusai et al.

O programa gera 1 0se a substring comum mais longa estiver vazia.

Aqui está um código de desenvolvimento que inclui uma versão anterior do programa que segue a implementação do C ++ um pouco mais de perto, algumas abordagens mais lentas para comparação e um simples gerador de caso de teste:

from random import *

def brute(a,b):
    L=R=m=0

    for i in range(len(a)):
        for j in range(i+m+1,len(a)+1):
            if a[i:j] in b:
                m=j-i
                L,R=i,j

    return L+1,R

def suffix_array_slow(s):
    S=[]
    for i in range(len(s)):
        S+=[(s[i:],i)]
    S.sort()
    return [x[1] for x in S]

def slow1(a,b):
    # slow suffix array, slow lcp

    s=a+'!'+b
    S=suffix_array_slow(s)

    L=R=m=0

    for i in range(1,len(S)):
        x=S[i-1]
        y=S[i]
        p=s[x:]+'#'
        q=s[y:]+'$'
        h=0
        while p[h]==q[h]:
            h+=1
        if h>m and len(a)==sorted([x,y,len(a)])[1]:
            m=h
            L=min(x,y)
            R=L+h

    return L+1,R

def verify(a,b,L,R):
    if L<1 or R>len(a) or a[L-1:R] not in b:
        return 0
    LL,RR=brute(a,b)
    return R-L==RR-LL

def rand_string():
    if randint(0,1):
        n=randint(0,8)
    else:
        n=randint(0,24)
    a='zyxwvutsrq'[:randint(1,10)]
    s=''
    for _ in range(n):
        s+=choice(a)
    return s

def stress_test(f):
    numtrials=2000
    for trial in range(numtrials):
        a=rand_string()
        b=rand_string()
        L,R=f(a,b)
        if not verify(a,b,L,R):
            LL,RR=brute(a,b)
            print 'failed on',(a,b)
            print 'expected:',LL,RR
            print 'actual:',L,R
            return
    print 'ok'

def slow2(a,b):
    # slow suffix array, linear lcp

    s=a+'!'+b+'#'
    S=suffix_array_slow(s)

    I=S*1
    for i in range(len(S)):
        I[S[i]]=i

    L=R=m=h=0

    for i in range(len(S)):
        if I[i]:
            j=S[I[i]-1]
            while s[i+h]==s[j+h]:
                h+=1
            if h>m and len(a)==sorted([i,j,len(a)])[1]:
                m=h
                L=min(i,j)
                R=L+h
            h-=h>0

    return L+1,R

def suffix_array(s,K):
    # skew algorithm

    n=len(s)
    s+=[0]*3
    n0=(n+2)/3
    n1=(n+1)/3
    n2=n/3
    n02=n0+n2
    adj=n0-n1

    def radix_pass(a,o,n=n02):
        c=[0]*(K+3)
        for x in a[:n]:
            c[s[x+o]+1]+=1
        for i in range(K+3):
            c[i]+=c[i-1]
        for x in a[:n]:
            j=s[x+o]
            a[c[j]]=x
            c[j]+=1

    A=[x for x in range(n+adj) if x%3]+[0]*3

    radix_pass(A,2)
    radix_pass(A,1)
    radix_pass(A,0)

    B=[0]*n02
    t=m=0

    for x in A[:n02]:
        u=s[x:x+3]
        m+=t<u
        t=u
        B[x/3+x%3/2*n0]=m

    A[:n02]=1/n02*[0]or suffix_array(B,m)
    I=A*1
    for i in range(n02):
        I[A[i]]=i+1

    B=[3*x for x in A if x<n0]
    radix_pass(B,0,n0)

    R=[]

    p=0
    t=adj
    while t<n02:
        x=A[t]
        b=x>=n0
        i=(x-b*n0)*3-~b
        j=B[p]
        if p==n0 or ((s[i:i+2],I[A[t]-n0+1])<(s[j:j+2],I[j/3+n0]) if b else (s[i],I[A[t]+n0])<(s[j],I[j/3])):R+=i,;t+=1
        else:R+=j,;p+=1

    return R+B[p:n0]

def solve(a,b):
    # linear

    s=a+'!'+b+'#'
    S=suffix_array(map(ord,s),128)

    I=S*1
    for i in range(len(S)):
        I[S[i]]=i

    L=R=m=h=0

    for i in range(len(S)):
        if I[i]:
            j=S[I[i]-1]
            while s[i+h]==s[j+h]:
                h+=1
            if h>m and len(a)==sorted([i,j,len(a)])[1]:
                m=h
                L=min(i,j)
                R=L+h
            h-=h>0

    return L+1,R

stress_test(solve)
Mitch Schwartz
fonte
1
Corrija-me se estiver errado, mas isso não é realmente 739 bytes? Copiei para mothereff.in/byte-counter e excluí 2 espaços das linhas 6-9, mas não tenho certeza se isso está correto.
Patrick Roberts
2
@PatrickRoberts Essas são abas.
precisa saber é o seguinte
2
Boa resposta! Você pode querer dar uma olhada no GSACA, um novo SACA de tempo linear de 2016. A implementação de referência é de 246 linhas cheias de comentários (170 sem comentários) e parece muito fácil de jogar. Você o encontrará no github.
Christoph
1
@MitchSchwartz No momento, estou tentando permanecer no noPMO, então não consigo sentir emoções fortes no momento (provavelmente devido a substâncias químicas do cérebro desequilibradas). Na hora de ler o código rapidamente, meu motor de golfe de sintaxe percebeu isso, e não me lembro de sentir nenhuma emoção específica. Você pensou na mesma coisa ou por que a pergunta? :) Agora estou curioso.
Yytsi 17/02
1
@TuukkaX Essa é uma resposta interessante que eu não esperava. Bem, não tenho certeza se devo escrever isso de alguma maneira especial, mas o fato de o seu comentário original não estar realmente correto desempenhou algum papel no motivo pelo qual decidi perguntar. :)
Mitch Schwartz