Autocorrelação Python vs Julia

19

Estou tentando fazer a autocorrelação usando Julia e compará-lo com o resultado do Python. Como eles dão resultados diferentes?

Código Julia

using StatsBase

t = range(0, stop=10, length=10)
test_data = sin.(exp.(t.^2))

acf = StatsBase.autocor(test_data)

10-element Array{Float64,1}:
  1.0                   
  0.13254954979179642   
 -0.2030283419321465    
  0.00029587850872956104
 -0.06629381497277881   
  0.031309038331589614  
 -0.16633393452504994   
 -0.08482388975165675   
  0.0006905628640697538 
 -0.1443650483145533

Código Python

from statsmodels.tsa.stattools import acf
import numpy as np

t = np.linspace(0,10,10)
test_data = np.sin(np.exp(t**2))

acf_result = acf(test_data)

array([ 1.        ,  0.14589844, -0.10412699,  0.07817509, -0.12916543,
       -0.03469143, -0.129255  , -0.15982435, -0.02067688, -0.14633346])
Ross Mariano
fonte
11
Imprima os dados do teste nos dois casos
Mad Physicist

Respostas:

26

Isso ocorre porque o seu test_dataé diferente:

Pitão:

array([ 0.84147098, -0.29102733,  0.96323736,  0.75441021, -0.37291918,
        0.85600145,  0.89676529, -0.34006519, -0.75811102, -0.99910501])

Julia:

[0.8414709848078965, -0.2910273263243299, 0.963237364649543, 0.7544102058854344,
 -0.3729191776326039, 0.8560014512776061, 0.9841238290665676, 0.1665709194875013,
 -0.7581110212957692, -0.9991050130774393]

Isso acontece porque você está recebendo sinnúmeros enormes. Por exemplo, com o último número tsendo 10, exp(10^2)é ~ 2,7 * 10 ^ 43. Nessa escala, as imprecisões de ponto flutuante são de cerca de 3 * 10 ^ 9. Portanto, se mesmo o bit menos significativo for diferente para Python e Julia, o sinvalor será muito diferente.

De fato, podemos inspecionar os valores binários subjacentes da matriz inicial t. Por exemplo, eles diferem no terceiro último valor:

Julia:

julia> reinterpret(Int, range(0, stop=10, length=10)[end-2])
4620443017702830535

Pitão:

>>> import struct
>>> s = struct.pack('>d', np.linspace(0,10,10)[-3])
>>> struct.unpack('>q', s)[0]
4620443017702830536

Podemos de fato ver que eles discordam exatamente de uma máquina épsilon. E se usarmos Julia, pegue sino valor obtido pelo Python:

julia> sin(exp(reinterpret(Float64, 4620443017702830536)^2))
-0.3400651855865199

Temos o mesmo valor que o Python recebe.

Jakob Nissen
fonte
9

Apenas para expandir um pouco a resposta (adicionando como resposta, pois é muito longa para um comentário). Em Julia, você tem o seguinte:

julia> t = collect(range(0, stop=10, length=10))
10-element Array{Float64,1}:
  0.0               
  1.1111111111111112
  2.2222222222222223
  3.3333333333333335
  4.444444444444445 
  5.555555555555555 
  6.666666666666667 
  7.777777777777778 
  8.88888888888889  
 10.0               

julia> t .- [10*i / 9 for i in 0:9]
10-element Array{Float64,1}:
 0.0
 0.0
 0.0
 0.0
 0.0
 0.0
 0.0
 0.0
 0.0
 0.0

enquanto em Python:

>>> t = np.linspace(0,10,10)
>>> t - [10*i/9 for i in range(10)]
array([0.0000000e+00, 0.0000000e+00, 0.0000000e+00, 0.0000000e+00,
       0.0000000e+00, 0.0000000e+00, 0.0000000e+00, 8.8817842e-16,
       0.0000000e+00, 0.0000000e+00])

e você vê que o 8º número em Python é uma aproximação imprecisa de 70/9, enquanto em Julia, nesse caso, você obtém a sequência das aproximações mais próximas de 10*i/9uso Float64.

Parece que, como as seqüências originais diferem, o resto segue o que @Jakob Nissen comentou.

No entanto, as coisas não são assim tão simples. Como as expfunções em Julia e Python diferem um pouco no que produzem. Veja Python:

>>> from math import exp
>>> from mpmath import mp
>>> mp.dps = 1000
>>> float(mp.exp((20/3)**2) - exp((20/3)**2))
-1957.096392544307

enquanto em Julia:

julia> setprecision(1000)
1000

julia> Float64(exp(big((20/3)^2)) - exp((20/3)^2))
2138.903607455693

julia> Float64(exp(big((20/3)^2)) - nextfloat(exp((20/3)^2)))
-1957.096392544307

(você pode verificar se (20/3)^2é o mesmo Float64em Julia e Python).

Portanto, neste caso, o expPython é um pouco mais preciso do que Julia. Portanto, mesmo a correção t(que é fácil usando uma compreensão em Python em vez de linspace) não tornará o ACF igual.

Em suma, a conclusão é o que @Jakob Nissen comentou por valores tão grandes que os resultados serão fortemente influenciados pelas imprecisões numéricas.

Bogumił Kamiński
fonte