R detecta tendência crescente / decrescente de séries temporais

9

Tenho muitas séries temporais com períodos: dia, semana ou mês. Com stl()função ou com loess(x ~ y), posso ver como são as tendências de determinadas séries temporais. Preciso detectar se a tendência das séries temporais está aumentando ou diminuindo. Como posso gerenciar isso?

Tentei calcular coeficientes de regressão linear lm(x ~ y)e brincar com o coeficiente de inclinação. ( If |slope|>2 and slope>0 thentendência crescente, else if |slope|>2 and slope<0- decrescente). Talvez exista outro método mais eficaz para a detecção de tendências? Obrigado!

Por exemplo: eu tenho timeserie1, timeserie2. Eu preciso de um algoritmo simples que me diga que timeserie2é um algoritmo crescente e timeserie1, em , a tendência não está aumentando ou diminuindo. Que critérios devo usar?

timeserie1:

1774 1706 1288 1276 2350 1821 1712 1654 1680 1451 1275 2140 1747 1749 1770 1797 1485 1299 2330 1822
1627 1847 1797 1452 1328 2363 1998 1864 2088 2084  594  884 1968 1858 1640 1823 1938 1490 1312 2312
1937 1617 1643 1468 1381 1276 2228 1756 1465 1716 1601 1340 1192 2231 1768 1623 1444 1575 1375 1267
2475 1630 1505 1810 1601 1123 1324 2245 1844 1613 1710 1546 1290 1366 2427 1783 1588 1505 1398 1226
1321 2299 1047 1735 1633 1508 1323 1317 2323 1826 1615 1750 1572 1273 1365 2373 2074 1809 1889 1521
1314 1512 2462 1836 1750 1808 1585 1387 1428 2176 1732 1752 1665 1425 1028 1194 2159 1840 1684 1711
1653 1360 1422 2328 1798 1723 1827 1499 1289 1476 2219 1824 1606 1627 1459 1324 1354 2150 1728 1743
1697 1511 1285 1426 2076 1792 1519 1478 1191 1122 1241 2105 1818 1599 1663 1319 1219 1452 2091 1771
1710 2000 1518 1479 1586 1848 2113 1648 1542 1220 1299 1452 2290 1944 1701 1709 1462 1312 1365 2326
1971 1709 1700 1687 1493 1523 2382 1938 1658 1713 1525 1413 1363 2349 1923 1726 1862 1686 1534 1280
2233 1733 1520 1537 1569 1367 1129 2024 1645 1510 1469 1533 1281 1212 2099 1769 1684 1842 1654 1369
1353 2415 1948 1841 1928 1790 1547 1465 2260 1895 1700 1838 1614 1528 1268 2192 1705 1494 1697 1588
1324 1193 2049 1672 1801 1487 1319 1289 1302 2316 1945 1771 2027 2053 1639 1372 2198 1692 1546 1809
1787 1360 1182 2157 1690 1494 1731 1633 1299 1291 2164 1667 1535 1822 1813 1510 1396 2308 2110 2128
2316 2249 1789 1886 2463 2257 2212 2608 2284 2034 1996 2686 2459 2340 2383 2507 2304 2740 1869  654
1068 1720 1904 1666 1877 2100  504 1482 1686 1707 1306 1417 2135 1787 1675 1934 1931 1456 1363 2027
1740 1544 1727 1620 1232 1199

timeserie2:

 122  155  124   97  155  134  115  122  162  115  102  163  135  120  139  160  126  122  169  154
 121  134  143  100  121  182  139  145  135  147   60   58  153  145  130  126  143  129   98  171
 145  107  133  115  113   96  175  128  106  117  124  107  114  172  143  111  104  132  110   80
 159  131  113  123  123  104  101  179  127  105  133  127  101   97  164  134  124   90  110  102
  90  186   79  145  130  115   79  104  191  137  114  131  109   95  119  173  158  137  128  119
 109  120  182  140  133  113  121  110  122  159  129  124  119  109  108   95  167  138  125  105
 139  118  115  166  140  112  116  139  121  109  164  135  118  121  112  111  102  169  136  151
 132  135  130  112  156  134  121  116  114   91   86  141  160  116  118  112   84  114  165  141
 109  123  122  110  100  162  145  121  118  115  107  103  162  142  130  139  134  121  118  164
 147  125  120  134  107  130  158  141  144  148  124  135  118  212  178  154  167  155  176  143
 201  170  144  138  152  136  123  223  189  160  153  190  136  144  276  213  199  211  196  170
 179  460  480  499  550  518  493  557  768  685  637  593  507  611  569  741  635  563  577  498
 456  446  677  552  515  441  438  462  530  699  629  555  641  625  544  585  705  584  553  622
 506  500  533  777  598  541  532  513  434  510  714  631 1087 1249 1102  913  888 1147 1056 1073
1075 1136  927  922 1066 1074  996 1189 1062  999  974 1174 1097 1055 1053 1097 1065 1171  843  441
 552  779  883  773  759  890  404  729  703  810  743  743  946  883  813  876  841  742  715  960
 862  743  806  732  669  621
Jurgita
fonte
11
Seu segundo exemplo não tem uma tendência, portanto você não deve detectá-lo. No período 230, os dados apresentam uma mudança de nível (ou seja, 0,0,0,0,0,1,1,1,1,1,1, etc.) diferente de uma tendência. Além disso, há uma mudança na variação de cerca de 200 que pode ser identificada usando o teste de Tsay. Veja mais aqui www.unc.edu/~jbhill/tsay.pdf
Tom Reilly
2
@ Tom Sim, o que você diz é evidente em um gráfico dos dados. (De fato, um gráfico mostra três mudanças repentinas de nível, e não apenas uma). Mas caracterizar isso como diferente de uma "tendência" não faz justiça à sua análise, que eu sei que revelará detalhes sutis no comportamento dessa série temporal. Eu gostaria de sugerir que o OP seria mais bem servido por caracterizações claras do comportamento dos dados do que por discussões de possíveis definições de "tendência". Ela pede uma alternativa para testar uma inclinação de mínimos quadrados - e isso é uma indicação de fato do que ela quer dizer com "tendência".
whuber

Respostas:

7

Você pode aplicar um filtro de mudança de fase zero e cortar todas as frequências acima de algum limite; isso daria a você uma espécie de "tendência".

Por exemplo, observe esta pergunta: " Como executo um filtro passa-alto ou passa-baixo nos pontos de dados em R? " Eles mostram como usar o filtro passa-baixo Butterworth. O problema com esse filtro é que não há mudança de fase zero, ou seja, como você vê, a fase do componente de baixa frequência é alterada em relação ao sinal original. Você pode encontrar o filtro que não muda a fase. Se fossem dados econômicos, eu sugeriria o filtro de Christiano conforme "The Band Pass Filter" de Lawrence J. Christiano e Terry J. Fitzgerald (1999). Para dados físicos, deve haver uma tonelada de filtros de mudança de fase zero disponíveis.

ATUALIZAR:

Aqui está um exemplo de aplicação do filtro passa-banda baixa ao LOG da segunda série temporal. O LOG é necessário para uniformizar a variação.

UPDATE2:

Aqui está uma decomposição de amostra no domínio da frequência com faixas de frequência: irregular [2-19], cíclica [20-99] e tendência [100- ] (em períodos). As bandas de frequência devem ser escolhidas cuidadosamente com base na compreensão do fenômeno subjacente.

Aksakal
fonte
11
Fiquei intrigado com essa resposta por um tempo e finalmente percebi que você deveria estar usando a palavra "tendência" da mesma maneira que muitos estatísticos usariam "suave". Então tudo faz sentido. Esperamos que o OP logo esclareça o que ela quer dizer com "tendência".
whuber
sim, estou usando "tendência" como no sentido de decomposição de séries temporais: y = tendência + cíclica + sazonal + irregular, por exemplo, en.wikipedia.org/wiki/Decomposition_of_time_series, a tendência seria um componente de frequência "muito baixo" neste contexto . quão baixo depende do problema
Aksakal
11
Não parece bem assim. Ao filtrar componentes de alta frequência, você remove alguns dos "irregulares" (leia-se: ruído) e talvez uma pequena parte da parte cíclica, mas a tendência, os componentes cíclicos de médio e longo prazo e os componentes sazonais tudo permanecerá.
whuber
11
para uma tendência, você usaria o filtro passa-banda baixa. digamos que você tenha vários anos de séries de dados mensais. nesse caso, a banda baixa pode ter um ciclo de 10 anos, então você corta todas as frequências maiores que 1/10 (quando o tempo está em anos). o limite realmente depende do fenômeno; em dados econômicos, os ciclos de negócios podem durar de 10 a 15 anos, portanto, você pode precisar definir a banda baixa como 1/16
Aksakal
11
Como mostra sua nova ilustração, quando você é muito agressivo na filtragem, também perde tendências óbvias: sua suavidade é tão forte que perde quase todo o último terço dos dados. Independentemente disso, isso definitivamente não é uma decomposição nos componentes nocionais qualitativos descritos no artigo da Wikipedia que você faz referência. Outra preocupação com a abordagem de filtragem (no entanto, é conduzida) é a estatística: como você testa se há uma "tendência" e se é alta ou baixa?
whuber
3

A detecção de tendências em uma série temporal pode ser feita de maneira simplesmente errada ou mais agressiva. Uma série pode ter valores que exibem uma tendência, por exemplo 1,2,3,4,5, e depois uma mudança de tendência em um ou mais momentos, por 7,9,11,13,15,...exemplo. Outro exemplo é o 1,1,1,1,1,2,3,4,5,6local em que nenhuma tendência está presente nas 5 primeiras leituras e, em seguida, ocorre uma tendência. 1,1,1,1,1,2,2,2,2,2Diz-se que uma série como uma mudança de nível (mudança de interceptação). AUTOBOXé um software que, de acordo com o meu conhecimento, incorpora exclusivamente análises para detectar, testar e incorporar tendências de tempo. Eu fui um dos desenvolvedores e ampliei as análises nessa área em particular. O procedimento que você está tentando usar (incorretamente na minha opinião) é presuntivo de modelo, ou seja, sem pulsos, sem alterações de nível, sem pulsos sazonais, sem estrutura ARIMA, variação constante de erros, etc. Outro possível exemplo ruim de um modelo assumido é: use , como novamente, alguém está assumindo uma estrutura específica.[1B]y(t)=θ0+[MA/AR]a(t)

A idéia aqui é que o modelo ARIMA possa estar incorreto ou que esteja mudando (portanto, tendências diferentes) em diferentes momentos no tempo.θ0

A idéia é deixar os dados "falarem" e a análise "ouvir" e detectar o "modelo correto" ou pelo menos um "modelo útil".

Orson Bean - ou talvez fosse outra pessoa - disse uma vez: “Uma tendência é uma tendência ... até dobrar, e quando a tendência dobrar, a tendência estará no fim.” As tendências da hora local nas séries temporais exigem a identificação dos pontos de ruptura e, em seguida, estimativa da tendência local.Há alguns materiais / referências úteis em http://www.autobox.com/OLDWEB/udontsay.html

Se você deseja publicar alguns dados, faça-o e eu publicarei alguns resultados para você.

IrishStat
fonte
3
Uma tendência é uma tendência é uma tendência \ Mas a questão é: será que vai se curvar? \ Irá alterar seu curso \ Por alguma força imprevista \ E chegará a um fim prematuro? Alexander Cairncross
Nick Cox
Obrigado pela resposta. Eu estudarei suas informações. Eu também publiquei alguns dados.
Jurgita
11
Nesse caso, Marta, parece que você está testando uma "tendência" global (no sentido de diferenças nos valores típicos entre os dois extremos da série temporal) e não tendências locais, conforme descrito nesta resposta. Isso está correto?
whuber
11
@ Nick Obrigado! Como foi necessário algum esforço para procurar a fonte, aqui está: Previsão Econômica , Discurso Presidencial à Royal Economic Society, 3 de julho de 1969 . Cairncross abriu seu discurso com uma citação de Lincoln, seguida por este limerick original (atribuído a "Stein Age Forecaster"). As observações subsequentes deixam claro que ele estava se referindo à previsão - extrapolação de tendências.
whuber
11
@ Whuber, você está certo, estou procurando uma tendência global. Desculpe se minha pergunta foi enganosa.
Jurgita 27/02