O Pandas pode traçar um histograma de datas?

101

Peguei minha série e coagi para uma coluna datetime de dtype = datetime64[ns](embora só precise de resolução de dia ... não tenho certeza de como mudar).

import pandas as pd
df = pd.read_csv('somefile.csv')
column = df['date']
column = pd.to_datetime(column, coerce=True)

mas a plotagem não funciona:

ipdb> column.plot(kind='hist')
*** TypeError: ufunc add cannot use operands with types dtype('<M8[ns]') and dtype('float64')

Eu gostaria de traçar um histograma que mostre apenas a contagem de datas por semana, mês ou ano .

Certamente há uma maneira de fazer isso pandas?

montanha-russa
fonte
2
você pode mostrar uma amostra do df que você tem?
jrjc

Respostas:

164

Dado este df:

        date
0 2001-08-10
1 2002-08-31
2 2003-08-29
3 2006-06-21
4 2002-03-27
5 2003-07-14
6 2004-06-15
7 2003-08-14
8 2003-07-29

e, se ainda não for o caso:

df["date"] = df["date"].astype("datetime64")

Para mostrar a contagem de datas por mês:

df.groupby(df["date"].dt.month).count().plot(kind="bar")

.dt permite que você acesse as propriedades de data e hora.

O que lhe dará:

grupo por data mês

Você pode substituir mês por ano, dia, etc.

Se você quiser distinguir ano e mês, por exemplo, basta fazer:

df.groupby([df["date"].dt.year, df["date"].dt.month]).count().plot(kind="bar")

Que dá:

grupo por data mês ano

Era isso que você queria? Isso está claro?

Espero que isto ajude !

jrjc
fonte
1
Se você tiver dados abrangendo vários anos, todos os dados de 'janeiro' serão colocados na mesma coluna e assim por diante para cada mês.
drevicko
Funciona, mas para mim (pandas 0.15.2) as datas devem ser escritas com D maiúsculo: df.groupby (df.Date.dt.month) .count (). Plot (kind = "bar")
harbun
@drevicko: Isso é esperado, eu acredito. @harbun: dateou Dateaqui estão os nomes das colunas, então se a sua coluna com datas for chamada foo, seria:df.foo.dt.month
jrjc
@jeanrjc Olhando novamente para a pergunta, acho que você está certo. Para outras pessoas como eu, que também precisam fazer a distinção por anos, existe uma maneira simples de fazer groupbycombinações de dois atributos de dados de colunas (por exemplo: ano e data)?
drevicko de
Existe uma maneira de preparar as datas para que eu possa usar seaborn.distplot () para plotar o histograma de datas sobre datas?
panc
11

Acho que resample pode ser o que você está procurando. No seu caso, faça:

df.set_index('date', inplace=True)
# for '1M' for 1 month; '1W' for 1 week; check documentation on offset alias
df.resample('1M', how='count')

É apenas fazer a contagem e não o plot, então você tem que fazer seus próprios plotagens.

Veja este post para mais detalhes sobre a documentação da resample pandas resample documentação

Eu tive problemas semelhantes aos de você. Espero que isto ajude.

Ethan
fonte
2
howestá obsoleto. A nova sintaxe édf.resample('1M').count()
Dan Weaver
6

Exemplo renderizado

insira a descrição da imagem aqui

Código de exemplo

#!/usr/bin/env python
# -*- coding: utf-8 -*-

"""Create random datetime object."""

# core modules
from datetime import datetime
import random

# 3rd party modules
import pandas as pd
import matplotlib.pyplot as plt


def visualize(df, column_name='start_date', color='#494949', title=''):
    """
    Visualize a dataframe with a date column.

    Parameters
    ----------
    df : Pandas dataframe
    column_name : str
        Column to visualize
    color : str
    title : str
    """
    plt.figure(figsize=(20, 10))
    ax = (df[column_name].groupby(df[column_name].dt.hour)
                         .count()).plot(kind="bar", color=color)
    ax.set_facecolor('#eeeeee')
    ax.set_xlabel("hour of the day")
    ax.set_ylabel("count")
    ax.set_title(title)
    plt.show()


def create_random_datetime(from_date, to_date, rand_type='uniform'):
    """
    Create random date within timeframe.

    Parameters
    ----------
    from_date : datetime object
    to_date : datetime object
    rand_type : {'uniform'}

    Examples
    --------
    >>> random.seed(28041990)
    >>> create_random_datetime(datetime(1990, 4, 28), datetime(2000, 12, 31))
    datetime.datetime(1998, 12, 13, 23, 38, 0, 121628)
    >>> create_random_datetime(datetime(1990, 4, 28), datetime(2000, 12, 31))
    datetime.datetime(2000, 3, 19, 19, 24, 31, 193940)
    """
    delta = to_date - from_date
    if rand_type == 'uniform':
        rand = random.random()
    else:
        raise NotImplementedError('Unknown random mode \'{}\''
                                  .format(rand_type))
    return from_date + rand * delta


def create_df(n=1000):
    """Create a Pandas dataframe with datetime objects."""
    from_date = datetime(1990, 4, 28)
    to_date = datetime(2000, 12, 31)
    sales = [create_random_datetime(from_date, to_date) for _ in range(n)]
    df = pd.DataFrame({'start_date': sales})
    return df


if __name__ == '__main__':
    import doctest
    doctest.testmod()
    df = create_df()
    visualize(df)
Martin Thoma
fonte
5

Consegui contornar isso (1) plotando com matplotlib em vez de usar o dataframe diretamente e (2) usando o valuesatributo. Consultar exemplo:

import matplotlib.pyplot as plt

ax = plt.gca()
ax.hist(column.values)

Isso não funciona se eu não usar values, mas não sei por que funciona.

abeboparebop
fonte
3

Aqui está uma solução para quando você deseja apenas ter um histograma como o esperado. Isso não usa groupby, mas converte os valores de data e hora em inteiros e altera os rótulos no gráfico. Alguma melhoria pode ser feita para mover os rótulos de escala para locais regulares. Além disso, com a abordagem, um gráfico de estimativa de densidade de kernel (e qualquer outro gráfico) também é possível.

import pandas as pd
import numpy as np
import matplotlib.pyplot as plt

df = pd.DataFrame({"datetime": pd.to_datetime(np.random.randint(1582800000000000000, 1583500000000000000, 100, dtype=np.int64))})
fig, ax = plt.subplots()
df["datetime"].astype(np.int64).plot.hist(ax=ax)
labels = ax.get_xticks().tolist()
labels = pd.to_datetime(labels)
ax.set_xticklabels(labels, rotation=90)
plt.show()

Histograma de data e hora

JulianWgs
fonte
1

Acho que, para resolver esse problema, você pode usar este código, ele converte o tipo de data em tipos int:

df['date'] = df['date'].astype(int)
df['date'] = pd.to_datetime(df['date'], unit='s')

apenas para obter a data, você pode adicionar este código:

pd.DatetimeIndex(df.date).normalize()
df['date'] = pd.DatetimeIndex(df.date).normalize()

fonte
1
isso não responde à questão de como plotar um histograma datetime ordenado?
lollercoaster
Acho que seu problema no datetime type, você tem que normalizar antes de plotar
Você também pode ver este link
1

Eu também estava tendo problemas com isso. Imagino que, como você está trabalhando com datas, deseja preservar a ordem cronológica (como eu fiz).

A solução alternativa é

import matplotlib.pyplot as plt    
counts = df['date'].value_counts(sort=False)
plt.bar(counts.index,counts)
plt.show()

Por favor, se alguém souber de uma maneira melhor, fale.

EDITAR: para jean acima, aqui está uma amostra dos dados [eu fiz uma amostra aleatória do conjunto de dados completo, daí os dados triviais do histograma.]

print dates
type(dates),type(dates[0])
dates.hist()
plt.show()

Resultado:

0    2001-07-10
1    2002-05-31
2    2003-08-29
3    2006-06-21
4    2002-03-27
5    2003-07-14
6    2004-06-15
7    2002-01-17
Name: Date, dtype: object
<class 'pandas.core.series.Series'> <type 'datetime.date'>

---------------------------------------------------------------------------
TypeError                                 Traceback (most recent call last)
<ipython-input-38-f39e334eece0> in <module>()
      2 print dates
      3 print type(dates),type(dates[0])
----> 4 dates.hist()
      5 plt.show()

/anaconda/lib/python2.7/site-packages/pandas/tools/plotting.pyc in hist_series(self, by, ax, grid, xlabelsize, xrot, ylabelsize, yrot, figsize, bins, **kwds)
   2570         values = self.dropna().values
   2571 
-> 2572         ax.hist(values, bins=bins, **kwds)
   2573         ax.grid(grid)
   2574         axes = np.array([ax])

/anaconda/lib/python2.7/site-packages/matplotlib/axes/_axes.pyc in hist(self, x, bins, range, normed, weights, cumulative, bottom, histtype, align, orientation, rwidth, log, color, label, stacked, **kwargs)
   5620             for xi in x:
   5621                 if len(xi) > 0:
-> 5622                     xmin = min(xmin, xi.min())
   5623                     xmax = max(xmax, xi.max())
   5624             bin_range = (xmin, xmax)

TypeError: can't compare datetime.date to float
Engenharia E
fonte
1

Todas essas respostas parecem excessivamente complexas, pelo menos com pandas 'modernos' são duas linhas.

df.set_index('date', inplace=True)
df.resample('M').size().plot.bar()
Briford Wylie
fonte
1
Isso parece funcionar apenas se você tiver um DataFrame, mas não se tudo o que você tiver for um Series. Você consideraria adicionar uma nota sobre esse caso?
David Z