Tenho um arquivo csv que não está chegando corretamente pandas.read_csv
quando filtro as colunas usecols
e uso vários índices.
import pandas as pd
csv = r"""dummy,date,loc,x
bar,20090101,a,1
bar,20090102,a,3
bar,20090103,a,5
bar,20090101,b,1
bar,20090102,b,3
bar,20090103,b,5"""
f = open('foo.csv', 'w')
f.write(csv)
f.close()
df1 = pd.read_csv('foo.csv',
header=0,
names=["dummy", "date", "loc", "x"],
index_col=["date", "loc"],
usecols=["dummy", "date", "loc", "x"],
parse_dates=["date"])
print df1
# Ignore the dummy columns
df2 = pd.read_csv('foo.csv',
index_col=["date", "loc"],
usecols=["date", "loc", "x"], # <----------- Changed
parse_dates=["date"],
header=0,
names=["dummy", "date", "loc", "x"])
print df2
Espero que df1 e df2 sejam iguais, exceto pela coluna fictícia ausente, mas as colunas vêm com rótulos incorretos. Além disso, a data está sendo analisada como uma data.
In [118]: %run test.py
dummy x
date loc
2009-01-01 a bar 1
2009-01-02 a bar 3
2009-01-03 a bar 5
2009-01-01 b bar 1
2009-01-02 b bar 3
2009-01-03 b bar 5
date
date loc
a 1 20090101
3 20090102
5 20090103
b 1 20090101
3 20090102
5 20090103
Usar números de coluna em vez de nomes me dá o mesmo problema. Posso contornar o problema eliminando a coluna fictícia após a etapa read_csv, mas estou tentando entender o que está errado. Estou usando o pandas 0.10.1.
editar: corrigido o uso incorreto do cabeçalho.
python
pandas
csv
csv-import
lasca
fonte
fonte
header
enames
não está correto (é por isso que a primeira linha está faltando em seu exemplo.header
Espera um int (padrão 0) como a linha com o cabeçalho. Porque você fornece "Verdadeiro", que é interpretado como 1, a segunda linha (primeira linha de dados) é usada como cabeçalho e está ausente. No entanto, os nomes das colunas estão corretos porque você os sobrescreveu com onames
argumento. Mas você pode deixá-los e a primeira linha é usada para os nomes das colunas por padrão. No entanto, isso não resolve sua pergunta inicial.usecols
bug. Possivelmente relacionado ao bug 2654 ?Respostas:
A resposta de @chip ignora completamente o objetivo de dois argumentos de palavra-chave.
Esta solução corrige essas estranhezas:
O que nos dá:
fonte
header=0
. Você gostaria de usarheader=None
e usarnames
além disso.usecols
com índices inteiros para as colunas que se deseja manter @Mack?Este código atinge o que você deseja --- também é estranho e certamente cheio de erros:
Observei que funciona quando:
a) você especifica o
index_col
rel. para o número de colunas que você realmente usa - então são três colunas neste exemplo, não quatro (você descartadummy
e começa a contar a partir de então)b) mesmo para
parse_dates
c) não é assim
usecols
;) por razões óbviasd) aqui adaptei o
names
para espelhar este comportamentoquais impressões
fonte
names
números e com base emusecols
para que os dados viessem corretos.Se o seu arquivo csv contiver dados extras, as colunas podem ser excluídas do DataFrame após a importação.
O que nos dá:
fonte
Você tem que apenas adicionar o
index_col=False
parâmetrofonte
importe o csv primeiro e use o csv.DictReader, é fácil de processar ...
fonte