Quais são todas as tags pos possíveis do NLTK?

141

Como localizo uma lista com todas as possíveis tags pos usadas pelo Natural Language Toolkit (nltk)?

OrangeTux
fonte

Respostas:

151

O livro tem uma nota sobre como encontrar ajuda nos conjuntos de tags, por exemplo:

nltk.help.upenn_tagset()

Outros são provavelmente semelhantes. (Observação: talvez você precise primeiro fazer tagsetso download na seção Modelos do auxiliar de download para isso)

phipsgabler
fonte
3
Agora estou curioso: o que há de tão misterioso nisso? Eu realmente nunca usei o NLTK, e encontrar essa resposta me levou cinco minutos pesquisando e pesquisando ... É realmente tão oculto?
phipsgabler
5
Eu acho que não é a questão de quão oculto, isso também surgiu para mim, apenas tentando marcar uma única frase, porque estou procurando o motivo pelo qual o nltk marca meus verbos como substantivos e não sabia como diferentes conjuntos de tags pode ser usado. Isso também foi útil para isso, obrigado!
Phonebox
2
@phipsgabler se os outros são como eu, eu tinha expectativas erradas. Eu esperava uma tabela de pesquisa / lista / mapa, mapeando as siglas de posição como RBpara o seu significado adverb. ( Aqui está um exemplo ; ou veja a resposta da @ Suzana, que vincula o conjunto de etiquetas do Penn Treebank ). Mas você está certo, o builtin nltk.help.upenn_tagset('RB')é útil e mencionado no início do nltklivro ,
The Red Pea
137

Para economizar tempo com algumas pessoas, aqui está uma lista que extraí de um pequeno corpus. Não sei se está completo, mas deve ter a maioria (se não todas) das definições de ajuda de upenn_tagset ...

CC : conjunção, coordenação

& 'n and both but either et for less minus neither nor or plus so
therefore times v. versus vs. whether yet

CD : numeral, cardeal

mid-1890 nine-thirty forty-two one-tenth ten million 0.5 one forty-
seven 1987 twenty '79 zero two 78-degrees eighty-four IX '60s .025
fifteen 271,124 dozen quintillion DM2,000 ...

DT : determinante

all an another any both del each either every half la many much nary
neither no some such that the them these this those

EX : existencial lá

there

IN : preposição ou conjunção, subordinação

astride among uppon whether out inside pro despite on by throughout
below within for towards near behind atop around if like until below
next into if beside ...

JJ : adjetivo ou numeral, ordinal

third ill-mannered pre-war regrettable oiled calamitous first separable
ectoplasmic battery-powered participatory fourth still-to-be-named
multilingual multi-disciplinary ...

JJR : adjetivo, comparativo

bleaker braver breezier briefer brighter brisker broader bumper busier
calmer cheaper choosier cleaner clearer closer colder commoner costlier
cozier creamier crunchier cuter ...

JJS : adjetivo, superlativo

calmest cheapest choicest classiest cleanest clearest closest commonest
corniest costliest crassest creepiest crudest cutest darkest deadliest
dearest deepest densest dinkiest ...

LS : marcador de item de lista

A A. B B. C C. D E F First G H I J K One SP-44001 SP-44002 SP-44005
SP-44007 Second Third Three Two * a b c d first five four one six three
two

MD : auxiliar modal

can cannot could couldn't dare may might must need ought shall should
shouldn't will would

NN : substantivo, comum, singular ou massa

common-carrier cabbage knuckle-duster Casino afghan shed thermostat
investment slide humour falloff slick wind hyena override subhumanity
machinist ...

PNN : substantivo, próprio, singular

Motown Venneboerger Czestochwa Ranzer Conchita Trumplane Christos
Oceanside Escobar Kreisler Sawyer Cougar Yvette Ervin ODI Darryl CTCA
Shannon A.K.C. Meltex Liverpool ...

NNS : substantivo, comum, plural

undergraduates scotches bric-a-brac products bodyguards facets coasts
divestitures storehouses designs clubs fragrances averages
subjectivists apprehensions muses factory-jobs ...

PDT : pré-determinante

all both half many quite such sure this

POS : marcador genitivo

' 's

PRP : pronome pessoal

hers herself him himself hisself it itself me myself one oneself ours
ourselves ownself self she thee theirs them themselves they thou thy us

PRP $: pronome, possessivo

her his mine my our ours their thy your

RB : advérbio

occasionally unabatingly maddeningly adventurously professedly
stirringly prominently technologically magisterially predominately
swiftly fiscally pitilessly ...

RBR : advérbio, comparativo

further gloomier grander graver greater grimmer harder harsher
healthier heavier higher however larger later leaner lengthier less-
perfectly lesser lonelier longer louder lower more ...

RBS : advérbio, superlativo

best biggest bluntest earliest farthest first furthest hardest
heartiest highest largest least less most nearest second tightest worst

RP : partícula

aboard about across along apart around aside at away back before behind
by crop down ever fast for forth from go high i.e. in into just later
low more off on open out over per pie raising start teeth that through
under unto up up-pp upon whole with you

TO : "to" como preposição ou marcador infinitivo

to

UH : interjeição

Goodbye Goody Gosh Wow Jeepers Jee-sus Hubba Hey Kee-reist Oops amen
huh howdy uh dammit whammo shucks heck anyways whodunnit honey golly
man baby diddle hush sonuvabitch ...

VB : verbo, forma base

ask assemble assess assign assume atone attention avoid bake balkanize
bank begin behold believe bend benefit bevel beware bless boil bomb
boost brace break bring broil brush build ...

VBD : verbo, pretérito

dipped pleaded swiped regummed soaked tidied convened halted registered
cushioned exacted snubbed strode aimed adopted belied figgered
speculated wore appreciated contemplated ...

VBG : verbo, particípio presente ou gerúndio

telegraphing stirring focusing angering judging stalling lactating
hankerin' alleging veering capping approaching traveling besieging
encrypting interrupting erasing wincing ...

VBN : verbo, particípio passado

multihulled dilapidated aerosolized chaired languished panelized used
experimented flourished imitated reunifed factored condensed sheared
unsettled primed dubbed desired ...

VBP : verbo, tempo presente, não terceira pessoa do singular

predominate wrap resort sue twist spill cure lengthen brush terminate
appear tend stray glisten obtain comprise detest tease attract
emphasize mold postpone sever return wag ...

VBZ : verbo, tempo presente, terceira pessoa do singular

bases reconstructs marks mixes displeases seals carps weaves snatches
slumps stretches authorizes smolders pictures emerges stockpiles
seduces fizzes uses bolsters slaps speaks pleads ...

WDT : determinante WH

that what whatever which whichever

WP : pronome WH

that what whatever whatsoever which who whom whosoever

WRB : advérbio de Wh

how however whence whenever where whereby whereever wherein whereof why
binarymax
fonte
2
@PALEN o que está faltando?
Binarymax #
2
Faltando: $, '', (, ), ,, --, ., :, FW, NNPS, SYM, WP$, [dois acentos graves]. Veja nltk.help.upenn_tagset().
6
Obrigado! Essa resposta deveria ter sido escolhida, pois é muito mais abrangente do que apenas responder com, digitando
Slartibartfast
63

O conjunto de tags depende do corpus usado para treinar o etiquetador. O etiquetador padrão nltk.pos_tag()usa o Penn Treebank Tag Set .

No NLTK 2, você pode verificar qual marcador é o marcador padrão da seguinte maneira:

import nltk
nltk.tag._POS_TAGGER
>>> 'taggers/maxent_treebank_pos_tagger/english.pickle'

Isso significa que é um etiquetador Maximum Entropy treinado no corpus do Treebank.

nltk.tag._POS_TAGGERnão existe mais no NLTK 3, mas a documentação afirma que o etiquetador de prateleira ainda usa o conjunto de etiquetas Penn Treebank.

Suzana
fonte
6
Obrigado, esta é uma resposta muito mais útil que a aceita.
Dale
3
Esta é uma resposta incompleta. Em primeiro lugar, nltk.tag._POS_TAGGERnão é executado e nenhuma instrução específica é fornecida sobre o que importar. Além disso, descobrir o tagger a ser utilizado é metade da resposta, a questão está pedindo para obter uma lista de todas as tags possíveis dentro do tagger
Hamman Samuel
3
É o corpus e não o etiquetador que determina o conjunto de tags. Assim que você souber o nome do corpus, o conjunto completo de tags estará apenas a uma pesquisa do Google.
Suzana
34

O abaixo pode ser útil para acessar um ditado digitado por abreviações:

>>> from nltk.data import load
>>> tagdict = load('help/tagsets/upenn_tagset.pickle')
>>> tagdict['NN'][0]
'noun, common, singular or mass'
>>> tagdict.keys()
['PRP$', 'VBG', 'VBD', '``', 'VBN', ',', "''", 'VBP', 'WDT', ...
Doug Shore
fonte
2
Eu prefiro esta abordagem do que a solução aceita, porque é mais simples e enumera os possíveis valores claramente
Hamman Samuel
1
Como temos certeza de que este é o conjunto de tags usado pelo tagger empregado? O Afaik nltk pode usar vários marcadores.
Nikola Reklawyks
Concordo com Hamman, desta maneira tem o bônus adicional de permitir que você
pesquise
28

A referência está disponível no site oficial

Copie e cole a partir daí:

  • CC Coordenação conjunta |
  • CD Número cardinal
  • DT Determinante
  • EX Existencial |
  • FW Palavra estrangeira |
  • IN Preposição ou conjunção subordinada |
  • JJ Adjetivo |
  • JJR Adjetivo, comparativo |
  • JJS Adjetivo, superlativo |
  • LS Marcador de item da lista |
  • MD Modal
  • NN Substantivo ou singular |
  • NNS Substantivo, plural |
  • PNN Nome próprio, singular |
  • NNPS Substantivo próprio, plural |
  • PDT Predeterminador
  • POS Final possessivo |
  • PRP Pronome pessoal |
  • PRP $ | Pronome possessivo |
  • RB Advérbio
  • RBR Advérbio, comparativo |
  • RBS Advérbio, superlativo |
  • RP Partícula |
  • SYM Símbolo
  • Para | para |
  • UH Interjeição
  • VB Verbo, forma base |
  • VBD Verbo no passado |
  • VBG Verbo, gerúndio ou particípio presente |
  • VBN Verbo, particípio passado |
  • VBP Presente verbal do singular não-terceira pessoa |
  • VBZ Verbo, terceira pessoa do singular do presente |
  • WDT Determinante de Wh |
  • WP Pronome wh |
  • WP $ | Wh-pronome possessivo |
  • WRB Advérbio |
mdubez
fonte
1

Você pode fazer o download da lista aqui: ftp://ftp.cis.upenn.edu/pub/treebank/doc/tagguide.ps.gz . Inclui partes confusas do discurso, letras maiúsculas e outras convenções. Além disso, a wikipedia possui uma seção interessante semelhante a esta. Seção: Tags de parte do discurso usadas.

phanindravarma
fonte
1
['LS', 'TO', 'VBN', "''", 'WP', 'UH', 'VBG', 'JJ', 'VBZ', '--', 'VBP', 'NN', 'DT', 'PRP', ':', 'WP$', 'NNPS', 'PRP$', 'WDT', '(', ')', '.', ',', '``', '$', 'RB', 'RBR', 'RBS', 'VBD', 'IN', 'FW', 'RP', 'JJR', 'JJS', 'PDT', 'MD', 'VB', 'WRB', 'NNP', 'EX', 'NNS', 'SYM', 'CC', 'CD', 'POS']

Baseado no método de Doug Shore, mas torna mais fácil copiar e colar

little_thumb
fonte
Eu aceito isso como uma contribuição de conveniência. Eu considerei melhorar a formatação, mas isso pode ser contrário ao objetivo deste post. Por favor, considere editar e usar a formatação de código em combinação com as novas linhas para obter ambas, boa formatação e facilidade de copiar e colar. stackoverflow.com/editing-help
Yunnosch em 20/02
Pensei em fazer isso, mas acho que seria menos conveniente.
Fluffy Ribbit
0

Basta executar este texto literalmente.

import nltk
nltk.download('tagsets')
nltk.help.upenn_tagset()

nltk.tag._POS_TAGGERnão vai funcionar. Isso dará ao AttributeError: o módulo 'nltk.tag' não tem atributo '_POS_TAGGER' . Ele não está mais disponível no NLTK 3.

Sumit Pokhrel
fonte