daniel-scalioni's picture
Upload 45 files
d9df86d verified

README

Dataset Card para Multiconer(ES).

Dados Gerais

Resumo

Udo pretendido é para NER. O dataset é multilingual. Adotou-se para a descrição o idioma espanhol.

Utilização Pretendida

Token-classification.

Idiomas

Bengali, Chinês, Alemão, Inglês, Espanhol, Persa, Francês, Hindi, Italiano, Português, Sueco, Ucraniano.

Criação

URL dataset original: https://huggingface.co/datasets/MultiCoNER/multiconer_v2

Estrutura

Amostras

Um exemplo de amostra do dataset:

{
    "id": "0",
    "sample_id": "0217d78c-2e27-4899-8263-e1dd427bd98f",
    "tokens": "[ "el", "22", "de", "agosto", "de", "2018", "se", "anunció", "que", "john", "lithgow",...",
    "ner_tags": "[ "O", "O", "O", "O", "O", "O", "O", "O", "O", "B-Artist", "I-Artist", "O", "O", "O",...]",
    "ner_tags_index": "[ 0, 0, 0, 0, 0, 0, 0, 0, 0, 41, 42, 0, 0, 0, 0, 0, 0, 0, 45, 46, 0 ]"
}

Campos dos Dados

  • [id]: [Corresponde ao índice do registro]
  • [sample_id]: [Corresponde ao índice da amostra]
  • [tokens]: [Corresponde ao texto de entrada tokenizado]
  • [ner_tags]: [Corresponde às tags dos tipos de entidade]
  • [ner_tags_index]: [Corresponde aos índices dos tipos de entidades]

Divisão dos Dados

Dados divididos em treino, validação e teste. O de teste apresenta 247 mil registros.