OOD / CrossNER_AI /README.md
daniel-scalioni's picture
Upload 29 files
2491c38 verified

README

Dataset Card para CrossNER(AI)-OOD Datasets.

Dados Gerais

Resumo

O grupo de Datasets OOD (Out-of-Domain) é composto por 7 datasets: CrossNER(AI,Literature,Music,Politics,Science) e MIT (Movie,Restaurant). A estrutura deles é semelhante, portanto foi adotado o AI para descrição sobre dataset deste grupo. O uso principal é NER. O idioma é inglês. O domínio é IA.

Utilização Pretendida

NER.

Idiomas

Inglês.

Criação

URL:https://huggingface.co/datasets/DFKI-SLT/cross_ner

Uso da datasets.load_dataset para carregamento dos dados.

Estrutura

Amostras

Um exemplo de amostra do dataset:

{
  "id": "5",
  "tokens": [ "A", "frame", "language", "is", "a", "technology", "used", "for", "knowledge", "representation", "in", "artificial", "intelligence", "." ],
  "ner_tags": [ 0, 0, 0, 0, 0, 0, 0, 0, 71, 72, 0, 31, 32, 0 ]
}

Campos dos Dados

Deste dataset, são utilizados os campos:

  • [id]: [Índice da entrada]
  • [tokens]: [Corresponde ao texto de entrada tokenizado]
  • [ner_tags]: [Corresponde aos tipos de entidades]

Divisão dos Dados

Os dados são divididos em treinamento, validação e teste. Foi utilizada a partição de teste, que apresenta 431 instâncias.