unisistem/tupi-guarani-dictionary-dataset

Tupi-Guarani Dictionary Dataset

Dataset de Perguntas e Respostas sobre o Dicionário Tupi-Guarani da FUNAI.

📚 Descrição

Este dataset foi criado para treinar modelos de linguagem a responder perguntas sobre palavras e significados do dicionário Tupi-Guarani, contribuindo para a preservação e divulgação desta importante língua indígena brasileira.

📊 Estatísticas

Métrica	Valor
Entradas do Dicionário	270 palavras
Pares de Q&A	1.100
Caracteres Extraídos	22.264
Formato	JSON

📁 Arquivos

tupi_dataset.json

Formato Alpaca (instruction-response):

{
  "instruction": "O que significa 'Abá' em Tupi-Guarani?",
  "input": "",
  "output": "Em Tupi-Guarani, 'Abá' significa: homem - gente - pessoa - ser humano - índio."
}

tupi_dataset_conversation.json

Formato de conversação (chat):

{
  "messages": [
    {"role": "user", "content": "O que significa 'Abá' em Tupi-Guarani?"},
    {"role": "assistant", "content": "Em Tupi-Guarani, 'Abá' significa: homem - gente - pessoa - ser humano - índio."}
  ]
}

🎯 Exemplos de Uso

Carregar o Dataset

from datasets import load_dataset

# Formato Alpaca
dataset = load_dataset("unisistem/tupi-guarani-dictionary-dataset", data_files="tupi_dataset.json")

# Formato Conversação
dataset = load_dataset("unisistem/tupi-guarani-dictionary-dataset", data_files="tupi_dataset_conversation.json")

Exemplos de Perguntas no Dataset

Pergunta	Resposta
O que significa 'Abá' em Tupi-Guarani?	homem - gente - pessoa - ser humano - índio
Qual é o significado de 'Abaru'?	amigo de roupa preta - padre de batina preta
O que é 'Açaí'?	fruta que chora - fruta de onde sai líquido
Me explique o significado de 'Abaetê'	pessoa boa - pessoa de palavra - pessoa honrada

🔧 Como o Dataset foi Criado

1. Extração: Texto extraído do PDF "Dicionário de Tupi-Guarani" da FUNAI usando pypdf
2. Processamento: 270 entradas de dicionário foram identificadas e limpas
3. Geração de Q&A: Cada entrada gerou 4 variações de perguntas:
   • "O que significa '{word}' em Tupi-Guarani?"
   • "Qual é o significado de '{word}'?"
   • "Me explique o significado de '{word}'."
   • "Como se traduz '{word}'?"
4. Validação: Revisão manual das entradas

📝 Estrutura das Entradas

Cada entrada do dicionário contém:

• Palavra: Termo em Tupi-Guarani
• Definição: Significado em português com variações e termos relacionados

Exemplo:

Abá: avá - auá - ava - aba - homem - gente - pessoa - ser humano - índio

🎓 Uso Recomendado

• Fine-tuning de modelos de linguagem para Q&A sobre Tupi-Guarani
• Treinamento de assistentes especializados em línguas indígenas
• Pesquisa em processamento de linguagem natural para línguas nativas brasileiras

⚠️ Limitações

• Dataset limitado a 270 palavras do dicionário
• Focado apenas em português ↔ Tupi-Guarani
• Pode conter erros de extração do PDF original

🙏 Agradecimentos

• FUNAI - Fundação Nacional dos Povos Indígenas pelo dicionário original
• Hugging Face - pela plataforma de hospedagem

📄 Licença

Apache License 2.0

🔗 Links Relacionados

• Modelo Fine-Tuned
• Dicionário Original (PDF)