Update README.md

README.md

@@ -3,6 +3,12 @@ license: cdla-permissive-2.0
 language:
   - en
   - pt
+  - es
+  - fr
+  - de
+  - ja
+  - ar
+  - multilingual
 size_categories:
   - 100M<n<1B
 task_categories:
@@ -28,6 +34,12 @@ Dataset estruturado a partir dos dumps públicos do sistema [Community Notes](ht
 
 O Community Notes é um sistema de moderação colaborativa onde usuários voluntários escrevem notas contextuais sobre publicações potencialmente enganosas e avaliam as notas de outros participantes. Um algoritmo de consenso determina quais notas são exibidas publicamente. Este dataset preserva a estrutura relacional completa do dump público para viabilizar pesquisas sobre a dinâmica desse consenso — em particular sobre como ele opera (ou falha em operar) diante de eventos politicamente sensíveis no contexto brasileiro.
 
+## Importante: dataset multilíngue sem coluna de idioma
+
+O dump público do Community Notes é **global** e contém notas em dezenas de idiomas (majoritariamente inglês). **Não há coluna de idioma** nos dados originais. Pesquisadores interessados em um idioma específico precisarão aplicar detecção de idioma localmente como etapa de pré-processamento.
+
+Uma abordagem recomendada é usar o modelo [fastText lid.176.bin](https://fasttext.cc/docs/en/language-identification.html) da Meta sobre o campo `summary`, que permite classificar milhões de notas em minutos com boa acurácia.
+
 ## Estrutura do dataset
 
 ```
@@ -108,13 +120,27 @@ notas = con.execute("""
     FROM 'hf://datasets/histlearn/community-notes-br/data/snapshot_date=2026-04-07/silver_notes/**/*.parquet'
     LIMIT 100
 """).fetchdf()
+```
 
-# Filtro por idioma (se coluna disponível)
-notas_pt = con.execute("""
-    SELECT *
-    FROM 'hf://datasets/histlearn/community-notes-br/data/snapshot_date=2026-04-07/silver_notes/**/*.parquet'
-    WHERE idioma = 'pt' AND confianca_idioma >= 0.5
-""").fetchdf()
+## Filtragem por idioma (etapa local)
+
+O dataset não inclui classificação de idioma. Para filtrar notas em português, recomendamos:
+
+```python
+import fasttext
+import re
+
+# Baixar o modelo: https://dl.fbaipublicfiles.com/fasttext/supervised-models/lid.176.bin
+model = fasttext.load_model("lid.176.bin")
+
+def detectar_idioma(texto):
+    if not texto:
+        return "desconhecido", 0.0
+    texto = re.sub(r"http\S+", "", texto).replace("\n", " ").strip()
+    pred = model.predict(texto)
+    return pred[0][0].replace("__label__", ""), round(float(pred[1][0]), 4)
+
+# Aplicar sobre a coluna 'summary' das notas
 ```
 
 ## Proveniência
@@ -138,4 +164,4 @@ notas_pt = con.execute("""
 
 ## Contexto de pesquisa
 
-Este dataset foi construído como parte de um projeto de pesquisa em humanidades digitais na UFSCar / NILC que investiga como o algoritmo de consenso do Community Notes opera diante de eventos politicamente sensíveis no Brasil — em particular, se casos de grande repercussão e alta ambiguidade geram sistematicamente menos consenso algorítmico do que desinformação mais "simples" (vídeos falsos, manipulação de mídia, etc.).
+Este dataset foi construído como parte de um projeto de pesquisa em humanidades digitais na UFSCar / NILC que investiga como o algoritmo de consenso do Community Notes opera diante de eventos politicamente sensíveis no Brasil — em particular, se casos de grande repercussão e alta ambiguidade geram sistematicamente menos consenso algorítmico do que desinformação mais "simples" (vídeos falsos, manipulação de mídia, etc.).