paper_skeleton.md

# Community Notes BR: um conjunto de dados enriquecido em português para pesquisa em moderação colaborativa e desinformação

**Davi Machado da Rocha**
Universidade de São Paulo (USP) — São Paulo, SP, Brasil
`davimrocha@usp.br`

---

## Abstract (English — mandatory)

> *We present **Community Notes BR**, a curated and enriched Portuguese subset of X's crowdsourced fact-checking notes, covering 142,448 notes between October 2021 and April 2026. The dataset is built from the official Birdwatch public dump (snapshot 2026-04-07) through a five-stage pipeline: deterministic ETL with referential-integrity checks; language filtering via fastText (precision-oriented threshold of 0.80); fine-grained topic modeling combining E5-large multilingual embeddings, BERTopic, and a local LLM with grammar-constrained JSON output (GBNF) to produce 899 topics labeled with controlled categories; hierarchical macroaggregation into 38 macrothemes; named entity recognition with GLiNER under a custom 16-type Portuguese taxonomy plus six regex extractors and three canonicalization dictionaries, totaling 536,373 entities; and reproduction of the official Matrix Factorization scoring (`coreNoteIntercept`, `coreNoteFactor1`) over the Portuguese subset. We present a quality assessment based on cross-modal consistency between macrothemes and entity-type signatures rather than exhaustive human validation. The dataset is released on Hugging Face under CC0, with two parquet files (`notes_pt.parquet`, `entities.parquet`), supporting metadata, and a taxonomy specification. Use cases include benchmarking Portuguese NER over politically salient categories, classifying note helpfulness, polarization analysis along the MF factor, and longitudinal studies of Brazilian online discourse over two electoral cycles.*

## Resumo

> *Apresentamos o **Community Notes BR**, um subconjunto curado e enriquecido em português das notas de verificação colaborativa da X, com 142.448 notas entre outubro de 2021 e abril de 2026. A base é construída a partir do dump público oficial do Birdwatch (snapshot 2026-04-07) por meio de um pipeline de cinco etapas: ETL determinístico com checagens de integridade referencial; filtragem por idioma via fastText (limiar de confiança 0,80, orientado à precisão); modelagem fina de tópicos combinando embeddings E5-large multilingual, BERTopic e LLM local com saída JSON restrita por gramática formal (GBNF), produzindo 899 tópicos rotulados com categorias controladas; macroagregação hierárquica em 38 macrotemas; reconhecimento de entidades nomeadas com GLiNER sob taxonomia portuguesa de 16 tipos, mais seis extratores regex e três dicionários de canonicalização, totalizando 536.373 entidades; e reprodução do algoritmo oficial de pontuação por fatoração matricial (`coreNoteIntercept`, `coreNoteFactor1`) sobre o subconjunto. A avaliação de qualidade baseia-se em consistência cross-modal entre macrotemas e assinaturas de tipos de entidade, em vez de validação humana exaustiva. O dataset é distribuído no Hugging Face sob CC0, com dois arquivos parquet (`notes_pt.parquet`, `entities.parquet`), metadados de apoio e uma especificação de taxonomia. Os casos de uso incluem benchmarks de NER em PT-BR para categorias politicamente salientes, classificação de utilidade de notas, análise de polarização ao longo do fator de fatoração matricial e estudos longitudinais do discurso digital brasileiro ao longo de dois ciclos eleitorais.*

---

## 1. Introdução *(~1 página)*

### Parágrafos sugeridos

**§1 — Contexto.** As Community Notes (originalmente *Birdwatch*) são o principal mecanismo de moderação colaborativa em operação na X (antiga Twitter), no qual usuários voluntários propõem notas contextuais a tweets potencialmente enganosos, e a publicação dessas notas depende de consenso interpartidário medido por um algoritmo de fatoração matricial publicado abertamente. O dump das notas, ratings e histórico de status é disponibilizado publicamente sob CC0, atualizado em intervalos curtos e cobre todas as línguas suportadas pela plataforma. **[citar Wojcik et al. 2022; Allen, Martel & Rand 2022; Pröllochs 2022]**

**§2 — Lacuna PT-BR.** Apesar do volume crescente de notas em português brasileiro — incluindo episódios de alto interesse público (eleições 2022, ataque às sedes dos Três Poderes em janeiro de 2023, enchentes no Rio Grande do Sul em 2024, escândalos esportivos, debate sobre apostas online, polêmicas envolvendo Elon Musk e o STF) —, não há até onde sabemos um conjunto de dados público que reúna o recorte PT-BR com enriquecimento multinível pronto para pesquisa em PLN, redes de citação ou análise política. Bases existentes em PT-BR para desinformação são tipicamente coletadas de agências de checagem **[citar FakeRecogna; Fakecorpus; outros]** e capturam um regime distinto: verificações editoriais, não notas crowdsourced.

**§3 — Contribuição.** Este artigo apresenta o **Community Notes BR**, dataset que (i) recorta o snapshot público de 2026-04-07 ao subconjunto em português com filtragem de alta precisão, (ii) reproduz o algoritmo oficial de pontuação para esse subconjunto, (iii) atribui rótulos temáticos hierárquicos (899 tópicos finos → 38 macrotemas) por meio de pipeline que combina embeddings instruct, BERTopic e rotulagem por LLM com gramática formal GBNF, (iv) extrai 536 mil entidades nomeadas com taxonomia adaptada ao contexto político-institucional brasileiro, e (v) é avaliado por consistência cross-modal entre macrotemas e tipos de entidade — método que torna a qualidade verificável sem rotulador humano exaustivo.

**§4 — Estrutura do artigo.** A Seção 2 contextualiza trabalhos relacionados; a Seção 3 descreve a coleta e a curadoria base; a Seção 4 detalha o enriquecimento; a Seção 5 caracteriza quantitativamente o dataset; a Seção 6 apresenta a avaliação de qualidade; a Seção 7 discute casos de uso; a Seção 8 sumariza limitações; e a Seção 9 trata da disponibilidade.

### Diretrizes
- Manter no máximo 4 parágrafos.
- O parágrafo §3 vende as 5 contribuições — não enxugar demais.
- Citações: priorizar artigos do próprio Twitter/X sobre o algoritmo, e o estudo de Pröllochs por ser o paper de referência para uso da base.

---

## 2. Trabalhos relacionados *(~0,8 página)*

### Subseções sugeridas

**2.1. Datasets de Community Notes / Birdwatch.** Pröllochs (2022) realiza a primeira análise empírica em larga escala da base, focando em propriedades dos avaliadores e dinâmica de consenso. Wojcik et al. (2022) descrevem o algoritmo de fatoração matricial e sua avaliação experimental. Posteriormente, Allen, Martel e Rand (2022) examinam a precisão das notas frente a consenso de especialistas. Esses trabalhos tratam a base global em inglês como dado primário; nenhum produz um recorte em PT com enriquecimento independente.

**2.2. Datasets de desinformação e checagem em PT-BR.** *Listar 2-3 bases:* FakeRecogna **[citar]**, Fake.Br Corpus **[citar]**, ou bases construídas a partir de Aos Fatos / Boatos.org. Diferenciar o regime: agências de checagem produzem rótulos editoriais em volume baixo, frequentemente sobre tópicos com viés de seleção; Community Notes opera em escala, com sinal contínuo de consenso, e cobre tópicos não capturados por agências.

**2.3. Recursos de NER em PT-BR.** HAREM (Santos & Cardoso 2007) e LeNER-Br (Luz de Araújo et al. 2018) são as referências em PT, com taxonomias clássicas (pessoa, organização, local, tempo) e foco jurídico, respectivamente. Nossa taxonomia se afasta desses trabalhos ao incluir categorias politicamente salientes (`ATOR_POLITICO`, `PARTIDO`, `ORGAO_JUDICIARIO`, `PROGRAMA_PUBLICO`).

**2.4. Modelagem de tópicos e LLM como anotador.** BERTopic (Grootendorst 2022) é a base do nosso pipeline de tópicos. Trabalhos recentes que usam LLMs para rotular tópicos automaticamente **[citar 1-2]** tipicamente produzem texto livre. Nosso uso de gramática GBNF (Backus-Naur form para llama.cpp) garante saída JSON válida e categorização restrita.

### Diretrizes
- Esta seção é estritamente justificativa — para cada referência, dizer *o que ela faz que nós não fazemos / o que ela não faz que nós fazemos*.

---

## 3. Coleta e curadoria base *(~1,5 página)*

### Subseções sugeridas

**3.1. Fonte.** O snapshot público oficial do Birdwatch é hospedado em `ton.twimg.com/birdwatch-public-data`, organizado por data e dividido em cinco datasets lógicos (`notes`, `noteRatings`, `noteStatusHistory`, `userEnrollment`, `batSignals`). Cada dataset é fragmentado em shards TSV `.zip` de tamanho variável conforme volume. Adotamos o snapshot de 2026-04-07 como ponto de corte, justificando a escolha pela proximidade com o início do período eleitoral municipal de 2026 e pela cobertura de cinco ciclos relevantes.

**3.2. ETL bronze/silver/gold.** Implementamos pipeline em DuckDB com três camadas. *Bronze* preserva todos os shards em `VARCHAR`, calcula hashes MD5/SHA-256 por arquivo e gera manifesto auditável. *Silver* aplica conversões tipadas (`BIGINT`, `TIMESTAMP`), padroniza nomes em snake_case e remove colunas 100% nulas. *Gold* exporta Parquet ZSTD particionado, com sharding automático para tabelas acima de 5M linhas.

**3.3. Detecção de drift de esquema e órfãos.** Diferentes shards de um mesmo dataset podem ter esquemas distintos quando o Birdwatch evolui. Computamos `header_hash` por arquivo e geramos alerta quando há mais de um cabeçalho distinto por dataset. Em paralelo, checamos integridade referencial entre `notes` ↔ `ratings` ↔ `noteStatusHistory`, removendo registros órfãos que apontam para notas ausentes do dump. Produzimos também `snapshot_diff` entre snapshots consecutivos para detectar envelhecimento (notas removidas, mudanças de status).

**3.4. Filtragem por idioma.** O `summary` de cada nota é submetido ao classificador fastText `lid.176.bin` (Joulin et al. 2017), que cobre 176 idiomas em modelo único. Usamos um limiar de confiança de 0,80 para reter o subconjunto PT, balanceando precisão e cobertura. O resultado é de 142.448 notas, com confiança média de 0,98 (mediana 0,99). Uma amostra estratificada de 300 notas (100 por faixa de confiança 0,80–0,90 / 0,90–0,95 / 0,95–1,00, *seed* 42) foi inspecionada visualmente; a verificação foi rápida e apareceu correta, mas não constitui avaliação humana rigorosa.

**3.5. Estatística lateral notável.** A taxa de consenso `CURRENTLY_RATED_HELPFUL` (CRH) é de 11,57% para notas em PT, contra 8,69% para EN no mesmo snapshot — diferencial de 2,88 pontos percentuais que merece investigação ulterior por parte da comunidade.

**3.6. Hidratação amostral de tweets.** O dump original não inclui o texto dos tweets. Para uma amostra de 4.055 notas, hidratamos os tweets via X API v2 (`GET /2/tweets`) sob estratificação em três camadas: `top_notas` (notas com mais ratings), `bat_signals` (tweets com solicitação explícita de revisão) e `aleatorio` (linha de base). O texto hidratado **não é redistribuído** neste dataset, em respeito aos termos de serviço da X; a coluna `stratum` é exposta para permitir análises sobre o desenho amostral.

### Figuras/tabelas
- **Figura 1.** Diagrama do pipeline (5 estágios em fluxo).
- **Tabela 1.** Cardinalidades em cada checkpoint (snapshot bruto → após filtro PT → final).
- **Tabela 2.** Taxa CRH por idioma (top 5).

---

## 4. Pipeline de enriquecimento *(~2,5 páginas)*

### 4.1. Embeddings semânticos com instrução *(~0,5p)*

Usamos `intfloat/multilingual-e5-large-instruct` (1024 dimensões) com a seguinte instrução em português, prefixada a cada documento:

> *"Identifique o assunto factual em disputa neste texto, ignorando aspectos procedurais sobre a plataforma ou sobre como as notas funcionam."*

Esta instrução orienta o vetor para a controvérsia factual subjacente, em vez de capturar a forma discursiva da nota. O efeito empírico é a separação cleaner entre tópicos substantivos (vacinas, eleições, futebol) e tópicos meta-procedurais (como usar notas, sátira sem alvo claro). Os embeddings são pré-computados uma única vez (~30 min em GPU T4 para 142k notas) e reutilizados em todas as etapas subsequentes.

### 4.2. Tópicos com BERTopic e calibração por DBCV *(~0,5p)*

Aplicamos BERTopic (Grootendorst 2022) com UMAP (`n_neighbors=15`, `n_components=10`, `metric=cosine`) seguido de HDBSCAN (`min_cluster_size=30`, `min_samples=5`). Os parâmetros foram selecionados via **busca em grade orientada por DBCV** (Density-Based Clustering Validation; Moulavi et al. 2014) sobre 36 combinações cruzando `n_components ∈ {5, 10, 15}`, `min_cluster_size ∈ {15, 30, 50, 80}` e `min_samples ∈ {5, 10, 15, 20}`. A configuração final equilibra DBCV alto, número de tópicos ≥ 100 e tamanho do maior cluster sob controle.

A representação de palavras-chave usa c-TF-IDF combinado com KeyBERTInspired e MaximalMarginalRelevance (diversidade 0,3) para reduzir redundância. Uma redução de outliers via similaridade de embeddings (limiar 0,975) é aplicada após o ajuste inicial. O resultado é de **899 tópicos**, com 33% das notas no cluster de outliers (`topic_id = -1`).

### 4.3. Rotulagem estruturada com gramática formal GBNF *(~0,7p — contribuição metodológica)*

Esta é a contribuição metodológica central. Em vez de pedir um rótulo curto a um LLM e tratar o texto livre resultante, definimos uma **gramática Backus-Naur estendida (GBNF)** que restringe a saída do modelo a um objeto JSON com três campos exatos:

```bnf
root     ::= "{" ws ctx-kv "," ws cat-kv "," ws rot-kv ws "}"
ctx-kv   ::= "\"contexto_central\"" ws ":" ws string
cat-kv   ::= "\"categoria_ampla\"" ws ":" ws string
rot-kv   ::= "\"rotulo_curto\"" ws ":" ws string
string   ::= "\"" chars "\""
```

A gramática é compilada por `llama.cpp` e impõe que cada token gerado pertença ao espaço de strings JSON válidas, eliminando erros de parsing por construção. O LLM utilizado é o `Marco-Mini-Instruct` (GGUF Q6_K) rodando localmente, que recebe as palavras-chave do c-TF-IDF e três documentos representativos do tópico. O prompt instrui que `categoria_ampla` deve ser uma de 13 categorias controladas (`Política`, `Economia`, `Saúde`, `Golpes e Fraudes`, `Tecnologia`, `Esporte`, `Educação`, `Meio Ambiente`, `Entretenimento`, `Ciência`, `Segurança`, `Desinformação`, `Outro`) e proíbe explicitamente palavras genéricas como "desinformação" ou "manipulação" no `rotulo_curto`, forçando o modelo a focar no assunto concreto.

### 4.4. Macroagregação hierárquica e detecção de procedurais *(~0,5p)*

Para reduzir 899 tópicos finos a uma estrutura interpretável, aplicamos **agrupamento aglomerativo** (linkage average sobre similaridade cosseno dos `topic_embeddings_` do BERTopic), com limiar de distância 0,05 escolhido por inspeção do dendrograma. Resulta em **38 macrotemas**.

Cada macrotema é então rotulado por um segundo passe LLM, sob gramática GBNF distinta (`{rotulo_macro, categoria_dominante}`), recebendo agora os `contexto_central` dos tópicos constituintes — não palavras-chave, evitando "amnésia" do modelo.

Um filtro de conteúdo procedural (notas que falam sobre o funcionamento das notas, sátira sem alvo concreto, comentários genéricos sobre a plataforma) é aplicado em duas camadas: (i) heurística por palavras-chave em `rotulo_curto`/`contexto_central`, (ii) classificação direta do macrotema pelo segundo LLM, que pode atribuir `categoria_dominante = "Procedural"`. A união das duas camadas marca os tópicos a serem destacados em análises substantivas.

### 4.5. Reconhecimento de entidades nomeadas *(~0,7p)*

A extração combina três fontes:

**(i) GLiNER multilingual** (`urchade/gliner_multi-v2.1`; Zaratiana et al. 2024) com **taxonomia de 16 tipos adaptada ao contexto político-institucional brasileiro** (`PESSOA`, `PESSOA_PUBLICA`, `ATOR_POLITICO`, `PARTIDO`, `PROGRAMA_PUBLICO`, `ORGAO_PUBLICO`, `ORGAO_JUDICIARIO`, `ORGAO_SEGURANCA`, `VEICULO_MIDIA`, `PLATAFORMA_DIGITAL`, `ORGANIZACAO`, `LOCAL`, `EVENTO_POLITICO`, `OPERACAO_POLICIAL`, `PROCESSO_JUDICIAL`, `FONTE_CITADA`). Cada tipo recebe um threshold próprio entre 0,40 e 0,55, calibrado para favorecer precisão em tipos confundíveis (ex.: `PARTIDO` recebe 0,50 contra 0,45 do default por causa de siglas como "PT" coincidirem com tokens não-políticos).

**(ii) Seis extratores regex** para padrões formais com alta precisão por construção: `URL_DOMINIO`, `DATA`, `VALOR_MONETARIO`, `ESTATISTICA` (percentuais), `LEI_NORMA` (Lei 14.197/2021, Decreto, Medida Provisória, PEC, ADI, etc.) e `PROCESSO_JUDICIAL` (formato CNJ).

**(iii) Três dicionários YAML editáveis** para canonicalização: `programas_publicos` (Bolsa Família, Auxílio Brasil, SUS, Prouni, …), `siglas_orgaos` (STF, TSE, IBGE, Anvisa, …) e partidos. Lookup pós-extração reescreve `tipo_entidade` e produz `texto_canonico` consistente.

**Resolução de sobreposições.** Quando dois extratores marcam regiões sobrepostas com IoU ≥ 0,5, a prioridade é dada por fonte: `regex_url` (100) > `regex_processo` = `regex_lei_norma` (95) > `regex_valor` = `regex_percentual` (90) > `regex_data` (85) > `gliner` (50). Em empate, vence o de maior `score`.

**Dimensão *papel no texto*.** Cada entidade carrega `papel_no_texto ∈ {mencao, fonte_ou_evidencia}`. Tipos como `URL_DOMINIO`, `LEI_NORMA`, `PROCESSO_JUDICIAL` e `VEICULO_MIDIA` recebem `fonte_ou_evidencia` por default; demais tipos são `mencao`. Esta distinção é central para análises de citação (quem fala de quem) versus apoio probatório (quem cita o quê).

### 4.6. Pontuação por fatoração matricial *(~0,3p)*

Reproduzimos o algoritmo oficial de pontuação publicado pela X (`twitter/communitynotes`) sobre o subconjunto PT. O algoritmo é uma fatoração matricial sobre a matriz `usuário × nota` de avaliações `helpful`/`not helpful`, com regularização L2, produzindo dois parâmetros centrais: `coreNoteIntercept` (utilidade absoluta da nota independente do avaliador) e `coreNoteFactor1` (primeira dimensão latente, interpretável como eixo de polarização do consenso). A reprodução roda em CPU pura sob `scikit-learn`, com checkpoints incrementais por fase. Patches mínimos no código original convertem `assert` em `warning` para que o scorer aceite o universo reduzido (subset PT) sem abortar.

### Figuras/tabelas
- **Figura 2.** Mapa intertópico (UMAP 2D) com top macrotemas destacados por cor.
- **Figura 3.** Dendrograma da macroagregação com linha de corte em 0,05.
- **Tabela 3.** Taxonomia das 22 categorias de entidade (16 GLiNER + 6 regex) com threshold e papel padrão.

---

## 5. Caracterização quantitativa *(~1,5 página)*

### Subseções sugeridas

**5.1. Volume e cobertura temporal.** 142.448 notas distribuídas entre 2021-10 e 2026-04, sobre 90.822 tweets distintos (média 1,57 nota/tweet) e 25.483 autores únicos. **[Figura 4: histograma temporal por status, mostrando crescimento e os picos eleitorais]**

**5.2. Status e consenso.** Dos 142k notas, 11,1% atingiram `CURRENTLY_RATED_HELPFUL`, 3,1% `CURRENTLY_RATED_NOT_HELPFUL`, 82,0% permanecem em `NEEDS_MORE_RATINGS` e 3,8% têm status indefinido. Esse perfil é compatível com o reportado para a base global, mas com desvio positivo em CRH.

**5.3. Tópicos e macrotemas.** 899 tópicos finos, dos quais 47.162 notas (33%) caem no outlier `topic_id = -1`. Os outros 67% das notas distribuem-se em 38 macrotemas; os 10 maiores cobrem 47% das notas com tópico. **[Tabela 4: top 10 macrotemas]**

**5.4. Entidades.** 536.373 entidades em 131.399 notas (92% das 142k carregam pelo menos uma entidade). Distribuição por tipo: URL (33%), PESSOA (15%), LOCAL (9%), ORGANIZACAO (9%), VEICULO_MIDIA (8%), ATOR_POLITICO (6%), PLATAFORMA_DIGITAL (5%) e cauda longa em tipos especializados.

**5.5. Pontuação MF.** `coreNoteIntercept` está disponível para 72,7% das notas (as restantes têm ratings insuficientes). O intercepto tem mediana 0,15 e cauda longa positiva (max 0,65); o `coreNoteFactor1` tem mediana ≈ 0 e desvio-padrão 0,43, indicando dispersão substantiva ao longo do eixo de polarização — adequado a análises comparativas. **[Figura 5: distribuições conjuntas de intercepto × fator]**

**5.6. Dados faltantes.** **[Tabela 5: missingness por coluna com explicação resumida]**

---

## 6. Avaliação de qualidade *(~1,2 página)*

### Subseções sugeridas

**6.1. Validação determinística.** As checagens determinísticas asseguram a integridade da base: hashes MD5/SHA-256 por shard, detecção de drift de esquema, eliminação de órfãos referenciais entre `notes`/`ratings`/`status_history`, e diff entre snapshots consecutivos. Essas checagens não validam o conteúdo, mas garantem que erros de coleta não se propagam para o produto final.

**6.2. Métricas intrínsecas.** Os parâmetros do BERTopic foram selecionados por DBCV; a calibração escolheu o ponto de operação com melhor compromisso entre validade interna e cobertura. A confiança média do filtro de idioma é 0,98 (mediana 0,99). O `score` médio das entidades GLiNER é 0,83 (mediana 0,91); entidades regex pertencem ao regime de alta precisão por construção.

**6.3. Validação por consistência cross-modal.** *(Esta é a evidência principal de qualidade na ausência de validação humana exaustiva.)* Investigamos se os macrotemas têm assinaturas semânticas distintas em duas dimensões independentes do rótulo: (i) tipo dominante de entidade não-URL, (ii) entidades canônicas top-15. Em **14 dos 15 maiores macrotemas, as assinaturas são coerentes com o rótulo do macrotema**. Exemplos:

| Macrotema | Tipo dominante | Top entidades | Top fontes |
|---|---|---|---|
| Crise Política | ATOR_POLITICO (27%) | lula, bolsonaro, STF, TSE, PF | g1, cnnbrasil, poder360 |
| Futebol e Racismo | ORGANIZACAO (41%) | flamengo, palmeiras, fifa, cbf | ge.globo.com (16%) |
| Apostas Online | ORGANIZACAO + PLATAFORMA (49%) | stake, casa de apostas | archive.ph, reclameaqui, pastebin |
| Ataques e Conflitos | LOCAL (35%) | israel, hamas, gaza, palestina | bbc, cnnbrasil |
| Vacinas e Saúde | heterogêneo | Anvisa, SUS, pfizer | gov.br, g1 |

A coerência entre rótulo, tipo de entidade e fonte citada — em camadas obtidas por modelos *independentes* (BERTopic + LLM para tópicos; GLiNER + regex para entidades) — é evidência de validade interna não-trivial.

**6.4. Falhas detectadas (autorelato).** Duas falhas são reportadas honestamente:

- **Sátira clara** apresenta entidades genéricas (`autor`, `nnn`, `comunidade`) e 100% dos top domínios são meta-plataforma (`communitynotes.x.com`, `help.x.com`). Trata-se de conteúdo procedural não capturado pelo filtro de duas camadas. Tópicos individuais foram detectados, mas o macrotema agregado escapou. **[Figura 6: heatmap de top domínios por macrotema]**
- **Cotas e Cortes no Ensino Superior** apresenta razão dominante/secundário ≈ 1,04 e entidades top que não batem com o rótulo (g1, brasil, bolsonaro, sao-paulo). Sugere mistura no corte hierárquico e merece reavaliação em release futura.

Reportar estas falhas é, em si, evidência de que o método de validação cross-modal *encontra problemas reais*.

**6.5. Verificação visual amostral do filtro de idioma.** Ver §3.4 — checagem rápida, não exaustiva.

---

## 7. Casos de uso e questões de pesquisa *(~0,8 página)*

Sugerimos cinco frentes para a comunidade explorar a partir do dataset:

**7.1. Benchmark de NER em PT-BR para categorias politicamente salientes.** A taxonomia inclui tipos ausentes em LeNER-Br e HAREM (`ATOR_POLITICO`, `PARTIDO`, `ORGAO_JUDICIARIO`, `PROGRAMA_PUBLICO`, `OPERACAO_POLICIAL`). O dataset provê 536k entidades com `score` por entidade, prontas para amostragem para validação humana ou refinamento por adversarial fine-tuning.

**7.2. Classificação de utilidade (helpfulness).** Modelos podem aprender a prever `consenso = CRH` a partir do texto da nota, com ou sem features tabulares (`n_ratings`, `coreNoteFactor1`). Em experimentos exploratórios não publicados, ROC-AUC ~ 0,89 e MCC ~ 0,57 são alcançáveis com TF-IDF + features estruturais.

**7.3. Análise de polarização.** O `coreNoteFactor1` é uma coordenada explícita ao longo do eixo de divergência ideológica do consenso. Estudos podem condicionar essa coordenada a macrotema e a tipo de entidade citada para mapear como diferentes assuntos polarizam o público brasileiro de forma distinta.

**7.4. Estudos de citação por domínio.** A coluna `dominio` do `entities.parquet` permite análises de quais sites são mais citados como evidência por macrotema. Resultados preliminares mostram concentração editorial (`g1.globo.com`, `cnnbrasil.com.br`) em macrotemas políticos e padrões de denúncia (`archive.ph`, `reclameaqui.com.br`) em macrotemas de fraude.

**7.5. Estudos longitudinais.** A janela de 4,5 anos cobre dois ciclos eleitorais, três anos pós-COVID, as enchentes do RS em 2024, escândalos esportivos, debates sobre apostas online e mudanças de moderação na X (incluindo o episódio de 2024 com o STF). Permite séries temporais de tópicos ativos.

---

## 8. Limitações e desafios *(~0,4 página)*

- **Sem validação humana exaustiva** dos rótulos de tópicos ou entidades.
- **Revisão LLM do NER projetada mas não aplicada** nesta release por restrições de tempo de GPU.
- **Texto de tweet não redistribuído.** Apenas `tweetId` é exposto, em respeito aos termos de serviço da X.
- **Snapshot-bound.** Status evolui no tempo; releases futuras podem mostrar deslocamentos.
- **Outliers temáticos.** 33% das notas em `topic_id = -1` — outlier reduction foi aplicada de forma conservadora.
- **Vazamento procedural residual.** Macrotema *Sátira clara* contém conteúdo procedural não filtrado.
- **Filtro de idioma orientado a precisão.** O limiar de 0,80 pode excluir notas curtas ou com mistura de códigos.

---

## 9. Disponibilidade *(~0,3 página)*

O dataset está disponível publicamente em:

> **`https://huggingface.co/datasets/histlearn/community-notes-br`**

Sob licença CC0 1.0 Universal, alinhada à licença da fonte original. Os arquivos `notes_pt.parquet` (35 MB), `entities.parquet` (40 MB), `topic_metadata.parquet`, `macrotheme_metadata.parquet`, `taxonomy.json` e a pasta `cross_modal_validation/` totalizam ~80 MB. O datacard completo está incluído como `README.md`.

---

## 10. Considerações finais *(~0,3 página)*

O **Community Notes BR** preenche uma lacuna específica e ao mesmo tempo profunda em recursos linguísticos para PT-BR aplicados a moderação colaborativa: um recorte público, enriquecido em três níveis independentes (tópico, entidade, pontuação), com método de validação que torna sua qualidade auditável sem rotulador humano dedicado. As contribuições metodológicas — em particular, a rotulagem por LLM com gramática formal e a validação por consistência cross-modal — são transferíveis a outros datasets enriquecidos. Convidamos a comunidade a aplicar a infraestrutura de revisão LLM já implementada no NER, expandir a validação humana onde a aplicação exigir, e cruzar este dataset com bases editoriais de checagem para análises comparativas.

---

## Uso de Inteligência Artificial

*(Subseção obrigatória, não numerada, antes das Referências.)*

Este artigo e o dataset que ele descreve fazem uso explícito de Inteligência Artificial Generativa, da seguinte forma:

**No dataset.** O modelo `Marco-Mini-Instruct` (GGUF Q6_K, executado via `llama-cpp-python`) foi utilizado para rotulagem estruturada de tópicos e macrotemas, com saída restrita por gramática formal GBNF. O modelo `intfloat/multilingual-e5-large-instruct` foi utilizado para gerar embeddings semânticos. O modelo `urchade/gliner_multi-v2.1` foi utilizado para reconhecimento de entidades nomeadas. Em todos os casos, o uso é parte explícita e documentada do pipeline; nenhum desses modelos foi listado como autor, e a responsabilidade pelos rótulos finais é dos autores humanos.

**No texto deste artigo.** Ferramentas de IA Generativa (Claude da Anthropic) foram utilizadas como assistentes na revisão de redação, organização de seções e sugestões de citação. Todas as decisões metodológicas, escolhas de design e interpretações são de responsabilidade do(s) autor(es) humano(s). Nenhum trecho foi gerado e publicado sem leitura crítica.

---

## Referências

*(Lista preliminar a expandir; ~15-20 itens é o normal para DSW.)*

- **Allen, J., Martel, C., & Rand, D. G.** (2022). Birds of a feather don't fact-check each other: Partisanship and the evaluation of news in Twitter's Birdwatch crowdsourced fact-checking program. *CHI*.
- **Bojanowski, P., Grave, E., Joulin, A., & Mikolov, T.** (2017). Enriching word vectors with subword information. *TACL*.
- **Grootendorst, M.** (2022). BERTopic: Neural topic modeling with a class-based TF-IDF procedure. *arXiv preprint arXiv:2203.05794*.
- **Joulin, A., Grave, E., Bojanowski, P., & Mikolov, T.** (2017). Bag of tricks for efficient text classification. *EACL*. *(fastText `lid.176`)*
- **Luz de Araújo, P. H., et al.** (2018). LeNER-Br: A dataset for named entity recognition in Brazilian legal text. *PROPOR*.
- **Moulavi, D., Jaskowiak, P. A., Campello, R. J., Zimek, A., & Sander, J.** (2014). Density-based clustering validation. *SDM*.
- **Pröllochs, N.** (2022). Community-based fact-checking on Twitter's Birdwatch platform. *ICWSM*.
- **Santos, D., & Cardoso, N.** (2007). HAREM: An advanced NER evaluation contest for Portuguese. *LREC*.
- **Wang, L., et al.** (2023). Improving text embeddings with large language models. *(E5-instruct)*.
- **Wojcik, S., et al.** (2022). Birdwatch: Crowd wisdom and bridging algorithms can inform understanding and reduce the spread of misinformation. *X (Twitter) Research*.
- **Zaratiana, U., Tomeh, N., Holat, P., & Charnois, T.** (2024). GLiNER: Generalist model for named entity recognition using bidirectional transformer. *NAACL*.
- *(Citar referências PT-BR de desinformação: FakeRecogna, Fake.Br Corpus.)*
- *(Citar artigos sobre BNF/GBNF em LLM constrained decoding.)*
- *(Citar DuckDB e PyArrow.)*

---

# Apêndice — checklist de submissão DSW

- [ ] PDF em formato SBC
- [ ] Entre 6 e 10 páginas + até 2 extra para agradecimentos/referências
- [ ] Resumo em inglês obrigatório
- [ ] Subseção "Uso de Inteligência Artificial" antes das referências
- [ ] Dataset publicamente acessível no momento da submissão
- [ ] Submissão via JEMS
- [ ] Conformidade com Código de Conduta SBC
- [ ] Token HF rotacionado antes de qualquer publicação de código

---

# Notas para você ao escrever

1. **Manter o tom institucional sóbrio.** SBBD valoriza precisão técnica acima de retórica.
2. **Tabelas > prosa para descrição de schema.** Reviewers de dataset workshops querem inspecionar rapidamente.
3. **Figuras devem caber em uma coluna SBC.** Heatmaps e mapas intertópicos costumam ficar boas em duas colunas; orçar bem.
4. **A Seção 6 (qualidade) é onde reviewers vão atacar.** Defenda com dados, não com adjetivos.
5. **O nome "Marco-Mini-Instruct" é obscuro.** Cite o repositório HF (`mradermacher/Marco-Mini-Instruct-i1-GGUF`) na primeira menção e descreva como "modelo open-weight quantizado para uso local em GPU modesta".
6. **Evite "nós" excessivo.** Onde possível, use voz passiva ("foi aplicado", "resulta em") — convenção SBC.
7. **Antes de submeter:** rode um pass de checagem de números neste skeleton vs `notes_pt.parquet` final. Se ajustar parâmetros e re-publicar, qualquer número aqui vira inconsistência.