Hugging Face's logo

Datasets:
davanstrien
/
finepdfs-temporal-stats

Modalities:
Tabular
Text
Formats:
parquet
Size:
< 1K
Tags:
statistics
polars
finepdfs-edu
temporal-analysis
Libraries:
Datasets
pandas
Polars
License:
Dataset card Data Studio Files
xet
Community
finepdfs-temporal-stats / README.md
davanstrien's picture
davanstrien HF Staff
Upload README.md with huggingface_hub
0715e2a verified
preview code
|
raw
history blame contribute delete
5.68 kB
metadata 
tags:
  - statistics
  - polars
  - finepdfs-edu
  - temporal-analysis
license: odc-by
configs:
  - config_name: global_stats
    data_files: global_stats/train-*.parquet
  - config_name: temporal_stats
    data_files: temporal_stats/train-*.parquet
default_viewer_config: temporal_stats

Is the Web Getting More Educational?

Temporal analysis of educational quality across 106 CommonCrawl dumps.

Trend 

High Educational Content (edu >= 3)
###############################################################
██████████████████████████████████                  11.2%  2013
██████████████████████████████                       9.9%  2014
█████████████████████████████████                   10.8%  2015
██████████████████████████████████                  11.1%  2016
██████████████████████████████████████████████      15.0%  2017
████████████████████████████████████████████        14.4%  2018
█████████████████████████████████████████████       14.7%  2019
██████████████████████████████████████████████      14.9%  2020
██████████████████████████████████████████████████  16.2%  2021
██████████████████████████████████████████████      15.2%  2022
████████████████████████████████████████████        14.4%  2023
████████████████████████████████████████████████    15.6%  2024
████████████████████████████████████████████████    15.9%  2025

Average Educational Score
##############################################################
███████████████████████████████████████████████     1.98  2013
██████████████████████████████████████████████      1.93  2014
██████████████████████████████████████████████      1.94  2015
██████████████████████████████████████████████      1.95  2016
█████████████████████████████████████████████████   2.06  2017
████████████████████████████████████████████████    2.03  2018
█████████████████████████████████████████████████   2.03  2019
█████████████████████████████████████████████████   2.03  2020
██████████████████████████████████████████████████  2.07  2021
█████████████████████████████████████████████████   2.04  2022
████████████████████████████████████████████████    2.02  2023
█████████████████████████████████████████████████   2.05  2024
█████████████████████████████████████████████████   2.05  2025

Key Finding

Period Avg Edu Score High Edu Rate
CC-MAIN-2013-20 2.025 13.0%
CC-MAIN-2025-08 2.065 16.3%

Performance

  • 5,000,000 documents processed in 142 seconds
  • 35,275 docs/sec using Polars streaming
  • Single scan, no download of 300GB+ dataset

Summary

Metric Value
Scope English (Latin script)
Total Documents 5,000,000
Total Tokens 28,480,600,092
Avg Edu Score 2.047
High Edu Rate 15.3%
CommonCrawl Dumps 106

Files

  • global_stats - Overall summary
  • temporal_stats - Per-dump breakdown (sorted chronologically)

Reproduce 

uv run https://huggingface.co/datasets/uv-scripts/dataset-stats/raw/main/finepdfs-stats.py \
    --lang eng_Latn --output-repo your-username/stats

Source