Hugging Face's logo

Datasets:
davanstrien
/
finepdfs-temporal-stats-all

Modalities:
Tabular
Text
Formats:
parquet
Size:
< 1K
Tags:
uv-script
statistics
polars
finepdfs-edu
temporal-analysis
Libraries:
Datasets
pandas
Polars
License:
Dataset card Data Studio Files
xet
Community
finepdfs-temporal-stats-all / README.md
davanstrien's picture
davanstrien HF Staff
Upload README.md with huggingface_hub
372a8e4 verified
preview code
|
raw
history blame contribute delete
5.7 kB
metadata 
tags:
  - uv-script
  - statistics
  - polars
  - finepdfs-edu
  - temporal-analysis
license: odc-by
configs:
  - config_name: global_stats
    data_files: global_stats/train-*.parquet
  - config_name: temporal_stats
    data_files: temporal_stats/train-*.parquet
default_viewer_config: temporal_stats

Is the Web Getting More Educational?

Temporal analysis of educational quality in all languages across 106 CommonCrawl dumps.

Trend 

High Educational Content (edu >= 3)
###############################################################
██████████████████████████████████                  10.8%  2013
██████████████████████████████████                  10.7%  2014
█████████████████████████████████                   10.4%  2015
████████████████████████████████████                11.3%  2016
██████████████████████████████████████████████      14.2%  2017
█████████████████████████████████████████████       14.0%  2018
███████████████████████████████████████████         13.6%  2019
███████████████████████████████████████████         13.6%  2020
██████████████████████████████████████████████████  15.5%  2021
██████████████████████████████████████████████      14.5%  2022
█████████████████████████████████████████████       14.2%  2023
██████████████████████████████████████████████      14.4%  2024
███████████████████████████████████████████████     14.8%  2025

Average Educational Score
##############################################################
███████████████████████████████████████████████     1.94  2013
███████████████████████████████████████████████     1.94  2014
███████████████████████████████████████████████     1.93  2015
████████████████████████████████████████████████    1.94  2016
█████████████████████████████████████████████████   2.01  2017
█████████████████████████████████████████████████   1.99  2018
████████████████████████████████████████████████    1.97  2019
████████████████████████████████████████████████    1.97  2020
██████████████████████████████████████████████████  2.02  2021
█████████████████████████████████████████████████   1.99  2022
█████████████████████████████████████████████████   1.98  2023
█████████████████████████████████████████████████   1.99  2024
█████████████████████████████████████████████████   2.00  2025

Key Finding

Year Avg Edu Score High Edu Rate
2013 1.94 10.8%
2025 2.00 14.8%

Performance

  • 49,526,501 documents processed in 793 seconds
  • 62,483 docs/sec using Polars streaming
  • Single scan, no full dataset download required

Summary

Metric Value
Scope all languages
Total Documents 49,526,501
Total Tokens 360,705,622,033
Avg Edu Score 1.997
High Edu Rate 14.5%
CommonCrawl Dumps 106

Files

  • global_stats - Overall summary
  • temporal_stats - Per-dump breakdown (sorted chronologically)

Reproduce 

uv run https://huggingface.co/datasets/uv-scripts/dataset-stats/raw/main/finepdfs-stats.py \
    --all-languages --output-repo your-username/stats

Source