|
|
--- |
|
|
tags: |
|
|
- statistics |
|
|
- polars |
|
|
- finepdfs-edu |
|
|
- temporal-analysis |
|
|
license: odc-by |
|
|
configs: |
|
|
- config_name: global_stats |
|
|
data_files: global_stats/train-*.parquet |
|
|
- config_name: temporal_stats |
|
|
data_files: temporal_stats/train-*.parquet |
|
|
default_viewer_config: temporal_stats |
|
|
--- |
|
|
|
|
|
# Is the Web Getting More Educational? |
|
|
|
|
|
Temporal analysis of educational quality across 106 CommonCrawl dumps. |
|
|
|
|
|
## Trend |
|
|
|
|
|
``` |
|
|
High Educational Content (edu >= 3) |
|
|
############################################################### |
|
|
██████████████████████████████████ 11.2% 2013 |
|
|
██████████████████████████████ 9.9% 2014 |
|
|
█████████████████████████████████ 10.8% 2015 |
|
|
██████████████████████████████████ 11.1% 2016 |
|
|
██████████████████████████████████████████████ 15.0% 2017 |
|
|
████████████████████████████████████████████ 14.4% 2018 |
|
|
█████████████████████████████████████████████ 14.7% 2019 |
|
|
██████████████████████████████████████████████ 14.9% 2020 |
|
|
██████████████████████████████████████████████████ 16.2% 2021 |
|
|
██████████████████████████████████████████████ 15.2% 2022 |
|
|
████████████████████████████████████████████ 14.4% 2023 |
|
|
████████████████████████████████████████████████ 15.6% 2024 |
|
|
████████████████████████████████████████████████ 15.9% 2025 |
|
|
|
|
|
Average Educational Score |
|
|
############################################################## |
|
|
███████████████████████████████████████████████ 1.98 2013 |
|
|
██████████████████████████████████████████████ 1.93 2014 |
|
|
██████████████████████████████████████████████ 1.94 2015 |
|
|
██████████████████████████████████████████████ 1.95 2016 |
|
|
█████████████████████████████████████████████████ 2.06 2017 |
|
|
████████████████████████████████████████████████ 2.03 2018 |
|
|
█████████████████████████████████████████████████ 2.03 2019 |
|
|
█████████████████████████████████████████████████ 2.03 2020 |
|
|
██████████████████████████████████████████████████ 2.07 2021 |
|
|
█████████████████████████████████████████████████ 2.04 2022 |
|
|
████████████████████████████████████████████████ 2.02 2023 |
|
|
█████████████████████████████████████████████████ 2.05 2024 |
|
|
█████████████████████████████████████████████████ 2.05 2025 |
|
|
``` |
|
|
|
|
|
## Key Finding |
|
|
|
|
|
| Period | Avg Edu Score | High Edu Rate | |
|
|
|--------|---------------|---------------| |
|
|
| CC-MAIN-2013-20 | 2.025 | 13.0% | |
|
|
| CC-MAIN-2025-08 | 2.065 | 16.3% | |
|
|
|
|
|
## Performance |
|
|
|
|
|
- **5,000,000 documents** processed in **142 seconds** |
|
|
- **35,275 docs/sec** using Polars streaming |
|
|
- Single scan, no download of 300GB+ dataset |
|
|
|
|
|
## Summary |
|
|
|
|
|
| Metric | Value | |
|
|
|--------|-------| |
|
|
| Scope | English (Latin script) | |
|
|
| Total Documents | 5,000,000 | |
|
|
| Total Tokens | 28,480,600,092 | |
|
|
| Avg Edu Score | 2.047 | |
|
|
| High Edu Rate | 15.3% | |
|
|
| CommonCrawl Dumps | 106 | |
|
|
|
|
|
## Files |
|
|
|
|
|
- `global_stats` - Overall summary |
|
|
- `temporal_stats` - Per-dump breakdown (sorted chronologically) |
|
|
|
|
|
## Reproduce |
|
|
|
|
|
```bash |
|
|
uv run https://huggingface.co/datasets/uv-scripts/dataset-stats/raw/main/finepdfs-stats.py \ |
|
|
--lang eng_Latn --output-repo your-username/stats |
|
|
``` |
|
|
|
|
|
## Source |
|
|
|
|
|
- **Dataset**: [HuggingFaceFW/finepdfs-edu](https://huggingface.co/datasets/HuggingFaceFW/finepdfs-edu) |
|
|
- **Script**: [uv-scripts/dataset-stats](https://huggingface.co/datasets/uv-scripts/dataset-stats) |
|
|
|
