File size: 5,683 Bytes
06d1924 479d6ab 0715e2a 479d6ab c37ff01 0715e2a 7d8153c 06d1924 479d6ab aaed3cf 479d6ab aaed3cf 0715e2a aaed3cf 0715e2a 479d6ab 0715e2a aaed3cf 0715e2a aaed3cf 0715e2a aaed3cf 0715e2a aaed3cf 0715e2a aaed3cf 0715e2a 479d6ab 0715e2a 479d6ab 0715e2a 479d6ab 0715e2a aaed3cf 479d6ab |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 |
---
tags:
- statistics
- polars
- finepdfs-edu
- temporal-analysis
license: odc-by
configs:
- config_name: global_stats
data_files: global_stats/train-*.parquet
- config_name: temporal_stats
data_files: temporal_stats/train-*.parquet
default_viewer_config: temporal_stats
---
# Is the Web Getting More Educational?
Temporal analysis of educational quality across 106 CommonCrawl dumps.
## Trend
```
High Educational Content (edu >= 3)
###############################################################
██████████████████████████████████ 11.2% 2013
██████████████████████████████ 9.9% 2014
█████████████████████████████████ 10.8% 2015
██████████████████████████████████ 11.1% 2016
██████████████████████████████████████████████ 15.0% 2017
████████████████████████████████████████████ 14.4% 2018
█████████████████████████████████████████████ 14.7% 2019
██████████████████████████████████████████████ 14.9% 2020
██████████████████████████████████████████████████ 16.2% 2021
██████████████████████████████████████████████ 15.2% 2022
████████████████████████████████████████████ 14.4% 2023
████████████████████████████████████████████████ 15.6% 2024
████████████████████████████████████████████████ 15.9% 2025
Average Educational Score
##############################################################
███████████████████████████████████████████████ 1.98 2013
██████████████████████████████████████████████ 1.93 2014
██████████████████████████████████████████████ 1.94 2015
██████████████████████████████████████████████ 1.95 2016
█████████████████████████████████████████████████ 2.06 2017
████████████████████████████████████████████████ 2.03 2018
█████████████████████████████████████████████████ 2.03 2019
█████████████████████████████████████████████████ 2.03 2020
██████████████████████████████████████████████████ 2.07 2021
█████████████████████████████████████████████████ 2.04 2022
████████████████████████████████████████████████ 2.02 2023
█████████████████████████████████████████████████ 2.05 2024
█████████████████████████████████████████████████ 2.05 2025
```
## Key Finding
| Period | Avg Edu Score | High Edu Rate |
|--------|---------------|---------------|
| CC-MAIN-2013-20 | 2.025 | 13.0% |
| CC-MAIN-2025-08 | 2.065 | 16.3% |
## Performance
- **5,000,000 documents** processed in **142 seconds**
- **35,275 docs/sec** using Polars streaming
- Single scan, no download of 300GB+ dataset
## Summary
| Metric | Value |
|--------|-------|
| Scope | English (Latin script) |
| Total Documents | 5,000,000 |
| Total Tokens | 28,480,600,092 |
| Avg Edu Score | 2.047 |
| High Edu Rate | 15.3% |
| CommonCrawl Dumps | 106 |
## Files
- `global_stats` - Overall summary
- `temporal_stats` - Per-dump breakdown (sorted chronologically)
## Reproduce
```bash
uv run https://huggingface.co/datasets/uv-scripts/dataset-stats/raw/main/finepdfs-stats.py \
--lang eng_Latn --output-repo your-username/stats
```
## Source
- **Dataset**: [HuggingFaceFW/finepdfs-edu](https://huggingface.co/datasets/HuggingFaceFW/finepdfs-edu)
- **Script**: [uv-scripts/dataset-stats](https://huggingface.co/datasets/uv-scripts/dataset-stats)
|