File size: 5,696 Bytes
596df54 ecc1cc1 372a8e4 ecc1cc1 596df54 372a8e4 ecc1cc1 596df54 ecc1cc1 372a8e4 ecc1cc1 372a8e4 ecc1cc1 372a8e4 ecc1cc1 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 | ---
tags:
- uv-script
- statistics
- polars
- finepdfs-edu
- temporal-analysis
license: odc-by
configs:
- config_name: global_stats
data_files: global_stats/train-*.parquet
- config_name: temporal_stats
data_files: temporal_stats/train-*.parquet
default_viewer_config: temporal_stats
---
# Is the Web Getting More Educational?
Temporal analysis of educational quality in **all languages** across 106 CommonCrawl dumps.
## Trend
```
High Educational Content (edu >= 3)
###############################################################
██████████████████████████████████ 10.8% 2013
██████████████████████████████████ 10.7% 2014
█████████████████████████████████ 10.4% 2015
████████████████████████████████████ 11.3% 2016
██████████████████████████████████████████████ 14.2% 2017
█████████████████████████████████████████████ 14.0% 2018
███████████████████████████████████████████ 13.6% 2019
███████████████████████████████████████████ 13.6% 2020
██████████████████████████████████████████████████ 15.5% 2021
██████████████████████████████████████████████ 14.5% 2022
█████████████████████████████████████████████ 14.2% 2023
██████████████████████████████████████████████ 14.4% 2024
███████████████████████████████████████████████ 14.8% 2025
Average Educational Score
##############################################################
███████████████████████████████████████████████ 1.94 2013
███████████████████████████████████████████████ 1.94 2014
███████████████████████████████████████████████ 1.93 2015
████████████████████████████████████████████████ 1.94 2016
█████████████████████████████████████████████████ 2.01 2017
█████████████████████████████████████████████████ 1.99 2018
████████████████████████████████████████████████ 1.97 2019
████████████████████████████████████████████████ 1.97 2020
██████████████████████████████████████████████████ 2.02 2021
█████████████████████████████████████████████████ 1.99 2022
█████████████████████████████████████████████████ 1.98 2023
█████████████████████████████████████████████████ 1.99 2024
█████████████████████████████████████████████████ 2.00 2025
```
## Key Finding
| Year | Avg Edu Score | High Edu Rate |
|------|---------------|---------------|
| 2013 | 1.94 | 10.8% |
| 2025 | 2.00 | 14.8% |
## Performance
- **49,526,501 documents** processed in **793 seconds**
- **62,483 docs/sec** using Polars streaming
- Single scan, no full dataset download required
## Summary
| Metric | Value |
|--------|-------|
| Scope | all languages |
| Total Documents | 49,526,501 |
| Total Tokens | 360,705,622,033 |
| Avg Edu Score | 1.997 |
| High Edu Rate | 14.5% |
| CommonCrawl Dumps | 106 |
## Files
- `global_stats` - Overall summary
- `temporal_stats` - Per-dump breakdown (sorted chronologically)
## Reproduce
```bash
uv run https://huggingface.co/datasets/uv-scripts/dataset-stats/raw/main/finepdfs-stats.py \
--all-languages --output-repo your-username/stats
```
## Source
- **Dataset**: [HuggingFaceFW/finepdfs-edu](https://huggingface.co/datasets/HuggingFaceFW/finepdfs-edu)
- **Script**: [uv-scripts/dataset-stats](https://huggingface.co/datasets/uv-scripts/dataset-stats)
|