| | --- |
| | tags: |
| | - uv-script |
| | - statistics |
| | - polars |
| | - finepdfs-edu |
| | - temporal-analysis |
| | license: odc-by |
| | configs: |
| | - config_name: global_stats |
| | data_files: global_stats/train-*.parquet |
| | - config_name: temporal_stats |
| | data_files: temporal_stats/train-*.parquet |
| | default_viewer_config: temporal_stats |
| | --- |
| | |
| | # Is the Web Getting More Educational? |
| |
|
| | Temporal analysis of educational quality in **all languages** across 106 CommonCrawl dumps. |
| |
|
| | ## Trend |
| |
|
| | ``` |
| | High Educational Content (edu >= 3) |
| | ############################################################### |
| | ██████████████████████████████████ 10.8% 2013 |
| | ██████████████████████████████████ 10.7% 2014 |
| | █████████████████████████████████ 10.4% 2015 |
| | ████████████████████████████████████ 11.3% 2016 |
| | ██████████████████████████████████████████████ 14.2% 2017 |
| | █████████████████████████████████████████████ 14.0% 2018 |
| | ███████████████████████████████████████████ 13.6% 2019 |
| | ███████████████████████████████████████████ 13.6% 2020 |
| | ██████████████████████████████████████████████████ 15.5% 2021 |
| | ██████████████████████████████████████████████ 14.5% 2022 |
| | █████████████████████████████████████████████ 14.2% 2023 |
| | ██████████████████████████████████████████████ 14.4% 2024 |
| | ███████████████████████████████████████████████ 14.8% 2025 |
| | |
| | Average Educational Score |
| | ############################################################## |
| | ███████████████████████████████████████████████ 1.94 2013 |
| | ███████████████████████████████████████████████ 1.94 2014 |
| | ███████████████████████████████████████████████ 1.93 2015 |
| | ████████████████████████████████████████████████ 1.94 2016 |
| | █████████████████████████████████████████████████ 2.01 2017 |
| | █████████████████████████████████████████████████ 1.99 2018 |
| | ████████████████████████████████████████████████ 1.97 2019 |
| | ████████████████████████████████████████████████ 1.97 2020 |
| | ██████████████████████████████████████████████████ 2.02 2021 |
| | █████████████████████████████████████████████████ 1.99 2022 |
| | █████████████████████████████████████████████████ 1.98 2023 |
| | █████████████████████████████████████████████████ 1.99 2024 |
| | █████████████████████████████████████████████████ 2.00 2025 |
| | ``` |
| |
|
| | ## Key Finding |
| |
|
| | | Year | Avg Edu Score | High Edu Rate | |
| | |------|---------------|---------------| |
| | | 2013 | 1.94 | 10.8% | |
| | | 2025 | 2.00 | 14.8% | |
| |
|
| | ## Performance |
| |
|
| | - **49,526,501 documents** processed in **793 seconds** |
| | - **62,483 docs/sec** using Polars streaming |
| | - Single scan, no full dataset download required |
| |
|
| | ## Summary |
| |
|
| | | Metric | Value | |
| | |--------|-------| |
| | | Scope | all languages | |
| | | Total Documents | 49,526,501 | |
| | | Total Tokens | 360,705,622,033 | |
| | | Avg Edu Score | 1.997 | |
| | | High Edu Rate | 14.5% | |
| | | CommonCrawl Dumps | 106 | |
| |
|
| | ## Files |
| |
|
| | - `global_stats` - Overall summary |
| | - `temporal_stats` - Per-dump breakdown (sorted chronologically) |
| |
|
| | ## Reproduce |
| |
|
| | ```bash |
| | uv run https://huggingface.co/datasets/uv-scripts/dataset-stats/raw/main/finepdfs-stats.py \ |
| | --all-languages --output-repo your-username/stats |
| | ``` |
| |
|
| | ## Source |
| |
|
| | - **Dataset**: [HuggingFaceFW/finepdfs-edu](https://huggingface.co/datasets/HuggingFaceFW/finepdfs-edu) |
| | - **Script**: [uv-scripts/dataset-stats](https://huggingface.co/datasets/uv-scripts/dataset-stats) |
| |
|
