| | --- |
| | tags: |
| | - uv-script |
| | - statistics |
| | - polars |
| | - finepdfs-edu |
| | - temporal-analysis |
| | license: odc-by |
| | configs: |
| | - config_name: global_stats |
| | data_files: global_stats/train-*.parquet |
| | - config_name: temporal_stats |
| | data_files: temporal_stats/train-*.parquet |
| | default_viewer_config: temporal_stats |
| | --- |
| | |
| | # Is the Web Getting More Educational? |
| |
|
| | Temporal analysis of educational quality in **German (Latin script)** across 106 CommonCrawl dumps. |
| |
|
| | ## Trend |
| |
|
| | ``` |
| | High Educational Content (edu >= 3) |
| | ############################################################### |
| | ██████████████████████████████████ 9.9% 2013 |
| | ████████████████████ 6.0% 2014 |
| | ██████████ 3.0% 2015 |
| | ████████████████████████████████████████████ 12.9% 2016 |
| | ████████████████████████████████████████ 11.9% 2017 |
| | ██████████████████████████████████████ 11.2% 2018 |
| | ██████████████████████████████████████ 11.2% 2019 |
| | ████████████████████████████████████████████ 12.9% 2020 |
| | █████████████████████████████████████████████████ 14.3% 2021 |
| | ███████████████████████████████████████████████ 13.8% 2022 |
| | ██████████████████████████████████████████████ 13.3% 2023 |
| | ███████████████████████████████████████████████ 13.8% 2024 |
| | ██████████████████████████████████████████████████ 14.5% 2025 |
| | |
| | Average Educational Score |
| | ############################################################## |
| | ███████████████████████████████████████████████ 1.96 2013 |
| | ████████████████████████████████████████████ 1.83 2014 |
| | █████████████████████████████████████████ 1.71 2015 |
| | ████████████████████████████████████████████████ 2.04 2016 |
| | ████████████████████████████████████████████████ 2.03 2017 |
| | ████████████████████████████████████████████████ 2.01 2018 |
| | ████████████████████████████████████████████████ 2.01 2019 |
| | █████████████████████████████████████████████████ 2.05 2020 |
| | ██████████████████████████████████████████████████ 2.08 2021 |
| | █████████████████████████████████████████████████ 2.07 2022 |
| | █████████████████████████████████████████████████ 2.05 2023 |
| | █████████████████████████████████████████████████ 2.06 2024 |
| | █████████████████████████████████████████████████ 2.07 2025 |
| | ``` |
| |
|
| | ## Key Finding |
| |
|
| | | Year | Avg Edu Score | High Edu Rate | |
| | |------|---------------|---------------| |
| | | 2013 | 1.96 | 9.9% | |
| | | 2025 | 2.07 | 14.5% | |
| |
|
| | ## Performance |
| |
|
| | - **3,844,508 documents** processed in **118 seconds** |
| | - **32,659 docs/sec** using Polars streaming |
| | - Single scan, no full dataset download required |
| |
|
| | ## Summary |
| |
|
| | | Metric | Value | |
| | |--------|-------| |
| | | Scope | German (Latin script) | |
| | | Total Documents | 3,844,508 | |
| | | Total Tokens | 20,308,107,262 | |
| | | Avg Edu Score | 2.050 | |
| | | High Edu Rate | 13.1% | |
| | | CommonCrawl Dumps | 106 | |
| |
|
| | ## Files |
| |
|
| | - `global_stats` - Overall summary |
| | - `temporal_stats` - Per-dump breakdown (sorted chronologically) |
| |
|
| | ## Reproduce |
| |
|
| | ```bash |
| | uv run https://huggingface.co/datasets/uv-scripts/dataset-stats/raw/main/finepdfs-stats.py \ |
| | --lang deu_Latn --output-repo your-username/stats |
| | ``` |
| |
|
| | ## Source |
| |
|
| | - **Dataset**: [HuggingFaceFW/finepdfs-edu](https://huggingface.co/datasets/HuggingFaceFW/finepdfs-edu) |
| | - **Script**: [uv-scripts/dataset-stats](https://huggingface.co/datasets/uv-scripts/dataset-stats) |
| |
|
