Upload README.md with huggingface_hub

README.md

@@ -1,55 +1,16 @@
 ---
 tags:
-- statistics
-- polars
-- finepdfs-edu
-- temporal-analysis
+  - statistics
+  - polars
+  - finepdfs-edu
+  - temporal-analysis
 license: odc-by
 configs:
-- config_name: global_stats
-  data_files:
-  - split: train
-    path: global_stats/train-*
-- config_name: temporal_stats
-  data_files:
-  - split: train
-    path: temporal_stats/train-*
+  - config_name: global_stats
+    data_files: global_stats/train-*.parquet
+  - config_name: temporal_stats
+    data_files: temporal_stats/train-*.parquet
 default_viewer_config: temporal_stats
-dataset_info:
-- config_name: global_stats
-  features:
-  - name: total_docs
-    dtype: int64
-  - name: total_tokens
-    dtype: int64
-  - name: avg_edu_score
-    dtype: float64
-  - name: high_edu_rate
-    dtype: float64
-  - name: num_dumps
-    dtype: int64
-  splits:
-  - name: train
-    num_bytes: 40
-    num_examples: 1
-  download_size: 2669
-  dataset_size: 40
-- config_name: temporal_stats
-  features:
-  - name: dump
-    dtype: large_string
-  - name: doc_count
-    dtype: uint32
-  - name: avg_edu_score
-    dtype: float64
-  - name: high_edu_rate
-    dtype: float64
-  splits:
-  - name: train
-    num_bytes: 4558
-    num_examples: 106
-  download_size: 5351
-  dataset_size: 4558
 ---
 
 # Is the Web Getting More Educational?
@@ -62,47 +23,47 @@ Temporal analysis of educational quality across 106 CommonCrawl dumps.
 High Educational Content (edu >= 3)
 ###############################################################
 ██████████████████████████████████                  11.2%  2013
-██████████████████████████████                       9.7%  2014
-█████████████████████████████                        9.6%  2015
-█████████████████████████████                        9.5%  2016
-███████████████████████████████████████████████     15.2%  2017
-█████████████████████████████████████████████       14.6%  2018
-█████████████████████████████████████████████       14.6%  2019
-██████████████████████████████████████████████      15.1%  2020
+██████████████████████████████                       9.9%  2014
+█████████████████████████████████                   10.8%  2015
+██████████████████████████████████                  11.1%  2016
+██████████████████████████████████████████████      15.0%  2017
+████████████████████████████████████████████        14.4%  2018
+█████████████████████████████████████████████       14.7%  2019
+██████████████████████████████████████████████      14.9%  2020
 ██████████████████████████████████████████████████  16.2%  2021
-██████████████████████████████████████████████      14.9%  2022
-████████████████████████████████████████████        14.5%  2023
-████████████████████████████████████████████████    15.5%  2024
-██████████████████████████████████████████████      15.1%  2025
+██████████████████████████████████████████████      15.2%  2022
+████████████████████████████████████████████        14.4%  2023
+████████████████████████████████████████████████    15.6%  2024
+████████████████████████████████████████████████    15.9%  2025
 
 Average Educational Score
 ##############################################################
-████████████████████████████████████████████████    2.00  2013
+███████████████████████████████████████████████     1.98  2013
 ██████████████████████████████████████████████      1.93  2014
-██████████████████████████████████████████████      1.92  2015
-█████████████████████████████████████████████       1.90  2016
+██████████████████████████████████████████████      1.94  2015
+██████████████████████████████████████████████      1.95  2016
 █████████████████████████████████████████████████   2.06  2017
-█████████████████████████████████████████████████   2.03  2018
+████████████████████████████████████████████████    2.03  2018
 █████████████████████████████████████████████████   2.03  2019
-█████████████████████████████████████████████████   2.04  2020
+█████████████████████████████████████████████████   2.03  2020
 ██████████████████████████████████████████████████  2.07  2021
-█████████████████████████████████████████████████   2.03  2022
+█████████████████████████████████████████████████   2.04  2022
 ████████████████████████████████████████████████    2.02  2023
-█████████████████████████████████████████████████   2.04  2024
-█████████████████████████████████████████████████   2.04  2025
+█████████████████████████████████████████████████   2.05  2024
+█████████████████████████████████████████████████   2.05  2025
 ```
 
 ## Key Finding
 
 | Period | Avg Edu Score | High Edu Rate |
 |--------|---------------|---------------|
-| CC-MAIN-2013-20 | 2.024 | 12.9% |
-| CC-MAIN-2025-08 | 2.059 | 15.8% |
+| CC-MAIN-2013-20 | 2.025 | 13.0% |
+| CC-MAIN-2025-08 | 2.065 | 16.3% |
 
 ## Performance
 
-- **500,000 documents** processed in **15 seconds**
-- **32,534 docs/sec** using Polars streaming
+- **5,000,000 documents** processed in **142 seconds**
+- **35,275 docs/sec** using Polars streaming
 - Single scan, no download of 300GB+ dataset
 
 ## Summary
@@ -110,10 +71,10 @@ Average Educational Score
 | Metric | Value |
 |--------|-------|
 | Scope | English (Latin script) |
-| Total Documents | 500,000 |
-| Total Tokens | 2,877,413,776 |
-| Avg Edu Score | 2.046 |
-| High Edu Rate | 15.2% |
+| Total Documents | 5,000,000 |
+| Total Tokens | 28,480,600,092 |
+| Avg Edu Score | 2.047 |
+| High Edu Rate | 15.3% |
 | CommonCrawl Dumps | 106 |
 
 ## Files