Upload README.md with huggingface_hub

README.md

@@ -1,108 +1,69 @@
 ---
 tags:
-- statistics
-- polars
-- finepdfs-edu
-- temporal-analysis
+  - statistics
+  - polars
+  - finepdfs-edu
+  - temporal-analysis
 license: odc-by
 configs:
-- config_name: global_stats
-  data_files:
-  - split: train
-    path: global_stats/train-*
-- config_name: temporal_stats
-  data_files:
-  - split: train
-    path: temporal_stats/train-*
+  - config_name: global_stats
+    data_files: global_stats/train-*.parquet
+  - config_name: temporal_stats
+    data_files: temporal_stats/train-*.parquet
 default_viewer_config: temporal_stats
-dataset_info:
-- config_name: global_stats
-  features:
-  - name: total_docs
-    dtype: int64
-  - name: total_tokens
-    dtype: int64
-  - name: avg_edu_score
-    dtype: float64
-  - name: high_edu_rate
-    dtype: float64
-  - name: num_dumps
-    dtype: int64
-  splits:
-  - name: train
-    num_bytes: 40
-    num_examples: 1
-  download_size: 2669
-  dataset_size: 40
-- config_name: temporal_stats
-  features:
-  - name: dump
-    dtype: large_string
-  - name: doc_count
-    dtype: uint32
-  - name: avg_edu_score
-    dtype: float64
-  - name: high_edu_rate
-    dtype: float64
-  splits:
-  - name: train
-    num_bytes: 4558
-    num_examples: 106
-  download_size: 5349
-  dataset_size: 4558
 ---
 
 # Is the Web Getting More Educational?
 
-Temporal analysis of educational quality across 51 CommonCrawl dumps.
+Temporal analysis of educational quality across 106 CommonCrawl dumps.
 
 ## Trend
 
 ```
 High Educational Content (edu >= 3)
 ###############################################################
-███████                                              2.9%  2013
-██████████████████████████████████████████████████  18.8%  2014
-█████████████████████████                            9.4%  2015
-                                                     0.0%  2016
-████████████████████████████████████████████        16.8%  2017
-███████████████████████████████████                 13.3%  2018
-███████████████████████████████                     11.7%  2019
-██████████████████████████████████████████          15.8%  2020
-███████████████████████████████████                 13.5%  2021
-█████████████████████████████████████████████████   18.6%  2022
-█████████████████████████████████████               14.2%  2023
-██████████████████████████████████                  13.0%  2024
-████████████████                                     6.3%  2025
+██████████████████████████████████                  11.2%  2013
+██████████████████████████████                       9.7%  2014
+█████████████████████████████                        9.6%  2015
+█████████████████████████████                        9.5%  2016
+███████████████████████████████████████████████     15.2%  2017
+█████████████████████████████████████████████       14.6%  2018
+█████████████████████████████████████████████       14.6%  2019
+██████████████████████████████████████████████      15.1%  2020
+██████████████████████████████████████████████████  16.2%  2021
+██████████████████████████████████████████████      14.9%  2022
+████████████████████████████████████████████        14.5%  2023
+████████████████████████████████████████████████    15.5%  2024
+████████████████████████████████���█████████████      15.1%  2025
 
 Average Educational Score
 ##############################################################
-███████████████████████████████████                 1.70  2013
-████████████████████████████████████████████        2.11  2014
-█████████████████████████████████████████           1.95  2015
-██████████████████████████████████████████████████  2.36  2016
-█████████████████████████████████████████████       2.14  2017
-████████████████████████████████████████████        2.08  2018
-███████████████████████████████████████████         2.04  2019
-███████████████████████████████████████████         2.07  2020
-██████████████████████████████████████████          2.00  2021
-█████████████████████████████████████████████       2.13  2022
-██████████████████████████████████████████          2.00  2023
-████████████████████████████████████████████        2.12  2024
-█████████████████████████████████████               1.75  2025
+████████████████████████████████████████████████    2.00  2013
+██████████████████████████████████████████████      1.93  2014
+██████████████████████████████████████████████      1.92  2015
+█████████████████████████████████████████████       1.90  2016
+█████████████████████████████████████████████████   2.06  2017
+█████████████████████████████████████████████████   2.03  2018
+█████████████████████████████████████████████████   2.03  2019
+█████████████████████████████████████████████████   2.04  2020
+██████████████████████████████████████████████████  2.07  2021
+█████████████████████████████████████████████████   2.03  2022
+████████████████████████████████████████████████    2.02  2023
+█████████████████████████████████████████████████   2.04  2024
+█████████████████████████████████████████████████   2.04  2025
 ```
 
 ## Key Finding
 
 | Period | Avg Edu Score | High Edu Rate |
 |--------|---------------|---------------|
-| CC-MAIN-2013-48 | 1.695 | 2.9% |
-| CC-MAIN-2025-08 | 2.058 | 12.7% |
+| CC-MAIN-2013-20 | 2.024 | 12.9% |
+| CC-MAIN-2025-08 | 2.059 | 15.8% |
 
 ## Performance
 
-- **5,000 documents** processed in **0 seconds**
-- **11,846 docs/sec** using Polars streaming
+- **500,000 documents** processed in **15 seconds**
+- **32,534 docs/sec** using Polars streaming
 - Single scan, no download of 300GB+ dataset
 
 ## Summary
@@ -110,11 +71,11 @@ Average Educational Score
 | Metric | Value |
 |--------|-------|
 | Scope | English (Latin script) |
-| Total Documents | 5,000 |
-| Total Tokens | 16,112,277 |
-| Avg Edu Score | 2.084 |
-| High Edu Rate | 15.8% |
-| CommonCrawl Dumps | 51 |
+| Total Documents | 500,000 |
+| Total Tokens | 2,877,413,776 |
+| Avg Edu Score | 2.046 |
+| High Edu Rate | 15.2% |
+| CommonCrawl Dumps | 106 |
 
 ## Files