Search is not available for this dataset
total_docs
int64 | total_tokens
int64 | avg_edu_score
float64 | high_edu_rate
float64 | num_dumps
int64 |
|---|---|---|---|---|
211,328
| 2,604,770,921
| 1.720312
| 0.1017
| 105
|
Is the Web Getting More Educational?
Temporal analysis of educational quality in fin_Latn across 105 CommonCrawl dumps.
Trend
High Educational Content (edu >= 3)
###############################################################
█████████████████ 4.0% 2013
████████████████████████████ 6.6% 2014
0.0% 2015
█████████████████████████ 5.9% 2016
████████████████████████████████████████ 9.5% 2017
██████████████████████████████████████ 8.9% 2018
█████████████████████████████████ 7.8% 2019
██████████████████████████████████ 8.0% 2020
███████████████████████████████████████████ 10.1% 2021
█████████████████████████████████████████████ 10.7% 2022
███████████████████████████████████████████████ 11.1% 2023
███████████████████████████████████████████████ 11.0% 2024
██████████████████████████████████████████████████ 11.6% 2025
Average Educational Score
##############################################################
████████████████████████████████████████████ 1.55 2013
█████████████████████████████████████████████ 1.59 2014
██████████████████████████████████████ 1.35 2015
██████████████████████████████████████████████ 1.63 2016
█████████████████████████████████████████████████ 1.75 2017
████████████████████████████████████████████████ 1.69 2018
██████████████████████████████████████████████ 1.65 2019
███████████████████████████████████████████████ 1.65 2020
████████████████████████████████████████████████ 1.71 2021
█████████████████████████████████████████████████ 1.73 2022
█████████████████████████████████████████████████ 1.75 2023
█████████████████████████████████████████████████ 1.74 2024
██████████████████████████████████████████████████ 1.76 2025
Key Finding
| Year | Avg Edu Score | High Edu Rate |
|---|---|---|
| 2013 | 1.55 | 4.0% |
| 2025 | 1.76 | 11.6% |
Performance
- 211,328 documents processed in 6 seconds
- 37,679 docs/sec using Polars streaming
- Single scan, no full dataset download required
Summary
| Metric | Value |
|---|---|
| Scope | fin_Latn |
| Total Documents | 211,328 |
| Total Tokens | 2,604,770,921 |
| Avg Edu Score | 1.720 |
| High Edu Rate | 10.2% |
| CommonCrawl Dumps | 105 |
Files
global_stats- Overall summarytemporal_stats- Per-dump breakdown (sorted chronologically)
Reproduce
uv run https://huggingface.co/datasets/uv-scripts/dataset-stats/raw/main/finepdfs-stats.py \
--lang fin_Latn --output-repo your-username/stats
Source
- Dataset: HuggingFaceFW/finepdfs-edu
- Script: uv-scripts/dataset-stats
- Downloads last month
- -