门户 URL 清单运行汇总
更新时间：2026-05-21 15:26 UTC
本轮按当前仓库默认范围完成门户 URL inventory：NASA 使用上一轮全量结果；NOAA 已用扩展官方子站 sitemap 配置重跑；Nature 已用修正后的无限制 sitemap 展开和并发 sitemap worker 重跑；Britannica 已使用用户提供的本地官方 sitemap zip 快照导入；其余默认站点使用 base run full-20260521T104705Z。默认范围排除了此前已下载过或禁用的 Wikipedia/Wikimedia、arXiv、PubMed/NCBI。
总览
| 站点 | 简介 | Run ID | 状态 | URL 数 | Manifest 记录 | robots | 备注 |
|---|---|---|---|---|---|---|---|
| NASA | 美国航天局官网，覆盖航天任务、科学新闻、教育和机构页面。 | nasa_full-20260521T104201Z |
已产出 | 92,761 | 208,426 | http_200 |
两个 sitemap 高度重叠，已按规范化 URL 去重。 |
| NOAA | 美国海洋和大气管理局门户，覆盖天气、海洋、气候和相关科学子站。 | noaa_full-noaa-expanded-v2-20260521T1415Z |
已产出 | 62,246 | 65,924 | http_403 |
扩展到多个 NOAA 官方网页子站 sitemap；仍不混入数据/API endpoint。 |
| Our World in Data | 开放数据与研究文章网站，主题包括人口、健康、经济、能源和环境。 | our_world_in_data_full-20260521T104705Z |
已产出 | 6,805 | 6,805 | http_200 |
sitemap 成功。 |
| Britannica | 在线百科与教育内容门户，包含主题词条、人物、事实页和专题集合。 | britannica_britannica-local-sitemaps-20260521T1525Z |
已产出 | 287,516 | 310,365 | not_checked_local_archive |
远程 sitemap 被 Cloudflare challenge；本轮解析本地 zip 快照。 |
| World Bank Data | 世界银行数据门户，提供国家、指标、主题和数据说明页面。 | world_bank_full-20260521T104705Z |
已产出 | 1,791 | 404,497 | http_200 |
大量 query 变体按默认规则归并去重。 |
| Nature | Springer Nature 科学出版门户，包含论文、新闻、主题和期刊页面。 | nature_full-nature-fixed-20260521T133747Z |
已产出 | 1,649,692 | 1,651,436 | http_200 |
修正旧版 max_sitemaps=200 截断问题，完整展开大型 sitemap index。 |
| WHO | 世界卫生组织官网，覆盖健康主题、fact sheet、出版物和数据入口。 | who_full-20260521T104705Z |
已产出 | 267,132 | 268,098 | http_200 |
sitemap index 成功。 |
| Smithsonian | 史密森尼机构门户，重点是博物馆、研究、藏品和开放访问记录。 | smithsonian_full-20260521T104705Z |
已跳过 | 0 | 0 | http_200 |
缺少 SMITHSONIAN_API_KEY，API 入口按设计 skipped。 |
| China Daily | 中国日报英文门户，覆盖中国、国际、商业、文化和专题新闻。 | china_daily_full-20260521T104705Z |
已产出但覆盖不足 | 26,544 | 27,298 | http_404 |
当前仅为 sitemap-only；公开 sitemap 偏旧，未覆盖 global.chinadaily.com.cn/a/ 现代文章页。 |
汇总：
- 已产出 URL 的站点：8 个
- 未产出但完成审计的站点：1 个
- 最终 URL 总数：2,394,487
- Manifest 记录总数：2,942,849
- 所有已产出站点 validate 均为
ok=true
输出结构
每个已运行 source 都使用独立目录：
outputs/<source>_<run-id>/
├── urls/
│ ├── part-00000.txt.gz
│ └── index.json
├── manifests/
│ ├── part-00000.jsonl.gz
│ └── index.json
└── run_summary.json
urls/part-xxxxx.txt.gz 是交给爬虫团队的 URL 清单。manifests/part-xxxxx.jsonl.gz 保留候选 URL、发现入口、过滤原因等审计信息。
逐站报告
待处理事项
- Smithsonian：需要配置
SMITHSONIAN_API_KEY后重跑，才能从 Open Access API 生成 URL。 - World Bank Data：如需保留带 query 的国家/指标变体页面，需要调整
keep_query_params策略后重跑。 - NOAA：NWS/weather.gov 当前未发现可直接读取的公开 sitemap；NCEI/NWS 等数据/API 记录建议拆成单独 data/API inventory，不混入网页 URL txt。
- China Daily：当前 sitemap-only 结果偏低；需要增加受控栏目分页清单策略，枚举官方栏目
page_N.html，只提取正文 URL 正则匹配结果，不递归正文链接。