| # 门户 URL 清单运行汇总 |
|
|
| 更新时间：2026-05-21 15:26 UTC |
|
|
| 本轮按当前仓库默认范围完成门户 URL inventory：NASA 使用上一轮全量结果；NOAA 已用扩展官方子站 sitemap 配置重跑；Nature 已用修正后的无限制 sitemap 展开和并发 sitemap worker 重跑；Britannica 已使用用户提供的本地官方 sitemap zip 快照导入；其余默认站点使用 base run `full-20260521T104705Z`。默认范围排除了此前已下载过或禁用的 Wikipedia/Wikimedia、arXiv、PubMed/NCBI。 |
|
|
| ## 总览 |
|
|
| | 站点 | 简介 | Run ID | 状态 | URL 数 | Manifest 记录 | robots | 备注 | |
| |---|---|---|---|---:|---:|---|---| |
| | [NASA](https://www.nasa.gov/) | 美国航天局官网，覆盖航天任务、科学新闻、教育和机构页面。 | `nasa_full-20260521T104201Z` | 已产出 | 92,761 | 208,426 | `http_200` | 两个 sitemap 高度重叠，已按规范化 URL 去重。 | |
| | [NOAA](https://www.noaa.gov/) | 美国海洋和大气管理局门户，覆盖天气、海洋、气候和相关科学子站。 | `noaa_full-noaa-expanded-v2-20260521T1415Z` | 已产出 | 62,246 | 65,924 | `http_403` | 扩展到多个 NOAA 官方网页子站 sitemap；仍不混入数据/API endpoint。 | |
| | [Our World in Data](https://ourworldindata.org/) | 开放数据与研究文章网站，主题包括人口、健康、经济、能源和环境。 | `our_world_in_data_full-20260521T104705Z` | 已产出 | 6,805 | 6,805 | `http_200` | sitemap 成功。 | |
| | [Britannica](https://www.britannica.com/) | 在线百科与教育内容门户，包含主题词条、人物、事实页和专题集合。 | `britannica_britannica-local-sitemaps-20260521T1525Z` | 已产出 | 287,516 | 310,365 | `not_checked_local_archive` | 远程 sitemap 被 Cloudflare challenge；本轮解析本地 zip 快照。 | |
| | [World Bank Data](https://data.worldbank.org/) | 世界银行数据门户，提供国家、指标、主题和数据说明页面。 | `world_bank_full-20260521T104705Z` | 已产出 | 1,791 | 404,497 | `http_200` | 大量 query 变体按默认规则归并去重。 | |
| | [Nature](https://www.nature.com/) | Springer Nature 科学出版门户，包含论文、新闻、主题和期刊页面。 | `nature_full-nature-fixed-20260521T133747Z` | 已产出 | 1,649,692 | 1,651,436 | `http_200` | 修正旧版 `max_sitemaps=200` 截断问题，完整展开大型 sitemap index。 | |
| | [WHO](https://www.who.int/) | 世界卫生组织官网，覆盖健康主题、fact sheet、出版物和数据入口。 | `who_full-20260521T104705Z` | 已产出 | 267,132 | 268,098 | `http_200` | sitemap index 成功。 | |
| | [Smithsonian](https://www.si.edu/) | 史密森尼机构门户，重点是博物馆、研究、藏品和开放访问记录。 | `smithsonian_full-20260521T104705Z` | 已跳过 | 0 | 0 | `http_200` | 缺少 `SMITHSONIAN_API_KEY`，API 入口按设计 skipped。 | |
| | [China Daily](https://www.chinadaily.com.cn/) | 中国日报英文门户，覆盖中国、国际、商业、文化和专题新闻。 | `china_daily_full-20260521T104705Z` | 已产出但覆盖不足 | 26,544 | 27,298 | `http_404` | 当前仅为 sitemap-only；公开 sitemap 偏旧，未覆盖 `global.chinadaily.com.cn/a/` 现代文章页。 | |
|
|
| 汇总： |
|
|
| - 已产出 URL 的站点：8 个 |
| - 未产出但完成审计的站点：1 个 |
| - 最终 URL 总数：2,394,487 |
| - Manifest 记录总数：2,942,849 |
| - 所有已产出站点 validate 均为 `ok=true` |
|
|
| ## 输出结构 |
|
|
| 每个已运行 source 都使用独立目录： |
|
|
| ```text |
| outputs/<source>_<run-id>/ |
| ├── urls/ |
| │ ├── part-00000.txt.gz |
| │ └── index.json |
| ├── manifests/ |
| │ ├── part-00000.jsonl.gz |
| │ └── index.json |
| └── run_summary.json |
| ``` |
|
|
| `urls/part-xxxxx.txt.gz` 是交给爬虫团队的 URL 清单。`manifests/part-xxxxx.jsonl.gz` 保留候选 URL、发现入口、过滤原因等审计信息。 |
|
|
| ## 逐站报告 |
|
|
| - [NASA](portal/nasa_full_20260521T104201Z.md) |
| - [NOAA](portal/noaa_full_noaa_expanded_v2_20260521T1415Z.md) |
| - [Our World in Data](portal/our_world_in_data_full_20260521T104705Z.md) |
| - [Britannica](portal/britannica_local_sitemaps_20260521T1525Z.md) |
| - [World Bank Data](portal/world_bank_full_20260521T104705Z.md) |
| - [Nature](portal/nature_full_nature_fixed_20260521T133747Z.md) |
| - [WHO](portal/who_full_20260521T104705Z.md) |
| - [Smithsonian](portal/smithsonian_full_20260521T104705Z.md) |
| - [China Daily](portal/china_daily_full_20260521T104705Z.md) |
|
|
| ## 待处理事项 |
|
|
| - Smithsonian：需要配置 `SMITHSONIAN_API_KEY` 后重跑，才能从 Open Access API 生成 URL。 |
| - World Bank Data：如需保留带 query 的国家/指标变体页面，需要调整 `keep_query_params` 策略后重跑。 |
| - NOAA：NWS/weather.gov 当前未发现可直接读取的公开 sitemap；NCEI/NWS 等数据/API 记录建议拆成单独 data/API inventory，不混入网页 URL txt。 |
| - China Daily：当前 sitemap-only 结果偏低；需要增加受控栏目分页清单策略，枚举官方栏目 `page_N.html`，只提取正文 URL 正则匹配结果，不递归正文链接。 |
|
|
