anke01/uyghur_website_crawel

Uyghur News Dataset

维吾尔语新闻数据集

数据集描述

本数据集包含从维吾尔语新闻网站爬取的文章，适用于维吾尔语自然语言处理任务。

数据规模

• 总文章数: 28,140 篇
• 数据格式: JSONL (每行一个JSON对象)
• 文件大小: ~174 MB

数据来源

来源	数量	域名
努尔网	27,748 篇	nur.cn
天山网维语版	392 篇	uy.ts.cn

字段说明

{
  "title": "文章标题 (维吾尔语)",
  "content": "文章内容 (维吾尔语)",
  "link": "原文链接 URL"
}

使用示例

import json

with open('complete_uyghur_dataset.jsonl', 'r', encoding='utf-8') as f:
    for line in f:
        data = json.loads(line)
        print(f"标题: {data['title']}")
        print(f"内容: {data['content'][:100]}...")
        print(f"链接: {data['link']}")

爬虫脚本

包含两个爬虫脚本，可用于更新数据：

• nur_scraper.py - 努尔网爬虫
• uyts_scraper.py - 天山网爬虫

许可证

数据来源于公开新闻网站，仅供研究使用。

引用

@dataset{uyghur_news_dataset,
  title = {Uyghur News Dataset},
  year = {2026},
  source = {nur.cn, uy.ts.cn}
}