RRFRRF2's picture
add models
cd37439

TextRNN 可视化实验脚本

基于原始 Chinese-Text-Classification-Pytorch 仓库重构的 TextRNN 训练脚本,专门用于可视化实验。

目录结构

Classification/
├── scripts/           # 脚本文件
│   ├── model.py      # 模型定义,包含feature、get_prediction、prediction函数
│   ├── train.py      # 训练脚本,支持多卡训练
│   ├── train.yaml    # 训练配置文件
│   ├── dataset_utils.py  # 数据集处理工具
│   └── get_label.py  # 标签提取脚本
├── dataset/          # 数据集文件
│   ├── train.txt     # 训练数据
│   ├── dev.txt       # 验证数据
│   ├── test.txt      # 测试数据
│   ├── class.txt     # 类别列表
│   ├── vocab.pkl     # 词汇表
│   └── labels.npy    # 提取的标签
└── epochs/           # 按epoch存放模型文件和特征向量
    ├── epoch_1/
    │   ├── model.pt      # 模型权重
    │   ├── embeddings.npy # 特征向量
    │   └── predictions.npy # 预测值
    └── epoch_2/
        └── ...

功能说明

1. model.py

  • Model类: TextRNN模型实现
  • feature(): 提取中间层特征向量(dropout层输出),用于可视化
  • get_prediction(): 获取模型最终层输出向量(logits)
  • prediction(): 根据中间特征向量预测结果

2. train.py

  • 支持多GPU训练
  • 每个epoch自动保存模型、特征向量、预测值到 epochs/epoch_N/
  • 支持配置文件驱动训练
  • 实时显示训练进度和验证结果

3. dataset_utils.py

  • 数据集加载和预处理
  • 词汇表构建
  • 数据迭代器实现

4. get_label.py

  • 提取数据集标签并保存为 labels.npy
  • 生成类别名称映射文件

使用方法

1. 准备数据集

将THUCNews数据集放入 dataset/ 目录:

# 数据格式:每行一个样本,用tab分隔文本和标签
text1\t0
text2\t1
...

2. 提取标签

cd scripts
python get_label.py --config train.yaml --output ../dataset

3. 训练模型

cd scripts
python train.py --config train.yaml

4. 配置文件说明

编辑 scripts/train.yaml 来调整训练参数:

dataset_path: "../dataset"    # 数据集路径
num_epochs: 20               # 训练轮数
batch_size: 128              # 批次大小
learning_rate: 0.001         # 学习率
use_word: false              # false=字符级,true=词级
epochs_dir: "../epochs"      # 模型保存路径

可视化数据

训练完成后,每个epoch的数据保存在 epochs/epoch_N/ 中:

  • model.pt: 模型权重文件
  • embeddings.npy: 特征向量矩阵 (N_samples, feature_dim)
  • predictions.npy: 预测值矩阵 (N_samples, num_classes)

这些数据可以直接用于可视化分析,如t-SNE降维、特征分布分析等。

多GPU训练

脚本自动检测可用GPU数量并启用多GPU训练:

# 自动使用所有可用GPU
if torch.cuda.device_count() > 1:
    model = nn.DataParallel(model)

依赖要求

pip install torch numpy scikit-learn tqdm pyyaml