File size: 5,309 Bytes
af9853e |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 |
# 基于 BERT 的中文情感分析系统项目报告
> **Project Report: BERT-based Chinese Sentiment Analysis System**
> *此文档旨在辅助生成项目汇报 PPT，详细记录了从 0 到 1 的构建全过程。*
## 1. 项目背景与目标 (Project Background & Goals)
### 1.1 背景
随着互联网评论数据的爆炸式增长，如何自动识别中文文本背后的情感倾向（积极/消极/中性）成为关键需求。传统机器学习方法在语义理解上存在局限，因此本项目采用深度学习模型 BERT 进行构建。
### 1.2 核心目标
1. **高精度模型**：基于预训练 BERT 模型进行微调 (Fine-tuning)，实现对中文评论的精准分类。
2. **多领域覆盖**：融合通用语料 (clapAI) 与垂直领域语料 (中医/电商)，提升泛化能力。
3. **全流程落地**：包含数据清洗、模型训练、可视化监控、Web 交互演示及云端部署支持。
---
## 2. 技术架构 (Technical Architecture)
| 组件 (Component) | 技术选型 (Technology) | 说明 (Description) |
| :--- | :--- | :--- |
| **基础模型 (Base Model)** | **Google BERT (bert-base-chinese)** | 12层 Transformer 编码器，具有强大的中文语义理解能力。 |
| **深度学习框架 (DL Framework)** | **PyTorch + Hugging Face Transformers** | 提供灵活的模型构建与训练接口。 |
| **硬件加速 (Accelerator)** | **MPS (Apple Silicon) / CUDA (Cloud)** | 代码自动适配 Mac 本地加速与云端 NVIDIA GPU 加速。 |
| **交互界面 (Web UI)** | **Gradio** | 快速构建可视化的模型演示网页。 |
| **数据分析 (Analytics)** | **Matplotlib + Seaborn** | 用于绘制数据分布图与训练损失/准确率曲线。 |
---
## 3. 详细实施步骤 (Implementation Steps)
### 步骤一：环境搭建与硬件适配 (Environment Setup)
* **挑战**：在 Mac Mini (M系列芯片) 上实现高效训练。
* **解决方案**：利用 PyTorch 的 `mps` 后端，代码中实现了自动设备检测逻辑：优先使用 MPS (Mac)，其次 CUDA (NVIDIA)，最后 CPU。
* **成果**：在 Mac 本地环境下成功开启硬件加速，大幅缩短训练时间。
### 步骤二：数据工程 (Data Engineering)
* **多源异构数据融合**：
* **通用数据**：`clapAI/MultiLingualSentiment` (筛选中文部分)。
* **垂类数据**：`OpenModels/Chinese-Herbal-Medicine-Sentiment` (医疗/电商领域)。
* **数据清洗管道 (`src/dataset.py`)**：
* 剔除无效评论（如“默认好评”、“无填写内容”）。
* 过滤过短文本（长度 < 2）。
* **标签统一**：将不同数据集的标签统一映射为标准格式：`0 (Negative)`, `1 (Neutral)`, `2 (Positive)`。
* **优化**：实现了 **多进程 (Multiprocessing)** 数据处理，利用多核 CPU 加速 Tokenization（分词）过程。
### 步骤三：模型训练与微调 (Model Training)
* **策略**：全参数微调 (Full Fine-tuning)。
* **配置**：Batch Size 32, Learning Rate 2e-5, Epochs 3。
* **智能特性**：
* **实时监视 (`src/monitor.py`)**：专门编写监控脚本，读取 Checkpoint 日志，实时输出 Loss 和 Accuracy 变化。
* **断点续训**：支持从最新的 Checkpoint 恢复训练，防止意外中断导致前功尽弃。
* **云端适配 (`train_cloud.py`)**：生成了独立的单文件训练脚本，支持一键上传至 AutoDL/Colab 等云服务器，自动下载数据并利用 CUDA 极速训练。
### 步骤四：结果可视化与评估 (Visualization & Eval)
* **指标**：Accuracy (准确率), F1-Score (F1分数), Precision, Recall。
* **可视化 (`src/visualization.py`)**：
* **数据分布图**：通过饼图展示正负样本比例，确保数据平衡。
* **训练曲线**：自动绘制 Loss 下降曲线和 验证集 Accuracy 上升曲线，直观判断模型收敛情况。
### 步骤五：应用交付 (Deployment)
* **Web 演示 (`demo/web_demo.py`)**：
* 开发了基于 Gradio 的 Web 界面。
* 支持用户输入任意中文文本，实时返回情感倾向及置信度分数。
* 包含预设样例，方便快速测试。
* **交互式教程 (`notebooks/`)**：提供了详细注释的 Jupyter Notebook，用于教学和演示完整流程。
---
## 4. 项目亮点 (Project Highlights)
1. **跨平台兼容**：一套代码同时完美支持 Mac (MPS) 和 Linux/Windows (CUDA)。
2. **工程化规范**：目录结构清晰 (`src`, `data`, `results`, `checkpoints`)，模块化设计高。
3. **用户体验**：
* 训练过程不仅有进度条，还有专门的 Monitor 脚本。
* Web 界面美观易用，支持详细的分数展示。
* 云端脚本 `train_cloud.py` 极大降低了部署门槛。
---
## 5. 成果展示 (Results)
*(此部分可用于 PPT 插入截图)*
- **训练效果**：在验证集上 Accuracy 稳步提升（具体数值参考 Monitor 输出）。
- **演示界面**：Web UI 成功运行，能够准确识别“物流太慢”（消极）和“强烈推荐”（积极）等语义。
---
## 6. 如何运行 (Quick Start)
1. **本地训练**: `python -m src.train`
2. **开启监控**: `python src/monitor.py`
3. **启动演示**: `python demo/web_demo.py`
|