README.md

# TFMF LoRA 训练与 Web Search 代理

## 1. LoRA 训练脚本

训练脚本已改为可命令行参数模式，直接指定训练数据目录、输出目录和基座模型目录。

示例用法：

```bash
cd /data/coding
python TFMF/train_lora_auto.py \
  --data-dir ./TFMF/dataset \
  --output-dir ./TFMF/lora_adapters/teacher_chinese_auto \
  --model-path /data/coding/TFMF \
  --epochs 3 \
  --batch-size 8 \
  --gradient-accumulation-steps 2 \
  --learning-rate 2e-4
```

如果只想使用单个文件：

```bash
python TFMF/train_lora_auto.py \
  --data-path ./TFMF/dataset/语文教师_语文_高二_v1.jsonl \
  --output-dir ./TFMF/lora_adapters/teacher_chinese_auto
```

脚本会自动加载 `--data-dir` 目录下所有 `.jsonl` 文件，并按 `--validation-split` 比例切分训练/验证集。

默认会保存最终适配器到：

```bash
./TFMF/lora_adapters/teacher_chinese_auto/final
```


## 2. loss 打印说明

当前 `train_lora_auto.py` 默认 `logging_steps=10`，也就是：

- 每 10 个训练 step 打印一次训练 loss
- 如果训练总步数不超过 10，则可能只打印一次训练 loss
- 终端输出中的 `loss` 是训练过程中的中间 loss
- `eval_loss` 是验证集 loss
- `train_loss` 是训练结束后的整体平均 loss

如果需要更多频次的 loss 输出，可以在运行时手动指定更小的参数，例如：

```bash
python TFMF/train_lora_auto.py \
  --data-path ./TFMF/dataset/语文教师_语文_高二_v1.jsonl \
  --output-dir ./TFMF/lora_adapters/teacher_chinese_auto \
  --logging-steps 2
```


## 3. Web Search 评估脚本

新增 `TFMF/eval_lora_auto.py`，用于加载基座模型和 LoRA 适配器，并通过提示词注入 + Tavily 联网进行评估。

运行前先设置 API Key：

```bash
export TAVILY_API_KEY="tvly-xxx"
```

评估测试数据模式：

```bash
cd /data/coding
python TFMF/eval_lora_auto.py \
  --model-path /data/coding/TFMF \
  --adapter-path ./TFMF/lora_adapters/teacher_chinese_auto/final \
  --tavily-api-key "$TAVILY_API_KEY" \
  --data-path ./TFMF/dataset/语文教师_语文_高二_v1.jsonl \
  --n-samples 3
```

交互模式：

```bash
python TFMF/eval_lora_auto.py \
  --model-path /data/coding/TFMF \
  --adapter-path ./TFMF/lora_adapters/teacher_chinese_auto/final \
  --tavily-api-key "$TAVILY_API_KEY" \
  --interactive
```


## 4. 目录结构建议

- 训练数据放在一个文件夹里，例如 `TFMF/dataset/`
- LoRA 输出放到 `TFMF/lora_adapters/your_adapter_name/`
- 评估脚本加载 `.../final` 下的 LoRA 适配器


## 5. 客户端使用说明

1. 使用 `_auto` 后缀的 `train_lora.py` 和 `eval_lora_auto.py`
2. 将训练数据放到一个文件夹，例如 `TFMF/dataset/`。
3. 运行 `train_lora_auto.py`，指定 `--data-dir` 或 `--data-path`，并指定 `--output-dir`。
4. 训练完成后，确认 `./TFMF/lora_adapters/teacher_chinese_auto/final` 已生成。
5. 使用 `python TFMF/eval_lora_auto.py` 加载模型并进行联网评估。
6. 如果需要实时提问，可加上 `--interactive` 进入交互模式。
7. 未来不一定需要用tavily，作为演示我选择用免费1000次/月的tavily，未来需要改动的时候改 `eval_lora_auto.py` 里的api调用部分即可
8. 项目可能做的不够完善，有问题联系我我来继续完善