Upload 6 files

.gitattributes

@@ -0,0 +1,3 @@
+Data_totalQCAtriples30K/30ktrain.json filter=lfs diff=lfs merge=lfs -text
+Datatest1k/testorgin1k.json filter=lfs diff=lfs merge=lfs -text
+Datatrain29k/29kcorpustag.json filter=lfs diff=lfs merge=lfs -text

Data_totalQCAtriples30K/30ktrain.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:a1989e727e0bb58732b6cd569c87fe2e474816d69064d0769f34cd307544d2fa
+size 11786416

Datatest1k/testorgin1k.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:a1989e727e0bb58732b6cd569c87fe2e474816d69064d0769f34cd307544d2fa
+size 11786416

Datatrain29k/29kcorpustag.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:a1989e727e0bb58732b6cd569c87fe2e474816d69064d0769f34cd307544d2fa
+size 11786416

README.md

@@ -0,0 +1,239 @@
+# HVU_QA_NLP
+
+**HVU_QA_NLP** is a project dedicated to sharing datasets and tools for **Question Generation Processing (NLP)**, developed and maintained by the research team at **Hung Vuong University (HVU), Phu Tho, Vietnam**.  
+This project is supported by **Hung Vuong University, Phu Tho, Vietnam**, with the aim of advancing research and applications in low-resource language processing, particularly for the Vietnamese language.
+
+---
+
+## 📚 Overview
+
+This repository enables you to:
+1. Fine-tune the [VietAI/vit5-base](https://huggingface.co/VietAI/vit5-base) model on your own QA dataset.
+2. Generate multiple, diverse questions given a user-provided text passage (context).
+
+---
+
+## 📁 Dataset Format
+
+Your dataset must follow the **SQuAD v2.0** JSON structure:
+
+```json
+{
+  "version": "v2.0",
+  "data": [
+    {
+      "title": "Đồ uống nào của Việt Nam từng lọt top ngon nhất thế giới?",
+      "paragraphs": [
+        {
+          "qas": [
+            {
+              "id": "q1_1",
+              "question": "Đồ uống nào của Việt Nam từng lọt top ngon nhất thế giới?",
+              "answers": [
+                {
+                  "text": "Theo bản đánh giá tháng 2/2023 của Taste Atlas...",
+                  "answer_start": "Theo bản đánh giá tháng 2/2023 của Taste Atlas..."
+                }
+              ],
+              "is_impossible": false
+            }
+          ]
+        }
+      ]
+    }
+  ]
+}
+```
+
+**Required fields:**
+- `title` → used as context
+- `question` → target question
+- `answers[0].text` → seed answer for training
+- `is_impossible` → filter for valid QAs
+
+**File name:** `30ktrain.json` (UTF-8)
+
+---
+
+## 📁 Datasets
+
+This repository provides datasets for **training** and **evaluating** Vietnamese question generation models.
+
+### 🔹 `DataTotalQCAtriples30k/`
+- **`30ktrain.json`** → 30,000 QCA triples for training.
+
+### 🔹 `Datatest1k/`
+- **`testorgin1k.json`** → 1,000 examples for manual & automatic evaluation.
+
+### 🔹 `Datatrain29k/`
+- **`29kcorpustag.json`** → 29,000 preprocessed QCA triples.
+
+> All files are UTF-8 encoded and ready for direct use in NLP pipelines.
+
+---
+
+## 📊 Evaluation Results
+
+We performed **manual evaluation on 500 samples** and **automatic evaluation on 1,000 samples**.
+
+| Evaluation Type  | Precision | Recall | F1-Score |
+|------------------|-----------|--------|----------|
+| Automatic (1000) | 0.85      | 0.83   | 0.84     |
+| Manual (500)     | 0.88      | 0.86   | 0.87     |
+
+---
+
+## 🔧 Installation
+
+Create a virtual environment and install dependencies:
+
+### Windows (PowerShell)
+```powershell
+python -m venv .venv
+.venv\Scripts\Activate.ps1
+python -m pip install --upgrade pip
+pip install torch transformers datasets scikit-learn
+```
+
+### Linux / macOS
+```bash
+python3 -m venv .venv
+source .venv/bin/activate
+python -m pip install --upgrade pip
+pip install torch transformers datasets scikit-learn
+```
+
+---
+
+## 🚀 Training (Fine-tuning)
+
+Make sure `30ktrain.json` is in the same folder as `fine_tune_qg.py`.
+
+Run:
+```bash
+python fine_tune_qg.py
+```
+
+**What happens:**
+- Loads `30ktrain.json`
+- Splits into 80% train / 20% validation
+- Tokenizes using `T5Tokenizer`
+- Fine-tunes `VietAI/vit5-base` for 3 epochs
+- Saves model + tokenizer to `t5-viet-qg-finetuned/`
+
+**Key training parameters** (edit in `fine_tune_qg.py` if needed):
+- `per_device_train_batch_size`: 1
+- `learning_rate`: 2e-4
+- `num_train_epochs`: 3
+- `max_input_length`: 512
+- `max_target_length`: 64
+
+---
+
+## 💡 Generating Questions
+
+Once training is done, use `generate_question.py` to generate new questions.
+
+Ensure:
+- `MODEL_DIR` → `t5-viet-qg-finetuned/`
+- `DATA_PATH` → `30ktrain.json`
+
+Run:
+```bash
+python generate_question.py
+```
+
+Steps:
+1. Enter a context passage (Vietnamese)
+2. Enter number of questions (default 20, max 200)
+3. Script will:
+   - Find best match in dataset by title similarity
+   - Use matched answer + your context
+   - Generate multiple unique questions with top-k & top-p sampling
+4. Output lists generated questions.
+
+---
+
+## ⚙️ Generation Settings
+
+In `generate_question.py`, tweak:
+- `top_k` (default 60)
+- `top_p` (default 0.95)
+- `temperature` (default 0.9)
+- `no_repeat_ngram_size` (default 3)
+- `repetition_penalty` (default 1.12)
+
+---
+
+## 📂 Project Structure
+
+```
+.
+├── fine_tune_qg.py
+├── generate_question.py
+├── 30ktrain.json
+├── t5-viet-qg-finetuned/
+├── README.md
+└── LICENSE
+```
+
+---
+
+## 🔍 Example Usage
+
+**Training**
+```bash
+python fine_tune_qg.py
+```
+
+**Generating**
+```bash
+python generate_question.py
+```
+
+Example:
+```
+Nhập đoạn văn bản:
+ Cà phê sữa đá là đồ uống nổi tiếng ở Việt Nam.
+
+Nhập vào số lượng câu hỏi bạn cần: 5
+
+✅ Các câu hỏi mới được sinh ra:
+1. Loại cà phê nào nổi tiếng ở Việt Nam?
+2. Tại sao cà phê sữa đá được yêu thích?
+3. Cà phê sữa đá gồm những nguyên liệu gì?
+4. Nguồn gốc của cà phê sữa đá là từ đâu?
+5. Cà phê sữa đá Việt Nam được pha chế như thế nào?
+```
+
+---
+
+## 🤝 Contribution
+
+You’re welcome to:
+- Open issues
+- Submit pull requests
+- Suggest new datasets
+
+---
+
+## 📄 License
+
+Licensed under the MIT License – see the `LICENSE` file for details.
+
+---
+
+## 📬 Contact
+
+- **Ha Nguyen-Tien** (Corresponding author)  
+  Email: nguyentienha@hvu.edu.vn  
+
+- **Phuc Le-Hong**  
+  Email: Lehongphuc20021408@gmail.com
+
+- **DANG DO CAO**  
+  Email: docaodang532001@gmail.com
+
+---
+
+*This repository is part of an effort to advance Vietnamese NLP by making question generation more accessible for researchers and developers.*

fine_tune_qg.py

@@ -0,0 +1,102 @@
+import json
+from datasets import Dataset
+from sklearn.model_selection import train_test_split
+from transformers import (
+    T5Tokenizer,
+    T5ForConditionalGeneration,
+    TrainingArguments,
+    Trainer
+)
+
+def load_squad_data(file_path):
+    with open(file_path, "r", encoding="utf-8") as f:
+        squad_data = json.load(f)
+
+    data = []
+    for article in squad_data["data"]:
+        context = article.get("title", "")
+        for paragraph in article["paragraphs"]:
+            for qa in paragraph["qas"]:
+                if not qa.get("is_impossible", False) and qa.get("answers"):
+                    answer = qa["answers"][0]["text"]
+                    question = qa["question"]
+                    input_text = f"answer: {answer} context: {context}"
+                    data.append({"input": input_text, "target": question})
+    return data
+
+def preprocess_function(example, tokenizer, max_input_length=512, max_target_length=64):
+    model_inputs = tokenizer(
+        example["input"],
+        max_length=max_input_length,
+        padding="max_length",
+        truncation=True,
+    )
+    labels = tokenizer(
+        text_target=example["target"],
+        max_length=max_target_length,
+        padding="max_length",
+        truncation=True,
+    )
+    model_inputs["labels"] = labels["input_ids"]
+    return model_inputs
+
+def main():
+    data_path = "30ktrain.json"
+    output_dir = "t5-viet-qg-finetuned"
+    logs_dir = "logs"
+    model_name = "VietAI/vit5-base"
+
+    print("📥 Tải mô hình và tokenizer...")
+    tokenizer = T5Tokenizer.from_pretrained(model_name)
+    model = T5ForConditionalGeneration.from_pretrained(model_name)
+
+    print("📚 Đọc và chia dữ liệu...")
+    raw_data = load_squad_data(data_path)
+    train_data, val_data = train_test_split(raw_data, test_size=0.2, random_state=42)
+
+    train_dataset = Dataset.from_list(train_data)
+    val_dataset = Dataset.from_list(val_data)
+
+    tokenized_train = train_dataset.map(
+        lambda x: preprocess_function(x, tokenizer),
+        batched=True,
+        remove_columns=["input", "target"]
+    )
+    tokenized_val = val_dataset.map(
+        lambda x: preprocess_function(x, tokenizer),
+        batched=True,
+        remove_columns=["input", "target"]
+    )
+
+    print("⚙️ Cấu hình huấn luyện...")
+    training_args = TrainingArguments(
+        output_dir=output_dir,
+        overwrite_output_dir=True,
+        per_device_train_batch_size=1,
+        gradient_accumulation_steps=1,
+        num_train_epochs=3,
+        learning_rate=2e-4,
+        weight_decay=0.01,
+        warmup_steps=0,
+        logging_dir=logs_dir,
+        logging_steps=10,
+        fp16=False
+    )
+
+    print("🚀 Huấn luyện mô hình...")
+    trainer = Trainer(
+        model=model,
+        args=training_args,
+        train_dataset=tokenized_train,
+        eval_dataset=tokenized_val,  # vẫn truyền để bạn có thể eval thủ công sau
+        tokenizer=tokenizer,
+    )
+    trainer.train()
+
+    print("💾 Lưu mô hình...")
+    model.save_pretrained(output_dir)
+    tokenizer.save_pretrained(output_dir)
+    print("✅ Huấn luyện hoàn tất!")
+
+if __name__ == "__main__":
+    main()

generate_question.py

@@ -0,0 +1,154 @@
+# generate_question.py
+import json
+from difflib import SequenceMatcher
+from transformers import T5Tokenizer, T5ForConditionalGeneration
+from transformers.utils import logging as hf_logging
+
+# ===== Giảm ồn cảnh báo của transformers =====
+hf_logging.set_verbosity_error()
+
+# ===== Cấu hình đường dẫn =====
+MODEL_DIR = "t5-viet-qg-finetuned"  # thư mục model đã fine-tune
+DATA_PATH = "30ktrain.json"        # file JSON dữ liệu gốc
+
+# ===== Load model & tokenizer 1 lần =====
+tokenizer = T5Tokenizer.from_pretrained(MODEL_DIR)
+model = T5ForConditionalGeneration.from_pretrained(MODEL_DIR)
+
+def find_best_match_from_context(user_context, squad_data):
+    """
+    Tìm bản ghi gần nhất dựa trên article.title (giữ đúng logic code gốc).
+    Trả về tuple (context_title, answer_text, question_text) hoặc None.
+    """
+    best_score, best_entry = 0.0, None
+    ui = user_context.lower()
+
+    for article in squad_data.get("data", []):
+        context_title = article.get("title", "")
+        score_title = SequenceMatcher(None, ui, context_title.lower()).ratio()
+
+        for paragraph in article.get("paragraphs", []):
+            for qa in paragraph.get("qas", []):
+                answers = qa.get("answers", [])
+                if not answers:
+                    continue
+                answer_text = answers[0].get("text", "").strip()
+                question_text = qa.get("question", "").strip()
+
+                score = score_title
+                if score > best_score:
+                    best_score = score
+                    best_entry = (context_title, answer_text, question_text)
+
+    return best_entry
+
+def _near_duplicate(q, seen, thr=0.90):
+    """Loại câu gần trùng dựa trên tỉ lệ giống nhau."""
+    for s in seen:
+        if SequenceMatcher(None, q, s).ratio() >= thr:
+            return True
+    return False
+
+def generate_questions(user_context,
+                       total_questions=20,
+                       batch_size=10,
+                       top_k=60,
+                       top_p=0.95,
+                       temperature=0.9,
+                       max_input_len=512,
+                       max_new_tokens=64):
+    # Load dữ liệu JSON
+    with open(DATA_PATH, "r", encoding="utf-8") as f:
+        squad_data = json.load(f)
+
+    # Tìm bản ghi gần giống nhất (KHÔNG in ra màn hình)
+    best_entry = find_best_match_from_context(user_context, squad_data)
+    if best_entry is None:
+        print("❌ Không tìm thấy dữ liệu phù hợp trong file JSON.")
+        return
+
+    _, answer, _ = best_entry  # chỉ cần answer gốc để bảo toàn tính toàn vẹn
+
+    # Chuẩn bị input cho mô hình (đặt max_length để tránh cảnh báo truncate)
+    input_text = f"answer: {answer} context: {user_context}"
+    inputs = tokenizer(
+        input_text,
+        return_tensors="pt",
+        truncation=True,
+        max_length=max_input_len
+    )
+
+    # Sinh nhiều câu hỏi theo lô để tiết kiệm RAM
+    unique_questions = []
+    remaining = total_questions
+
+    while remaining > 0:
+        n = min(batch_size, remaining)
+        outputs = model.generate(
+            **inputs,
+            do_sample=True,
+            top_k=top_k,
+            top_p=top_p,
+            temperature=temperature,
+            max_new_tokens=max_new_tokens,   # chiều dài phần sinh
+            num_return_sequences=n,
+            no_repeat_ngram_size=3,
+            repetition_penalty=1.12
+        )
+
+        for out in outputs:
+            q = tokenizer.decode(out, skip_special_tokens=True).strip()
+            if len(q) < 5:  # lọc câu quá ngắn
+                continue
+            if not _near_duplicate(q, unique_questions, thr=0.90):
+                unique_questions.append(q)
+
+        remaining = total_questions - len(unique_questions)
+        if remaining <= 0:
+            break
+
+    # Cắt đúng số lượng yêu cầu
+    unique_questions = unique_questions[:total_questions]
+
+    print("✅ Các câu hỏi mới được sinh ra:")
+    for i, q in enumerate(unique_questions, 1):
+        print(f"{i}. {q}")
+
+if __name__ == "__main__":
+    # Nhập đoạn văn
+    user_context = input("\nNhập đoạn văn bản:\n ").strip()
+
+    # Nhập số lượng câu hỏi cần sinh (tùy biến)
+    raw_n = input("\nNhập vào số lượng câu hỏi bạn cần:").strip()
+    if raw_n == "":
+        total_questions = 20
+    else:
+        try:
+            total_questions = int(raw_n)
+        except ValueError:
+            print("⚠️ Giá trị không hợp lệ. Dùng mặc định 20.")
+            total_questions = 20
+
+    # Ràng buộc an toàn
+    if total_questions < 1:
+        total_questions = 1
+    if total_questions > 200:
+        print("⚠️ Giới hạn tối đa 200 câu. Sẽ sinh 200 câu.")
+        total_questions = 200
+
+    # batch_size tự động theo quy mô
+    batch_size = 10 if total_questions >= 30 else min(10, total_questions)
+
+    # Thông báo phân tích
+    print("\n🔍 Đang phân tích dữ liệu...\n")
+
+    generate_questions(
+        user_context=user_context,
+        total_questions=total_questions,
+        batch_size=batch_size,
+        top_k=60,
+        top_p=0.95,
+        temperature=0.9,
+        max_input_len=512,
+        max_new_tokens=64
+    )