Update README.md

README.md

@@ -14,3 +14,38 @@ datasets:
 - **Base Model**: [Minerva-3B-base-v1.0](https://huggingface.co/sapienzanlp/Minerva-3B-base-v1.0), developed by [Sapienza NLP](https://nlp.uniroma1.it) in collaboration with [Future Artificial Intelligence Research (FAIR)](https://fondazione-fair.it/) and [CINECA](https://www.cineca.it/)
 - **Specialization**: Question-Answering (QA)
 - **Ideal Use Case**: Retrieval-Augmented Generation applications
+
+---
+
+## How to Use
+
+```python
+import transformers
+import torch
+
+model_id = "DeepMount00/Minerva-3B-base-RAG"
+
+# Initialize the pipeline.
+pipeline = transformers.pipeline(
+    "text-generation",
+    model=model_id,
+    model_kwargs={"torch_dtype": torch.bfloat16},
+    device_map="auto",
+)
+
+def generate_text(pipeline, context, question):
+    input_text = f"[INST]Contesto: {context}\nDomanda:{question}\n[/INST]"
+    output = pipeline(
+        input_text,
+        max_new_tokens=512,
+    )
+    generated_text = output[0]['generated_text']
+    response_text = generated_text.split("[/INST]", 1)[1].strip()
+    return response_text[:-14]
+
+contesto = """La torre degli Asinelli è una delle cosiddette due torri di Bologna, simbolo della città, situate in piazza di porta Ravegnana, all'incrocio tra le antiche strade San Donato (ora via Zamboni), San Vitale, Maggiore e Castiglione. Eretta, secondo la tradizione, fra il 1109 e il 1119 dal nobile Gherardo Asinelli, la torre è alta 97,20 metri, pende verso ovest per 2,23 metri e presenta all'interno una scalinata composta da 498 gradini. Ancora non si può dire con certezza quando e da chi fu costruita la torre degli Asinelli. Si presume che la torre debba il proprio nome a Gherardo Asinelli, il nobile cavaliere di fazione ghibellina al quale se ne attribuisce la costruzione, iniziata secondo una consolidata tradizione l'11 ottobre 1109 e terminata dieci anni dopo, nel 1119."""
+domanda = """In che città si trova la torre degli Asinelli?"""
+
+answer = generate_text(pipeline, contesto, domanda)
+print(answer)
+```