Update README.md

README.md

@@ -87,13 +87,56 @@ Lee el siguiente texto y hazlo más claro:
 ###Texto aclarado:
 """
 ```
+## Probar el modelo:
+**Importar las librerías necesarias**: 
+```
+!pip install transformers
+!pip install bitsandbytes
+!pip install accelerate
+import torch
+from transformers import AutoTokenizer, AutoModelForCausalLM, BitsAndBytesConfig
+```
+
+**Configuración de BitsAndBytes:**
+```
+bnb_config = BitsAndBytesConfig(load_in_4bit=True,
+                                bnb_4bit_quant_type='nf4',
+                                bnb_4bit_compute_dtype='float16',
+                                bnb_4bit_use_double_quant=True)
+```
+
+**Carga del modelo y el tokenizador:**
+```
+model = AutoModelForCausalLM.from_pretrained(model_id, device_map='auto',
+                                             quantization_config=bnb_config,
+                                             trust_remote_code=True)
+
+tokenizer = AutoTokenizer.from_pretrained(model_id,
+                                          add_eos_token=True,
+                                          trust_remote_code=True)
+tokenizer.pad_token = tokenizer.eos_token
+tokenizer.truncation_side = "left"
+```
+**Definir prompt e iniciar inferencia:**
+```
+new_prompt = f"""###System:
+Lee el siguiente texto y hazlo más claro:
+###Texto:
 
+{texto}
 
+###Texto aclarado:
+"""
+
+inputs = tokenizer(new_prompt, return_tensors="pt", return_attention_mask=False, padding=True, truncation=True)
+outputs = model.generate(**inputs, max_length=1000)
+text = tokenizer.batch_decode(outputs,skip_special_tokens=True)[0]
+print(text)
+```
 
 
 - **Developed by:** [Sergio Chicón](https://huggingface.co/telodigoensergio)
-- **Model type:** [More Information Needed]
-- **Language(s) (NLP):** Python
+- **Language(s) (NLP):** Español(España)
 - **Finetuned from model:** [Microsoft/phi-2](https://huggingface.co/microsoft/phi-2)
 
 ### Model Sources