Update README.md

README.md

@@ -42,6 +42,42 @@ To make better use of the Cuscuz, the ideal is to use the model without quantiza
 
 ## How to Use
 
+
+```python
+from transformers import AutoTokenizer, pipeline
+import torch
+
+model = "rhaymison/cuscuz-com-gemma-2b"
+
+tokenizer = AutoTokenizer.from_pretrained(model)
+pipeline = pipeline(
+    "text-generation",
+    model=model,
+    model_kwargs={"torch_dtype": torch.bfloat16},
+    device="cuda",
+)
+
+
+messages = [
+    {"role": "user", "content": "Me conte sobre o estado de Sergipe."},
+]
+prompt = pipeline.tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
+outputs = pipeline(
+    prompt,
+    max_new_tokens=256,
+    do_sample=True,
+    temperature=0.7,
+    top_k=50,
+    top_p=0.95
+)
+print(outputs[0]["generated_text"][len(prompt):].replace("model",""))
+
+#Sergipe é o menor estado do Nordeste brasileiro em extensão territorial. 
+#O estado de Sergipe é conhecido por suas praias, sua culinária à base de frutos do mar e sua importância histórica na produção de açúcar. 
+#Sergipe teve papel fundamental na produção de açúcar no Brasil colonial, sendo uma das regiões onde se concentraram os engenhos de açúcar.
+```
+
+
 ```python
 from transformers import AutoTokenizer, AutoModelForCausalLM
 
@@ -80,41 +116,6 @@ print(output.replace("model"," "))
 
 ```
 
-```python
-from transformers import AutoTokenizer, pipeline
-import torch
-
-model = "rhaymison/cuscuz-com-gemma-2b"
-
-tokenizer = AutoTokenizer.from_pretrained(model)
-pipeline = pipeline(
-    "text-generation",
-    model=model,
-    model_kwargs={"torch_dtype": torch.bfloat16},
-    device="cuda",
-)
-
-
-messages = [
-    {"role": "user", "content": "Me conte sobre o estado de Sergipe."},
-]
-prompt = pipeline.tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
-outputs = pipeline(
-    prompt,
-    max_new_tokens=256,
-    do_sample=True,
-    temperature=0.7,
-    top_k=50,
-    top_p=0.95
-)
-print(outputs[0]["generated_text"][len(prompt):].replace("model",""))
-
-#Sergipe é o menor estado do Nordeste brasileiro em extensão territorial. 
-#O estado de Sergipe é conhecido por suas praias, sua culinária à base de frutos do mar e sua importância histórica na produção de açúcar. 
-#Sergipe teve papel fundamental na produção de açúcar no Brasil colonial, sendo uma das regiões onde se concentraram os engenhos de açúcar.
-```
-
-
 ### Comments
 
 Any idea, help or report will always be welcome.