Update README.md
Browse files
README.md
CHANGED
|
@@ -50,8 +50,47 @@ The following hyperparameters were used during training:
|
|
| 50 |
- training_steps: 1500
|
| 51 |
|
| 52 |
### Training results
|
| 53 |
-
|
| 54 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 55 |
|
| 56 |
### Framework versions
|
| 57 |
|
|
|
|
| 50 |
- training_steps: 1500
|
| 51 |
|
| 52 |
### Training results
|
| 53 |
+
Example inference:
|
| 54 |
+
```bash
|
| 55 |
+
Sending request to http://localhost:8000/v1/completions...
|
| 56 |
+
Payload: {
|
| 57 |
+
"model": "sapinsapin/llama31-8b-halo-bikol-cpt",
|
| 58 |
+
"prompt": "nasa hampang mismo kan dating planta",
|
| 59 |
+
"max_tokens": 512,
|
| 60 |
+
"temperature": 0.5
|
| 61 |
+
}
|
| 62 |
+
|
| 63 |
+
Status: 200
|
| 64 |
+
Response:
|
| 65 |
+
{
|
| 66 |
+
"id": "cmpl-5b4eb44ef68f48f98b6e950250a40725",
|
| 67 |
+
"object": "text_completion",
|
| 68 |
+
"created": 1766879142,
|
| 69 |
+
"model": "sapinsapin/llama31-8b-halo-bikol-cpt",
|
| 70 |
+
"choices": [
|
| 71 |
+
{
|
| 72 |
+
"index": 0,
|
| 73 |
+
"text": " kan lamang | Magbikol Kita Saturday, December 27, , 4:14am nasa hampang mismo kan dating planta kan lamang Published on Sunday, September 13, , 6:49pm by Ernie Verdadero | Midya-Midya An sabi sako kan sarong taga-planta kan lamang, kan makatapos sya nin high school, nagpuon syang magtrabaho sa dating planta kan ilaw sa Tabaco. Planta an sabi nya kan nagkakapirang mga kontrabanderong ginatos na taon na nagtalubo duman. Alas-10 nin aga si baad na pagtanom kan mga bulong. Pigbabantayan nin mga tawong armas an mga makamurumundong bulong tanganing maibitaran an pagluwas nin mga lamang. Sarong kanto kan planta an tinrabaho nya. Duman nagpuon an saiyang pagbibyahe. Primero nang nahiling nya an malain na estado kan tinampo sa Tabaco. Saro sa mga gibo nya na nakatudan nya iyo an pagtanom nin mga kahoy. Nin huli ta haloy nang pan\u00f4 nin mga bulong an planta, dakol na an mga kahoy na nagtatalubo duman. Sabi nya, maski malain an buhay mo, agom mo, kaibahan mo, sa pagtanom ka san\u00e1. Maski magretiro na sya, dai nya mapugulan an pagtanom. Sa harong nya an sarong establisimyento duman sa Tabaco na nagtatanom nin mga orchids. Sabi ko saiya, ikagwapo iyan. Syempre, sabi nya, carampatan man nanggad. Kun ano an bu\u00f3t sabihon kan carampatan, yano man an bu\u00f3t sabihon kan gwapo. Gabos kita mab\u00faot na tawo. Siisay an dai mab\u00faot? Sabi ko saiya, an tawong dai mab\u00faot iyo an tawong dai nakukuntento sa saiyang kapalibutan. Aram an tawo na dai nya mapugulan an paghanap nin paagi na makakatabang saiya tanganing mas",
|
| 74 |
+
"logprobs": null,
|
| 75 |
+
"finish_reason": "length",
|
| 76 |
+
"stop_reason": null,
|
| 77 |
+
"token_ids": null,
|
| 78 |
+
"prompt_logprobs": null,
|
| 79 |
+
"prompt_token_ids": null
|
| 80 |
+
}
|
| 81 |
+
],
|
| 82 |
+
"service_tier": null,
|
| 83 |
+
"system_fingerprint": null,
|
| 84 |
+
"usage": {
|
| 85 |
+
"prompt_tokens": 10,
|
| 86 |
+
"total_tokens": 522,
|
| 87 |
+
"completion_tokens": 512,
|
| 88 |
+
"prompt_tokens_details": null
|
| 89 |
+
},
|
| 90 |
+
"kv_transfer_params": null
|
| 91 |
+
}
|
| 92 |
+
|
| 93 |
+
```
|
| 94 |
|
| 95 |
### Framework versions
|
| 96 |
|