internetoftim commited on
Commit
e5519de
·
verified ·
1 Parent(s): 4020bf9

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +41 -2
README.md CHANGED
@@ -50,8 +50,47 @@ The following hyperparameters were used during training:
50
  - training_steps: 1500
51
 
52
  ### Training results
53
-
54
-
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
55
 
56
  ### Framework versions
57
 
 
50
  - training_steps: 1500
51
 
52
  ### Training results
53
+ Example inference:
54
+ ```bash
55
+ Sending request to http://localhost:8000/v1/completions...
56
+ Payload: {
57
+ "model": "sapinsapin/llama31-8b-halo-bikol-cpt",
58
+ "prompt": "nasa hampang mismo kan dating planta",
59
+ "max_tokens": 512,
60
+ "temperature": 0.5
61
+ }
62
+
63
+ Status: 200
64
+ Response:
65
+ {
66
+ "id": "cmpl-5b4eb44ef68f48f98b6e950250a40725",
67
+ "object": "text_completion",
68
+ "created": 1766879142,
69
+ "model": "sapinsapin/llama31-8b-halo-bikol-cpt",
70
+ "choices": [
71
+ {
72
+ "index": 0,
73
+ "text": " kan lamang | Magbikol Kita Saturday, December 27, , 4:14am nasa hampang mismo kan dating planta kan lamang Published on Sunday, September 13, , 6:49pm by Ernie Verdadero | Midya-Midya An sabi sako kan sarong taga-planta kan lamang, kan makatapos sya nin high school, nagpuon syang magtrabaho sa dating planta kan ilaw sa Tabaco. Planta an sabi nya kan nagkakapirang mga kontrabanderong ginatos na taon na nagtalubo duman. Alas-10 nin aga si baad na pagtanom kan mga bulong. Pigbabantayan nin mga tawong armas an mga makamurumundong bulong tanganing maibitaran an pagluwas nin mga lamang. Sarong kanto kan planta an tinrabaho nya. Duman nagpuon an saiyang pagbibyahe. Primero nang nahiling nya an malain na estado kan tinampo sa Tabaco. Saro sa mga gibo nya na nakatudan nya iyo an pagtanom nin mga kahoy. Nin huli ta haloy nang pan\u00f4 nin mga bulong an planta, dakol na an mga kahoy na nagtatalubo duman. Sabi nya, maski malain an buhay mo, agom mo, kaibahan mo, sa pagtanom ka san\u00e1. Maski magretiro na sya, dai nya mapugulan an pagtanom. Sa harong nya an sarong establisimyento duman sa Tabaco na nagtatanom nin mga orchids. Sabi ko saiya, ikagwapo iyan. Syempre, sabi nya, carampatan man nanggad. Kun ano an bu\u00f3t sabihon kan carampatan, yano man an bu\u00f3t sabihon kan gwapo. Gabos kita mab\u00faot na tawo. Siisay an dai mab\u00faot? Sabi ko saiya, an tawong dai mab\u00faot iyo an tawong dai nakukuntento sa saiyang kapalibutan. Aram an tawo na dai nya mapugulan an paghanap nin paagi na makakatabang saiya tanganing mas",
74
+ "logprobs": null,
75
+ "finish_reason": "length",
76
+ "stop_reason": null,
77
+ "token_ids": null,
78
+ "prompt_logprobs": null,
79
+ "prompt_token_ids": null
80
+ }
81
+ ],
82
+ "service_tier": null,
83
+ "system_fingerprint": null,
84
+ "usage": {
85
+ "prompt_tokens": 10,
86
+ "total_tokens": 522,
87
+ "completion_tokens": 512,
88
+ "prompt_tokens_details": null
89
+ },
90
+ "kv_transfer_params": null
91
+ }
92
+
93
+ ```
94
 
95
  ### Framework versions
96