Update README.md

README.md

@@ -18,6 +18,51 @@ It returns a dict with the keys:
 - splits: list[str]
 - topic: str
 
+
+## Code example
+```python
+from transformers import AutoTokenizer, TextStreamer, AutoModelForCausalLM
+
+model = AutoModelForCausalLM.from_pretrained("mhenrichsen/context-aware-splitter-1b")
+tokenizer = AutoTokenizer.from_pretrained("mhenrichsen/context-aware-splitter-1b")
+streamer = TextStreamer(tokenizer, skip_special_tokens=True)
+
+WORD_SPLIT_COUNT = 50
+
+prompt_template = """### Instruction:
+Din opgave er at segmentere en given tekst i separate dele, så hver del giver mening og kan læses uafhængigt af de andre. Hvis det giver mening, må der kan være et overlap mellem delene. Hver del skal ideelt indeholde {word_count} ord.
+
+### Input:
+{text}
+
+### Response:
+"""
+
+artikel = """Kina er stærkt utilfreds med, at Tysklands udenrigsminister, Annalena Baerbock, har omtalt den kinesiske præsident Xi Jinping som en diktator.
+
+- Bemærkningerne fra Tyskland er ekstremt absurde, krænker Kinas politiske værdighed alvorligt og er en åben politisk provokation, udtalte talsperson fra det kinesiske udenrigsministerium Mao Ning i går ifølge CNN.
+
+Bemærkningen fra udenrigsminister Annalena Baerbock faldt i et interview om krigen i Ukraine med Fox News i sidste uge.
+
+- Hvis Putin skulle vinde denne krig, hvilket signal ville det så sende til andre diktatorer i verden, som Xi, som den kinesiske præsident?, sagde hun.
+
+Tysklands ambassadør i Kina, Patricia Flor, har som konsekvens af udtalelsen været til en kammeratlig samtale, oplyser det tyske udenrigsministerium til CNN."""
+
+tokens = tokenizer(
+    prompt_template.format(text=artikel, word_count=WORD_SPLIT_COUNT), 
+    return_tensors='pt'
+)['input_ids']
+
+# Generate output
+generation_output = model.generate(
+    tokens,
+    streamer=streamer,
+    max_length = 8194,
+    eos_token_id = 29913
+)
+```
+
+
 Example:
 ```
 ### Instruction: