sentence-transformers How to use psardin/qwen_0.6B_max_seq_length_512 with sentence-transformers:
from sentence_transformers import SentenceTransformer
model = SentenceTransformer("psardin/qwen_0.6B_max_seq_length_512")
sentences = [
"Tom provoziert Nico verbal in dessen Bar «zum Wolf», weshalb Nico ihn aus seinem Lokal verweist. Tom ist hierüber erzürnt, wartet bis zum Feierabend bis Nico die Bar verlässt und zieht seine Pistole aus der Jackentasche. Er gibt vor dem Lokal aus einer Distanz von ca. 10 Metern einen gezielten Schuss ab, trifft Nico jedoch nicht. Kurz danach wird Tom von der Polizei festgenommen. Er wird von der Polizei korrekt belehrt und danach zur Sache befragt. Er gibt zu, dass er in der Bar «zum Wolf» etwas getrunken hat, bestreitet aber, irgendetwas mit dem Vorfall zu tun zu haben. Weiter erklärt er, dass er ohne seinen Anwalt keine weiteren Aussagen machen wird. Nach der ersten staatsanwaltschaftlichen Einvernahme wird für Tom ein Rechtsanwalt bestellt. Im Rahmen des Untersuchungsverfahrens findet in der Folge eine Konfrontationseinvernahme zwischen Nico als Hauptbelastungszeuge und Tom statt. Umstritten ist dabei vor allem die Zielrichtung des Schusses. Während Nico sagt, Tom habe direkt auf ihn gezielt, sagt Tom, er habe gezielt danebengeschossen. Weitere Zeugen konnten nicht ausfindig gemacht werden. \nSind die Aussagen von Tom, welche er bei der Polizei machte, verwertbar?",
"1 Für die vorzeitige Erteilung der Niederlassungsbewilligung müssen die Integrationskriterien nach Artikel 58a Absatz 1 AIG erfüllt sein.",
"3 Das Rechtsgeschäft bedarf zu seiner Gültigkeit der öffentlichen Beurkundung oder, wenn es eine Verfügung von Todes wegen oder ein Erbteilungsvertrag ist, der im Erbrecht vorgeschriebenen Form.",
"Die beschuldigte Person muss verteidigt werden, wenn:a. die Untersuchungshaft einschliesslich einer vorläufigen Festnahme mehr als 10 Tage gedauert hat;\nb.61 ihr eine Freiheitsstrafe von mehr als einem Jahr, eine freiheitsentziehende Massnahme oder eine Landesverweisung droht;\nc. sie wegen ihres körperlichen oder geistigen Zustandes oder aus anderen Gründen ihre Verfahrensinteressen nicht ausreichend wahren kann und die gesetzliche Vertretung dazu nicht in der Lage ist;\nd. die Staatsanwaltschaft vor dem erstinstanzlichen Gericht oder dem Berufungsgericht persönlich auftritt;\ne. ein abgekürztes Verfahren (Art. 358–362) durchgeführt wird."
]
embeddings = model.encode(sentences)
similarities = model.similarity(embeddings, embeddings)
print(similarities.shape)
# [4, 4] Unsloth Studio How to use psardin/qwen_0.6B_max_seq_length_512 with Unsloth Studio:
Install Unsloth Studio (macOS, Linux, WSL)
curl -fsSL https://unsloth.ai/install.sh | sh
# Run unsloth studio
unsloth studio -H 0.0.0.0 -p 8888
# Then open http://localhost:8888 in your browser
# Search for psardin/qwen_0.6B_max_seq_length_512 to start chatting
Install Unsloth Studio (Windows)
irm https://unsloth.ai/install.ps1 | iex
# Run unsloth studio
unsloth studio -H 0.0.0.0 -p 8888
# Then open http://localhost:8888 in your browser
# Search for psardin/qwen_0.6B_max_seq_length_512 to start chatting
Using HuggingFace Spaces for Unsloth
# No setup required
# Open https://huggingface.co/spaces/unsloth/studio in your browser
# Search for psardin/qwen_0.6B_max_seq_length_512 to start chatting
Load model with FastModel
pip install unsloth
from unsloth import FastModel
model, tokenizer = FastModel.from_pretrained(
model_name="psardin/qwen_0.6B_max_seq_length_512",
max_seq_length=2048,
) 
