| | --- |
| | license: mit |
| | language: |
| | - en |
| | - ro |
| | base_model: |
| | - LLMLit/LLMLit |
| | tags: |
| | - LLMLiT |
| | - Romania |
| | - LLM |
| | datasets: |
| | - LLMLit/LitSet |
| | metrics: |
| | - accuracy |
| | - character |
| | - code_eval |
| | --- |
| | --- |
| |
|
| | # **LLMLit – Model Card** |
| | 📌 *High-performance multilingual LLM for English & Romanian NLP tasks* |
| |
|
| | 🔗 [LLMLit on Hugging Face](https://huggingface.co/LLMLit) |
| | 🔗 [LitSeekR1 on Hugging Face](https://huggingface.co/LLMLit/LitSeekR1) |
| |
|
| | --- |
| |
|
| | ## **🔍 Quick Summary** |
| | **LLMLit** este un model de limbaj mare (LLM) performant, multilingv, optimizat din **Meta’s Llama 3.1 8B Instruct**. Este conceput pentru **task-uri NLP în limba engleză și română**, având capacități avansate de **urmărire a instrucțiunilor, înțelegere contextuală și generare de conținut precis**. |
| |
|
| | ## **📌 Model Details** |
| | 🔹 **Descriere:** LLMLit poate fi utilizat pentru **generare de conținut, sumarizare, răspuns la întrebări și multe altele**. |
| | 🔹 **Fine-tuning:** Modelul a fost antrenat pentru **adherarea la instrucțiuni de înaltă calitate și o mai bună înțelegere a contextului**. |
| | 🔹 **Utilizatori țintă:** Dezvoltatori, cercetători și companii care au nevoie de **soluții NLP fiabile**. |
| |
|
| | | Caracteristici | Detalii | |
| | |----------------|---------| |
| | | 🏢 **Dezvoltat de** | LLMLit Development Team | |
| | | 💰 **Finanțare** | Contribuții open-source & sponsori privați | |
| | | 🌍 **Limbaje** | Engleză (en), Română (ro) | |
| | | 🏷 **Licență** | MIT | |
| | | 🔗 **Model de bază** | `meta-llama/Llama-3.1-8B-Instruct` | |
| | | 📂 **Resurse** | [GitHub Repository](#) / Paper: *To be published* | |
| | | 🚀 **Demo** | *Coming Soon* | |
| |
|
| | --- |
| |
|
| | ## **💡 Utilizări principale** |
| | ### ✅ **Utilizare directă** |
| | LLMLit poate fi aplicat la: |
| | ✔️ Generarea de răspunsuri asemănătoare celor umane |
| | ✔️ Traducere între **engleză și română** |
| | ✔️ Sumarizarea articolelor, rapoartelor și documentelor |
| | ✔️ Răspuns la întrebări complexe cu sensibilitate la context |
| |
|
| | ### 🚀 **Utilizare avansată (fine-tuning & integrare)** |
| | LLMLit poate fi optimizat pentru: |
| | 🗨️ **Chatboți & asistenți virtuali** |
| | 📚 **Instrumente educaționale bilingve** |
| | ⚖️ **Analiza documentelor legale/medicale** |
| | 🛒 **Automatizare în e-commerce & suport clienți** |
| |
|
| | ### ❌ **Utilizări nerecomandate** |
| | ⛔ Aplicații neetice (dezinformare, manipulare) |
| | ⛔ Luarea deciziilor critice fără supervizare umană |
| | ⛔ Task-uri care necesită **performanță în timp real** |
| |
|
| | --- |
| |
|
| | ## **⚠️ Bias, Riscuri și Limitări** |
| | 🔍 **Bias:** Modelul poate reflecta bias-urile existente în datele de antrenament. |
| | ⚠️ **Riscuri:** Poate genera informații inexacte sau neconforme. |
| | 📌 **Limitări:** |
| | - Performanța depinde de **calitatea prompturilor**. |
| | - Înțelegere limitată a domeniilor **foarte tehnice sau de nișă**. |
| |
|
| | 🔹 **Recomandări:** |
| | ✔️ Revizuirea output-ului pentru **aplicații sensibile**. |
| | ✔️ Fine-tuning pentru sarcini specifice pentru **minimizarea riscurilor**. |
| |
|
| | --- |
| |
|
| | ## **🚀 Cum să începi cu LLMLit** |
| | Pentru a utiliza LLMLit, instalează librăriile necesare și încarcă modelul: |
| |
|
| | ```python |
| | from transformers import AutoModelForCausalLM, AutoTokenizer |
| | |
| | # Încarcă modelul și tokenizer-ul |
| | model = AutoModelForCausalLM.from_pretrained("llmlit/LLMLit-0.2-8B-Instruct") |
| | tokenizer = AutoTokenizer.from_pretrained("llmlit/LLMLit-0.2-8B-Instruct") |
| | |
| | # Generează text |
| | inputs = tokenizer("Your prompt here", return_tensors="pt") |
| | outputs = model.generate(**inputs, max_length=100) |
| | ``` |
| |
|
| | --- |
| |
|
| | Iată o documentație simplă și clară despre cum să instalezi **Ollama** și să rulezi **LLMLit** de pe Hugging Face. |
| |
|
| | --- |
| |
|
| | # **📌 Ghid de Instalare: Ollama + LLMLit** |
| |
|
| | ## **🔹 Pasul 1: Instalarea Ollama** |
| | Ollama este un framework ușor pentru rularea modelelor **LLM (Large Language Models)** local. |
| |
|
| | ### **🖥️ Pentru macOS & Linux** |
| | 1️⃣ **Deschide un terminal și rulează:** |
| | ```sh |
| | curl -fsSL https://ollama.com/install.sh | sh |
| | ``` |
| | 2️⃣ **Repornește terminalul pentru a aplica modificările.** |
| |
|
| | ### **🖥️ Pentru Windows (Necesită WSL2)** |
| | 1️⃣ **Activează WSL2 și instalează Ubuntu:** |
| | - Deschide **PowerShell** ca administrator și rulează: |
| | ```powershell |
| | wsl --install |
| | ``` |
| | - Repornește computerul. |
| |
|
| | 2️⃣ **Instalează Ollama în WSL2:** |
| | ```sh |
| | curl -fsSL https://ollama.com/install.sh | sh |
| | ``` |
| |
|
| | 3️⃣ **Verifică dacă Ollama este instalat corect:** |
| | ```sh |
| | ollama |
| | ``` |
| | Dacă apare meniul de utilizare, instalarea a fost realizată cu succes! 🎉 |
| |
|
| | --- |
| |
|
| | ## **🔹 Pasul 2: Instalarea LLMLit de pe Hugging Face** |
| | LLMLit poate fi descărcat și rulat în Ollama folosind comanda `ollama pull`. |
| |
|
| | 1️⃣ **Deschide un terminal și rulează:** |
| | ```sh |
| | ollama pull llmlit/LLMLit-0.2-8B-Instruct |
| | ``` |
| |
|
| | 2️⃣ **Verifică dacă modelul a fost instalat:** |
| | ```sh |
| | ollama list |
| | ``` |
| | Ar trebui să vezi **LLMLit** în lista de modele disponibile. ✅ |
| |
|
| | --- |
| |
|
| | ## **🔹 Pasul 3: Rularea LLMLit în Ollama** |
| | După instalare, poți începe să interacționezi cu **LLMLit** astfel: |
| |
|
| | ```sh |
| | ollama run llmlit/LLMLit-0.2-8B-Instruct |
| | ``` |
| | Aceasta va deschide o sesiune locală unde poți discuta cu modelul. 🤖 |
| |
|
| | Pentru a trimite un prompt personalizat: |
| | ```sh |
| | ollama run llmlit/LLMLit-0.2-8B-Instruct "Salut, cum pot folosi LLMLit?" |
| | ``` |
| |
|
| | --- |
| |
|
| | ## **🔹 Pasul 4: Utilizarea LLMLit în Python** |
| | Dacă vrei să integrezi **LLMLit** într-un script Python, instalează librăria necesară: |
| | ```sh |
| | pip install ollama |
| | ``` |
| |
|
| | Apoi, creează un script Python: |
| | ```python |
| | import ollama |
| | |
| | response = ollama.chat(model='llmlit/LLMLit-0.2-8B-Instruct', messages=[{'role': 'user', 'content': 'Cum funcționează LLMLit?'}]) |
| | print(response['message']['content']) |
| | ``` |
| |
|
| | --- |
| |
|
| | 🚀 **Gata!** Acum ai **Ollama + LLMLit** instalat și pregătit de utilizare local! Dacă ai întrebări, spune-mi. 😊 |
| |
|
| | 🔗 **Mai multe detalii:** [LLMLit on Hugging Face](https://huggingface.co/LLMLit) 🚀 |
| |
|
| |
|
| |
|
| |  |
| |
|
| |
|
| | --- |
