Update README.md

README.md

@@ -7,12 +7,12 @@ language:
 metrics:
 - f1
 base_model:
-- TinyLlama/TinyLlama-1.1B-Chat-v1.0
+- OuteAI/Lite-Oute-1-300M-Instruct
 ---
 # О модели
-Модель TinyLlama/TinyLlama-1.1B-Chat-v1.0, дообученная с помощью библиотеки PEFT адаптером QLoRA, предназначенная для оценки тональности сообщений пользователей. Дообучена на датасете "cardiffnlp/tweet_eval", определяя тональность твитов.
+Модель OuteAI/Lite-Oute-1-300M-Instruct, дообученная с помощью адаптера DoRA, предназначенная для оценки тональности сообщений пользователей. Дообучена на датасете "cardiffnlp/tweet_eval", определяя тональность твитов.
 # Результат после дообучения
-Результат после дообучения: macro F1: 0.53
+Результат после дообучения: macro F1: 0.50 (обучалась всего на четверти датасета, три эпохи, ранг r = 8)
 # Как использовать
 Хоть модель и обучалась определять тональность твитов, она вполне способна и определять тональность обычных сообщений/текстов
 
@@ -23,8 +23,8 @@ elif torch.backends.mps.is_available():
     DEVICE = "mps"
 else:
     DEVICE = "cpu"
-model = AutoModelForCausalLM.from_pretrained(f"{REPO_NAME}-tinyllama-qlora", device_map="cuda")
-tokenizer = AutoTokenizer.from_pretrained(f"{REPO_NAME}-tinyllama-qlora")
+model = AutoModelForCausalLM.from_pretrained("georgebu/llm-course-hw3-dora", device_map="DEVICE")
+tokenizer = AutoTokenizer.from_pretrained("georgebu/llm-course-hw3-dora")
 tokenizer.pad_token = tokenizer.eos_token
 tokenizer.padding_side = "left"