Skwantyzowane modele MediChat
Ten repozytorium zawiera skwantyzowane wersje modelu MediChat w formatach ONNX i TFLite.
Dostępne modele:
| Format | Kwantyzacja | Rozmiar | Redukcja | Opis |
|---|---|---|---|---|
| ONNX | Oryginalny | 30633.02 MB | - | Model źródłowy bez kwantyzacji |
Użycie
Te modele są zoptymalizowane pod kątem rozmiaru i wydajności na urządzeniach mobilnych. Źródłowy model: MariaJas/MediChatOnnx