MLX
#4
by Ramazuri - opened
Sziasztok!
Saját teszteléshez készítettem egy 4 bites MLX-változatot a Racka-4B-ből. Ha van rá igény, szívesen elkészítem és megosztom veletek valamilyen formában az összes különböző féle kvantálást amik már elérhetőek a gguf-nél.
Üdv,
Rafi
Szia!
Köszönjük a felajánlást, szívesen fogadjuk őket!
Írtam egy emailt.
Üdv,
Martin