GGUF
MATERIA
How to use from the
Use from the
llama-cpp-python library
# !pip install llama-cpp-python

from llama_cpp import Llama

llm = Llama.from_pretrained(
	repo_id="MethodWhite/materia-v1-1b-bpe",
	filename="",
)
output = llm(
	"Once upon a time,",
	max_tokens=512,
	echo=True
)
print(output)

M.A.T.E.R.I.A. V1 1B BPE

⚠️ Este repositorio se llamaba anteriormente materia-v4-1b-bpe. La versión "V4" es en realidad la primera versión entrenada (V1) del modelo. Las versiones V1-V3 previas eran prototipos conceptuales no entrenados.

Checkpoint del entrenamiento 1B de M.A.T.E.R.I.A. V1 — arquitectura JEPA-First con HSAQ.

Checkpoints

Archivo original Descripción
checkpoint_epoch1.pt Epoch 1 — entrenamiento 1B BPE
checkpoint_epoch2.pt Epoch 2 — con HSAQ activo

Modelo base

Archivo Descripción
materia-v4.basemateria Base model weights (formato .basemateria)
materia-v4.materia Weight module

GGUF (Ollama/Llama.cpp)

Archivo Quant
materia-v4-llama-compat.gguf FP16 compatible
materia-v4.Q4_0.gguf Q4_0 cuantizado

Arquitectura

  • JEPA-First con Spectral Coupling Analysis (K = 2.781042)
  • GQA 8Q:4KV heads + Flash Attention 2
  • RoPE NTK-aware + SwiGLU
  • LIF-SNN (16 neuronas) + SSM
  • HSAQ — máscara de activación dispersa adaptativa

Uso

from huggingface_hub import hf_hub_download
ckpt = hf_hub_download('MethodWhite/materia-v1-1b-bpe', 'checkpoint_epoch2.pt')

Referencias

Downloads last month
70
GGUF
Model size
1B params
Architecture
llama
Hardware compatibility
Log In to add your hardware

4-bit

Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for MethodWhite/materia-v1-1b-bpe

Quantizations
1 model