Update README.md

README.md

@@ -9,4 +9,169 @@ tags:
 - DAC
 - M.INC.
 - conversational
----
+---
+
+## Model Name
+
+**DAC67M**
+
+## Developed by
+
+**M.INC. Research**
+
+## Trained by
+
+**Mattimax**
+[https://huggingface.co/Mattimax](https://huggingface.co/Mattimax)
+
+## Model Type
+
+Decoder-only Transformer (LLaMA-style causal language model)
+
+## Parameter Count
+
+~67 Million parameters
+
+---
+
+## 🔍 Overview
+
+DAC67M è un language model compatto basato su un’architettura LLaMA personalizzata, progettato per offrire buone capacità di generazione testuale con un footprint ridotto.
+
+Il modello è pensato per:
+
+* Ricerca
+* Esperimenti su architetture compatte
+* Fine-tuning leggero
+* Applicazioni edge / low-resource
+
+---
+
+## 🧠 Architecture
+
+DAC67M utilizza una variante personalizzata di **LlamaForCausalLM**.
+
+### Core Configuration
+
+```json
+{
+  "architectures": ["LlamaForCausalLM"],
+  "model_type": "llama",
+  "hidden_size": 512,
+  "intermediate_size": 2048,
+  "num_hidden_layers": 8,
+  "num_attention_heads": 8,
+  "num_key_value_heads": 8,
+  "head_dim": 64,
+  "hidden_act": "silu",
+  "max_position_embeddings": 2048,
+  "vocab_size": 32768,
+  "attention_bias": false,
+  "attention_dropout": 0.0,
+  "mlp_bias": false,
+  "rms_norm_eps": 1e-06,
+  "rope_theta": 10000.0,
+  "rope_scaling": null,
+  "tie_word_embeddings": false,
+  "initializer_range": 0.02,
+  "bos_token_id": 1,
+  "eos_token_id": 2,
+  "torch_dtype": "float32",
+  "use_cache": true,
+  "transformers_version": "4.51.3"
+}
+```
+
+---
+
+## 🔤 Tokenizer
+
+DAC67M utilizza il tokenizer del modello:
+
+**sapienzanlp/Minerva-350M-base-v1.0**
+[https://huggingface.co/sapienzanlp/Minerva-350M-base-v1.0](https://huggingface.co/sapienzanlp/Minerva-350M-base-v1.0)
+
+Motivazione:
+
+* Vocabolario ampio (32k)
+* Buon supporto multilingua
+* Stabilità comprovata
+
+---
+
+## 📚 Training
+
+Dettagli sul training:
+
+* Framework: PyTorch + HuggingFace Transformers
+* Objective: Causal Language Modeling
+* Precisione: float32
+
+*(Ulteriori dettagli su dataset, token count e schedule possono essere aggiunti se disponibili)*
+
+---
+
+## 🎯 Intended Use
+
+DAC67M è adatto per:
+
+* Generazione di testo
+* Autocompletamento
+* Chatbot sperimentali
+* Studio di scaling laws
+* Distillazione
+
+Non è progettato per:
+
+* Uso medicale
+* Uso legale
+* Decision making critico
+
+---
+
+## ⚠️ Limitations
+
+* Capacità limitate rispetto a modelli >1B parametri
+* Possibili allucinazioni
+* Sensibile alla qualità dei prompt
+
+---
+
+## 🛡️ Ethical Considerations
+
+Il modello può generare contenuti scorretti o fuorvianti.
+È responsabilità dell’utente:
+
+* Filtrare output
+* Implementare moderation
+* Evitare usi dannosi
+
+---
+
+## 🔁 Reproducibility
+
+Per riprodurre l’ambiente:
+
+```bash
+pip install transformers==4.51.3 torch
+```
+
+---
+
+## 📌 Citation
+
+```bibtex
+@misc{dac67m,
+  title={DAC67M: A Compact LLaMA-style Language Model},
+  author={M.INC. Research and Mattimax},
+  year={2025},
+  url={https://huggingface.co/Mattimax}
+}
+```
+
+---
+
+## 📫 Contact
+
+* Organization: M.INC. (Research)
+* Trainer: Mattimax (HuggingFace)