How to use from
llama.cpp
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf chrometechhype/ateres
# Run inference directly in the terminal:
llama cli -hf chrometechhype/ateres
Install from WinGet (Windows)
winget install llama.cpp
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf chrometechhype/ateres
# Run inference directly in the terminal:
llama cli -hf chrometechhype/ateres
Use pre-built binary
# Download pre-built binary from:
# https://github.com/ggerganov/llama.cpp/releases
# Start a local OpenAI-compatible server with a web UI:
./llama-server -hf chrometechhype/ateres
# Run inference directly in the terminal:
./llama-cli -hf chrometechhype/ateres
Build from source code
git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
cmake -B build
cmake --build build -j --target llama-server llama-cli
# Start a local OpenAI-compatible server with a web UI:
./build/bin/llama-server -hf chrometechhype/ateres
# Run inference directly in the terminal:
./build/bin/llama-cli -hf chrometechhype/ateres
Use Docker
docker model run hf.co/chrometechhype/ateres
Quick Links

Ateres

AI-ассистент от ChromeTech (Саша) и AvocadoTech (Дмитрий). Fine-tuned на базе Ministral 3B, обучен на Salesforce xLAM для tool/function calling.

Возможности

  • Tool calling — генерирует <tool>...</tool> и <call>...</call> в формате xLAM
  • Мультиязычный — RU + EN + PL
  • Лёгкий — 3.4B параметров, работает на CPU и GPU

Установка

ollama pull chrometechhype/ateres

Запуск

ollama run chrometechhype/ateres

Примеры

>>> Кто тебя создал?
Меня создали ChromeTech (Саша) и AvocadoTech (Дмитрий).

>>> Помоги с кодом на Python
Конечно! Какую задачу нужно решить?

>>> What is your name?
Меня зовут Ateres. Меня создали ChromeTech (Саша) и AvocadoTech (Дмитрий).

Tool calling

Модель поддерживает вызов инструментов. При отправке tools через API, модель генерирует JSON-вызов в формате <call>{"name": "...", "arguments": {...}}</call>.

Базовая модель

unsloth/Ministral-3-3B-Base-2512-bnb-4bit — Q4_K_M GGUF

Links

Downloads last month
1,015
Safetensors
Model size
4B params
Tensor type
BF16
·
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for chrometechhype/ateres

Quantized
(1)
this model
Quantizations
1 model