File size: 5,278 Bytes
320e731 ec44a68 9ff949e 320e731 ec44a68 a8b3235 ec44a68 320e731 a8b3235 320e731 ec44a68 f667345 a8b3235 9ff949e a8b3235 ec44a68 90b8ceb ec44a68 320e731 a8b3235 ec44a68 9ff949e ec44a68 320e731 9ff949e 320e731 a8b3235 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 | import gradio as gr
from llama_cpp import Llama
from huggingface_hub import hf_hub_download
from pathlib import Path
import base64
# ============================================================
# 1. CONFIGURAZIONE MODELLO
# ============================================================
MODEL_REPO_ID = "FPll/MIND-GGUF"
GGUF_FILENAME = "Meta-Llama-3.1-8B-Instruct.Q4_K_M.gguf"
print("Download modello GGUF da Hugging Face...")
model_path = hf_hub_download(
repo_id=MODEL_REPO_ID,
filename=GGUF_FILENAME,
repo_type="model",
)
print("Modello scaricato:", model_path)
llm = Llama(
model_path=model_path,
n_ctx=4096,
n_threads=2,
n_gpu_layers=0,
chat_format="llama-3",
verbose=False,
)
# ============================================================
# 2. IDENTITÀ DIDATTICA DEL PROGETTO MIND
# ============================================================
SYSTEM_PROMPT = """Rispondi come MIND, mentor Python creato nel contesto del Progetto MIND e del percorso IFTS MIND – Machine Intelligence & Data di Formatica S.c.a.r.l., Agenzia di Formazione.
La tua funzione è stata definita dal docente Francesco Palladino insieme agli studenti Matteo Ciorra, Luca Lombardo, Nicola Boi e Leonardo Isoni per guidare l'apprendimento del codice.
Regole di comportamento:
- Rispondi sempre in italiano.
- Se l'utente chiede chi sei, rispondi in prima persona: "Sono MIND...".
- Mantieni un tono chiaro, tecnico, incoraggiante e paziente.
- Quando dai codice Python, usa blocchi Markdown ben formattati.
- Se l'utente chiede un esercizio su un argomento specifico, rispetta esattamente l'argomento richiesto.
- Se l'utente chiede un esercizio sui cicli for, usa un ciclo for, non un ciclo while.
- Quando proponi esercizi semplici sui cicli for con numeri consecutivi, preferisci `range()` invece di creare manualmente una lista.
- Se l'utente chiede la soluzione a un esercizio, guida prima nel ragionamento e poi offri un esempio di codice commentato.
"""
# ============================================================
# 3. LOGICA CHAT
# ============================================================
def chat_con_mind(messaggio, cronologia):
messages = [
{"role": "system", "content": SYSTEM_PROMPT}
]
for utente, assistente in cronologia:
if utente:
messages.append({"role": "user", "content": utente})
if assistente:
messages.append({"role": "assistant", "content": assistente})
messages.append({"role": "user", "content": messaggio})
output = llm.create_chat_completion(
messages=messages,
max_tokens=1024,
temperature=0.4,
top_p=0.9,
repeat_penalty=1.15,
stop=[
"<|eot_id|>",
"<|start_header_id|>user<|end_header_id|>",
"<|start_header_id|>system<|end_header_id|>",
],
)
risposta = output["choices"][0]["message"]["content"].strip()
prefissi_da_rimuovere = [
"assistant\n",
"assistant:",
".assistant",
"<|start_header_id|>assistant<|end_header_id|>",
]
for prefisso in prefissi_da_rimuovere:
if risposta.startswith(prefisso):
risposta = risposta[len(prefisso):].strip()
return risposta
# ============================================================
# 4. HEADER CON ICONA
# ============================================================
ICON_PATH = Path("mind_icon.png")
def crea_header_html():
if ICON_PATH.exists():
icon_base64 = base64.b64encode(ICON_PATH.read_bytes()).decode("utf-8")
icon_html = (
'<img class="mind-logo" '
f'src="data:image/png;base64,{icon_base64}" '
'alt="MIND logo">'
)
else:
icon_html = '<span class="mind-emoji">🤖</span>'
return (
'<div class="mind-header">'
f'{icon_html}'
'<div>'
'<h1>MIND - Mentor Python</h1>'
'<p>Progetto IFTS MIND - Machine Intelligence & Data di Formatica S.c.a.r.l.</p>'
'</div>'
'</div>'
)
custom_css = '''
.mind-header {
display: flex;
align-items: center;
gap: 16px;
margin-bottom: 18px;
}
.mind-header h1 {
margin: 0;
font-size: 2rem;
}
.mind-header p {
margin: 4px 0 0 0;
opacity: 0.75;
}
.mind-logo {
width: 64px;
height: 64px;
animation: mindHue 4s linear infinite;
}
.mind-emoji {
font-size: 56px;
animation: mindHue 4s linear infinite;
}
@keyframes mindHue {
0% {
filter: hue-rotate(0deg) drop-shadow(0 0 4px rgba(0, 90, 255, 0.5));
}
50% {
filter: hue-rotate(160deg) drop-shadow(0 0 8px rgba(120, 0, 255, 0.7));
}
100% {
filter: hue-rotate(360deg) drop-shadow(0 0 4px rgba(0, 90, 255, 0.5));
}
}
'''
# ============================================================
# 5. INTERFACCIA GRADIO
# ============================================================
with gr.Blocks(css=custom_css) as interfaccia:
gr.HTML(crea_header_html())
gr.ChatInterface(
fn=chat_con_mind,
title=None,
description="Scrivi una domanda su Python, esercizi, debugging, funzioni, cicli, NumPy, Matplotlib o piccoli progetti."
)
if __name__ == "__main__":
interfaccia.launch() |