akra35567 commited on
Commit
c009ca0
·
verified ·
1 Parent(s): 64b6655

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +26 -14
app.py CHANGED
@@ -1,4 +1,4 @@
1
- # app.py — V22 — PROMPT DINÂMICO COM GÍRIAS + ABREVIÇÕES DO BANCO
2
  import subprocess
3
  import time
4
  import requests
@@ -12,9 +12,14 @@ app = Flask(__name__)
12
  OLLAMA_URL = "http://localhost:11434"
13
  db = Database()
14
 
 
 
 
15
  def check_ollama():
16
- try: return requests.get(f"{OLLAMA_URL}/api/tags", timeout=10).status_code == 200
17
- except: return False
 
 
18
 
19
  def start_ollama():
20
  subprocess.Popen(["ollama", "serve"], stdout=subprocess.DEVNULL, stderr=subprocess.DEVNULL)
@@ -63,42 +68,49 @@ Fala com gírias: {', '.join(girias)}
63
  Abreviações: {', '.join(abrevs.keys())}
64
  Tom: {tom}
65
  Data/hora: {now}
66
-
67
  ### Usuário: {usuario} ({numero}) ###
68
-
69
  {hist_text and f"### Histórico ###\n{hist_text}\n\n"}
70
-
71
  ### Mensagem ###
72
  {mensagem}
73
-
74
  Akira:"""
75
 
76
- # === GERA ===
77
  payload = {
78
- "model": "phi3.5:mini-instruct-q4_0",
79
  "prompt": prompt,
80
  "stream": False,
81
- "options": {"temperature": 0.9, "num_predict": 256}
 
 
 
 
 
82
  }
83
 
84
  try:
85
  resp = requests.post(f"{OLLAMA_URL}/api/generate", json=payload, timeout=90)
86
  resposta = resp.json().get("response", "").strip() or "Epá, kandando bué!"
87
 
88
- # SALVA
89
  db.salvar_mensagem(usuario, mensagem, resposta, numero)
90
  novo_hist = ctx["historico"] + [[mensagem, resposta]]
91
  db.salvar_contexto(numero, novo_hist, girias, tom)
92
 
93
  return jsonify({'resposta': resposta})
 
94
  except Exception as e:
95
- logger.error(f"Erro: {e}")
96
  return jsonify({'resposta': 'Epá, tô off... tenta de novo!'}), 500
97
 
98
  if __name__ == "__main__":
99
- logger.info("AKIRA V22PROMPT DINÂMICO COM BANCO")
100
  start_ollama()
101
  for i in range(60):
102
- if check_ollama(): break
 
 
 
103
  time.sleep(2)
 
 
104
  app.run(host="0.0.0.0", port=7860)
 
1
+ # app.py — V23QWEN2.5:0.5B + PROMPT DINÂMICO COM GÍRIAS + ABREVIÇÕES DO BANCO
2
  import subprocess
3
  import time
4
  import requests
 
12
  OLLAMA_URL = "http://localhost:11434"
13
  db = Database()
14
 
15
+ # MODELO LEVE, BOM EM PORTUGUÊS, FINE-TUNEÁVEL
16
+ MODEL_NAME = "qwen2.5:0.5b-instruct-q4_0"
17
+
18
  def check_ollama():
19
+ try:
20
+ return requests.get(f"{OLLAMA_URL}/api/tags", timeout=10).status_code == 200
21
+ except:
22
+ return False
23
 
24
  def start_ollama():
25
  subprocess.Popen(["ollama", "serve"], stdout=subprocess.DEVNULL, stderr=subprocess.DEVNULL)
 
68
  Abreviações: {', '.join(abrevs.keys())}
69
  Tom: {tom}
70
  Data/hora: {now}
 
71
  ### Usuário: {usuario} ({numero}) ###
 
72
  {hist_text and f"### Histórico ###\n{hist_text}\n\n"}
 
73
  ### Mensagem ###
74
  {mensagem}
 
75
  Akira:"""
76
 
77
+ # === GERA COM QWEN2.5:0.5B ===
78
  payload = {
79
+ "model": MODEL_NAME,
80
  "prompt": prompt,
81
  "stream": False,
82
+ "options": {
83
+ "temperature": 0.9,
84
+ "num_predict": 256,
85
+ "top_k": 40,
86
+ "top_p": 0.9
87
+ }
88
  }
89
 
90
  try:
91
  resp = requests.post(f"{OLLAMA_URL}/api/generate", json=payload, timeout=90)
92
  resposta = resp.json().get("response", "").strip() or "Epá, kandando bué!"
93
 
94
+ # SALVA NO BANCO
95
  db.salvar_mensagem(usuario, mensagem, resposta, numero)
96
  novo_hist = ctx["historico"] + [[mensagem, resposta]]
97
  db.salvar_contexto(numero, novo_hist, girias, tom)
98
 
99
  return jsonify({'resposta': resposta})
100
+
101
  except Exception as e:
102
+ logger.error(f"Erro Ollama: {e}")
103
  return jsonify({'resposta': 'Epá, tô off... tenta de novo!'}), 500
104
 
105
  if __name__ == "__main__":
106
+ logger.info(f"AKIRA V23RODANDO COM {MODEL_NAME}")
107
  start_ollama()
108
  for i in range(60):
109
+ if check_ollama():
110
+ logger.info("Ollama pronto!")
111
+ break
112
+ logger.info("Aguardando Ollama...")
113
  time.sleep(2)
114
+ else:
115
+ logger.error("Ollama não respondeu após 2min!")
116
  app.run(host="0.0.0.0", port=7860)