WesanCZE commited on
Commit
d18cb0e
·
verified ·
1 Parent(s): d3fac7e

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +5 -5
app.py CHANGED
@@ -1,15 +1,15 @@
1
  import gradio as gr
2
  from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline
3
 
4
- # Načtení modelu
5
- model_name = "mistralai/Mistral-7B-Instruct-v0.1"
6
  tokenizer = AutoTokenizer.from_pretrained(model_name)
7
  model = AutoModelForCausalLM.from_pretrained(model_name)
8
 
9
- # Vytvoření AI asistenta
10
  pipe = pipeline("text-generation", model=model, tokenizer=tokenizer)
11
 
12
- # Funkce pro odpověď AI
13
  def ai_assistant(prompt):
14
  response = pipe(prompt, max_length=200, do_sample=True)
15
  return response[0]['generated_text']
@@ -20,7 +20,7 @@ iface = gr.Interface(
20
  inputs="text",
21
  outputs="text",
22
  title="AI Asistent",
23
- description="Zeptej se na cokoli!",
24
  )
25
 
26
  # Spuštění aplikace
 
1
  import gradio as gr
2
  from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline
3
 
4
+ # Použití otevřené verze Mistral 7B
5
+ model_name = "mistralai/Mistral-7B-v0.1"
6
  tokenizer = AutoTokenizer.from_pretrained(model_name)
7
  model = AutoModelForCausalLM.from_pretrained(model_name)
8
 
9
+ # Vytvoření pipeline pro generování odpovědí
10
  pipe = pipeline("text-generation", model=model, tokenizer=tokenizer)
11
 
12
+ # Funkce AI asistenta
13
  def ai_assistant(prompt):
14
  response = pipe(prompt, max_length=200, do_sample=True)
15
  return response[0]['generated_text']
 
20
  inputs="text",
21
  outputs="text",
22
  title="AI Asistent",
23
+ description="Zeptej se na cokoli!"
24
  )
25
 
26
  # Spuštění aplikace