Mountchicken commited on
Commit
9a6cc54
·
verified ·
1 Parent(s): 5642581

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +3 -3
app.py CHANGED
@@ -26,7 +26,7 @@ from rex_omni.tasks import KEYPOINT_CONFIGS, TASK_CONFIGS, get_task_config
26
 
27
 
28
  def parse_args():
29
- parser = argparse.ArgumentParser(description="Rex Omni Gradio Demo")
30
  parser.add_argument(
31
  "--model_path",
32
  default="IDEA-Research/Rex-Omni",
@@ -35,14 +35,14 @@ def parse_args():
35
  parser.add_argument(
36
  "--backend",
37
  type=str,
38
- default="transformers",
39
  choices=["transformers", "vllm"],
40
  help="Backend to use for inference",
41
  )
42
  parser.add_argument("--temperature", type=float, default=0.0)
43
  parser.add_argument("--top_p", type=float, default=0.05)
44
  parser.add_argument("--top_k", type=int, default=1)
45
- parser.add_argument("--max_tokens", type=int, default=2048)
46
  parser.add_argument("--repetition_penalty", type=float, default=1.05)
47
  parser.add_argument("--min_pixels", type=int, default=16 * 28 * 28)
48
  parser.add_argument("--max_pixels", type=int, default=2560 * 28 * 28)
 
26
 
27
 
28
  def parse_args():
29
+ parser = argparse.ArgumentParser(description="Rex-Omni Gradio Demo")
30
  parser.add_argument(
31
  "--model_path",
32
  default="IDEA-Research/Rex-Omni",
 
35
  parser.add_argument(
36
  "--backend",
37
  type=str,
38
+ default="vllm",
39
  choices=["transformers", "vllm"],
40
  help="Backend to use for inference",
41
  )
42
  parser.add_argument("--temperature", type=float, default=0.0)
43
  parser.add_argument("--top_p", type=float, default=0.05)
44
  parser.add_argument("--top_k", type=int, default=1)
45
+ parser.add_argument("--max_tokens", type=int, default=4096)
46
  parser.add_argument("--repetition_penalty", type=float, default=1.05)
47
  parser.add_argument("--min_pixels", type=int, default=16 * 28 * 28)
48
  parser.add_argument("--max_pixels", type=int, default=2560 * 28 * 28)