vllm
fastapi
uvicorn
pydantic