Configuração personalizada

No servidor em que o modelo foi implantado, edite o arquivo .env no diretório de implantação do modelo para ajustar as seguintes configurações do serviço:

# Imagem Docker
VLLM_IMAGE=qwenllm/qwenvl:qwen3vl-cu128

# Configuração do modelo
MODEL_NAME=Qwen/Qwen3-VL-32B-Instruct

# Porta do serviço
VLLM_PORT=8000

# Configuração de GPU
GPU_MEMORY_UTILIZATION=0.9    # Utilização de VRAM (0.0-1.0)
TENSOR_PARALLEL_SIZE=1         # Quantidade de GPUs em uso

# Configuração de desempenho
MAX_MODEL_LEN=32768           # Comprimento máximo de contexto
MAX_NUM_SEQS=256              # Número máximo de solicitações simultâneas