Configuración local de FlightHub
Añadir configuración
Después de desplegar el modelo, vaya a "Servicios ampliados" → "Modelo grande multimodal" en la consola de administración e introduzca la dirección del servicio del modelo, el nombre del modelo y la API Key.
Instrucciones de configuración
| Elemento de configuración | Descripción |
|---|---|
| Dirección del servicio del modelo | Utilice el formato http://<IP>:<端口>/v1. La dirección debe terminar con /v1. |
| Nombre del modelo | Introduzca el nombre del modelo desplegado, como Qwen/Qwen3-VL-32B-Instruct. |
| API Key | Introduzca la API Key utilizada para autenticar el acceso al servicio vLLM. |
Obtener la dirección del servicio del modelo (LLM_BASE_URL)
En el servidor donde está desplegado el modelo, vaya al directorio de despliegue del modelo y realice las siguientes operaciones:
- Consulte la IP del servidor:
hostname -I | awk '{print $1}'
- Consulte el puerto del servicio (predeterminado:
8000):
grep VLLM_PORT .env
Por ejemplo, si la IP del servidor es 192.168.1.100 y el puerto es 8000, la dirección del servicio del modelo es http://192.168.1.100:8000/v1. En el siguiente ejemplo de configuración, LLM_BASE_URL corresponde a "Dirección del servicio del modelo" en la consola de administración:
LLM_BASE_URL: "http://192.168.1.100:8000/v1"