Configuration de FlightHub sur site
Ajout de la configuration
Après avoir déployé le modèle, accédez à « Services étendus » → « Modèle multimodal de grande taille » dans la console d'administration et renseignez l'adresse du service de modèle, le nom du modèle et la clé API.
Instructions de configuration
| Élément de configuration | Description |
|---|---|
| Adresse du service de modèle | Utilisez le format http://<IP>:<端口>/v1. L'adresse doit se terminer par /v1. |
| Nom du modèle | Saisissez le nom du modèle déployé, par exemple Qwen/Qwen3-VL-32B-Instruct. |
| Clé API | Saisissez la clé API utilisée pour authentifier l'accès au service vLLM. |
Obtention de l'adresse du service de modèle (LLM_BASE_URL)
Sur le serveur où le modèle est déployé, accédez au répertoire de déploiement du modèle et effectuez les opérations suivantes :
- Consultez l'IP du serveur :
hostname -I | awk '{print $1}'
- Consultez le port du service (par défaut
8000) :
grep VLLM_PORT .env
Par exemple, si l'IP du serveur est 192.168.1.100 et le port est 8000, l'adresse du service de modèle est http://192.168.1.100:8000/v1. Dans l'exemple de configuration ci-dessous, LLM_BASE_URL correspond à « Adresse du service de modèle » dans la console d'administration :
LLM_BASE_URL: "http://192.168.1.100:8000/v1"