FAQ
1. 起動後、サービスを使用できるまでにどのくらい時間がかかりますか？
初回起動時は、GPUへのモデル読み込みに2～5分かかります。以下のコマンドで進捗を確認できます。
docker-compose logs -f
Uvicorn running on http://0.0.0.0:8000と表示されたら、サービスを使用できます。
2. Dockerイメージを手動で読み込むにはどうすればよいですか？
gunzip -c docker-image-v1.0.0.tar.gz | docker load
3. VRAMが不足する場合はどうすればよいですか？
モデルのデプロイディレクトリにある.envファイルで以下のパラメーターを調整し、VRAM使用量を減らします。
GPU_MEMORY_UTILIZATION=0.85
MAX_MODEL_LEN=8192
4. ダウンロードしたファイルの整合性を確認するにはどうすればよいですか？
展開に失敗した場合やサービスが正常に動作しない場合は、ファイルの整合性を確認できます。
- チェックサムファイルをダウンロードします。
wget https://terra-1-g.djicdn.com/84f990b0bbd145e6a3930de0c55d3b2b/ai-models/qwen3-vl-32b-instruct/v1.0.0/checksums.md5
- ファイルを検証します。
md5sum -c checksums.md5