Развёртывание большой мультимодальной модели

Большие мультимодальные модели можно развёртывать через графический интерфейс консоли администратора AIO. Выберите один из следующих способов подключения в соответствии с вашими требованиями.

Способ развёртыванияВариант в консоли администратора AIOОписание
Официально поддерживаемая большая модельРазвернуть встроенную LLMСкачайте установочный пакет официально поддерживаемой большой модели и добавьте узел LLM в кластер. Платформа развёртывает сервис модели и управляет им.
Большая модель заказчикаПодключить собственный сервис LLMПодключите другую большую модель, предоставленную заказчиком. API сервиса модели должен соответствовать стандартному протоколу OpenAI. После ввода URL-адреса сервиса и его конфигурации выполните проверку соединения, чтобы убедиться в наличии соединения и доступности модели.

Поддержка функций

После развёртывания официально поддерживаемой большой модели или настройки подключения к большой модели заказчика доступны следующие функции.

ФункцияОфициально поддерживаемая большая модельБольшая модель заказчика
Интеллектуальный поискПоддерживаетсяПоддерживается
Обнаружение изменений ProПоддерживаетсяПоддерживается
Мультимодальное обнаружение и распознавание объектовПоддерживаетсяПоддерживается
Помощник Copilot - Дистанционное управлениеПоддерживаетсяПоддерживается
Помощник Copilot - Редактирование маршрута полётаПоддерживаетсяПоддерживается
Помощник Copilot - Автоматизированные рабочие процессыПока не поддерживаетсяПока не поддерживается
Помощник Copilot - Создание отчёта о полётеПока не поддерживаетсяПока не поддерживается

Пакеты карт для ИИ используются для функции «Copilot - Редактирование маршрута полёта» в DJI FlightHub 2. Чтобы использовать эту функцию, скачайте пакет карт для соответствующего региона, затем импортируйте и активируйте его после настройки сервиса модели.

Предварительные требования

Требования к серверу для официально поддерживаемой большой модели

Параметр конфигурацииМинимальные требования к конфигурации
Архитектура сервераПоддерживается только x86.
CPUНе менее 16 физических ядер
Память128 GB
Диск1 TB NVMe SSD
Видеопамять (VRAM)48 GB
Операционная системаUbuntu Server 22.04 LTS или 24.04 LTS (64-разрядная)
Рекомендации по CUDA и драйверам NVIDIACUDA 12.8.1: драйвер NVIDIA ≥ 570.124.06
CUDA 12.9.1: драйвер NVIDIA ≥ 575.57.08
CUDA 13.3: драйвер NVIDIA ≥ 610.43.02

Минимальная конфигурация обеспечивает комфортную работу при обработке запросов одного пользователя. Для одновременных запросов от 2 пользователей рекомендуется 96 GB видеопамяти (VRAM) и 256 GB памяти.

Ограничения развёртывания:

  • Можно добавить только один узел LLM, и этот узел поддерживает только одну видеокарту.
  • Одновременные запросы могут отправлять не более 2 пользователей. Дополнительные запросы, превышающие этот лимит, возвращают ошибку.

⚠️ Примечание

Официально поддерживаемая большая модель предъявляет высокие требования к видеокарте. Текущий комплексный аппаратный модуль DJI FlightHub 2 не соответствует этим требованиям, поэтому официально поддерживаемую большую модель нельзя развернуть на этом модуле или на узле на его основе. Для развёртывания используйте серверный узел, соответствующий приведённым выше требованиям к конфигурации.

Перед добавлением узла подготовьте IP-адрес целевого сервера, порт SSH, учётную запись для входа с правами sudo/root и данные для её аутентификации. Убедитесь, что сервер, на котором размещена консоль администратора AIO, имеет доступ к целевому серверу по SSH.

Требования для подключения большой модели заказчика

Большая модель заказчика — это другая большая модель, которую заказчик подключает самостоятельно. API её сервиса должен соответствовать стандартному протоколу OpenAI.

Что необходимо подготовитьОписание
Конфигурация сервераОзнакомьтесь с рекомендуемой конфигурацией на официальном сайте выбранной большой модели, чтобы уточнить требования к CPU, памяти, видеопамяти, хранилищу и другим параметрам. Подготовьте сервер модели в соответствии с этими требованиями.
Сведения о сервисеПодготовьте Base URL, Model Name и API Key (если требуется аутентификация) для языковой модели (LLM) и визуальной модели (VLM). Убедитесь, что FlightHub 2 On-Premises имеет доступ к URL-адресам сервисов моделей.
Доступность моделиВо время настройки подключения выполните проверку соединения, чтобы убедиться в наличии соединения с сервисом и доступности модели. Подробные инструкции см. ниже в разделе «Подключение большой модели заказчика».

При этом способе модель не развёртывается в кластере DJI FlightHub 2, а узлы кластера с GPU не используются.

Рекомендуемая сторонняя модель: Qwen3.8-27B прошла проверку применимости. Используйте конфигурацию сервера, рекомендованную на официальном сайте модели. При подключении модели всё равно необходимо выполнить проверку соединения, чтобы убедиться в наличии соединения и доступности модели для текущего сервиса.

Подготовка к скачиванию

Подготовьте идентификатор лицензии FlightHub 2 On-Premises для проверки и скачивания ресурсов на сайте разработчика. Для развёртывания официально поддерживаемой большой модели скачайте её установочный пакет. Для использования функции «Copilot - Редактирование маршрута полёта» в DJI FlightHub 2 при обоих способах подключения необходимо скачать пакет карт для ИИ для соответствующего региона.

Развёртывание официально поддерживаемой большой модели

1. Скачайте установочный пакет официально поддерживаемой большой модели и пакет карт для ИИ.

Войдите на сайт разработчика, перейдите в раздел «Сервис FlightHub 2 On-Premises» → «Скачать образы LLM», введите идентификатор лицензии и нажмите «Проверить».

После успешной проверки скачайте установочный пакет в разделе «Скачать образы LLM». В разделе «Скачать пакеты карт» выберите страну/регион, где находится область выполнения операций, выберите нужные штаты/провинции (можно выбрать несколько) и нажмите «Скачать».

Пакеты карт для ИИ используются для функции «Copilot - Редактирование маршрута полёта» в DJI FlightHub 2. Скачайте пакет карт для соответствующего региона выполнения операций.

2. Добавьте узел LLM в разделе «Управление кластером» консоли администратора AIO.

Перейдите в раздел «Управление кластером» → «Топология кластера» и нажмите «Добавить сервер». Введите данные для подключения к серверу, выберите «Узел LLM» в поле «Тип узла», нажмите «Начать добавление» и дождитесь присоединения сервера к кластеру.

ПараметрОписание
IP-адрес сервераIP-адрес добавляемого сервера большой модели.
Порт SSHПорт SSH, фактически используемый целевым сервером.
Имя пользователя для входаУчётная запись с правами sudo/root.
Способ аутентификацииВыберите способ аутентификации на странице и введите соответствующий пароль или закрытый ключ.
Тип узлаВыберите «Узел LLM».

3. Включите сервис большой модели в разделе «Дополнительные сервисы».

Перейдите в раздел «Дополнительные сервисы» в консоли администратора AIO и нажмите «Включить сервис» на карточке «LLM».

В разделе «Способ подключения» выберите «Развернуть встроенную LLM» и нажмите «Далее».

4. Выберите узел LLM и импортируйте установочный пакет.

В разделе «Сведения о развёртывании» выберите добавленный узел LLM и загрузите установочный пакет официально поддерживаемой большой модели, скачанный с сайта разработчика. Если на странице указано, что повторно используется установочный пакет на сервере, проверьте сведения о пакете. Чтобы заменить его, нажмите «Загрузить повторно». По завершении нажмите «Далее».

5. Следуйте инструкциям на экране, чтобы выполнить проверку среды и развёртывание.

В разделе «Самопроверка и развёртывание» дождитесь завершения проверки среды. Просмотрите результаты проверки в разделах «Сведения о среде сервера» и «Журналы выполнения». Если какие-либо проверки не пройдены, устраните проблемы в соответствии с инструкциями на странице и выполните проверку снова.

После успешного прохождения проверки нажмите «Начать развёртывание» и следуйте инструкциям на экране, ожидая завершения развёртывания.

6. Импортируйте и активируйте пакет карт для ИИ.

Для использования функции «Copilot - Редактирование маршрута полёта» в DJI FlightHub 2 выполните настройку карты для соответствующего региона, как описано ниже в разделе «Импорт и активация пакета карт для ИИ».

Подключение большой модели заказчика

1. Включите сервис большой модели в разделе «Дополнительные сервисы» консоли администратора AIO.

Перейдите в раздел «Дополнительные сервисы» и нажмите «Включить сервис» на карточке «LLM». В разделе «Способ подключения» выберите «Подключить собственный сервис LLM» и нажмите «Далее».

2. Введите конфигурации сервисов LLM и VLM.

В разделе «Ввод сведений» отдельно введите сведения о сервисах языковой модели (LLM) и визуальной модели (VLM).

Если одна и та же большая модель заказчика поддерживает и LLM, и VLM, введите одинаковые Base URL, Model Name и API Key в обеих конфигурациях. Если аутентификация не требуется, оба поля API Key можно оставить пустыми.

ПараметрОписание
LLM Base URLБазовый URL-адрес API языковой модели. Введите его в соответствии со сведениями, предоставленными сервисом модели, например http://<模型服务器 IP>:<端口>/v1.
LLM Model NameНазвание или идентификатор языковой модели. Должно совпадать с названием, предоставленным сервисом модели.
LLM API KeyКлюч аутентификации для сервиса языковой модели. Оставьте поле пустым, если аутентификация не требуется.
VLM Base URLБазовый URL-адрес API визуальной модели. Введите его в соответствии со сведениями, предоставленными сервисом модели.
VLM Model NameНазвание или идентификатор визуальной модели. Должно совпадать с названием, предоставленным сервисом модели.
VLM API KeyКлюч аутентификации для сервиса визуальной модели. Оставьте поле пустым, если аутентификация не требуется.

3. Проверьте наличие соединения с сервисом и доступность модели.

Нажмите «Проверить соединение». Эта проверка подтверждает наличие соединения с сервисом и доступность модели: система проверяет сетевое соединение и аутентификацию по ключу для LLM и VLM, затем выполняет вызовы моделей. При проверке доступности VLM отправляется тестовое изображение.

Убедившись, что проверка соединения прошла успешно, нажмите «Далее». Если проверка не пройдена, проверьте состояние сервиса модели, сетевое соединение и введённую конфигурацию. Устраните проблемы и выполните проверку снова.

4. Следуйте инструкциям на экране, чтобы применить конфигурацию.

В разделе «Самопроверка и применение» убедитесь, что на странице отображается «Проверка соединения с сервисом модели пройдена», и нажмите «Начать развёртывание». Система сохраняет конфигурацию сервиса модели заказчика и обновляет сервисы платформы. Следуйте инструкциям на экране, ожидая завершения.

5. Скачайте пакет карт для ИИ.

Для использования функции «Copilot - Редактирование маршрута полёта» в DJI FlightHub 2 скачайте пакет карт для ИИ для соответствующего региона. Войдите на сайт разработчика, перейдите в раздел «Сервис FlightHub 2 On-Premises» → «Скачать образы LLM», введите и проверьте идентификатор лицензии. В разделе «Скачать пакеты карт» выберите страну/регион и штат/провинцию, где находится область выполнения операций, затем нажмите «Скачать».

6. Импортируйте и активируйте пакет карт для ИИ.

Для использования функции «Copilot - Редактирование маршрута полёта» в DJI FlightHub 2 выполните настройку карты для соответствующего региона, как описано ниже в разделе «Импорт и активация пакета карт для ИИ».

Импорт и активация пакета карт для ИИ

Пакеты карт для ИИ используются для функции «Copilot - Редактирование маршрута полёта» в DJI FlightHub 2. Независимо от того, используется ли официально поддерживаемая большая модель или большая модель заказчика, для использования этой функции необходимо импортировать и активировать пакет карт для соответствующего региона.

1. Откройте консоль управления картографическими данными.

Откройте http://<司空外部 IP 地址>:30812/openstreetmap/api/v1/console в браузере, чтобы перейти в «Консоль данных OSM». Замените заполнитель фактически настроенным внешним IP-адресом DJI FlightHub 2.

2. Импортируйте пакет карт для ИИ.

Нажмите «Импортировать данные», выберите «Загрузка локального файла» в разделе «Импорт данных OSM» и выберите скачанный файл карты PBF. Страница автоматически извлекает регион и версию из имени файла. Проверьте их и нажмите «Загрузить и импортировать». Если у вас есть файлы карт для нескольких регионов, импортируйте их по отдельности.

ПараметрОписание
Файл PBFФайл картографических данных для области выполнения операций, скачанный с сайта разработчика.
РегионКод региона, соответствующего файлу карты, например cn-guangdong. Проверьте автоматически извлечённое значение. Если его не удаётся извлечь, введите фактический регион.
Номер версииНомер версии картографических данных. Должен соответствовать скачанному файлу.
ПримечанияНеобязательное поле. Заполните при необходимости.

3. Активируйте картографические данные.

Дождитесь завершения импорта картографических данных и изменения состояния на ready (ожидает активации). Нажмите «Активировать» в столбце действий для соответствующего региона или версии. Проверьте регион и версию, затем подтвердите.

Обновите список и убедитесь, что состояние целевой версии изменилось на online (в сети). На этом импорт и активация пакета карт для ИИ для этого региона завершены.