Сервер для видеоаналитики на 100+ камер: три типа задач и реальная математика GPU
Один сервер ITPOD-SYR4108G-D12R-G3 в форм-факторе 4U с восемью GPU NVIDIA RTX PRO 4500 Blackwell закрывает видеоаналитику объекта на 280 камер FullHD: детекцию объектов в реальном времени, умную архивацию и интеллектуальный поиск по архиву. В этой статье мы показываем, как посчитать такую систему: сколько потоков декодирует и анализирует одна карта, куда уходит видеопамять и почему платформа на AMD EPYC 7003 и DDR4 даёт лучшую цену за поток на рынке.
Коротко:
- Ёмкость системы видеоаналитики определяется минимумом из трёх ресурсов GPU: аппаратный декодер (NVDEC), скорость инференса, объём видеопамяти.
- Одна NVIDIA RTX PRO 4500 Blackwell: 32 ГБ GDDR7 ECC, 2 движка NVDEC + 2 движка NVENC, 165 Вт (Server Edition). Консервативная оценка ITPOD: 35 потоков FullHD 25 к/с с детекцией объектов на карту.
- Сервер ITPOD-SYR4108G-D12R-G3: до 8 GPU, суммарно 256 ГБ видеопамяти и 16 движков NVDEC, до 128 ядер CPU (2 x AMD EPYC 7763), до 2 ТБ DDR4, 12 отсеков под накопители (из них 4 NVMe).
- Экономика: зрелая платформа EPYC 7003 и память DDR4 RDIMM заметно дешевле актуальных DDR5-платформ, а однослотовые карты 165 Вт дают производительность класса GeForce RTX 5090 при плотности 8 карт на 4U.
Какие задачи решает видеоаналитика на GPU
Успех проекта видеоаналитики на 80% зависит от правильного подбора аппаратного ускорителя. Главная ошибка при выборе: взять «самую мощную» карту, не разобравшись, что система будет делать большую часть времени. Нагрузки делятся на три типа, и у каждого свои требования к задержке, пропускной способности и видеопамяти.
1. Детекция в реальном времени: важна каждая миллисекунда
Камера фиксирует событие, система реагирует немедленно. Безопасность, контроль доступа, промышленная автоматика: задержка свыше 300 мс недопустима. Типовые сценарии: распознавание лиц и номеров (LPR) на проходных, контроль касок и спецодежды, детекция пересечения периметра и оставленных предметов.
Нейросеть (YOLO, ResNet) обрабатывает кадры на лету: GPU-сервер принимает потоки с камер, модель классифицирует объекты, строит траектории и отправляет события в систему управления. Ключевые требования к железу: время инференса менее 50 мс на кадр, стабильный FPS на десятках камер одновременно, поддержка CUDA и TensorRT, надёжное охлаждение без троттлинга.
На рынке РФ с этим сценарием работают платформы Trassir (гибкое распределение нагрузки между CPU и GPU) и Eltex EVI (микросервисная архитектура, контейнеры с детекторами). Обе разворачиваются на серверах ITPOD.
2. Умная архивация: экономия терабайт без потери событий
Непрерывная запись 100 камер FullHD занимает порядка 100 ТБ в месяц. Умный архив решает проблему кардинально: ускоритель прогоняет поток через детектор, значащие события сохраняются в высоком качестве вместе с метаданными (время, тип события, координаты, дескрипторы), остальное живёт в суточном кольцевом буфере и перезаписывается. Итог: в 10 раз меньше места, вместо 100 ТБ в месяц остаётся 10 ТБ.
Для этой задачи не нужны рекордные FPS. Важны стабильность 24/7 (серверные карты с ECC-памятью здесь надёжнее игровых), низкий TDP при постоянной нагрузке около 50% и аппаратный декодер NVDEC, который разгружает CPU от распаковки H.264 и H.265.
3. Пост-аналитика: интеллектуальный поиск по архиву
Режим «расследование»: оператору нужно найти все моменты, когда человек в красной каске заходил в цех №3 за неделю. Без ИИ это часы ручной перемотки, с ИИ это запрос на естественном языке и нарезка клипов за минуты. Сценарии: разбор инцидентов на производстве, контроль качества на конвейере, сбор датасетов для обучения новых моделей.
Здесь критична не задержка, а пропускная способность: терабайты архива нужно перемолоть за минуты. Для пакетной обработки батчами по 64 кадра требуется большой объём видеопамяти, быстрые NVMe под активную часть архива и поддержка форматов пониженной точности INT8 и FP8, которая ускоряет поиск примерно втрое без заметной потери качества.
Реальная математика: сколько видеопотоков обрабатывает одна GPU-карта
Ёмкость карты в видеоаналитике считается по формуле: число потоков = min(лимит декодера, лимит инференса, лимит видеопамяти). Разберём каждый лимит на примере NVIDIA RTX PRO 4500 Blackwell.
| Параметр | Значение |
|---|---|
| Видеопамять | 32 ГБ GDDR7 с ECC, 896 ГБ/с |
| CUDA-ядра | 10 496 (архитектура Blackwell) |
| Тензорная производительность | до 811 TFLOPS FP8, до 1,6 PFLOPS FP4 (пиковые значения NVIDIA) |
| Видеодвижки | 2 x NVDEC (6-е поколение) + 2 x NVENC (9-е поколение), декодирование H.264/HEVC/AV1, включая 4:2:2 |
| MIG | 2 изолированных инстанса по 16 ГБ |
| Энергопотребление | 165 Вт, однослотовое пассивное исполнение FHFL |
| Интерфейс | PCIe 5.0 x16, обратно совместим с PCIe 4.0 x16 |
Лимит 1: аппаратное декодирование (NVDEC)
Каждый поток с камеры сначала нужно распаковать. Два движка NVDEC шестого поколения декодируют, по нашей инженерной оценке на базе данных NVIDIA Video Codec SDK, суммарно около 1500 кадров FullHD HEVC в секунду. При 25 к/с это 60 потоков FullHD или 15 потоков 4K на карту. Для H.264 шестое поколение NVDEC даёт до двукратного прироста относительно предыдущего. Это оценка, а не паспортная характеристика: точное значение зависит от кодека, битрейта и профиля.
Лимит 2: инференс нейросети
Детектор класса YOLO (входной тензор 640 px, TensorRT, INT8) выдаёт на карте такого уровня около 400 кадров в секунду. Дальше решает режим анализа. Полный анализ каждого кадра при 25 к/с: 16 потоков. Анализ 10 кадров в секунду на поток, стандартная практика для детекции людей и транспорта, даёт теоретические 40 потоков; с учётом трекинга траекторий и служебной нагрузки закладываем 35 потоков на карту. На практике узким местом становится именно инференс, декодер сохраняет запас.
Лимит 3: видеопамять (32 ГБ)
Видеопамять расходуют три потребителя: TensorRT-движок модели (до 0,5 ГБ на модель), буферы декодированных кадров (около 50 МБ на поток в конвейере класса DeepStream) и активации при пакетной обработке. 35 потоков с одним детектором занимают около 2,5 ГБ. Запас в 32 ГБ позволяет держать на одной карте целый каскад моделей одновременно: детектор, трекер траекторий, ReID, распознавание номеров и лиц, и при этом оставлять память под пакетный поиск по архиву с batch 64. Карты с 8–16 ГБ такой каскад уже не вмещают.
Сколько камер обслуживает один сервер ITPOD-SYR4108G-D12R-G3
Сервер ITPOD-SYR4108G-D12R-G3 вмещает до 8 GPU-карт через CPU-GPU switch. С восемью RTX PRO 4500 Blackwell платформа суммарно даёт 256 ГБ видеопамяти, 16 движков NVDEC и 16 движков NVENC при потреблении GPU-подсистемы около 1,3 кВт.
| Подсистема | Спецификация | Роль в видеоаналитике |
|---|---|---|
| Форм-фактор | 4U | 8 GPU в одном корпусе стандартной стойки |
| Процессоры | 2 x AMD EPYC 7003 (Milan), до 2 x 7763 = 128 ядер / 256 потоков | Приём и демультиплексирование сотен RTSP-потоков, VMS, базы метаданных, векторный поиск |
| Память | 32 слота DDR4 RDIMM 3200 МГц, до 2 ТБ | Кэш горячих метаданных и индексов, in-memory поиск по событиям |
| GPU | До 8 карт двойной ширины, PCIe 4.0 x16 через CPU-GPU switch | Декодирование, инференс, пакетный поиск |
| Хранилище | 12 отсеков 2,5" с горячей заменой: SATA/SAS, из них 4 с поддержкой NVMe | Горячий слой архива и базы метаданных на NVMe. Твердотельные накопители до 15,3 ТБ: до 61 ТБ на NVMe-слое и до 183 ТБ суммарно, этого хватает почти для любой задачи |
| Сеть | 2 x 10GbE RJ45 (Intel X710) + 5 слотов PCIe 4.0 x8 | Приём потоков: 280 камер FullHD по 4 Мбит/с занимают ~1,1 Гбит/с |
| Питание и охлаждение | 4 БП до 2600 Вт по схеме 3+1, 12 вентиляторов с горячей заменой | Резервирование под полную GPU-нагрузку 24/7 |
Итоговая ёмкость при восьми картах: 280 потоков FullHD 25 к/с с детекцией объектов (консервативная оценка при анализе 10 к/с на поток). Гибридное распределение ролей по картам закрывает все три задачи одним сервером: например, 3 карты на детекцию в реальном времени, 3 на умную архивацию, 2 на пост-аналитику. MIG в Server Edition дополнительно делит карту на два изолированных инстанса по 16 ГБ, что удобно для мультиарендных инсталляций.
Однослотовые пассивные карты по 165 Вт охлаждаются штатными вентиляторами корпуса 4U без жидкостных контуров и без деградации частот при постоянной нагрузке. Платформа также протестирована с NVIDIA H200, L40S, A800 и A100 для задач, где требуется больше видеопамяти на карту.
Почему EPYC 7003 и DDR4 снижают бюджет проекта
Видеонаблюдение исторически финансируется по остаточному принципу относительно основных ИТ-систем, поэтому цена за поток решает судьбу проекта. Платформа ITPOD-SYR4108G-D12R-G3 построена на двух зрелых технологиях, и это осознанный выбор в пользу экономики.
AMD EPYC 7003 (Milan). Прошлое поколение процессоров: платформа дешевле актуальных, при этом два EPYC 7763 дают 128 физических ядер на хост. Для видеоаналитики этого хватает с запасом: CPU в таких системах занимается приёмом потоков, оркестрацией и базами данных, а вычислительная нагрузка лежит на GPU. Платить за новейшее поколение CPU здесь не за что.
DDR4 RDIMM вместо DDR5. На фоне ИИ-бума серверная память DDR5 RDIMM подорожала сильнее и остаётся дефицитной, DDR4 заметно меньше подвержена этому росту. При этом 32 слота дают до 2 ТБ ёмкости, а для метаданных и индексов видеоархива важен именно объём, а не частота поколения.
Результат: заказчик направляет бюджет на то, что реально определяет ёмкость системы, на GPU-карты, а не на премию за новизну CPU-платформы.
RTX PRO 4500 Blackwell против GeForce RTX 5090: что выбрать для сервера
Соблазн поставить в сервер игровую карту понятен: GeForce RTX 5090 показывает высокую производительность инференса. Но для стойки 24/7 сравнение выглядит так:
| Параметр | RTX PRO 4500 Blackwell SE | GeForce RTX 5090 |
|---|---|---|
| Видеопамять | 32 ГБ GDDR7 с ECC | 32 ГБ GDDR7, без ECC |
| TDP | 165 Вт | 575 Вт |
| Исполнение | 1 слот, пассивное, серверное | 3+ слота, активное |
| Карт в корпусе 4U | 8 | 1–2 |
| NVDEC (декод) | 2 | 2 |
| MIG | Да, 2 x 16 ГБ | Нет |
| Драйверы и поддержка | Enterprise-ветка, сертификация для серверов | GeForce, без серверной сертификации |
При цене, сопоставимой с десктопным флагманом, RTX PRO 4500 Blackwell выигрывает там, где это важно для видеоаналитики: восемь карт на корпус вместо одной-двух, 165 Вт на карту вместо 575 Вт, ECC-память для суточных буферов и метаданных, MIG для изоляции задач. В пересчёте на поток и на киловатт серверная карта дешевле уже на горизонте первого года эксплуатации.
Как выбрать конфигурацию под ваш сценарий
Если нужна мгновенная реакция (безопасность, КПП): приоритет низкой латентности и запасу инференса, стартовая конфигурация 4 карты. Если цель сократить хранилище и ускорить поиск событий: умная архивация, достаточно 2 карт и NVMe-подсистемы. Если требуется глубокий разбор архивов (расследования, ML-исследования): максимум видеопамяти и пакетная обработка, сюда же имеет смысл смотреть на L40S или H200 в той же платформе. Гибридная схема с восемью картами закрывает все три задачи одним сервером 4U.
Вопросы и ответы
Сколько камер FullHD обрабатывает одна RTX PRO 4500 Blackwell?
По консервативной оценке ITPOD: 35 потоков FullHD 25 к/с с детекцией объектов при анализе 10 кадров в секунду на поток. Декодер при этом сохраняет запас (60 потоков). Финальную ёмкость подтверждают пилотом на вашей модели и кодеке.
Хватит ли PCIe 4.0 для карты с интерфейсом PCIe 5.0?
Да. RTX PRO 4500 работает в слоте PCIe 4.0 x16 в режиме обратной совместимости. Около 32 ГБ/с пропускной способности покрывают задачи видеоаналитики с многократным запасом: сжатое видео занимает мегабиты в секунду, обработка идёт внутри GPU.
Зачем видеоаналитике 128 ядер CPU?
Приём и демультиплексирование сотен RTSP-потоков, сервисы VMS, базы метаданных и векторный поиск по событиям. Разгруженный CPU означает, что GPU занимаются только инференсом.
Что делать, если 32 ГБ видеопамяти на карту мало?
Та же платформа ITPOD-SYR4108G-D12R-G3 протестирована с NVIDIA L40S (48 ГБ), A800, A100 и H200 (141 ГБ). Карты можно комбинировать под профиль нагрузки.
Работает ли это с российскими VMS-платформами?
Да. Trassir и Eltex EVI интегрируются с серверами ITPOD; конфигурацию под конкретную платформу и число камер подбирают инженеры ITPOD.
Подбор конфигурации
Напишите нам на info@itpod.com или оставьте заявку на сайте: посчитаем конфигурацию под ваше число камер, кодеки и сценарии аналитики. Страница сервера: ITPOD-SYR4108G-D12R-G3.
#Видеоаналитика #AI #GPU #ITPOD #RTXPRO4500 #Blackwell #EPYC #Безопасность #ХранениеДанных