ИИ-инфраструктура: от пилотных проектов к промышленной эксплуатации

Как российский бизнес меняет подходы к внедрению искусственного интеллекта и почему готовность инфраструктуры становится ключевым фактором успеха.

Сегодня внедрение искусственного интеллекта в корпоративном секторе сталкивается с парадоксальной ситуацией: качество моделей перестало быть главным ограничением. Основные барьеры сместились в область инфраструктурной готовности - требования информационной безопасности, контроль затрат, масштабирование и работа с данными выходят на первый план. Как же трансформируются запросы бизнеса и какие подходы к внедрению ИИ становятся отраслевыми стандартами?

От абстрактных экспериментов к прикладным задачам

За последний год в запросах компаний произошли кардинальные изменения. Если раньше бизнес обращался с размытыми пожеланиями «попробовать ИИ» или выполнить указание руководства, то сегодня ситуация принципиально иная. Заказчики приходят с четко сформулированными бизнес-задачами: сократить время обработки заявок первой линии поддержки, ускорить работу аналитиков, улучшить поиск по внутренней базе знаний или автоматизировать отдельные рабочие процессы.

Важнейший тренд - осознанное отношение к экономике проектов. Компании требуют прозрачности: необходимо понимать, сколько вычислительных ресурсов потребляет каждое подразделение, какие подписки используются и каковы дополнительные затраты на рабочее место сотрудника. Искусственный интеллект перестает быть самоцелью и превращается в рабочий инструмент с понятной экономикой и измеримыми эффектами.

Экономический фактор также смещает интерес от масштабных универсальных моделей к более локальным сценариям. Год назад многие стремились развернуть у себя что-то грандиозное, но высокая стоимость таких проектов привела к переосмыслению подходов. Сегодня в тренде - локально развернутые модели под конкретные отделы и задачи: маркетинг, первая линия поддержки, поиск по внутренней базе знаний, автоматизация понятных бизнес-процессов.

С чего начинается успешное внедрение

Ключевой этап любого ИИ-проекта - постановка бизнес-задачи и определение метрик эффективности. Без этого существует высокий риск построить решение, которое останется невостребованным. Эксперты рекомендуют начинать с детального описания существующего процесса: сколько людей задействовано, сколько времени занимает работа, где возникают ошибки и какова их стоимость. Самый важный вопрос - что изменится, если процесс ускорится, например, в два раза.

Здесь кроется серьезная проблема: сотрудники отлично знают свою рутину, но часто не понимают, как ее можно оптимизировать с помощью ИИ. У них нет времени или специальных знаний, чтобы определить, где необходим RAG-пайплайн, где имеет смысл подключить распознавание речи, а где искусственный интеллект вообще не даст ощутимого эффекта. Поэтому в компании должен быть человек или команда, которые видят процессы системно и понимают, где автоматизация действительно принесет пользу.

После этого начинается архитектурное проектирование, где возникает ключевая развилка: нужен ли полный контроль над данными или компания готова использовать гибридный подход. Если данные нельзя выводить за периметр, речь идет об on-prem-инфраструктуре с локальным развертыванием моделей в защищенном контуре. В этом случае компания получает полный контроль над данными, защиту коммерческой тайны и возможность самостоятельно управлять инфраструктурой.

Когда ИИ-проект лучше отложить

Существуют четкие стоп-факторы, при которых начинать ИИ-проект преждевременно. Самый очевидный - отсутствие оцифрованных процессов. Если компания не понимает, что именно хочет улучшить, а просто «хочет ИИ», проект обречен на провал. Искусственный интеллект по умолчанию не лечит хаос - он скорее масштабирует то, что уже есть.

Второй критический фактор - отсутствие владельца изменений внутри компании. Должен быть человек, отвечающий за результат, бюджет и сам процесс трансформации. Без понимания стоимости и ожидаемой выгоды проект рискует превратиться в бесконечный эксперимент.

Важный нюанс: локальные нейросети, особенно в крупных внедрениях, требуют серьезных инвестиций. Многие компании, ориентируясь на цену подписок внешних сервисов, ошибочно полагают, что собственная инфраструктура будет стоить примерно столько же. В реальности, для крупного бизнеса и масштабных внедрений, собственная инфраструктура может оказаться кратно дороже. Однако здесь появляется контроль - компания не рискует коммерчески чувствительными данными, которые сотрудники могут загружать во внешние сервисы.

Платформенный подход как решение инфраструктурных задач

Именно для управления ИИ-инфраструктурой создаются специализированные платформы, позволяющие настраивать сценарии с контролем, аудитом и управлением передачей данных. Без такого решения компания, по сути, просто раздает сотрудникам доступы к внешним сервисам, теряя понимание того, какие данные уходят вовне и какие сценарии допустимы.

Программно-аппаратные комплексы (ПАК) для ИИ-задач ориентированы в первую очередь на корпоративный сектор с высокими требованиями к безопасности и прозрачности: финансы, промышленность, госсектор. Это отрасли, где данные не должны выходить за периметр компании, а облачные API и внешние сервисы часто просто не рассматриваются.

Такие решения включают библиотеку готовых моделей — обновляемых, поддерживаемых и протестированных под разные сценарии. Заказчик может не начинать с нуля, а выбирать подходящие модели под свои задачи и разворачивать их в защищенном контуре.

Второй важный сценарий - обслуживание разных подразделений с разными моделями, правами и квотами. Компании необходимо видеть, кто сколько потребляет ресурсов и во что это обходится. Дашборды позволяют ИТ-директору или руководителю бизнеса отслеживать использование инфраструктуры и ее стоимость в деньгах.

Третий сценарий - low-code-конструкторы workflow. Не в каждой компании есть сильная команда разработки, а автоматизировать процессы необходимо. Например, для ускорения обработки обращений в поддержку можно использовать потоковую транскрибацию в реальном времени или постобработку звонков, передавая данные в CRM или тикет-систему. Такие workflow собираются не через полноценную разработку с нуля, а в более прикладном режиме.

Конструктор, а не типовое решение

ПАК для ИИ-задач - это скорее конструктор, чем единый шаблон. У всех компаний задачи разные, поэтому инфраструктура подбирается под конкретную нагрузку: серверы, GPU, необходимая производительность. Разворачиваются нужные модели, подключаются необходимые сервисы, а поверх выстраивается последовательность действий, которую компания хочет получить.

Если заказчик понимает количество пользователей, ожидаемый объем запросов и решаемые задачи, можно точно подобрать и архитектуру, и оборудование. Это не история «один продукт для всех», а скорее сборка под конкретную нагрузку и конкретные бизнес-процессы.

Классический подход - самостоятельные упражнения компании по выбору железа, тестированию моделей и сборке решений. На первом этапе это вполне рабочая история: почти у всех сначала появляется пилот, запускаемый на существующих мощностях или арендованной виртуальной машине с GPU. Но переход от пилота в продуктив оказывается самым сложным этапом.

Пока решением пользуются несколько человек, многое можно делать вручную. Когда речь идет об использовании на уровне отделов, появляются совсем другие задачи: поддержка «железа» и программной части, роли MLOps или инженеров техподдержки, масштабирование, интеграция с корпоративными учетными записями, ролями доступа, аудит, мониторинг, подготовка и обезличивание данных. В пилоте что-то можно сделать быстро и даже руками. В продуктиве это уже не работает. ПАК для задач ИИ позволяет получить многие вещи «из коробки». Самостоятельная реализация может занять полгода или год и подорвать доверие к самому инструменту.

Аппаратная часть и охлаждение

В большинстве сценариев - примерно в 90% случаев — используются четырехъюнитовые серверы на архитектуре NVIDIA MGX, позволяющие устанавливать до восьми GPU, включая топовые ускорители уровня NVIDIA H200. Ключевой момент — система охлаждения. Восемь GPU по 600 Вт — это почти 5 кВт тепла, которое нужно эффективно отводить. На рынке встречаются решения, внешне похожие, но рассчитанные на карты с существенно меньшим энергопотреблением. Такие нюансы часто прописаны мелким шрифтом, и потом выясняется, что сервер не рассчитан на нужную нагрузку.

Для сценариев постепенного роста от пилота к промышленному использованию существуют восьмиюнитовые серверы с десктопными картами уровня RTX 4090 или RTX 5090. Крупные бренды вроде Dell или Hewlett Packard таких решений практически не предлагают. Такой подход востребован не только для ИИ, но и для высокопроизводительных вычислений, математического моделирования, медицинских исследований, разработки лекарств — везде, где нужны GPU-расчеты, но не обязательно требуется максимально отказоустойчивая инфраструктура уровня «24×7». Если задача не критична к непрерывной работе, а расчеты запускаются периодически, использование десктопных GPU позволяет существенно снизить стоимость владения без потери результата.

Экономика ИИ-инфраструктуры

Основная капитальная статья - это сами серверы с GPU. Но часто забывают, что сервер мало купить, его нужно где-то разместить. GPU-инфраструктура требует совсем другого уровня энергопотребления по сравнению с обычными серверами под виртуализацию или корпоративные системы. Растут требования к питанию и охлаждению. Если компания размещает оборудование в ЦОДе, растут и расходы на размещение. В России это пока не всегда воспринимается как критичная статья расходов, но именно здесь часто возникают ограничения. Не каждый ЦОД сегодня готов размещать такие мощности - где-то нет места, где-то не хватает питания или есть ограничения по охлаждению.

Особенно это заметно, когда компании пытаются развернуть инфраструктуру у себя, например на производственных площадках. Нередко оказывается, что существующая серверная не рассчитана ни на нужную мощность, ни на охлаждение. Тогда проект начинает требовать дополнительных инвестиций уже в инженерную инфраструктуру ЦОД.

При этом в ИИ есть и позитивный момент: очень много инструментов доступны в open source и не требуют дополнительного лицензирования. В этом смысле экономика часто оказывается проще, чем в классических корпоративных приложениях.

Главные ошибки при планировании затрат

Первая ошибка - считать только стоимость GPU-сервера и не учитывать инфраструктурные ограничения. Важно заранее понимать, где оборудование будет стоять. Не каждый ЦОД готов принять GPU-серверы, не каждая серверная выдержит нагрузку по питанию и охлаждению. Иногда выясняется, что вместе с внедрением ИИ приходится перестраивать инфраструктуру, а это уже совсем другие расходы.

Вторая история связана с облачными моделями. Если компания использует внешние сервисы, важно сразу понимать, как будут считаться расходы и какие ограничения нужно вводить. Проблема в том, что внедрение ИИ обычно идет постепенно. На старте пользователей немного, счет кажется вполне комфортным. Но потом сотрудники начинают понимать, насколько это ускоряет работу, использование растет, а вместе с ним начинает быстро расти и стоимость.

Биллинг становится критически важной историей. Нужно видеть, кто сколько потребляет, какие подразделения используют ресурсы и во что это обходится компании. Современные платформы включают такие механизмы — можно отслеживать использование локальной инфраструктуры, внешних сервисов и видеть всю экономику в едином контуре. Это помогает избежать ситуации, когда расходы начинают расти незаметно и выходят из-под контроля.

Рынок GPU и поиск альтернатив

Сегодня существует определенная монополия NVIDIA, особенно в сегменте обучения больших языковых моделей. По сути, этот сегмент пока остается за ними. При этом рынок уже начинает искать альтернативы - не потому, что все хотят отказаться от NVIDIA любой ценой, а скорее потому, что бизнес хочет снизить зависимость и стоимость решений.

Появляется интерес к китайским производителям и специализированным GPU-решениям. Пока они не могут полноценно конкурировать в задачах обучения самых больших моделей, но для прикладных сценариев уже выглядят вполне рабочим вариантом. Речь идет о более специализированном подходе. Не обязательно строить огромную инфраструктуру под универсальную модель, которая должна уметь все сразу. Все чаще компании хотят решать конкретную задачу - речевую аналитику, поиск по документам или работу с изображениями - и подбирать под нее более специализированное оборудование.

Это один из ключевых трендов ближайших лет. Если раньше рынок двигался в сторону максимально больших и универсальных моделей, то сейчас постепенно появляется спрос на специализацию - когда под конкретную задачу подбирается конкретная архитектура и конкретный тип ускорителей. Есть ощущение, что к 2028 году мы увидим гораздо больше решений на базе китайских GPU и меньшую зависимость от NVIDIA, особенно в сегменте прикладных корпоративных задач.

Взгляд в будущее

Стоимость внедрения ИИ должна заметно снижаться, и рынок, скорее всего, пойдет именно в эту сторону. Гигантские универсальные модели постепенно уступят место набору небольших специализированных моделей. У компании будет не одна система, которая «умеет все», а набор ИИ-агентов под конкретные роли и задачи.

Искусственный интеллект станет инструментом не только для разработчиков или людей, связанных с кодом. Он будет полезен и для обычных офисных сотрудников, и для линейного персонала. Это повлияет и на инфраструктуру: вместо гигантских GPU-кластеров рынок будет искать более доступные и специализированные решения. Заказчики все чаще хотят не универсальную «большую модель», а инфраструктуру под конкретный бизнес-сценарий. А значит, постепенно может снижаться и зависимость от NVIDIA и других американских производителей. Вероятно, мы увидим гораздо больше решений на базе китайских, а возможно, и других азиатских разработок.