Любая европейская компания, которая берётся за ИИ, уже на первой встрече упирается в один вопрос: куда уйдут наши данные? В Германии 66% компаний, уже использующих ИИ, называют барьером требования к защите данных, 56% — правовую неопределённость, 45% — риск утечки (Bitkom). По всей Европе, по данным Deloitte, 77% компаний учитывают страну происхождения ИИ-вендора, а 66% беспокоит зависимость от иностранного ИИ (DEV Community, данные Deloitte).
Для русскоязычного бизнеса вопрос часто сложнее: офис на Кипре или в Германии, клиенты в Прибалтике, филиал в Алматы или Ташкенте — и в каждой юрисдикции свои правила. Рефлекторный ответ звучит так: «Поставим свою модель на свой сервер». Иногда это ровно то, что нужно. Но часто это дорогой способ получить более слабую модель при том же объёме бумажной работы по комплаенсу. В этом гиде — весь спектр вариантов между «публичным чат-ботом» и «изолированной серверной», критерии выбора, из чего складывается стоимость, и план внедрения, который не начинается с покупки железа, которое вам, возможно, не нужно.
«Частная LLM» — это спектр, а не продукт
| Уровень | Где обрабатываются данные | Качество модели | Нагрузка на эксплуатацию | Типичное применение |
|---|---|---|---|---|
| 0. Потребительские ИИ-приложения («теневой ИИ») | Потребительский сервис провайдера, неясные условия | Высокое | Нет | Никогда для данных компании |
| 1. Корпоративный API с DPA | Облако провайдера, часто в США; договорной запрет на обучение; хранение в ЕС, где доступно | Фронтир | Низкая | Большинство задач с нечувствительными или псевдонимизированными данными |
| 2. Модели с хостингом в ЕС | Европейский провайдер или европейский регион облака | Высокое — фронтир | Низкая | Персональные данные, договоры с клиентами, требующие ЕС |
| 3. Открытая модель на своих серверах в европейском дата-центре | Ваши выделенные или частные облачные GPU-серверы | От хорошего до высокого, зависит от модели | Средняя — высокая | Конфиденциальные данные, ровный объём, требования суверенитета |
| 4. Полностью on-premise или изолированный контур | Ваше собственное помещение | Хорошее, ограничено железом | Высокая | Критическая инфраструктура, строгая коммерческая тайна, площадки без интернета |
Бросаются в глаза две вещи. Во-первых, уровни 1 и 2 уже снимают большинство вопросов по GDPR, если договоры составлены правильно: DPA, список субобработчиков, запрет на обучение на ваших данных и хостинг в ЕС, где нужно. Во-вторых, переход с уровня 2 на уровень 3 — это шаг не про комплаенс, а про эксплуатацию. С этого момента вы отвечаете за доступность, обновления безопасности, обновления моделей и мощности.
Когда свой сервер действительно оправдан
Собственный хостинг (уровни 3 и 4) окупается, если выполняется хотя бы одно условие:
- Договоры или нормы исключают третьих лиц. Договоры с клиентами, запрещающие обработку вне вашей инфраструктуры; профессиональная тайна у юристов, врачей и бухгалтеров; государственные тендеры с требованиями суверенного хостинга; документы по R&D или сделкам M&A, которые вы не отправили бы ни одному вендору.
- Объём большой и ровный. Десятки тысяч документов в день или постоянно используемый внутренний ассистент держат GPU загруженными. Простаивающие GPU — самый дорогой способ запускать ИИ.
- Нужен контроль над версиями. Облачные провайдеры обновляют и снимают модели с поддержки по своему графику. Модель на вашем сервере меняется только по вашему решению — это ценно для валидированных процессов.
- Связь ограничена. Производственные площадки, склады, суда или удалённые объекты с ненадёжным интернетом.
Свой сервер обычно — неверный выбор, если объём небольшой или скачет, если задача требует самых сильных рассуждений — сложной аналитики, длинных многошаговых агентов, — или если внутри компании некому круглосуточно отвечать за GPU-сервис.
На практике большинство европейских компаний, с которыми мы работаем, приходят к гибриду: облачные фронтир-модели для общих задач и открытая модель в европейском дата-центре для чувствительной части. Это совпадает с общей картиной рынка: OpenAI, Anthropic или Google в облаке для повседневной работы, Llama или Mistral на своих серверах для чувствительных задач (HouseofMVPs, ment.tech).
Типичный сценарий
Возьмём бухгалтерскую фирму на Кипре на 40 сотрудников, которая обслуживает русскоязычных предпринимателей. Для черновиков писем, саммари профессиональных статей и внутренних вопросов о процедурах хватает корпоративного API с DPA и хостингом в ЕС — клиентских секретов там нет. А для анализа финансовой отчётности, налоговых деклараций и зарплатных данных клиентов работает открытая модель на арендованном GPU-сервере в немецком или нидерландском дата-центре. Шлюз по источнику данных определяет, какой маршрут допустим. Итог: сотрудники работают в одном интерфейсе, фирма контролирует то, что не должно покидать её периметр, а расходы на GPU возникают только там, где они действительно нужны.
Правовая карта на одной странице (не юридическая консультация)
Собственный хостинг меняет то, куда уходят данные. Обязанности он не отменяет.
- GDPR. По-прежнему нужны правовое основание, ограничение целей, сроки хранения и разграничение доступа. С внешними провайдерами добавляются договор об обработке данных по статье 28 и список субобработчиков. Для обработки с высоким риском — записи звонков, голосовая биометрия, данные о здоровье — нужна оценка воздействия на защиту данных (DPIA). Минимум передачи данных в США — одновременно и правовой, и коммерческий аргумент.
- EU AI Act, прозрачность. Статья 50 действует с 2 августа 2026 года: люди должны знать, что общаются с ИИ-системой, а синтетический контент нужно маркировать (AI Act, статья 50).
- EU AI Act, высокий риск. После пакета Digital Omnibus (Регламент 2026/1744) обязанности для систем высокого риска из Приложения III — подбор персонала, кредитный скоринг, образование, базовые услуги — применяются с 2 декабря 2027 года (ActuIA). Они привязаны к ИИ-системе и её использованию, а не к месту, где работает модель.
- Поставщики моделей. Обязанности поставщиков моделей общего назначения действуют с 2 августа 2025 года. Если вы просто запускаете готовую открытую модель, они в основном лежат на её издателе; при существенной доработке, например масштабном дообучении, стоит отдельно проконсультироваться с юристом.
- Штрафы. До €35 млн или 7% мирового оборота за запрещённые практики и до €15 млн или 3% за большинство других нарушений. Для малого и среднего бизнеса применяется меньшая из двух сумм (ActuIA).
- За пределами ЕС. В Казахстане с 18 января 2026 года действует закон об ИИ: обязательная маркировка синтетического контента и уведомление пользователя о том, что он общается с ИИ (EY). OpenAI и Anthropic официально работают в Казахстане, Узбекистане, Армении и Грузии (Anthropic, OpenAI), так что облачный уровень 1 там доступен. Требования к хранению персональных данных в каждой стране уточняйте с местным юристом.
Сроки, обязанности и практический чек-лист — в нашем руководстве по EU AI Act для малого и среднего бизнеса.
Как выбрать модель, которую можно запустить у себя
Модели с открытыми весами — среди них Llama, Mistral, Qwen, DeepSeek и gpt-oss от OpenAI — можно скачать и запустить на собственном оборудовании. Mistral, Aleph Alpha и LightOn — европейские имена, которые покупатели чаще всего включают в шорт-лист из соображений суверенитета (DEV Community, данные Deloitte).
Три правила из практики:
- Тестируйте на своём языке и своих документах. Публичные рейтинги в основном англоязычные. Модель, которая блистает там, может спотыкаться на русской юридической лексике, падежах в именах и адресах или ваших внутренних артикулах. С казахским и особенно узбекским — малоресурсным языком — разрыв бывает ещё больше. Сначала соберите небольшой набор evals из реальных задач — как это сделать, рассказано в руководстве по оценке качества ИИ.
- Читайте лицензию. «Открытые веса» не всегда означают «используйте как угодно». Лицензии различаются по коммерческому использованию, порогам числа пользователей и требованиям указывать авторство.
- Подбирайте размер модели под задачу, а не под заголовки. Модель среднего размера с хорошим поиском по документам часто обгоняет огромную модель с плохим поиском. Небольшие модели к тому же требуют меньше GPU и отвечают быстрее.
Архитектура частного ИИ-контура
Продакшен-уровень — это не просто «модель на сервере»:
- Сервер инференса на одном или нескольких GPU, который отдаёт открытую модель через API, совместимый с OpenAI, — приложениям не важно, где работает модель.
- LLM-шлюз перед всеми моделями, который маршрутизирует каждый запрос по классу данных: персональные и конфиденциальные — в частную модель, остальное — где разрешено — в облачные. Подробности в руководстве по LLM-шлюзу.
- Поиск по документам (RAG) с правами доступа. Векторная база вроде Qdrant и загрузка документов с учётом прав доступа исходных систем. Иначе ваш ассистент с радостью покажет зарплатную ведомость всей компании.
- Идентификация и доступ. Единый вход (SSO), роли и права каждого пользователя, которые передаются вплоть до инструментов и документов.
- Логирование, мониторинг и evals. Та же дисциплина, что и с облачными моделями, но логи хранятся внутри вашего периметра.
- Слой маскирования для гибридных схем: персональные данные удаляются или псевдонимизируются до того, как запрос покинет вашу сеть.
Дороже всего обычно интеграции. В RAG-проектах на подключение исходных систем уходит 40–60% бюджета (ment.tech), и эта доля не уменьшается оттого, что модель переехала к вам.
Сколько это стоит и из чего складывается цена
Честной единой цены «on-premise LLM» не существует, но есть хорошие ориентиры. Для RAG-ассистентов в Европе опубликованные диапазоны такие: €7 000–14 000 за стартовую конфигурацию с одним–тремя источниками плюс €180–380 в месяц на эксплуатацию; €14 000–28 000 за бизнес-конфигурацию с пятью–десятью источниками и CRM; €28 000–45 000 за корпоративный уровень с мультиарендностью и комплаенсом. Токены и хостинг добавляют €180–700 в месяц (LSI Analytics). В опубликованных прайсах студий, которые делают закрытые контуры, вариант on-premise добавляет к цене проекта около 20% (NeuralOps). Сопровождение в среднем сегменте обычно стоит $2 000–8 000 в месяц (Lets-Viz).
| Статья затрат | Облачный API (уровни 1–2) | Свой хостинг (уровни 3–4) |
|---|---|---|
| Использование модели | Оплата за токены; при нулевой нагрузке — ноль | Фиксированная стоимость GPU (аренда или покупка), независимо от загрузки |
| Внедрение | Интеграции, промпты, поиск по документам | То же плюс стек инференса, защита и планирование мощностей |
| Эксплуатация | Мониторинг, evals, поддержка промптов | То же плюс обновления ОС и драйверов, обновления моделей, масштабирование, дежурства |
| Обновление моделей | Делает провайдер — и снимает старые модели | Вы решаете когда и сами делаете работу |
| Работа по комплаенсу | DPA, субобработчики, оценка передачи | Меньше внешних обработчиков; внутренние меры всё равно обязательны |
Логика точки безубыточности проста. Сравните ожидаемый ежемесячный счёт за API для чувствительной нагрузки с фиксированной ежемесячной стоимостью GPU плюс временем людей на эксплуатацию. Если GPU будут простаивать большую часть дня, оставайтесь на облачных моделях с хостингом в ЕС. Если будут загружены — или договоры всё равно запрещают внешнюю обработку, — выигрывает собственный хостинг.
От решения до продакшена: шесть шагов
- Классифицируйте данные и сценарии. Публичные, внутренние, конфиденциальные, строго конфиденциальные — и какой ИИ-сценарий затрагивает какой класс. Для начала достаточно одного воркшопа и таблицы.
- Пропишите политику обработки для каждого класса. Например: публичные и внутренние данные можно отправлять в корпоративный API с DPA; конфиденциальные — только в модели с хостингом в ЕС или на своих серверах; строго конфиденциальные — только on-premise.
- Проведите сравнение моделей. Два-три кандидата, ваш набор evals, ваши языки. Сравните качество, задержку и стоимость бок о бок.
- Постройте гибридный шлюз. Единая точка входа, которая автоматически применяет политику, чтобы ни один разработчик случайно не отправил конфиденциальные данные не в ту модель.
- Защитите контур. Сегментация сети, управление секретами, ревизия доступов, резервные копии, логирование внутри периметра и DPIA, где нужно.
- Эксплуатируйте. Мониторинг, ежемесячные прогоны evals, плановые обновления моделей и ревизия мощностей — рутина, которую мы описываем в статье о сопровождении ИИ-систем после запуска.
Быстрая подсказка для выбора
| Ваша ситуация | С чего начать |
|---|---|
| Малый или средний бизнес, внутренний ассистент, без особых договоров | Корпоративный API с DPA, хостинг в ЕС, где доступен |
| Клиентский сервис с персональными данными, клиенты в ЕС | Модели с хостингом в ЕС или европейский регион, маскирование, строгие сроки хранения логов |
| Юридическая фирма, бухгалтерия, клиника | Гибрид: частная модель для дел клиентов и пациентов, облако для общих задач |
| Производитель с документами R&D и ровной нагрузкой | Открытая модель на своих серверах в европейском дата-центре плюс RAG с правами доступа |
| Критическая инфраструктура, площадки без интернета | Полностью on-premise, небольшие оптимизированные модели, офлайн-процесс обновлений |
Типичные ошибки
- Покупать GPU до прогона evals. Железо — последнее решение, а не первое.
- Считать, что свой сервер — это автоматически комплаенс. Разграничение доступа, сроки хранения, логирование, DPIA, где нужно, и прозрачность по AI Act остаются обязательными.
- Недооценивать эксплуатацию. Драйверы, обновления безопасности, обновления моделей и планирование мощностей сами себя не сделают.
- Выбирать модель по англоязычным бенчмаркам, когда ваши клиенты пишут по-русски, по-немецки или по-казахски.
- Игнорировать лицензию открытой модели.
- RAG без прав доступа — так частная модель превращается во внутреннюю утечку.
- Нет плана выхода. Что бы вы ни выбрали, храните промпты, наборы evals и конфигурацию в собственных репозиториях, чтобы позже можно было сменить провайдера или модель.
Вывод
«Частный ИИ» — не выбор «да или нет». Большинству компаний в Европе подходит гибрид: облачные модели с аккуратно оформленными договорами для повседневной работы и открытая модель на своих серверах только там, где этого требуют договоры, тайна или объём, — и всё это за одним шлюзом, который автоматически соблюдает правила. Решайте по классам данных, подтверждайте качество evals на своём языке и только после этого подбирайте железо.
Наша команда Systems проектирует и сопровождает частные и гибридные ИИ-контуры в европейских дата-центрах, а команда Build встраивает их в ваши приложения. Запишитесь на бесплатный 15-минутный аудит — мы сопоставим ваши классы данных с подходящим вариантом размещения.