DevOps инженер по безопасности ИИ — Россия, Москва

В Дирекции ИТ Центрального офиса федеральной розничной сети лента открыта вакансия DevOps инженер по безопасности ИИ.

ИТ-команда "36N9U" - одна из сильнейших в ритейле, на плечах которой непрерывная работа корпоративной сети, информационная стабильность и безопасность.

Сила "36N9U" в ее сотрудниках и мы предлагаем Вам стать частью большой, но сплоченной команды профессионалов!

Ваши задачи:- Безопасный инференс LLM: локально в защищённом облаке и через внешние шлюзы.

- Работа с моделями: DeepSeek, Qwen, специализированные модели для разработки, малые модели (Whisper, GigaAM и др.).

- Развёртывание новых моделей: быстрый деплой + обязательная проверка ИБ.

- Выбор моделей под задачи: бенчмарки, сравнение (GLM, DeepSeek и аналоги).

- Снятие метрик: latency, обрывы, TTFT.

- Разделение разработки: супер-критичная — только локально, остальное — в облаке.

Шлюзы доступа к внешним моделям:

- Прокси-шлюз для обхода блокировок, оплата агрегатору по токенам с корп. счёта.

- Работа через OpenRouter, подключение новых моделей за 15 минут.

- Внутренний шлюз в контуре (LiteLLM).

- Закрытие несанкционированных точек подключения к агрегаторам.

- Биллинг, квотирование, управление ключами, мультитенантность.

ИБ-слой и AI Firewall:

- Внедрение AI firewall, PII-маскирование и демаскирование.

- Детектирование КТ, гварды, работа с перечнем угроз.

- Плотное взаимодействие с ИБ.

Ждем от вас:• Опыт построения безопасного инференса LLM (локально и в облаке).

• Понимание AI Security: PII, guardrails, prompt injection, data leakage, КТ.

• Практика с LiteLLM, OpenRouter, прокси-шлюзами, биллингом по токенам.

• Опыт с AI firewall и системами маскирования/демаскирования.

• Работа с локальными харнессами (opencode, qwencode, Claude Code, Codex) и sandbox.

• Observability: LangFuse, Prometheus, Grafana.

• Понимание MCP, MCP registry, интеграций с k8s, Jira, Confluence, GitLab, Exchange.

• Опыт с RAG, Vector DB, hybrid search, LangChain / LangGraph / Mastra.

• Взаимодействие с ИБ: согласование доступов, заявок, групп пользователей.

• Понимание мультитенантности, квотирования, управления ключами.

Будет плюсом:

• Опыт с OpenWebUI, ботами в корпоративных мессенджерах.

• Знание SAP-интеграций через MCP.

• Опыт построения изолированных контуров и «карантина» для внешней разработки.

• Понимание бенчмарков моделей и выбора моделей под задачи.

• Опыт с Whisper, GigaAM и другими малыми моделями.

• Понимание TTFT, latency, обрывов, работы без SLA на старте.

Мы предлагаем:• Участие в масштабных проектах по кибербезопасности в федеральной компании.

• Конкурентную заработную плату и социальный пакет.

• Оформление в аккредитованную ИТ-компанию.

• Профессиональное развитие и обучение за счёт работодателя.

• Удаленный/гибридный формат работы;

• Команду профессионалов и культуру, ориентированную на безопасность.

• Годовое премирование по результатам работы.Роль на стыке AI Security и платформенной инженерии.

• Возможность строить безопасный ИИ-контур с нуля.

• Работа с современными моделями, харнессами, MCP и агентскими фреймворками.

• Прямое взаимодействие с ИБ и влияние на стандарты.

• Пространство для закрытия «не проработанных» тем.