Lead data platform developer — Россия, Москва
Зарплата не указана
ОткликнутьсяКомпания: ••••••••
Локация: Россия, Москва
Формат: Гибрид
Занятость: Полная занятость
Грейд: Lead / руководитель
Основные задачи:
• Проектировать масштабируемую, надёжную и производительную архитектуру единой платформы данных;
• Разрабатывать и сопровождать техническую дорожную карту платформы, синхронизированную с бизнес-целями и потребностями исследователей;
• Анализировать и обеспечивать характеристики scalability, reliability и performance ключевых компонентов;
• Проектировать и внедрять системы оркестрации многоэтапных пайплайнов обработки данных;
• Разрабатывать ключевые компоненты платформы: панель управления, оркестраторы, агенты, API, SDK;
• Создавать и развивать self-service инструменты, позволяющие дата-инженерам и аналитикам автономно запускать, мониторить и контролировать пайплайны;
• Обеспечивать мультитенантность, разграничение доступа и аудит-логирование действий пользователей;
• Обеспечивать целостность, надёжность и безопасность данных на всех этапах обработки;
• Оптимизировать использование вычислительных и storage-ресурсов: проводить capacity planning, performance benchmarking, выявлять и устранять узкие места;
• Развивать observability-направление: мониторинг, APM, алертинг для своевременного обнаружения деградаций;
• Формировать и внедрять технические стандарты платформенной команды: архитектурные принципы, подходы к надёжности, code review, требования к документации;
• Систематизировать процессы разработки, унифицировать технологический стек и инструментарий;
• Систематизировать и вести техническую документацию по платформенным сервисам и архитектурным решениям.
Требования:
• Опыт проектирования горизонтально масштабируемых, отказоустойчивых data-intensive систем на bare-metal/VM-инфраструктуре и/или в Kubernetes;
• Понимание архитектурных компромиссов и умение выбирать решения под конкретные рабочие нагрузки: оркестрация, хранение, доступ, мониторинг;
• Уверенное владение Python;
• Опыт разработки бэкенд-сервисов и API с использованием FastAPI;
• Опыт работы с оркестраторами пайплайнов: Airflow, Dagster и другие;
• Понимание HTC/HPC-систем;
• S3-совместимыми хранилищами;
• Понимание объектного и файлового хранения для нагрузок с интенсивной обработкой данных: производительность, масштабируемость, модели доступа;
• Опыт построения CI/CD-пайплайнов в GitLab (тестирование, сборка, деплой сервисов платформы);
• Способность принимать и аргументировать системные архитектурные решения, увязывая требования надёжности, производительности и стоимости;
• Опыт формирования технических стандартов: архитектурные принципы, code review, инженерная документация, практики эксплуатации.
Будет плюсом:
• Опыт разработки на Go;
• Глубокое понимание Kubernetes: запуск рабочих нагрузок, модель операторов, сетевые политики, безопасность;
• Опыт работы с планировщиками типа Slurm;
• Опыт работы с Singularity/Apptainer контейнерами;
• Опыт в домене биотехнологий/биоинформатики и понимание специфики рабочих нагрузок (позволит быстрее войти в контекст).
Условия:
• Интересные проекты федерального уровня с минимумом бюрократии, главное – результат;
• Практическая направленность работы на получение реально работающих уникальных продуктов в сфере генетики / медицины / биологии, на стыке ИТ и передовой науки;
• Оформление по ТК РФ, достойный уровень з/п;
• Работа в быстрорастущей, стабильной организации, которой не страшен кризис;
• График работы 5/2, плавающее начало рабочего дня, гибридный график работы после испытательного срока;
• Бронь от мобилизации.