Требуется «DevOps/MLOps инженер» (Санкт-Петербург)

О вакансии

Чем предстоит заниматься

• развёртыванием ML-моделей и AI-сервисов, локальных моделей (LLM, ML-модели) в различных средах;
• управлением версиями моделей и их хранением (NFS/MinIO);
• подготовкой окружений для инференса и тестирования моделей;
• развёртыванием сервисов AI-агентов, чат-ботов и ML-сервисов в Kubernetes и docker compose;
• работой с большими моделями и GPU в kubernetes и docker;
• CI/CD для ML-сервисов и инфраструктуры;
• сборкой Docker-образов, npm пакетов, артефактов;
• написание и рефакторингом пайплайнов в Azure DevOps;
• участием в разработке Dockerfile для ML-сервисов, консультациями;
• сборкой базовых образов;
• работой с docker-compose, рантаймами: containerd, Docker, podman;
• контролем отсутствия секретов в docker слоях;
• эксплуатацией и сопровождением Kubernetes-кластеров;
• разработкой и рефакторингом Helm charts;
• работой с TLS/SSL сертификатами и их ротацией, в т.ч. через nginx;
• сбором логов контейнеров;
• интеграцией логов с Elastic/Logstash,к с VictoriaMetrics/Prometheus;
• управлением секретами Kubernetes и HC Vault;
• интеграцией ML pipeline с CI/CD;
• подготовкой инфраструктуры для обучения моделей;
• диагностикой проблем запуска моделей и сервисов;
• отладкой Kubernetes workload;
• оптимизацией использования ресурсов (CPU/GPU/RAM);
• подготовкой технической документации.
• Чего мы ждем от тебя

Что нужно для работы

• Работа с контейнерами и их оркестрацией
• Работа с CI/CD