Бэкенд-разработчик в команду LLM Gateway
Опубликовано
- Формат
- Удалённо
Доступ проверим при нажатии.
О вакансии
Вакансия «Бэкенд-разработчик в команду LLM Gateway». Удалённая работа.
Что нужно для работы
- Мы ждём, что вы
- имеете опыт технического лидерства в крупных направлениях с высокой степенью неопределённости: собирали требования, планировали работы, декомпозировали задачи, отвечали за реализацию и отслеживали результаты;
- имеете опыт поддержки критической высоконагруженной инфраструктуры: настраивали мониторинг и алёрты, участвовали в дежурствах 24/7;
- программировали на Python или Go от 5 лет;
- имеете опыт в MLOps или LLMOps: разворачивали и поддерживали инфраструктуру для автоматизации работы с ML- и LLM-моделями;
- понимаете основы работы LLM: чем prefill отличается от decode, зачем нужен KV-cache, что такое TTFT;
- умеете работать с задачами высокой неопределённости и выстраивать коммуникацию с командами.
- Будет здорово, если вы
- работали с LLM API и LLM Gateway, например LiteLLM;
- создавали внутренние платформенные решения;
- работали с системами мониторинга LLM, например Langfuse, Opik и другими;
- создавали и поддерживали админки для внутренних пользователей;
- работали с Kubernetes и GPU;
- работали с DWH, например ClickHouse и Trino.
- Работа у нас — это
- расширенная забота о здоровье: ДМС, страхование жизни, онкострахование;
- сервис психологической поддержки, а также финансовые, юридические и ЗОЖ-консультации для вас и ваших близких;
- корпоративный спорт: групповые тренировки, велбиинг-приложение;
- спецпредложения от партнёров и скидки на сервисы Авито: бронирование жилья, услуги продвижения, ипотечное страхование;
- компенсация питания.
- Понравилась вакансия?
- 🧑💻 Джунам разработчикам
- 🫶 Удалёнка джунам
- 💜 За рубежом
Подходит вакансия?
Перейдите к исходному объявлению или контакту работодателя.
Доступ проверим при нажатии.