Требуется «Менеджер по качеству данных (ML-датасеты)»

О вакансии

Чем предстоит заниматься

• проектировать, запускать и поддерживать процессы сбора, обработки, разметки и валидации данных;
• формулировать требования к датасетам совместно с командами Computer Vision, NLP и AI;
• определять критерии качества данных, организовывать проверки разметки и анализировать ошибки;
• оценивать скорость, стоимость и качество разметки; находить узкие места и улучшать процесс;
• проводить эксперименты с подходами к разметке, автоматизации и контролю качества, анализировать результаты и принимать решения на их основе;
• использовать LLM и другие инструменты автоматизации для ускорения подготовки и проверки данных;
• работать с асессорами и заказчиками: объяснять требования, собирать обратную связь, устранять проблемы в процессе;
• развивать типовые пайплайны и масштабировать успешные решения на новые задачи;
• поддерживать датасеты после запуска: расширять их при дрейфе данных, появлении новых сценариев и изменении требований к качеству модели;
• писать понятные инструкции для асессоров, правила разметки и промпты для LLM.

Что нужно для работы

• Мы ожидаем, что ты
• работал (а) с краудсорсинговыми проектами, разметкой данных или контролем качества разметки;
• умеешь декомпозировать неопределённую задачу на измеримый процесс: определить входные данные, правила, критерии приёмки и метрики качества;
• умеешь оценивать и сопоставлять качество, скорость и стоимость разных подходов к разметке;
• владеешь Python на уровне, достаточном для анализа данных, подготовки выборок и написания скриптов для автоматизации;
• умеешь формулировать и тестировать промпты для LLM, оценивать качество результатов и учитывать ограничения такого подхода;
• можешь вести несколько задач одновременно, расставлять приоритеты и прозрачно управлять ожиданиями;
• умеешь вовлекать нужных участников в решение задачи и объяснять сложные вещи понятным языком.
• Будет плюсом, если ты
• Будет плюсом: знаком (а) с основными принципами машинного обучения и жизненным циклом ML-моделей;
• Будет плюсом: работал (а) с датасетами для задач Computer Vision, NLP или генеративного AI;
• Будет плюсом: знаешь HTML, CSS и JavaScript — это поможет при работе с интерфейсами и инструментами разметки;
• Будет плюсом: имеешь опыт разработки или доработки внутренних инструментов для разметки, валидации либо контроля качества данных;
• Будет плюсом: работал (а) с метриками качества разметки, inter-annotator agreement, аудитами ошибок или активным обучением.
• Будет плюсом: Что важно знать