Инженер данных
О вакансии
Квалификация: - Сфера деятельности: Государственная служба, некоммерческие организации
Обязанности
Развивать новое корпоративное хранилище данных на ClickHouse. Проектировать архитектуру таблиц, слоев данных и витрин.Подключать новые источники данных.Актуализировать загрузки при изменениях в существующих источниках. Разрабатывать и поддерживать ETL/ELT-процессы в Airflow. Использовать dbt для хранения логики трансформаций, документации и воспроизводимости КХД. Создавать витрины данных для BI-дашбордов в DataLens. Поддерживать существующие пайплайны и витрины и оптимизировать SQL-запросы и существующие скрипты. Настраивать проверки качества данных, алерты и мониторинг. Работать с проблемами дублей, NULL, расхождений между источниками, ошибок в справочниках и задержек загрузок. Вести документацию по структуре и содержимому данных в КХД. Взаимодействовать с аналитиками, backend-разработчиками и DevOps.
Требования
Релевантный опыт работы Data Engineer / Analytics Engineer / SQL Developer от 3-х лет. Уверенное владение SQL, понимание особенностей строчных и колоночных баз данных. Знание Python на уровне pandas/скриптов. Опыт оптимизации ClickHouse под BI-нагрузку. Знание основ математической статистики. Умение самостоятельно разбираться в бизнес-процессе, искать слабые стороны и придумывать решения. Образование: Высшее образование — специалитет, магистратура Опыт работы: от 1 года.
Условия
Полный рабочий день