Старший инженер данных, Ozon Банк
Summary
Senior data engineer builds and maintains ETL pipelines, data warehouses, and monitoring for Ozon Bank using Python, Airflow, ClickHouse, Spark, and Kubernetes.
Ozon Банк расширяется, поэтому мы ищем Старшего дата-инженера в команду платформы данных. Специалисты автоматизируют ETL-процессы, разрабатывают компонентные решения для аналитиков и внедряют новые инструменты работы с данными.
Всё это необходимо, чтобы правильно и быстро реагировать на изменяющиеся потребности бизнеса, оптимизировать процессы и создавать мощную основу для принятия стратегических решений.
Наш стек: Python, Airflow, ClickHouse, PostgreSQL, Vertica, Kafka, S3, Spark, Hadoop, FastAPI, Flask, Kubernetes, Helm, Superset, Prometheus, Grafana, GitLab, Jira, Confluence.
Вам предстоит:
-
Разрабатывать инструменты доставки данных.
-
Проектировать и реализовывать фабрики пайплайнов.
-
Обновлять актуальные данные и следить за их своевременным поступлением.
-
Строить систему качества данных.
-
Обучать аналитиков и дата-сайентистов современным практикам работы с данными.
-
Настраивать и поддерживать системы мониторинга и алертинга.
Для нас важно, что вы:
-
Более 3 лет работаете на языке Python.
-
Более 3 лет работаете дата-инженером — знаете Apache Spark (PySpark), понимаете принципы работы СУБД и умеете оптимизировать запросы.
-
Знаете, как работать с ClickHouse, PostgreSQL, Vertica.
-
Понимаете принципы работы хранилища данных.
-
Умеете писать компоненты Airflow.
-
Поддерживаете порядок в коде, Git и документации.
-
Тестируете свои решения при помощи Pytest.
-
Умеете и любите быстро учиться, сразу применяете новые знания, можете самостоятельно находить ответы на сложные вопросы.
-
Имеете высшее техническое образование.
Будет плюсом, если вы:
-
Умеете работать с Kubernetes, Prometheus, Superset, Helm, FastAPI, Flask.
-
Имеете опыт общения с аналитиками и дата-сайентистами.