Data Engineer
Summary
Builds and maintains data pipelines, warehouses, and vector stores to feed AI models and automate business processes for a large bank’s construction division.
Команда блока Строительства в поиске Data Engineer на задачи по построению хранилища и автоматизации работы бизнес процессов.* Подготовка данных для AI: Формирование датасетов для обучения ML-моделей и тонкой настройки LLM-агентов (очистка, разметка, агрегация);
* Разработка пайплайнов: Создание и сопровождение ETL-процессов, агрегирующих информацию из 3 смежных автоматизированных систем (АС), с обеспечением минимальной задержки;
* Векторные хранилища: Проектирование схем и наполнение векторных баз данных (Chroma, Qdrant, Milvus) для реализации семантического поиска и RAG-архитектур;
* Управление качеством данных (Data Quality): Внедрение систем валидации (проверка на полноту, дубликаты, аномалии) и мониторинг показателей здоровья данных;
* Data Lineage & Документация: Ведение полного учета происхождения данных (от источника до агента), разработка схем данных и актуализация технической документации для смежных команд (ML-инженеров и бэкендеров).* Опыт работы: От 3 лет в коммерческой разработке на позиции Data Engineer или ETL-разработчика;
* Языки и стек: Продвинутое владение Python (написание продакшн-кода) и SQL (сложные запросы, оконные функции);
* Распределенная обработка: Уверенное владение Apache Spark (PySpark) для трансформации больших объемов данных;
* Оркестрация: Построение и поддержка ETL/ELT-пайплайнов с использованием Apache Airflow или Apache NiFi;
* Хранилища данных: Практический опыт с колоночными СУБД (ClickHouse) и/или облачными решениями типа Snowflake;
* Интеграции: Опыт проектирования REST API для выдачи данных наружу (в том числе для агентов);
* Работа с "грязными" форматами: Умение парсить, нормализовать и структурировать неструктурированные данные (опыт работы с PDF-документами, чертежами DWG, сканами) обязателен;
* Инструментальное владение AI для анализа, генерации и автоматизации.* Гибридный формат работы (современный офис в Москве на метро Кутузовская);
* Льготные ипотечные условия кредитования;
* Подписка Прайм с возможностью совместного использования на трёх близких;
* Скидки на продукты компаний – партнеров: Okko, Сбер Маркет, Мега Маркет, Самокат, Еаптека и другие;
* ДМС с первого дня и скидки на страхование для близких;
* Корпоративная пенсионная программа;
* Детский отдых и подарки за счет Компании;
* Обучение за счет Компании, Онлайн курсы, неограниченный доступ к библиотеке и обучение на базе Корпоративного университета, тренинги, митапы и возможность получить новую квалификации.