Data Engineer
Summary
Builds and maintains automated ETL/ELT pipelines and a PostgreSQL data warehouse for the BI team, consolidating data from Oracle, MySQL, and SQL Server. Day-to-day: complex SQL tuning, Python and Bash ETL scripting, Airflow-style orchestration, cloud DW work (AWS/GCP/Azure), Docker/K8s CI/CD, and ETL monitoring and documentation.
Requirements :
Pendidikan minimal S1 jurusan Teknik informatika dan bidang terkait lainnya
Minimal 2–3 tahun di bidang Data Engineering / Database Developer
Mampu memahami kebutuhan bisnis & mentranslasikannya ke kebutuhan data
Terbiasa bekerja dengan dataset besar dan kompleks
Paham konsep data quality, data validation, dan error handling
Pernah menangani end-to-end ETL (dari extract di source → transform → load ke DW)
Detail-oriented, disiplin dokumentasi (ETL job, data lineage)
Problem solving & troubleshooting database
Responsibility :
Pengalaman query kompleks & optimasi (Oracle, MySQL, SQL Server, PostgreSQL). Familiar dengan indexing, partitioning, dan performance tuning.
Membangun pipeline ETL/ELT untuk memindahkan data antar database. Familiar dengan tools ETL/ELT (contoh: Apache Airflow, Talend, Pentaho, dbt, SSIS). Paham konsep CDC (Change Data Capture), batch vs streaming.
Python (wajib, untuk scripting ETL & integrasi). Bash/Shell scripting (otomatisasi job di server Linux)
Pengalaman desain data warehouse berbasis PostgreSQL. Paham konsep OLTP vs OLAP. Paham data modeling (star schema, snowflake schema).
Familiar dengan koneksi antar DB (ODBC, JDBC). Pengalaman dengan API / message queue (Kafka, RabbitMQ) nilai plus.
Pengalaman dengan cloud platform (AWS RDS/Redshift, GCP BigQuery, Azure Synapse).
CI/CD pipeline untuk data (Git, Jenkins/GitLab CI). Docker / Kubernetes untuk deployment data pipeline.
Output :
Pipeline data otomatis (scheduler)
Konsolidasi data dari Oracle, MySQL, SQL Server ke PostgreSQL
Dokumentasi lengkap (job list, mapping source → target
Monitoring & alerting untuk job ETL
Data warehouse siap dipakai tim BI / Data Analyst.
Skills
- Airflow
- API
- AWS
- Azure
- Azure Synapse
- Bash
- BigQuery
- CI/CD
- Cloud
- Data Engineering
- Data Lineage
- Data Modeling
- Data Pipelines
- Data Quality
- Data Warehousing
- dbt
- Docker
- ELT
- ETL
- GCP
- Git
- GitLab
- Jdbc
- Jenkins
- Kafka
- Kubernetes
- Linux
- MySQL
- Oracle
- PostgreSQL
- Python
- RabbitMQ
- RDS
- Redshift
- Snowflake
- SQL
- SQL Server
- SSIS
- Talend