Engenheiro de Dados
Posted Updated
Description
Responsável por projetar, construir e manter a infraestrutura que permite a coleta, organização, processamento e disponibilização de dados de forma confiável e escalável dentro de uma empresa.
Ingestão e integração de dados: coleta de informações provenientes de diversas fontes (APIs, bancos de dados, sistemas internos, arquivos).
Construção de pipelines ETL/ELT: desenvolvimento de fluxos para extração, transformação e carga de dados.
Modelagem de dados: criação de esquemas, data warehouses, data lakes e arquiteturas híbridas (lakehouse).
Orquestração e monitoramento: garantia de que os pipelines sejam executados corretamente e dentro do prazo.
Qualidade e governança: implementação de controles de qualidade, linhagem de dados e catálogos de dados.
Suporte a IA e Aprendizado de Máquina (Machine Learning): fornecimento de dados limpos e estruturados para alimentar modelos de aprendizado de máquina.
Otimização de desempenho: aprimoramento de consultas (queries), redução de custos em nuvem e aceleração do processamento.
Experiência em projetos de ETL, modelagem de dados, visualização e automação de processos em ambientes corporativos. Atua com diversas ferramentas e linguagens, como SQL, DataStage, Talend, Power BI, Qlik Sense, Databricks, Pentaho, Tableau, Oracle, Teradata e PostgreSQL, além de dominar processos e pipelines de integração de dados em larga escala.
Passagens por empresas como TIT Consultoria, Belago Technologies, SysMap, G&P, TCS, Stefanini, SOS Docs e Estrela Atacadista, com resultados expressivos na redução do tempo operacional, melhoria de desempenho em processos ETL e criação de dashboards estratégicos para a tomada de decisão.
Experiência em ambiente SAP para extração de dados.
Requisitos
Linguagens: Python, SQL, Scala, Java.
Processamento de dados: Apache Spark, Flink, Hadoop.
Orquestração: Apache Airflow, Prefect, Dagster.
Streaming: Kafka, AWS Kinesis, Google Pub/Sub.
Armazenamento: BigQuery, Snowflake, Redshift, Databricks.