Pessoa engenheira de dados sênior — foco em plataforma, automação & ai acceleration (gcp)
Summary
Senior data engineer at Datum (Brazil) focused on GCP data platform engineering: building AI-acceleration workflows with Antigravity, CI/CD pipelines with automated SQL/cost gates for BigQuery and Dataform, Terraform infrastructure as code, and metadata-driven orchestration on Cloud Composer.
Estamos buscando uma pessoa que ouse protagonizar com a gente.
Responsabilidades e atribuições:
- Aceleração via IA (Antigravity): Desenvolver e manter os workflows de aceleração via Antigravity, criando bibliotecas de contexto, boilerplates modulares, regras de validação e ferramentas/skills customizadas para os agentes de IA (como scripts que permitem ao Antigravity consultar o schema do BigQuery em ambiente de dev, testar a compilação do Dataform e auto-corrigir erros de sintaxe antes de abrir o Pull Request), garantindo que a IA gere pipelines e transformações já aderentes à arquitetura do nosso BigQuery.
- Esteiras de CI/CD e Automated Gates: Construir, codificar e gerenciar os executores das esteiras de deploy robustas com gates inegociáveis: análise estática de SQL (SQLFluff), estimativa automática de custo e bytes escaneados via dry-run no BigQuery combinada à análise de plano de execução (Query Explain e detecção de anti-patterns de consumo de slots/CPU para BigQuery Editions) antes do merge, execução de validadores de testes de contrato, validação de schema e implementação de ambientes efêmeros (Slim CI no Dataform/dbt) nos Pull Requests para validar apenas os modelos alterados e seus dependentes diretos (downstream).
- Infraestrutura como Código: Automatizar o provisionamento de recursos de dados no GCP via Terraform (datasets, permissões, tabelas, rotinas de orquestração no Cloud Composer), criando módulos Terraform reutilizáveis (Golden Modules) que já embutam por padrão tags de FinOps (labels), políticas de expiração de partições/tabelas temporárias e bindings de IAM baseados em menor privilégio.
- Orquestração Inteligente: Otimizar a orquestração de pipelines no Cloud Composer / Workflows, criando DAGs dinâmicas e orientadas a metadados (metadata-driven pipelines) a partir de arquivos declarativos (YAML/JSON) que eliminem código repetitivo, integrando a orquestração com a API do Dataform (Dataform Workflow Invocations) e arquiteturas orientadas a eventos (Eventarc / Pub/Sub).
Requisitos e qualificações:
- Sólida experiência em Engenharia de Dados no GCP (BigQuery, Cloud Composer/Airflow, Dataflow, Cloud Run/Functions, Cloud Workflows, Eventarc e Artifact Registry para empacotamento de imagens e Flex Templates).
- Proficiência avançada em Python e SQL, com foco em automação, criação de CLIs internas, SDKs do GCP, manipulação de metadados e conhecimento em bibliotecas de parsing de AST SQL (como sqlglot ou sqlfluff) para criar validações customizadas de governança e performance em código SQL.
- Experiência prática na utilização e configuração de ambientes de desenvolvimento assistidos por IA (Antigravity) para geração de código em escala.
- Domínio de ferramentas de CI/CD (GitHub Actions, GitLab CI ou Cloud Build), Terraform e práticas modernas de DataOps.
Desejável:
- Experiência avançada com análise de árvores sintáticas de SQL (sqlglot) para transpilação, análise de linhagem estática em nível de coluna e detecção de anti-patterns antes da execução.
- Vivência na criação de extensões de IDE, servidores MCP ou agentes autônomos integrados ao fluxo de revisão de código (PR Review Bots).
- Conhecimento em testes unitários para frameworks de transformação SQL (Dataform unit testing / dbt unit tests).
Informações adicionais:
Por aqui, você também conta com vantagens pensadas para apoiar sua rotina, bem-estar e desenvolvimento:
- Zenklub: duas sessões gratuitas por mês com psicólogos, terapeutas, nutricionistas ou coaches. Sessões extras saem por R$ 70 e o benefício também pode incluir dependentes.
- ️ Wellhub (Gympass): acesso a descontos de até 75% em mais de 22 mil academias espalhadas pelo Brasil.
- MomCare: incentivo monetário flexível no período pós-licença maternidade.
- Incentivo Alura: apoio ao desenvolvimento contínuo, com subsídio de 50% da licença Alura Plus, via reembolso pelo período de 12 meses.
- Parcerias educacionais: descontos de até 70% em diversas instituições de ensino, incluindo graduação, pós-graduação, MBAs, idiomas e muito mais.
- RecomenDatum: suas conexões também podem gerar oportunidades! Indique profissionais para o nosso time ou empresas para nosso ecossistema e ganha recompensas.
Quer conhecer outras vantagens de fazer parte da Datum? Acesse a home da nossa página de carreiras para conhecer os demais benefícios que oferecemos.
*Os benefícios podem variar conforme os acordos definidos na contratação.
