Data platform engineer
Summary
Conta Simples is hiring a senior data platform engineer to architect and run its GCP data platform: building batch and near-real-time ingestion pipelines into BigQuery, owning orchestration, schema governance, observability and cost optimization, and mentoring the team. Core stack: SQL, Python, BigQuery, Pub/Sub, Dataflow/Dataproc, Airflow, dbt/Dataform, Terraform, CI/CD.
O que esperamos de você:
- Senioridade técnica para tomar decisões de arquitetura com trade-offs explícitos e influenciar times além do seu próprio.
- Domínio em SQL: capacidade de escrever e depurar queries complexas, performáticas e legíveis.
- Experiência sólida em Python aplicado a dados: construção de pipelines, integrações com APIs e ferramentas internas — com testes e código de qualidade de produção.
- Ecossistema GCP: vivência prática com BigQuery, Cloud Storage, Pub/Sub e serviços de processamento (Dataflow, Dataproc ou equivalentes).
- Orquestração: experiência com Airflow/Cloud Composer, incluindo idempotência, backfills e gestão de dependências.
- Infraestrutura como código e cultura de engenharia: Terraform, Git/GitHub, CI/CD e Code Review como prática cotidiana.
- Modelagem de dados: entendimento de Data Warehousing e modelagem dimensional o suficiente para desenhar camadas que sirvam bem a quem consome.
- Experiência com Dataform ou dbt e com o ciclo de vida de transformações versionadas.
- Confiabilidade e qualidade: prática em testes automatizados de dados, monitoramento e resposta a incidentes.
Será diferencial se você tiver:
- Experiência com processamento em streaming (Pub/Sub, Dataflow, Kafka ou Flink) em cenários de baixa latência.
- Vivência com arquiteturas modernas de plataforma de dados: data mesh, catálogo e discovery, self-service para times de negócio.
- Conhecimento de arquitetura de dados para RAG (Retrieval-Augmented Generation): estruturação de dados e metadados para otimizar a recuperação e o contexto de informações por LLMs.
- Experiência com Kubernetes, containers e práticas de SRE aplicadas a pipelines de dados.
- Vivência no setor financeiro ou fintechs, incluindo requisitos de compliance e auditoria.
Seu dia a dia na Conta Simples:
- Arquitetar e manter a plataforma de dados na GCP, definindo os padrões de ingestão, processamento e orquestração que sustentam todo o consumo analítico da empresa — de dashboards a agentes de IA.
- Construir e evoluir pipelines de ingestão batch e near real time a partir de bancos transacionais, APIs e eventos, garantindo que novas fontes entrem no BigQuery de forma padronizada e com esforço decrescente.
- Estabelecer contratos de dados e governança de schema, protegendo as camadas de consumo de quebras em upstream e tornando explícito o acordo entre quem produz e quem consome dados.
- Implementar observabilidade de dados ponta a ponta — linhagem, frescor, volume e alertas —, para que falhas sejam detectadas pelo time antes de chegarem ao negócio.
- Tratar infraestrutura como produto, versionando recursos em Terraform, mantendo pipelines de CI/CD e reduzindo o caminho entre uma ideia e um dado disponível em produção.
- Otimizar performance e custo no BigQuery em escala, definindo estratégias de particionamento, clusterização, reservas e monitoramento de consumo para que o crescimento da empresa não vire crescimento proporcional de custo.
- Garantir segurança e privacidade dos dados, implementando controles de acesso, mascaramento e políticas de retenção compatíveis com um ambiente financeiro regulado.
- Atuar como referência técnica e mentor do time, conduzindo decisões de arquitetura, revisões de código e a disseminação de boas práticas de engenharia aplicadas a dados.
- Colaborar diretamente com Analytics Engineering e Data Science, oferecendo a base e as ferramentas para que essas pessoas trabalhem com autonomia, sem depender de você para cada nova entrega.