Data Governance Engineer
Getnet Platforms Data Governance Engineer
Summary
The Data Governance Engineer will design and implement technical data governance, quality, and security controls within an AWS-based engineering platform. The role involves automating data cataloging, lineage, and compliance checks using tools like Spark, Delta Lake, and Confluent Kafka to support engineering and data science teams.
- 3+ años de experiencia en gobierno, calidad o arquitectura de datos, con una base técnica real de ingeniería. La posición requiere experiencia implementando controles técnicos y automatizaciones, y no se limita a tareas de proceso o documentación.
- AWS Lake Formation y AWS Glue Data Catalog.
- Catalogación, crawlers y clasificadores.
- Apache Spark para procesamiento batch y streaming.
- Delta Lake para implementar controles de calidad y gobierno.
- Confluent Kafka, Schema Registry, contratos de datos y gobierno de topics.
- AWS Lambda para automatizar controles y flujos de gobierno event-driven.
- Amazon SageMaker y su relación con el gobierno de datos para Machine Learning.
- Feature stores y trazabilidad de datasets.
- Conocimiento de marcos normativos como GDPR, PCI-DSS u otros aplicables.
- Capacidad para traducir requisitos regulatorios en controles técnicos.
- SQL avanzado y capacidad para auditar y validar transformaciones en pipelines de datos.
- Experiencia con herramientas de catalogación y linaje como DataHub, Collibra, Amundsen u OpenLineage.
- Conocimientos de arquitecturas data mesh.
- Experiencia con dominios de datos, contratos y productos de datos.
- Experiencia en sectores regulados, especialmente en el sector financiero o de medios de pago.
- Certificaciones AWS relacionadas con seguridad o analítica de datos.
- Buscamos un perfil híbrido entre políticas y código, riguroso y con buenas habilidades de comunicación para colaborar con Compliance, Legal, Ingeniería y Negocio.
- Implementar y operar el gobierno del dato -catalogación, calidad, seguridad, cumplimiento y linaje- directamente sobre la plataforma de ingeniería basada en AWS, Confluent, Glue, Spark y Delta Lake, sin limitarse a su definición documental.
- Diseñar e implementar el modelo de gobierno de acceso mediante AWS Lake Formation, incluyendo permisos a nivel de tabla, columna y fila, Tag-Based Access Control e integración con IAM.
- Administrar y evolucionar AWS Glue Data Catalog, gestionando esquemas, clasificaciones, propietarios y sensibilidad de datos, incluida la identificación de PII.
- Definir e implementar controles automatizados de calidad de datos sobre pipelines Spark y Delta Lake, incluyendo validaciones de esquema, completitud, duplicados y anomalías.
- Integrar los controles de calidad y gobierno en AWS Glue, Lambda y EMR.
- Diseñar políticas de retención, versionado y linaje sobre tablas Delta Lake mediante time travel, Change Data Feed y auditoría de cambios.
- Definir junto con Ingeniería de Datos estándares de nombrado, particionado y contratos de datos para topics Kafka y tablas Delta.
- Establecer mecanismos de clasificación y protección de datos sensibles, incluyendo cifrado, enmascaramiento y controles de acceso diferenciados por rol o dominio.
- Dar soporte técnico y normativo a los equipos de Data Science y Machine Learning en el acceso gobernado a feature stores y datasets certificados.
- Auditar el cumplimiento de los controles en pipelines desarrollados con Lambda, Glue y EMR.
- Producir métricas e informes de calidad y gobierno, incluyendo data quality scorecards, catálogos de dominios e indicadores de salud del linaje. xqbhyrx
- Actuar como punto de referencia entre Ingeniería, Seguridad, Legal, Compliance y las áreas de Negocio.