17 ago
|
Svirtual.Cl
|
Chile
Misión
Migrar y optimizar flujos de datos Airflow/BigQuery (GCP) hacia ambientes contemporáneos con librerías actualizadas, asegurando integridad de datos mediante cuadratura, extracción productivo hacia PostgreSQL y mejora continua de performance en queries.
Funciones
Migrar DAGs Airflow y queries BigQuery a ambientes con librerías actualizadas, validando compatibilidad y funcionalidad end-to-end.
Auditar, revisar y optimizar lógica de transformación SQL en BigQuery; identificar cuellos de botella e implementar mejoras de performance.
Ejecutar procesos ETL bidireccionales: extracción desde BigQuery, transformación mediante Airflow, carga en PostgreSQL con validación de integridad de datos.
Implementar cuadratura (reconciliación) automatizada entre ambientes source y target; documentar discrepancias y resolver inconsistencias.
Orquestar ejecución paralela en ambos ambientes durante período de transición; garantizar disponibilidad y trazabilidad de datos.
Implementar framework dbt para versionado,
testing y documentación de transformaciones SQL; modularizar lógica y garantizar reutilización.
Definir e implementar reglas de calidad de datos (data quality checks): validaciones de integridad, detección de anomalías, alertas automáticas en pipelines.
Validar resultados, documentar cambios en queries y configuraciones, y generar reportes de cuadratura para asegurar migración sin pérdida de datos.
Colaboración con equipos de datos y negocio para priorizar optimizaciones y resolver bloqueos operacionales.
Requisitos
Excluyentes
Competente titulado de Ingeniería en Computación, Informática, Sistemas, Civil, Matemático, o carrera afín.
Experiencia profesional sólida en: Python, SQL avanzado (índices, particiones, window functions, CTEs) y control de versiones (GitLab/GitHub).
Experiencia en migraciones de datos, ETL/ELT, pipelines analíticos y validación de integridad de datos.
\Experiencia demostrable con Apache Airflow:\ creación, modificación, de
📌 Data Engineer Etl Santiago (Chile)
🏢 Svirtual.Cl
📍 Chile