Cloud/Data Engineer Azure & Databricks (2FTE)

Voor Rijksdienst voor Ondernemend Nederland zijn wij op zoek naar een Cloud/Data Engineer Azure & Databricks (2FTE) regio Utrecht.

Werkzaamheden

Als Cloud/Data Engineer werk je actief mee aan de realisatie van schaalbare, efficiënte en veilige data-platforms in de Azure-cloud, waarbij Databricks of Kubernetes een centrale plek inneemt. Je werkt binnen een DevOps-team aan oplossingen die techniek, beleid en concrete waarde voor Nederland verbinden.

• Data Architectuur & Modellering: je hebt ruime ervaring met het inrichten van de Medallion Architectuur (Bronze, Silver, Gold) binnen Databricks. Je bent sterk in het vertalen van complexe business logica naar helder gestructureerde datasets, bij voorkeur volgens Kimball (dimensioneel modelleren), en weet robuuste goud-lagen te bouwen
• Engineering & Transformaties: je bent bedreven in het ontwikkelen van robuuste datapijplijnen met Kubernetes, PySpark en SQL, en je kent de mogelijkheden van Spark Declarative Pipelines (SDP). Met diepgaande kennis van dbt ontwerp je modulaire en onderhoudbare transformaties
• Storage & Performance-optimalisatie: je hebt bewezen affiniteit met het maximaliseren van de platform-performance door het inzetten van de juiste Databricks compute clusters en het benutten van schaalmogelijkheden. Je bent goed op de hoogte van optimalisaties binnen Delta Lake, zoals Partitioning, Clustering, Z-Ordering en Liquid Clustering
• Governance & Security: het inrichten van centrale governance via Unity Catalog kent voor jou geen geheimen. Je implementeert RBAC en hanteert data security best practices als standaard bij de bouw van oplossingen
• Platform & Deployment: je zet maximaal in op automatisering en Engineering Excellence via Databricks Asset Bundles (DABs) voor betrouwbare en reproduceerbare deployments. Daarnaast ben je vaardig in het instrumenteren, monitoren en debuggen van Databricks jobs, pijplijnen en platformcomponenten
• Backend & SQL/Postgres (pre): met Django ontwikkel je API's, implementeer je authenticatie en zorg je voor betrouwbare koppelingen met databases, waaronder Postgres
• Monitoring & MLOps (pre): je zorgt voor goede monitoring en logging (Application Insights, Databricks metrics) en hebt idealiter ervaring met MLOps
• Kennisdeling en ontwikkeling: je hebt ervaring in het opleiden van interne medewerkers, waarbij je kennis overdraagt en aantoonbaar de expertise van teamleden verhoogt

Functie-eisen

• Je hebt minimaal 4 jaar aantoonbare ervaring met cloud data platforms op Microsoft Azure met Databricks, aantoonbaar middels cv
• Je hebt minimaal 3 jaar ervaring in het ontwerpen en uitwerken van een technische data solution architectuur, met aandacht voor Governance & Security
• Je hebt minimaal 3 jaar ervaring in het ontwikkelen van datapijplijnen met PySpark en SQL

Wensen:

… lees de volledige omschrijving bij De Publieke Partner.