Senior Machine Learning Ops Engineer

Vacatureomschrijving (Nederlands)

• Senior Machine Learning Ops Engineer bij Rabobank, Tribe Business Lending — verantwoordelijk voor het end-to-end deployment lifecycle van AI-diensten binnen Model Factory en GDAP-platformen.
• Je werkt nauw samen met data scientists, platform-architecten en engineers om GenAI/Agentic workloads betrouwbaar in DEV/UAT/PROD te krijgen.
• Taken omvatten CI/CD voor containerized deployments, container orchestration, API serving layers, en integratie met Azure AI Services (Azure OpenAI, Document Intelligence, AI Search).
• Je bouwt en onderhoudt observability voor LLM-workloads (tracing, gestructureerde logging, monitoring: latency, tokengebruik, kosten) en beheert omgevingen en pipeline-orchestratie.
• Locatie: Rabobank Croeselaan, Utrecht. ZZP toegestaan: Nee. Impactgerichte rol binnen een tribe van ~650 collega’s en een data science squad van ~20 professionals.

Job description (English)

• Senior MLOps Engineer at Rabobank, responsible for the end-to-end deployment lifecycle of AI services within the Model Factory and GDAP platforms.
• Bridge between data scientists and platform teams to ensure GenAI/Agentic workloads run reliably across DEV/UAT/PROD.
• Work on CI/CD for containerized deployments, container orchestration, API serving, and integration with Azure AI Services (Azure OpenAI Service, Document Intelligence, AI Search).
• Implement observability for LLM-based workloads (tracing, structured logging, monitoring of latency, token usage and cost) and manage pipelines and environments.
• Location: Rabobank Croeselaan, Utrecht. Self-employed (ZZP) allowed: No. Role within a large tribe and a multidisciplinary data squad (~20 people).

Vereist profiel (Nederlands)

• Achtergrond en ervaring: senior ervaring met MLOps, productie-implementatie van AI-producten en ervaring met generative/agentic AI-workloads.
• Technische skills: Python, Bash, ervaring met CI/CD (Azure DevOps), containerisatie (Docker) en bij voorkeur Kubernetes; ervaring met Azure Databricks en Azure AI Services is gevraagd.
• Pipeline- en infrastructuurkennis: orkestratie van data- en ML-pipelines, ontwerp en onderhoud van API serving layers, integratie met ondersteunende services (PostgreSQL, Redis).
• Observability & kostenbewaking: ervaring met tracing, gestructureerde logging en monitoring gericht op latency, tokengebruik en kosten van LLM’s.
• Soft skills: sterke stakeholderalignment, proactief, kan design- en brainstormsessies leiden, en werkt goed samen in multidisciplinaire teams; ervaring in banking is een pré.

Required profile (English)

• Experience: senior MLOps background with productionalization of AI products and hands-on experience with generative/agentic AI.
• Technical: proficient in Python and Bash; CI/CD using Azure DevOps; containerization (Docker) and preferably Kubernetes; experience with Azure Databricks and Azure AI Services preferred.
• Pipeline & infra: orchestration of data and ML model pipelines, API serving design, and integration with services like PostgreSQL and Redis.
• Observability & cost control: proven experience with tracing, structured logging and monitoring for LLM workloads (latency, token usage, cost).
• Interpersonal: stakeholder alignment, proactive problem-solver, capable of leading design sessions; banking experience and familiarity with feature stores, LangChain/LangGraph are advantages.

Eisen

• Docker
• LangGraph
• PostgreSQL