JJobsSonar

DevOps Engineer GenAI Plattform

Pro Informatik AG · Zurich, Switzerland

DevOpsHybrid

About this role

The role involves consulting and building a GenAI platform within the banking environment, configuring and managing Azure Cloud resources such as APIM, AI Search, Azure OpenAI, Document Intelligence, and Azure Foundry using Terraform. Responsibilities include infrastructure-as-code automation of build, test, and release processes for GenAI applications (LLMOps), participating in the creation of architecture blueprints and technical standards to ensure seamless integration of components like databases, ML models, and applications. The role also involves implementing monitoring and alerting mechanisms (e.g., Grafana and Azure Dashboard), and monitoring system performance, uptime, and logs.

Skills & technologies

Must have

  • Terraform
  • Azure
  • Git
  • Docker
  • Python
  • Java
  • Monitoring Tools
  • Logging Systems
  • GenAI Technologies

Nice to have

  • Kubernetes
  • Azure EntraID
  • RBAC
  • OAuth

Read full description

About the job Aufgaben Beratung und Aufbau einer GenAI Platfform im Bankenumfeld Konfiguration und Verwaltung von Azure Cloud-Ressourcen APIM, AI-Search, Azure OpenAI, Document Intelligence und Azure Foundry mithilfe von Terraform Infrastructure-as-Code Automatisierung von Build-, Test- und Release-Prozessen für GenAI-Anwendungen (LLMOps) Mitarbeit bei der Erstellung von Architektur-Blueprints und technischen Standards, um sicherzustellen, dass alle Komponenten (Datenbanken, ML-Modelle, Anwendungen) nahtlos zusammenarbeiten und den Vorgaben entsprechen Implementierung von Monitoring- und Alarmierungsmechanismen (z. B. Grafana und Azure Dashboard), Überwachung der Systemleistung, Betriebszeit und Protokolle Anforderungen Mehrjährige Erfahrung im DevOps Engineering von AI-Plattformen (z.B. MLOps, LLMOps etc.) Fundierte Kenntnisse mit DevOps-Toolchains (z. B. Git, Gitlab, Docker, Terraform) von Modelltrainings-Workflows bis hin zu Anwendungsbereitstellungen Erfahrung in der Nutzung von Terraform Tiefgehendes Wissen über Azure Cloud-Dienste: APIM, AKS, Azure Functions, OpenAI, AI Search, Document Intelligence, Azure Foundry, Storage Accounts Kenntnisse im Bereich Monitoring-Tools (z.B. Prometheus, Grafana, Azure Monitor), Logging-Systemen und Alarmierung Kenntnisse in der Softwareentwicklung mit Python und/oder Java Verständnis von GenAI-Technologien (Retrieval-Augmented Generation RAG, Agentic AI, Optimierung von GenAI-Lösungen) Fliessende Deutschkenntnisse Gute Englischkenntnisse Von Vorteil Basiswissen im Umgang mit Kubernetes Verständnis von Authentisierung- und Autorisierungsverfahren mittels Azure EntraID, RBAC und OAuth Konzepte Erfahrung in der Entwicklung von Konzepten und Architekturlösungen Persönlichkeit Gute kommunikative Persönlichkeit Selbständige Arbeitsweise Freude an Arbeiten im Team
Ready to apply?Apply now

Similar DevOps jobs

All DevOps jobs