JJobsSonar

Cloud Engineer* Data & AI

inovex · Germany

Cloud EngineeringHybrid

About this role

The Cloud Engineer will focus on implementing modern Data and AI infrastructures, including orchestrating GPU clusters and automating pipelines for model training and inference. You will design data platforms ranging from storage architecture to Lakehouse formats and integrate orchestration and streaming components. The role involves using tools like Airflow, Spark on Kubernetes, and Ray to ensure reliable production workflows. You will also be responsible for monitoring, incident-handling, and GPU capacity planning using Infrastructure-as-Code and GitOps standards. The position offers flexibility in technological focus and opportunities for mentoring junior colleagues.

Skills & technologies

Nice to have

  • AI-based automation
  • Code-assistants

Read full description

*Wir bei inovex mögen Vielfalt und Individualität. Deshalb freuen wir uns, wenn du unser Team noch bunter machst.


in Teilzeit oder Vollzeit

Start: ab sofort oder zu einem späteren Zeitpunkt

Standorte: Karlsruhe, Köln, München, Hamburg, Berlin, Stuttgart oder Erlangen


Im Team IT Engineering & Operations entwerfen und implementieren wir für unsere Kunden neue, exzellente IT-Infrastrukturen und entwickeln bestehende durch innovative Lösungen weiter.


Was du bei uns bewegen kannst

  • Als Cloud Engineer liegt dein Schwerpunkt auf der Implementierung moderner Data- und AI-Infrastrukturen, wobei du GPU-Cluster orchestrierst, Datenplattformen strukturierst und Pipelines für ein effizientes Modell-Training sowie den stabilen Betrieb von Inferenz-Schnittstellen automatisierst.
  • Datenplattformen konzipierst du, von der Storage-Architektur über Lakehouse-Formate bis zur Integration von Orchestrierung und Streaming-Komponenten.
  • Tools wie Airflow, Spark on Kubernetes oder Ray setzt du auf, integrierst sie miteinander und stellst sicher, dass Data- und ML-Workflows zuverlässig in Produktion laufen.
  • Infrastructure-as-Code und GitOps sind für dich der Standard. Bei sensiblen Datenprodukten baust du Sicherheit von Beginn an ein, von Network Policies bis zu den Anforderungen aus der Data Governance.
  • Monitoring, Incident-Handling und GPU-Kapazitätsplanung liegen in deiner Verantwortung.

In unseren Projekten verwenden wir folgende Technologien:

  • AWS, Azure, Google Cloud, StackIT, Kubernetes
  • Terraform, ArgoCD, Helm, Cilium, Kyverno
  • Airflow, Spark, Kafka, Ray, Kueue
  • Databricks, Snowflake, dbt, Iceberg
  • S3, PostgreSQL, pgvector, MLflow, vLLM, KServe
  • Prometheus, Grafana, OpenTelemetry
  • Python, Go


Intern wie extern kannst du dich bei uns auf vielfältige Art einbringen: Deinen anfangs gewählten technologischen Schwerpunkt kannst du jederzeit verlagern. Als Expert:in im Bereich Engineering hast du außerdem die Möglichkeit, jüngere Kolleg:innen durch Mentoring zu unterstützen.


Wer gut zu uns passen würde

Ob du ein Studium oder eine Ausbildung im IT-Bereich abgeschlossen hast, ist für uns nebensächlich. Für uns zählen deine fachlichen Skills und deine Persönlichkeit:

  • Du hast fundierte Kubernetes-Erfahrung im produktiven Betrieb und bringst tiefgehende Kenntnisse im Umgang mit einem der großen Cloud-Provider (AWS, Azure, Google Cloud, StackIT) mit.
  • Infrastructure-as-Code setzt du routiniert ein. Beim Aufbau von Datenplattformen verstehst du, wie Storage-Architekturen für unterschiedliche Workloads ausgelegt werden.
  • Du bringst Erfahrung mit Workflow-Orchestrierung, Streaming, GPU-Scheduling, Model Serving und Lakehouse-Plattformen mit oder hast Lust, dich in diese Bereiche einzuarbeiten.
  • Netzwerk-Härtung und Security Best Practices denkst du von Anfang an mit, nicht als nachgelagerten Schritt.
  • KI-Tools gehören zu deinem Arbeitsalltag: Code-Assistenten und KI-basierte Automatisierung setzt du selbstverständlich ein, etwa beim Aufsetzen von Terraform-Modulen für Data-Pipelines oder beim Optimieren von GPU-Workload-Konfigurationen.
  • Komplexe technische Zusammenhänge kannst du auch nicht-technischen Ansprechpartner:innen vermitteln. Sehr gute Deutschkenntnisse (mind. C1) und gute Englischkenntnisse runden dein Profil ab.


Was wir dir bieten

  • inovex Culture: Kommunikation auf Augenhöhe, flache Hierarchien, Arbeiten in selbstorganisierten und agilen Teams, Vertrauen und Offenheit, starker Zusammenhalt
  • Level Up: Weiterbildungsbudget, eigene inovex Academy, Onboarding- und Mentoring-Programm, enger Austausch mit der Community
  • Balance: Flexibles und mobiles Arbeiten, keine Kernarbeitszeiten, Workation, 30 Tage Urlaub
  • Familienfreundlichkeit: Flexibles Arbeitszeitmodell, Zuschuss zur Kinderbetreuung, Überstunden nur im Ausnahmefall
  • Individualität: Betriebliche Altersvorsorge, E-Gym Wellpass, inovex Sportgruppen/ Sport-Community
  • Mobilität: JobRad, Firmenwagen-Leasing


Unsere Stelle passt zu dir?

Dann würden wir dich gerne kennenlernen! Das People & Culture Team steht dir bei allen Fragen rund um deine Bewerbung und den Einstieg bei inovex zur Seite.Wir freuen uns auf deine Bewerbung!

Ready to apply?Apply now

Similar Cloud Engineering jobs

All Cloud Engineering jobs