JJobsSonar

AI Platform Engineer (all genders)

DATAGROUP · Pliezhausen, Baden-Württemberg, Germany

Remote
About the job Aufgaben Du entwickelst und betreibst unsere souveräne LLM-Plattform inklusive OpenAI-kompatiblem Gateway, Modell-Serving und GPU-Infrastruktur Du implementierst kundenspezifische Wissensanbindungen (RAG) mit Vector-Datenbanken, Embeddings und Reranking Du stellst Kostenkontrolle, Mandantentrennung, Datenschutz und Guardrails sicher Du etablierst Monitoring und Observability für Performance, Qualität und Nutzung der KI-Dienste Du betreibst und entwickelst unsere containerbasierte Plattform auf Basis von Docker, Coolify und Kubernetes weiter Du automatisierst Deployments und verantwortest CI/CD-Prozesse für unsere Eigenentwicklungen Du betreust unsere Linux-, Cloud- und Datenbank-Infrastruktur und sorgst für Stabilität, Sicherheit und Verfügbarkeit Du baust Monitoring-, Logging- und Alerting-Lösungen auf und entwickelst diese weiter Du gestaltest die Architektur unserer Plattform- und KI-Services aktiv mit Du etablierst Infrastructure as Code und standardisierte Deployment-Prozesse Du sorgst für datenschutzkonforme und mandantensichere Betriebsmodelle Du dokumentierst Lösungen, teilst Wissen im Team und evaluierst neue Technologien im Bereich Platform Engineering und KI Skills Abgeschlossenes Studium der (Wirtschafts-) Informatik oder eine vergleichbare Qualifikation Mehrjährige Erfahrung im DevOps-, Plattform-Engineering- oder Cloud-/Infrastruktur-Umfeld Fundierte Praxiserfahrung im Betrieb containerbasierter Anwendungen und moderner Plattformen Erfahrung im Aufbau und produktiven Betrieb von LLM- und KI-Diensten, idealerweise in selbst gehosteten Umgebungen Sehr gute Kenntnisse in Kubernetes, Docker und Linux Erfahrung mit CI/CD-Pipelines, Cloud-Plattformen (insbesondere Azure) sowie PostgreSQL Praktische Erfahrung mit LLM-Gateways, RAG-Architekturen, Vector-Datenbanken und Modell-Serving-Lösungen Solide Python-Kenntnisse für Automatisierung und Integrationen Eigenständige und strukturierte Arbeitsweise mit hoher Eigenverantwortung sowie Sicherheits- und Datenschutzbewusstsein Ausgeprägtes Architektur- und Platformverständnis Was wir bieten Bei uns erwartet dich eine offene und kooperative Unternehmenskultur sowie eine vertrauensvolle Arbeitsatmosphäre Selbstverständlich erhältst du eine umfassende Einarbeitung mit Unterstützung des gesamten AIS Teams mit flachen Hierarchien – kurzen Entscheidungswegen und hoher Gestaltungsfreiheit Strategische Gestaltungsrolle mit großem Einfluss auf die zukünftige Plattformlandschaft Mitarbeit an einem der spannendsten Technologiefelder der IT: souveränes LLM-Hosting und KI-Infrastrukturen Moderne Infrastruktur mit Kubernetes, Docker, CI/CD und Cloud-Technologien Die Möglichkeit, Standards, Prozesse und Architekturentscheidungen aktiv mitzugestalten Individuelles Weiterbildungsbudget für Konferenzen, Zertifizierungen und Fachtrainings Klare Karriere- und Entwicklungspfade Möglichkeit zur Spezialisierung als AI Platform Engineer bzw. LLMOps-Experte Kleines, fokussiertes und agiles Team mit kurzen Entscheidungswegen Offene Feedback-Kultur mit regelmäßigen 1:1-Gesprächen und Retrospektiven Du möchtest nicht nur Systeme betreiben, sondern eine strategisch zentrale Plattform von Grund auf mitgestalten? Du bewegst dich sicher zwischen Kubernetes-Clustern, CI/CD-Pipelines und modernen KI-Technologien? Dann bist Du bei uns genau richtig!
Ready to apply?Apply now

Similar jobs

Browse all

Cloud Platform Engineer

ASE (Analysis Simulation Engineering) AG · Zurich, Zurich, Switzerland

On-siteEasy apply2w ago

DevOps Engineer

Sundayy · United States

RemoteEasy apply401(k), Medical2w ago