Cloud Engineer mit Fokus auf AI Services (m/w/d)

Referenznummer: 17417 - Einsatzort: Stuttgart oder Berlin - Unternehmen: LBBW - Funktionsbereich: IT GBS & Software Development - Vollzeit / Teilzeit: 100

Die LBBW zählt zu den führenden Banken Deutschlands und ist ein innovatives Unternehmen im Finanzsektor. Neben traditionellen Bankdienstleistungen beschäftigen wir uns mit den Bereichen Digitalisierung, Nachhaltigkeit und internationale Märkte. Wir bieten ein Umfeld, das persönliche und berufliche Entwicklung fördert. Mit über 10.000 Mitarbeitenden gestalten wir die Zukunft der Finanzwelt – Gemeinsam #NeuesSchaffen

Als Cloud Engineer mit dem Fokus auf AI Services treibst Du den Ausbau unserer Cloud-Plattform gezielt für KI- und GenAI-Anwendungen voran und sorgst gleichzeitig dafür, dass diese Lösungen transparent, messbar und stabil betrieben werden können. Du nutzt die vorhandene LBBW-Cloud-Infrastruktur, um darauf leistungsfähige Services für LLMs, RAG, Agentic AI und MCP-Server bereitzustellen, optimal in unsere IT-Landschaft zu integrieren und mit Monitoring-, Logging- und Tracing-Lösungen abzusichern. In deiner Rolle verbindest du Cloud-, Plattform- und Automation-Know-how mit den speziellen Anforderungen moderner KI-Workloads: Du gestaltest Betriebs-, Security-, Skalierungs-, Kosten- und Observability-Konzepte, definierst Metriken und Dashboards und arbeitest eng mit GenAI-, Architektur- und Entwicklungsteams zusammen, damit KI-Lösungen in der LBBW sicher, performant und nachvollziehbar betrieben werden können.

Aufgaben:

• Konzeption, Implementierung und Betrieb von AI- und LLM-Plattformkomponenten (z.B. Azure OpenAI, eigene LLM-Deployments, Vektordatenbanken, Retrieval-/RAG-Services) sowie Anbindung interner Systeme (REST-APIs, Datenbanken, Fachanwendungen)
• Aufbau der technischen Grundlage für LLM-Endpunkte, Tool-/Function Calling, Orchestrierung und MCP-Server sowie Integration in bestehende Systemlandschaften und Agentic-AI-Szenarien
• Anbindung relevanter Datenquellen (z.B. Datenbanken, DWH, Datalake, Dokumenten-Repositories) inklusive Rollen- und Berechtigungskonzepten sowie Mitarbeit an Security- und Guardrail-Konzepten (ID- und API-Management, Content Filtering, Schutz vor Datenabfluss
• Umsetzung und Pflege von Infrastructure as Code (z.B. Terraform, Bicep) sowie Integration der Plattform- und Observability-Komponenten in CI/CD-Pipelines (Azure DevOps, GitHub Actions) auf Basis definierter Plattform-Standards, Referenzarchitekturen und Landing Zones
• Aufbau und Weiterentwicklung von Observability-Konzepten für AI-Services (Latenz, Fehlerraten, Ressourcen, Kosten, Nutzungsmuster) inklusive Implementierung von Monitoring-, Logging- und Tracing-Lösungen (z.B. Azure Monitor, Application Insights, Dashboards, Alerts, SLIs/SLOs) sowie Mitarbeit an Auto-Scaling-, Limits-, Quotas- und Cost-Alerting-Konzepten
• Mitarbeit im Incident- und Problem-Management (Ursachenanalyse, Verbesserungsmaßnahmen), Erstellung von Runbooks, Playbooks, Best Practices und Architekturunterlagen zu Skalierung, Observability, Sicherheit und Kosten sowie Beratung von Projekten zur optimalen Nutzung der KI-Plattform

Anforderungen:

• Abgeschlossenes Studium der (Wirtschafts-)Informatik oder eine vergleichbare Qualifikation
• Erfahrung im Cloud- und Infrastruktur-Umfeld, idealerweise mit großen, produktiven Umgebungen
• Praxis mit Infrastructure as Code, CI/CD und dem Betrieb von Cloud-Workloads
• Verständnis von Security, Governance und Netzwerkarchitekturen in Cloud-Umgebungen
• Erfahrung mit Monitoring-, Logging- und Tracing-Lösungen (z.B. Azure Monitor, Application Insights)
• Strukturierte, qualitätsbewusste und eigenverantwortliche Arbeitsweise
• Teamorientiert und kommunikativ, sicher im Austausch mit Entwicklung, Architektur, Security, Betrieb und Fachbereichen
• Pragmatisch und belastbar, mit Freude daran, eine robuste und transparente Plattform für viele Teams bereitzustellen
• Sehr gute Deutschkenntnisse in Wort und Schrift

Fragen zur Bewerbung beantworten wir gerne unter: [email protected]

Bereit für #NeuesSchaffen? Jetzt bei Deutschlands größter Landesbank bewerben und die Chance ergreifen. Wir freuen uns auf die Bewerbung!

​