Lead / Principal AI Infrastructure Architect

Belmont Lavan Ltd
Stuttgart

Wir suchen einen **Lead / Principal AI Infrastructure Architect**, der die durchgängige Verantwortung für den Entwurf, die Bereitstellung und die Optimierung der Infrastruktur für groß angelegte Workloads im Bereich Künstliche Intelligenz (KI) und maschinelles Lernen (ML) übernimmt.

Der Schwerpunkt der Rolle liegt auf der Architektur hochskalierbarer und kosteneffizienter Rechenumgebungen, einschließlich **GPU-Clustern, Plattformen für verteiltes Training, Infrastruktur für Model-Serving, Netzwerktechnik, Speicherlösungen, Orchestrierung sowie cloudbasierten KI/ML-Plattformen**.

Sie übersetzen Geschäftsziele, Service-Level-Anforderungen, Sicherheitsstandards und technische Rahmenbedingungen in robuste Infrastrukturarchitekturen. Sie evaluieren alternative Lösungen, treffen fundierte Architekturentscheidungen und stellen sicher, dass die Plattformen auf **Leistung, Skalierbarkeit, Zuverlässigkeit, Sicherheit und Kosteneffizienz** ausgelegt sind.

Als technische Führungskraft übernehmen Sie die architektonische Leitung, etablieren Engineering-Standards und Best Practices, betreuen (mentoren) Ingenieure und Architekten und arbeiten eng mit Kunden und Stakeholdern zusammen, um Infrastrukturstrategien und Roadmaps zu definieren.

Requirements

Absolut. Ich habe diese Stellenbeschreibung auf die gleiche Weise bereinigt: Arbeitgeberspezifische Formulierungen und Wiederholungen wurden entfernt, die Sprache gestrafft und **Verantwortlichkeiten, technische Anforderungen sowie Führungserwartungen** klar voneinander abgegrenzt – bei gleichzeitiger Wahrung des Senioritätsniveaus und der Kernanforderungen.

# Lead / Principal AI Infrastructure Architect

## Über die Position

Wir suchen einen **Lead / Principal AI Infrastructure Architect**, der die durchgängige Verantwortung für den Entwurf, die Bereitstellung und die Optimierung der Infrastruktur für groß angelegte Workloads im Bereich Künstliche Intelligenz (KI) und maschinelles Lernen (ML) übernimmt.

Der Schwerpunkt der Rolle liegt auf der Architektur hochskalierbarer und kosteneffizienter Rechenumgebungen, einschließlich **GPU-Clustern, Plattformen für verteiltes Training, Infrastruktur für Model-Serving, Netzwerktechnik, Speicherlösungen, Orchestrierung sowie cloudbasierten KI/ML-Plattformen**.

Sie übersetzen Geschäftsziele, Service-Level-Anforderungen, Sicherheitsstandards und technische Rahmenbedingungen in robuste Infrastrukturarchitekturen. Sie evaluieren alternative Lösungen, treffen fundierte Architekturentscheidungen und stellen sicher, dass die Plattformen auf **Leistung, Skalierbarkeit, Zuverlässigkeit, Sicherheit und Kosteneffizienz** ausgelegt sind.

Als technische Führungskraft übernehmen Sie die architektonische Leitung, etablieren Engineering-Standards und Best Practices, betreuen (mentoren) Ingenieure und Architekten und arbeiten eng mit Kunden und Stakeholdern zusammen, um Infrastrukturstrategien und Roadmaps zu definieren.

## Kernaufgaben

### KI/ML-Infrastrukturarchitektur

* Übernahme der Gesamtverantwortung für Architektur und Design der Infrastruktur für groß angelegte KI/ML-Systeme – vom ersten Konzept bis zur Implementierung und Bereitstellung.

* Entwurf der Infrastruktur für verteiltes KI/ML-Training, Inferenz und Model-Serving-Workloads.

* Architektur und Optimierung des gesamten Rechen-Stacks, einschließlich **Rechenleistung, GPUs/Beschleunigern, Netzwerktechnik, Speicher, Orchestrierung und Model-Serving**.

* Evaluierung von Architekturalternativen und Treffen fundierter Entscheidungen auf der Basis von Leistung, Skalierbarkeit, Zuverlässigkeit, Kosten, Sicherheit und Kundenanforderungen.

* Sicherstellung, dass die Infrastrukturarchitekturen mit vereinbarten geschäftlichen SLAs, technischen Standards und betrieblichen Anforderungen im Einklang stehen.

### GPU- und Distributed Computing

* Entwurf und Optimierung groß angelegter **GPU- und beschleunigerbasierter Cluster** für KI/ML-Workloads.

* Evaluierung und Auswahl geeigneter GPU-/Beschleunigertechnologien basierend auf den Anforderungen der Workloads.

* Entwurf von Hochleistungsnetzwerken und Interconnect-Architekturen für verteiltes Training.

* Architektur von Speicherlösungen, die KI/ML-Workloads mit hohem Durchsatz unterstützen.

* Identifizierung und Behebung von Infrastruktur-Engpässen, die sich auf Training, Inferenz, Durchsatz oder Skalierbarkeit auswirken. * Optimierung der Infrastruktur hinsichtlich Leistung, Energieverbrauch, Auslastung und Kosten.

### Cloud-KI/ML-Architektur

* Fungieren als technischer Experte für mindestens eine der großen Hyperscaler-Plattformen, wie z. B. **AWS, Microsoft Azure oder Google Cloud**.

* Anwendung fundierter Kenntnisse in den Bereichen Cloud-KI/ML-Dienste, Rechenplattformen, Beschleuniger (Accelerators), Netzwerk, Speicher, Orchestrierung und Preismodelle.

* Bewertung von Cloud-Architekturoptionen und Empfehlung von Lösungen, die den Anforderungen an Workload, Sicherheit, Leistung und Kosten entsprechen.

* Entwurf skalierbarer Cloud- und Hybrid-Infrastrukturen für KI/ML-Workloads auf Unternehmens- und Großskalenebene.

* Identifizierung von Möglichkeiten zur Optimierung der Cloud-Auslastung und der Infrastrukturkosten.

### Architekturbewertung und Governance

* Leitung von Bewertungen und Überprüfungen bestehender und geplanter KI/ML-Infrastrukturumgebungen.

* Identifizierung von Architekturlücken, technischen Risiken, Leistungsengpässen, Skalierbarkeitsproblemen und Optimierungspotenzialen.

* Festlegung von Strategien zur Problembehebung und Erarbeitung technischer Empfehlungen.

* Etablierung von Architekturstandards, Mustern (Patterns) und Best Practices für die KI-Infrastruktur.

* Dokumentation von Architekturentscheidungen, Annahmen, Abwägungen (Trade-offs) und technischen Begründungen.

* Sicherstellung der Einhaltung relevanter Sicherheits-, Regulierungs-, Governance- und Kundenstandards.

### Infrastruktur-Roadmap und Kapazitätsplanung

* Definition und Pflege der Technologie-Roadmap für die KI/ML-Infrastruktur.

* Entwicklung von Kapazitätsplänen unter Berücksichtigung der Anforderungen von Geschäftsbereichen, Produkten und KI/ML-Workloads.

* Prognose des Bedarfs an Rechenleistung, Speicher, Netzwerkkapazität und Beschleunigern.

* Entwicklung von Kostenmodellen für die Infrastruktur und Identifizierung von Möglichkeiten zur Kostenoptimierung.

* Planung der technologischen Weiterentwicklung, des Workload-Wachstums und der Plattform-Skalierbarkeit.

### Automatisierung, Bereitstellung und Betrieb

* Entwurf von Bereitstellungs- und Automatisierungsstrategien für eine zuverlässige, reproduzierbare und skalierbare KI/ML-Infrastruktur.

* Etablierung geeigneter **CI/CD- und Infrastructure-as-Code-Ansätze** für KI/ML-Plattformen und -Workloads.

* Unterstützung der automatisierten Bereitstellung von KI-Systemen, Modellen und Datenpipelines in Produktionsumgebungen.

* Definition von Betriebsprozessen zur Gewährleistung von Zuverlässigkeit, Skalierbarkeit und Reproduzierbarkeit.

* Etablierung von Strategien für Monitoring und Observability über Infrastruktur- und MLOps-Umgebungen hinweg.

* Definition und Überwachung von **SLAs**.

Veröffentlicht am 2026-09-16

Empfohlene Jobs

Experte Außenhandel & SAP GTS (Gehalt: ~88.000 EUR p.a.*, w/m/div.)

Bosch Group
Feuerbach, Stuttgart

This position is at Bosch Group The selection process will be fully managed by Bosch Group. -- ## Unternehmensbeschreibung **Bei Bosch gestalten wir Zukunft mit hochwertigen Technologien und Di…

Details Anzeigen
Veröffentlicht am 2026-07-08

Buyer Non Food (m/w/d) in Neckarsulm, Lidl

Lidl Stiftung & Co. KG
Stuttgart

Deine Aufgaben Du gestaltest deine Warengruppe Non Food unter Wahrung definierter Qualitätsstandards und dem Einsatz von Category Management-Gedanken. … konkret heißt das: Verantwortung für d…

Details Anzeigen
Veröffentlicht am 2026-03-03

Lagermitarbeiter (m/w/d)

Bayer & Kastner GmbH
Stuttgart

Lagermitarbeiter (m/w/d) Einsatzort Stuttgart Arbeitsbegin ab sofort Vertragsart Vollzeit Zweck und Ziel der Stelle Menschen bewegen uns - People move us! Werden Sie Mitarbeiter von Bayer…

Details Anzeigen
Veröffentlicht am 2025-06-18

Gruppenleitung (m/w/d) im Bereich Kindertagesstätte

IN VIA Katholischer Verband für Mädchen- und Frauensozialarbeit
Stuttgart

IN VIA ist ein Verband der freien Wohlfahrtspflege und Träger mehrerer sozialer Einrichtungen und Dienste in der Diözese Rottenburg-Stuttgart. Schwerpunkte der Arbeit von IN VIA sind Angebote für Mäd…

Details Anzeigen
Veröffentlicht am 2026-09-16

Berater Corporate Treasury & Working Capital Management (w/m/d)

Ernst & Young
Stuttgart

Are you ready to shape your future with confidence? Gemeinsam die Welt jeden Tag ein bisschen besser machen. Für diesen Anspruch setzen wir bei EY alles in Bewegung und gehen als Team „all in“. Sch…

Details Anzeigen
Veröffentlicht am 2026-02-19

Teamleiter (m/w/d) Überbetriebliche Aus- und Weiterbildung mit Schwerpunkten Schreiner, Raumausstatter und Bürokaufleute

Handwerkskammer Region Stuttgart
Stuttgart

Wir fördern nicht nur das Handwerk in der Region Stuttgart, sondern auch Eigeninitiative und Entwicklung bei unseren Mitarbeitern (m/w/d). Das Ergebnis: Moderne Dienstleistungsangebote, die unser reg…

Details Anzeigen
Veröffentlicht am 2026-09-17

Gesundheits- und Krankenpfleger (m/w/d) für die onkologische Tagesklinik

MediVision Trägergesellschaft mbH
Stuttgart

Bei der amedes-Gruppe stehen medizinische Exzellenz, Innovation und Partnerschaft immer im Mittelpunkt. An über 100 Standorten in Deutschland, Belgien, Österreich und Dubai bieten wir in unseren Labo…

Details Anzeigen
Veröffentlicht am 2025-10-02

Pflegefachkraft für sehbeeinträchtigte Kinder & Jugendliche - Kurzzeitwohnen (m|w|d)

Nikolauspflege
Stuttgart

Sie wollen Familien mit Kindern mit komplexen Beeinträchtigungen unterstützen und ihren Kindern ein liebevolles und familiäres Zuhause auf Zeit geben? Sie haben Lust bei einem Angebot, das durch die …

Details Anzeigen
Veröffentlicht am 2025-05-30

Finanzbuchhalter / Bilanzbuchhalter (m/w/d)

BW PARTNER Bauer Schätz Hasenclever Partnerschaft mbB
Stuttgart

Gestalte deine Karriere – gemeinsam mit uns. Tätigkeiten. Finanz- / Bilanzbuchhaltung ist weit mehr als Soll und Haben. Deine gewissenhafte Arbeit und Fachkompetenz sorgen dafür, dass Unterneh…

Details Anzeigen
Veröffentlicht am 2026-06-24

SAP PM/EAM Senior Berater (m/w/d) bei ausgezeichnetem IT-Digitalisierungsunternehmen in Stuttgart

KA Resources
Stuttgart

Nach ausführlicher Absprache suchen wir für unseren Kunden mit großem Potenzial. Das marktführende und international tätige, sowie zukunftsorientierte und ausgezeichnete IT-Digitalisierungsunternehme…

Details Anzeigen
Veröffentlicht am 2026-09-11