Sovereign AI Plattform Engineer (m/w/d/x)

Über T-Systems International GmbH Bei T-Systems bieten wir unseren Geschäftskunden die richtigen Systemlösungen für ihr digitales Business. Mit unserem Portfolio stellen wir sicher, dass digitale Transformation Komplexität reduziert, Kosten einspart und die alltägliche Arbeit erleichtert. Unsere Schwerpunkte sind Konnektivität, Digital, Cloud & Infrastruktur sowie Sicherheit – Let's power higher performance! Über die Position Als Platform Engineer mit Schwerpunkt Sovereign AI entwickeln, implementieren und betreiben Sie eine sichere und leistungsfähige KI-Toolchain für den Einsatz in isolierten oder besonders geschützten IT-Umgebungen. Sie gestalten Kubernetes-basierte Plattformen für KI-Inferenz, Retrieval, Experimente und agentenbasierte Anwendungen. Dabei integrieren und betreiben Sie Open-Source- und Open-Weight-Modelle, Model-Serving-Lösungen, Model Gateways, Vektordatenbanken sowie interne Benutzeroberflächen und Schnittstellen. Mit Infrastructure as Code, GitOps und automatisierten Deployment-Prozessen schaffen Sie stabile, reproduzierbare und auditierbare Plattformumgebungen. Sie verwalten private Registries, lokale Paket- und Modell-Repositories, Secrets, Zugriffsrechte, Storage, Netzwerkkomponenten und Observability-Lösungen in Umgebungen mit eingeschränkter oder vollständig unterbundener Anbindung an öffentliche Cloud-Dienste. Darüber hinaus optimieren Sie GPU-, CPU-, Storage- und Netzwerkressourcen für zuverlässige KI-Workloads und stellen sicher, dass Sicherheits-, Audit- und Datensouveränitätsanforderungen eingehalten werden. Must-have-Kenntnisse Mindestens fünf Jahre Erfahrung im Platform Engineering, DevOps, Site Reliability Engineering oder MLOpsSehr gute Kenntnisse in Kubernetes und LinuxErfahrung mit KI-Infrastrukturen, Model Serving und LLM-basierten AnwendungenErfahrung mit privaten, On-Premises- oder isolierten Deployment-UmgebungenGute Kenntnisse in Python, Terraform, Ansible, Helm und GitOpsFundierte Kenntnisse in den Bereichen Netzwerk, Storage, Zugriffskontrolle und MonitoringErfahrung mit GPU-gestützten Plattformen und der Optimierung von KI-WorkloadsSehr gutes Verständnis von IT-Sicherheit, Datensouveränität und auditierbaren BetriebsmodellenSehr gute Deutschkenntnisse in Wort und Schrift auf C1-Niveau Nice-to-have-Kenntnisse Erfahrung mit vLLM, Ollama, llama.cpp oder vergleichbaren Model-Serving-LösungenKenntnisse im Umgang mit Open-Source- oder Open-Weight-ModellenErfahrung mit Vektordatenbanken wie Qdrant und Retrieval-Augmented GenerationKenntnisse in Argo CD, privaten Registries und lokalen Paket- oder Modell-RepositoriesErfahrung mit Open WebUI oder vergleichbaren internen KI-OberflächenKenntnisse in GPU-Scheduling, LLMOps, Observability und Air-Gap-UmgebungenErfahrung mit VS-Code-kompatiblen Integrationen und internen KI-Schnittstellen Was Sie erwartet Sie gestalten eine souveräne KI-Plattform für den sicheren Betrieb moderner Large Language Models in isolierten und besonders geschützten IT-Umgebungen. Dabei arbeiten Sie mit Kubernetes, Open-Source- und Open-Weight-Modellen, GPU-gestützten Infrastrukturen, Model Serving, Retrieval, GitOps und Infrastructure as Code. Sie schaffen stabile, reproduzierbare und auditierbare Plattformen und leisten einen wesentlichen Beitrag zu Datensouveränität, Sicherheit und technologischer Unabhängigkeit. Was wir bieten Flexibilität und Work-Life-Balance: Profitieren Sie von flexiblen Arbeitszeiten, der Möglichkeit zum mobilen Arbeiten und einem hybriden Arbeitsmodell. Attraktive Vergütung: Ein wettbewerbsfähiges Gehaltspaket, das Ihre Expertise und Leistung honoriert. Entwicklungsmöglichkeiten: Zugang zu umfangreichen Weiterbildungsangeboten, Schulungen und Karriereentwicklungsprogrammen. Modernes Arbeitsumfeld: Arbeiten Sie in einer modernen Ausstattung mit den neuesten Technologien und Tools. Starke Unternehmenskultur: Eine offene und kollegiale Arbeitsatmosphäre, in der Teamarbeit und gegenseitige Unterstützung großgeschrieben werden. Gesundheit und Wohlbefinden: Angebote zur Gesundheitsförderung und Initiativen, die Ihr Wohlbefinden unterstützen. Zusatzleistungen: Diverse Benefits wie betriebliche Altersvorsorge, Mitarbeiterrabatte und Jobticket-Optionen. Ihre Bewerbung kann durch externe Dienstleister in Deutschland bearbeitet werden. Bewerbungen auf Positionen außerhalb der Deutschen Telekom AG können zudem durch Recruiterinnen und Recruiter in anderen europäischen Ländern bearbeitet werden. Dies gilt auch für die Bearbeitung von Bewerbungen bei Tochtergesellschaften der Deutschen Telekom AG.Daher gilt für unsere Beamtinnen und Beamten folgender Hinweis: Sie sind nicht verpflichtet, Ihrer Bewerbung Unterlagen beizufügen, die für Ihre Personalakte relevant sind, insbesondere dienstliche Beurteilungen. Selbstverständlich können Sie diese Unterlagen freiwillig einreichen. Diese Position ist auch in Teilzeit zu besetzen. Menschen mit Behinderung werden bei gleicher Eignung bevorzugt berücksichtigt. None None