AI/LLM Platform Engineer

Emagine — Poland · Posted ~4 hours ago

Senior Contract Remote

Skills

AI infrastructure LLM platforms cloud infrastructure API development model serving LLM Azure AWS API vector databases

🔓 Log in to save this job, tailor your resume & track your apply process — 7 days free, no card needed.

Log in to add to target list

Summary ✨ AI‑Generated

Work on a greenfield AI infrastructure platform that enables multiple engineering teams. You will design and maintain LLM runtime components, model serving systems, APIs, retrieval solutions, and scalable cloud-based services.

Highlights

Remote contract opportunity to build a large-scale AI platform with modern cloud technologies, greenfield architecture, and significant engineering impact across many development teams.

Description

umowa B2Bkontrakt na 12 miesięcypraca zdalnastart ASAPobowiązkowy stand-up o 8:00praca z terenu Uni Europejskiej Dołącz do projektu budowy centralnej platformy AI, która będzie wykorzystywana przez ponad 150 zespołów developerskich. Celem jest zapewnienie wspólnej warstwy AI Infrastructure oraz Security & Governance dla produktów rozwijanych w organizacji. Projekt znajduje się na etapie greenfield, jednak część komponentów jest już zbudowana w środowiskach Azure i AWS. Obecnie brak warstwy self-hosted oraz pełnej telemetrii. Dostępne są już bazy danych oraz interfejs użytkownika. Brak dyżurów on-call i odpowiedzialności za incident management. Główne Odpowiedzialności Projektowanie, rozwój i utrzymanie runtime'u dla platformy AI.Budowa i utrzymanie komponentów platformowych, takich jak:warstwa LLM Gateway oraz model routing,infrastruktura model serving i inference,warstwa API oraz abstrakcje usług,systemy vector storage i retrieval,warstw cache oraz optymalizacja wydajności.Projektowanie jednolitego interfejsu dostępu do usług AI.Budowa i utrzymanie środowisk opartych na Docker i Kubernetes.Wdrażanie Infrastructure as Code oraz praktyk GitOps.Implementacja monitoringu i telemetrii platformy.Zapewnienie bezpieczeństwa, w tym zarządzania dostępem i ochrony danych.Optymalizacja wydajności i kosztów środowisk AI.Współpraca z zespołami platformowymi oraz deweloperami.Odpowiedzialność za projekt architektury oraz implementację. Wymagania Kluczowe: Doświadczenie w Platform Engineeringu.Bardzo dobra znajomość Kubernetes i Docker.Doświadczenie z CI/CD.Doświadczenie z Terraform oraz Infrastructure as Code.Znajomość architektury platformowej oraz umiejętność projektowania rozwiązań.Doświadczenie doradcze i architektoniczne.Znajomość ekosystemów AI/LLM, w szczególności:model serving,inference,routing modeli,LLM Gateway.Doświadczenie z rozwiązaniami bezpieczeństwa dla AI, np. LLM Guard.Znajomość zagadnień związanych z obserwowalnością, monitoringiem i bezpieczeństwem platform.Doświadczenie w środowiskach hybrydowych i multi-cloud.Wykształcenie wyższe (Bachelor lub Master) w obszarze Computer Science, Engineering lub pokrewnym.