AI Platform Engineer (m/w/d)
Über
Rolle
Du möchtest künstliche Intelligenz nicht nur anwenden, sondern lokale AI-Infrastruktur aktiv betreiben, optimieren und weiterentwickeln. In dieser Rolle übernimmst du die Verantwortung für eine vollständig on-premise betriebene AI-Umgebung mit No-Cloud-Ansatz, Open-Source-Stack und lokal gehosteten Modellen. Du arbeitest mit einem eigenen AI-Cluster, dockerisierten AI-Modellen, GPU-unterstützten Systemen, zentralen Schnittstellen wie OpenLLM sowie Inferenz-Stacks wie vLLM, SGLang oder vergleichbaren Technologien. Du verantwortest die Performance, Verfügbarkeit, Stabilität, Automatisierung und das Monitoring der Systeme und sorgst dafür, dass AI sinnvoll in interne Prozesse und Entwicklungsabläufe integriert wird. Als Senior-Fachkraft für KI-Entwicklung liegt dein Schwerpunkt auf dem produktiven Betrieb von AI-Systemen, der Bewertung von Modellen, dem tiefen Verständnis der Infrastruktur und der technischen Weiterentwicklung lokaler AI-Lösungen.
Verantwortung
Du betreibst, wartest und optimierst unseren lokalen AI-Cluster mit GPU-unterstützten Systemen.
In dieser Rolle stellst du einen stabilen, schnellen und hochverfügbaren Betrieb unserer lokalen AI-Modelle sicher.
Als AI Engineer evaluierst du neue Open-Source-Modelle, testest sie und optimierst sie hinsichtlich Performance, Qualität und Ressourcenverbrauch.
Du automatisierst Test-, Optimierungs- und MLOps-Prozesse und betreust zentrale AI-Schnittstellen für interne Applikationen.
In dieser Rolle integrierst du AI-Funktionen in interne Tools, Chat-Anwendungen, Entwicklungsworkflows und Automatisierungsprozesse.
Als Fachkraft für KI Platform Engineer baust du Monitoring für Modelle, Cluster und Ressourcen auf und treibst die Weiterentwicklung unserer AI-Plattform und -Strategie voran.
Qualifikationen
Du verfügst über fundierte Erfahrung mit AI-Systemen, Large Language Models oder vergleichbaren Machine-Learning-Anwendungen und kennst dich mit Inferenz, Kontextlängen, Quantisierung und Latenz gut aus.
Der Betrieb lokaler oder selbst gehosteter AI-Modelle auf Linux-Systemen ist dir vertraut, inklusive Docker, containerisierten Umgebungen sowie GPU-basierten Workloads und Performance-Optimierung.
Du arbeitest routiniert mit Open-Source-Modellen, evaluierst neue Modelle systematisch und kannst deren Nutzen für konkrete Anwendungsfälle kritisch beurteilen.
Schnittstellen, APIs und die Integration von AI in bestehende Applikationen sind dir geläufig; idealerweise hast du Erfahrung mit Python, Skripting oder Backend-Integration.
Datenschutz, Security und der Betrieb sensibler Systeme ohne Cloud-Abhängigkeit sind dir wichtig, ergänzt durch Interesse an MLOps, Monitoring, Automatisierung und produktivem Betrieb von AI-Systemen.
Es bereitet dir Freude, neue Technologien auszuprobieren und diese anschliessend pragmatisch, robust und strukturiert in einen stabilen Betrieb zu überführen.
Du sprichst fliessend Deutsch und gut Englisch.
Benefits