AI Platform Engineer – Entwickle die Zukunft der lokalen KI (m/w/d)
Über
Rolle
In dieser Rolle gestaltest du lokale KI-Infrastruktur aktiv mit, anstatt künstliche Intelligenz nur anzuwenden. Du verantwortest eine on-premise betriebene AI-Umgebung in einem sicherheitskritischen Umfeld und setzt dabei konsequent auf No-Cloud, Open Source First und lokal betriebene Modelle. Du arbeitest mit einem eigenen AI-Cluster, dockerisierten AI-Modellen, GPU-unterstützten Systemen, zentralen Schnittstellen wie OpenLLM sowie Inferenz-Stacks wie vLLM, SGLang oder vergleichbaren Technologien. Dein Schwerpunkt liegt auf Performance, Verfügbarkeit, Stabilität, Automatisierung, Monitoring und der sinnvollen Integration von KI in interne Prozesse und Entwicklungsabläufe. Dabei betreibst du produktive AI-Systeme, bewertest Modelle, verstehst die zugrunde liegende Infrastruktur und treibst lokale KI-Lösungen technisch voran.
Verantwortung
Im Betrieb kümmerst du dich um die Konfiguration, Wartung und Optimierung unserer lokalen AI Plattform
Du sorgst für einen zuverlässigen Betrieb von AI Modellen und analysierst deren Performance, Qualität und Ressourcenverbrauch
Gemeinsam evaluierst du neue Open-Source-Modelle und prüfst deren Einsatz für interne Anforderungen
Du integrierst AI Lösungen, Automatisierungen und Entwicklungs-Workflows in bestehende Systeme
Mit deinem Beitrag entwickelst du die AI Strategie, Monitoring-Prozesse und MLOps Strukturen weiter
Qualifikationen
Du hast eine abgeschlossene Informatikausbildung und verfügst über schriftlich sowie mündlich einwandfreie Deutschkenntnisse
Du bringst Erfahrung mit AI Technologien, LLMs, Containerisierung und Linux Systemen mit
Dein Wissen über GPU Performance, Inferenz, Modellparameter und AI Integration unterstützt dich bei komplexen Aufgaben
Kenntnisse in MLOps, Python, APIs, Retrieval-Augmented Generation oder lokalen AI Clustern sind ein Plus
Benefits