LLM Engineer finden und einstellen

Was ein LLM Engineer im Team leistet

Der LLM Engineer ist die Rolle, die einen Chat-Prototyp in ein System verwandelt, dem ein Fachbereich vertraut. Der Kern der Arbeit liegt nicht im Modell, sondern in allem darum: Datenzugang, Retrieval, Kontextgrenzen, Auswertung und Absicherung.

Im Alltag heißt das: Retrieval-Strecken bauen und messen, Antwortqualität systematisch bewerten, Halluzinationen einhegen, Tokenkosten und Latenz steuern und Modellwechsel ohne Bruch durchführen.

Die Rolle ist erst seit 2023 breit gefragt. Entsprechend zählt nachweisbare Produktionserfahrung mehr als jeder Titel im Lebenslauf: Fragen Sie nach einem System, das echte Nutzer verwenden.

Anforderungsprofil: was wirklich Pflicht ist

Ein zu langes Pflichtprofil kostet Reichweite. Diese fünf Punkte tragen die Rolle:

Retrieval-Architektur. Chunking, Embeddings, Vektor- und Hybridsuche, Re-Ranking. Wer nur Prompting kennt, deckt den kleineren Teil der Aufgabe ab.

Evaluation. Testsätze, automatische Bewertung, menschliche Stichproben. Ohne Messung ist jede Verbesserung Behauptung.

Software-Engineering. Python, saubere Schnittstellen, Tests, Beobachtbarkeit. LLM-Systeme scheitern meist an Technik, nicht an Modellen.

Kosten und Latenz. Caching, Modellkaskaden, Kontextdisziplin. Ein erfahrener Kandidat kennt seine Kosten pro Anfrage.

Sicherheit und Compliance. Prompt-Injection, Datentrennung, Protokollierung, Anforderungen aus der EU-KI-Verordnung.

Gehalt und Seniorität 2026

Die folgenden Bänder sind Marktschätzungen für die DACH-Region, Stand 2026, auf Basis von Vermittlungsmandaten, Angebotsdaten und öffentlichen Gehaltsvergleichen. Sie gelten für Vollzeit ohne variable Bestandteile.

Die Nachfrage ist seit 2024 stärker gestiegen als bei jeder anderen KI-Rolle, das Angebot hinkt nach. Viele Bewerber haben Prototypen gebaut, aber kein System über sechs Monate betrieben.

Preistreiber ist Nachweisbarkeit: Kandidaten, die Evaluationszahlen und Kostenkurven eines echten Systems zeigen können, liegen regelmäßig am oberen Bandende.

Weil der Stack sich schnell verändert, ist Lernfähigkeit im Auswahlgespräch wichtiger als Werkzeugkenntnis. Fragen Sie, was der Kandidat zuletzt verworfen hat und warum.

So läuft eine belastbare Besetzung ab

1. Profil und Betriebsanteil schriftlich festlegen, bevor die Suche startet.
2. Aktive Direktansprache statt Ausschreibung: der relevante Markt bewirbt sich nicht.
3. Erste Auswahl über Arbeitsproben oder Systemgespräch statt über Zertifikate.
4. Fachgespräch mit einem realen Fall aus Ihrem Unternehmen, maximal 90 Minuten.
5. Entscheidung innerhalb von fünf Arbeitstagen nach dem letzten Gespräch.

Acht bis zwölf Wochen bis zur Unterschrift, in engen Nischen bis zu vier Monate. Der Markt ist schnell: Angebote sollten innerhalb von fünf Tagen nach dem letzten Gespräch vorliegen.

Die drei häufigsten Fehler

Prompting als Anforderung. Wer nur Prompt-Erfahrung ausschreibt, bekommt Bewerber ohne Betriebsfähigkeit.

Keine Datenbasis. Ohne saubere Dokumenten- und Rechtelage entsteht kein belastbares Retrieval. Diesen Punkt klären Kandidaten früh.

Zu späte Entscheidung. Bei dieser Rolle gehen Kandidaten häufiger an schnellere Wettbewerber verloren als an höhere Gehälter.

Festanstellung oder freiberuflich?

Für den ersten Anwendungsfall lohnt oft ein Freelancer, der Architektur und Messung aufsetzt. Sobald das System dauerhaft betrieben wird, braucht es Verantwortung im Haus.