LLM Engineer Projekt — DAX-Versicherer

Projektbeschreibung

Ein DAX-Versicherer baut einen RAG-gestützten Assistenten für die Schadenbearbeitung im Komposit-Bereich. Erste Prototypen sind in der Pilotphase, das Mandat hat den Auftrag, den Stack auf produktive Last (rund 6.000 Sachbearbeiter:innen) zu heben. Eingebettet in ein etabliertes 7-Personen-Team aus Engineering und Fachseite, mit klarer Produkt-Roadmap und freigegebenem Eval-Setup. BaFin-relevante Themen sind über das Risk-Komitee bereits adressiert.

Aufgaben

• Aufbau RAG-Pipeline für Sachbearbeitung über Azure OpenAI + Qdrant.
• Hybrid Retrieval (BM25 + Vektor) mit domain-spezifischer Chunking-Strategie.
• Eval-Setup mit Ragas und kuratierten Goldsets pro Schadenart.
• Latency-Tuning unter 1,5 Sek. p95 inkl. Caching-Strategie.
• Citation-Trace und Audit-Logging für Reviewer-Workflow.
• Hand-over an internes Produkt-Team nach Go-Live, inkl. Runbooks.
• Pairing mit zwei Junior-Engineers im Team.

Voraussetzungen

• 3+ Jahre LLM/RAG in Produktion, nicht nur Notebook-Demos.
• Sicher in Azure OpenAI, FastAPI und mindestens einer Vektor-DB.
• Eval-Disziplin (Ragas, LLM-as-Judge, Human-in-the-Loop).
• Erfahrung im Umgang mit Fachbereich und Compliance.
• Deutsch C1+ Pflicht.

Must-have

• RAG in Produktion
• Azure OpenAI
• FastAPI
• Deutsch C1+

Nice-to-have

• Versicherungserfahrung
• Qdrant in Produktion