AI Safety Engineer
Engineer-Profil, das KI-Systeme auf Risiken, Missbrauch, Bias und Sicherheit prüft und absichert.
AI Safety Engineers verantworten technische Sicherheit produktiver KI: Robustheit, Adversarial Testing, Halluzinations- und Bias-Monitoring, Red Teaming, Sicherheits-Guardrails. In regulierten Branchen oft eigenständige Rolle, sonst Teil von Plattform- oder Security-Teams.
- Festanstellung Senior
- 110.000–140.000 €
- Freelance
- 1.100–1.500 €/Tag
- Schwerpunkt
- Eval, Red Teaming, Guardrails, AI Act
Aufgaben
Aufbau von Eval- und Red-Team-Prozessen, Definition von Misuse-Szenarien, technische Guardrails (Input-/Output-Filter), Monitoring auf produktive Sicherheitssignale, Zusammenarbeit mit Governance, Datenschutz und Compliance.
Skills
Python, ML/LLM-Grundlagen, Security-Mindset, Eval-Frameworks, Threat-Modeling, Datenschutz, AI Act und ISO-42001-Kenntnisse hilfreich. Gute Kommunikation mit Recht, Risk und Vorstand.
Markt 2026
Festanstellung Senior: 110.000–140.000 € in Konzernen. Freelance: 1.100–1.500 €/Tag. Nachfrage steigend, vor allem in Banken, Versicherungen, Pharma, Energie und Public Sector.
Recruiting
Sehr selten als reines AI-Safety-Profil. Häufig kombiniert mit MLOps oder Security. Time-to-Hire 10–14 Wochen.
Praxis & Empfehlung 2026
AI Safety wird 2026 für viele Unternehmen erstmals greifbar, weil High-Risk-Use-Cases nach AI Act bewertet werden müssen. Ein AI Safety Engineer in einer Versicherung, Bank oder Pharma-Organisation arbeitet typischerweise an drei Themen: einem Inventar produktiver KI-Anwendungen mit Risikoklassen, einem standardisierten Eval- und Red-Team-Verfahren und einem Berichts-Set für Aufsichtsgremien. Wichtig ist, dass die Rolle nicht in die Compliance ausgelagert wird – sie braucht technische Tiefe, sonst entstehen Folien statt Schutz. Spitzenbesetzung empfiehlt, die Rolle eng an AI Governance und Sicherheit anzukoppeln und mit einem klaren Eskalationsweg an Vorstand und Datenschutz auszustatten.
Häufige Fragen
- Brauchen wir AI Safety im Mittelstand?
- In regulierten Branchen ja. Sonst genügt anfangs ein erfahrener AI Engineer mit Eval- und Datenschutz-Verständnis.
Passende Leistungen
Verwandte Begriffe
- AI Governance Officer – Governance-Rolle, die KI-Standards, Risiken und regulatorische Anforderungen wie den AI Act im Unternehmen verankert.
- AI Ethics Officer – Rolle, die ethische Fragen rund um KI-Einsatz, Fairness und gesellschaftliche Wirkung im Unternehmen verantwortet.
- LLM Engineer – Engineer-Profil mit Spezialfokus auf große Sprachmodelle: Prompting, RAG, Agenten, Evaluation und produktive Integration.
- MLOps Engineer – Engineer-Profil, das die Plattform für Training, Deployment und Betrieb von ML- und LLM-Systemen verantwortet.