AI Safety Engineer
Engineer-Profil, das KI-Systeme auf Risiken, Missbrauch, Bias und Sicherheit prüft und absichert.
AI Safety Engineers verantworten technische Sicherheit produktiver KI: Robustheit, Adversarial Testing, Halluzinations- und Bias-Monitoring, Red Teaming, Sicherheits-Guardrails. In regulierten Branchen oft eigenständige Rolle, sonst Teil von Plattform- oder Security-Teams.
- Festanstellung Senior
- 110.000 bis 140.000 €
- Freelance
- 1.100 bis 1.500 €/Tag
- Schwerpunkt
- Eval, Red Teaming, Guardrails, AI Act
Aufgaben
Aufbau von Eval- und Red-Team-Prozessen, Definition von Misuse-Szenarien, technische Guardrails (Input-/Output-Filter), Monitoring auf produktive Sicherheitssignale, Zusammenarbeit mit Governance, Datenschutz und Compliance.
Skills
Python, ML/LLM-Grundlagen, Security-Mindset, Eval-Frameworks, Threat-Modeling, Datenschutz, AI Act und ISO-42001-Kenntnisse hilfreich. Gute Kommunikation mit Recht, Risk und Vorstand.
Markt 2026
Festanstellung Senior: 110.000 bis 140.000 € in Konzernen. Freelance: 1.100 bis 1.500 €/Tag. Nachfrage steigend, vor allem in Banken, Versicherungen, Pharma, Energie und Public Sector.
Recruiting
Sehr selten als reines AI-Safety-Profil. Häufig kombiniert mit MLOps oder Security. Time-to-Hire 10 bis 14 Wochen.
Praxis & Empfehlung 2026
AI Safety wird 2026 für viele Unternehmen erstmals greifbar, weil High-Risk-Use-Cases nach AI Act bewertet werden müssen. Ein AI Safety Engineer in einer Versicherung, Bank oder Pharma-Organisation arbeitet typischerweise an drei Themen: einem Inventar produktiver KI-Anwendungen mit Risikoklassen, einem standardisierten Eval- und Red-Team-Verfahren und einem Berichts-Set für Aufsichtsgremien. Wichtig ist, dass die Rolle nicht in die Compliance ausgelagert wird, sie braucht technische Tiefe, sonst entstehen Folien statt Schutz. Spitzenbesetzung empfiehlt, die Rolle eng an AI Governance und Sicherheit anzukoppeln und mit einem klaren Eskalationsweg an Vorstand und Datenschutz auszustatten.
Häufige Fragen
- Brauchen wir AI Safety im Mittelstand?
- In regulierten Branchen ja. Sonst genügt anfangs ein erfahrener AI Engineer mit Eval- und Datenschutz-Verständnis.
Passende Leistungen
Verwandte Begriffe
- AI Governance Officer, Governance-Rolle, die KI-Standards, Risiken und regulatorische Anforderungen wie den AI Act im Unternehmen verankert.