AI Safety Engineer vs. IT Security Specialist

Definitionen im Schnelldurchlauf

Beide Rollen tragen das Wort „Sicherheit", schützen aber grundverschiedene Dinge. Der IT Security Specialist (auch Cybersecurity-Experte) sichert die klassische IT: Infrastruktur, Netzwerke, Endgeräte und Zugänge. Er wehrt externe Angriffe ab, von Malware über Phishing bis zu Netzwerk-Intrusionen, und arbeitet mit deterministischen Bedrohungsmodellen, die sich aus bekannten Angriffsmustern ableiten.

Der AI Safety Engineer schützt das Unternehmen vor dem unbeabsichtigten, autonomen oder manipulierten Verhalten seiner KI-Systeme selbst. Mit der Verbreitung von Agenten, die eigenständig Workflows auslösen, APIs aufrufen und Daten verändern, reicht klassische Sicherheit nicht mehr. Diese Rolle entwickelt Leitplanken für probabilistische Systeme, die kontextabhängig und oft unvorhersehbar entscheiden, und deckt durch Red-Teaming Schwachstellen auf, bevor Angreifer sie ausnutzen.

Der Kernunterschied: Der IT Security Specialist verhindert, dass jemand von außen eindringt. Der AI Safety Engineer verhindert, dass das System selbst Schaden anrichtet, etwa durch eine durch Prompt Injection ausgelöste Fehlaktion oder eine halluzinierte Ausgabe in einem kundennahen Prozess.

• IT Security Specialist: Netzwerksicherheit, Endpoint-Schutz, Zugriffsmanagement, Pentesting, Incident Response, SOC.
• AI Safety Engineer: Red-Teaming von Modellen, Guardrails, Schutz gegen Prompt Injection und Data Poisoning, Tool-Hardening, Bedrohungsmodellierung nach MITRE ATLAS.

Vergleich der Kerndimensionen

Die folgende Tabelle zeigt die wichtigsten Unterschiede. Beide Disziplinen sind notwendig, sobald ein Unternehmen ernsthaft KI-Systeme betreibt, decken aber verschiedene Risikoebenen ab.

Wann brauchen Sie einen AI Safety Engineer?

Ein AI Safety Engineer wird relevant, sobald KI-Systeme eigenständig handeln oder kundennah kommunizieren. Der Auslöser ist nicht ein klassischer Angriff von außen, sondern das Risiko, dass das Modell selbst etwas Unerwünschtes tut.

• Sie betreiben autonome KI-Agenten, die Aktionen auslösen oder Daten verändern können.
• Ihre kundennahen KI-Anwendungen müssen gegen Halluzinationen und Manipulation gehärtet werden.
• Sie entwickeln ein eigenes Modell und brauchen systematisches Red-Teaming vor dem Launch.
• Sie müssen markenschädigende oder toxische Ausgaben unter allen Umständen ausschließen.

Wann brauchen Sie einen IT Security Specialist?

Ein IT Security Specialist ist die Grundlage jeder IT-Sicherheit und in praktisch jedem Unternehmen notwendig, unabhängig vom KI-Einsatz. Sein Aufgabenfeld ist breiter etabliert und regulatorisch klar verankert.

• Sie müssen Netzwerke, Systeme und Daten vor externen Angriffen schützen.
• Sie brauchen Incident Response, Pentesting oder ein Security Operations Center.
• Sie unterliegen Anforderungen wie ISO 27001, BSI-Grundschutz oder NIS2.
• Der Schutz von Zugängen, Endgeräten und Infrastruktur steht im Vordergrund.

Methoden und Werkzeuge im Vergleich

Der methodische Unterschied wird an den Frameworks sichtbar. Klassische IT-Sicherheit orientiert sich an MITRE ATT&CK und ISO 27001. KI-Sicherheit nutzt MITRE ATLAS, das speziell adversariale Bedrohungen für KI-Systeme abbildet, sowie NIST AI 100-2.

• AI Safety: Red-Teaming, semantische In- und Output-Filter, Intent-Filterung, deterministische Tool-Calls, Least-Privilege für Agenten, harte Abbruchbedingungen.
• IT Security: Netzwerksegmentierung, Endpoint Detection, SIEM-Monitoring, Schwachstellen-Scans, Patch-Management, Incident Response.

Recruiting-Realität: Verfügbarkeit, Vakanzdauer und Gehalt

Beide Felder leiden unter Fachkräftemangel, aber unterschiedlich stark. IT-Sicherheit ist etabliert, der Bewerberpool größer, dennoch knapp. AI Safety ist eine sehr junge Disziplin: Profile mit echter Red-Teaming- und Alignment-Erfahrung sind im DACH-Raum extrem rar und stehen oft in Konkurrenz zu internationalen Angeboten.

Gehaltsvergleich (Stand 2026)

Für den IT Security Specialist ist die Datenlage solide. Für den AI Safety Engineer gibt es im DACH-Raum keine rollenspezifische Erhebung, weshalb hier AI-Engineer- und Research-Werte als Proxy dienen. International liegt das AI-Safety-Niveau deutlich höher.

Häufige Fehleinschätzungen bei der Stellenausschreibung

• KI-Sicherheit der IT-Abteilung zuschieben: Klassische Security-Teams können probabilistisches Modellverhalten meist nicht beurteilen. Das ist eine eigene Kompetenz.
• AI Safety als reine Compliance verstehen: Red-Teaming und Guardrail-Design sind technische Aufgaben, keine Dokumentationsübung.
• Einen Generalisten für beides suchen: Netzwerksicherheit und Modellverhalten sind verschiedene Disziplinen. Ein Profil deckt selten beide auf hohem Niveau ab.
• Budget unterschätzen: AI-Safety-Profile sind durch internationale Nachfrage teuer; ein Security-Budget reicht hier oft nicht.

Praxisbeispiel: Wenn ein Agent eine ungewollte Aktion auslöst

Ein Unternehmen betreibt einen KI-Agenten im Kundenservice, der eigenständig auf interne Systeme zugreift, um Bestellungen zu stornieren oder Gutschriften auszulösen. Das klassische Security-Team hat das Netzwerk gehärtet, Zugänge abgesichert und Monitoring aufgesetzt. Trotzdem gelingt es, den Agenten durch eine geschickt formulierte Kundennachricht (eine Prompt Injection) dazu zu bringen, eine Gutschrift auszulösen, die nicht vorgesehen war. Kein klassischer Angriff hat stattgefunden, kein System wurde im herkömmlichen Sinn kompromittiert. Das Problem liegt im Verhalten des Modells selbst. Genau hier setzt der AI Safety Engineer an: Er hätte den Agenten durch Intent-Filterung, deterministische Tool-Calls und Least-Privilege so abgesichert, dass eine solche Eingabe keine kritische Aktion auslösen kann. Das Beispiel zeigt, warum klassische IT-Sicherheit diese Lücke nicht schließt.

Entscheidungshilfe: Welche Sicherheitskompetenz brauchen Sie?

Die folgenden Fragen helfen einzuordnen, ob Sie AI-Safety-Kompetenz zusätzlich zur klassischen IT-Sicherheit benötigen.

• Betreiben Sie KI-Agenten, die eigenständig Aktionen ausführen? Ja deutet stark auf Bedarf an einem AI Safety Engineer hin.
• Kommuniziert Ihre KI direkt mit Kunden? Ja erhöht das Risiko von Manipulation und Fehlausgaben.
• Geht es primär um Netzwerk-, Zugriffs- und Endpoint-Schutz? Ja spricht für den IT Security Specialist.
• Müssen Sie ISO 27001, BSI-Grundschutz oder NIS2 erfüllen? Ja gehört in den Bereich der klassischen IT-Sicherheit.
• Entwickeln oder betreiben Sie ein eigenes Modell? Ja spricht für systematisches Red-Teaming durch einen AI Safety Engineer.
• Ist Ihr KI-Einsatz noch experimentell und ohne autonome Aktionen? Dann reicht oft zunächst die etablierte IT-Sicherheit.

Karrierewege: Vom Security-Profil zur AI Safety

Für Kandidaten ist der Übergang zwischen beiden Feldern interessant, aber nicht trivial. AI Safety verlangt Verständnis für das Verhalten von Sprachmodellen, das klassische Security-Profile selten mitbringen. Umgekehrt fehlt vielen ML-Fachkräften das Sicherheitsdenken in Angriffsszenarien. Erfolgreiche AI Safety Engineers kommen daher aus zwei Richtungen: aus dem ML-Engineering mit zusätzlichem Fokus auf Adversarial Testing, oder aus der Cybersecurity mit vertieftem ML-Verständnis. Wer beide Welten verbindet, ist im Markt extrem rar und steht oft in direkter Konkurrenz zu internationalen Frontier-Laboren. Für IT-Security-Profile, die sich weiterentwickeln wollen, ist der Aufbau von ML- und Red-Teaming-Kompetenz aktuell einer der wertvollsten Karrierehebel im Sicherheitsbereich.

Sie arbeiten in IT-Sicherheit oder AI Safety?

Beide Profile sind gefragt, AI-Safety-Kompetenz im DACH-Raum besonders. Lassen Sie sich für passende Mandate vorschlagen, statt sich durch generische Angebote zu arbeiten.

Profil im Talent-Pool hinterlegen