AI Center of Excellence aufbauen — Bauplan für DACH-Konzerne

Worum es geht — Pain und Gain

Jobs to be done

• Mandat und Operating Model für das CoE definieren — zentral, föderal oder hybrid.
• Plattform mit Self-Service-Charakter aufbauen, statt Engpass für jeden Use-Case zu werden.
• Governance-Framework etablieren, das EU AI Act, Datenschutz und Modellqualität sauber abbildet.
• Talent-Pool aufbauen, der Geschäftseinheiten temporär oder dauerhaft mit Spezialisten versorgt.
• KPIs definieren, an denen Vorstand und Aufsichtsrat Fortschritt messen können.

Entscheidungs-Framework

Pain — warum scheitern viele CoE-Initiativen?

Drei Fehlermuster sind typisch. Erstens: das CoE wird als Auftragsabwickler verstanden und entwickelt selbst Use-Cases, statt Geschäftseinheiten zu befähigen. Zweitens: zu viel Plattform-Goldplating ohne ersten Live-Use-Case. Drittens: ein zu kleines Team mit zu großem Mandat, das in Status-Reports erstickt.

Hinzu kommt politisches Tauziehen: Geschäftseinheiten wollen Autonomie, Konzern-IT will Standards, Compliance will Sicherheit. Ein CoE ohne klares Vorstandsmandat verliert in diesem Spannungsfeld.

Gain — wofür lohnt sich ein CoE wirtschaftlich?

Bei drei oder mehr parallel laufenden KI-Use-Cases im Konzern rechnet sich ein CoE typisch innerhalb von 12 Monaten. Hebel sind: geteilte Plattform statt N-fache Eigenentwicklung, schnellere Time-to-Production durch Templates, geringerer Compliance-Aufwand pro Use-Case, besserer Talent-Zugang über einen zentralen Pool.

Indirekte Hebel: konsistente Vorstands-KPIs, weniger Vendor-Wildwuchs, leichtere Risiko-Steuerung gegenüber Aufsicht und Aufsichtsrat.

Operating Model: zentral, föderal oder hybrid?

Das hybride Modell hat sich im DACH-Raum durchgesetzt: das CoE betreibt Plattform und Governance, Use-Case-Teams sitzen in den Geschäftseinheiten. Wechselseitige Rotation hält den Wissensfluss aufrecht. Rein zentrale Modelle skalieren nicht über drei Use-Cases hinaus, rein föderale Modelle verlieren Standards.

Kritisch ist die Rollen-Abgrenzung: Wer trifft Modell-Auswahl-Entscheidungen? Wer betreibt produktive Modelle? Wer haftet bei Vorfällen? Klare Antworten gehören in das Operating-Model-Dokument.

Plattform-Bausteine

Eine produktive AI-Plattform deckt fünf Schichten ab: Daten (Feature Store, Daten-Kataloge), Modelle (Training, Registry, Serving), LLM-Layer (Gateway, Prompt-Management, Vektorspeicher), Observability (Monitoring, Drift, Kosten) und Governance (Audit-Trail, Risikoklassifizierung). Self-Service heißt: Geschäftseinheiten können neue Use-Cases ohne CoE-Ticket starten.

Make-or-Buy: Daten- und Modell-Layer überwiegend gekauft (Cloud-Stacks, Vektor-DBs als SaaS), Governance-Layer meist intern, LLM-Gateway hybrid. Details im Leitfaden Make or Buy für KI-Teams.

Team und Profile im CoE

Das CoE-Kernteam besteht aus Plattform-Engineering, Architektur, Governance und Talent-Funktion. Use-Case-Entwicklung gehört dagegen in die Geschäftseinheiten — sonst wird das CoE zum Engpass. Sinnvolle Profile: Lead AI Architect, MLOps-Lead, AI Governance Officer, Data Platform Engineer, AI Talent Manager.

In der Aufbauphase liefern Interim-Profile (Architekt, MLOps-Lead) das Tempo, das Festhiring im DACH-Markt nicht erlaubt. Sie werden über Contracting oder gezielt über Headhunting beschafft.

KPIs und Vorstandsreporting

Drei KPI-Gruppen sind unverzichtbar: Liefer-KPIs (Anzahl Use-Cases in Produktion, Time-to-Production), Qualitäts-KPIs (Modell-Performance, Drift-Rate, Vorfall-Häufigkeit) und Wirtschaftlichkeits-KPIs (Kosten pro Inferenz, ROI je Use-Case). Ein viertes Set für Governance (Compliance-Status, Audit-Findings) folgt mit dem ersten regulierten Use-Case.

Diese KPIs gehören in jedes Quartalsreporting an Vorstand und Aufsichtsrat, in identischem Format. Inkonsistente Reports kosten Glaubwürdigkeit.

People also ask

Was ist der Unterschied zwischen einem AI CoE und einem KI-Team?

Ein KI-Team liefert einen Use-Case. Ein CoE liefert die Plattform und Spielregeln für viele Use-Cases gleichzeitig.

Wer leitet ein AI Center of Excellence?

Typisch ein Head of AI oder Chief AI Officer mit direkter Vorstandsanbindung. Wichtig ist Mandat, nicht Titel.

Wie lange dauert der Aufbau?

Aufbau bis zur etablierten Reife typisch 12 bis 18 Monate. Skalierter Modus mit Portfolio-Steuerung weitere 12 bis 24 Monate.

Nächster Schritt

Sie wollen den Plan auf Ihren Konzern übertragen? Tragen Sie unten den Rahmen ein — Ziel, Zeitraum, Stand. Wir melden uns innerhalb eines Werktages mit einer ersten, vertraulichen Einschätzung.