Governance ist Alltagsaufgabe, nicht Stabsstelle. Isabell Neubert, Manager AI/IT Governance & Regulatory Tech bei coeo, diskutiert gemeinsam mit dem coeo Kundenserviceteam, was Shadow AI, EU AI Act und KI-Einsatz in der Praxis wirklich bedeuten.
Wenn Tools sich selbst ausrollen
Isabell Neubert, Managerin AI/IT Governance & Regulatory Tech bei coeo, tritt beim Customer Focus Summit #6 nicht alleine auf die Bühne. Mit ihr diskutieren Gelsomina Ceruti, Anna Lena Jungbluth und David Winkelmann aus dem coeo Kundenserviceteam: ein bewusst gewählter Praxisbeweis dafür, dass KI-Governance kein abstraktes Compliance-Thema ist, sondern mitten im Arbeitsalltag stattfindet.
Den Rahmen dafür liefert Neubert mit einer nüchternen Bestandsaufnahme: Der klassische Change-Prozess ist überholt. Mitarbeitende installieren selbst Tools, Tools bekommen plötzlich KI-Komponenten, ohne dass jemand die Lizenz gelesen hat, und wer die Tokens eines genehmigten Tools aufgebraucht hat, weicht eben kurz auf ein anderes aus. Shadow AI ist kein Randproblem, sondern gelebte Realität in fast jedem Unternehmen.
Erschwerend kommt hinzu: Bekannte Tools wie PDF-Viewer oder Mail-Programme erhalten im Hintergrund KI-Updates. Was gestern noch reguläre Software war, ist heute ein KI-System, das möglicherweise unter den AI Act fällt. Für Neubert liegt die Antwort nicht in Verboten, sondern in Awareness: Jede mitarbeitende Person muss wissen, wann sie möglicherweise ein Hochrisikosystem nutzt und wann sie Alarm schlagen sollte.
KI-Inventur als Dauerprozess
Eine einmalige Bestandsaufnahme reicht nicht. Neubert berichtet, wie coeo das Problem mit über 300 Systemen gelöst hat: Ein Agent durchsucht öffentliche Quellen automatisiert nach KI-Komponenten in eingesetzten Tools. Eine KI zur Kontrolle der KI, nüchtern und pragmatisch. Alternativ würde dieselbe Aufgabe manuell Wochen kosten. Die Inventur ist damit kein Projekt, sondern ein laufender Prozess.
Der AI Act als Chance, nicht nur als Aufwand
Neubert sieht im EU AI Act keine reine Bürde. Der risikobasierte Ansatz bedeutet: Nur Systeme mit hohem Risiko bekommen hohe Anforderungen. Was wirklich verboten ist, ist überschaubar. Viel wichtiger ist, dass gute Governance-Praktiken, die bei Business-kritischen Systemen ohnehin gelten sollten, jetzt formalisiert werden. Für Neubert ist der Schlüssel, Governance von Anfang an in die Konzeptionsphase einzubinden, bei Architekturentscheidungen, Modellauswahl und Hosting, nicht erst, wenn das System läuft.
cAI in der Praxis: Was das Team erlebt
Was das im Alltag bedeutet, machen die drei Kolleginnen und Kollegen aus dem Serviceteam greifbar. Gelsomina Ceruti beschreibt den Rollenwechsel deutlich: Früher bestand der Arbeitstag größtenteils aus immer wiederkehrenden Standardanliegen, einem enormen Zeitfresser mit wenig Mehrwert. Seit cAI diese Aufgaben übernimmt, bleibt mehr Raum für das Wesentliche. „Durch cAI steigt die Qualität des Services, weil wir viel mehr Luft haben, um effektive Lösungen zu finden.“
David Winkelmann ergänzt: Zahlungsaufschübe und Ratenvereinbarungen, die früher täglich das Team überschwemmten, übernimmt cAI heute vollständig. Das Team konzentriert sich stattdessen auf komplexe Widersprüche und Schuldnerberatung, also auf Situationen, in denen Menschen in echten Schwierigkeiten stecken und menschliche Präsenz wirklich zählt.
Die Rückmeldungen der Kunden sind mehrheitlich positiv, die Akzeptanz wächst. Was bleibt, ist eine klare Haltung: KI macht den Job nicht überflüssig, sie macht ihn besser.
Mehr von Isabell Neubert im Customer Focus Network: Im Videocast und im Business Rap geht sie die Themen KI-Governance und Regulatorik aus weiteren Perspektiven an.
