Hanna Hedges: Wir leben in keiner perfekten Welt und auch Daten können voreingenommen sein. Werden diese nicht ausgiebig geprüft und bereinigt werden, können KI Prozesse Bias und Diskriminierung nur verstärken. Durch ein ethisches Konzept müssen wir sicherstellen, dass Faktoren wie ethnische Zugehörigkeit, geographische Herkunft und Geschlecht keinen Raum in unserer Entscheidungsfindung spielen.

Ein weiterer Aspekt im Umgang mit KI ist die Sicherstellung der Privatsphäre und des Datenschutzes unserer Schuldner und Klienten. Angemessene Sicherheitsmaßnahmen müssen vollzogen werden, wenn wir persönliche und sensible Daten mithilfe von KI verarbeiten.

Nicht nur wir stellen uns diesen Herausforderungen. Der EU AI Act ist global die erste umfassende Verordnung zu KI durch eine Regulierungsbehörde. Das Gesetz enthält Richtlinien für die Anbieter und Entwickler von AI-Systemen, aber auch für die Nutzer und somit auch coeo. Dies ist ein guter Start, um für mehr Transparenz und weniger Diskriminierung zu sorgen, aber es ist wichtig, mit der Weiterentwicklung von KI und ihren Anwendungsgebieten diese Richtlinien ständig weiterzuentwickeln und zu überwachen.