Was die neue KI-Verordnung wirklich bedeutet – eine Juristin und ein Jurist klären auf, worauf sich Unternehmen jetzt vorbereiten müssen.

Meilenstein mit Nebenwirkungen: Der EU AI Act ist da

Am 13. März 2024 war es so weit: Das Europäische Parlament verabschiedete den EU AI Act – das erste umfassende Regelwerk zur Regulierung künstlicher Intelligenz weltweit. Im Mai wurde es offiziell angenommen. Für viele ein historischer Schritt hin zu einem verantwortungsvollen und sicheren KI-Einsatz. Doch was bedeutet dieses Gesetz konkret für die Wirtschaft?

In ihrem spannenden Talk beim Customer Focus Summit 2025 analysieren Marieke Merkle und Dr. Robert Kazemi die 400 Seiten starke Regulierung aus juristischer Sicht – verständlich, kritisch und praxisnah. Besonders für Unternehmen, die KI im Kundenkontakt einsetzen, bringt der AI Act neue Spielregeln – und neue Pflichten.

Zwischen Regulierung und Innovationsdruck

Die Zielsetzung des Gesetzes ist klar: Risiken durch KI minimieren, gleichzeitig Innovationen nicht abwürgen. Doch genau dieser Spagat stellt Unternehmen vor große Herausforderungen. Die neue Verordnung unterscheidet zwischen verschiedenen Risikoklassen von KI-Systemen – mit besonders strengen Vorgaben für sogenannte Hochrisikoanwendungen.

Was heißt das konkret? Unternehmen müssen umfangreiche Dokumentationspflichten erfüllen, Transparenz gewährleisten, menschliche Aufsicht sicherstellen und mögliche Diskriminierungsrisiken prüfen. Merkle betont: „Das ist ein echter operativer Eingriff in die Praxis – besonders für kleinere Unternehmen, die bisher ohne Compliance-Abteilung gearbeitet haben.“

Was jetzt auf Unternehmen zukommt

Für Firmen, die KI im Vertrieb, Kundenservice oder der Produktempfehlung nutzen, gilt: Jetzt besteht Handlungsbedarf. Die Vortragenden erläutern, welche Fragen Entscheiderinnen und Entscheider sich stellen müssen:

• Ist meine KI-Anwendung „hochrisiko“-relevant?
• Wie dokumentiere ich Entscheidungen der KI nachvollziehbar?
• Welche Rolle spielen externe Audits und Zertifizierungen?
• Wie schütze ich mich vor Haftungsrisiken?

Dr. Kazemi sieht in der Regulierung nicht nur Bürde, sondern auch Potenzial: „Sie schafft Vertrauen. Kunden werden langfristig nur mit KI-Systemen interagieren, die nachvollziehbar und rechtlich sicher sind.“ Gleichzeitig appelliert er an die Politik, Start-ups und KMUs nicht durch überbordende Pflichten zu benachteiligen.

Ausblick: Rechtsrahmen als Standortchance?

Trotz Kritik überwiegt im Talk der konstruktive Ton. Die beiden Vortragenden sind sich einig: Der EU AI Act kann zum europäischen Standortvorteil werden – wenn Unternehmen jetzt in Aufklärung, Governance und Compliance investieren. Die kommenden Monate werden entscheidend. Es geht darum, Prozesse neu zu denken, Verantwortlichkeiten zu klären und mit Technologie- und Rechtsteams zusammenzuarbeiten.

Ein besonderes Highlight des Vortrags: eine von KI generierte Thesensammlung, die das Panel als Diskussionsgrundlage nutzt – ein gelungenes Meta-Experiment, das zeigt, wie KI selbst zum Werkzeug juristischer Reflexion werden kann.