Vertrauen, Verantwortung – und warum gute KI nicht autonom, sondern nachvollziehbar sein muss

Dr. Anne Scherer im Business Rap

Dr. Anne Scherer im Business Rap

Im kurzen Business Rap treffen wir Dr. Anne Scherer, Co-Founder von Delta Labs.

Ehrlichkeit im Kundengespräch:

Maschinen als bessere Gesprächspartner oder Menschen?

Das hängt stark vom Kontext ab

„Bei sensiblen Themen kann eine Maschine den Einstieg erleichtern, weil die Hemmschwelle oft niedriger ist. Menschen bleiben aber wichtig, wenn es um echte Empathie, Vertrauen und komplexe Einordnung geht. Ideal ist eine Kombination: KI unterstützt personalisiert im Hintergrund, der Mensch schafft Verbindung.“

Robo-Advisor:

Besserer Finanzberater als der Mensch oder nur der günstigere?

Es gibt hier kein Schwarz-Weiß

„KI kann enorme Datenmengen analysieren und dadurch sehr fundierte Empfehlungen geben. Gleichzeitig erwarten viele Menschen, dass ein menschlicher Berater ihre individuelle Lebenssituation besser versteht. Die stärkste Lösung ist daher meist hybrid: datengetriebene Analyse durch KI, menschliche Beratung dort, wo Kontext und Vertrauen entscheidend sind.“

Manipulation durch KI:

Unvermeidbares Risiko oder Designentscheidung?

Jede mächtige Technologie kann missbraucht werden

„KI ist da keine Ausnahme. Entscheidend ist, wie wir sie gestalten, regulieren und absichern. Beim Auto gab es anfangs auch keine Sicherheitsgurte oder Straßenverkehrsordnung. Heute sind solche Schutzmechanismen selbstverständlich. Genau dahin müssen wir auch bei KI kommen.“

„Better Tech“:

Wessen Verantwortung — Forschung, Unternehmen oder Politik?

Das ist eine gemeinsame Verantwortung

,,Forschung kann Risiken und Chancen sichtbar machen, Unternehmen müssen verantwortungsvoll entwickeln, und Politik sowie Gesellschaft müssen definieren, welche Zukunft wir eigentlich wollen. Das Problem ist: Die technologische Entwicklung ist oft schneller als die Regulierung. Deshalb agieren Unternehmen heute teilweise in Graubereichen und müssen sich selbst klare Prinzipien geben.“

Hybride Intelligenz:

Echte Partnerschaft oder nur ein netter Begriff für menschliche Kontrolle?

KI ist zunächst ein Werkzeug

„Der entscheidende Unterschied liegt darin, wie gut Menschen damit arbeiten können. Erfolgreich werden nicht diejenigen sein, die KI einfach nur nutzen, sondern diejenigen, die sie sinnvoll, kritisch und effizient in ihre Entscheidungen integrieren.“

Daten und Selbstbestimmung:

Nutzer informiert oder im Dunkeln gelassen?

Die zentrale Frage ist: Wie werden Daten genutzt?

„In der Debatte wird oft vergessen, dass Daten auch Leben retten können — etwa in Medizin, Forschung oder Prävention. Wer von KI profitieren möchte, muss auch darüber sprechen, welche Daten dafür notwendig sind. Die zentrale Frage ist nicht nur, ob Daten genutzt werden, sondern wie: transparent, sicher, zweckgebunden und fair.“

Vertrauen in KI-Systeme:

Erlernt oder verdient?

Beides

„Vertrauen entsteht durch Erfahrung, aber es muss auch verdient werden. Unsere Studien zeigen, dass Menschen KI-Systemen nach Fehlern durchaus wieder vertrauen können, wenn sie verstehen, was passiert ist und wo die Grenzen liegen. Wir lernen sehr schnell, was ein System kann — und wo Vorsicht geboten ist.“

Customer Centricity:

Echte Haltung oder Marketingversprechen?

Im besten Fall ist es eine echte Haltung

„Gerade in einer Welt, in der KI das Bauen neuer Apps, Kampagnen oder Services immer einfacher macht, wird Kundenverständnis zum entscheidenden Differenzierungsfaktor. Die Frage ist nicht mehr nur: Können wir das bauen? Sondern: Verstehen wir wirklich, was wir bauen sollten?“

Forschung und Praxis:

Erkenntnisse produzieren oder Veränderung anstoßen?

Beides gehört zusammen

„Forschung sollte nicht nur Erkenntnisse produzieren, sondern auch helfen, bessere Entscheidungen zu treffen. Sie kann Risiken sichtbar machen, Möglichkeiten aufzeigen und damit Veränderung in Wirtschaft und Gesellschaft anstoßen.“

Fortschritt messen:

Technische Performance oder menschliches Wohlbefinden?

Das muss Gesellschaft immer wieder neu definieren

„Lange haben wir Fortschritt vor allem über technische Leistung und wirtschaftliche Kennzahlen wie das BIP gemessen. Heute werden andere Zielgrößen wichtiger: Lebensqualität, Wohlbefinden, Nachhaltigkeit und gesellschaftlicher Nutzen. Ich glaube, diese Perspektive wird in Zukunft deutlich stärker werden."

Titelbild: © Dr. Anne Scherer

Teile den Artikel: 

Weitere Artikel

8. Juni 2026

Betrug, Bezahlpräferenzen – und warum gutes Risikomanagement kein Kostenfaktor, sondern ein USP ist

14. April 2026

Skalierung, Orchestrierung – und warum KI erst im Betrieb ihren echten Wert zeigt

9. April 2026

Verantwortung, Reflexion – und warum Technologie unseren Werten folgen muss

7. April 2026

Vertrieb, Erlebnisqualität – und warum Beziehungen wichtiger werden als Prozesse

25. März 2026

Automotive, Systeme, Kundensicht – und warum Einfachheit der Schlüssel ist

23. März 2026

Leitplanken, Lernen, Verantwortung – und warum KI nur mit Haltung skalieren kann

Showing Slide 1 of 7
CloseMenu

Bleib auf dem Laufenden mit unseren Network News

Ich stimme zu, dass meine personenbezogenen Daten genutzt werden, um werbliche E-Mails zu erhalten, und weiß, dass ich dies jederzeit widerrufen kann.

Für den Versand unserer Newsletter nutzen wir rapidmail. Mit Ihrer Anmeldung stimmen Sie zu, dass die eingegebenen Daten an rapidmail übermittelt werden. Beachten Sie bitte auch die AGB und Datenschutzbestimmungen .

Newsletter abonnieren