Was menschliche von Künstlicher Intelligenz unterscheidet und warum das erhebliche Konsequenzen hat, erklärt Richard David Precht beim Customer Focus Summit #6.

Das Ich und seine acht Instrumente

Richard David Precht, Philosoph und einer der bekanntesten deutschen Zukunftsdenker, beginnt seinen Vortrag beim Customer Focus Summit #6 mit einer unerwarteten Frage: Was ist eigentlich das menschliche Ich? Nicht als philosophische Spielerei, sondern als Schlüssel zum Verständnis dessen, was KI kann und was nicht. Neurowissenschaftler beschreiben das Ich als ein Zusammenspiel von acht verschiedenen Ich-Zuständen, die das Gehirn generiert, von der körperlichen Verortung im Raum bis hin zu komplexen Bewusstseinszuständen. Zusammen ergeben sie eine Melodie, die wir Ich nennen.

KI hat davon nichts. Und das, so Precht, hat sehr erhebliche Konsequenzen für alle Folgefragen: für die Zukunft der Arbeit, für die Frage der Verantwortung und für die Illusion, Maschinen ließen sich menschlich programmieren.

Das Trolley-Dilemma und seine Grenzen

Um das zu illustrieren, greift Precht auf das berühmte Trolley-Dilemma zurück und fügt eine eigene Variante hinzu. Was passiert, wenn der eine Mensch auf dem Nebengleis das eigene Kind ist? Wer dann noch utilitaristisch rechnet, fünf gegen eins, bei dem stimme, so Precht trocken, etwas in der ventromedialen Region des Schläfenlappens nicht.

Der Punkt dahinter ist ernst: Menschliche Moral funktioniert nicht gerechtigkeitstheoretisch, sondern biologisch und emotional. Instinkte, Bindungen und körperliche Empfindungen spielen die Hauptrolle. Genau das lässt sich nicht programmieren. Was entsteht, wenn man es dennoch versucht, ist keine menschliche Ethik, sondern eine moralanaloge, im Wortsinn unmenschliche.

Warum das für KI im Unternehmenskontext zählt

Die Konsequenz für den Alltag ist klar: Wer KI Entscheidungen treffen lässt, die moralische Abwägungen erfordern, überträgt keine menschliche Urteilskraft, sondern eine andere Logik. Das ist kein Argument gegen KI, sondern ein Argument für Klarheit darüber, wo menschliche Verantwortung nicht delegiert werden kann.

Hinweis: Dieser Beitrag zeigt einen Ausschnitt aus dem Vortrag von Richard David Precht beim Customer Focus Summit #6. Ein weiterer Teil seiner Gedanken ist in der abschließenden Podiumsdiskussion zu erleben.