Künstliche Intelligenz und Empathie. Vom Leben mit Emotionserkennung, Sexrobotern & Co. [Was bedeutet das alles?] (eBook)

Technische Herausforderungen und ethische Probleme

Die Versprechungen der Emotionserkennungsindustrie sind vollmundig. Automatische Emotionserkennung soll nicht nur dazu dienen, auf den emotionalen Zustand eines Individuums abgestimmte Werbung im Internet, in der Öffentlichkeit oder im Einzelhandel einzublenden. Sie soll potentielle Terroristen identifizieren, das Autofahren sicherer machen, Frustration im Klassenzimmer frühzeitig erkennen, die Wohnumgebung an die Stimmung anpassen, die Immersionserfahrung beim Computerspielen steigern, psychische Krankheiten erkennen und Menschen helfen, die bei der Emotionserkennung und -regulation Schwierigkeiten haben.

Doch es gibt auch zahlreiche Kritikpunkte an der automatischen Emotionserkennung. So gibt es Kritik an der Zuverlässigkeit der eingesetzten Verfahren.30 Die gesichtsbasierte Emotionserkennung tut sich nicht nur mit der Diversität schwer und unterliegt rassistischen Vorurteilen, sondern weist auch grundlegende Mängel bei der Identifikation psychischer Störungen wie Depression auf. Doch auch andere der vorgestellten Verfahren stehen in der Kritik. Ein weiteres zentrales Problem besteht in der Wahrung der Privatsphäre, denn die Emotionserkennung erhebt sensible Daten, von denen kaum jemand wollen kann, dass andere darüber verfügen. Viele mobile Anwendungen übertragen die Daten von den Geräten der Nutzer auf zentrale Server, wo sie gespeichert und ohne ihre Zustimmung weiterverwendet werden können. Selbst dann, wenn die Daten anonymisiert werden, könnte man es als Verstoß gegen die informationelle Selbstbestimmung werten, dass Nutzer über die Speicherung und Nutzung ihrer Daten häufig nicht Bescheid wissen.

Schnell könnten wir uns in einer ähnlichen Lage befinden wie die Insassen jenes Panopticons, das der britische Philosoph und Ökonom Jeremy Bentham im 18. Jahrhundert erdachte, um die Effizienz des Strafvollzugs zu steigern. In dieser Gefängniskonstruktion kann durch eine komplexe Architektur jeder Gefangene im Prinzip jederzeit von einem Wärter überwacht werden, ohne selbst wissen zu können, wann er Objekt der Überwachung ist. Auch wenn man nicht rund um die Uhr überwacht wird, reicht allein die Tatsache, dass man permanent überwacht werden könnte, als Maßnahme zur Disziplinierung der Gefangenen aus.

Der französische Philosoph Michel Foucault hat diesen Gedanken auf die moderne Gesellschaft übertragen.31 Er charakterisiert deren Institutionen wie etwa Schule, Arbeitsplatz oder Krankenhaus durch die ständige Möglichkeit, beobachtet zu werden. Das führe dazu, dass sich die permanent unter potentieller Beobachtung stehenden Individuen selbst disziplinieren und ihr Verhalten an die Normen der Gesellschaft anpassen. Die gesellschaftlichen Normen werden auf diese Weise verinnerlicht, und der Selbstzwang mache die tatsächliche Überwachung letztendlich sogar überflüssig.

Allein die Möglichkeit, beobachtet zu werden, führt deshalb dazu, dass man in seiner Selbstbestimmung eingeschränkt ist, wie das Bundesverfassungsgericht schon in seinem Urteil zur Volkszählung von 1983 feststellte. Doch ist dieses Urteil in der heutigen Zeit noch aktuell, in der viele Menschen durchaus bereit zu sein scheinen, auf informationelle Selbstbestimmung zu verzichten, um soziale Medien und andere Internetangebote nutzen zu können?

Hierauf lässt sich dreierlei erwidern. Erstens birgt auch der freiwillige Verzicht auf informationelle Selbstbestimmung Gefahren, weil dadurch nicht nur bestimmte Formen und Dimensionen selbstbestimmten und authentischen Lebens unmöglich gemacht oder zumindest eingeschränkt werden. Personen, die permanent beobachtbar und identifizierbar sind, verändern ihr Selbstverständnis grundlegend. Dadurch werden auch die Grundlagen der Demokratie in Frage gestellt, die eben auf dem Ideal beruhen, dass Subjekte nicht nur autonom sind, sondern sich dieser Autonomie auch bewusst sind und sie wertschätzen.32

Zweitens bedroht die emotionale künstliche Intelligenz nicht nur die Privatsphäre, sondern die Intimsphäre, also den Bereich unserer persönlichsten Gedanken und Gefühle, einschließlich unseres Sexuallebens, die uns als Personen ganz grundlegend ausmachen. Der Zugriff auf diesen Bereich gefährdet die Selbstbestimmung auf eine ganz neue Art und in einem bisher nicht gekannten Umfang. Schließlich werden drittens diese intimen Informationen nicht nur erhoben, sondern auch zur Beeinflussung des Verhaltens genutzt. Es geht also letztlich um die Manipulation von Emotionen. Dem Einsatzbereich emotionaler künstlicher Intelligenz sind dabei keine Grenzen gesetzt, wie die folgende Liste belegt, ohne Anspruch auf Vollständigkeit zu erheben.33