15

Kapitel 1 – Digitalisierung: Emergente Risiken

Figure ambigue – Max Ernsts surrealistischer (Alb-)Traum aus der Zeit unmittelbar nach dem Ende des Ersten Weltkriegs scheint heute Realität zu werden. In dem 1919 entstandenen Kunstwerk – abgebildet ganz zu Anfang dieses Buchs – versucht Ernst offenbar, den exzessiven Ambivalenzen der modernen Technik Ausdruck zu verleihen. Als einer der Protagonisten des Dadaismus und Surrealismus war er fasziniert von der Dynamik der Maschinenutopie und zugleich abgestoßen von ihren inhumanen Folgen. Auf dem rechten Bildteil findet sich eine leichte, fröhliche Stimmung, die die genialen Erfindungen der modernen Wissenschaft symbolisieren dürfte. Buchstaben sind in komplexen Anordnungen miteinander verschlungen und scheinen sich zunächst in seltsame Maschinen zu transformieren. Nach Ralph Ubls Interpretation verwandeln sich bei Ernst solche Figuren durch Metamorphose oder Verdopplung ihrer Identität dann wiederum in menschliche Körper, die zu springen, zu tanzen und zu fliegen scheinen. Diese homines ex machina »vollführen [...] geradezu einen Triumph der Mobilität: Rotation, Verdoppelung, Verschiebung, Spiegelung und optische Täuschung«.[1] 

Ganz anders ist die Atmosphäre auf dem linken Teil des Bildes. Die Symbole verändern ihre Farbe ins Düstere, wirken nun brutal und bedrohlich. In der linken oberen Ecke wirft eine schwarze Sonne, die ihrerseits aus seltsamen Symbolen zusammengesetzt ist, aus ihrem unheimlichen Antlitz heraus ein dunkles Licht über die Welt. Mit diesem und vielen anderen Bildern drückte Ernst unmittelbar nach dem Ersten Weltkrieg seine gespaltene Haltung zur modernen perfekten Maschinenwelt aus, deren heitere Logik, Rationalität und Ästhetik ins Absurde, Irrationale und Brutale umzuschlagen droht.[2]  Ernst suchte

nach Wegen, gesellschaftliche Mechanismen und Wahrheiten zu registrieren und auch deren tieferliegende Strukturen »einzufangen« oder bildlich zu 16verdeutlichen. Hier geht es wahrscheinlich im Kern um das Ertasten eines gesellschaftlichen Unbewussten im historischen Moment, in dem das totalitäre Potenzial der Technik als gesellschaftlichem Motor erahnbar wird.[3] 

Ernsts surrealistischer (Alb-)Traum scheint wie gesagt heute zur Realität zu werden. Autonome Algorithmen sind die emblematischen, mehrdeutigen Figuren unserer Zeit, die als rätselhafte autonome künstliche Intelligenz die Ambivalenz der Automaten noch radikalisieren. Wie die Buchstaben in Ernsts Bild sind Algorithmen auf den ersten Blick nichts als unschuldige Symbolverkettungen. Aber in ihrer Metamorphose in elektronische Impulse beginnen auch die Algorithmen zu leben, zu springen, zu tanzen, zu fliegen. Mehr noch: Sie bringen mit künstlicher Intelligenz eine neue Sinndimension in die Welt. Ihre creatio ex nihilo verspricht eine bessere Zukunft für die Menschen. Selbstlernende Algorithmen, Big Data und generative Künstliche Intelligenz (etwa ChatGPT) nähren die Hoffnung auf algorithmische Kreativität, welche die kognitiven Fähigkeiten des menschlichen Geistes immens zu erweitern verspricht.

Doch ist dies nur die helle Seite ihrer exzessiven Ambivalenz. Es gibt eine bedrohliche dunkle Seite der schönen neuen Welt der Algorithmen. Nach der ersten Phase der Euphorie werden Algorithmen heute häufig als albtraumhafte Monster wahrgenommen. Nick Bostrom beschwört eine »perverse Instantiierung«, die entsteht, wenn intelligente Maschinen menschlicher Kontrolle entgleiten: Schon ein einzelner Algorithmus, der mit äußerster Effizienz das ihm von Menschen gesetzte Ziel verfolgt, ist in der Lage, in der Mittelwahl die menschlichen Intentionen zu pervertieren.[4]  Darüber hinaus entsteht eine seltsame Hybridität, wenn Menschen und Algorithmen nicht nur miteinander kommunizieren, sondern sich zu neuartigen Kollektivakteuren, zu Quasi-Organisationen mit ungeahnten, potenziell schädlichen Eigenschaften zusammenschließen.[5]  Schließlich entsteht eine besonders bedrohliche Situation, wie es Ernsts schwarze Sonne symbolisieren könnte, wenn Menschen einer undurchsichtigen Umwelt algorithmischer Vernetzung ausgesetzt sind, die für sie unkontrollierbar bleibt.[6] 

17Wie geht das heutige Recht mit dieser Ambivalenz von Algorithmen um? Dieser Frage gehen wir am Beispiel der Haftung für algorithmisches Versagen nach. Das Recht spiegelt durchaus die Ambivalenz der Algorithmenwelt wider. Auf ihrer hellen Seite behandelt das Recht Algorithmen als willkommene Instrumente, die in den Dienst menschlicher Bedürfnisse gestellt werden. Der Versuchung, angesichts ihrer beträchtlichen Schädigungsrisiken autonome Algorithmen einfach zu verbieten, hat es bisher erfolgreich widerstanden. Im Gegenteil, das Privatrecht stärkt sogar die Macht der Algorithmen, indem es ihnen eine quasi magische »potestas vicaria«[7]  verleiht, sodass sie als autonome Agenten Verträge mit Dritten mit zugleich bindender Kraft für ihre Prinzipale abschließen und eigenständig durchführen können. Auf ihre Schattenseite jedoch reagiert das bis heute geltende Recht nur defizitär. Das aktuelle Haftungsrecht ist nicht darauf vorbereitet, die neuen Gefahren autonomer Algorithmen zu identifizieren, geschweige denn ihnen zu begegnen. Der weit überwiegende Teil der rechtswissenschaftlichen Literatur behandelt autonome Algorithmen mit kaum zu überbietender Schlichtheit als mechanische Werkzeuge, Maschinen, Objekte oder Produkte. Wenn sie Schäden verursachen, verlässt man sich darauf, dass das geltende Recht, besonders das Recht der Produkthaftung, die angemessenen Reaktionen schon bereithalte.

Doch das ist zu einfach gedacht. Im Vergleich zu den vertrauten Situationen der Produkthaftung steigert sich das Ausmaß potenzieller Schäden, sobald das Produkt eine neue Qualität aufweist – Intelligenz.[8]  Genau an dieser Stelle reißen aber die neuen Verantwortungslücken auf.[9]  Die figures ambigues, die in die Räume 18des Privatrechts eindringen, sind nicht einfach Objekte, sondern autonome Quasi-Subjekte – generative KI (etwa ChatGPT), Hochgeschwindigkeits-Handelsalgorithmen, Roboter, Softwareagenten, Cyborgs, Hybride, Computernetzwerke. Einige davon sind mit einem hohen Maß an Autonomie und der Fähigkeit zu lernen ausgestattet. Mit ihrer rastlosen Energie erzeugen sie bisher unbekannte Gefahren für Mensch und Gesellschaft. Auf diese jedoch ist das Privatrecht, auch das Recht der Produkthaftung, nicht vorbereitet.

So absurd es klingt: Wenn autonom agierende Algorithmen Fehlentscheidungen treffen und Schäden verursachen, kann, sofern den beteiligten Menschen kein Fehlverhalten vorzuwerfen ist, nach dem zurzeit geltenden Recht niemand verantwortlich und haftbar gemacht werden! Dieser verblüffende Befund ist auf die traditionellen Zurechnungstechniken des Privatrechts zurückzuführen, die das Computerverhalten stets als Verhalten der dahinterstehenden Menschen ausgeben müssen. Für den Fall, dass intelligente Maschinen selbst folgenreiche Entscheidungen treffen, hat das Recht keine Begriffe entwickelt. Softwareagenten können rechtlich nur als bloße Maschinen, als willige Werkzeuge in den Händen ihrer menschlichen Herren, behandelt werden.[10]  Für reines Maschinenversagen aber wird, wenn den beteiligten Menschen keine Pflichtverletzung nachzuweisen ist, nach geltendem Recht nicht gehaftet.[11]  Das gilt auch für das Versagen von Algorithmen: »Soweit dem Unternehmen kein eigenes Auswahl-, Wartungs- und Überwachungsverschulden nachgewiesen werden kann, haftet für Fehlfunktionen des digitalen Systems – niemand.«[12] 

Autonome Algorithmen jedoch wollen sich den jeweiligen strikten Alternativen von Mensch oder Maschine, Subjekt oder Objekt, Person oder Sache nicht...