Wie funktioniert eigentlich KI? (eBook)

2.7    Schlechte Nachrichten …

• The Conversation, 23. Mai 2023: »Ist generative KI schlecht für die Umwelt?«

  Im Jahr 2019 stellten Forschende fest, dass die Erstellung einer generativen KI [also eines Modells, das komplexe Ausgaben wie Bilder, Sätze oder Musik erzeugt] namens BERT mit 110 Millionen trainierbaren Parametern den Energieverbrauch eines transkontinentalen Hin- und Rückflugs für eine Person hatte.

  Die Anzahl der Parameter gibt dabei die Größe des Modells an, wobei größere Modelle natürlich leistungsfähiger sind. Forschende schätzten, dass die Erstellung des wesentlich größeren GPT-3, das 175 Milliarden Parameter hat, 1.287 Megawattstunden Strom verbrauchte und 552 Tonnen Kohlendioxidäquivalent erzeugte – umgerechnet ist das der Jahres-CO2-Verbrauch von 123 Pkws. Und das nur in der Entwicklungsphase, bevor das Modell überhaupt zum Einsatz kam.

  Bevor wir also darüber nachdenken können, welche apokalyptischen Szenarien zukünftig durch die KI verursacht werden könnten, müssen wir uns mit den Umweltfolgen auseinandersetzen, die schon die Entwicklung einer KI mit besten Absichten mit sich bringt. Strom- und (Kühl-)Wasserverbrauch sind für diese Modelle immens.

• The Red Hand Files, Januar 2023: »Ich habe ChatGPT einen Song im Stil von Nick Cave schreiben lassen. Wie findest du es?«

  Erste Strophe:

  In the depths of the night, I hear a call

  A voice that echoes, through the hall

  It’s a siren’s song, that pulls me in

  Takes me to a place, where I can’t begin

  Refrain:

  I am the sinner, I am the saint

  I am the darkness, I am the light

  I am the hunter, I am the prey

  I am the devil, I am the savior

  Zweite Strophe:

  I walk the streets, with my head held high

  I’ve got my demons, but I’ll make them fly

  I’ll dance with the devil, and I’ll play his game

  I'll be the one, to call his name

  …

  Und Nick Cave antwortet prompt:

  Lieber Mark,

  Seit der Einführung von ChatGPT im letzten Jahr haben mir viele Menschen, die meisten irgendwie von einer Art algorithmischer Ehrfurcht erfüllt, Songs »im Stil von Nick Cave« geschickt, die damit erstellt wurden. Es waren wirklich Dutzende Nachrichten. Ich teile die Begeisterung für diese Technologie überhaupt nicht. Klar, ChatGPT steckt noch in den Kinderschuhen, aber vielleicht ist genau das auch das Schlimmste an der KI – dass sie einfach für immer in ihren Kinderschuhen stecken und nie ganz fertig sein wird, in einer ewigen Vorwärtsbewegung gefangen, immer schneller. Sie kann nie innehalten, langsamer werden oder einen Schritt zurück machen. Wir bewegen uns potenziell auf eine utopische Zukunft zu – oder auf unsere völlige Zerstörung. Kann man halt nicht so genau sagen.

  Wenn ich mir allerdings diesen Song »im Stil von Nick Cave« ansehe, sieht es ziemlich mies aus, Mark. Da sehe ich die Apokalypse direkt vor der Tür stehen. Dieser Song ist einfach nur unfassbar schlecht geschrieben …

  Songs entstehen aus emotionalem Leid heraus – sie basieren auf dem vielschichtigen inneren Bedürfnis des Menschen, Dinge zu erschaffen. Soweit ich weiß, haben Algorithmen keine Emotionen. Daten kennen kein Leid. ChatGPT hat kein inneres Bedürfnis, muss nichts ertragen, konnte keine Erfahrungen in dieser Welt machen und wird nie spüren, wie fantastisch es sich anfühlt, die eigenen Grenzen der Wahrnehmung immer wieder neu auszuloten. Es hat keine Grenzen, die es überschreiten könnte. Die herzzerreißend traurige Bestimmung von ChatGPT ist es, für immer nur zu imitieren und niemals eine authentisch menschliche Erfahrung zu machen.

  Mark, danke für den Song, aber bei allem Respekt und aller Liebe auf der Welt, er ist echt *******, eine groteske Beleidigung demgegenüber, was es bedeutet, Mensch zu sein. Wie du vielleicht siehst, bin ich echt kein Fan – wobei, Moment! Wenn ich den Song jetzt noch mal so lese, gibt es doch eine Zeile, die mich anspricht.

  »I’ve got the fire of hell in my eyes«

  steht da in diesem Song »im Stil von Nick Cave«, und das ist irgendwie wahr. Ich habe Höllenfeuer in meinen Augen – es ist ChatGPT.

  Liebe Grüße,

  Nick
  

• The Guardian, 24. Mai 2023: »Neuseelands Nationalpartei gibt zu, künstliche Intelligenz zur Erzeugung von Videomaterial in Attack Ads verwendet zu haben«

  Die Nationalpartei Neuseelands hat zugegeben, künstliche Intelligenz zur Erzeugung von Videomaterial in ihren Attack Ads gegen ihre politische Konkurrenz verwendet zu haben.

  Die Videos enthielten Bilder einer Gruppe von Kriminellen, die einen Juwelierladen stürmt, von zwei Pflegefachkräften und von einem mutmaßlichen Verbrechensopfer. Ein Video der Kampagne zeigte sogar die Besetzung der Fast-and-Furious-Verfilmung.

  Die Videos, auf denen beispielsweise eine Frau mit riesigen Augen, zwei Pflegekräfte mit seltsam wachsartiger Haut und Kriminelle mit merkwürdig geformten Sturmhauben zu sehen sind, erregten schnell den Verdacht, KI-generiert zu sein.

  An dieser Geschichte ist erst mal nichts Illegales. Und man muss den Parteimitgliedern zugutehalten, dass sie ziemlich schnell zugegeben haben, KI verwendet zu haben. Allerdings ist das erst der Anfang vom Ende …

• The Guardian, 6. April 2023: »ChatGPT erfindet gefälschte Guardian-Artikel«

  Letzten Monat erhielt ein Kollege aus unserem Redaktionsteam eine interessante E-Mail. Eine Forscherin war auf die Erwähnung eines Guardian-Artikels gestoßen, der vor einigen Jahren vom besagten Kollegen geschrieben worden war. Aber der Artikel war auf unserer Website und in der Suche nicht aufzufinden. War der Titel vielleicht seit der Veröffentlichung geändert worden? … Der Redakteur konnte sich nicht daran erinnern, den Artikel überhaupt geschrieben zu haben, aber die Überschrift klang sehr nach ihm. Es ging um ein Thema, mit dem er sich sehr identifizierte und zu dem er auch schon öfter geschrieben hatte. Dennoch fand sich im Archiv keine Spur von dem Artikel. Warum? Weil er nie geschrieben worden war.

  Glücklicherweise hatte uns die Forscherin mitgeteilt, dass sie ihre Recherche mit ChatGPT durchgeführt hatte. Auf die Frage nach Artikeln zum gesuchten Thema hatte die KI einfach einige erfunden. Die Sprachgewandtheit der KI und die riesige Menge an Trainingsdaten, die sie verarbeitet, ließen sogar einen Redakteur in seinem Fundus nach einem Artikel suchen, den er überhaupt nicht geschrieben hatte.

  Es gibt also nicht nur Menschen, die die KI für zweifelhafte Zwecke verwenden – manchmal halluziniert künstliche Intelligenz auch einfach selbst falsche Nachrichten und Artikel, ohne sie zu kennzeichnen.

Und dann wäre da noch …

• Sky News, 23. Juni 2023: »Anwälte nutzten ChatGPT zur Unterstützung bei einem Fall – und landeten vor Gericht«

  Zwei New Yorker Anwälte wurden mit einer Geldstrafe belegt, nachdem sie einen Rechtsbrief mit gefälschten Fallzitaten eingereicht hatten, die von ChatGPT generiert wurden.

  Steven Schwartz von der Anwaltskanzlei Levidow, Levidow & Oberman gab zu, den Chatbot zur Recherche in einem Fall eines Kanzleiklienten gegen die Fluggesellschaft Avianca verwendet zu haben.

  Er hatte ihn benutzt, um rechtliche Präzedenzfälle zu finden, die seine Position hätten stützen können, aber die Anwälte, die die kolumbianische Fluggesellschaft juristisch vertraten, teilten dem Gericht mit, dass sie einige der zitierten Beispiele nicht finden konnten – verständlich, denn sie waren fast vollständig erfunden.

  Einige der Präzedenzfälle waren komplett gefälscht, während andere falsche oder nicht existierende Richter*innen zitierten oder Fluggesellschaften als Beteiligte nannten, die es nie gab.

  Bezirksrichter Peter Kevin Castel sagte, Schwartz und sein Kollege Peter LoDuca, der an Schwartz’ Zusammenfassung falscher Quellen ebenfalls beteiligt war, hätten in böser Absicht gehandelt und »bewusst Themen vermieden und falsche und irreführende Aussagen vor Gericht« gemacht.

  Teile des Briefs waren »grober Unsinn« und enthielten »Kauderwelsch« sowie gefälschte Zitate, fügte der Richter hinzu.

  Ich kann mir ja wirklich vorstellen, dass die KI irgendwann Anwält*innen ersetzt – aber da sind wir einfach noch lange nicht.