Künstliche Intelligenz (eBook)

Geleitwort von Hans Petter Dalen

Das Buch, das du jetzt in der Hand hältst, ist eines der wichtigsten und relevantesten Bücher, die du in diesem Jahr lesen wirst. Künstliche Intelligenz (hier ab jetzt KI abgekürzt) ist überall zu finden, in unseren Telefonen, in unserem Arbeitsleben und in unserer Freizeit – ganz unabhängig davon, ob du 17 oder 70 Jahre alt bist, ob du studierst, in Rente, angestellt, jemand in führender Position oder Politiker bist. Du kommst mehrere Male am Tag mit ihr in Kontakt, häufig, ohne dass du es selbst weißt, und wahrscheinlich, ohne dass du darüber nachdenkst, dass es für dich ein Risiko in sich birgt. Du bist in Kontakt mit KI, wenn du Facebook oder Instagram benutzt, wenn du etwas googelst, mit einem Chatbot sprichst und vielleicht auch, wenn deine Bank deine Kreditwürdigkeit einschätzt. Immer häufiger benutzen wir KI, auch bei der Behandlung von Krankheiten und der Medikamentenauswahl.

Dass KI mit einem Risiko verbunden sein kann und gleichzeitig von immer mehr Menschen in immer wieder neuen Bereichen benutzt wird, ist einer der Gründe dafür, dass die EU es als nötig angesehen hat, eine Regulierung einzuführen. Als dieses Buch das erste Mal herausgegeben wurde, hatte die EU die diesbezüglichen Gesetze noch nicht verabschiedet. Inzwischen hat sie das. Am 13. März 2024 beschloss die EU das erste umfassende KI-Gesetz der Welt, den sogenannten AI Act (Artificial Intelligence Act – Gesetz über künstliche Intelligenz oder auch kurz KI-Verordnung).

Die EU hat eine lange Tradition darin, Gesetze zu verabschieden, die ihre Bürger und Bürgerinnen beschützt. Deshalb hat die EU hier ein Gesetz entworfen, das Forderungen an private KI-Systeme wie auch an die öffentlicher Organisationen stellt, basierend auf den Risiken, die mit der Nutzung des Systems verbunden sind. Als pragmatischer Gesetzgeber, die sie ist, hat sie sich also dafür entschieden, nicht die Technologie selbst, sondern lieber deren Gebrauch zu regulieren.

Und genau deshalb ist dieses Buch so wichtig. Inga erzählt uns, wie hoch das Risiko ist, dem wir potenziell ausgesetzt sind, wenn wir KI benutzen. Ich hoffe, wir alle werden nach der Lektüre besser in der Lage sein, zu reflektieren, wie wir die Technologie benutzen und welchen möglichen Konsequenzen wir uns selbst aussetzen, bevor wir das tun. Reflexion erfordert Wissen, und dieses Buch ist essenziell für das Ziel, ein gemeinsames Verständnis für KI und das Risiko, das mit KI verbunden ist, zu schaffen.

Inga hat die einzigartige Fähigkeit, Wissen zu vermitteln, die dazu führt, dass sehr technische (und zeitweise knochentrockene) Themen spannend, interessant und bunt erscheinen. Ich selbst habe so einiges gelernt, als ich ihr Buch las, auch wenn ich mittlerweile bereits mehrere Jahre Erfahrung im Umgang mit KI habe.

Wie sieht also das Gesetz der EU aus und warum ist es so wichtig?

Das KI-Gesetz der EU ist eine Verordnung. Das bedeutet, dass alle Mitgliedsländer, der EWR eingeschlossen, es ohne nationale Anpassungen einführen sollen. Mit anderen Worten wird es einfach nur übersetzt, um dann in die nationale Gesetzgebung eingefügt zu werden.

Der Gesetzgebungsprozess der EU ist politisch und braucht viel Zeit. Der erste Entwurf für die KI-Gesetzgebung der EU lag bereits 2021 vor, lange bevor OpenAI die künstliche Intelligenz durch ChatGPT zum Allgemeinbesitz machte. Die letzte Verhandlungsrunde startete im Juni 2023, und ein halbes Jahr später kam es zu einer politischen Einigung. Das waren lange, schwierige Verhandlungen, besonders über die generative KI, in denen beispielsweise Frankreich lieber vorsichtig vorgehen wollte, wenn es darum ging, was reguliert werden sollte, um ihr kräftiges KI-System Mistral zu beschützen. Die EU hat sich wie gesagt dafür entschieden, den Gebrauch zu regulieren und nicht die Technologie. Vier Risikokategorien wurden eingeführt:

• verboten

• hohes Risiko

• mittleres Risiko

• niedriges/kein Risiko

Die allermeisten Nutzungsbereiche werden ein niedriges bzw. kein oder ein mittleres Risiko aufweisen, sodass die regulatorischen Forderungen nicht besonders hoch oder anspruchsvoll sind. Einige Forderungen wird es jedoch geben, beispielsweise sollen alle Angestellten in Betrieben und Organisationen, die mit KI arbeiten, eine Fortbildung absolvieren, was KI ist und welche Risiken mit ihr verbunden sind.

Viele Unternehmen haben Nutzungsbereiche in der Hochrisikokategorie. Das sind Bereiche, in denen die KI beispielsweise benutzt wird, um Lebensläufe zu lesen und Bewerber in Einstellungsprozessen zu empfehlen. Bei hohem Risiko gibt es eine Reihe regulatorischer Forderungen, nach denen wir uns richten müssen, um nicht das Gesetz zu brechen.

Verbotene Nutzungsbereiche sind zum Beispiel manipulative KI und Emotionserkennung. Zum momentanen Zeitpunkt ist nicht ganz klar, was die EU damit meint. So glauben beispielsweise die wenigsten, dass die EU plant, soziale Medien wie Instagram, Tinder oder Grindr zu verbieten, obwohl viele der Meinung sind, dass diese KI manipulativ benutzen.

Wirklich vollkommen neue juristische Verpflichtungen hat die EU eingeführt durch regulatorische Forderungen an die Entwickler und Lieferanten der großen Modelle, wie beispielsweise OpenAI mit GPT. So müssen sich in Zukunft alle an die Forderung nach Transparenz halten, was bedeutet, das Urheberrecht der EU zu respektieren, offenzulegen, mit welchen Daten ihre Modelle trainiert wurden, für aktualisierte technische Dokumentation zu sorgen und darauf zu achten, dass alle, die Applikationen wie Prompt-Modelle entwickeln, Zugang zu ihnen haben.

Diejenigen, die generative KI-Dienste liefern, müssen sich zu den vier Risikokategorien verhalten. Es kann möglicherweise schwierig sein, auszumachen, was jeweils in diese Kategorien eingeordnet wird. Deshalb benutze ich folgendes Beispiel, wenn ich das Risiko diskutiere.

Im November 2022 fand in Norwegen die Parlamentswahl (Stortingsvalg) statt, bei der sich 14 Parteien zur Wahl stellten. Snapchat hatte kurz zuvor seinen Dienst My AI lanciert. Viele Erstwählerinnen und Erstwähler benutzten ihn, um zu fragen, für welche Partei sie stimmen sollten, wenn sie sich beispielsweise für das staatliche Sozialwesen interessierten. Die Antworten, die sie bekamen, waren nicht besonders gut. Sie hatten Mängel, enthielten Bias, also Vorurteile, und waren in keiner Weise eine Information, auf die sich die Nutzer verlassen konnten. Laut EU-Gesetz ist das ein Nutzungsgebiet in der Hochrisikokategorie, und deshalb muss Snapchat in Zukunft entweder verhindern, dass die Nutzer My AI nach Politik fragen können, oder sie müssen sich an das Regelwerk der EU halten und an die Forderungen, die in diesem Zusammenhang gestellt werden (unter anderem, Bias zu vermeiden).

Für Unternehmensführungen habe ich gute Nachrichten: Im Gegensatz zu der Datenschutz-Grundverordnung (DSGVO) wird die KI-Verordnung der EU auf technische Standards gestützt sein. Diese beziehen sich auf spezifische Richtlinien oder Regeln, die angeben, wie KI-Technologien auf eine sichere und verantwortungsvolle Art entwickelt, eingebaut und benutzt werden. Kurz gesagt bilden technische Standards die Richtlinien, die dabei helfen, sicherzugehen, dass KI-Technologie in einer Art und Weise benutzt wird, die in Übereinstimmung mit den Gesetzen steht und die Rechte und die Sicherheit der Nutzer beschützt. Deshalb wird es billiger und schneller, die Forderungen aus den Gesetzen einzubauen.

Da Norwegen innerhalb der Organisationen repräsentiert ist, die diese Standards entwickeln, können wir auch bei dem Prozess ihrer Entwicklung mitreden. Auch wenn wir nicht bei den Beratungen über das Gesetz dabei waren, haben wir hier die Möglichkeit, Einfluss darauf zu nehmen, wie es interpretiert und durchgeführt werden soll.

Inga wie auch ich haben uns auf den 13. März 2024 gefreut, den Tag, an dem das EU-Parlament über die KI-Verordnung abstimmen sollte. Wenige Minuten nach 12 Uhr traf eine SMS von Inga bei mir ein.

»Was für ein Chaos. Ist die Abstimmung gelaufen?«

»Jepp. Es ist angenommen worden«, antwortete ich.

»Wtf. Ein bisschen mehr Zeremonie wäre nicht schlecht gewesen.«

»Das kommt schon noch, wenn sie sich selbst vor der Presse feiern«, erwiderte ich.

»Ach, ich freu mich«, sagte Inga.

Das Gesetz wurde ohne große Zeremonie verabschiedet, obwohl es doch so wichtig ist. Die KI-Verordnung der EU ist enorm wichtig. Sie beschützt uns als Nutzer. Sie sorgt dafür, dass unsere Rechte gewahrt werden. Sie stellt Forderungen an Unternehmen und Organisationen und sie sorgt dafür, dass wir alle mehr darüber wissen, was KI ist. Die EU ist ja nun auch kein unbedeutender Gesetzgeber, und Regulierungen aus der EU beeinflussen ganz global die Gesetzgebung.

Was nicht bedeutet, dass wir nicht aufpassen müssen. Unternehmen, die KI missbrauchen oder nicht die Risiken wahrnehmen, die mit ihrem Gebrauch verbunden sind, können uns immer noch schaden. Deshalb ist es so wichtig, dass wir als Nutzer verstehen, was KI ist, und über die Risiken nachdenken, die damit verbunden sind.

Ich persönlich bin ein großer Optimist, wenn es darum geht, was diese Technologie für uns tun kann, nicht zuletzt, weil wir auf einem...