Praxishandbuch KI und Recht (eBook)

Carsten Ulbricht Dr. Carsten Ulbricht ist Rechtsanwalt bei der Stuttgarter Kanzlei Menold Bezler mit den Schwerpunkten Internet- und IT-Recht sowie Datenschutz. Er berät nationale und internationale Mandanten in allen Rechtsfragen des E- und Mobile Commerce, Big Data sowie zu allen Themen im Bereich Social Media. Seine Schwerpunkte liegen dabei auf der rechtlichen Prüfung internetbasierter Geschäftsmodelle, der Digitalisierung von Prozessen und Produkten und datenschutzrechtlichen Themen. Neben seiner Referententätigkeit betreibt er den Blog rechtzweinull.de mit Themen zu Internet, Social Media & Recht. Danilo Brajovic Danilo Brajovic ist wissenschaftlicher Mitarbeiter am Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA in der Abteilung Cyber-Cognitive Intelligence (CCI) und befasst sich mit der Zuverlässigkeit von KI Systemen in industriellen Anwendungen. Er berät Unternehmen, wie sie KI-Systeme sicher und rechtskonform einsetzen können. Das Studium an der Universität Tübingen hat er mit Masterabschlüssen in Informatik und Kognitionswissenschaften abgeschlossen und währenddessen mehrere Jahre bei der Bosch GmbH und der Daimler AG sowie am Max-Planck-Institut für intelligente Systeme an Themen rund um Künstliche Intelligenz gearbeitet. Torsten Duhme Dr. Torsten Duhme ist Patentanwalt, zugelassener Vertreter vor dem Europäischen Patentamt und dem Einheitspatentgericht (Unified Patent Court) sowie Partner bei der Stuttgarter Patentanwaltskanzlei WITTEWELLER. Er besitzt einen Abschluss als Diplomingenieur der Elektrotechnik mit Schwerpunkt Nachrichten- und Informationstechnik. Im Rahmen seiner Tätigkeit hat Dr. Duhme mehr als 800 Patentanmeldeverfahren und mehr als 100 Patentstreitverfahren für nationale und internationale Mandanten geführt. Jessica Hawighorst Jessica Hawighorst ist Rechtsanwältin im IT- und Internetrecht bei der Stuttgarter Kanzlei Menold Bezler. Sie hat in Tübingen und Oslo studiert und promoviert seit 2022 nebenberuflich zum Thema KI und Recht. Ihre Schwerpunkte liegen auf der Gestaltung komplexer Verträge im IT-Umfeld, insbesondere der Begleitung von Softwareeinführungs- und Outsourcing-Projekten von Unternehmen, sowie der rechtlichen Beratung rund um die Regulierung und den Einsatz von KI-Systemen. Marco F. Huber Prof. Marco Huber ist promovierter Informatiker. Von 2015 bis 2018 verantwortete er die Produktentwicklung und die Data-Science-Dienstleistungen des Bereichs Katana bei der USU Software AG in Karlsruhe. Zugleich lehrte er als Privatdozent für Informatik am Karlsruher Institut für Technologie (KIT). Seit 2018 ist er Inhaber der Professur für kognitive Produktionssysteme an der Universität Stuttgart. Er leitet zudem die Abteilungen Bild- und Signalverarbeitung sowie die Abteilung Cyber Cognitive Intelligence (CCI) am Fraunhofer-Institut für Produktionstechnik und Automatisierung IPA in Stuttgart. Varinia Iber Varinia Iber ist Rechtsanwältin im Bereich IT- und Datenschutzrecht bei der Stuttgarter Kanzlei Menold Bezler. Sie ist Fachanwältin für Informationstechnologierecht und berät nationale und internationale Unternehmen in allen Belangen des IT-Rechts. Ihre Expertise liegt insbesondere in der Gestaltung und Verhandlung von IT-Verträgen, wie Softwarelizenzverträge, IT-Projektverträge, AGB/Nutzungsbedingungen sowie Datenschutzvereinbarungen. Ein besonderer Fokus liegt auf der rechtlichen Begleitung bei der Digitalisierung und Einführung von digitalen Lösungen. Carolin Nemec Carolin Nemec ist Rechtsanwältin im Bereich IT- und Datenschutzrecht sowie gewerblicher Rechtschutz in der Stuttgarter Kanzlei Menold Bezler. Sie hat am University College Cork einen zusätzlichen Master "LL.M. Intellectual Property and E-Law" erworben. Im Rahmen ihrer anwaltlichen Tätigkeit berät Carolin Nemec im Datenschutz, in Digitalisierungsprojekten sowie im Bereich des Urheber- und Wettbewerbsrechts. Sie ist Lehrbeauftragte an der Hochschule der Medien Stuttgart.

Cover 1
Urheberrecht 2
Inhaltsverzeichnis 9
myBook+ 3
_Hlk174351025 19
_Ref162180907 25
_Hlk173820040 38
_Ref167527706 41
_Ref168243449 42
_Ref173171309 42
_Ref173188716 42
_Ref173250343 42
_Ref173188721 44
_Ref173188392 45
_Ref173190165 48
_Ref173190825 49
_Ref173190781 49
_Ref173252350 49
_Ref173279382 52
_Ref173190865 55
_Ref173328637 56
_Hlk174356897 56
_Ref174302489 57
_Hlk174302503 57
_Ref173279499 59
_Ref173317928 61
_Ref173320549 64
_Ref173276469 64
_Ref173252368 66
_Ref167526700 67
_Ref173279355 67
_Ref173279562 67
_Ref173279473 69
_Hlk173338063 96
_Hlk173338113 96
_Hlk173341459 96
_Hlk169943078 141
_Hlk169946863 141
_Hlk169947850 146
_Hlk169964778 150
_Hlk164332532 179
_Hlk173942593 188
Y-300-Z-RDI-B-2021-S-588-N-1-RN-18 208
_Hlk171745564 209
_Hlk172567412 209
_Hlk174954196 22
_Hlk173320294 56
_Hlk173186777 59
_Hlk173400786 118
_Hlk169967312 148
myBook+ 274
Vorwort 17
1?Einführung: KI und die wichtigsten damit zusammenhängenden Begriffe und Probleme 19
Danilo Brajovic und Marco Huber 19
1.1?Eine kurze Geschichte der KI 19
1.2?Die wichtigsten Begriffe im Zusammenhang mit KI 21
1.2.1?Künstliche Intelligenz 21
1.2.2?Maschinelles Lernen 22
1.2.2.1?Training 23
1.2.2.2?Generalisierung 24
1.2.2.3?Over- und Underfitting 24
1.2.2.4?Entscheidungsbäume und Regelbasierte Systeme 24
1.2.2.5?Deep Learning und neuronale Netze 25
1.2.2.6?Transformer 26
1.2.2.7?Reinforcement Learning from Human Feedback (RLHF) 27
1.2.3?Natural Language Processing (NLP) 27
1.2.4?Large Language Models (LLMs) 27
1.2.5?Generative KI 28
1.2.6?General Purpose AI (GPAI) 28
1.2.7?Foundation-Modelle 29
1.2.8?FLOPS 29
1.3?Daten 29
1.3.1?Trainingsdaten 29
1.3.2?Testdaten 30
1.3.3?Validierungsdaten 30
1.3.4?ImageNet 31
1.3.5?Common Crawl 31
1.4?Weitere Probleme im Zusammenhang mit KI 31
1.4.1?Erklärbarkeit 32
1.4.2?Unsicherheit 33
1.4.3?Privacy 34
1.4.4?Data Poisoning 34
1.4.5?Robustheit 35
1.4.6?Fairness 36
1.4.7?Concept Drift und kontinuierlich lernende Systeme 37
1.4.8?Deep Fakes und Wasserzeichen 37
Die Autoren 39
2?Urheberrecht 41
Carolin Nemec 41
2.1?Grundlagen des Urheberrechts 41
2.1.1?Anwendbares Recht 41
2.1.2?Schutzfähige Werke 42
2.1.2.1?Arten von Werken 43
2.1.2.2?Persönlich geistige Schöpfung 44
2.1.2.3?Daten, Datenbanken und Datenbankwerke 45
2.1.3?Urhebereigenschaft 47
2.1.4?Rechte des Urhebers 48
2.1.4.1?Urheberpersönlichkeitsrechte 48
2.1.4.2?Verwertungsrechte 48
2.1.4.3?Bearbeitung 49
2.1.5?Gemeinfreie Werke 50
2.1.5.1?Zeitliche Begrenzung des Urheberrechtsschutzes 51
2.1.5.2?Amtliche Werke 51
2.1.6?Ausnahme bei Privatgebrauch 51
2.1.7?Übertragung von Nutzungsrechten 52
2.1.7.1?Einfaches Nutzungsrecht 52
2.1.7.2?Ausschließliches Nutzungsrecht 52
2.1.7.3?Beschränkungen 52
2.1.7.4?Unbekannte Nutzungsarten 53
2.1.7.5?Nutzung durch KI-System als eigene Nutzungsart? 54
2.1.7.6?Vertragliche Gestaltung 54
2.1.7.7?Vergütung 55
2.1.8?Rechtsfolgen von Urheberrechtsverletzungen 55
2.2?Schutzrechte an KI-Systemen 56
2.2.1?Untrainiertes KI-System 56
2.2.2?Trainiertes KI-System 57
2.2.2.1?Schutzfähigkeit des trainierten KI-Systems (neuronales Netz) 57
2.2.2.2?Schutzfähigkeit des Trainingsergebnisses (neuronales Netz) 58
2.3?Urheberrechtliche Einordnung von Trainingeines KI-Systems 59
2.3.1?Text und Data Mining 60
2.3.1.1?Rechtmäßig zugängliche Werke 61
2.3.1.2?Kein Nutzungsvorbehalt 61
2.3.1.3?Löschung 62
2.3.2?Vorübergehende Vervielfältigungshandlungen 63
2.3.3?Text und Data Mining für wissenschaftliche Forschung 63
2.4?Urheberrechtliche Einordnung von Input in ein KI-System 64
2.4.1?Schutzfähigkeit von Prompts 64
2.4.2?Verletzung von Urheberrechten durch Input 65
2.4.2.1?Upload von Werken 65
2.4.2.2?Prompts 66
2.5?Urheberrechtliche Einordnung von Outputeines KI-Systems 67
2.5.1?Schutzfähigkeit des Outputs 67
2.5.2?Verletzung von Urheberrechten durch Output 69
2.5.2.1?Vervielfältigung von Werken durch KI-Systeme 69
2.5.2.2?Öffentliche Zugänglichmachung 71
2.5.2.3?Bearbeitung 71
2.5.3?Transparenz-/Kennzeichnungspflichten 71
2.6?Besonderheiten bei Open Source Software 72
2.6.1?Lizenzarten 72
2.6.2?Open Source Software in den Trainingsdaten 73
2.6.3?Open Source Software im Input 73
2.6.4?Open Source Software im Output 74
2.6.5?Einsatz von Open-Source-KI-Systemen 75
2.7?Vertragsgestaltung im urheberrechtlichen Kontext 75
2.7.1?Auftraggeberperspektive 75
2.7.2?Auftragnehmerperspektive 76
2.8?Urheberrechts-Compliance im Unternehmen 77
2.9?Zusammenfassung 77
Die Autorin 78
3?Datenschutzrecht 79
Dr. Carsten Ulbricht M.C.L. 79
3.1?Einführung 79
3.1.1?Grundlagen 79
3.1.2?Phasen der Verarbeitung 80
3.1.2.1?Datenerhebung für KI-Systeme 80
3.1.2.2?Training von KI-Systemen 81
3.1.2.3?Nutzung von KI-Systemen 81
3.1.2.4?Verwendung von KI-basierten Ergebnissen 82
3.1.3?Datenschutzrechtliche Grundlagen 82
3.2?Verarbeitung personenbezogener Daten 83
3.2.1?Definition personenbezogener Daten 83
3.2.2?Personenbezogene Daten bei Large-Language-Modellen 84
3.2.3?Arten personenbezogener Daten 85
3.2.4?Vermeidung der Verarbeitung personenbezogener Daten 86
3.2.5?Anonymisierung 86
3.2.5.1?Maskierung/Ersetzung 87
3.2.5.2?Aggregation/Kohortenbildung 87
3.2.5.3?Kryptografische Methoden 88
3.2.5.4?Federated Learning 88
3.2.6?Pseudonymisierung 88
3.3?Legitimation der Datenverarbeitung 89
3.3.1?Allgemeine Legitimationsgrundlagen (Art. 6 DSGVO) 89
3.3.1.1?Einwilligung (Art. 6 Abs. 1 lit. a DSGVO) 90
3.3.1.2?Vertragszwecke (Art. 6 Abs. 1 lit. b DSGVO) 91
3.3.1.3?Rechtliche Verpflichtung (Art. 6 Abs. 1 lit. c DSGVO) 93
3.3.1.4?Lebenswichtige Interessen (Art. 6 Abs. 1 lit. d DSGVO) 93
3.3.1.5?Öffentliches Interesse (Art. 6 Abs. 1 lit. e DSGVO) 93
3.3.1.6?Berechtigte Interessen (Art. 6 Abs. 1 lit. f DSGVO) 95
3.3.2?Spezielle Legitimationsgrundlagen 97
3.3.2.1?Verarbeitung von besonderen Kategorien personenbezogener Daten (Art. 9 DSGVO) 98
3.3.2.2?Daten von Beschäftigten und Bewerbern (§ 26 BDSG) 100
3.4?Erfüllung der Informationspflichten 102
3.4.1?Erfüllung der Informationspflichten (Art. 13 DSGVO) 103
3.4.2?Erfüllung der Informationspflichten (Art. 14 DSGVO) 104
3.5?Rollen und Verantwortlichkeiten 105
3.5.1?Auftragsverarbeitung (Art. 28 DSGVO) 105
3.5.2?Gemeinsame Verantwortung (Art. 26 DSGVO) 107
3.5.3?Getrennte Verantwortung des Betreibers und des Nutzers des KI-Systems 108
3.6?Datenschutzfolgenabschätzung (DSFA) 108
3.6.1?Anforderungen und Zwecke einer Datenschutzfolgenabschätzung 109
3.6.2?Notwendigkeit einer Datenschutzfolgenabschätzung 109
3.6.3?Durchführung einer Datenschutzfolgenabschätzung 110
3.7?Technische und organisatorische Maßnahmen 111
3.7.1?Technische Maßnahmen 112
3.7.2?Organisatorische Maßnahmen 113
3.7.3?Anforderungen der Datenschutzbehörden 114
3.7.3.1?Technische Anforderungen und Umsetzung bei KI-Systemen 114
3.7.3.2?Organisatorische Anforderungen und Umsetzung bei KI-Systemen 115
3.7.3.3?Bewertung des Positionspapiers der Datenschutzkonferenz 115
3.8?Konkrete Umsetzung 116
3.8.1?Prüfung und Umsetzung der datenschutzrechtlichen Anforderungen 116
3.8.2?Abschluss der notwendigen Verträge 116
3.8.3?Einführung von KI-Richtlinien 117
3.8.4?Anforderungen der Datenschutzbehörden 118
3.9?Fazit und Ausblick 122
Der Autor 124
4?Haftungsfragen im Zusammenhang mit Künstlichen Intelligenzen 125
Varinia Iber 125
4.1?Einführung 125
4.2?Grundlagen der Haftung 126
4.2.1?Vertragliche Haftung 128
4.2.2?Deliktische Haftung 131
4.2.2.1?Grundlagen 131
4.2.2.2?Unerlaubte Handlungen 132
4.2.2.3?Produzenten- und Produkthaftung (Status quo) 134
4.3?Neue Regelungen des Haftungsrechts für KI 138
4.3.1?Die KI-Haftungsrichtlinie 139
4.3.1.1?Hintergrund und Ziele der KI-Haftungs-RL 139
4.3.1.2?Überblick über die KI-Haftungs-RL 141
4.3.1.3?Wesentliche Regelungen der KI-Haftungs-RL 141
4.3.2?Neue Produkthaftungsrichtlinie 146
4.3.2.1?Hintergrund und Ziele der Produkthaftungs-RL 2024 147
4.3.2.2?Überblick über die Produkthaftungs-RL 2024 147
4.3.2.3?Wesentliche Neuerungen der Produkthaftungs-RL 2024 148
4.3.3?Parallelität von KI-Verordnung, KI-Haftungs-RL und Produkthaftungs-RL 2024 153
Die Autorin 156
5?Die Europäische Verordnung über Künstliche Intelligenz (KI-VO) 157
Jessica Hawighorst 157
5.1?Einleitung: Der Weg zum europäischen KI-Gesetz 157
5.2?Überblick über die KI-VO 161
5.3?Anwendungsbereich der KI-VO (Kapitel I der KI-VO) 163
5.3.1?Sachlicher Anwendungsbereich: Die KI-Definitionnach der KI-VO (Art. 3 Nr. 1) 163
5.3.2?Persönlicher und räumlicher Anwendungsbereich (Art. 2 Abs. 1) 166
5.3.2.1?Anbieter 167
5.3.2.2?Betreiber 168
5.3.2.3?Sonstige (insb. Einführer und Händler) 169
5.3.3?Von der Verordnung ausgenommene Bereiche,Personen und Stellen 169
5.4?Der risikobasierte Ansatz und hieraus folgende Pflichten (Inhalt der KI-VO) 171
5.4.1?Verbotene KI (Kapitel II der KI-VO) 172
5.4.2?Hochrisiko-KI (Kapitel III der KI-VO) 174
5.4.2.1?Einordnung als Hochrisiko-KI (Art. 6) 174
5.4.2.2?Anforderungen an Hochrisiko-Systeme (Art. 8 bis 15) 178
5.4.2.3?Pflichten der Hochrisiko-KI-Anbieters 185
5.4.2.4?»Pflichtenfalle«: Übergang der Anbieterpflichten auf ­andere ­Personen (Art. 25) 194
5.4.2.5?Pflichten der Einführer und Händler (Art. 23 und Art. 24) 195
5.4.2.6?Pflichten von Zulieferern (Art. 25 Abs. 4) 195
5.4.2.7?Pflichten der Betreiber (Art. 26 und Art. 27) 196
5.4.3?Transparenzpflichten für bestimmte KI-Systeme (Kapitel IV der KI-VO) 198
5.4.4?Sonderanforderungen für »KI-Modelle mit allgemeinem Verwendungszweck« (GPAI) (Kapitel V der KI-VO) 199
5.4.4.1?Der GPAI-Begriff 200
5.4.4.2?Die GPAI-Klassifizierung (Systemisches Risiko) 202
5.4.4.3?Anforderungen an (alle) GPAI-Modelle (Art. 53 und Art. 54) 203
5.4.4.4?Weitere Anforderungen an GPAI-Modelle mit systemischem Risiko (Art. 55) 205
5.5?Freiwillige Unterwerfung unter die Hochrisiko-Anforderungen 206
5.6?Maßnahmen zur Innovationsförderung (Kapitel VI der ­KI-VO) 206
5.7?Governance, Aufsicht und Durchsetzung 207
5.8?Sanktionen (Kapitel XII der KI-VO) 208
5.9?Geltungsbeginn und Umsetzungsfristen 209
5.10?Fazit und Ausblick 210
Die Autorin 215
6?Vertiefung: Anhaltspunkte für eine technische Umsetzung der KI-Verordnung 217
Danilo Brajovic und Marco Huber 217
6.1?Normungsprozess und Harmonisierung 218
6.2?Technische Hochrisiko-Anforderungen (Art. 9 ff. KI-VO) 218
6.2.1?Risikomanagementsystem (Art. 9) 218
6.2.2?Daten und Daten-Governance (Art. 10) 219
6.2.2.1?Daten-Governance- und Datenverwaltungsverfahren 220
6.2.2.2?Datenqualität 221
6.2.3?Technische Dokumentation (Art. 11 und Anhang IV) 222
6.2.4?Aufzeichnungspflichten (Art. 12) 223
6.2.5?Transparenz und Bereitstellung von Informationen (Art. 13) 224
6.2.5.1?Betriebsanleitung 224
6.2.5.2?Erklärbarkeit 226
6.2.6?Menschliche Aufsicht (Art. 14) 226
6.2.7?Genauigkeit, Robustheit und Cybersicherheit (Art. 15) 227
6.2.7.1?Genauigkeit 227
6.2.7.2?Robustheit 228
6.2.7.3?Cybersicherheit 229
6.2.8?Qualitätsmanagement (Art. 17) 230
6.3?Transparenz gegenüber Nutzern bei bestimmten Systemen (Art. 50) 231
6.4?KI-Systeme mit allgemeinem Verwendungszweck (GPAI) (Art. 51 ff.) 232
6.5?Zusammenfassung 233
Die Autoren 240
7?KI und Patente – drei Blickwinkel 243
Torsten Duhme 243
7.1?Patente – ein kurzer Überblick 244
7.1.1?Gewerbliches Schutzrecht 244
7.1.2?Territoriales Verbotsrecht 245
7.1.3?Kein Benutzungsrecht 245
7.1.4?Amtliche Prüfung 246
7.1.5?Schutz für technische Innovationen 246
7.1.6?Weitere Schutzrechte 247
7.2?Patentierbarkeit von KI-bezogenen Erfindungen 247
7.2.1?Überblick 247
7.2.1.1?KI als computerimplementierte Erfindung 247
7.2.1.2?Bestandteile einer Patentanmeldung 247
7.2.1.3?Patentansprüche 248
7.2.1.4?Patentierungsvoraussetzungen 248
7.2.1.5?Ausschlusstatbestände 249
7.2.1.6?Wirkung in der physisch-realen Welt 249
7.2.1.7?Situation in den USA 250
7.2.1.8?Technischer Beitrag 250
7.2.1.9?Programme für Datenverarbeitungsanlagen 251
7.2.1.10?Mehrere Anspruchskategorien 251
7.2.2?Neuheit 252
7.2.2.1?Einzelvergleich 252
7.2.2.2?Zeitrang 252
7.2.2.3?Neuheit bei KI-bezogenen Erfindungen 253
7.2.3?Erfinderische Tätigkeit 253
7.2.3.1?Entscheidendes Kriterium 253
7.2.3.2?Aufgabe-Lösungs-Ansatz (Problem Solution Approach) 254
7.2.3.3?COMVIK-Entscheidung 254
7.2.3.4?Finanzielles und administratives Konzept 255
7.2.3.5?Erfinderische Tätigkeit von KI-bezogenen Erfindungen 255
7.2.3.6?Sichtweise des BGH 256
7.2.4?Gewerbliche Anwendbarkeit 256
7.2.5?KI-bezogene Erfindungen in der Patentpraxis 256
7.2.5.1?Exponentieller Anstieg 256
7.2.5.2?Erfolgsaussicht 257
7.2.5.3?Angabe von Trainingsdaten und Trainingsmethoden 257
7.2.6?Fazit 258
7.2.6.1?Patentschutz für KI-bezogene Erfindungen ist möglich 258
7.2.6.2?Bezug zu Anwendung in der physisch-realen Welt 258
7.2.6.3?Einzelfallbetrachtung 258
7.2.6.4?Verwendung einer bekannten KI 258
7.3?KI als Erfinder oder Miterfinder einer patentierbaren ­Erfindung 259
7.3.1?Generative KI als Erfinder 259
7.3.2?Patente als Vermögensgegenstand 259
7.3.3?Dr. Thaler und DABUS 260
7.3.3.1?Erfinderbenennung als formale Voraussetzung 261
7.3.3.2?Mangelnde Erfinderbenennung 261
7.3.3.3?DABUS in Deutschland 261
7.3.3.4?DABUS in den USA, Großbritannien und weiteren Ländern 262
7.3.3.5?DABUS in Südafrika 263
7.3.4?KI als Werkzeug 263
7.3.5?Erfinderischer Beitrag 263
7.3.6?Erfindervergütung 264
7.4?KI als Werkzeug für Patentämter und Patentanwälte 265
7.4.1?KI-gestützte Patentanmeldung 265
7.4.2?Grenzen 265
7.4.3?KI-Einsatz beim EPA 266
7.4.4?KI-generierte Übersetzungen 266
7.4.5?Roadmap ist vorgezeichnet 266
Der Autor 268
Schlusswort 269
Stichwortverzeichnis 271
Stichwortverzeichnis 271