Künstliche Intelligenz in der Kinder- und Jugendhilfe (eBook)

IIErfahrungen mit KI in der Kinder- und Jugendhilfe

Im vorangegangenen Teil wurden bereits zahlreiche Anwendungsmöglichkeiten von Künstlicher Intelligenz in der Kinder- und Jugendhilfe besprochen. Viele dieser Möglichkeiten sind noch Zukunftsvisionen – einige davon werden bereits in der Praxis angewendet. Im zweiten Teil werden bestehende Erfahrungen mit KI in Teilbereichen der Kinder- und Jugendhilfe, wie z. B. Kinderschutz, Heimerziehung und Beratung, vertiefend dargestellt. Dabei werden u. a. ethische, organisatorische, technische, wissenschaftliche, kulturelle und regulatorische Aspekte sowie die Arbeitsabläufe, Entscheidungsgestaltung und Akzeptanz betreffende Aspekte angerissen. Im umfassenderen einleitenden Artikel werden bspw. mehrere der genannten Aspekte verbunden.

1KI-basiertes Assistenzsystem im Kinderschutzverfahren

von Monika Feist-Ortmanns, Annette Sauer und Martin Brinkmann

Im Folgenden sollen, gewissermaßen als Ausgangslage, zunächst die Besonderheiten der Entscheidungsfindung in Kinderschutzverfahren dargestellt werden. Hierbei steht der intervenierende Kinderschutz – im Gegensatz zum präventiven und zum organisatorischen Kinderschutz – im Fokus, das heißt dasjenige Verfahren, das durch Bekanntwerden einer möglichen Kindeswohlgefährdung beim Jugendamt nach § 8a SGB VIII in Gang gesetzt wird. Im Anschluss sollen mögliche Anwendungsfälle für ein auf KI (Künstlicher Intelligenz) basierendes Assistenzsystem im Kinderschutzverfahren skizziert werden, insbesondere der Einsatz einer KI-basierten Protokollierungssoftware sowie die Entscheidungsunterstützung durch einen KI-Assistenten, der Fachwissen auswertet und fallbezogen präsentiert sowie den Entscheidungsprozess durch gezielte Reflexionsfragen rationalisiert und qualitativ verbessert. Es wird anschließend darauf eingegangen werden, welche technischen Anforderungen sich an eine KI ergeben, die in Kinderschutzverfahren eingesetzt werden soll. Hierbei geht es um die Analyse und Verarbeitung von strukturierten und unstrukturierten Daten, Mustererkennung sowie die Ausgabe von fallrelevanten Fachinformationen und die Formulierung von hilfreichen Reflexionsfragen. Ein weiterer wichtiger Aspekt bildet der zu beachtende rechtliche Rahmen. Bei der Ausgestaltung einer KI zur Unterstützung in Kinderschutzverfahren müssen zahlreiche Rechtsvorschriften aus den Bereichen des Sozialrechts, des Datenschutzrechts, des spezifischen KI-Rechts sowie weiterer Rechtsgebiete, etwas des Arbeitsrechts, berücksichtigt werden. Schließlich müssen bei der Frage, wie genau eine KI in Kinderschutzverfahren eingesetzt werden könnte, auch noch ethische, organisatorische und kulturelle Aspekte berücksichtigt werden.

1.1Entscheidungsfindung in Verfahren des intervenierenden Kinderschutzes

In Kinderschutzverfahren müssen häufig unter Zeitdruck weitreichende Entscheidungen getroffen werden, etwa über die räumliche Trennung eines Kindes von seinen Eltern. Zu einem Zeitpunkt, in dem bereits akuter Handlungs- und daher auch Entscheidungsdruck besteht, liegt dabei oftmals eine unsichere und / oder mehrdeutige Informationslage vor und es besteht keine oder zumindest keine rechtzeitige Möglichkeit zur Einbindung anderer professioneller Perspektiven sowie ergänzender Expertise in Form von Statistiken oder Fachaufsätzen. Gleichzeitig handelt es sich um einen in höchstem Maße grundrechtssensiblen Bereich: Schlechte Entscheidungen können den grundrechtlich geschützten Interessen der betroffenen Kinder und / oder ihrer Eltern schweren Schaden zufügen. Deshalb muss trotz der gebotenen Eile und der oftmals bestehenden Unsicherheiten stets eine rational begründete Entscheidung angestrebt werden, die zumindest diejenigen Fakten, die bekannt sind, möglichst umfassend und mit hoher fachlicher Expertise beleuchtet. Rechtliche Vorkehrungen zur Verfolgung dieses Ziels treffen etwa § 8a Abs. 1 S. 1 und § 72 Abs. 1 S. 1 u. 2 SGB VIII, indem dort die Vornahme der Gefährdungseinschätzung durch mehrere Fachkräfte vorgesehen und festgelegt wird, wer eine Fachkraft ist.

Allerdings stößt die beim Jugendamt vorhandene sozialarbeiterische / sozialpädagogische und teilweise zusätzlich juristische Expertise schnell an ihre Grenzen. Die Einbeziehung weiterer Expertisen, etwa medizinischer, psychologischer, statistischer, unfallsachverständiger Art etc., wäre oftmals hilfreich und würde die Treffsicherheit der entscheidungsbegründenden Prognosen verbessern. In Person können solche Expertisen aber nicht beim Jugendamt vorgehalten und von extern oftmals nicht schnell genug hinzugezogen werden. Hier könnte eine technische Lösung Lücken schließen.

Außerdem ist innerhalb kürzester Zeit eine Vielzahl an Fallinformationen möglichst umfassend, zugleich aber auch strukturiert zu protokollieren. So müssen etwa die Inhalte von Gesprächen mit Kind, Eltern und Dritten Eingang in die Fallakte finden, nicht nur als Dokumentation zur rechtlichen Absicherung, sondern auch, weil man nur so alle Informationen im Zusammenhang bewerten und eine Entscheidung oder eine Stellungnahme an das Familiengericht detailliert begründen kann. Die manuell durchgeführte Protokollierung des Fallgeschehens nimmt aber zum einen viel Arbeitskraft in Anspruch und belastet so die häufig ohnehin sehr ausgelasteten Fachkräfte. Zum anderen führt sie manchmal zu unerwünschten Verzögerungen in eilbedürftigen Verfahren und zu Ungenauigkeiten, da die Verschriftlichung oftmals erst im Nachhinein aus dem Gedächtnis vorgenommen wird. Auch hier besteht ein Ansatzpunkt zur Verbesserung durch den Einsatz von Technik, konkret durch KI-gestützte Protokollierungssoftware.

Schließlich muss man sich vergegenwärtigen, wie komplex – und daher fehleranfällig – die Bewertungs- und Abwägungsprozesse sind, die zur Feststellung oder Verneinung einer akuten Kindeswohlgefährdung führen. So müssen die gesamten Lebensumstände des Kindes / jungen Menschen in den Blick genommen werden, um neben den Risiko- auch etwaige Schutzfaktoren (sogenannte Ressourcen) zu ermitteln, die Einfluss auf die Risikobewertung haben können. Die Intensität, Häufigkeit und Dauer schädigender Einflüsse müssen erfasst und bewertet werden. Es müssen Überlegungen dazu angestellt werden, welche Schädigungen daraus resultieren können, wobei es auch auf die langfristigen Auswirkungen auf die weitere Entwicklung des Kindes ankommt. Die Überschreitung der Gefahrenschwelle ergibt sich aus einer Kombination der Höhe der Wahrscheinlichkeit eines Schadenseintrittes mit der Schwere der zu erwartenden Schädigung. Beide Faktoren können nur prognostiziert werden, sodass die typischen, jeder Prognose inhärenten Unsicherheiten bestehen. Wenn einzelne Anhaltspunkte falsch bewertet werden und daher in Bezug auf einen oder mehrere Faktoren eine Fehlprognose getroffen wird, kann dies die gesamte Entscheidung verzerren und so zu schwerwiegenden Grundrechtsverletzungen führen. Das Schicksal junger Menschen und ihrer Familien wird maßgeblich durch die fachliche Qualität der Entscheidungen und das professionelle Handeln des Jugendamtes beeinflusst (Merchel et al. 2023, 140).

Umso wichtiger ist eine möglichst umfassende Faktenbasis. Man kann in der Kürze der Zeit oft nicht viele Informationen erheben, was aber bereits bekannt ist, muss gut protokolliert und zum Zeitpunkt der Entscheidung präsent sein. Auch statistische Parameter sollten einbezogen werden, wenngleich diese immer nur als Anhaltspunkte dienen und die Einzelfallentscheidung nicht vorwegnehmen dürfen. Dies muss auch beim Einsatz von KI berücksichtigt werden (s. u.).

Die meisten Jugendämter führen Kinderschutzverfahren anhand bestimmter Prozessschemata, Handlungsempfehlungen sowie Verfahrens- und Qualitätsstandards durch. Diese müssen beim Einsatz von KI bedacht werden und Ziel sollte es sein, ihre flächendeckende Einhaltung zu fördern, indem der KI-Assistent bestimmte Handlungsschritte zu bestimmten Zeitpunkten in Erinnerung ruft.

Die Arbeit der Jugendamtsmitarbeitenden ist geprägt von einer immensen rechtlichen und ethischen Verantwortung, die die Aufgabe besonders anspruchsvoll (Culmsee / Gutmann 2021; Kepert et al. 2023) und für den einzelnen Mitarbeitenden mitunter psychisch belastend macht. Fehleinschätzungen können gravierende Folgen für Kinder und ihre Eltern haben, verheerendes mediales Echo erzeugen und im Extremfall zur Strafverfolgung von Jugendamtsmitarbeitenden führen. Die Einschätzung durch mehrere Fachkräfte nach § 8a Abs. 1 S. 1 SGB VIII entlastet den Einzelnen nur ein Stück weit, indem niemand potenziell folgenschwere Einschätzungen allein treffen muss. Auch der Einsatz eines KI-Assistenten könnte letztendlich keine grundlegende Entlastung schaffen. Es mag zwar in gewisser Hinsicht verlockend erscheinen, die schwere Bürde der Entscheidung ein Stück weit auf eine KI abzuwälzen. Dies ist aber schon aus rechtlichen Gründen nicht zulässig, da eine Entscheidung mit Rechtsfolgen nach derzeitiger Rechtslage immer durch Menschen zu erfolgen hat (vgl. 4.1). Außerdem wäre eine...