EINLEITUNG

Ich wurde Mitte der Siebzigerjahre in die sanft hüglige Landschaft der Altmark hineingeboren. Abgesehen von so mancher Scheidung hatten wir Kinder des Ostens, die der zweiten Nachkriegsgeneration, nicht viel auszustehen. Sicherlich fehlte uns so manche Banane, Mango und der zarte Schmelz in der Schokolade. Das machte uns aber noch lange nicht zu Unglückswürmern. Die Schlagbäume und Fesseln des Kommunismus warteten jedoch unmerklich auf unser Älterwerden. Nördlich und westlich Salzwedels, meiner Heimatstadt, zog sich eine unüberwindbare Barriere durch die Wälder, der Eiserne Vorhang. Bis in die späten Achtzigerjahre teilte er Deutschland, Europa und irgendwie den ganzen Erdball in zwei Lager. Stacheldraht und Mauern sollten aufhalten, was am Ende nicht aufzuhalten war: die Implosion marxistischer Ideen und der Autokratien, die sich darauf stützten. Letztlich bedurfte es nur eines einzigen Tores, das im Spätsommer 1989 im ungarisch-österreichischen Grenzland aufgestoßen wurde, um die kritische Phase einer Dynamik einzuleiten, an deren Ende alle Machthaber des Ostblocks entthront wurden und dieser selbst kollabierte.

Lange Zeit schien der damalige Zusammenbruch der kommunistischen Systeme die markanteste Wendung zu sein, die die Geschichte vor meinen Augen vollführen würde – aber weit gefehlt. Je mehr ich die Augen öffne, desto mehr bemerke ich, dass die Geschichte in diesen Tagen eine Wendung nimmt, die den Fall der Mauer und die folgende Transformation des Ostblocks noch verblassen lässt. Mit ihr verglichen schrumpft der Kommunismus zu einem Intermezzo der Historie, zu einem untauglichen, für viele gleichwohl einschneidenden Versuch, unsere Spezies in die Zukunft zu führen.

Derzeit werden wir Zeugen eines wahrhaft epochalen Umbruchs. Er ist vergleichbar mit anderen anthropologischen Großereignissen wie der Ausbreitung des Ackerbaus, der Erfindung des Buchdrucks oder der Entdeckung der Elektrizität. Die Rede ist von der Digitalisierung. Seit geraumer Zeit schleicht sie sich in unser Leben und entfaltet mit dem Aufkommen Künstlicher Intelligenz ihr wahres Potenzial. Sie hat begonnen, die Art und Weise, wie wir kommunizieren, lernen, arbeiten, altern und sowohl kreativ als auch wissenschaftlich tätig sind, zu überformen. ChatGPT, Google Gemini und Claude gehören zu ihren ersten künstlich-intelligenten Formen, auf die wir alle zugreifen können. Zahlreiche weitere werden hinzukommen. Es warten Weichenstellungen in allen Bereichen der menschlichen Existenz, in deren Folge wir zu ungeahnten Horizonten aufbrechen werden. Sie können Utopien und Dystopien wahr werden lassen.

Die Prognose fällt nicht schwer, dass der Mensch als soziales Wesen auch in fernen Tagen ein Zusammenleben in großen Gesellschaften bevorzugen wird. Er wird nicht zu einem Leben in Kleinstgruppen von Jägern und Sammlern zurückkehren. Die Steuerung dieser Gesellschaften aus Millionen von Individuen bleibt zentral für das Wohlergehen der menschlichen Art. Sie wird sich jedoch ändern. Aber wie genau? Welche Auswirkungen wird die Digitalisierung auf diesen für uns alle entscheidenden Aspekt des Zusammenlebens haben?

Das vorliegende Buch sucht nach Antworten auf diese Fragen. Es handelt von der Zukunft der Steuerung der Gesellschaft durch einen Staat 3.0. In einem solchen geht es nicht mehr nur darum, dass Internettechnologie die Kommunikation zwischen Bürgern und Staat auf ein neues Niveau hebt – ein Konzept, das vor Jahren als Staat 2.0 bezeichnet wurde.1 Vielmehr liegt der Schwerpunkt darauf, wie Menschen und Maschinen unsere Gesellschaften in zunehmendem Maße digital lenken werden.

Ich gehe fest davon aus, dass neue Technologien und insbesondere Künstliche Intelligenz die Art und Weise der Steuerung von Gesellschaften, von unseren Familien und uns als Individuen regelrecht revolutionieren werden. Es ist damit zu rechnen, dass sie die existierenden Gesellschaftssysteme und die uns schützenden Rechte der Freiheit und Gleichheit noch erheblich stärker unter Druck setzen werden, als das derzeitige Technologien tun. Zum Schutz von Demokratie und Freiheit werden wir gezwungen sein, unser politisches Entscheidungsmonopol gegenüber Maschinen zu verteidigen und in deren Entwicklung und Verwendung wirksam einzugreifen.

Das Thema der Gesellschaftssteuerung im anbrechenden Hochtechnologiezeitalter wartet mit einer gewissen Komplexität auf. Bei genauerer Betrachtung fällt auf, dass es sich in zwei große Themenblöcke teilt. Der erste betrifft konstruktive Fragen, also die Art und Weise, wie staatliche Entscheidungsträger und die ihnen assistierenden Ressorts Technologie gezielt zu Steuerungszwecken einsetzen werden oder einsetzen könnten. Der zweite Themenblock betrifft eher destruktive Fragen, also wie Technologie Steuerungsapparate und Steuerungsfundamente gefährden und Gesellschaften von eigentlich angedachten Kursen abbringen könnte.

Dem ersten, konstruktiven Themenblock ist der überwiegende Teil des Buches gewidmet. In ihm wird im Sinne eines Staates 3.0 erörtert, wie Maschinen und Künstliche Intelligenz Aufgaben innerhalb der üblichen Steuerungsketten übernehmen werden und könnten, vom politischen Agenda-Setting über die Gesetzesplanung bis hin zur behördlichen und richterlichen Normumsetzung. Und er geht den Auswirkungen nach, die eine derartige Automatisierung andererseits für uns Bürger, Abgeordnete, Beamte und Richter haben wird. Auch die Einflüsse der Digitalisierung auf die Anwaltschaft gilt es zu berücksichtigen.

Ich gehe dabei futuristisch klingenden, aber ebenso naheliegenden Detailfragen nach, etwa ob die Zukunft mit einer Art künstlichem Superhirn aufwartet, welches die komplette Steuerung unserer Spezies übernimmt. Fragen wie, ob Künstliche Intelligenz für zukünftige Parlamente Gesetzeswerke mit hochwirksamen Steuerungsinstrumenten kalkuliert. Ob sich Smart Cities zu Kommunen transformieren, in denen Entscheidungsautomaten das Sagen haben, ob selbst manche zentrale Aufgabe von Rechtsberatern, Beamten und sogar Richtern nicht doch bald antiquiert sein wird oder ob in Zukunft Protestbewegungen dank KI weniger Kraft aufbringen müssen, um politische Entscheidungsträger zum Handeln zu bewegen. Die für einen solchen Ausblick erforderlichen theoretischen Grundlagen der Gesellschaftssteuerung lege ich in einem Extrakapitel dar.

Ende der Zehnerjahre wurden wir Zeugen, wie die „Neue Rechte“, Russland und mazedonische Halbstarke mittels Social Bots, Internettrollen und Falschmeldungen versuchten, Bevölkerungen zu spalten, Wahlen zu manipulieren oder einfach nur schnelles Geld zu verdienen. Sie trugen dazu bei, dass sich der mit dem Fall des Eisernen Vorhangs erledigt geglaubte Wettbewerb zwischen Demokratie und Autokratie erneut entfaltete und sich ein breiteres Feld an Aspekten destruktiver Natur öffnete: Aspekte des zerstörerischen Potenzials neuer Technologien für demokratisch ausgerichtete Steuerungsapparate und deren Korsette aus Freiheitsrechten, aber auch stärkende Effekte, die der möglichen Destruktion etwas entgegensetzen.

Dieser Themenblock soll schließlich im Fokus des finalen Teils des Buches stehen. Dabei geht es nicht allein um die Wiederholung der wissenschaftlichen Debatten der letzten Jahre. Vielmehr sollen ebenso die neuesten Entwicklungen im Bereich der Technologie, insbesondere der Künstlichen Intelligenz, berücksichtigt werden. Diese Entwicklungen versprechen starke Impulse für Gegenwart und Zukunft und zwingen zu einer Neubewertung. Unter diesen Vorzeichen werden insbesondere folgende Fragen genauer betrachtet: Führen smarte Algorithmen, die unsere Entscheidungen an Wahltagen mit beeinflussen, zu einer stärkeren Verwässerung der Demokratie? Werden KI-bedingte Umstrukturierungen auf den Arbeitsmärkten sogar die gesellschaftliche Tektonik aufbrechen? Werden wir Bürger mit einer manipulationssicheren App letztlich doch über Gesetze mitbestimmen, um so für die notwendige Vitalisierung der Demokratie zu sorgen? Sollte der Staat jede Regelverletzung, etwa jede Verletzung von Straßenverkehrsregeln, obsessiv verfolgen, schlicht weil er es digital kann und es sich finanziell für ihn lohnt? Wird die Digitalisierung ebenso die Leistungsfähigkeit von Gerichten, Staatsanwaltschaften und Verwaltungen gewährleisten, wenn die geburtenschwachen Jahrgänge zusehends weniger Fachkräfte stellen?

Über welche Art von Technologien sprechen wir auf diesen Seiten aber überhaupt? Es handelt sich um Maschinen, die auf vier Arten von Bausteinen aufbauen. Dazu zählt erstens vernetzte, teils mit Sensoren verbundene IT-Hardware, die mit weiterhin fulminant wachsenden Rechenkapazitäten aufwartet. Hinzu kommt zweitens ausgeklügelte Software mit hochkomplexen Algorithmen. Diese Software wird drittens noch mehr das herausformen, was man Künstliche Intelligenz nennt. Und viertens zählt zu diesem Quartett Big Data, also große Informationsbestände mit immer minutiöseren Daten über uns und unsere Umgebung.

Wir und unsere Kinder werden Zeugen, wie aus diesen vier Basiskomponenten nutzstiftende und auch beängstigende Anwendungen entstehen, die die Menschheit und den Planeten weit in die Zukunft führen.

Schon in der jüngeren Vergangenheit begann auf diese Basiskomponenten aufbauende Hochtechnologie nicht nur unseren Alltag zu überformen, sondern auch die Art und Weise, wie wir unsere Gesellschaften kontrollieren und lenken. Neuartige Supercomputer, raffinierte Algorithmen, erste Formen Künstlicher Intelligenz und ein unablässiger Strom von Daten ermöglichten Geheimdiensten bereits vor Jahren,...