KI braucht Verantwortung, aber keine Symbolpolitik

Ein Entwurf über sinnvolle, verhältnismäßige und gesellschaftlich verantwortliche Regulierung von Künstlicher Intelligenz

Peter Bonner

Über KI wird im Moment viel geredet, und das meiste davon dreht sich um Technik: Welches Modell ist das beste, welcher Anbieter zieht davon, was kann das nächste Update. Mich interessiert eine andere Frage. Was macht das eigentlich mit uns? Mit unserer Arbeit, mit Behörden, mit der Schule, mit der Art, wie wir uns eine Meinung bilden – und damit, wer am Ende eine Entscheidung trifft, wenn immer öfter ein System „nur unterstützt“.

Dass Technik nie nur Werkzeug ist, ist keine neue Erkenntnis. In meinem Studienfach Informatik und Gesellschaft zieht sich dieser Gedanke durch praktisch jede Vorlesung: Menschen bauen Technik, Technik verändert die Gesellschaft, und die veränderte Gesellschaft formt wiederum die nächste Technik. Kein Naturgesetz, kein Schicksal. Ein Wechselspiel, das wir gestalten – wenn wir uns die Mühe machen.

Mir hilft es, KI in diese lange Linie zu stellen. Seit der Schrift und dem Abakus lagern wir Denkarbeit in Werkzeuge aus. Insofern ist KI kein Bruch mit allem, sondern der vorerst letzte Schritt einer sehr alten Bewegung. Genau deshalb greift es zu kurz, sie rein technisch zu betrachten. Sie gehört auch gesellschaftlich, ethisch und rechtlich eingeordnet.

Zwei Reflexe halte ich dabei für falsch. Der eine: laufen lassen und hoffen, dass sich der Markt schon selbst sortiert. Der andere, fast schlimmere: aus Angst vor Risiken so viel Regulierung übereinanderstapeln, dass am Ende vor allem Papier entsteht und kaum Schutz.

KI braucht Verantwortung. Aber sie braucht keine Symbolpolitik.

Verantwortung heißt für mich nicht, möglichst viele Formulare auszufüllen, sondern die richtigen Fragen zu stellen. Wer ist betroffen? Welche Entscheidungen werden beeinflusst – und wie stark? Kann ein Mensch eingreifen, wenn etwas schiefläuft, und übernimmt dann auch jemand die Verantwortung? Sind die Ergebnisse nachvollziehbar, werden Menschen fair behandelt, welche Daten stecken drin, welche Machtverhältnisse werden verstärkt? Und ganz banal: Bringt das Ganze überhaupt einen echten Nutzen?

Symbolpolitik fängt genau da an, wo solche Fragen durch eine Checkliste ersetzt werden, die keiner so richtig versteht und die am Ende nur eines belegt – dass irgendwo ein Dokument abgelegt wurde. Das reicht nicht.

Gerade aus der Perspektive von Informatik und Gesellschaft muss Regulierung mehr können. Sie muss helfen, das Zusammenspiel von Technik, Recht und gesellschaftlichen Folgen zu verstehen. Ein KI-System ist eben nicht nur Code. Es steckt in einem sozialen Zusammenhang und wirkt auf Menschen, Organisationen und öffentliche Debatten zurück.

Warum Regulierung notwendig ist

Vorweg, damit kein falscher Eindruck entsteht: Ich bin durch und durch Technikmensch. Was mit Sprachmodellen, Automatisierung, Microsoft 365, Copilot, Azure OpenAI und moderner Prozessdigitalisierung heute geht, finde ich ehrlich begeisternd – das ist mein Tagesgeschäft. Aber vielleicht gerade deshalb glaube ich: Wer Technik ernst nimmt, muss auch ihre Folgen ernst nehmen.

KI kann enorm entlasten. Sie nimmt Routine ab, macht Wissen schneller zugänglich, vereinfacht Abläufe. Kleine und mittlere Unternehmen bekommen damit Fähigkeiten, die früher großen Konzernen vorbehalten waren – das erlebe ich bei meinen Kunden ständig. Verwaltung kann verständlicher werden, Bildung individueller, Arbeit produktiver.

Nur kann dasselbe Werkzeug eben auch in die andere Richtung kippen. Es verstärkt Vorurteile, wenn die Daten schief sind. Es lässt Entscheidungen objektiv aussehen, obwohl sie auf wackligen Grundlagen stehen. Es überwacht, sortiert, schließt aus. Es macht Desinformation billig und skalierbar, zementiert die Abhängigkeit von ein paar großen Plattformen – und es lässt Verantwortung in Systemen verschwinden, die angeblich nur assistieren, in Wahrheit aber längst die Richtung vorgeben.

Das ist das alte Doppelgesicht der Informatik: dieselbe Technik kann Menschen stärken oder über sie herrschen. Befähigen oder kontrollieren. Und dass das keine Theorie ist, lehrt ausgerechnet die Geschichte des eigenen Fachs. Schon in den 1930er-Jahren wurde Lochkarten- und Zählmaschinentechnik benutzt, um Menschen systematisch zu erfassen, nach Merkmalen einzusortieren und zu verfolgen. Datenverarbeitung im Dienst staatlicher Repression ist keine ferne Dystopie. Sie ist passiert. Wer heute Systeme baut, die Menschen erfassen und bewerten, sollte das im Hinterkopf haben.

Heikel wird es vor allem dort, wo KI auf sensible Daten, Profilbildung oder automatisierte Bewertungen trifft. Gesichtserkennung im öffentlichen Raum ist das Paradebeispiel. Datentechnik ist nie neutral; sie kann tief in Privatsphäre, Selbstbestimmung und Teilhabe eingreifen. Wer das kleinredet, macht es sich zu einfach.

Deshalb brauchen wir Regulierung – nicht um Innovation auszubremsen, sondern um überhaupt Vertrauen möglich zu machen. Ohne Vertrauen wird KI nicht dauerhaft eingesetzt. Menschen wollen wissen, wann sie mit einer Maschine reden. Organisationen müssen wissen, wofür sie KI einsetzen dürfen. Unternehmen brauchen Planungssicherheit. Und Bürgerinnen und Bürger müssen sich darauf verlassen können, dass Grundrechte nicht still und leise im Namen der Effizienz aufgeweicht werden.

Risiko statt Reflex

Der entscheidende Hebel ist für mich: Regulierung muss am Risiko ansetzen, nicht am Bauchgefühl.

Nicht jede Anwendung ist gleich brisant. Ein Spamfilter ist etwas anderes als ein System, das Bewerbungen vorsortiert. Eine Texthilfe im Büro spielt in einer anderen Liga als eine KI, die über Sozialleistungen mitentscheidet. Und ein Chatbot auf einer Webseite hat mit biometrischer Überwachung im öffentlichen Raum schlicht nichts gemein.

Genau das ist der Grundgedanke des europäischen AI Act: Er staffelt Anwendungen nach Risiko und zieht die Schrauben dort an, wo Gesundheit, Sicherheit oder Grundrechte auf dem Spiel stehen. Manches ist schlicht verboten, Hochrisikosysteme bekommen harte Pflichten, für andere gelten zumindest Transparenzregeln. Das halte ich für richtig.

Wer dagegen alles über einen Kamm schert, macht Regulierung ungerecht und wirkungslos zugleich. Harmlose Tools werden mit Auflagen überzogen, während die wirklich kritischen Fälle vielleicht nicht tief genug geprüft werden. Und der Kfz-Betrieb um die Ecke würde an denselben Anforderungen knabbern wie ein globaler Plattformkonzern. Das ist nicht streng, das ist nur praxisfern.

Verhältnismäßigkeit heißt am Ende ganz einfach: Je stärker ein System in Rechte, Chancen oder Lebenswege eingreift, desto mehr darf man verlangen. Bei harmlosen Anwendungen reichen klare, schlanke Regeln, ein bisschen Transparenz und gesunder Menschenverstand. In der Mitte braucht es Zuständigkeiten, Doku, Schulung, saubere Prozesse. Bei echtem Hochrisiko muss man liefern: Governance, Qualitätssicherung, menschliche Aufsicht, Risikomanagement, Datenqualität, klare Verantwortliche. Und bei dem, was inakzeptabel ist, braucht es schlicht eine Grenze.

Das ist für mich der Kern: nicht pauschal bremsen, sondern dort genau hinschauen, wo Menschen wirklich betroffen sind.

Was gute Regulierung leisten muss

Drei Dinge muss sie gleichzeitig hinbekommen – und das ist der schwierige Teil.

Erstens: Menschen schützen. Keine Entmündigung durch Blackbox-Systeme, keine Diskriminierung durch schlechte Daten, keine Manipulation durch Anwendungen, die vorgeben, etwas zu sein, das sie nicht sind. Und keine folgenreichen Entscheidungen, bei denen am Schluss niemand geradesteht. Ethisch geht es dabei um mehr als Schadensvermeidung – es geht um Gerechtigkeit, Autonomie, Fairness, Würde. Kant hat dafür einen Maßstab geliefert, der erstaunlich gut passt: den Menschen immer auch als Zweck behandeln, nie bloß als Mittel. Wenn eine KI Menschen bewertet oder sortiert, muss man fragen dürfen, ob die Betroffenen überhaupt verstehen können, was da mit ihnen geschieht. Ein System kann technisch tadellos laufen und trotzdem ethisch daneben sein. In der Technikethik sagt man: Aus dem Können folgt eben nicht automatisch ein Sollen.

Zweitens: Innovation möglich machen. Unternehmen, Behörden und Forschung brauchen klare Regeln, aber auch Luft zum Atmen. Wer etwas Sinnvolles baut, darf nicht an Bürokratie ersticken. Gerade Mittelstand und Verwaltung brauchen Orientierung, Muster, Standards – und Wege, die man auch ohne große Rechtsabteilung gehen kann.

Drittens: umsetzbar sein. Eine Regulierung, die nur Konzernjuristen verstehen, verfehlt einen Teil ihres Sinns. Wenn jede KI-Nutzung erst ein halbjähriges Compliance-Projekt nach sich zieht, passiert eines von zwei Dingen – entweder die Leute lassen es ganz, oder sie haken die Regeln pro forma ab. Beides ist schlecht. Gute Regulierung muss verständlich sein, zwischen Anbieter, Betreiber und Anwender unterscheiden und Organisationen zu besseren Entscheidungen verhelfen, statt nur Angst vor Fehlern zu schüren.

Datenschutz ist kein Nebenthema

Bei KI dreht sich am Ende fast alles um Daten: Trainingsdaten, Eingaben, Nutzungsspuren, Protokolle, abgeleitete Profile. Umso weniger darf Datenschutz das sein, was man ganz zum Schluss noch schnell prüft, wenn das System längst steht.

Und Datenschutz ist kein technisches Detail, sondern Grundrechtsschutz. Das Bundesverfassungsgericht hat schon 1983 im Volkszählungsurteil das Recht auf informationelle Selbstbestimmung begründet – das Recht, grundsätzlich selbst zu bestimmen, was mit den eigenen Daten geschieht. Warren und Brandeis haben Privatsphäre über hundert Jahre früher als „das Recht, in Ruhe gelassen zu werden“ beschrieben. Beides klingt heute aktueller denn je.

Die DSGVO-Grundsätze sind deshalb keine lästige Förmelei, sondern ein brauchbarer Maßstab: Zweckbindung, Datenminimierung, Transparenz, Rechtmäßigkeit, Richtigkeit, Speicherbegrenzung, Integrität und Vertraulichkeit. Dazu die Rechte der Betroffenen, technisch-organisatorische Maßnahmen, die Auftragsverarbeitung, ein funktionierendes Datenschutz-Management. Und ein Grundprinzip, das man sich merken sollte: Die Verarbeitung personenbezogener Daten ist nicht erlaubt, bis sie verboten wird – sie ist grundsätzlich verboten, solange es keine Rechtsgrundlage gibt.

Bei KI wird besonders eine Grenze rutschig: die zwischen personenbezogenen und scheinbar anonymen Daten. Pseudonym ist nicht anonym. Ein altes Experiment mit Volkszählungsdaten hat eindrucksvoll gezeigt, dass schon eine Handvoll Merkmale – Alter, Geschlecht, Beruf – reicht, um einzelne Menschen wieder eindeutig herauszufischen. Wenn man dann noch verschiedene Quellen kombiniert und mit Big-Data-Methoden draufschaut, werden aus harmlos wirkenden Datensätzen ruckzuck wieder echte Profile.

Gute KI-Governance ist deshalb immer auch Datenschutz-Governance. Am deutlichsten sieht man das an der Zweckbindung. Sie verlangt, Daten nur für klar festgelegte Zwecke zu nutzen – und beißt sich damit fundamental mit der verbreiteten Haltung „wir sammeln jetzt mal, irgendein Modell wird das später schon brauchen“. Genau diesen Konflikt muss Regulierung adressieren, nicht umschiffen.

Die Frage darf also nicht nur lauten: Dürfen wir diese Daten verwenden? Sie muss auch lauten: Müssen wir das überhaupt? Ginge es mit weniger? Können wir lokal oder pseudonymisiert verarbeiten? Wer bekommt Zugriff, wie lange speichern wir, können Betroffene ihre Rechte tatsächlich wahrnehmen? Und was, wenn ein Modell aus den Daten Schlüsse zieht, die nie vorgesehen waren?

Vernetzte Kommunikation und demokratische Öffentlichkeit

KI-Regulierung ist nicht nur eine Sache für Unternehmen und Behörden. Sie betrifft die Öffentlichkeit, und damit die Demokratie.

KI verändert, wie Inhalte entstehen, sich verbreiten und bewertet werden. Texte, Bilder, Videos, sogar Stimmen lassen sich automatisiert erzeugen. Desinformation wird schneller, billiger, zielgenauer. Und Plattformen entscheiden über ihre Algorithmen mit, welche Themen sichtbar werden und welche untergehen.

Dahinter steckt eine Aufmerksamkeitsökonomie, die man nicht moralisch verurteilen muss, um sie zu verstehen: Reichweite bringt Geld, und Reichweite belohnt nun mal das Zugespitzte, das Empörende, manchmal schlicht das Falsche. Personalisierung führt in Filterblasen, in denen Widerspruch seltener auftaucht. Die klassischen Medien als „vierte Gewalt“ verlieren an Gewicht, während ein paar wenige Plattformen zu den eigentlichen Schaltstellen öffentlicher Kommunikation werden.

Damit landet KI mitten in den großen Fragen der vernetzten Kommunikation: Informations- und Meinungsfreiheit, Zensur, Netzneutralität, Plattformmacht, und überhaupt – wie funktioniert demokratische Öffentlichkeit unter digitalen Bedingungen? Europas Antwort, der Digital Services Act und der Digital Markets Act, setzt genau hier an: Sehr große Plattformen gelten als „Gatekeeper“ und bekommen strengere Pflichten, von Transparenz über die Offenlegung von Empfehlungssystemen bis zum Verbot manipulativer Designs.

Transparenz ist deshalb nicht bloß Verbraucherschutz, sondern eine demokratische Schutzbedingung. Menschen müssen erkennen können, ob sie mit einem Menschen oder einer Maschine schreiben. Sie müssen einordnen können, ob ein Bild oder Video synthetisch ist. Und sie müssen sich darauf verlassen können, dass politische Meinungsbildung nicht unsichtbar gesteuert wird.

Gleichzeitig – und das ist der Balanceakt – darf der Kampf gegen Desinformation nicht in pauschale Kontrolle umschlagen. Schon John Stuart Mill hat argumentiert, dass selbst falsche Meinungen der Wahrheitsfindung dienen können. Meinungsfreiheit ist kein absolutes Recht, aber eine offene Gesellschaft muss sich gegen Manipulation wehren können, ohne dabei die Meinungs- und Informationsfreiheit unnötig zu beschneiden. Auch hier: Maß halten.

Geistiges Eigentum und kreative Arbeit

Ein Thema, das in der Debatte oft zu kurz kommt, ist das geistige Eigentum.

KI erzeugt Texte, Bilder, Musik, Code, Videos – und sie lernt das aus riesigen Datenmengen, in denen massenhaft geschützte Werke stecken. Daraus folgt ein ganzer Strauß unbequemer Fragen. Welche Werke wurden überhaupt verwendet? Welche Rechte haben die Urheberinnen und Urheber? Wie transparent müssen Trainingsdaten sein? Ab wann entsteht ein neues Werk, und wann wird nur ein Stil kopiert? Und wie beteiligt man die Menschen fair, deren Arbeit das alles erst möglich macht?

Hier prallen technische Möglichkeiten auf Urheberrecht, DRM, Marken- und Patentrecht, auf Software als Werk, Open Source und Creative Commons. Digitale Güter sind dabei eine Besonderheit: nicht-rivalisierend und nahezu kostenlos kopierbar. Der Wert liegt in der geistigen Leistung, nicht im Träger. Und geschützt wird ohnehin nicht die Idee, sondern ihr Ausdruck – die persönliche geistige Schöpfung.

Zwei Punkte sind gerade besonders heiß. Der erste: Wem gehört, was eine KI ausspuckt? Die Linie der Urheberrechtsbehörden ist inzwischen ziemlich klar – aus bloßen Prompts entsteht noch kein schützbares Werk; ohne hinreichende menschliche Kontrolle über das Ergebnis kein Urheberrecht. Der zweite, viel umstrittenere: Was gilt fürs Training mit fremden Werken? Ob das eine erlaubte, „transformative“ Nutzung ist, wird heftig gestritten, und es hängt vor allem an zwei Fragen – wozu wird genutzt, und was macht das mit dem Markt der Urheber?

Gute Regulierung darf Kreativität nicht abwürgen. Aber sie darf eben auch nicht so tun, als wären kreative Werke nur Rohstoff für Plattformen. Spannend finde ich an der Debatte, dass das simple Entweder-oder von „opt in“ und „opt out“ zu kurz greift. Aus der Creative-Commons-Community kommt der Vorschlag abgestufter Signale, und der leuchtet mir ein: „Nicht trainieren“, „Trainieren, aber bitte offenlegen“, „Trainieren nur unter fairen Bedingungen“. Wer KI ernst nimmt, muss auch die Menschen ernst nehmen, deren Wissen und Ausdruck diese Systeme füttern.

Was Symbolpolitik falsch macht

Symbolpolitik erkennt man daran, dass sie ein Gefühl von Kontrolle erzeugt, ohne tatsächlich Kontrolle herzustellen. Große Worte, schwache Umsetzung. Verbote, die gut klingen und kaum durchsetzbar sind. Dokumentationspflichten, die mehr über die Absicherung der Organisation aussagen als über den Schutz echter Menschen. Leitlinien, so abstrakt, dass am Ende jeder etwas anderes hineinliest.

Das passiert übrigens nicht nur aus Zynismus. Oft entsteht es aus gutem Willen. Wenn eine neue Technologie Angst macht, ist der Reflex verständlich: mehr Regeln, mehr Nachweise, mehr Kontrolle. Nur ist mehr nicht automatisch besser. Und ethische Verantwortung lässt sich nicht in eine Checkliste auslagern – ein moralisches Urteil ist kein Suchproblem, das man einmal abarbeitet und dann hat. Wo eine Organisation so tut, als wäre es das, beginnt die Selbstberuhigung, die man als Rationalisierung kennt: „Machen doch alle so“, „dafür bin ich nicht zuständig“.

Die Beispiele sind alltäglich. Eine Firma kann hundert Seiten KI-Richtlinie schreiben und trotzdem nicht wissen, welche Tools ihre Leute morgens tatsächlich aufrufen. Sie kann eine schöne KI-Ethik-Erklärung veröffentlichen und keine einzige klare Zuständigkeit für ein konkretes System haben. Eine Verwaltung kann Transparenz einfordern und nebenbei selbst Prozesse betreiben, die für Bürger völlig undurchsichtig sind.

Das Problem ist dann nicht fehlende Sprache. Es ist fehlende Wirkung. Und gerade in der Informatik muss Verantwortung praktisch werden. Ein ethischer Anspruch, der sich nicht in Anforderungen, Rollen, Prozesse, Tests, Datenqualität und menschliche Aufsicht übersetzt, bleibt Dekoration.

Verantwortung beginnt in der Organisation

Man kann KI-Regulierung nicht einfach nach Brüssel, Berlin oder zu den Aufsichtsbehörden delegieren. Sie fängt in jeder Organisation an, die KI einsetzt – also auch bei uns.

Unternehmen und Verwaltungen müssen wissen, wo KI überhaupt im Einsatz ist. Sie müssen unterscheiden, ob da nur ein Text formuliert wird, ob eine Entscheidung vorbereitet oder faktisch schon getroffen wird. Sie müssen prüfen, ob personenbezogene Daten im Spiel sind, ob Ergebnisse kontrolliert werden, und sie müssen ihre Leute befähigen, Grenzen zu erkennen.

Klingt nach Aufwand. Ist aber im Grunde nur gute Unternehmensführung. Die Informatik kennt solche berufsethischen Leitlinien seit Jahrzehnten – von der Gesellschaft für Informatik, von ACM und IEEE. Verantwortung im Umgang mit Technik hat KI nicht erfunden; sie macht sie nur dringlicher. Wer nicht weiß, welche Systeme laufen, kann weder Chancen heben noch Risiken steuern. Wer keine Regeln hat, produziert Unsicherheit. Und wer seine Mitarbeitenden mit KI allein lässt, darf sich über Schatten-IT nicht wundern.

Verantwortung heißt also nicht, Innovation zu blockieren, sondern sie führbar zu machen. Für mich gehören dazu ein paar einfache Grundsätze:

• Jede KI-Anwendung braucht einen klaren Zweck.
• Menschen müssen wissen, wann KI im Spiel ist.
• Kritische Ergebnisse bleiben überprüfbar.
• Verantwortung wird nicht an ein System wegdelegiert.
• Datenqualität und Datenschutz denkt man von Anfang an mit.
• Mitarbeitende brauchen Kompetenz, nicht nur Verbote.
• Betroffene brauchen einen Weg, Entscheidungen zu hinterfragen.

Und der wichtigste Punkt zum Schluss: Der Nutzen muss erkennbar sein. KI gehört nicht eingeführt, weil sie gerade angesagt ist, sondern weil sie ein Problem löst, Menschen entlastet oder bessere Entscheidungen ermöglicht. Alles andere ist teures Theater.

Der Mittelstand braucht Orientierung, keine Angst

Der Mittelstand sitzt gerade besonders in der Zwickmühle, und ich erlebe das aus erster Hand.

Auf der einen Seite der Druck: Kunden erwarten Tempo, Mitarbeitende probieren längst neue Tools aus, Wettbewerber automatisieren, Fachkräfte fehlen, die Produktivität soll steigen. Auf der anderen Seite die Verunsicherung: Was ist erlaubt? Welche Daten dürfen in welches System? Wer haftet? Brauche ich eine KI-Richtlinie, muss ich jedes Tool dokumentieren, darf ich Copilot nutzen, und was, wenn die Leute einfach das nächstbeste kostenlose KI-Tool aufmachen?

Wenn Regulierung in diesem Klima nur als Drohkulisse ankommt, verschenken wir massiv Potenzial. Der Mittelstand braucht keine Symbolpolitik – er braucht handfeste Orientierung. Einfache Kategorien, klare Beispiele, Musterprozesse, verständliche Sprache, realistische Anforderungen. Niemand muss morgen ein großes KI-Governance-Team aufbauen. Aber anfangen kann jeder, zum Beispiel so:

• mit einer ehrlichen Bestandsaufnahme der genutzten KI-Tools,
• mit klaren Regeln für Daten und Vertraulichkeit,
• mit Schulungen für die Belegschaft,
• mit einem schlanken Freigabeprozess für neue Anwendungen,
• mit der Unterscheidung zwischen harmloser Assistenz und echten Entscheidungsprozessen,
• mit einer Person, die wirklich zuständig ist,
• mit einem einfachen Weg, neue Risiken zu bewerten,
• mit verständlichen Regeln für Kundendaten, Geschäftsgeheimnisse und Personenbezug.

Das ist keine Bürokratie um ihrer selbst willen. Das ist die Grundlage, um überhaupt sicher schneller zu werden.

Kompetenz schlägt Angst

Was mir am meisten am Herzen liegt, ist KI-Kompetenz – und zwar aus eigener Erfahrung.

Vor Kurzem habe ich für mein Studium ein paar Rechenergebnisse von zwei Modellen prüfen lassen, einem von Anthropic und einem von OpenAI. Beide kamen zum selben Ergebnis. Trotzdem war ich mir – auch dank Erfahrung und, ich gebe es zu, einer gewissen Portion Selbstbewusstsein – sicher, dass meine eigene Rechnung stimmte. Also habe ich sie auf Papier noch einmal durchgerechnet: dasselbe Ergebnis wie vorher. Dann habe ich dem Modell meinen Rechenweg erklärt und begründet, warum ich mir sicher bin. Und siehe da – plötzlich war auch das LLM überzeugt, dass mein Weg der richtige ist. Es war sogar so freundlich, mir genau auszuführen, warum ich recht habe. Dabei ging es nur um recht einfache Primfaktorzerlegungen aus der Kryptographie.

Das eigentlich Beunruhigende daran: Das Modell hat sein Ergebnis nicht verteidigt, sondern fallen gelassen, sobald ich selbstbewusst widersprochen habe. Hätte ich mich geirrt und genauso überzeugt argumentiert, hätte es mir vermutlich ebenso eloquent erklärt, warum mein falscher Weg der richtige sei. Ein System, das dem zustimmt, der am sichersten auftritt, „denkt“ nicht – es sagt plausibel klingende Sätze vorher. Das ist kein Vorwurf an die Technik, die ich jeden Tag gern nutze. Aber es ist genau der Grund, warum man wissen muss, womit man es zu tun hat.

Die meisten Risiken entstehen nämlich nicht aus bösem Willen, sondern aus Überschätzung. Leute übernehmen Ergebnisse ungeprüft. Sie tippen Vertrauliches ein, ohne die Folgen zu bedenken. Sie halten KI-Ausgaben für neutral, obwohl Daten, Modellgrenzen und die Art des Promptens sie kräftig prägen. Und sie merken nicht, dass ein System manche Gruppen schlechter behandeln kann als andere.

Deshalb bringt es wenig, KI einfach zu verbieten oder auf ein paar Spezialisten einzudampfen. Wir brauchen Menschen, die KI verstehen. Nicht jeder muss programmieren können. Aber viele müssen einschätzen können, was ein System leistet, wo seine Grenzen liegen und wann Vorsicht angebracht ist. Genau darum geht es im Kern, wenn man sich mit Informatik und Gesellschaft beschäftigt: die gesellschaftliche und ethische Bedeutung der Technik beurteilen zu können. Diese Kompetenz ist demokratisch, wirtschaftlich und organisatorisch zugleich entscheidend – sie macht den Unterschied, ob KI uns stärkt oder abhängig macht.

Regulierung muss auch Machtfragen stellen

Es reicht nicht, nur auf technische Risiken zu schauen. Man muss auch nach Macht fragen.

Wer kontrolliert die Modelle? Wem gehören die Daten? Wer setzt die Standards, wer kann sich Compliance leisten, wer profitiert von Automatisierung, und wer trägt die Kosten, wenn ein System Mist baut? Wer wird durch KI sichtbar – und wer verschwindet?

Wenn KI im Wesentlichen von einer Handvoll großer Plattformen kontrolliert wird, entstehen Abhängigkeiten. Wenn kleine Unternehmen und öffentliche Stellen am Ende nur noch Nutzer fertiger Systeme sind, ohne Einfluss auf Regeln, Transparenz oder Datenflüsse, dann verschiebt sich Macht – leise, aber massiv. Die hohe Konzentration bei Suche, sozialen Netzwerken und Cloud zeigt, dass das keine abstrakte Sorge ist; sie ist überhaupt erst der Grund, warum „Gatekeeper“ ein eigener Rechtsbegriff geworden ist. Und wo Geschäftsmodelle systematisch aus der Auswertung persönlichen Verhaltens entstehen, redet man zu Recht von Überwachungskapitalismus.

Das ist nicht per se schlecht. Aber es muss bewusst gestaltet werden. Hier wird die gesellschaftliche Dimension der Informatik greifbar: Technische Systeme verteilen Handlungsmöglichkeiten. Sie entscheiden mit darüber, wer gestalten darf und wer nur noch reagieren kann.

Europa hat dabei eine eigene Aufgabe. Wir sollten nicht nur regulieren, während anderswo entwickelt wird – aber wir sollten auch nicht aus Angst vor Rückstand unsere Werte über Bord werfen. Der richtige Weg liegt dazwischen: innovationsfreundlich, aber nicht naiv. Werteorientiert, aber nicht bürokratisch gelähmt. Offen für Technik, klar bei den Grundrechten.

Wo wirklich Grenzen nötig sind

Es gibt Bereiche, bei denen ich ohne Zögern für besondere Vorsicht plädiere. Anwendungen, die Menschen biometrisch identifizieren, sozial bewerten, im öffentlichen Raum überwachen, in der Strafverfolgung Verhalten vorhersagen oder in heiklen Feldern wie Bildung, Arbeit, Sozialleistungen, Gesundheit oder Migration mitentscheiden.

Solche Systeme verändern Lebenschancen. Sie verstärken Fehler, die schon in den Daten stecken. Sie reproduzieren bestehende Ungleichheit. Und sie sind schwer anzugreifen, wenn ein Betroffener gar nicht nachvollziehen kann, wie eine Bewertung zustande kam.

Dass Informatik nicht nur Komforttechnologie ist, führen einem autonome Waffensysteme und Cyberkriegsführung drastisch vor Augen. Software kann reale Gewalt, Eskalation, Sicherheitsrisiken beeinflussen – und KI ist dabei nicht nur Tatmittel, sondern selbst Angriffsziel. Gerade deshalb braucht es klare Verantwortliche, menschliche Kontrolle und Grenzen. Was technisch geht, ist eben nicht automatisch gesellschaftlich wünschenswert. Aus dem Können folgt kein Sollen.

Was ich mir wünsche

Im Jahr 2025 saß ich in einer Veranstaltung, in der ein angeblicher KI-Experte interessierten Bürgerinnen und Bürgern das Thema näherbringen sollte. Was ich dort hörte, hat mich ehrlich erschreckt. „Sie werden merken, dass KI wirklich denkt wie ein Mensch“, hieß es da. Und kurz darauf: KI könne heute schon autonom Atomwaffen steuern. Beides ist schlicht falsch. Aber die Leute waren ja gerade gekommen, weil sie sich Aufklärung erhofft hatten – und stattdessen wurde mit ihrer Angst gespielt.

Genau solche Abende sind der Grund, warum mir eine nüchterne Debatte so wichtig ist. Ich wünsche mir eine KI-Regulierung, die erwachsen ist: nicht euphorisch, nicht panisch, nicht symbolisch. Eine, die Risiken ernst nimmt, Nutzen zulässt und Verantwortung konkret macht.

Streng dort, wo Menschenrechte, Sicherheit und faire Teilhabe auf dem Spiel stehen. Großzügig dort, wo Menschen mit KI produktiver, kreativer, besser informiert arbeiten. Ich wünsche mir Aufsichtsbehörden, die nicht nur kontrollieren, sondern erklären. Unternehmen, die nicht warten, bis sie gezwungen werden, sondern selbst vorangehen. Und eine Politik, die Technik weder bejubelt noch reflexhaft bekämpft. Vor allem aber wünsche ich mir eine öffentliche Debatte, die KI weder zum Heilsbringer noch zum Monster erklärt, sondern als das behandelt, was sie ist: eine gesellschaftliche Kraft, die man verstehen und gestalten muss.

Verantwortung ist kein Gegensatz zu Innovation

Oft wird so getan, als müsste man sich zwischen Verantwortung und Innovation entscheiden. Ich halte das für grundfalsch.

Gute Innovation braucht Verantwortung. Nur verantwortliche Innovation wird akzeptiert, nur akzeptierte Innovation wird breit genutzt, und nur was breit genutzt wird, entfaltet überhaupt Wirkung. KI wird nicht dadurch erfolgreich, dass man sie möglichst schnell überall reinkippt. Sie wird erfolgreich, wenn sie Probleme löst, Vertrauen schafft und Menschen befähigt.

Dafür brauchen wir Regulierung – aber mit Maß. Keine Symbolpolitik, die Sicherheit behauptet und Innovation erschwert, sondern einen Rahmen, der Orientierung gibt, Missbrauch verhindert, Vertrauen stärkt und gute Anwendungen möglich macht.

KI braucht Verantwortung. Aber Verantwortung zeigt sich nicht in der lautesten Forderung, im dicksten Regelwerk oder auf der schönsten Ethikfolie. Sie zeigt sich da, wo Menschen, Organisationen und Politik bereit sind, genau hinzusehen, konkrete Risiken zu steuern und Technik so einzusetzen, dass sie dem Menschen dient. Das ist der Maßstab, an dem sich gute KI-Regulierung messen lassen muss.