14.10.2026

KI als digitale Akteurin: Ein interdisziplinärer Blick auf die Transformation digitaler Ökonomien

Workshop des BMFTR-geförderten Projektes PriBizz

Teilnehmende: Julia Fuchs, Jana Hecktor, Simon Hirsbrunner, Verena Kessler-Verzar, Laura MacPherson (PriBizz) sowie die eingeladenen Experten Daniel Meister, Robin Pilsl, Florian Skupin sowie ein Experte aus dem Bereich IT-Sicherheit, Datenschutz und digitales Identitätsmanagement

Die Frage, was es bedeutet, wenn künstliche Intelligenz nicht mehr bloß Werkzeug, sondern selbst Akteurin im digitalen Raum ist, steht im Zentrum eines wachsenden wissenschaftlichen sowie gesellschaftlichen Diskurses. Im Rahmen eines interdisziplinären Workshops, der im Februar 2026 im Kontext des Forschungsprojekts PriBizz stattfand, wurde ein Zukunftsszenario zum Stand der Privatheit in einer KI-getriebenen Wirtschaft für das Jahr 2030 entwickelt und aus vier Perspektiven bewertet: Ethik, Recht, Wirtschaftsinformatik und Unternehmertum. In einer abschließenden Workshop-Diskussion diskutierten Expertinnen und Experten aus Wissenschaft und Praxis das Szenario gemeinsam und entwickelten Einsichten, die über die Fachgrenzen ihrer Disziplinen hinausgehen. Der vorliegende Beitrag gibt einen Einblick in einige der zentralen Diskussionsthemen und zeigt dabei unter anderem auf, welche Schnittmengen sowie Spannungslinien vorhanden sind.

Das Ausgangsszenario zeichnet eine Realität, in der generative und agentenbasierte KI-Systeme zur infrastrukturellen Grundlage der Wissensproduktion und wirtschaftlichen Wertschöpfung geworden sind. Inhalte entstehen nicht mehr primär durch menschliche Autorenschaft; stattdessen werden sie von KI-Systemen generiert, übertragen und weiter verarbeitet. Nutzerinnen und Nutzer wiederum hinterlassen ihre Datenspur nicht allein durch bewusste Eingaben, sondern oftmals passiv und eingebettet in unterschiedliche digitale Handlungen und Dienstleistungen.

Neben klassischen Nutzungsdatenerhebungen im Netz sammeln KI-Systeme heute kontinuierlich Daten über die mit ihnen interagierenden Personen. Eine der spannenden Diskussionsebenen des Workshops fokussierte daher im Kontext des Szenarios auch die Frage nach der zirkulären Logik zwischen Datenauswertung, Datenproduktion und deren Weiterverwendung. Konkret: Wenn algorithmische Systeme zunehmend auch auf Basis synthetischer Daten lernen, was bedeutet dies für ihre individualisierte Nutzung und die Anwendbarkeit im Alltag der Menschen.

Ein Weg wäre es, die Datenmenge zu überwachen oder einzuschränken. Menschliche Eingriffe in diese Prozesse sind oft als gezielte „Human-in-the-Loop“-Interventionen organisiert. Sie finden dort statt, wo sensible Entscheidungen getroffen werden und die Ausrichtung der Systeme auf menschliche Werte sichergestellt werden soll. Inwieweit ist dieser Einbezug menschlicher Kontrolle in einem Szenario von KI als digitaler Agentin realistisch? Wo könnte oder müsste eine entsprechende Kontrolle stattfinden? Solche und ähnliche Fragen lassen sich anhand eines Szenarios, wie es Grundlage für den Workshop war, produktiv diskutieren und besprechen.

In der Workshop-Diskussion wurde das von PriBizz erarbeitete und zur Diskussion gestellte Szenario grundsätzlich als realistisch, in Teilen aber noch als zu wenig prognostisch bewertet. So merkte ein Teilnehmer an, einige der beschriebenen Entwicklungen seien „kein Zukunftsszenario, sondern einfach […] schon Realität“ – etwa die datenbasierte individuelle Preisgestaltung oder die Marktdominanz datenreicher Plattformunternehmen. Ein anderer Teilnehmender ergänzte, das Szenario könne „mehr Dystopie“ vertragen, um die tatsächlich möglichen Risikodynamiken greifbarer zu machen.

Ethische Perspektive: Ambivalenz als Grundbedingung

Aus ethischer Sicht beschreibt das Szenario eine zutiefst ambivalente Entwicklung. Auf der einen Seite eröffnet die Automatisierung von Wissens- und Beratungsleistungen neue Möglichkeiten des Zugangs zu Information und Wissen: Sprachbarrieren können überwunden, Bildung demokratisiert und Fachwissen individualisiert sowie niedrigschwellig zugänglich gemacht werden. Auf der anderen Seite sind es gerade vulnerable Bevölkerungsgruppen, die besonders stark den Risiken solcher Systeme ausgesetzt sind – beispielsweise durch algorithmische Diskriminierung, die auf Grund von verzerrten Trainingsdaten und anderen schädlichen Mechanismen entsteht.

Ein zentrales Risiko ist auch die schleichende Erosion informationeller Selbstbestimmung. Individuelle Profile werden immer detaillierter, während die Kontrolle darüber, wer welche Informationen wie verwendet, zunehmend schwierig zu erhalten ist. In der Workshop-Diskussion brachte ein Teilnehmer diese Problematik auf den Punkt:

„Mein Eindruck war, da werden so viele Daten auch erzeugt durch KI, dass ich gar nicht mehr weiß, was denn überhaupt meine Daten sind. Selbst wenn ich sie sehen würde, würde ich gar nicht erkennen, dass es meine Daten sind. Das System, das kennt mich ja besser, als ich mich selbst kenne.“

Darüber hinaus könnte man argumentieren, dass die Kategorie „personenbezogene Daten“ grundsätzlich unter Druck gerät. In einer Welt, in der KI-Systeme Daten synthetisch erweitern, interpolieren und aggregieren, verliert die klassische Dichotomie zwischen personenbezogenen und nicht-personenbezogenen Daten an analytischer Trennschärfe.

Ein weiteres, von mehreren Teilnehmenden betontes Spannungsfeld ist die Frage nach Authentizität im digitalen Raum. „Für mich als Kunde oder als Nutzer im Internet […] ist das Wichtigste Authentizität, also die Echtheit von allem“, formulierte ein Teilnehmer. Das Vertrauen in die Integrität digitaler Inhalte – ob Produkte, Informationen oder Gesprächspartner – wird zur zentralen gesellschaftlichen Ressource. Deren Erosion hat weitreichende Konsequenzen: „Ich kenne schon einige Leute, auch einige ältere Leute, die sich ganz zurückziehen, schon jetzt, von Telefon, Internet und so weiter, weil die kein Vertrauen mehr haben, irgendwas da zu machen.“

Aus rechtlicher Perspektive liegt ein Fokus auf der möglichen Kollision des geltenden Regulierungsrahmens – insbesondere der DSGVO und der KI-Verordnung (KI-VO) – mit den zukünftigen Realitäten adaptiver, agentenbasierter KI-Systeme.

Einwilligung und Zweckbindung. Die datenschutzrechtliche Forderung nach Einwilligung setzt eine konkrete und informierte Angabe des jeweiligen Zweckes voraus. Autonom lernende Systeme, deren Verwendungsmodalitäten sich durch algorithmische Fortentwicklung kontinuierlich transformieren, stellen dieses Prinzip vor eine strukturelle Herausforderung: Eine Antizipation der zusätzlichen oder zukünftigen Anwendungskontexte ist nicht realistisch gesehen unmöglich. In der Workshop-Diskussion wurde dies direkt angesprochen – die Idee einer wirklich informierten Einwilligung zu zukünftiger Datennutzung sei weitgehend eine Fiktion, die mit der Geschwindigkeit technischer Systemdynamiken nicht mehr viel zu tun habe.

Automatisierte Entscheidungsfindung und Vollzugsdefizit. Art. 22 DSGVO schützt vor ausschließlich automatisierten Entscheidungen. In der Praxis – etwa bei Bonitätsprüfungen, Versicherungsbewertungen oder Bewerbungsverfahren – existiert häufig keine substanzielle menschliche Kontrollinstanz. Das Problem ist dabei nicht fehlende Normierung, sondern die fehlende Durchsetzung.

Hinzu kommt der sogenannte „Automation Bias“ – die Neigung menschlicher Entscheiderinnen und Entscheider, KI-Vorschläge ohne eigenständige Prüfung zu übernehmen. Ein Teilnehmer aus dem Rechtsbereich veranschaulichte dies: Eine Richterin, die täglich routiniert gleichartige Fälle entscheidet, für die eine KI eine Haftungsquote vorschlägt, neige irgendwann dazu zu sagen: „Ja passt, und jetzt lass mich essen gehen.“ Wenn die Objektivität und Zuverlässigkeit der Systeme angenommen und als Standard gesetzt werden, kann dies zu einer zunehmenden Übertragung von Aufgaben sowie auch einer zunehmend geringeren Hinterfragung der einzelnen handlungsanleitenden Aussagen der Systeme führen.

Die KI-Verordnung setzt auf eine dokumentierbare, kontrollierbare Risikosteuerung. Agentische Systeme, die sich fortlaufend aktualisieren, untergraben jedoch die Logik einmaliger Konformitätszertifizierung. Hinzu kommt das Problem der Verantwortungsdiffusion: Wer haftet, wenn Risiken erst aus der Kombination von Modell, Datenbasis, Tools und Kontext entstehen? Wer ist verantwortlich, wenn „ein KI-Agent automatisch“ handelt – der Hersteller des Modells, der Integrator, oder derjenige, der das System auf seinem Server betreibt?

Gestaltung sozio-technischer Systeme

Mit Blick auf KI als digitale Akteurin muss auch gefragt werden: Wie können komplexe sozio-technische Systeme so entworfen werden, dass sie Effizienz, Transparenz und informationelle Selbstbestimmung gleichzeitig gewährleisten?

Ein Kernthema ist hierbei auch das Daten- und Informationsmanagement in einer synthetischen Datenökonomie. Konzepte wie Data Provenance und Data Lineage gewinnen an Bedeutung, wenn Informationssysteme nachvollziehbar abbilden müssen, wo Daten herkommen und wie verlässlich sie sind. Klassische Kategorien der Datenmodellierung reichen hierfür nicht mehr aus; benötigt werden differenziertere Metadaten – etwa zum Grad der Personenbeziehbarkeit oder zum Anteil synthetischer Komponenten.

Transparenz durch Systemarchitektur, nicht nur durch Informationspflichten könnte ein notwendiger Gestaltungsauftrag sein. Auf Plattformebene muss sich der Blick zudem auf offene Schnittstellen, interoperable Standards und gemeinsame Datenräume als strukturelle Gegengewichte zu datengetriebener Marktkonzentration richten.

Aus industrieökonomischer Sicht und insbesondere aus der Perspektive kleiner und mittlerer Technologieunternehmen im digitalen Marketing und E-Commerce vollzieht sich eine fundamentale Verschiebung: Unternehmen sind nicht mehr primär unmittelbare Entscheider, sondern Gestalter der Rahmenbedingungen, innerhalb derer KI-Systeme eigenständig agieren. Wettbewerb verlagert sich dabei von Produkt- und Kampagnenebene hin zu systemischen Fähigkeiten: Integrationskompetenz, Modelladaption und die effektive Nutzung algorithmischer Infrastrukturen werden zu zentralen Wettbewerbsparametern.

Die Diskussion um datenbasierte Wertschöpfungsmodelle berührte auch die Frage, wer aus dieser Entwicklung ökonomisch profitiert, und wer das Nachsehen hat: Für kleinere Unternehmen werde es zunehmend schwieriger, Profite herauszuziehen und neue Services zu gestalten.

Das Szenario „KI als digitale Akteurin“ beschreibt keine ferne Zukunft, sondern eine Entwicklung, die bereits heute in ihren Grundzügen erkennbar ist. In der Workshop-Diskussion bestätigten alle Beteiligten diese Einschätzung. „Ich persönlich bin der Meinung, das wird definitiv die nächsten Jahre so kommen, dass es KI-Agenten geben wird, die mich persönlich entlasten und unterstützen“, resümiert ein Teilnehmer.

Die interdisziplinäre Diskussion zeigt: Es handelt sich nicht um einen rein technischen Wandel, sondern um die Herausbildung eines neuen gesellschaftlichen und ökonomischen Ordnungssystems – mit tiefgreifenden Implikationen für Autonomie, Fairness, Verantwortung und Machtverteilung. Der Gewinn dieser Diskussion liegt dabei nicht zuletzt in der Vielstimmigkeit der Perspektiven selbst: Was für eine Disziplin ein Handlungsspielraum ist, ist für eine andere eine Grundbedingung. Genau diese Verschränkung sichtbar zu machen, ist eine der zentralen Aufgaben interdisziplinärer Forschungsformate wie PriBizz.

Die zentrale wissenschaftliche wie politische Aufgabe besteht darin, diesen Transformationsprozess aktiv zu gestalten, statt ihn nur reaktiv zu regulieren. Dies erfordert eine enge Zusammenarbeit zwischen Technik, Recht, Ethik und Ökonomie – sowie den Mut, unbequeme Fragen zu stellen: Wem gehören die Daten? Wer kontrolliert die Algorithmen? Und wer trägt Verantwortung, wenn algorithmische Systeme Entscheidungen mit realen Konsequenzen für Menschen treffen?

Dieser Beitrag basiert auf den Ergebnissen eines interdisziplinären Workshops vom 18. Februar 2026 sowie auf qualitativen Interviews, die im Rahmen des Projekts PriBizz erhoben wurden. Das Projekt wird vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) gefördert und untersucht datengetriebene Geschäftsmodelle in der Webanalyse im Einklang mit informationeller Selbstbestimmung. Alle Zitate aus dem Workshop-Transkript wurden sinnwahrend leicht geglättet und anonymisiert.