Selbstbestimmung in der digitalen Gesellschaft

In einem Zeitalter, in dem überall Daten gesammelt und verarbeitet werden, scheint digitale Selbstbestimmung oft ein leeres Versprechen zu sein. Was es braucht, damit es doch gehalten wird, zeigt diese Grand Challenge auf.

Digitale Technologien durchdringen immer stärker alle Bereiche der Gesellschaft und führen zu einer zunehmenden Vielzahl an Daten. Diese Flut an Daten und deren systematische Verwertung bringen viele Vorteile und Potenziale mit sich. Sie sind die Basis für die Individualisierung unterschiedlicher digitaler Prozesse in der Aus- und Weiterbildung, der Unterhaltung oder dienen als Basis für moderne KI-basierte Assistenzsysteme wie ChatGPT, die Menschen auf vielseitige Weise unterstützen können.

Diese Vorteile und Potenziale kommen jedoch nicht ohne eine Vielzahl möglicher Risiken, die die Selbstbestimmung und Selbstentfaltung der Nutzenden in der digitalen Gesellschaft gefährden. Beispielsweise sind viele der gesammelten Daten personenbezogen und können dazu führen, dass die betroffenen Nutzenden gläsern, kategorisierbar und diskriminierbar werden. Die Verwendung der aus den Daten gewonnenen Erkenntnisse führt oft dazu, dass Nutzende mit Empfehlungen und Nudges konfrontiert werden, die versuchen, ihr Verhalten zu beeinflussen. Zum Teil werden so sogar Handlungsoptionen eingeschränkt, indem Nutzende nur noch die Inhalte zu sehen bekommen, die mit hoher Wahrscheinlichkeit auf Interesse stoßen.

Daher ist es eine zentrale Herausforderung, die Selbstbestimmung der Nutzenden in der digitalen Gesellschaft zu bewahren, ihre kritische Kompetenz zu stärken und gleichzeitig datengetriebene digitale Technologien stetig weiterzuentwickeln. Um diese Grand Challenge zu meistern, bedarf es eines interdisziplinären, soziotechnischen Ansatzes zur Gestaltung dieser Technologien. Dieser muss auf eine gesellschaftlich wünschenswerte Ausgestaltung abzielen und damit nicht nur partikulare, sondern alle Facetten individueller und gesellschaftlicher Interessen berücksichtigen. Diesen Ansatz sehen wir als erstrebenswerten europäischen Weg zwischen Datenkapitalismus und staatlicher Überwachung an, um die Selbstbestimmung der Nutzenden in der digitalen Gesellschaft zu erhalten und zu stärken.

Daten sind die Basis für die Individualisierung unterschiedlicher digitaler Prozesse etwa in der Aus- und Weiterbildung oder der Unterhaltung. Sie dienen auch als Basis für moderne KI-basierte Assistenzsysteme wie ChatGPT und zukünftige stetig verbesserte Systeme, die Menschen in vielen Bereichen unterstützen können. Diese Vorteile und Potenziale kommen jedoch nicht ohne eine Vielzahl möglicher Risiken, die die Selbstbestimmung der Nutzenden in der digitalen Gesellschaft gefährden.

Viele der gesammelten Daten sind personenbezogen und können ohne Selbstbestimmung zur Beeinträchtigung der Privatheit der betroffenen Nutzenden führen. Hinzu kommt, dass es für die Nutzenden kaum noch nachvollziehbar ist, auf welche Datenquellen diese Systeme zugreifen, wie hoch die Datenqualität ist und wie diese Daten dann genau (weiter-)verwendet werden, um Schlussfolgerungen zu ziehen und wie korrekt diese dann wirklich sind.

Durch die Ausnutzung der Datensammlungen besteht die Gefahr, dass Nutzende über die Zeit ihre Fähigkeit des kritischen Bewertens von Inhalten verlieren oder diese je nach Beginn der Nutzung gar nicht erst entwickeln können. Denn für diese Fähigkeit ist es wichtig, dass Nutzende mit einer Vielzahl an diversen Informationen konfrontiert werden, die sie kontinuierlich bewerten können müssen, um selbstbestimmt handeln zu können. Aus entsprechenden Forschungsarbeiten geht hervor, dass diese Fähigkeit – und damit die Basis für Selbstbestimmung – kontinuierlich aufgebaut und stetig reproduziert werden muss, damit sie nicht erodiert. Dieser sich bereits abzeichnende Trend könnte durch die fortschreitende Hybridisierung von menschlicher und künstlicher Intelligenz weiter verstärkt werden. Auch die Auslagerung aufwendiger und arbeitsintensiver Tätigkeiten wie die Recherche von Inhalten an KI-Systeme fördert diese Entwicklung, da Menschen nur noch mit den kondensierten Ergebnissen der KI weiterarbeiten.

Ein konkretes Beispiel für diese zunehmende Verzahnung von menschlicher und künstlicher Intelligenz bei der Erzeugung, Bearbeitung und Verwertung von Daten ist die stetig wachsende Rolle von Bewertungen in unserer Gesellschaft: Im Internet bewerten Menschen explizit durch Likes, Bewertungen, Rezensionen oder Meinungsäußerungen und Überzeugungen oder implizit durch ihr Verhalten. Beides wird von den Plattformen aufgezeichnet und verwendet, um künftige Bewertungen in unterschiedlichem Ausmaß rechnerisch zu unterstützen: ein hybrider Bewertungsprozess. Social Media Timelines, Empfehlungen und Rankings werden überwiegend automatisch generiert, wobei explizites und implizites Userfeedback genutzt wird, während politische Kontroversen in den sozialen Medien noch immer überwiegend mit vergleichsweise geringer rechnerischer Unterstützung diskutiert werden. Die Fülle der online verfügbaren Informationen hat zur Entwicklung erfolgreicher „Bewertungsplattformen“ in Form von sozialen Medien und Aggregatoren für viele Interessengebiete geführt. Ihre Kerntechnologien sind Empfehlungssysteme und Suchmaschinen, und ihr Erfolg hat zu einer ständigen Verfügbarkeit von Bewertungen für praktisch jedes Thema geführt. Dies wiederum hat die Entwicklung hin zu einer „Bewertungsgesellschaft“ beschleunigt, in der Bewertungen gegeben sind, erwartet werden und unsere Entscheidungen beeinflussen. Während die Mechanismen hybrider Bewertungsumgebungen bis heute kaum verstanden sind, wird der rasche Fortschritt der (generativen KI-)Technologien mit Sicherheit einen bedeutenden Einfluss auf ihre Wirkung haben.

Wichtig ist es zu verstehen, dass wir höchstwahrscheinlich erst am Anfang dieser Entwicklung stehen. Zukünftige KI-Systeme werden immer leistungsfähiger und in immer mehr Aufgabenfeldern eine Leistungsfähigkeit erreichen, die mit der menschlichen vergleichbar ist oder diese sogar übersteigt. Schon heute können verschiedene Anwendungen, etwa im IoT-Bereich, bereits autonom ohne menschliche Eingriffe agieren. Hieraus ergeben sich ethische Fragen: Wie wollen wir die Rolle des Menschen in der zukünftigen Gesellschaft interpretieren? Welche Implikationen hat dies für die Technikgestaltung? Wollen wir es Menschen nicht zugestehen, gewisse Dinge bewusst nicht digital zu erledigen – und wenn ja, wie wollen wir das in Zukunft effektiv sicherstellen?

Die hier angesprochene Gestaltung künftiger IT-Systeme erfordert auch eine kritische Auseinandersetzung mit unserem Verständnis von zentralen Begriffen wie Privatheit, Selbstbestimmung und Demokratie. Bedeutend ist die Beantwortung der Frage, wie wir sicherstellen können, dass diese Grundpfeiler sich in zukünftigen technischen Systemen manifestieren und damit in der zunehmend digitalen Gesellschaft weiterhin erhalten bleiben können.

Die Ausbreitung digitaler Technologie schreitet nicht nur in rasantem Tempo voran, sondern gestaltet die Gesellschaft auch tiefgreifend um. Die zentrale Herausforderung ist, diesen zugleich sozialen und technischen Gestaltungsprozess auf seine folgenreichen empirischen Dynamiken, konstruktiven Potenziale sowie normativen Implikationen hin interdisziplinär zu reflektieren. Dazu gehört auch, ihn mit kollaborativen Methoden zu erforschen sowie durch Modellbildungen und Prototypenentwicklung kreativ mitzugestalten. Dabei wird die Technikentwicklung nicht losgelöst von der Frage gesellschaftlicher Akzeptanz und Akzeptabilität gesehen. Es reicht auch nicht mehr aus, sich nur reaktiv auf moderne Informationstechnologie und ihre Folgen für Mensch und Gesellschaft zu beziehen. Nachhaltigkeit, gesellschaftliche Normen und Bedarfe und auch Folgenabschätzung sollen konstruktiv in den Gestaltungsprozess mit einfließen in einer interdisziplinären Gesamtsicht auf Mensch und Technik.

Für derart soziotechnische Technikentwicklung müssen Fachleute verschiedener Wissenschaftskulturen zusammenarbeiten, um methodisch strukturelle Lücken zu schließen und innovative Ideen und Erkenntnisse hervorzubringen. Dies erfordert insbesondere, dass nicht nur normative Lösungsansätze (beispielsweise aus Recht, Ethik oder Ergonomie), sondern auch theoretische (aus Recht, Wirtschaftswissenschaften, Soziologie, Psychologie), empirische (aus Arbeitswissenschaft, Recht, Wirtschaftsinformatik), analytische und konstruktive (aus Informatik, Wirtschaftsinformatik, Recht) Lösungsansätze gefunden und zu einem einheitlichen Bild zusammengefügt werden müssen.

Der erforderliche interdisziplinäre Diskurs ist eine Herausforderung für sich. Trotz aller Bekenntnisse zur interdisziplinären Kooperation in der Technikgestaltung sind die Probleme der disziplineigenen Begriffswelten und Sprachen, der Heterogenität der Anforderungen aus verschiedenen Disziplinen, der zeitlichen Synchronisation der domänenspezifischen Beiträge, fehlender Brückenkonzepte und mangelnder gemeinsamer Theorien und Methoden im Grunde noch weitgehend ungelöst. Auf materieller Ebene sind viele Zielkonflikte aufzulösen. Individuelle und kollektive Selbstbestimmung vor ungerechtfertigter und technikunterstützter Beeinflussung zu schützen, muss in Einklang gebracht werden mit den Möglichkeiten, diese Selbstbestimmung technisch zu unterstützen und zu fördern. Hierfür sind Lösungen vor allem in Konzepten und Vorschlägen zur Gestaltung von Informationstechnik zu suchen.

Ebenso schwierig ist die Aufgabe, solche Lösungskonzepte und -vorschläge in der Praxis umzusetzen. Hierfür sind vor allem Wege zu finden und auszugestalten, wie interdisziplinäre Anforderungen und Zielsetzungen in informatische Kriterien, Regeln und Routinen der Systementwicklung und Programmierung umgesetzt werden können. Sollen diese Technikentwicklungen Selbstbestimmung schützen und fördern, müssen aber auch die individuellen und gesellschaftlichen Rahmenbedingungen der Techniknutzung berücksichtigt und ebenfalls gestaltet werden. Die betrifft unter anderem die verwendeten Geschäftsmodelle, die rechtlichen Rahmensetzungen, die Nutzungskompetenzen, die Nutzungsmotivationen, die gesellschaftlichen Nutzungszusammenhänge und die politischen Zielsetzungen. Es müssen Wege aufgezeigt werden, wie Technik, Individuen und Gesellschaft sich gemeinsam und aufeinander abgestimmt entwickeln können.

Bei der Gestaltung digitaler Selbstbestimmung handelt es sich um eine Aufgabe, die sich mit dem fortlaufenden Wandel der digitalen Gesellschaft immer wieder neu stellt. Wir gehen daher davon aus, dass auch die entwickelten Lösungsansätze und Best Practices sich im Laufe der Zeit immer wieder an die gesellschaftlichen Gegebenheiten anpassen müssen.

Die Diskussion um das Selbstbestimmungsrecht reicht zurück bis zur Frage der Religionsfreiheit im 18. Jahrhundert. Seitdem hat sich das Verständnis der Selbstbestimmung stark erweitert. In das Grundgesetz ist sie in Art. 2 als Recht auf freie Entfaltung der Persönlichkeit eingegangen. Mit dem Aufkommen der Informationstechnologie wurde die Frage relevant, welchen Einfluss die Digitalisierung auf das Selbstbestimmungsrecht hat und wie dieses Verhältnis gesellschaftlich wünschenswert gestaltet werden kann. Ein großer Meilenstein war die Anerkennung des Rechts auf informationelle Selbstbestimmung im Volkszählungsurteil des Bundesverfassungsgerichts 1983. Seitdem hat sich der Schutz personenbezogener Daten deutlich weiterentwickelt; etwa juristisch als Datenschutzgrundverordnung der EU oder informatisch mit dem Aufkommen des Forschungsgebiets Privacy-Preserving Data Mining. Im Laufe der Zeit wurde außerdem erkannt, dass Selbstbestimmung in der digitalen Gesellschaft sich nicht auf Datenschutzfragen reduzieren lässt. Um in einer bestimmten Situation selbstbestimmt entscheiden zu können, muss eine Reihe von weiteren Kriterien erfüllt sein. So müssen beispielsweise Alternativen zur Auswahl gegeben und die Kompetenz und das benötigte Wissen für eine geeignete Wahl vorhanden sein sowie muss das soziale, organisatorische und technische Umfeld die Wahl auch im praktischen Handeln erlauben.

Hieraus entstanden in der Informatik verschiedene Forschungsbereiche, wie kollaborative Software, Explainable AI und Trustworthy AI. Um die nichttechnischen Anforderungen adäquat berücksichtigen zu können, ist ein möglicher Ansatz das frühe Einbeziehen der Betroffenen in die Entwicklung von soziotechnischen Systemen im Sinne einer partizipativen IT-Gestaltung. Die interdisziplinäre Forschung zur Erarbeitung integrativer Lösungen steht hier erst am Anfang, ihr Bedarf ist jedoch erkannt. So fördert beispielsweise das BMBF mit der Plattform Privatheit seit einigen Jahren Forschung im Themenfeld „Privatheit und Selbstbestimmung in der digitalen Welt“.

Das übergeordnete Kriterium ist das Zusammenspiel von Akzeptanz und Akzeptabilität. Dabei gilt die Entwicklung eines IT-Systems als gesellschaftlich wünschenswert, wenn das Ergebnis einerseits Akzeptanz erfährt und andererseits normativen Bedingungen der Akzeptabilität genügt. Akzeptanz bezieht sich auf die empirisch feststellbare Bereitschaft der Nutzenden, die untersuchte IT-Anwendung zu verwenden. Akzeptabilität umfasst die Vereinbarkeit der prognostizierten Auswirkungen von IT mit demokratisch auszuhandelnden Werten und Normen. Sowohl die empirischen Kriterien für die Akzeptanz als auch die normativen Kriterien für die Akzeptabilität müssen für jede Anwendung jeweils neu und für jede Disziplin spezifisch konkretisiert werden. Sie werden sich darüber hinaus nicht nur im Laufe der Zeit verändern, sondern unter Umständen auch miteinander konkurrieren. Beispielsweise sind bei einem Empfehlungssystem die Anforderung einer möglichst hohen Klassifikationsgüte und die Anforderung der Datensparsamkeit im Allgemeinen gegenläufig. Ein allgemein anwendbares Gütemaß, dass alle Dimensionen berücksichtigt, gibt es ebenso wenig wie ein vorgegebenes Regelwerk oder Best Practices zur Auflösung solcher Konflikte. Die Beteiligten müssen vielmehr ihre Interessen bzw. die Interessen derjenigen, die sie vertreten, in Einklang bringen.

Eine Überprüfung, ob ein Zwischenziel zu mehr Selbstbestimmung erreicht worden ist, kann allenfalls an einer Reihe vorbildlicher Realisierungen von Informationstechniksystemen erfolgen, die zu mehr individueller und kollektiver Selbstbestimmung beigetragen haben. Insofern können sie als leuchtendes Beispiel für andere Technikgestaltungen wirken. Für sie könnte überprüft werden, inwieweit die Akzeptanz und die Akzeptabilität hinsichtlich der Stärkung und Förderung von Selbstbestimmung erreicht wurde.

Die Herausforderung der Gestaltung von Selbstbestimmung in digitalen Gesellschaften findet sich in allen Aspekten unseres Zusammenlebens, die von Informationstechnologie begleitet werden. Das Spektrum ist entsprechend breit und umfasst beispielsweise so verschiedene Bereiche wie soziale (Online-)Netzwerke, digitale Geschäftsmodelle, Smart Cities und Mobilität, die Digitalisierung der Arbeitswelt und die Gestaltung hybrider Intelligenz.

Welche Lösungen hier jeweils gefunden werden, hängt zentral davon ab, von wem und aus welchem Gesellschaftsverständnis heraus die Kriterien für Akzeptanz und Akzeptabilität gesetzt werden. So zeichnen sich etwa in den Vereinigten Staaten oder China Entwicklungen ab, bei denen im ersten Fall einige wenige machtvolle Konzerne weite Teile des gesellschaftlichen Lebens unter ihre Regie zu bringen vermögen, während im zweiten Fall eine starke Erweiterung staatlicher Überwachung stattfindet. Beides ist für Europa kein wünschenswerter Weg. Es stellt sich deshalb hierzulande verstärkt die Frage, ob und wie durch Leitlinien einer fairen Werte-Balance ein drittes Gestaltungsparadigma geschaffen werden kann, das nicht nur normativ akzeptabel, sondern zudem ökonomisch tragbar ist oder sich sogar als wirtschaftlich weitsichtig erweist.

Autor*innen

Prof. Dr. Claude Draude ist Professorin für Partizipative IT-Gestaltung an der Universität Kassel, Gründungsmitglied der Fachgruppe Partizipation im GI-Fachbereich Mensch-Computer-Interaktion und Mitglied im GI-Fachbereich Informatik und Gesellschaft.

Prof. Dr. Alexander Roßnagel ist Hessischer Beauftragter für Datenschutz und Informationsfreiheit. Er war Professor für Öffentliches Recht, insb. Umwelt- und Technikrecht, an der Universität Kassel und langjähriger Leiter der GI-Wahlen. Er ist GI-Fellow und Mitglied im Fachbereich Informatik und Recht in öffentlicher Verwaltung.

Prof. Dr. Mathias Söllner ist Professor für Wirtschaftsinformatik und Systementwicklung an der Universität Kassel und Mitglied in den GI-Fachbereichen Mensch-Computer-Interaktion sowie Wirtschaftsinformatik

Prof. Dr. Gerd Stumme ist Professor für Informatik an der Universität Kassel und Gründungsmitglied in hessian.AI, dem hessischen Zentrum für Künstliche Intelligenz. Er ist Mitglied im GI-Fachbereich Künstliche Intelligenz sowie im GI-Wahlausschuss.

Alle vier Autor*innen sind Direktor*innen des Wissenschaftlichen Zentrums für Informationstechnik-Gestaltung (ITeG) [11] der Universität Kassel.

Mitautor*innen

Wissenschaftliches Zentrum für Informationstechnik-Gestaltung, Universität Kassel:

• Prof. Dr. Klaus David, Informatik (stellv. Sprecher GI-FG Kommunikation und verteilte Systeme)
• Prof. Dr. Kurt Geihs, Informatik
• Prof. Dr. Oliver Hohlfeld, Informatik
• Prof. Dr. Gerrit Hornung, Recht (Vorsitzender des GI-Wahlausschusses)
• Prof. Dr. Jörn Lamla, Soziologie
• Prof. Dr. Jan Marco Leimeister, Wirtschaftsinformatik
• Prof. Dr. Sandra Ohly, Psychologie
• Prof. Dr. Ludger Schmidt, Maschinenbau
• Prof. Dr. Bernhard Sick, Informatik

Unterstützer*innen

• Prof. Dr. Christina Class, Sprecherin FB Informatik und Gesellschaft
• Prof. Dr. Andreas Hotho, stellv. Sprecher FG Knowledge Discovery, Data Mining & Machine Learning
• PD Dr. Matthias Klusch, Sprecher FB Künstliche Intelligenz
• Prof. Dr. Andrea Knaut, stellv. Sprecherin FG Internet und Gesellschaft
• Prof. Dr. Michael Prilla, stellv. Sprecher FB Mensch-Computer-Interaktion
• Prof. Dr. Ulrich Reimers, stellv. Sprecher FG Wissensmanagement
• Prof. Dr. Ali Sunyaev, Sprecher FB Wirtschaftsinformatik
• Prof. Dr. Stefan Wrobel, Sprecher FG Knowledge Discovery, Data Mining & Machine Learning

Weiterführende Literatur:

[1] Draude, Claude; Gruhl, Christian; Hornung, Gerrit; Kropf, Jonathan; Lamla, Jörn; Leimeister, Jan Marco; Sick, Bernhard; Stumme, Gerd: Social Machines. In: Informatik Spektrum Bd. 45 (2022), Nr. 1, S. 38–42.

[2] Draude, Claude; Klumbytė, Goda; Lücking, Phillip; Treusch, Pat: Situated algorithms: a sociotechnical systemic approach to bias. In: Online Information Review Bd. 44 (2020), Nr. 2, S. 325–342.

[3] Horn, Viktoria; Draude, Claude: The Ladder of Data Citizen Participation: A Sociotechnical Lens for Designing Democratic Digital Services in the Data Economy. In: Interacting with Computers, Oxford University Press (OUP) (2024).

[4] Lamla, Jörn (2019): Selbstbestimmung und Verbraucherschutz in der Datenökonomie. Aus Politik und Zeitgeschichte (APuZ) 69 (24-26/2019). Datenökonomie, S. 49-54. https://www.bpb.de/shop/zeitschriften/apuz/292353/datenoekonomie

[5] Lamla, Jörn (2024). Consumer Participation through Digital Valuation Practices? On the Sociology of the Infrastructures of Consumer Participation. In: Hellmann, KU., Klein, A., Baule, B. (Hg.) Consumer Policy from Below. Springer, Wiesbaden. https://doi.org/10.1007/978-3-658-44478-5_5

[6] Hintz, Arne; Dencik, Lina; Wahl-Jorgensen, Karin: Digital citizenship in a datafied society. John Wiley & Sons, 2018.

[7] Mau, Steffen: Das metrische Wir: Über die Quantifizierung des Sozialen. Berlin : Suhrkamp Verlag, 2017

[8] Mühlhoff, Rainer (2022): Prädikative Privatheit: Kollektiver Datenschutz im Kontext von Big Data und KI. In: Friedewald, M./Roßnagel, A./Heesen, J./Krämer, N./Lamla, J. (Hg.): Auswirkungen der Künstlichen Intelligenz auf Demokratie & Privatheit. Baden-Baden: Nomos, S. 31-58.

[9] Roßnagel, Alexander; Michael Friedewald (Hrsg.) Die Zukunft von Privatheit und Selbstbestimmung, Analysen und Empfehlungen zum Schutz der Grundrechte in der digitalen Welt, Springer Verlag DuD-Fachbeiträge, Berlin 2022, 304 S. – Open Access

[10] Seyfert, R.; Roberge, J. (Hrsg.): Algorithmuskulturen. Über die rechnerische Konstruktion der Wirklichkeit. Bielefeld : transcript, 2017 — ISBN 978-3-8394-3800-8

[11] www.uni-kassel.de/forschung/iteg/