Den Datennebel lichten. Neue europäische Regeln könnten die Forschung zu digitalem Rechtsextremismus erleichtern

Mit dem Digital Services Act der Europäischen Union müssen große Online-Plattformen künftig Zugänge für die Wissenschaft anbieten. Ein potentieller Meilenstein für die Erforschung des digitalen Rechtsextremismus. Es gilt aber einige Dinge zu beachten, damit das neue Gesetz nicht zum Papiertiger verkommt. Jan Rau hat sie zusammengefasst.

An english version of this post is available at the Media Research Blog (Leibniz-Institut für Medienforschung│Hans-Bredow-Institut).

Illustration: Mathias Rodatz & midjourney

Online-Plattformen sollen transparenter werden. Das ist eines der Ziele des Digital Services Act (DSA, Gesetz über digitale Dienste), des bislang ambitioniertesten EU-Rechtsakts der Plattformregulierung. Es wird ab Februar 2024 vollständig anwendbar sein und (auch) von der Forschung mit Spannung erwartet. Denn: Der DSA sieht als zentrale Maßnahme in seinem Artikel 40 für Anbieter sehr großer Online-Plattformen oder sehr großer Online-Suchmaschinen die verpflichtende Einführung sogenannter »Forschungsdatenzugänge« vor. Ein potentieller Meilenstein für die Forschung zu zentralen Phänomenen im Kontext digitaler Medien – beispielsweise Desinformationen, gesellschaftliche Polarisierung oder auch dem digitalen Rechtsextremismus.

Bisher war die Forschung zu diesen Themen auf einzelne nationale Gesetzgebungen wie § 5a des Netzwerkdurchsetzungsgesetzes (NetzDG), auf kommerzielle Angebote der Plattformen und auf freiwillig von den Plattformen für Forschung bereitgestellte (aber in ihrem Umfang oft ungenügende) Datenzugänge angewiesen – oder auf das selbstständige und ungefragte Auslesen der Daten durch die Forschenden (scraping). Diese Varianten brachten unterschiedliche Herausforderungen mit sich, darunter unzureichender Umfang und Tiefe des Datenzugangs, mangelhafte Kooperation der Plattformen sowie Rechtsunsicherheiten beim scraping. Von vielen problematischen Phänomen im Kontext digitaler Plattformen haben Öffentlichkeit und Forschung in der Vergangenheit daher erst durch leaks erfahren. Eine angemessene und systematische Einschätzung potentieller Herausforderungen war und ist somit kaum möglich. Gleichzeitig fehlt hierdurch die Grundlage für angemessene gesellschaftliche und politische Reaktionen auf problematische Entwicklungen in diesem Kontext. Der DSA will dies nun ändern. Er will zumindest die größten Plattformen verpflichten, Forschungszugänge einzurichten.

Die genaue Ausgestaltung des vorgesehenen Zugangs ist noch offen und wird nach Art. 40, Abs. 13 des DSA durch die Europäische Kommission konkretisiert. Um diesen Prozess voranzutreiben, hat die Kommission Ende April einen Call for Evidence veröffentlicht, der unter anderem konkrete Bedarfe der Forschung an einem solchen Zugang abfragt. Forschende des Hamburger Standorts des FGZ und des Leibniz-Instituts für Medienforschung│Hans-Bredow-Institut (HBI) haben sich dazu im Arbeitspapier »Rechtsextreme Online-Kommunikation in Krisenzeiten. Herausforderungen und Interventionsmöglichkeiten aus Sicht der Rechtsextremismus- und Platform-Governance-Forschung« bereits für das Feld der digitalen Rechtsextremismusforschung geäußert. Mit Blick auf die erforderliche Konkretisierung des DSA lassen sich folgende Bedarfe aus der (zukünftigen) Forschungspraxis formulieren:

Transparente Datenverfügbarkeit

Forscher:innen können die im DSA vorgesehenen Forschungsdatenzugänge nur dann sinnvoll nutzen, wenn sie wissen, welche Daten eigentlich bei den jeweiligen Plattformen verfügbar sind. Ein erster Schritt könnte daher ein Verzeichnis sein, das bereits erfolgte Abfragen von Forschenden sowie die Art der daraufhin zur Verfügung gestellten Datenpunkte für andere Forschende einsehbar macht.

Ausreichende Datenraten

Platform APIs, also von den Plattformen zur Verfügung gestellte Schnittstellen zur Datenabfrage, sind in der Regel mit sogenannten rate limits (Menge an Datenpunkten, die pro Minute/Stunde/Tag usw. abgerufen werden können) begrenzt. Sind die rate limits zu niedrig angesetzt und können nicht erhöht werden, kann dies eine angemessene Durchführung des Forschungsprojekts erheblich erschweren oder gar unmöglich machen. Entsprechend großzügig gesetzte rate limits sind also eine Grundvoraussetzung, damit der Forschungsdatenzugang im DSA ein Erfolg werden kann.

Private Accounts und geschlossene Gruppen

Auf »privat« gestellte oder geschlossene Accounts und Communities bilden einen entscheidenden Teil rechtsextremer digitaler Gegenöffentlichkeiten, insbesondere dann, wenn sie trotz ihres privaten Status eine substanzielle Größe mit tausenden von Mitgliedern gewinnen. Gleichzeitig sind sie – unter anderem aufgrund von Datenschutzbemühungen – bisweilen von etablierten Datenzugangsmöglichkeiten (bspw. kommerziellen APIs) ausgeschlossen. Während ein besserer Schutz der Privatsphäre der Nutzer:innen generell zu begrüßen ist, stellen diese Einschränkungen für die Extremismusforschung eine große Herausforderung dar. Es muss überprüft werden, inwiefern diese Barrieren bei besonders relevanten Accounts oder Gruppen unter Beachtung von Datenschutzbestimmungen und anderen ethischen Herausforderungen gesenkt werden können, beispielsweise wenn die Accounts oder Gruppen eine erhebliche Reichweite entwickeln.

Reichweite von Inhalten

Views, impressions, engagement, clicks und ähnliches Einheiten zur Messung der Reichweite von Beiträgen sind in etablierten Datenzugängen meist nicht enthalten. Sie bilden für Forscher:innen aber eine essentielle Grundlage zur tatsächlichen Reichweitenbestimmung von Inhalten oder Akteur:innen und damit zu zur Einordnung ihrer Bedeutung.

Gründe für Reichweite oder Wachstum

Hierbei geht es insbesondere um die Frage, inwiefern Design- und Content-Entscheidungen der Plattformen (bspw. durch automatisierte Vorschlagsfunktionen oder algorithmische Kuratierung in der Timeline) die Reichweite bestimmter Inhalte oder das Wachstum bestimmter Communities künstlich verstärkt haben. Wissenschaftler:innen benötigen Einblicke in die verwendeten Mechanismen und ihre Wirkungen.

Effektivität von Steuerungsmechanismen

Eingriffe der Content Moderation können ungewollte Nebeneffekte entwickeln. So kann beispielsweise das Flagging von problematischen Inhalten ihnen zu mehr Aufmerksamkeit verhelfen – ein paradoxer Effekt, der nicht im Sinne der Moderation ist. Um die Wirksamkeit von Interventionen und Werkzeugen unabhängig überprüfen zu können, müssen die entsprechenden Datenpunkte zugänglich sein.

Kooperationen und forschungsexperimentelle Zugänge

Anbieter sollten mit Forschenden bei der Erprobung neuer Werkzeuge und Steuerungsmechanismen zusammenarbeiten. Forschungsexperimentelle Zugänge könnten die Forschung hinsichtlich möglicher Interventionen erleichtern und eine direkte Überprüfbarkeit der Effektivität neuer Interventionsformen ermöglichen. Eingebettet in angemessene ethische und rechtliche Rahmenbedingungen, können solche Zugänge eine entscheidende Säule im Umgang mit problematischen Entwicklungen im Kontext digitaler Plattformen darstellen.

Gesperrte oder gelöschte Inhalten

Moderationseingriffe im Kontext des digitalen Rechtsextremismus finden oft mit großer Verzögerung statt. Forscher:innen müssen deshalb auch rückwirkend Zugriff auf entsprechende Daten haben, um mögliche problematische Entwicklungen bis zur Intervention nachvollziehen zu können.

Nachvollziehbarkeit von Moderationsentscheidungen

Wissenschaftler:innen muss es möglich sein, Moderations-Entscheidungen nachzuvollziehen. Dazu müssen Plattformen ihnen den Zugang zu entsprechenden Daten und den zugrundeliegenden Entscheidungskriterien gewähren.

Methodische Transparenz

Auch die Herstellung der von den Plattformen angebotenen Daten muss transparent sein, damit Forscher:innen die angewandten Techniken und Methoden bei der Generierung von Datenpunkten zu views oder impressions nachvollziehen und mit anderen Plattformen vergleichen können (bspw. ab wie viel gesehen Sekunden ein entsprechender Datenpunkt gezählt wird). Nur so ist die Aussagekraft und Bedeutung der Daten verlässlich einzuschätzen.

Weiterverwendungsmöglichkeiten der Daten

Löschpflichten bestimmter Datenpunkte können mit den Regeln guter wissenschaftlicher Praxis in Konflikt stehen, die die Aufbewahrung von Datenpunkten (bspw. 3,5 oder 10 Jahre) vorsehen. Wissenschaftliche Gütekriterien müssen bei der Datenbereitstellung im Kontext des DSA jedoch mitgedacht werden. So sind ebenfalls Möglichkeiten zur unabhängigen wissenschaftlichen Überprüfung (u. a. Reproduzierbarkeit der Forschung) zu eröffnen. Eine wesentliche Frage ist auch, inwiefern bereitgestellte Daten als Trainingsdaten für computergestützte wissenschaftliche Analysen (bspw. mit Verfahren des maschinellen Lernens) verwendet werden dürfen.

Ansprechpartner:innen und Unterstützung durch die Plattformen

Im Kontext der Extremismusforschung entstehen spezifische Bedarfe, die einen direkten Kontakt mit der Plattform erfordern können, beispielsweise wenn die Plattform Forschungs-Accounts wegen vermeintlich verdächtigen Verhaltens (etwa wiederholtes Engagement mit problematischen Inhalten) sperrt. Forscher:innen benötigen konkrete Ansprechpartner:innen bei den Anbietern, um solche Eingriffe und andere Probleme zu benennen und zu lösen.

Dauerhafte Forschungsdaten

Aktuelle sehen Nutzungsbedingungen teilweise vor, dass Inhalte auch aus bereits erstellten externen Datensammlungen (bspw. Forschungsdatensammlungen) gelöscht werden müssen, wenn deren Originale von den Plattformen oder von Nutzer:innen gelöscht werden. Diese Forderung ist nicht nur technisch äußerst schwierig umzusetzen, sondern widerspricht auch grundlegenden Forschungsinteressen der Rechtsextremismusforschung. Im Kontext der Forschungsdatenzugänge des DSA sollte sichergestellt werden, dass entsprechende Datenpunkte unter Beachtung angemessener ethischer und rechtlicher Standards weiterhin genutzt werden können.

Schutz vor staatlichem Zugriff

Eine generelle Herausforderung in der Extremismusforschung ist ein potenzielles spezielles Wissen der Forschenden in Bezug auf illegale, möglicherweise strafbare Aktivitäten. Ein erzwungenes Mitwirken der Forschenden an der Strafverfolgung solcher Aktivitäten ist abzulehnen, da dies zu einer erheblichen Limitierung und Selbst-Einschränkung von Forschungsaktivitäten führen kann. Dies ist gerade in gesellschaftlich höchst relevanten Bereichen wie der Extremismus- und Präventionsforschung als problematisch anzusehen.

Die im DSA angekündigten verpflichtenden Forschungsdatenzugänge für große Online-Plattformen können eine Revolution in der systematischen Erforschung problematischer Phänomene wie dem digitalen Rechtsextremismus darstellen und somit eine entscheidende Säule in dessen Bekämpfung bilden. Damit das Vorhaben jedoch nicht zum Papiertiger verkommt, müssen die aufgeführten Punkte in der nun erforderlichen Konkretisierung Beachtung finden. Nur so kann sichergestellt werden, dass die Forschungsdatenzugänge auch tatsächlich hochwertige und umfassende Forschung zur Lichtung des Datennebels ermöglichen.

---

Jan Rau ist seit August 2020 im Media Research Methods Lab des Leibniz-Institut für Medienforschung │Hans-Bredow-Institut (HBI) für das (Social) Media Observatory des Forschungsinstitut Gesellschaftlicher Zusammenhalt tätig. Er besitzt einen MSc Social Science of the Internet vom Oxford Internet Institute und hat in der Vergangenheit mit dem Institute for Strategic Dialogue, dem GESIS – Leibniz-Institut für Sozialwissenschaften, der Universität Princeton und dem Oxford Internet Institute zusammengearbeitet. Seine Forschung beschäftigt sich unter anderem mit digitalen Echokammern und gesellschaftlicher Polarisierung, der Manipulation von öffentlicher Meinung im Internet und rechten Bewegungen im Netz.

---

---