Während der mexikanischen Wahlen mussten sich die beiden wichtigsten Kandidatinnen mit einer Reihe von falschen Nachrichten herumschlagen. Morenas Kandidatin Claudia Sheinbaum sei eigentlich gar keine Mexikanerin, sondern Bulgarin, hieß es in den sozialen Medien, während die konservative Kandidatin Xóchitl Gálvez angekündigt habe, die populären Sozialprogramme restlos zu streichen. Beide Kandidatinnen dementierten umgehend und beschuldigten sich gegenseitig, die andere zu diffamieren. Auch im Rahmen der umstrittenen Wahl in Venezuela wurden die sozialen Medien von irreführenden Videos geflutet. Protestvideos aus Nairobi wurden als Demonstrationen gegen die Regierung Maduro dargestellt, auf der anderen politischen Seite sollten gefälschte Meinungsumfragen von internationalen Organisationen einen Wahlsieg Maduros untermauern. Die Regierung reagierte dann mit einer Sperre diverser Fact-Checking-Seiten für Venezuela.

Vor allem während umkämpfter Wahlen boomen die Falschnachrichten in den sozialen Medien. Die Frage, was genau Fake News ausmacht und ab wann verleumderische Berichterstattung illegal ist, ist dabei gar nicht so einfach zu beantworten. Zunächst versuchen Interessengruppen grundsätzlich – aber vor allem in Gesellschaften mit halbwegs funktionierender Informationsfreiheit – die Narrative zu beeinflussen, um ihre politischen Agenden voranzutreiben. In den Sozialwissenschaften behaupten einige Vertreter*innen der postmodernen Theorie gar, dass es so etwas wie Wahrheit gar nicht gebe, sondern nur verschiedene Narrative und dazu unterschiedliche Systeme, wann etwas als wahr gilt und wann eben nicht. Wenn man von derartigen Gedankenexperimenten absieht, ist es dennoch fraglich, welche Institution genau die Grenzen festlegen sollte, in denen Nachrichten noch akzeptabel sind. Ist es die Regierung? Große Tech-Unternehmen? Ihre dubiosen Besitzer? Der freie Markt? Gäbe es eine gesellschaftliche Alternative?

Deutlich ist, dass Desinformation inzwischen ein eigener Geschäftszweig ist – eine mindestens teilweise illegale Ökonomie. Die in Costa Rica ansässige Organisation CLIP (Lateinamerikanisches Zentrum für investigativen Journalismus) brachte 2023 eine umfangreiche Recherche unter dem Titel „Digitale Söldner“ heraus, die etwas Licht in das Dunkel der falschen Nachrichten bringt.

Gestern Propaganda, heute Fake News

Spätestens mit der Wahl von Donald Trump 2016 wird in internationalen Medien hitzig über Fake News und die Gefahr der modernen Manipulation diskutiert. Zwar hat es auch in der Vergangenheit falsche Berichterstattung und Versuche, die öffentliche Meinung zu manipulieren, gegeben, aber das Aufkommen sozialer Medien hat das Phänomen grundlegend verändert. Falsche und manipulative Berichterstattung hieß im 20. Jahrhundert noch Propaganda. In erster Linie war damit staatliche Berichterstattung gemeint, die über Massenmedien verbreitet wurde. Diese Medien müssen dabei aber kontrolliert sein oder die Bewegung unterstützen – ein Phänomen, das auch nicht gänzlich verschwunden ist: Enrique Peña Nieto als Vertreter der ehemaligen Diktaturpartei PRI konnte dank der Unterstützung des Fernsehens, insbesondere des Senders Televisa, in Mexiko Präsident werden, und auch der Aufstieg Daniel Ortegas in Nicaragua wäre nicht ohne seinen Pakt mit dem Geschäftsmann und Medienbesitzer Ángel González zu denken gewesen.

Über Social Media verändert sich nun aber die Mediennutzung. Zunächst wirken die sozialen Medien wie eine Dezentralisierung der Berichterstattung, was aber aufgrund des Privatbesitzes und der quasi-monopolistischen Stellung der großen Tech-Konzerne neue Zentralisierungen schafft. Begrifflich wird zwischen Fehlinformation (engl. misinformation) und Desinformation unterschieden. Fehlinformation bezeichnet eine fehlerhafte Nachricht, die sich verbreitet, aber keine Agenda verfolgt. Desinformation hingegen hat die Absicht, Menschen vorsätzlich zu täuschen, und wird daher gezielt verbreitet. Dazu kommt, dass sich Falschmeldungen sogar schneller verbreiten als richtige Informationen. Forscher*innen des Massachusetts Institute of Technology MIT haben 2018 über 126000 Threads auf Twitter untersucht, die insgesamt über 4,5 Millionen Mal geteilt wurden, und fällten das vernichtende Urteil: „Falschinformationen verbreiteten sich signifikant weiter, schneller, tiefer und breiter als die Wahrheit in allen Informationskategorien, und diese Effekte treten deutlicher bei falschen politischen Nachrichten hervor.“ Solche Forschung wird dadurch erschwert, dass unabhängige Wissenschaftler*innen nur eingeschränkten Zugang zu den Daten der Netzwerke erhalten, die diese als ihren Privatbesitz behandeln.

Der digitale Söldner Nr. 1

Systematische Forschung ist daher nicht gewollt und kaum möglich, weswegen journalistische Recherchen wie von CLIP umso wichtiger sind. In der ersten Reihe der digitalen Söldner steht der Argentinier Fernando Cerimedo. Er pflegt enge Verbindungen zu rechtspopulistischen Figuren wie Javier Milei und Jair Bolsonaro und legte in den letzten Jahren eine rasante Karriere hin. Eine starke Rolle hatte er bei der Ablehnung der chilenischen Verfassungsreform, dem sogenannten Rechazo. Öffentlich tauchte er als Mitinhaber der Firma Numen Spa auf. Diese veröffentlichte eine Umfrage, nach der angeblich die Mehrheit der Chilen*innen den Textvorschlag der neuen Verfassung ablehnten – wenngleich ein Großteil der Umfragen das zuvor anders dargestellt hatte.

Dazu konnten entsprechende Artikel in den sozialen Medien strategisch eine Relevanz vortäuschen, die sie offenbar nur durch die Bots (computergesteuerte Social-Media-Konten) bekamen. Man erhoffte sich, unentschlossene Wähler zu mobilisieren und den Sieg der Verfassungsreform noch abzuwenden. Als die Umfrageergebnisse genauer überprüft wurden, versuchte Cerimedo, dies als Fehler in der Darstellung umzudeuten. Später räumte er ein, dass die Umfrage von einer Person der Rechazo-Kampagne in Auftrag gegeben wurde. In anderen Interviews gab er unverhohlen zu, dass er ein Netzwerk an Bots verwalte, die er nutze, um auf die Themendarstellung Einfluss zu nehmen.

Während Cerimedos Name vor allem mit den rechtsradikalen Bewegungen Lateinamerikas verbunden wird, werden Fake News auch von linksautoritären Strömungen verwendet. CLIP berichtet beispielsweise über César Hernández und seine Firma Neurona, die sowohl für Andrés Manuel López Obrador in Mexiko als auch für Nicolás Maduro in Venezuela Bot-Kampagnen organisiert haben soll.

Die Bertelsmann Stiftung zeigt in einer jüngst herausgegebenen Studie, warum es in Lateinamerika so gut gelingt, derartige Kampagnen durchzuführen. Der in weiten Teilen gemeinsame Sprachraum ermöglicht es den Desinformationsagenturen, ihre Bot-Netzwerke länderübergreifend einzusetzen. Traditionell gibt es in den meisten Ländern Lateinamerikas hohes Misstrauen gegenüber den großen Medien und den politischen Eliten. Und auch in Lateinamerika kontrollieren die internationalen Tech-Konzerne die Netzwerke. Ihre Relevanz sichern sie durch sogenannte Zero-Rating-Angebote. Das bedeutet, dass soziale Medien wie WhatsApp und Facebook benutzt werden können, ohne dass die Nutzer*innen für Datenvolumen bezahlen, obwohl die meisten Länder sich eigentlich der Netzneutralität verpflichten. Anders gesagt: Die Netzwerke sind kostenlos zugänglich, während für andere Informationsquellen abgerechnet wird. Neben Instagram, Facebook und WhatsApp wird nun auch Tiktok immer relevanter.

Strategien gegen Fake News

Wie kann man Fake News begegnen? Einerseits bringen regulierende Eingriffe in die Informationsfreiheit durch staatliche Stellen Missbrauchspotenzial mit sich. Laut der Bertelsmann Stiftung haben bislang nur drei Länder – Cuba, Nicaragua und Costa Rica – klare Gesetze zur Bekämpfung von Desinformation erlassen, während andere Regierungen hauptsächlich auf Empfehlungen setzen oder gerade erst Entwürfe für Gesetze entwickeln. Die Plattformen selbst scheinen wenig Interesse daran zu haben, gegen Falschinformationen vorzugehen, da diese auch Teil ihres Geschäftsmodells sind. Betrachtet man Informationen als gesellschaftliches Gut, liegt der Zugriff auf die Algorithmen und damit die Logik der Verbreitung in privater Hand, was die Willkür einzelner Personen begünstigt.

Elon Musk, der nun auch persönlich im US-Wahlkampf mitmischt, ist ein passendes Beispiel. In Brasilien eskalierte der Streit um die Sperrung von Konten, die Falschmeldungen verbreitet hatten (siehe ila 479). Der Richter des Obersten Bundesgerichts, Alexandre de Moraes, ordnete die Sperrung von 140 Konten an, was Musk mit einem Verweis auf die Informationsfreiheit ablehnte und mit einer Tirade beantwortete. (Dass es Musk dabei nicht um den Schutz des freien Informationsflusses geht, zeigen seine Reaktionen auf kritische Berichte über ihn selbst.) Brasilien blockierte daraufhin X und verdonnerte es zu einer Millionenstrafe. Nach einem Monat gab Musk nach und kam den Forderungen nach. Letztlich haben Regierungen also auch Mittel, gegen die Konzerne vorzugehen. Der Aufwand ist aber gewaltig. Schon um nur 140 Konten zu sperren, musste der brasilianische Staat erst das Netzwerk verbieten, ehe die Plattform kooperierte. Das nützt den Verbreiter*innen der Desinformation.

Chile versucht, dem Phänomen der Desinformation mit einem breiten Ansatz zu begegnen. Dazu hat die Regierung eine Kommission aus Vertreter*innen der Wissenschaft und Zivilgesellschaft einberufen, die 72 Empfehlungen zur Bekämpfung von Desinformation auf digitalen Plattformen entwickelt hat. Zu den vorgeschlagenen Maßnahmen gehören die Transparenz von Algorithmen, die Unterstützung von Faktenprüfer*innen sowie die Förderung der Medienkompetenz. Zudem sollen die Aufsichtsbehörden mehr Befugnisse erhalten, um gegen Desinformations­kampagnen in Wahl­prozessen vorzugehen. Es wird aber auch deutlich, dass insbesondere in Lateinamerika nationale Lösungen allein nicht ausreichen werden.

Die rasante technologische Ent­wicklung wird den Druck weiter erhöhen: Mit künstlicher Intelligenz wird es einfacher und schneller werden, gefälschte Nachrichten und Videos zu erstellen, und diese werden dazu noch realistischer wirken. Umso wichtiger werden verlässliche Prüfinstanzen, aber auch offene Algorithmen, die Missbrauch verhindern. Hier zeigt sich eine Schwachstelle, die nicht erst seit den sozialen Medien besteht: Nicht nur Staaten zensieren und greifen in die Pressefreiheit ein. Viele Medien liegen in den Händen weniger Einzelpersonen und Unternehmen. Besonders in Lateinamerika sind Massenmedien oft direkter Einflussnahme ihrer Besitzer ausgesetzt, was das generelle Misstrauen gegenüber Medien verstärkt. Die eigentliche Frage müsste lauten: Wie kann das gesamte Informationssystem demokratisiert werden?