Das Digital Services Act-Reporting offenbart gigantische Contenteingriffe der großen Plattformen. Und: neuer Terror, neue Überwachungswünsche, alter Staatstrojaner-Abwehrkampf.
Neue Woche, neuer vereitelter Anschlag und neue Unverschämtheiten des Innenministers. Jener 18-jährige Salzburger, der auf Sicherheitskräfte in München geschossen hatte und von ihnen erschossen wurde, war gerade erst ein paar Stunden tot, als Innenminister Karner ein martialisches Polizeiaufgebot in Wien (also nicht in der Nähe des Attentats) aufmarschieren ließ. Inmitten von Blaulicht und Bewaffneten richtete Karner verwunderten Medienvertretern aus, jetzt müsse Schluss sein mit Abwiegeln und Ausreden, man müsse alle Mitteln ausschöpfen und den deutschen Behörden sei es dank richtiger Ausrüstung gelungen, den Attentäter schnell auszuschalten.
Fantasielose Sicherheitsbehörden
Karners großer offener Wunsch, neben Geld und Ausrüstung, sind Staatstrojaner für die Infizierung von Smartphones und Laptops zur Überwachung digitaler Kommunikation. Der Ministerialentwurf dazu liegt nach wie vor für Stellungnahmen vor.
Der Wunsch nach mehr Möglichkeiten wäre amüsant, wenn das Totalversagen, das auch diesen Attentatsversuch ermöglicht hat, so erschreckend wäre.
Der erschossene 18-Jährige hatte gedroht, seine Schule in die Luft zu sprengen, er hatte Schulkollegen verletzt und bedroht. Gegen ihn war wegen terroristischer Handlungen ermittelt worden, Polizeiberichte hielten fest, dass er als radikalisiert eingeschätzt wurde und sich für Waffen und Sprengstoff interessierte. Das Salzburger Landesamt Staatsschutz und Terrorismusbekämpfung soll fünf Berichte an die Staatsanwaltschaft übermittelt haben.
Im Zuge dieser Ermittlungen wurde auch das Handy des späteren Täters untersucht. Man fand gespeicherte Aufzeichnungen von Games, in denen er Terror nachgestellt hatte, und fand nichts dabei.
Passiert ist außer der Verhängung eines Waffenverbots nichts. Die Berichte verschwanden in Aktenschränken.
Das Waffenverbot hinderte den 18jährigen auch nicht daran, letzten Donnerstag legal eine Waffe zu kaufen und mit dieser Waffe im Gepäck eine Staatsgrenze zu überschreiten.
Es gab also, wie bei allen anderen Attentätern zuletzt in Österreich, ausreichend Hinweise, anhand derer Behörden hätten eingreifen können. Was erwarten Behörden denn zu finden, wenn Drohungen und Terrorphantasien nicht ausreichen, um einzugreifen? Sollen sich Attentäter in Zeitreisende verwandeln und detaillierte Geständnisse mit Orts- und Zeitangaben ablegen, bevor sie in der Zeit zurückreisen und ihre Anschläge begehen?
Ich kann es nur als Zeichen von Ratlosigkeit und Inkompetenz auffassen, wenn ein Innenminister solche Situationen zum Anlasse nimmt, um nach mehr Ermittlungsbefugnissen zu rufen.
Notwendig: Spyware-Moratorium in der EU
Das Center for Democracy and Technology veröffentlichte diese Woche einen an EU-Institutionen gerichteten Aufruf, Staatstrojaner und staatliches Hacking kritisch zu betrachten. Staatstrojaner geraten außer Kontrolle, zuletzt hat das Google dokumentiert. Ein Bericht des Europarats dokumentiert, wie auf in zahlreichen EU-Staaten Spyware gegen Journalisten oder NGOs eingesetzt wurde und dass Staatstrojaner auch auf den Smartphones von Politikern landeten, unter anderem auf jenem von Macron und Mitgliedern seines Kabinetts. Der Aufruf des CDT fordert ein generelles Moratorium für weitere Überwachungsgesetzgebung auf EU-Ebene, zumindest bis die Schwachstellen der Gesetzgebung erfasst sind und Lösungen anvisiert werden können.
Noch geht die Entwicklung aber in eine andere Richtung. Die Slowakei soll für ihren Geheimdienst die berüchtigte Staatstrojaner-Software Pegasus angeschafft haben.
DSA: Das Milliarden-Monster
Im EU Parlament beginnt die nächste Saison, auch die LIBE- und IMCO-Ausschüsse, in denen zuletzt die relevanten Digitalthemen verhandelt wurden, tagen seit dieser Woche wieder. Im IMCO-Ausschuss wird es wieder um den Digital Services Act und die Fortschritte der laufenden Verfahren gegen Twitter, TikTok, Facebook und Instagram gehen. Auch Telegram soll thematisiert werden. Die Sitzung ist für 12. September geplant.
Der Digital Services Act (DSA) hat bislang deutliche Spuren in der Digitallandschaft hinterlassen. VLOPS (Very Large Online Platforms) müssen in sogenannten Statements of Reason ihre Contentmoderations-Entscheidungen dokumentieren. Diese werden in einer Datenbank gesammelt, die für die letzten 30 Tage aktuell beachtliche vier Milliarden Einträge enthält.
Mit Abstand die meisten dieser Einträge (aktuell 3,3 Milliarden) entfallen auf Google Shopping, davon wiederum betreffen die meisten generische Produktbilder, die Google von seinen Händlern nicht sehen möchte.
Diese Unmenge ist ein Hinweis auf die Marktmacht von Google, denn auf Platz zwei folgt weit abgeschlagen TikTok mit 225 Millionen dokumentierten Moderationsentscheidungen. Von Amazon Stores wurden gerade einmal 75 Millionen Entscheidungen dokumentiert. Das sind 0,02 Prozent des Anteils von Google. Ebenfalls weit vorne ist willhaben mit 684.000 Reports, damit deutlich vor Twitter (188.000).
Die meisten Verstöße betreffen sogenannte Scope of Platform-Violations, also Verstöße gegen AGB der jeweiligen Plattform. Das betrifft etwa 40 bis 50 Millionen Meldungen täglich. Illegale oder gefährliche Produkte sind mit etwa vier Millionen täglichen Meldungen weit abgeschlagen, Hatespeech wird etwa ein bis eineinhalb Millionen mal täglich behandelt.
Hier wird ein ganz gewaltiges Datenbürokratiemonster gefüttert.
Die meisten Einschränkungen (3,4 Milliarden Fälle in 30 Tagen) waren Einschränkungen beim Zugriff auf Inhalte, gefolgt von entfernten Inhalten (263 Millionen). In neun Millionen Fällen wurden Accounts gesperrt, in sieben Millionen Fällen wurden Inhalte demoted, also nicht mehr so häufig an User ausgespielt.
Am häufigsten wurden Produktinformationen entfernt, das betraf 88 Prozent der Content Restrictions in den letzten 30 Tagen. Texte, Videos und Bilder machen zusammen etwa 6 Prozent der entfernten Inhalte aus. 99 Prozent der Restriction-Entscheidungen sind auf eigene Aktivitäten und Maßnahmen der Plattformen zurückzuführen, Meldungen von Usern und anderen Quellen spielen nur eine geringe Rolle. Etwa die Hälfte der Entscheidungen wird automatisiert getroffen.
Diese Fülle von Maßnahmen wirft neues Licht auf die Frage, wie weit Plattformen Medien sind und wie weit Social Networks und andere große Platzhirsche für die auf ihnen veröffentlichten Inhalte verantwortlich sind. Der traditionelle Ansatz von Befürwortern eines freien Internet kannte hier nur ein klares Nein als Antwort. Eingriffe in Inhalte – seien es direkte Sponsorings, etwa im Fall großer Podcastplattformen, die prominente Podcasts einkaufen, oder seien es Entscheidungen über Boost und Demotion von Inhalten, etwa wenn Facebook Medien depriorisiert oder Twitter Posts mit externen Links seltener ausspielt – erschüttern diese Ansicht. Wenn Plattformen in 30 Tagen über 260 Millionen Inhalte entfernen und noch häufiger den Zugriff auf Inhalte regulieren, dann sind das massive Eingriffe. Plattformen gestalten Inhalte, das ist nicht mehr von der Hand zu weisen. Sie haben massiven Einfluss darauf, welche Inhalte wie zu wem kommen. Diese Entscheidungen sollten aus transparenten Grundlagen getroffen werden, die auch nicht nur im Ermessen einiger weniger Unternehmen liegen sollten.
Hier entstehen neue medien- und datenpolitische Anforderungen, die erst langsam ein klareres Profil annehmen. Das ist ein Nebeneffekt des Digital Services Acts, der dem Bürokratiemonster vielleicht noch produktiven Sinn verleiht.
Ich bin Journalist, Wissenschafts- und Technologiehistoriker, 