Es ist die erste Kollektivklage aus dem Ausland, und es ist die erste, die Verstöße gegen den neuen AI-Act der EU aufgreift: Die Verordnung über künstliche Intelligenz (KI) regelt, welche Grenzen es gibt – und TikTok verstößt nach Ansicht der Kläger gegen das neue Verbot manipulativer, irreführender und Kinder ausnutzender KI-Systeme. „Es ist das erste Mal, dass vor Gericht geklärt wird, ob eine App ein verbotenes System darstellt.“ Der Algorithmus sei darauf ausgelegt, süchtig zu machen. Und TikTok tue viel zu wenig zum Schutz der Nutzer. „Challenges“, gefährliche Mutproben, die viral gehen und von vielen Nutzern nachgemacht werden, haben bereits zu Todesfällen geführt: TikTok blockierte solche Trends erst sehr spät.
Für die jüngsten Nutzer wird auch der höchste Schadensersatz gefordert: Für die zum Zeitpunkt der TikTok-Installation unter 16-Jährigen 2.000 Euro, für Nutzer zwischen 16 und 21 Jahren 1.000 Euro und für alle älteren Nutzer noch 500 Euro. Neben der gezielten Manipulation junger Menschen geht es auch um missbräuchliche Nutzung sensibler Daten.
Für X-Nutzer klagt die Stiftung auf Schadenersatz von mindestens 750 Euro und, falls sie von einem Datenleck betroffen waren, von weiteren mindestens 250 Euro. X missbrauche seine Datenmacht gezielt, um politische Meinungen zu beeinflussen, gesellschaftliche Gräben zu vertiefen und demokratische Prozesse zu untergraben. Für politisches Mikrotargeting, das sehr gezielte Ausspielen von Inhalten ausgerichtet an vielen Eigenschaften des Nutzers, würden besonders sensible Daten erfasst. So werden Nutzer mit maßgeschneiderten Botschaften beeinflusst. Dieses tiefgehende Profiling soll beendet werden.
Die EU-Kommission geht bereits gegen TikTok und X wegen Verstößen gegen die Verpflichtungen nach dem Digital Service Act vor, dem EU-Gesetz gegen illegale Inhalte im Internet. Gegen X wurde im Dezember 2023 ein Vertragsverletzungsverfahren mit entsprechenden Ermittlungen eingeleitet, gegen TikTok läuft es seit Februar 2024. Am Ende kann ein Bußgeld in Höhe von bis zu sechs Prozent des globalen Jahresumsatzes verhängt werden.
