Eine Jury in Los Angeles hat ein wegweisendes Urteil gefällt und Meta und Google für fahrlässige Designentscheidungen bei Instagram und YouTube haftbar gemacht, die zur Sucht der Nutzer beigetragen haben. Das Gericht sprach der Klägerin, einer jungen Frau, die als Kind begann, die Plattformen zu nutzen, 6 Millionen US-Dollar Schadensersatz zu und übertrug 70 % der Haftung Meta und 30 % Google. Auch wenn das Urteil aufgrund der zu erwartenden Rechtsmittel keinen unmittelbaren rechtlichen Präzedenzfall darstellt, markiert es doch einen entscheidenden Wandel in der Art und Weise, wie soziale Medien rechtlich behandelt werden könnten.
Die Kernfrage: Produkt oder Herausgeber?
Jahrzehntelang argumentierten Social-Media-Unternehmen, sie seien lediglich Plattformen für benutzergenerierte Inhalte, die durch Abschnitt 230 des Communications Decency Act geschützt seien. Dieses Urteil stellt diese Ansicht in Frage und legt nahe, dass Funktionen wie unendliches Scrollen, automatische Wiedergabe und aggressive Benachrichtigungssysteme Designentscheidungen mit vorhersehbaren Schäden sind, insbesondere für junge Benutzer. Die Frage ist nun, ob diese Merkmale nach den Produkthaftungsgesetzen beurteilt werden sollten – die gleichen Maßstäbe gelten auch für physische Produkte.
Der Fall ist einer von Tausenden, die in Kalifornien und im ganzen Land anhängig sind, darunter über 10.000 Einzelklagen und 800 von Schulbezirken. Eine aktuelle Jury in New Mexico befand Meta außerdem für schuldig, Benutzer über die Sicherheit seiner Plattformen irregeführt zu haben, einschließlich der Ermöglichung der sexuellen Ausbeutung von Kindern. Dies deutet auf einen wachsenden rechtlichen Druck auf Social-Media-Unternehmen hin.
Wie Sucht durch Design funktioniert
Die Klage konzentrierte sich nicht auf bestimmte Inhalte, sondern auf die bewusste Gestaltung der Plattformen zur Maximierung des Engagements. Funktionen wie unendliches Scrollen, automatische Wiedergabe und kontinuierliche Benachrichtigungen wurden entwickelt, um Benutzer dazu zu bringen, zu scrollen, zu klicken und zurückzukehren – oft unbewusst. Die Anwälte des Klägers haben dies erfolgreich als Produktmängel und nicht als neutrales Hosting von Benutzerinhalten dargestellt.
Der frühere technische Leiter von Facebook, Arturo Béjar, der vor dem US-Senat aussagte, erklärte, dass diese Funktionen ausdrücklich darauf ausgelegt seien, die auf den Plattformen verbrachte Zeit zu erhöhen, ohne Rücksicht auf die Sicherheit zu nehmen. Bei internen Überprüfungen wurden häufig Sicherheitsmaßnahmen abgeschafft, um die Leistung des „Minimum Viable Product“ (MVP) zu priorisieren – was bedeutet, dass das Engagement Vorrang vor dem Wohlbefinden der Benutzer hatte.
Die Wissenschaft der reibungslosen Sucht
Forscher haben gezeigt, dass die Reduzierung dieser süchtig machenden Funktionen das Benutzererlebnis verbessern kann. Eine Studie der Carnegie Mellon University ergab, dass Teilnehmer, die eine Browsererweiterung („Purpose Mode“) verwendeten, die unendliches Scrollen, Autoplay und algorithmische Empfehlungen entfernte, 21 Minuten weniger pro Tag in sozialen Medien verbrachten und angaben, sich weniger abgelenkt zu fühlen. Dies deutet darauf hin, dass Plattformen so gestaltet werden könnten, dass sie das Wohlbefinden der Benutzer in den Vordergrund stellen, ohne das Erlebnis zwangsläufig zu zerstören.
Allerdings wären diese Änderungen mit Kosten verbunden. Die Funktionen, die die Sucht fördern, steigern auch das Engagement, die Werbeeinnahmen und die Zahl der wiederholten Besuche. Meta und Google werden wahrscheinlich argumentieren, dass Produkthaftungsgesetze für physische Produkte gedacht seien, dass der Kausalzusammenhang in Fällen mit bereits bestehenden Traumata schwer nachzuweisen sei und dass der Erste Verfassungszusatz den redaktionellen Ermessensspielraum schütze.
Was kommt als nächstes?
Das Urteil wird das Social-Media-Design nicht sofort grundlegend verändern. Aber es hat die rechtliche Verteidigung des modernen Feeds als harmlose Hintergrundbedingung des Online-Lebens untergraben. Die Gerichte werden nun prüfen, ob es sich bei diesen Merkmalen lediglich um neutrale Instrumente oder bewusste Entscheidungen mit schädlichen Folgen handelt.
Der entscheidende Rechtsstreit wird sich darauf konzentrieren, ob Design gemäß Abschnitt 230 und dem Ersten Verfassungszusatz vom Inhalt unterschieden werden kann. Wenn die Gerichte das Urteil bestätigen, könnten Social-Media-Unternehmen mit einer strengeren Haftung für süchtig machende Designentscheidungen konfrontiert werden, was sie dazu zwingen würde, das Wohlergehen der Nutzer über unermüdliches Engagement zu stellen. Wie Arturo Béjar es unverblümt ausdrückt: „Können Sie bitte Produkte herstellen, die für Kinder nicht süchtig machen?“
