Zumindest in einem Punkt sind sich die beiden Diskutierenden einig: Das größte Problem ist immer noch der Mensch.
Das Ausmaß, in dem im Netz beleidigt und bedroht wird, lässt sich nicht mit verantwortungslosen Plattformen oder fehlgeleiteten Algorithmen erklären. Hinter jeder Morddrohung steckt ein Absender - und es gibt kein Allheilmittel, um die Betroffenen davor zu schützen.
Diese Aussage würden Josephine Ballon und Florian Gallwitz unterschreiben. Doch sobald es um Bewertung, Gegenmaßnahmen und Konsequenzen geht, gehen die Positionen der Rechtsanwältin und des Medieninformatikers weit auseinander. Das wird schnell deutlich, während die beiden auf dem Podium des SZ-Digitalgipfels über Hass im Netz sprechen.
"In den Medien wird oft das Bild gezeichnet, dass Leute in sozialen Medien mit Hass und Desinformation überschüttet würden", sagt Gallwitz, der als Professor an der Technischen Hochschule Nürnberg lehrt. "Ich halte das für übertrieben. Nehmen wir mal Twitter, das ist wie eine riesige Party mit Hunderten Millionen Teilnehmern. Auf jeder großen Party werden manche Leute gemobbt. In manchen Diskussionen stauen sich eben Emotionen auf, aber deshalb muss noch lange keine orchestrierte Kampagne dahinterstecken."
Ballon hält diesen Vergleich für verharmlosend. "Bestimmte Gruppen wissen ganz genau, wie sie die Mechanismen der sozialen Netzwerke ausnutzen und manipulieren können", sagt die Co-Geschäftsführerin der Organisation Hate Aid, die sich für Betroffene von digitaler Gewalt und Hass im Netz einsetzt. In rechtsextremen Kreisen werde zu gezielten Angriffen aufgerufen, die andere Nutzerinnen und Nutzer verunsichern und verängstigen sollen.
Ob orchestriert oder nicht, strafbare Hasskommentare nehmen zu. Die Polizeiliche Kriminalstatistik für das Jahr 2023, die Anfang der Woche vorgestellt wurde, weist knapp 21 000 "Beleidigungen mit Tatmittel" aus, eine Zunahme um rund 19 Prozent. Die Dunkelziffer ist groß, nur ein Prozent der persönlichen Beleidigungen im Internet werden angezeigt.
Eine Kriminalstatistik bleibt abstrakt, sie zählt Fälle, ohne die Folgen für die Betroffenen zu beleuchten. Die erschließen sich, wenn man etwa die Studie "Lauter Hass - leiser Rückzug" liest, die Hate Aid und andere Organisationen im Februar veröffentlicht haben. Demnach wurde fast jeder Zweite online schon mal beleidigt, ein Viertel der Befragten mit körperlicher Gewalt bedroht. Besonders häufig trifft es junge Frauen, queere Menschen oder Personen mit sichtbarem Migrationshintergrund. Jeweils mehr als die Hälfte der Befragten beteiligt sich aus Angst vor Anfeindungen seltener an Diskussionen oder formuliert bewusst vorsichtiger.
"Man braucht eben ein dickes Fell"
Dieses Problem erkennt auch Gallwitz an. "Für die Betroffenen ist das im Einzelfall schmerzhaft", sagt er in einem Gespräch einige Stunden vor der Podiumsdiskussion. Die Masse an Beleidigungen und Bedrohungen könne belastend sein. "Aber wenn man sich politisch in der Öffentlichkeit äußert, dann braucht man eben ein dickes Fell. Wer sich zu schnell angegriffen fühlt, ist nicht dafür gemacht."
Für Gallwitz liegt die Lösung nicht darin, mehr Inhalte zu löschen oder konsequenter zu moderieren. Er sei in vielen Dingen nicht derselben Meinung wie Twitter-Eigentümer Elon Musk, der die Plattformen gekauft und in X umbenannt hat. "Aber in einer Sache stimme ich ihm zu: Ein privater Konzern darf nicht die Regeln für einen öffentlichen Diskussionsraum festlegen." Geht es nach Gallwitz, sollten sich X, Instagram oder Tiktok nach lokalen Gesetzen richten: Entfernt wird, was im jeweiligen Land strafbar ist.
Die Realität sieht anders aus. Die meisten großen Plattformen definieren in ihren Nutzungsbedingungen, wo die Grenze der Meinungsfreiheit verläuft. Diese Regelwerke sanktionieren auch manche Äußerungen, die nicht eindeutig gegen Gesetze verstoße, etwa medizinische Fehlinformationen, die Leugnung des Klimawandels oder Spam-Kommentare.
Strafverfolgung auf Kosten der Anonymität?
"Diese AGB sind oft sehr vage und werden unzureichend durchgesetzt", sagt Ballon von Hate Aid. "Aber grundsätzlich finde ich es richtig, dass Plattformbetreiber sich nicht nur strikt an den rechtlichen Rahmen halten." Schließlich seien soziale Netzwerke eben keine neutralen Plattformen, sondern träfen ständig inhaltliche Entscheidungen, indem sie bestimmten Beiträgen mehr Reichweite und Sichtbarkeit verschafften.
Gallwitz glaubt dagegen, dass sich die Konzerne so weit wie möglich aus kniffligen Moderationsentscheidungen heraushalten sollten. "Selbst Hate Aid klagt sich in Deutschland durch mehrere Instanzen durch", sagt er. Offensichtlich gelte: Frage drei Juristen, bekomme drei Meinungen. "Wir können den Plattformen nicht zumuten, deutsche Rechtsprechung zu automatisieren. Auch künstliche Intelligenz ist dafür keine Lösung, das ist viel zu invasiv und fehleranfällig. Da dreht sich Orwell im Grab um."
Als ähnlich dystopisch empfindet Gallwitz die Forderung von Ballon, bei der Verfolgung strafbarer Hasskommentare zur Not Abstriche bei der Anonymität im Netz zu machen. "Es muss weiter möglich sein, anonym meine Meinung zu äußern", sagt der Professor für Medieninformatik. "Sonst wird es schnell totalitär." Die Sorge, dass alles, was man online sagt, einem später zugeordnet werden kann, könnte viele Menschen davon abhalten, sich zu strittigen Fragen zu äußern.
Sie wollte niemanden zwingen, sich mit Personalausweis bei einer Plattform zu registrieren, sagt Ballon. Aber man müsse darüber diskutieren, wie sich Straftaten aufklären lassen. "Anonymität ist wichtig, aber nicht um jeden Preis. Die Betroffenen müssen auch ihre Rechte durchsetzen können."