EU-Verhaltenskodex gegen Hetze im Internet: laut jüngster Bewertung langsamere Fortschritte

Die Europäische Kommission hat heute die Ergebnisse ihrer siebten Bewertung des Verhaltenskodex für die Bekämpfung illegaler Hassreden im Internet veröffentlicht. Die diesjährigen Ergebnisse zeigen leider einen rückläufigen Trend beim Melde- und Abhilfeverfahren der Unternehmen: Die Zahl der von den Unternehmen innerhalb von 24 Stunden überprüften Meldungen sank im Vergleich zu den beiden Vorjahren von 90,4 % im Jahr 2020 auf 81 % im Jahr 2021 und 64,4 % im Jahr 2022. TikTok ist das einzige Unternehmen, das seine Überprüfungszeit verbessert hat. Auch die Entfernungsquote liegt mit 63,6 % deutlich unter dem Höchststand von 2020 (71 %). Nur YouTube erzielte bei diesem Parameter bessere Ergebnisse als in den letzten beiden Jahren. Es gibt jedoch eine positive Entwicklung in Bezug auf die Häufigkeit und Qualität der Rückmeldungen der Unternehmen an die Nutzer, womit einer entsprechenden Forderung der Kommission im Bericht 2021 nachgekommen wurde.

Aus der siebten Bewertung geht Folgendes hervor:

• Die Unternehmen überprüften 64,4 % der Meldungen innerhalb von 24 Stunden, was einen Rückgang im Vergleich zu den beiden Vorjahren zeigt (81 % im Jahr 2021 und 90,4 % im Jahr 2020). Nur TikTok hat seine Leistung verbessert (von 82,5 % im Jahr 2021 auf 91,7 % im Jahr 2022).
• Die Entfernungsquote lag mit 63,6 % ähnlich wie im Jahr 2021 (62,5 %), war jedoch niedriger als im Jahr 2020 (71 %). YouTube hat seine Entfernungsquote im Jahr 2022 (90,4 %) im Vergleich zu 2021 (58,8 %) verbessert. Alle anderen IT-Unternehmen haben weniger Inhalte als 2021 entfernt, wobei die Unterschiede in einigen Fällen nur geringfügig ausfielen (Facebook: 69,1 % im Jahr 2022 und 70,2 % im Jahr 2021; Twitter: 45,4 % bzw. 49,8 %).
• Durchschnittlich 69,6 % der Inhalte, die zu Mord und Gewalt gegen bestimmte Gruppen aufrufen, wurden entfernt; bei Inhalten mit diffamierenden Wörtern oder Bildern, die gegen bestimmte Gruppen gerichtet waren, lag die Entfernungsquote bei 59,3 %. Dies belegt eine bessere Abhilfequote bei den schwerwiegendsten Erscheinungsformen von Online-Hetze.
• Die Rückmeldungen der IT-Unternehmen an die Nutzer haben sich 2022 gegenüber 2021 verbessert. Viele Unternehmen haben in diesem Bereich Verbesserungen erzielt, hervorzuheben sind TikTok (Feedback in 74,8 % der gemeldeten Fälle gegenüber 28,7 % im Jahr 2021) und Instagram (72,6 % gegenüber 41,9 % im Jahr 2021 und 62,4 % im Jahr 2020).

Um die Umsetzung des Verhaltenskodex zu unterstützen und Lücken bei den Melde- und Abhilfeverfahren zu schließen, haben sich die IT-Unternehmen und das Netz vertrauenswürdiger Hinweisgeber, die an den Überwachungsmaßnahmen beteiligt sind, nun auf einen Aktionsrahmen geeinigt. Darin werden Kooperationsinitiativen zwischen den Parteien festgelegt, in denen sie sich verpflichten, ihren Dialog zur Bekämpfung von Hetze im Internet zu intensivieren.

Nächste Schritte

Die Kommission wird die Umsetzung des Verhaltenskodex weiter überwachen. Die Kommission wird IT-Unternehmen und vertrauenswürdige Hinweisgeber bei der Umsetzung des im Rahmen des Verhaltenskodex vereinbarten Aktionsrahmens unterstützen. Das Gesetz über digitale Dienste ist am 16. November in Kraft getreten. Es enthält umfassende Vorschriften für die Verantwortung der Plattformen und wird auch Koregulierungsrahmen weiter unterstützen. Die Kommission wird mit den IT-Unternehmen erörtern, wie sichergestellt werden kann, dass die Umsetzung des Kodex die Einhaltung des Gesetzes über digitale Dienste unterstützt und einen Mehrwert in den Bereichen der Bekämpfung von Hetze und des Schutzes der Meinungsfreiheit im Internet schafft. Dieser Prozess könnte im Laufe des Jahres 2023 zu einer Überarbeitung des Verhaltenskodex führen.

Hintergrund

Laut dem Rahmenbeschluss zur Bekämpfung von Rassismus und Fremdenfeindlichkeit gilt „die öffentliche Aufstachelung zu Gewalt oder Hass gegen eine nach den Kriterien der Rasse, Hautfarbe, Religion, Abstammung oder der nationalen oder ethnischen Herkunft definierte Gruppe von Personen oder gegen ein Mitglied einer solchen Gruppe“ als Straftat. Im Sinne dieses Rahmenbeschlusses ist Hetze auch dann strafbar, wenn sie im Internet stattfindet.

Als Reaktion auf die Verbreitung rassistischer und fremdenfeindlicher Online-Hetze präsentierte die Europäische Kommission am 31. Mai 2016 zusammen mit vier großen IT-Unternehmen (Facebook, Microsoft, Twitter und YouTube) einen Verhaltenskodex für die Bekämpfung illegaler Hassreden im Internet. Seither sind Instagram, Snapchat, Dailymotion, Jeuxvideo.com, TikTok, LinkedIn sowie im Frühjahr 2022 Rakuten Viber und Twitch dem Kodex beigetreten.

Der Verhaltenskodex gründet auf der engen Zusammenarbeit zwischen der Europäischen Kommission, IT-Unternehmen, zivilgesellschaftlichen Organisationen und nationalen Behörden. Alle Interessenträger treffen sich regelmäßig im Rahmen der hochrangigen Gruppe zur Bekämpfung von Hetze und Hassstraftaten, um über Herausforderungen und Fortschritte zu diskutieren.

Alle Bewertungsrunden wurden nach einer gemeinsam vereinbarten Methodik durchgeführt, die es ermöglicht, die Ergebnisse im Zeitverlauf zu vergleichen. Die siebte Bewertungsrunde erfolgte zwischen dem 28. März und dem 13. Mai 2022 unter Mitwirkung von 36 Organisationen aus 21 Mitgliedstaaten. Bei den IT-Unternehmen gingen insgesamt 3634 Meldungen ein. 2765 Meldungen wurden über die Meldekanäle übermittelt, die allgemeinen Nutzern zur Verfügung standen, während 869 Meldungen über spezifische Kanäle eingingen, die nur vertrauenswürdigen Hinweisgebern zur Verfügung standen.

Am 9. Dezember 2021 legte die Kommission eine Initiative zur Erweiterung der Liste der EU-Straftatbestände um Hetze und Hasskriminalität vor, da es derzeit keine Rechtsgrundlage gibt, um Hetze und Hasskriminalität auf EU-Ebene unter Strafe zu stellen. Die bestehende Liste der EU-Straftatbestände, die im Vertrag über die Arbeitsweise der Europäischen Union (AEUV) aufgeführt sind, muss erweitert werden, um dafür zu sorgen, dass es für die Festlegung von Straftatbeständen und Strafen gemeinsame Mindestvorschriften gibt, die in allen EU-Mitgliedstaaten gelten.

Am 9. März 2022 schlug die Kommission auch EU-weite Vorschriften zur Bekämpfung von Gewalt gegen Frauen und häuslicher Gewalt, auch im Internet, vor. Mit dem Vorschlag soll sichergestellt werden, dass die schwerwiegendsten Formen von Gewalt gegen Frauen EU-weit unter Strafe gestellt werden, darunter Vergewaltigung, Genitalverstümmelung bei Frauen und geschlechtsspezifische Cybergewalt, einschließlich Cyberstalking, Cyberbelästigung und nicht einvernehmliche Weitergabe intimer Bilder. Auch Opfer von Cybergewalt sollten Anspruch auf angemessene Unterstützung haben, einschließlich Beratung darüber, wie sie juristische Hilfe bekommen und wie Online-Inhalte entfernt werden können.

Das Gesetz über digitale Dienste enthält Vorschriften für Online-Vermittlungsdienste, die täglich von Millionen von Menschen in Europa genutzt werden. Die Pflichten der einzelnen Online-Unternehmen variieren je nach Rolle, Größe und Auswirkung im Online-Umfeld. Auf der Grundlage der Erfahrungen mit dem Kodex und seiner Bewertung sollen mit obligatorischen eindeutigen Melde- und Abhilfesystemen, der bevorzugten Bearbeitung von Meldungen vertrauenswürdiger Hinweisgeber, Feedback zu Meldungen von Nutzern und mit umfassenden Transparenzpflichten die festgestellten Mängel behoben werden. Für sehr große Plattformen, die mehr als 45 Millionen Nutzer in Europa erreichen, bestehen besondere Vorschriften. Diese systemrelevanten Plattformen müssen die von ihren Systemen ausgehenden Risiken bewerten und Abhilfemaßnahmen ergreifen, um die Verbreitung illegaler Inhalte einzudämmen und anderen gesellschaftlichen Risiken wie Beeinträchtigungen der Grundrechte oder der Verbreitung von Desinformation entgegenzuwirken. An der Leistung im Rahmen des Kodex lässt sich beurteilen, wie diese Plattformen gegen illegale Hetze vorgehen.

Weitere Informationen

Siebte Bewertung – Factsheet

Informationen der IT-Unternehmen über Maßnahmen zur Bekämpfung von Hetze  

Anhang zum Kodex – Gemeinsame Erklärung vertrauenswürdiger Hinweisgeber und IT-Unternehmen zu einem Aktionsrahmen für eine verstärkte Zusammenarbeit

Quote(s)

Besorgniserregend ist, dass bei der Überprüfung von Meldungen im Zusammenhang mit illegaler Hetze durch Plattformen der sozialen Medien ein Abwärtstrend zu verzeichnen ist. Hetze im Internet ist eine Geißel des digitalen Zeitalters, und Plattformen müssen – unter anderem durch Bereitstellung ausreichender Ressourcen – ihren Verpflichtungen nachkommen, die Online-Welt für alle sicherer zu machen. Dies ist umso wichtiger, als der Verhaltenskodex die im Gesetz über digitale Dienste festgelegten Verpflichtungen unterstützt; Fortschritte im Rahmen des Kodex sind also Fortschritte bei der Bekämpfung von Hetze.

Věra Jourová, Vizepräsidentin für Werte und Transparenz - 24/11/2022

Im vergangenen Jahr wurden die Unternehmen aufgefordert, den allgemeinen Abwärtstrend bei den Melde- und Abhilfeverfahren unverzüglich umzukehren. Dem wurde noch nicht vollständig entsprochen – die Unternehmen müssen deutlich mehr tun. Die Unternehmen müssen auch Verantwortung für den Schutz ihrer Nutzer tragen. Sie müssen dafür sorgen, dass angemessene Ressourcen zur Erfüllung ihrer Verpflichtungen im Rahmen des Verhaltenskodex zur Verfügung stehen. Der Kodex könnte die Anwendung des Gesetzes über digitale Dienste weiter unterstützen, insbesondere als Instrument, mit dem systemischen Risiken im Zusammenhang mit illegaler Hetze und dem Recht auf freie Meinungsäußerung entgegengewirkt wird. Der heute vorgestellte Aktionsrahmen ist ein positiver Schritt in diese Richtung.

Kommissar Didier Reynders - 24/11/2022