Nett im Netz

Frank, was kommt dir als Erstes in den Sinn, wenn du das Wort Hasskommentar hörst? Mein Instagram Profil. Oh je, und du kommst viel ab? Hey, ich denke, die Leute glauben es nicht, dass es Comedy ist und regen sich in den Kommentaren darüber. Und was hast du für eine Strategie, um damit umzugehen? Ich versuche auch, etwas Lustiges zurückzuschreiben, aber manchmal ist es schon schwierig, Hass mit Humor zu begegnen. Deine heutige Gästin ist Judith Bühler von der ZHAW und sie wird dir heute das Konzept der Gegenrede beibringen . Sie ist nämlich am Projekt «Social Influencer» beteiligt und hat mit ihrem Team verschiedene Möglichkeiten erarbeitet, wie man als Betroffene oder als Mitlesende mit Hass im Netz umgehen kann. Ausserdem erzählt sie uns, was die gesellschaftlichen Auswirkungen davon sind, wenn das Internet immer radikaler wird, und warum es den Plattformen eigentlich recht ist, wenn sich die User in den Kommentaren spalten und sich die Köpfe einschlagen. Du hörst Schampar digital,ein Podcast der Digitalisierungsinitiative der Zürcher Hochschulen. Unsere Namen sind Frank Richter und Jessica Reust. Bei mir sitzt jetzt Judith Bühler von der ZHAW. Hallo. Judith, was ist der Unterschied zwischen Hate Speech und jemandem, der unhöflich, aggressiv oder toxisch diskutiert? Was ist der Unterschied? Es ist eine gute Frage, weil es auch darum kommt, wem das entgegenbracht wird. Es gibt einfach toxische Kommunikationen, wir unterscheiden bei uns zwischen toxic speech und hate speech und da gibt es keine klare Grenze. Unhöflich bedrängend, toxisch, kann etwas herabsetzen sein, in die Enge treibend sein. Unfreudlichkeiten, Unanständigkeiten können das sein, und da kann es aber einen fliessenden Übergang zu Hate Speech geben, wo Menschen abwerten und beleidigen. Und wenn man das liest im Internet, ist ja bei vielen die Reaktion zuerst mal ja nur, finde ich zwar blöd, aber ich lasse das einfach stehen. Warum ist das die falsche Haltung? Ich kann die Haltung sehr gut versteht. Ich verstehe, dass Mantra “don’t feed the trolls“, also gerade vorweg zu nehmen, Aber zeitlich betrachtet verschiebt sich der Diskurs im Internet. Mittlerweile sagen sehr viele Menschen, dass sie Hass im Internet sehen, sehr viele sagen auch, dass sie das besorgt – und die Gegenstimmen, also die, die etwas gegen den Hass unternehmen, sind sehr, sehr leise. Was hast du für ein Gefühl macht das mit der Gesellschaft, wenn du sagst, die Leute sehen mehr Hass im Netz? Ich glaube, das hängt mit einem Gefühl von Unsicherheit zusammen. Wir haben das Gefühl, dass die Verunsicherung in der Gesellschaft steigt, und es gibt auch Studien, die das mit dem immer sichtbareren Hass in Verbindung bringen – aber das ist nicht alles, das muss ich gleich dazusagen. Zeitlich gesehen hat es auch mit dem Umgang damit zu tun: Ich kenne sehr viele Leute, die sagen, sie interagieren gar nicht mehr, äussern ihre Meinung nicht mehr oder ihren Point of View nicht mehr, weil sie danach Hass erfahren. Das ist ein Problem für unsere Demokratie, das ist ein Problem für unsere Menschenrechte, weil Hass das Recht auf freie Meinungsäusserung beschneidet. Du bist ja schon lange im Internet unterwegs und beobachtest die Kommentarkultur. Wie hat sich das in den letzten, sagen wir, 10, 12 Jahren verändert? Wissenschaftlich kann ich das nicht beurteilen, das muss ich vorwegnehmen. Rein subjektiv? Ja, rein subjektiv: Es ist so, dass sich die Grenzen des Sagbaren verschoben haben. Der Begriff «Remigration» zum Beispiel wäre vor zehn Jahren nicht so breit akzeptiert gewesen – dass man ihn zum Beispiel bei uns in der Schweiz vom Balkon hängt. Das ist wirklich ein Problem. Schon vor über zehn Jahren hat Carolin Emcke gesagt, wir müssten aufpassen, dass sich die Grenzen des Sagbaren verschieben, weil es einen Zusammenhang gibt zwischen ganz schlimmen Verbrechen an Bevölkerungsgruppen und Hassrede, der ihnen vorausgeht. Liegt das auch an der Plattform selbst? Ja, definitiv. Das hat mit der Gestaltung der Algorithmen zu tun – den Engagement-Algorithmen, die Menschen möglichst lange auf der Plattform halten wollen, weil die Plattform mit der Aufmerksamkeit der Menschen Geld verdient. Wenn ich emotionalisiert werde, bleibe ich länger auf einer Plattform. Und es ist günstiger, negative Emotionen zu wecken als positive. Das heisst, für die Plattform ist es günstiger, mich wütend werden zu lassen, statt dass ich freudig oder solidarisch werde. Deshalb ist Hass auch etwas, womit gearbeitet wird. Aber du möchtest ja, dass das Internet mit Liebe geflutet wird, und dafür hast du verschiedene Projekte am Start. Erzähl mal. Man könnte Hass begegnen, indem man ihn löscht oder verbirgt. Das ist eine Option, und ich sage nicht, dass das eine falsche Option ist. Man steht dabei aber immer vor der Herausforderung, zwischen verschiedenen Menschenrechten abzuwägen. Man hat das Recht auf freie Meinungsäusserung, aber auch das Recht auf Schutz vor Diskriminierung oder auf den Schutz der Würde. Aggressive Kommunikation bewegt sich in diesem Dreieck. Es hat viel mit dem Kontext zu tun, wie etwas eingeordnet wird, und viel mit der Gesetzeslage. Zum Beispiel ist in der Schweiz Hass gegen mich als weiblich gelesene Person – also Frauenhass – kein Offizialdelikt wie Rassismus, sondern ein Individualdelikt, also ein Antragsdelikt. Das spielt alles eine Rolle. Dann gibt es den Ansatz, dass man Hass durch Empowerment begegnet, indem man Medienkompetenz fördert bei Menschen, die im Internet unterwegs sind. Oder man setzt kommunikativ etwas entgegen. Das ist ein Ansatz, den ich als Sozialarbeiterin sehr spannend finde. Ich muss mich gar nicht damit aufhalten, ob das jetzt justiziabel ist, ob es Hate Speech oder Toxic Speech ist – ich kann einfach sagen: Das hat keinen konstruktiven Verlauf, das könnte man ändern. Dann kann ich kommunikativ intervenieren. Kommunikation ist das Werkzeug der sozialen Arbeit. Und worum geht es im Projekt, speziell bei «Social Influencer»? ei «Social Influencer:in» geht es im Kern um drei Teile, und das Herzstück ist die kommunikative Intervention. Wir haben kommunikative Einzelinterventionen gemacht, das heisst, wir haben einmalig auf einen Kommentar im Internet reagiert – mit Methoden, die einen sind schon bestätigt aus verschiedenen Kontexten, das sie nachweislich eine konstruktive Wirkung haben. Bei einer Methode haben wir selbst versucht, Kommunikationsmethoden zusammenzunehmen und dann einmalig etwas entgegenzusetzen. Das Ganze haben wir technisch unterstützt: Wir haben mit KI gearbeitet, Tools entwickelt, die die Influencerinnen beim Auffinden und Einordnen von Kommentaren unterstützten, mit denen sie interagieren können. Andererseits gab es aber auch automatisierte Counterspeech – wir haben der KI gesagt, sie solle es möglichst so machen, wie es eine Sozialarbeiterin tun würde. Und dann haben wir natürlich ausgewertet, wie die unterschiedlichen Kommunikationsmethoden auf den Verlauf der weiteren Diskussion wirken. Das sind die drei Arten der Gegenrede, die wir haben. Und welche drei sind das? Wir haben einen empathiebasierten Ansatz. Das ist ein Ansatz, wo es darum geht, dass man anregt, dass einerseits die Person, die den Hass geäussert hat, aber vor allem die schweigende Mehrheit rundherum. D Der Grossteil der Menschen im Internet sagt nichts, unternimmt nichts – aber ihre Haltung und Meinung wird trotzdem beeinflusst. Dazu regen wir zum Perspektivenwechsel an: Wenn zum Beispiel jemand mysogynen Hass gegen mich äussert, kann ich fragen: Kannst du dir vorstellen, wie sich eine Frau fühlt, wenn sie so einen Kommentar liest? Dann haben wir eine alternative Narrative. Dabei geht es darum, dass wir wahrhaftige positive Narrative von den Gruppen, die abgewertet werden, als Konkurrenz ins Netz stellen. Das heisst, wenn man sagt, ja, das ist wieder Hass gegenüber einer Frau, dann erzählt man, was alles Positives von Frauen geleistet wird. Dann kann man diese Gruppen austauschen. Man findet immer positives, das liegt in der Natur des Menschen. Dann, bei der dritten Methode, die heisst " DiQu " bei uns, d Dabei lenken wir den Fokus darauf, wie wir miteinander kommunizieren, wie wir miteinander umgehen. Wir sprechen die Diskussionsqualität an, kommunizieren also darüber, wie wir kommunizieren – zum Beispiel mit Metakommunikation: «Ich verstehe, dass du mit dem Entscheid der politischen Person nicht einverstanden bist, aber das ist jetzt sehr emotional. Ich würde lieber sachlich mit dir über die Sachfragen in diesem Zusammenhang diskutieren.» Was macht das mit den Leuten, den Social Influencer:innen, die das lesen müssen? Das ist recht spannend. Von Projektbeginn an hatten wir verschiedene Begleitangebote – Schulungen zu Psychohygiene, Stressabbau und Ähnlichem. Die Reaktionen waren sehr unterschiedlich. Im ersten Projektjahr hat sich gezeigt, dass wir fast etwas zu viel Caring betrieben haben, mit Blick auf alle, die mit dem Projekt gestartet sind – man kann sagen, die Menschen reagieren sehr unterschiedlich. Manche mussten aufhören, weil sie sagten, es nehme sie zu stark mit. Bei anderen haben wir gesehen, dass sie, weil sie selbst betroffen waren – weil die Gruppen, denen sie angehören, Teil ihrer Identität sind – es stärker mitgenommen hat. Das haben wir schon gemerkt. Was für Erfahrungen hast du mit Hass im Netz gemacht? Ich habe sie auch gemacht. Das kommt nicht ungefähr. Ziemlich schnell, und zwar im Zusammenhang mit dem Alley-Ship, also dem Verbündeten-Dasein, gegenüber Menschen, die gehasst oder diskriminiert und abgewertet werden. Es ging sehr schnell, dass mich über mehrere Jahre hinweg Hass verfolgt hat. Das ist anstrengend. Bist du jetzt anders unterwegs im Internet? Definitiv. Ich äußere mich sehr viel weniger. Ich habe meine Anwälte als Vorbild genommen, die gesagt haben, Judith, ich äussere mich jetzt nicht, genau weil ich keine Lust darauf habe, was dann passiert. Man muss sagen, dass viele Menschen sich nicht äussern, weil sie Angst vor den Konsequenzen haben – und diese Konsequenzen können einschneidend sein. Gibt es Kommentare, bei denen man weiss, dass keine der drei Methoden greift, dass es sich also gar nicht lohnt, etwas zu probieren? Sich lohnen für wen? In unserem Projekt geht es nie darum, die Person, die sich geäussert hat, umzustimmen oder ihr eine andere Meinung zu geben. Der Fokus liegt darauf, dass wir etwas entgegensetzen wollen, das nicht unwidersprochen stehen bleibt – und wir richten den Fokus wirklich auf die schweigende Mehrheit: auf die, die mitlesen, die das mitbekommen und denen das auch schlechte Laune macht. Für die lohnt es sich immer. Gleichzeitig gibt es in unserem Projekt aber auch Bereiche im Internet, die extrem hasserfüllt sind, richtige Echokammern mit bestimmten Radikalisierungsmilieus – da haben auch die Social Influencer:innen teilweise entschieden: Das ist eigentlich too hateful, da interveniere ich nicht, das ist schon zu viel Hass. Vieles von diesem Hass wird mittlerweile ja auch gar nicht mehr von echten Menschen geschrieben, sondern direkt von Bots. Ist es dann nicht absurd, dass ein Bot das Internet vollmüllt, aber ein echter Mensch zurückschreiben muss? Ich bin voll bei dir – ich gehe quasi wieder «Internet putzen». Ich habe in einer Publikation das Bild verwendet, dass Menschen das Internet putzen, das technisch vermüllt wird. Es ist aber auch schwierig: Je nach Erhebung macht Bot-Content in Europa mehr als 50 Prozent des Internets aus. Ich bin sicher, dass wir auch mit Bots interagiert haben, weil man das nicht zwingend erkennen kann. Das finde ich wichtig zu berücksichtigen – gerade wenn man Diskussionen anschaut, zum Beispiel unter einem Zeitungsartikel mit Tausenden Kommentaren: Manche behaupten dann, diese Kommentare seien gar nicht von echten Menschen, um das Ganze kleinzureden. Man kann aber nicht einfach sagen, «da wende ich die 50 Prozent an» – diese Rechnung geht so nicht auf. Und es ist auch nicht fair, einem Menschen vorschnell zu unterstellen, er sei ein Bot. Aber in diesem Diskurs finde ich es wichtig, das mitzudenken. Ich finde immer, Kommentare sind kein Menschenrecht. Was hälst du von der Idee, dass man bei gewissen Beiträgen die Kommentarfunktion einfach deaktiviert? Das kann ich sehr gut nachvollziehen. Ein Teil von mir ist dafür. Der andere Teil von mir hält aber immer noch an dem Demokratieversprechen des Internets, des Web 2.0, fest. Das war damals ein riesiges Demokratieversprechen. Wir haben sehr gehofft, dass gerade Stimmen, die vorher nicht hörbar waren, hörbar werden, weil die Hürden kleiner sind. Das kann missbraucht werden, das sehe ich schon. Aber ich halte trotzdem an dem Demokratieversprechen fest. Ich finde es sehr wichtig, wie leben in einer digitalisierten Welt – es ist für eine Demokratie sehr wichtig, dass wir unsere Meinungen und Haltungen zu Themen äussern können. Aber es ist wichtig, dass wir das konstruktiv tun. Im Moment ist der Diskurs nicht konstruktiv. Ich verstehe, dass eigentlich jede Online-Zeitung am liebsten gar keine Kommentarspalte hätte, wegen des personellen Aufwands, das zu bewirtschaften. Bei allen digitalen Möglichkeiten, die wir haben, ist dieser Aufwand gross. Ich verstehe das vollkommen. und gleichzeitig: wo haben wir sonst den Raum, um uns auszutauschen? Zum Schluss noch ein Blick in die Kristallkugel: Wie wird sich die Kommentarkultur in den nächsten paar Jahren verändern? Ich würde gern in die Kristallkugel schauen und dir sagen, was ich mir wünsche: ein demokratisches Internet. Eine demokratische digitale Öffentlichkeit, in der wir unterschiedlicher Meinung sein können, miteinander streiten – aber dabei anständig bleiben. Ist das realistisch? Die Frage ist, wie viel Utopie wir brauchen, um konstruktive Ziele verfolgen zu können – auch eine Demokratie ist eine Utopie. Wenn wir der Utopie folgen, werden die Ziele, die wir tatsächlich erreichen, viel näher an dieser Utopie liegen. Wie sollen die Leute reagieren, die das nächste Mal einen Hasskommentar im Internet lesen? Was für Tipps hast du für sie? Ich finde es natürlich mega nice, wenn man Counterspeech betreibt – das finde ich super. Ich würde aber kurz anmerken: Achtet darauf, euch selbst zu schützen. Achtet darauf, nicht selbst in die Aggressionsspirale hineingezogen zu werden – das passiert oft. Unsere Studien haben gezeigt, dass fast bis zu 80 Prozent der Counterspeech selbst Aggression enthält. Das ist nicht hilfreich, das ist ein Appell, den ich loswerden möchte. Man muss nicht selbst Counterspeech betreiben, es ist anstrengend, man weiss vielleicht nicht wie. Man kann zum Beispiel auch einfach sagen: «Ich melde jetzt zehn Hasskommentare.» Das ist auch freiwillige Engagement, auch wenn man sich dabei nicht exponiert und es öffentlich nicht sichtbar wird. Man kann aber auch einen Counterspeech-Kommentar liken – wenn jemand Counterspeech betrieben hat, versehe ich das mit einem kleinen Herz: Ich bin bei dir, ich unterstütze dich. Ich finde super, dass du etwas gesagt hast. Das ist ein kleines Engagement, das in der Öffentlichkeit unsichtbar bleiben kann. Für mehr Liebe im Internet! Ja, unbedingt. Judith, vielen Dank, dass du dir heute Zeit genommen hast. Sehr gerne. Danke für die Einladung. Es ist einfacher, die Aufmerksamkeit der Leute mit negativen als mit positiven Emotionen zu halten. So viel habe ich heute gelernt. Und dass Plattformen mit Hass viel Geld verdienen. Aber Counterspeech-Kommentare wirken dagegen. Es ist eigentlich absurd: Möglicherweise investiert da jemand Zeit hinein, und dann redet man nur mit einem Bot – kommuniziert mit gar keinem echten Menschen. Du bist ja vor allem im Internet als Konsumentin unterwegs, Jessica. Was machst du, wenn du einen Hasskommentar siehst? Bis jetzt bin ich nie aktiv geworden. Heute habe ich realisiert, dass ich auch hier eine Art freiwillige Arbeit leisten kann, ohne mich exponieren zu müssen – ich kann zum Beispiel einen Hasskommentar melden. Oder ich kann Counterspeech-Kommentare liken, damit die positiven Kommentare mehr Reichweite bekommen als die negativen. Finde ich gut, weil, dass sich die Kommentarkultur in den letzten zehn Jahren verändert hat – das ist mir auch schon aufgefallen. Der Umgangston ist wirklich einiges aggressiver geworden. Grenzen des Sagbaren verschiebt sicht immer mehr. Das macht ja auch etwas mit uns als Gesellschaft, wie wir uns im Internet begegnen. Definitiv. Wir haben vor drei Jahren in diesem Podcast darüber geredet, wie man KI einsetzen kann, um Hasskommentare automatisch zu erkennen und sogar zu beantworten. Wenn euch das Thema interessiert, verlinken wir die damalige Folge mit Karsten Donnay in den Shownotes. Uns gibt's demnächst wieder. Bis dann, eine gute Zeit!