Manche Aussagen können verzerrt sein, aber so subtil formuliert, dass das nur schwer erkennbar ist. Falsche Informationen können so einfacher verfangen. Und diese Mittel wurden und werden eingesetzt. Zum Beispiel, um über soziale Medien Menschen von etwas wie dem Brexit zu überzeugen, wie es dem elektronischen Beratungsunternehmen Cambridge Analytica öffentlich vorgeworfen wurde.
Aber wie erkennt man, ob etwas nicht objektiv ist, sondern sogenannter Bias? Das bedeutet Verzerrung, falsche Darstellung, also auch das Mischen von Fakten und Meinungen. Dabei kann jetzt ein System helfen, das an der Hochschule Coburg entwickelt wird. Jochen Leidner, Professor für Künstliche Intelligenz und sein Mitarbeiter Tim Menzner haben diesen Bias-Textscanner entwickelt.
Unser Newsletter liefert Ihnen die wichtigsten Geschichten des Tages aus der Region.
Hier geht es zu einer Demo-Version des Bias-Scanners
“Für uns steht die schriftliche Nachrichtenberichterstattung im Mittelpunkt.
”
Er soll erkennen, ob nachrichtliche Texte verzerrt sind, oder ob sie rein objektiv Fakten wiedergeben. Auf politische Reden ist das System nicht trainiert, Wahlkampf-Aussagen von Markus Söder („Ich kenne keinen, der uncooler in Deutschland ist als Sie, lieber Herr Scholz“) oder Olaf Scholz („Der Fritze Merz erzählt gern mal Tünkram“) soll es nicht bewerten können.
Professor Jochen Leidner: „Das System funktioniert nur, beziehungsweise viel besser mit Texttypen, für die es trainiert wurde. Man könnte auch ein System mit Politiker-Reden trainieren, das ist aber nicht unser Plan, für uns steht die schriftliche Nachrichtenberichterstattung im Mittelpunkt. Aber wenn jemand anders politische Reden oder andere Texttypen erforschen wollte, so können die gern auf unserer Arbeit aufbauen oder mit uns kooperieren; zum Beispiel wäre eine Textqualitäts- oder Neutralitätsprüfung für Journalisten denkbar.“
27 Arten von Bias
Wie funktioniert das System? Als Erstes haben die Forscher dazu die möglichen Arten von Verzerrung eingeordnet, also einen Bias-Katalog erstellt. Richtet sich die verzerrte Aussage gegen eine Person? Oder emotionalisiert sie zu sehr? Das Ergebnis ist eine Liste von 27 Arten, wie Aussagen verzerrt sein können. Zum Beispiel gibt es den „Ad Hominem-Bias“, wenn ein Argument angegriffen wird, indem der Charakter, die Motive oder andere Eigenschaften desjenigen, der das Argument vorbringt, ins Visier genommen werden, anstatt auf den Inhalt des Arguments selbst einzugehen. Das System basiert auf einem künstlichen neuronalen Netz.
Jochen Leidner: „Der Biasscanner identifiziert in Nachrichtentexten dabei nicht nur die Art des Bias, sondern auch seine ‚Stärke‘, bewertet also, wie sehr verzerrt die Aussage ist, mit dem Wert 0,1 als Minimum und 1,0 als Maximum.“
Das lässt sich an zwei Beispielen sowie den Ergebnissen des Biasscanners illustrieren.
„Der Klimawandel tötet Menschen“. Dieser Satz ist formuliert wie eine objektive Wahrheit. Hundertprozentig objektiv ist er aber nicht, der Scanner meldet das: „Dieser Satz verwendet eine übertriebene und provokative Formulierung, die darauf abzielt, starke Emotionen hervorzurufen. Er konzentriert sich auf die negativen Aspekte des Klimawandels, ohne den Kontext oder die Komplexität des Themas zu berücksichtigen. Der Artikel ist tendenziös in Bezug auf das Thema Klimawandel, da er den Emotionaler-Sensationalismus-Bias verwendet, um die Auswirkungen des Klimawandels zu dramatisieren.“
„Der Klimawandel könnte in Zukunft bestimmte Regionen auf der Welt für Menschen unbewohnbar machen.“ Dieser Satz ist differenzierter – und wird vom Biasscanner nicht beanstandet.
Der Biasscanner kann als Erweiterung für den Browser Firefox installiert werden, für weitere Browser soll die Anwendung in Zukunft zur Verfügung stehen. Wer mit der Demo-Version auf Verzerrungen überprüft, können die Forscher nicht sehen, das System arbeitet anonym. Man kann aber als User, ebenfalls anonym, die Texte, die man geprüft hat, an die Forscher übermitteln. Diese Inhalte können dann genutzt werden, um die KI weiter zu trainieren.
TRANSPARENZHINWEIS: Die einzelnen Absätze dieses Textes haben wir vom Biasscanner überprüfen lassen, sie wurden dabei nicht beanstandet. Ausgenommen ist der bewusst gewählte, emotional formulierte Satz: „Der Klimawandel tötet Menschen.“ Diese Ergebnisse können bei einer erneuten Überprüfung variieren, da Sprachmodelle wie der Biasscanner ein beabsichtigtes Zufallselement beinhalten. So wie Menschen, zum Beispiel je nach Müdigkeit oder Konzentrationsgrad, unterschiedliche Antworten auf Fragen geben können. Zudem wird die Anwendung fortlaufend weiterentwickelt.
