Weniger Hass dank KI: Diskussionen in Kommentarspalten werden schnell giftig. Oft findet man dort mehr Hass-Kommentare als sachliche Beiträge. Sinnvolle und zielführende Diskussionen sind deshalb meist unmöglich. Die Google-Tochter Jigsaw will mit künstlicher Intelligenz gegen solche Kommentare vorgehen. Das System „Perspective“ soll erkennen, wie „toxisch“ ein Beitrag ist. Das KI-Programm könnte gegenüber klassischer Stichworterkennung einige Vorteile aufweisen.
Jigsaw wertete 17 Millionen unangebrachte Kommentare der New York Times aus und ließ Testpersonen 130 000 Diskussionsbeiträge auf Wikipedia beurteilen. Davon ausgehend entwickelte das System selbstständig Regeln, um Hass-Kommentare zu erkennen. Beiträge sollen so auf einer Skala von 0 bis 100 bewertet werden können. Noch ist das System allerdings nicht ganz ausgereift. Laut Journalist Andy Greenberg, der den Selbsttest wagte, ist es aber schon jetzt in der Lage, „erstaunlich subtile“ Unterschiede in der Sprache zu erkennen.
Ein Vorteil des intelligenten Systems ist, dass es mit der Zeit lernen kann. Programme, die auf reine Stichworterkennung setzen, stoßen schnell an ihre Grenzen. Indirekt formulierte Beleidigungen oder leicht abgewandelte Begriffe werden von ihnen häufig nicht erkannt. Auch Ironie ist für solche Systeme ein Fremdwort. Jigsaw möchte genau hier einen Mehrwert bieten.
Das System dürfte vor allem Verlage interessieren. Diese haben in den vergangenen Jahren die Kommentarfunktion auf ihren Websites teilweise abgeschaltet. Andere Verlage beschäftigen eine Horde von Mitarbeitern, deren einzige Aufgabe es ist, unangebrachte Beiträge zu löschen. Mit der Jigsaw-Entwicklung könnten solche Maßnahmen überflüssig werden. Denkbar ist auch, dass dem Nutzer der „toxische“ Gehalt seines Kommentars noch vor dem Senden angezeigt wird. Der Autor würde also direktes Feedback bekommen und könnte sich nochmal überlegen, ob er seinen Beitrag wirklich absenden will.
Die Nutzung der „Perspective“ genannten API kann von Entwicklern kostenlos angefordert werden. Bislang funktioniert das Programm allerdings nur auf Englisch. Bis auch deutschsprachige Seiten von der Neuerung profitieren können, dürfte noch einige Zeit vergehen. Perspective müsste dafür erst mit deutschen Begriffen und Kommentaren gefüttert werden und eigene Regeln erstellen.
Es bleibt spannend zu sehen, ob Maschinen wirklich dabei helfen können das Gesprächsniveau im Internet zu verbessern. Der Erfolg hängt vor allem davon ab, wie schnell Systeme lernen können, feine Unterschiede in der Sprache zu erkennen. Fraglich ist auch, ob wir unsere Gespräche tatsächlich von Maschinen moderieren lassen möchten.
– Anzeige –
Am 1. Juni 2017 findet die zweite Mobile Spree Konferenz in Berlin statt.
Fern ab von Sales Pitches und gesponserten Inhalten, bietet Adjust Experten aus dem Mobile Marketing die Plattform, echte Einblicke in ihre Arbeit mit dir zu teilen. Im Fokus stehen Mobile User Acquisition, Retention & Engagement und Mobile ROI Measurement. Melde dich bis zum 28.2.2017 an und sichere dir den Early Bird Tarif.
Alle Infos findest du hier.
