Werbung
Ein Berliner Start-up will Künstliche Intelligenz nutzen, um den Kampf gegen Hasskommentare im Netz effektiver zu gestaltet. Die KI-gestützte Software soll dazu Inhalte in sozialen Netzwerken und anderen Online-Plattformen analysieren und hasserfüllte sowie diskriminierende Äußerungen automatisch erkennen. Sobald entsprechende Inhalte identifiziert werden, sollen diese automatisch gemeldet und zur Überprüfung weitergeleitet werden.
Betroffene sollen sich so nicht mehr durch einen Berg von Hassnachrichten wühlen müssen, sondern können strafrechtlich relevante Kommentare direkt herauszufiltern lassen und diese schnell zur Anzeige bringen.
Treibende Kraft hinter dem Projekt "So Done" ist Franziska Brandmann, Vorsitzende der Jungen Liberalen. Brandmann erlebte kurz nachdem sie 2021 zu Bundesvorsitzenden der Jungen Liberalen gewählt wurde ihren ersten Shitstorm. Weil sie eine Fernsehsendung wegen sexistischer Äußerungen kritisiert wurde sie in der Folge auf Twitter, Instagram und per Email mit frauenfeindlichen Hasskommentaren überschüttet. Brandmann konstatierte: "Es gibt ein systematisches Problem mit Hass im Netz, aber keine systematischen Lösungen. Deshalb haben wir jetzt ein Unternehmen gegründet, um das systematisch anzugehen."
Die neue Technologie soll vor allem die manuelle Moderation von Plattformen entlasten und schneller auf problematische Inhalte reagieren können. Ziel ist es, die Online-Kommunikation und den Umgangston in digitalen Räumen zu verbessern. In Zusammenarbeit mit Universitäten und Forschern will das Start-up seine KI-Technologie stetig weiterentwickeln, um kontinuierlich präziser arbeiten zu können. Dabei soll besonders auf den Schutz der Meinungsfreiheit geachtet werden, um sicherzustellen, dass die Software nicht legitime Meinungen fälschlicherweise blockiert.
Die Bilanz die das Projekt bisher vorzuweisen ist dabei beachtlich: Das Start-up stellt derzeit circa 1000 Strafanträge im Monat. Dabei werden Strafanträge gebündelt und mit standardisierten Verfahren an die zuständige Staatsanwaltschaft oder Polizeibehörde gemeldet.