Chantal Kopf MdB: Zusammenarbeit mit Freiburger KI-Startup Penemue, Zentralstelle zur Bekämpfung von Hasskriminalität im Internet Niedersachsen (ZHIN bei Staatsanwaltschaft Göttingen) und Universität Mannheim für Schutz vor Hatespeech und unangemessenen Inhalten auf Social Media-Accounts
Freiburg, 12.07.2024
Chantal Kopf, Freiburger Bundestagsabgeordnete für Bündnis 90/Die Grünen, wird an einem wissenschaftlich begleiteten Test einer App zum Schutz von Personen des öffentlichen Lebens vor Hasskommentaren in ihren Social Media-Accounts teilnehmen. Penemue, ein junges Freiburger Unternehmen, das sich auf Künstliche Intelligenz zur Hatespeech-Erkennung spezialisiert hat, nutzte bereits erfolgreich seine Technologie, um Kommentare unter Posts von Chantal Kopf auf der Plattform X auf Hassnachrichten zu untersuchen und die Politikerin bei der Strafverfolgung zu unterstützen. Ab September wird es einen größeren Testlauf geben in Zusammenarbeit mit dem Landesprogramm für Demokratie und Menschenrechte Niedersachsen und der Zentralstelle zur Bekämpfung von Hasskriminalität im Internet Niedersachsen (ZHIN), angesiedelt bei der Staatsanwaltschaft Göttingen. Hierbei wird eine App getestet, die direkt auf den Geräten der Accountinhaber*innen eingehende Kommentare automatisiert untersucht und auswertet, diesmal für Instagram-Accounts. Dabei wird Chantal Kopf eine der Personen des öffentlichen Lebens sein, die die neue App testen und an einer wissenschaftlichen Auswertung durch die Universität Mannheim dazu teilnehmen. Chantal Kopf hierzu: „Früher hatte ich weder die Zeit noch den Fokus, unangemessene Kommentare auf meinen Accounts zu löschen oder zu melden. Dabei bin ich überzeugt, dass ich mitverantwortlich dafür bin, dass meine Kommentarspalten kein rechtsfreier Raum sind. Die Zusammenarbeit mit Penemue ermöglicht mir, Hatespeech schnell herauszufiltern. Die KI gibt mir automatisch eine erste Einschätzung, welche Kommentare eventuell strafbare Inhalte enthalten, so dass ich gegen die Absender gegebenenfalls juristisch vorgehen kann. Hatespeech will Menschen einschüchtern und abhalten von der Teilnahme an einer offenen Diskussion – das schadet unserer Demokratie und darf daher nicht ignoriert werden.“
„Chantal Kopf und Penemue arbeiten zusammen, um eine sicherere Online-Umgebung zu schaffen und einen effektiven Schutz für Betroffene bereitzustellen“, sagt Jonas Navid Mehrabanian Al-Nemri, Co-Founder von Penemue. „Auch Angriffe auf Politiker*innen im realen Leben stehen oft in Zusammenhang mit Onlinehass. Wir wollen zeigen, dass KI ein Teil der Lösung sein und unsere Demokratie schützen kann.“
Co-Founderin von Penemue Sara Egetemeyr äußert sich ebenfalls zu der Zusammenarbeit: „Politiker*innen sind qua ihres Amtes dazu angehalten, Bürger*innen über das aktuelle Tagesgeschehen zu informieren und kommen daher um die Nutzung von Social Media eigentlich nicht herum. Es kann jedoch nicht sein, dass sie dadurch solch enormen Risiken ausgesetzt sind. Wir sind stolz darauf, mit Chantal Kopf zusammenzuarbeiten, um den Einsatz von KI-Technologie im Kampf gegen Hatespeech zu erproben, und hoffen, dass weitere Politiker*innen nachziehen und sich schützen werden.“
Penemue will mit seiner innovativen Technologie Social Media-Teilnehmer*innen in die Lage versetzen, aktiv gegen jede Form von Hass und Diskriminierung vorzugehen. Ein Schwerpunkt der Analyse liegt auf der Erkennung potenziell strafbarer Aussagen, wie Beleidigungen oder Drohungen. Die KI von Penemue hatte in einem ersten Testlauf 1630 Kommentare zu insgesamt 7 X-Posts von Chantal Kopf analysiert. 206 (12,6%) dieser Kommentare wurden als möglicherweise justiziabel bewertet – hier besteht also die Möglichkeit, Anzeige zu erstatten wegen Beleidigung oder übler Nachrede.