PRISM: Predicting Radicalization Events in Social Media User Timelines
Beschreibung
Das PRISM-Projekt konzentriert sich auf die Erkennung von Radikalisierungsereignissen in Social-Media-Netzwerken. Insgesamt sind wir daran interessiert, die Mechanismen aufzudecken, die dazu führen, dass extremistische Ideologie übertragen und in die Weltanschauung eines Social-Media-Nutzers oder -Nutzerin aufgenommen wird. Konkret zielt das vorgeschlagene Projekt darauf ab, entstehende und laufende Radikalisierungsereignisse in der Social-Media-Timeline eines Nutzers, einer Nutzerin zu identifizieren. Anders als bei verwandten Arbeiten zur Online-Radikalisierung, gehen wir nicht davon aus, dass eine Nutzerin, ein Nutzer bereits radikalisiert ist, sondern wollen vielmehr Entwicklungen und Merkmale identifizieren, die darauf hindeuten, dass eine Nutzerin, ein Nutzer (anfällig für) eine Radikalisierung ist, bevor oder während sie stattfindet. Konkret interessieren wir uns für die beobachtbaren Merkmale des Social-Media-Verhaltens einer Nutzerin, eines Nutzers, die mit einer Radikalisierung einhergehen. Diese Merkmale lassen sich grob in zwei Kategorien einteilen:
- a.Benutzergenerierte Inhalte: Themenerkennung und -verschiebung, Verschiebung der Polarität, der Stimmung und der Tonalität in Richtung der Zielpersonen, die in den Tweets des Nutzers oder der Nutzerin von Interesse sind.
- b.Verhalten im sozialen Netzwerk: (Re)tweet-Verhalten, Tweets, auf die reagiert wurde, und die Art der Reaktion, Topologie des sozialen Graphen (Anhänger/Follower/Freunde).
Für die Inhaltsanalyse der Nutzer und Nutzerinnen werden wir Methoden wie Themenerkennung und -verfolgung, Erkennung von Haltungen, Stimmungsanalyse und Meinungsanalyse anwenden. Darüber hinaus werden wir Argumentationsmodelle erforschen, um zu verstehen, welchem Narrativ eine Nutzerin, ein Nutzer folgen könnte. Ausserdem ist Überredung ein wichtiger Faktor bei der Radikalisierung - wir werden Modelle anwenden, um überredende Dialoge zu erkennen und zu analysieren, an denen eine Nutzerin oder ein Nutzer beteiligt sein könnte. Um die Merkmalsgruppe b) anzugehen, werden wir verschiedene netzwerkbezogene Analysen, Metriken und Statistiken nutzen, wie z. B. die Häufigkeit von Posts und Veränderungen in der Struktur des sozialen Graphen. Schliesslich werden wir diese Merkmale in einem prädiktiven maschinellen Lernmodell kombinieren.
Eckdaten
Projektleitung
Stellv. Projektleitung
Co-Projektleitung
Ljiljana Dolamic
Projektteam
Projektpartner
Bundesamt für Rüstung armasuisse / armasuisse W+T - Wissenschaft und Technologie
Projektstatus
abgeschlossen, 04/2022 - 02/2023
Institut/Zentrum
Centre for Artificial Intelligence (CAI)
Drittmittelgeber
Bundesamt für Rüstung armasuisse / armasuisse W+T - Wissenschaft und Technologie
Projektvolumen
149'709 CHF