Rapid Artificial Intelligence based Detection of Aggressive or Radical content on the Web (RAIDAR)

Die jüngsten Ereignisse im Zusammenhang mit der US-amerikanischen Präsidentschaftswahl führen uns klar vor Augen, wie virtuell geführte Hasskampagnen reale, demokratiegefährdende Ereignisse nach sich ziehen können. Geschwindigkeit und Ausmaß dieser Eskalation zeigen uns deutlich, dass „Hass im Netz“ und „Radikalisierung“ nicht nur virtuell latente Bedrohungen demokratischer Einrichtungen und der Demokratie selbst darstellen, sondern dass diese durch direkte Angriffe auf Institutionen und Individuen realisiert werden. Ähnliche Phänomene und Entwicklungen, wie die gezielte Vermischung radikaler Gruppierungen mit anfänglich gemäßigten Protestbewegungen, werden auch in Europa und Österreich beobachtet. Diese Vermischung findet nicht nur im öffentlichen, sondern auch im virtuellen Raum statt. Neue digitale Plattformen werden in diesem Kontext in zunehmendem Maße zur Verbreitung demokratiegefährdender Meinungen missbraucht und Hassreden und Hassverbrechen werden zu einem akuten Problem. Eine zentrale Problemstellung im Bereich von Hass im Netz stellen die fehlenden Hilfsmittel dar, das Ausmaß dieses Phänomens messbar zu machen. Konkret können somit keine Rückschlüsse über die Reichweite bestimmter Hass-Kampagnen und keine Einschätzungen des Problems Hass im Netz im generellen getroffen werden. In weiterer Folge besteht auch kein Überblick, ob Gegenmaßnahmen zu Hass-Kampagnen Wirkung zeigen.

Laufzeit: 10/2021 – 09/2023

Kooperationspartner: AIT Austrian Institute of Technology GmbH, Semantic Web Company GmbH, Research Institute AG & Co KG, Scenor – Verein zur Erforschung aktueller gesellschaftlicher Herausforderungen, Bundesministerium für Justiz 

Auftraggeber: KIRAS-Programm der Österreichischen Forschungsförderungsgesellschaft mbH (FFG)

Ziel des Projekts RAIDAR (Rapid Artificial Intelligence based Detection of Aggressive or Radical content on the Web) ist die Erforschung von Methoden und Ansätzen zur quantitativen Erhebung und Bewertung von demokratiegefährdenden Inhalte im Kontext von Hass im Netz und Radikalisierung. Weitere Ziele sind die Entwicklung einer datenwissenschaftlichen Plattform zur teilautomatisierten und versatilen Analyse großer Datenbestände aus unterschiedlichen Quellen sowie die Erforschung von Ansätzen und Methoden zur automatisierten Einordnung von Inhalten bzgl. Paragraphen, welche aus strafrechtlicher Sicht Hass im Netz und Radikalisierung zuzuordnen sind. Zu möglichen demokratiegefährdenden Delikten zählen beispielsweise Verhetzung (§ 283 StGB), Wiederbetätigung (VerbotsG) oder Gefährliche Drohung (§ 107 StGB). Wegen der rechtlichen, gesellschaftlichen und kulturellen Komplexität dieser Aufgaben- und Zielsetzung, wird RAIDAR von drei GSK-Partnern begleitet, mit dem Ziel einer Umfassenden ethischen und rechtlichen Evaluierung.

Die Innovation von RAIDAR besteht in der Entwicklung und Definition von Kennzahlen, Messgrößen und Methoden zur Evaluierung von Hass im Netz und Radikalisierung. Die RAIDAR-Plattform wird dazu auch in einer quantitativen Studie im Bereich “Hass im Netz” und “Radikalisierung” auf zeitlich und kontextuell relevanten Inhalten probemäßig angewandt. Als spezifische Innovation wird die Anwendung des Forschungsfeldes LegalAI auf den Anwendungsbereich Hass im Netz betrachtet. Die Projektergebnisse sollen zu einer Entlastung des Bedarfsträgers (Bundesministerium für Justiz) durch teilautomatisierte, auf Künstlicher Intelligenz basierender, Assistenzsysteme im juristischen Bereich führen – unter Einhaltung rechtlicher und ethischer Grenzen.