Rapid Artificial Intelligence based Detection of Aggressive or Radical content on the Web (RAIDAR)

Das RAIDAR-Projekt erforscht Methoden und Ansätze zur Erhebung und Bewertung von demokratiegefährdenden Inhalten, einschließlich Hass und Radikalisierung im Netz.

Wie beispielsweise die Bilder des Sturms eines aufgebrachten Mobs auf das amerikanische Kapitol im Jänner 2021 gezeigt haben, können virtuell geführte Hasskampagnen ernste demokratiegefährdende Ereignisse nach sich ziehen. Geschwindigkeit und Ausmaß dieser Eskalation zeigten uns deutlich, dass „Hass im Netz“ und „Radikalisierung im Netz“ nicht nur virtuell latente Bedrohungen demokratischer Einrichtungen und der Demokratie selbst darstellen, sondern dass diese auch durch direkte Angriffe auf Institutionen und Individuen in die Tat umgesetzt werden können. In diesem Zusammenhang werden digitale Plattformen zunehmend zur Verbreitung von demokratiegefährdenden Inhalten missbraucht und Hass im Netz und Radikalisierung im Netz wurden zu akuten Problemen.

Laufzeit: 10/2021 – 09/2023

Kooperationspartner: AIT Austrian Institute of Technology GmbH, Semantic Web Company GmbH, Research Institute AG & Co KG, Scenor – Verein zur Erforschung aktueller gesellschaftlicher Herausforderungen, Bundesministerium für Justiz 

Auftraggeber: KIRAS-Programm der Österreichischen Forschungsförderungsgesellschaft mbH (FFG)

RAIDAR will in diesem Kontext nicht nur neue Methoden zur Sondierung dieser Inhalte liefern, sondern eine anwenderfreundliche und IT-basierte Plattform zur teilautomatisierten und versatilen Analyse von großen Datenbeständen entwickeln, die sich aus unterschiedlichsten Quellen speisen. Ziel dabei ist, das System in die Lage zu versetzen, automatisch und mit Hilfe von künstlicher Intelligenz relevante Inhalte in diesen Datenbeständen mit gesetzlichen Bestimmungen in Verbindung zu bringen, welche aus strafrechtlicher Sicht Hass und Radikalisierung im Netz zuzuordnen sind.

Die Projektergebnisse werden die Arbeitsbelastung der Staatsanwaltschaften durch teilautomatisierte Assistenzsysteme auf Basis künstlicher Intelligenz im Rechtsbereich entlasten. RAIDAR wird zudem eine konkrete Technologiebewertung zu den ethischen Grenzen und rechtlichen Rahmenbedingungen im Kontext von mit künstlicher Intelligenz unterstützter Analyse liefern. Darüber hinaus wird die RAIDAR-Plattform in einer Studie im Bereich „Hass im Netz“ und „Radikalisierung im Netz“ auf zeitlich und kontextuell relevante Inhalte angewendet und geprüft.

Weitere Informationen unter raidar.at