KI-gestützte Desinformationserkennung für den Journalismus (PROVAIDE)

Eine unabhängige Berichterstattung ist das Fundament jeder Demokratie. Doch die Verbreitung von Desinformation stellt vor allem den Journalismus stetig vor neue Herausforderungen. Besonders der Lokaljournalismus steht unter Druck, Fakten von Falschinformationen zu unterscheiden und verlässlich zu kommunizieren, denn genau hier stehen oft nur begrenzte Ressourcen für umfangreiche Recherchen zur Verfügung.

Das Projekt „PROVAIDE“ setzt hier an und entwickelt ein KI-gestütztes Tool, das Journalist:innen bei der Analyse von Informationen unterstützt, indem es ihre Herkunft, Verbreitung und die Wahrscheinlichkeit von Desinformation bewertet. Ziel ist es, die Glaubwürdigkeit von Quellen zu evaluieren, typische Narrative zu erkennen und so die Bekämpfung von Desinformation zu verbessern.

Als Grundlage wird eine ständig wachsende Datenbank mit Fakten genutzt, die auf automatisierten Nachrichtencrawls basiert und die von Journalist:innen ergänzt und aktualisiert werden kann, um die KI bei der Bewertung von Nachrichten zu unterstützen und Fehler zu vermeiden. Zusätzlich wird eine KI-gestützte multimodale Analyse verschiedener Arten von Informationen wie Text, Bild, Video und Audio erforscht und genutzt, um die Genauigkeit der Klassifikation zu verbessern. Durch die Entwicklung einer benutzerfreundlichen Oberfläche, die in bestehende Arbeitsabläufe integriert werden kann, wird die Anwendung im Journalismus vereinfacht.

Das Vorhaben nutzt die Kombination aus Transparenz, Wahrscheinlichkeitsbewertung und Kontextanalyse zur Erkennung von Desinformation und wird speziell auf die Bedürfnisse von Journalist:innen zugeschnitten. Das Projekt geht über reine Inhaltsanalysen hinaus und prüft die Ursprünge und Verbreitungswege von Informationen, um die Glaubwürdigkeit von Quellen zu bewerten. Durch die vorgesehene Open-Source Veröffentlichung von Ergebnissen und die Zusammenarbeit mit Medienhäusern und Forschungseinrichtungen soll eine nachhaltige Nutzung und Weiterentwicklung des Tools auch über das Vorhaben hinaus ermöglicht werden.

Arbeiten am InfAI

Das InfAI wird innerhalb des Projektkonsortiums die Koordination und das Projektmanagement übernehmen. Es wird das Crawling textbasierter und multimodaler Inhalte durchführen. Bei der Bedarfsanalyse unterstützt es bei der Konzeption der Funktionskomponenten der Tool-Lösung und der Erstellung von Mockups. Das InfAI übernimmt die technische Entwicklung und Bereitstellung der Faktendatenbank für die Experten-Fakten-Annotation. Für die technische Entwicklung des KI-Backends und des dazugehörigen Nutzer-Frontends samt Betrieb während der Projektlaufzeit ist das InfAI federführend verantwortlich.

Projektteam am InfAI

• Benjamin Bock
• Maximilian Bley
• Johannes Heinz

Förderkennzeichen
16KIS2511K

• Institut für Angewandte Informatik (InfAI) e.V. (Verbundkoordination)
• Europäisches Zentrum für Presse- und Medienfreiheit (ECPMF) SCE mbH
• ConPolicy GmbH – Institut für Verbraucherpolitik