Mit Künstlicher Intelligenz Desinformation im Netz erkennen

Mit Social Media ist ein neuer Weg hybrider Kriegsführung entstanden, den Konfliktparteien weltweit nutzen: die Verbreitung gefälschter oder manipulierter Inhalte. Wie kann Künstliche Intelligenz (KI) dabei helfen, Desinformation im Netz zu erkennen und für Lagebilder auszuwerten? Dafür hat der Cyber Innovation Hub der Bundeswehr (CIHBw) mit seinem Innovationsvorhaben „ImageAware“ eine Lösung entwickelt.

 
Herausforderung

Der russische Angriffskrieg auf die Ukraine, der UN-Einsatz in Mali oder der terroristische Überfall der Hamas auf Zivilisten in Israel – die heutigen Konflikte werden auch im Cyber- und Informationsraum ausgetragen. Ein Aspekt hybrider Kriegsführung ist die gezielte Verbreitung von Desinformation, um die öffentliche Meinung zu beeinflussen. Vor allem Bilder, Memes und Videos können negative Emotionen erzeugen und werden daher gezielt eingesetzt, um eine Öffentlichkeit zu schaffen, die sich gegen unsere Soldat:innen im Einsatz und gegen die deutsche Sicherheits- und Außenpolitik stellt. Die Echtheit der Inhalte ist nur schwer zu verifizieren.

Um dieser Gefahr früh zu begegnen, wertet die Bundeswehr auch öffentlich verfügbare Daten aus dem Internet aus. Die Auswertung von Bild- und Videomaterial ist dabei jedoch besonders zeitintensiv. Bislang gab es keinen KI-gestützten Prozess, der diese großen Datenmengen strukturiert erfassen und auswerten konnte. 

Netzwerke, Verbindungen einzelner Accounts und Cluster stellt die Software einfach dar.
Ein Dashboard zeigt einem Analysten übersichtlich auf einem Bildschirm das aktuelle Stimmungsbild im Netz.
Lösung

Dieser Herausforderung hat sich der CIHBw angenommen. Mit dem Innovationsvorhaben „ImageAware“ hat der CIHBw gemeinsam mit dem Startup „Munich Innovation Labs“ ein Programm entwickelt, das mithilfe Künstlicher Intelligenz Fotos, Videos und Memes automatisch erfasst und auswertet. Die Software ist in der Lage, große Datenmengen strukturiert zu analysieren und unterstützt Analyst:innen so, manipulierte oder gefälschte Beiträge zu finden und Desinformationskampagnen frühzeitig aufzuklären.

Das Innovationsvorhaben minimiert den Zeitaufwand, verbessert die Qualität der Analysen und trägt zu einem besseren Lagebild bei. Die Analyst:innen der Bundeswehr haben dadurch mehr Ressourcen für die inhaltliche Beurteilung. Sie können ein umfassenderes und detaillierteres Lagebild erstellen. Das ermöglicht im Konfliktumfeld einen Informationsvorsprung und senkt die Risiken für Soldat:innen im Einsatzgebiet.