„ImageAware“: Mit Künstlicher Intelligenz Desinformation im Netz erkennen

Mit Social Media ist ein neuer Weg hybrider Kriegsführung entstanden, den Konfliktparteien weltweit nutzen: die Verbreitung gefälschter oder manipulierter Inhalte. Wie kann Künstliche Intelligenz (KI) dabei helfen, Desinformation im Netz zu erkennen und für Lagebilder auszuwerten? Dafür hat der Cyber Innovation Hub der Bundeswehr (CIHBw) mit seinem Innovationsvorhaben „ImageAware“ eine Lösung entwickelt.

Der russische Angriffskrieg auf die Ukraine, der UN-Einsatz in Mali oder der terroristische Überfall der Hamas auf Zivilisten in Israel – die heutigen Konflikte werden auch im Cyber- und Informationsraum ausgetragen. Ein Aspekt hybrider Kriegsführung ist die gezielte Verbreitung von Desinformation, um die öffentliche Meinung zu beeinflussen. Vor allem Bilder, Memes und Videos können negative Emotionen erzeugen und werden daher gezielt eingesetzt, um eine Öffentlichkeit zu schaffen, die sich gegen unsere Soldat:innen im Einsatz und gegen die deutsche Sicherheits- und Außenpolitik stellt. Die Echtheit der Inhalte ist nur schwer zu verifizieren.

Dieser Herausforderung hat sich der CIHBw angenommen. Mit dem Innovationsvorhaben „ImageAware“ hat der CIHBw gemeinsam mit dem Startup „Munich Innovation Labs“ ein Programm entwickelt, das mithilfe KI Fotos, Videos und Memes automatisch erfasst und auswertet. Die Software ist in der Lage, große Datenmengen strukturiert zu analysieren und unterstützt Analyst:innen so, manipulierte oder gefälschte Beiträge zu finden und Desinformationskampagnen frühzeitig aufzuklären.

„Bilder als Teil von Kriegspropaganda und Desinformationskampagnen sind kein neues Phänomen“, sagt Sven Weizenegger, Leiter des CIHBw. „Neu ist aber die Qualität und die Geschwindigkeit, mit der manipulierte oder gefälschte Bilder mithilfe digitaler Technologie verbreitet werden können. Für uns heißt das: Wir müssen schneller sein. Und das schaffen wir durch den klugen Einsatz digitaler Innovationen.“

von

Auswertung von Memes bislang sehr zeitintensiv

Durch das gezielte Platzieren von emotionalisierten Medieninhalten durch Akteure im Informationsraum, werden die Algorithmen der Social-Media-Plattformen genutzt, um große Reichweiten zu erzielen – unabhängig von der Authentizität der Inhalte.

Denn der Ursprung, der Wahrheitsgrad und die Authentizität der Video-, Text- oder Tondateien, sind – vor allem in Konfliktsituationen – nur schwer nachzuvollziehen. Manipulierte oder gefälschte Inhalte aber können für das Vertrauen in die Demokratie und die Aufgaben der Bundeswehr gravierende Folgen haben: Sie werfen Zweifel an der Legitimität möglicher Einsätze auf und können die Unterstützung der Bundeswehr schwächen. Für Soldat:innen in Konfliktgebieten liegt darin eine unmittelbare Gefahr.

Um dieser Gefahr früh zu begegnen, wertet die Bundeswehr auch öffentlich verfügbare Daten aus dem Internet aus. Die Auswertung von Bild- und Videomaterial ist dabei jedoch besonders zeitintensiv. Bislang gab es keinen KI-gestützten Prozess, der diese großen Datenmengen strukturiert erfassen und auswerten konnte.

Mit „ImageAware“ stellt der CIBHw eine Software, die dieses Problem beheben kann. Das Innovationsvorhaben minimiert den Zeitaufwand, verbessert die Qualität der Analysen und trägt zu einem besseren Lagebild bei. Die Analyst:innen der Bundeswehr haben dadurch mehr Ressourcen für die inhaltliche Beurteilung. Sie können ein umfassenderes und detaillierteres Lagebild erstellen. Das ermöglicht im Konfliktumfeld einen Informationsvorsprung und senkt die Risiken für Soldat:innen im Einsatzgebiet.