„ImageAware": Mit KI Desinformation erkennen
KI erkennt manipulierte Bilder, Videos und Memes automatisch und verschafft der Bundeswehr einen Informationsvorsprung.
Wenn Desinformation zur Waffe wird
Soziale Medien sind längst Teil hybrider Kriegsführung. Konfliktparteien auf der ganzen Welt nutzen sie, um gefälschte oder manipulierte Inhalte zu verbreiten. Bilder, Videos und Memes werden gezielt eingesetzt, um Stimmungen zu beeinflussen und Desinformation zu verbreiten. Doch wie lässt sich das frühzeitig erkennen? Der CIHBw hat dafür das Innovationsvorhaben „ImageAware“ entwickelt.
Der russische Angriffskrieg auf die Ukraine, der UN-Einsatz in Mali oder der terroristische Überfall der Hamas auf Zivilisten in Israel zeigen: Konflikte werden heute nicht nur auf dem Schlachtfeld ausgetragen, sondern auch im Cyber- und Informationsraum. Manipulierte Bilder, Memes und Videos sollen Emotionen auslösen, Zweifel säen und Stimmung gegen Soldatinnen und Soldaten im Einsatz sowie gegen die deutsche Sicherheits- und Außenpolitik erzeugen. Solche Inhalte auf ihre Echtheit zu prüfen, ist bisher sehr aufwendig.
KI erkennt, was Menschen kaum noch überblicken können
Gemeinsam mit dem Startup „Munich Innovation Labs“ hat der CIHBw das Innovationsvorhaben „ImageAware“ entwickelt. Die KI erfasst und analysiert automatisch Fotos, Videos und Memes aus großen Datenmengen. So unterstützt die Software Analystinnen und Analysten dabei, manipulierte oder gefälschte Inhalte schneller zu erkennen und Desinformationskampagnen frühzeitig aufzudecken. So kann die KI in wenigen Minuten auswerten, wofür Analystinnen und Analysten bisher Stunden brauchten.
Neu sind Qualität und Tempo, mit denen manipulierte Bilder verbreitet werden. Wir müssen schneller sein.
Sven Weizenegger
Leiter des CIHBw
Warum die Auswertung bislang so aufwendig war
Gerade in Konflikten ist es schwierig, die Herkunft und Echtheit von Medieninhalten zu überprüfen. Manipulierte Inhalte können das Vertrauen in die Demokratie und in die Bundeswehr schwächen. Sie stellen Einsätze infrage und beeinflussen die öffentliche Meinung. Für Soldatinnen und Soldaten im Einsatz kann das zur direkten Gefahr werden.
Durch das gezielte Platzieren von emotionalisierten Medieninhalten werden die Algorithmen der Social-Media-Plattformen genutzt, um große Reichweiten zu erzielen, unabhängig von der Authentizität der Inhalte.
Deshalb wertet die Bundeswehr auch öffentlich verfügbare Inhalte aus dem Internet aus. Vor allem Bilder und Videos zu prüfen, kostet jedoch viel Zeit. Bisher fehlte eine KI-Lösung, die große Datenmengen automatisch erfassen und strukturiert auswerten kann.
Schneller erkennen, besser entscheiden
Mit „ImageAware“ gibt der CIHBw Analystinnen und Analysten der Bundeswehr ein Werkzeug an die Hand, das Desinformation schneller sichtbar macht. Die Software spart Zeit, verbessert die Qualität der Auswertung und schafft ein präziseres Lagebild.
Dadurch können sich Analystinnen und Analysten stärker auf die inhaltliche Bewertung konzentrieren. Sie erkennen Desinformationskampagnen früher und können Entwicklungen besser einordnen. Die Bundeswehr kann dadurch schneller reagieren, fundiertere Entscheidungen treffen und Soldatinnen und Soldaten im Einsatz besser schützen.
