Im Zuge des Nahostkonflikts verbreiten sich zahlreiche Desinformationen im Netz, darunter auch KI-generierte Bilder und Videos. Diese Inhalte werden gezielt zur Manipulation, zur Stimmungsmache oder aus wirtschaftlichen Interessen eingesetzt und verdeutlichen die wachsende Bedeutung künstlicher Intelligenz als digitale Waffe in modernen Kriegen.
In mehreren Ausgaben der Tagesschau ordnet Prof. Tim A. Majchrzak, wissenschaftlicher Direktor am Center for Advanced Internet Studies (CAIS), diese Entwicklung ein. Er betont die Herausforderungen bei der Erkennung KI generierter Inhalte. Einzelne Erkennungsmerkmale reichen häufig nicht aus, stattdessen sei eine sorgfältige Prüfung von Inhalten notwendig. Zudem beschreibt er ein dauerhaftes Wettrüsten zwischen der Qualität KI generierter Inhalte und den verfügbaren Erkennungswerkzeugen. Je besser die Fälschungen werden, desto aufwendiger müssen die Detektionsinstrumente sein, wobei die Erkennungsmöglichkeiten den Entwicklungen meist hinterherhinken.