Prävention und Schutz vor rasant zunehmenden Deepfakes

SPRIND als deutsche Agentur für Sprunginnovation hat Anfang Oktober eine Programmlinie gestartet und nun aus den Einreichungen die Teams für die geförderte Projektumsetzung ausgewählt. Im Fokus stehen Schutz und Prävention vor Deepfakes.  

(Christian Czaak) Die rasante Digitalisierung der letzten Zeit bringt faszinierende wie auch beunruhigende Möglichkeiten mit sich. Ein Bereich für den dies ganz gesondert gilt, sind künstlich-technologisch generierte Inhalte und sogenannte Deepfakes. Das sind KI-generierte Audio-, Bild- und Videoinhalte und sie sind mittlerweile so realistisch, dass sie von echten Aufnahmen kaum zu unterscheiden sein.

Deepfakes können Vertrauen, Sicherheit und Wahrnehmung von Realität gefährden
Durch die verstärkte Leistungsfähigkeit von Systemen und den neuen (generativen) Sprachmodellen basierend auf künstlicher Intelligenz (KI) und maschinellem Lernen (ML) verbessert sich nicht nur die Quantität, sondern auch die Qualität dieser Deepfakes. Diese Entwicklung birgt Gefahren, sie kann Vertrauen, Sicherheit und die Wahrnehmung von Realität in unserer Gesellschaft massiv beeinträchtigen.

Die Bekämpfung von Deepfakes konzentriert sich aktuell insbesondere auf die Erkennung und dafür werden (wiederum) KI-Algorithmen entwickelt, etwa zur Identifizierung. Ein zweiter Bereich ist das Thema Prävention mit der Implementierung von Authentifizierungsmechanismen für digitale Inhalte. Trotz erheblicher Fortschritte hier bleiben Herausforderungen wie die Generalisierbarkeit und Skalierbarkeit von KI-Deepfake-Erkennungssystemen und die Etablierung eines manipulierungsrestistenten Standards für Bild-Metadaten.

Bis zu Euro 350.000,- für erste Projektphase und danach nochmals bis zu Euro 375.000,-
SPRIND, die deutsche Agentur für Sprunginnovation hat zu diesem Thema nun Anfang Oktober unter dem Titel „Funke“ eine neue Programmlinie gestartet (economy berichtete). Gefordert ist die Entwicklung eines umfassenden Prototyps, der reaktive Maßnahmen zur Erkennung und/oder präventive Maßnahmen zum Schutz vor Deepfakes beinhaltet, insbesondere bei Bilddaten. Relevant ist zudem, dass die neue Anwendung ohne großen Aufwand in bestehende digitale Infrastrukturen integriert werden kann; Stichwort Schnittstellen.

„Die neue Anwendung muss demonstrieren, wie Bild-Deepfakes zuverlässig erkannt und authentifiziert werden können. Das gesamte System kann KI-gestützt arbeiten und sich kontinuierlich an neue Deepfake-Techniken anpassen können. Am Ende des Prozesses sollen mindestens drei unterschiedliche Anwendungsfälle (z.B. Social Media, Nachrichtenportale, Videokonferenzsysteme) abgedeckt werden. Skalierbarkeit und Anpassungsfähigkeit an verschiedene digitale Plattformen sollten möglich sein“, so SPRIND zu den Ausschreibungskriterien.

Die aktuell nominierten Projekte
In der ersten Stufe werden die Projekte mit dem Betrag von bis zu 350.000,- pro Team unterstützt, in der zweiten Phase des „Funken“ können nach einer nochmaligen Evaluierung und Prüfung durch eine Fachjury nochmals bis zu 375.000,- pro Projekt dazu kommen. Aktuell wurden nun aus 50 Einreichungen 12 Teams ausgewählt. Die Teams stammen aus Forschungseinrichtungen, Hochschulen und Start-Ups aus Frankreich, Deutschland und Slowenien.

Die nun nominierten Projekte sind „Multi-Modal Deepfake Detection“, „ImVerif“, „VeriTrue“ (FAU/secunet solution), „ReaLGuard“, „ContentTransparencyArchive“ (Verifiable Metadata), „AI Robotic“, “Neuraforge“, „Valid – Trusted Information“, “Cinematic Context Aware AI Image Detection”, “Deep Shield – The Disruptive Preventer”, “DeepFOCAS” und schließlich “Clyra Vision”. Die genaue Beschreibung der allesamt überaus spannenden Projekte sind auf der Website von SPRIND angeführt.