Frühwarnsystem KI erkennt Deepfakes in Videokonferenzen

Anbieter zum Thema

Fraunhofer-Institut für sichere Informations- technologie SIT

Metrofunk Kabel-Union GmbH

Rose Systemtechnik GmbH & Co. KG

Schneider Electric GmbH

Deepfakes machen auch vor Videokonferenzen nicht halt: Stimmen und Bilder lassen sich inzwischen täuschend echt fälschen. Fraunhofer-Forschende entwickeln deshalb ein KI-basiertes System, das Video- und Audio-Deepfakes während eines Gesprächs erkennt und bei einem Verdacht warnt.

Deepfakes werden zunehmend für Betrug und Identitätsdiebstahl eingesetzt – auch in Videokonferenzen. Mithilfe künstlicher Intelligenz lassen sich Stimmen und Gesichter inzwischen in Echtzeit so realistisch fälschen, dass selbst vertraute Gesprächspartner kaum Verdacht schöpfen. 2025 nahm beispielsweise ein Finanzdirektor in Singapur an einem Videoanruf teil, bei dem alle Beteiligten – einschließlich seines vermeintlichen Vorgesetzten – KI-generiert waren. Er überwies daraufhin fast 500.000 US-Dollar. Der Betrag konnte später gesichert werden.Das Problem nimmt weltweit zu. In Singapur wurden allein im Januar 2026 mehr als 1.200 Fälle von Videobetrug registriert – gegenüber 43 Fällen im Vorjahresmonat. Auch der Entrust Identity Fraud Report 2026 warnt, dass Identitätsbetrug inzwischen industrialisiert, global organisiert und kommerziell optimiert ist.

Manipulationen anhand von Bild- und Audiodaten erkennen

Fraunhofer-Forschende arbeiten deshalb an einer Lösung, die Deepfakes in Videokonferenzen möglichst früh erkennt. Ein Team um Prof. Martin Steinebach vom Fraunhofer-Institut für Sichere Informationstechnologie SIT kombiniert dafür die Analyse von Bild- und Audiodaten. Die KI-basierte Software untersucht das Gespräch kontinuierlich und gibt eine Wahrscheinlichkeit aus, wenn mehrere Anzeichen für eine Manipulation sprechen.
Die Erkennung ist besonders anspruchsvoll, weil Videokonferenzen häufig eine schwankende Bild- und Tonqualität aufweisen. Kompression, wechselnde Beleuchtung, Hintergrundgeräusche, Bewegungen und automatische Weichzeichner können Bildfehler verursachen, die nicht mit einem Deepfake verwechselt werden dürfen. Deshalb trainieren die Forschenden das System mit echten und manipulierten Aufnahmen, die zusätzlich mit typischen Störungen aus Videokonferenzen versehen werden.
 

Deepfake-Erkennung direkt auf dem Endgerät

Die Analyse soll lokal auf einem leistungsfähigen Laptop laufen können. Bild- und Tondaten müssen dadurch nicht an einen externen Server übertragen werden. Das macht die Lösung insbesondere für vertrauliche Gespräche interessant, etwa in Vorständen, Finanzabteilungen oder bei Verhandlungen mit Geschäftspartnern. Denkbar wären auch Plugins oder integrierte Sicherheitsfunktionen für Videokonferenzsysteme wie Teams oder Zoom. Alternativ könnte eine geschützte Unternehmensinfrastruktur besonders wichtige Gespräche zentral analysieren.

Nächste Schritte: Praxistest und Datenschutz

Der Demonstrator befindet sich derzeit noch in der Proof-of-Concept-Phase. Im nächsten Schritt wollen die Forschenden mit Unternehmen und Anbietern von Videokonferenzsystemen zusammenarbeiten, um die Technologie praxistauglich, datenschutzkonform und benutzerfreundlich zu integrieren. Zudem müssen rechtliche Fragen geklärt werden, beispielsweise ob Gesprächspartner der Analyse zustimmen müssen.
Eine technische Erkennung allein reicht jedoch nicht aus. Bei ungewöhnlichen Forderungen – etwa einer kurzfristig verlangten Überweisung – sollten Unternehmen die Identität des Gegenübers immer über einen unabhängigen Kommunikationskanal überprüfen. Rückfragen, ein Rückruf oder ein festgelegter Freigabeprozess können verhindern, dass ein überzeugender Deepfake zum kostspieligen Betrugsfall wird.

Technische Erkennung durch klare Prozesse ergänzen

Eine technische Erkennung allein reicht jedoch nicht aus. Bei ungewöhnlichen Forderungen – etwa einer kurzfristig verlangten Überweisung – sollten Unternehmen die Identität des Gegenübers immer über einen unabhängigen Kommunikationskanal überprüfen.Rückfragen, ein Rückruf oder ein festgelegter Freigabeprozess können verhindern, dass ein überzeugender Deepfake zu einem kostspieligen Betrugsfall führt.