Deepfake Detector

Finalisten 2021   Christian Heimann, Sandro Gennari, Philipp Zuber   fedpol, FutureLab  2021 

Dem Phänomen Deepfake entgegenwirken

Bilder und Videos können heutzutage leicht gefälscht werden. Dank der Techniken der künstlichen Intelligenz ist es immer einfacher, Unwahrheiten bildlich so darzustellen, als ob sie real wären. Aufgrund des hohen Vertrauens in Video- und Audioinhalte werden die Menschen damit leicht in die Irre geführt, was Cyberangriffe wie beispielsweise CEO-Fraud und Erpressung noch erfolgreicher machen könnte. Aktuell sind die Menschen auf das Thema dieser sogenannten “Deepfakes” wenig sensibilisiert und es sind kaum geeignete technologische sowie juristische Mittel vorhanden, um die Problematik zu bekämpfen. Da ein Mensch die Fälschung nicht ohne Hilfsmittel erkennen kann, sind die breite Bevölkerung, der Rechtsstaat und Unternehmen betroffen. Medienschaffende und Soziale Medien verstärken dabei den Effekt, wenn die Manipulation nicht rechtzeitig erkannt wird.

Das FutureLab des Fedpol schlägt deshalb das Projekt «Deepfake Detector» vor, welches auf drei verschiedenen Säulen basiert. Zunächst könnte die Bevölkerung durch eine Informationskampagne für das Thema Cyberkriminalität sensibilisiert werden. Des Weiteren würde eine öffentlich zugängliche Applikation erstellt werden, die in der Lage ist, Deepfakes zu erkennen. Und schliesslich wird durch das Projekt versucht, die Ausgangslage für von diesem Phänomen betroffene Personen zu verbessern (Anlaufstellen, rechtliche Möglichkeiten, Ombudsstelle, Online-Anzeige, etc.).

Ein Projekt von

Philipp Zuber

Stellvertretender Kommissariatsleiter, Pol. Fachspezialist 2