Deep Fakes zuverlässig enttarnen mit Mathematik
(PresseBox) - In letzter Zeit haben so genannte »Deep Fakes« einiges an öffentlicher Aufmerksamkeit auf sich gezogen. Als Deep Fakes bezeichnet man täuschend echte Manipulationen von Bildern oder Videos, vornehmlich von Prominenten. Ein am Fraunhofer ITWM entwickeltes Tool zeigt, wie man diese Täuschungen schneller aufdecken kann ? mit nahezu hundertprozentiger Sicherheit.
»Deep Fakes sind besorgniserregend«
Diese Einschätzung stammt von jemanden, der es wissen muss, nämlich Joaquin Candela, dem Leiter der KI-Entwicklung bei Facebook. Wer sich selbst von der hohen Qualität der Fälschungen überzeugen und gleichzeitig sein Urteilsvermögen testen will, kann dies zum Beispiel auf dieser Webseite tun: www.whichfaceisreal.com
Deep Fakes ? also die Verwendung neuronaler Netzwerke zur Manipulation multimedialer Inhalte ? werden erzeugt mittels generativer Modelle, auch »Generative Adversarial Networks« (GANs) genannt. Sie gelangen erst langsam in den Fokus der Wissenschaft. Und diese tut sich derzeit noch schwer, das Problem zu lösen, denn es gibt noch zu wenige valide Datensätze, mit denen sich belastbare Aussagen treffen lassen. Entsprechend hoch ist die Fehlerquote automatischer Systeme, die bisher zur schnellen Analyse von Bildern eingesetzt werden.
Abhilfe schafft hier eine neue mathematische Methode, die Forschende in Kaiserslautern, Mannheim und Offenburg entwickelt haben. Während die meisten derzeitigen Ansätze versuchen, wieder Lernalgorithmen einzusetzen, um die Manipulationen zu erkennen, geht die Forschergruppe einen anderen Weg:
»Bei Analysen fiel auf, dass GANs beim Generieren von Bildern inhärente Fehler machen. Diese sind zwar für das menschliche Auge kaum sichtbar, lassen sich mathematisch aber sehr leicht im Fourier-Raum abbilden«, erläutert Dr. Janis Keuper, langjähriger Mitarbeiter des Fraunhofer ITWM und nun Professor für »Analytics and Data Science« an der Hochschule Offenburg.
Der Deep Fake-Detektor ermittelt
Die neue, am Fraunhofer ITWM entwickelte Methode hat gegenüber bestehenden Verfahren gleich mehrere Vorteile:
Der entdeckte GAN-Fehler ist systematisch bedingt; daher ist es theoretisch unmöglich, dass derzeitige GAN-Architekturen lernen können, den Detektor zu umgehen.
Es werden nur sehr wenige Beispieldatendaten benötigt, um Deep Fakes zuverlässig zu erkennen.
Die Methode ist sehr einfach zu implementieren und benötigt vergleichsweise wenig Rechenleistung.
Bei einer ersten Auswertung auf öffentlichen Testdaten erreichte der neue Ansatz eine Genauigkeit von nahezu einhundert Prozent.
Das Fraunhofer-Institut für Techno- und Wirtschaftsmathematik ITWM in Kaiserslautern zählt zu den größten Forschungsinstituten für angewandte Mathematik weltweit. Wir sehen unsere Aufgabe darin, die Mathematik als Schlüsseltechnologie weiterzuentwickeln und innovative Anstöße zu geben. Unser Fokus liegt auf der Umsetzung mathematischer Methoden und Technologie in Anwendungsprojekten und ihre Weiterentwicklung in Forschungsprojekten. Das enge Zusammenspiel mit Partnern aus der Wirtschaft garantiert die hohe Praxisnähe unserer Arbeit.
Deren integrale Bausteine sind Beratung, Umsetzung und Unterstützung bei der Anwendung von Hochleistungsrechnertechnologie und Bereitstellung maßgeschneiderter Software-Lösungen. Unsere verschiedenen Kompetenzen adressieren ein breites Kundenspektrum: Fahrzeugindustrie, Maschinenbau, Textilindustrie, Energie und Finanzwirtschaft. Dieses profitiert auch von unserer guten Vernetzung, beispielsweise im Leistungszentrum Simulations- und Software-basierte Innovation.
Über die Fraunhofer-Gesellschaft
Die Fraunhofer-Gesellschaft ist die führende Organisation für angewandte Forschung in Europa. Unter ihrem Dach arbeiten 72 Institute und Forschungseinrichtungen an Standorten in ganz Deutschland. Mehr als 26 600 Mitarbeiterinnen und Mitarbeiter erzielen das jährliche Forschungsvolumen von 2,6 Milliarden Euro.
Davon fallen ca. 2,2 Milliarden Euro auf den Leistungsbereich Vertragsforschung. Rund 70 Prozent dieses Leistungsbereichs erwirtschaftet die Fraunhofer-Gesellschaft mit Aufträgen aus der Industrie und mit öffentlich finanzierten Forschungsprojekten. Internationale Kooperationen mit exzellenten Forschungspartnern und innovativen Unternehmen weltweit sorgen für einen direkten Zugang zu den wichtigsten gegenwärtigen und zukünftigen Wissenschafts- und Wirtschaftsräumen.
Themen in diesem Fachartikel:
Unternehmensinformation / Kurzprofil:
Das Fraunhofer-Institut für Techno- und Wirtschaftsmathematik ITWM in Kaiserslautern zählt zu den größten Forschungsinstituten für angewandte Mathematik weltweit. Wir sehen unsere Aufgabe darin, die Mathematik als Schlüsseltechnologie weiterzuentwickeln und innovative Anstöße zu geben. Unser Fokus liegt auf der Umsetzung mathematischer Methoden und Technologie in Anwendungsprojekten und ihre Weiterentwicklung in Forschungsprojekten. Das enge Zusammenspiel mit Partnern aus der Wirtschaft garantiert die hohe Praxisnähe unserer Arbeit.Deren integrale Bausteine sind Beratung, Umsetzung und Unterstützung bei der Anwendung von Hochleistungsrechnertechnologie und Bereitstellung maßgeschneiderter Software-Lösungen. Unsere verschiedenen Kompetenzen adressieren ein breites Kundenspektrum: Fahrzeugindustrie, Maschinenbau, Textilindustrie, Energie und Finanzwirtschaft. Dieses profitiert auch vonunserer guten Vernetzung, beispielsweise im Leistungszentrum Simulations- und Software-basierte Innovation.Über die Fraunhofer-GesellschaftDie Fraunhofer-Gesellschaft ist die führende Organisation für angewandte Forschung in Europa. Unter ihrem Dach arbeiten 72 Institute und Forschungseinrichtungen an Standorten in ganz Deutschland. Mehr als 26 600 Mitarbeiterinnen und Mitarbeiter erzielen das jährliche Forschungsvolumen von 2,6 Milliarden Euro.Davon fallen ca. 2,2 Milliarden Euro auf den Leistungsbereich Vertragsforschung. Rund 70 Prozent dieses Leistungsbereichs erwirtschaftet die Fraunhofer-Gesellschaft mit Aufträgen aus der Industrie und mit öffentlich finanzierten Forschungsprojekten. Internationale Kooperationen mit exzellenten Forschungspartnern und innovativen Unternehmen weltweit sorgen für einen direkten Zugang zu den wichtigsten gegenwärtigen und zukünftigen Wissenschafts- und Wirtschaftsräumen.
Datum: 09.03.2020 - 10:17 Uhr
Sprache: Deutsch
News-ID 1799127
Anzahl Zeichen: 0
Kontakt-Informationen:
Ansprechpartner:
Stadt:
Kaiserslautern
Telefon:
Kategorie:
Forschung & Entwicklung
Anmerkungen:
Dieser Fachartikel wurde bisher 188 mal aufgerufen.
Der Fachartikel mit dem Titel:
"Deep Fakes zuverlässig enttarnen mit Mathematik
"
steht unter der journalistisch-redaktionellen Verantwortung von
Fraunhofer-Institut für Techno- und Wirtschaftsmathematik ITWM (Nachricht senden)
Beachten Sie bitte die weiteren Informationen zum Haftungsauschluß (gemäß TMG - TeleMedianGesetz) und dem Datenschutz (gemäß der DSGVO).