Satireaktion Scholz-Deepfake laut Experten nicht besonders gut gemacht

29. November 2023, 07:07 Uhr

Am Montag hat die Satiregruppe "Zentrum für politische Schönheit" eine gefälschte Videoansprache von Bundeskanzler Olaf Scholz veröffentlicht. Darin verkündet Scholz vermeintlich, die AfD verbieten zu wollen. Das Video ist ein so genannter Deepfake, der mit Künstlicher Intelligenz angefertigt worden ist. Das Video war nicht besonders gut gemacht, wirft aber die Frage auf, wie künftig mit so etwas umgegangen werden sollte.

Es gibt sie immer wieder, diese Nanu-Momente im Deepfake-Video von Bundeskanzler Olaf Scholz. Seine Stimme scheint seinen Lippen voraus zu sein. Die Lippen sind ohnehin seltsam dünn, Unterkiefer und rechte Wange wirken jünger als der Rest des Gesichts. Der Fake sei deshalb schnell zu erkennen, erklärt Martin Tschirsich vom Chaos Computer Club. "Es hat fast den Anschein, als hätten die Urheber hier bewusst nicht den Anschein erwecken wollen, dass das eine echte Aufnahme ist."

Denn mittlerweile sei schon mit einfachen Mitteln deutlich mehr möglich. "Wir können gerade die Lippen-Synchronität heute durch KI maschinell herstellen. Wir können durch den Transfer von Mimik von einem Gesicht auf das andere deutlich bessere Fälschungen erstellen, die viel schwerer zu erkennen sind", erklärt Tschirsich.

Kampf gegen Deepfakes wird immer härter

Das Scholz-Video aus der Aktion der Satiregruppe "Zentrum für politische Schönheit" entspricht also nicht dem aktuellen Stand der Technik, der ist schon viel weiter.

Schon jetzt könne man zum Beispiel Video-Ident-Verfahren überwinden und so im Namen einer anderen Person beispielsweise ein Konto eröffnen. Bald werde Künstliche Intelligenz noch weiter sein, ist der Experte für Informationssicherheit überzeugt. So weit, dass ein falscher Olaf Scholz nicht mehr von einem echten zu unterscheiden ist.

gestaltete Collage 21 min
Bildrechte: MITTELDEUTSCHER RUNDFUNK

Die Jagd gegen die Deepfake-Technologie und ihre Macher könne man nur verlieren, sagt Martin Tschirsich. "Das ist ein Wettrennen zwischen denjenigen, die mit KI die Fälschungen produzieren und denjenigen, die versuchen, mit KI den Fälschungen aufzulauern." Letztendlich würden wir als Menschen verlieren.

Aufklärung ist zentral

Trotzdem müssen wir nicht resignieren. Es gebe weitere Möglichkeiten, der Gefahr von Fakes zu begegnen, erklärt Nicolas Müller vom Fraunhofer Institut für Angewandte und Integrierte Sicherheit. Eine Option ist, echte Videos erkenntlich zu machen und sie so von Deepfakes abzugrenzen. "Das ist eine Idee, dass man Inhalte, die authentisch sind, quasi mit einem Wasserzeichen oder einer Signatur versieht. Dass also die Kamera das Bild signiert."

Dadurch könne man nachvollziehen, dass dieses Bild von dieser Kamera an diesem Ort aufgezeichnet worden ist. "Wenn man eine Mediadatei sieht und die hat dieses Zertifikat, dann kann man dem vertrauen", sagt Müller.

An der Umsetzung dieser Idee wird weltweit gearbeitet. Das Allerwichtigste im Kampf gegen Deepfakes ist jedoch Aufklärung – eine gewisse Skepsis gegenüber Videos und Audios zu schaffen und zwar nicht nur im Internet, sagt Nicolas Müller. Denn auch am Telefon setzen Betrüger immer häufiger KI ein, um sich zum Beispiel als Enkel auszugeben und ältere Leute zum Überweisen von Geld zu überreden. 

Dieses Thema im Programm: MDR AKTUELL | Das Nachrichtenradio | 29. November 2023 | 06:13 Uhr

21 Kommentare

nasowasaberauch am 30.11.2023

Eine Rede von Scholz mit KI fällt sofort auf, wenn etwas konkretes dabei ist. Normal redet er in Allgemeinsätzen am Thema vorbei und kann sich an nichts erinnern. Sollte doch mal ein "das schaffen wir nie wieder ab" rausrutschen, dann ist es verdächtig.

kleinerfrontkaempfer am 29.11.2023

Selbst wenn der BK (und seine Mannschaft) dies vorhaben sollte, es würde Ihnen eh nix nützen.
Und Statements vom BK sind nach der letzten sogenannten Regierungserklärung wie gewohnt nur Plattitüten, Phrasen und Stanzen. Nicht einmal zu einem "Wumms", geschweige zu einer Entschuldigung war der Mann fähig.
Entschuldigung deshalb weil weil das gestoppte "Haushaltsmanöver" ja einst von Herrn Scholz ausbaldowert und durchgezogen wurde.
Vielleicht ist an der Zeit und besser für die Gesellschaft die KI statt eines BK einzusetzen. Es kann nur besser werden.

MAENNLEiN-VON-DiESER-WELT am 29.11.2023

Darf der Mensch alles, was er kann ... ???

Dieses ethische und rechtliche Dilemma möge gesetzgeberisch
behandelt und damit der K.I. enge Grenzen des Machbaren
gesetzt werden ! " Totalverbote " sind ( wie Parteiverbote )
schwer durchsetzbar !

Wer haftet im Schadensfall für durch K.I. verursachte Personenschäden ?

Das Thema kennen wir bereits von den Versuchen des autonomen "Führens"
von Fahrzeugen im öffentlichen Straßenverkehr - wobei ich die autonomen
( ohne einen Menschen, ganz "von selbst" fahrenden ) "Versorgungs-
fahrzeuge" im geschützten Raum des Klinikums in Weimar
heute nicht mehr missen möchte ...

Wo beginnt K.I. und wo hört sie auf ?

Wer von uns Kommentierenden weiss schon wirklich genau,
ob am anderen "Ende der Datenleitung" tatsächlich ein Mensch
seine Kommentare in die Tasten "kloppt" - oder ob es Chat-GBT
war und der eingreifende mdr-Moderator sich hin und wieder mit
Maschinen anlegt und diese auffordert :
" Bitte zum Thema zurück ! "... ??? ;-)

"§$%"§&B:;C_F8

Mehr aus Panorama

Mehr aus Deutschland

Nachrichten

Moderator Gunnar Breske im Gespräch mit Christian Lindner 7 min
Bildrechte: MITTELDEUTSCHER RUNDFUNK
7 min 22.01.2025 | 15:43 Uhr

FDP-Spitzenkandidat Christian Linder spricht im Interview mit MDR AKTUELL über mögliche Steuersenkungen und wie seine FDP sie gegenfinanzieren würde. Geld würde er unter anderem im Sozialbereich sparen.

MDR FERNSEHEN Di 21.01.2025 18:41Uhr 06:53 min

Rechte: MITTELDEUTSCHER RUNDFUNK

Video