Satireaktion Scholz-Deepfake laut Experten nicht besonders gut gemacht
Hauptinhalt
29. November 2023, 07:07 Uhr
Am Montag hat die Satiregruppe "Zentrum für politische Schönheit" eine gefälschte Videoansprache von Bundeskanzler Olaf Scholz veröffentlicht. Darin verkündet Scholz vermeintlich, die AfD verbieten zu wollen. Das Video ist ein so genannter Deepfake, der mit Künstlicher Intelligenz angefertigt worden ist. Das Video war nicht besonders gut gemacht, wirft aber die Frage auf, wie künftig mit so etwas umgegangen werden sollte.
- Das Deepfake-Video von Olaf Scholz ist technisch nicht besonders gut gemacht.
- Künstliche Intelligenz entwickelt sich so schnell weiter, dass Deepfakes bald kaum noch zu entlarven sein könnten.
- Aufklärung ist das wichtigste Mittel im Kampf gegen Deepfakes.
Es gibt sie immer wieder, diese Nanu-Momente im Deepfake-Video von Bundeskanzler Olaf Scholz. Seine Stimme scheint seinen Lippen voraus zu sein. Die Lippen sind ohnehin seltsam dünn, Unterkiefer und rechte Wange wirken jünger als der Rest des Gesichts. Der Fake sei deshalb schnell zu erkennen, erklärt Martin Tschirsich vom Chaos Computer Club. "Es hat fast den Anschein, als hätten die Urheber hier bewusst nicht den Anschein erwecken wollen, dass das eine echte Aufnahme ist."
Denn mittlerweile sei schon mit einfachen Mitteln deutlich mehr möglich. "Wir können gerade die Lippen-Synchronität heute durch KI maschinell herstellen. Wir können durch den Transfer von Mimik von einem Gesicht auf das andere deutlich bessere Fälschungen erstellen, die viel schwerer zu erkennen sind", erklärt Tschirsich.
Kampf gegen Deepfakes wird immer härter
Das Scholz-Video aus der Aktion der Satiregruppe "Zentrum für politische Schönheit" entspricht also nicht dem aktuellen Stand der Technik, der ist schon viel weiter.
Schon jetzt könne man zum Beispiel Video-Ident-Verfahren überwinden und so im Namen einer anderen Person beispielsweise ein Konto eröffnen. Bald werde Künstliche Intelligenz noch weiter sein, ist der Experte für Informationssicherheit überzeugt. So weit, dass ein falscher Olaf Scholz nicht mehr von einem echten zu unterscheiden ist.
Die Jagd gegen die Deepfake-Technologie und ihre Macher könne man nur verlieren, sagt Martin Tschirsich. "Das ist ein Wettrennen zwischen denjenigen, die mit KI die Fälschungen produzieren und denjenigen, die versuchen, mit KI den Fälschungen aufzulauern." Letztendlich würden wir als Menschen verlieren.
Aufklärung ist zentral
Trotzdem müssen wir nicht resignieren. Es gebe weitere Möglichkeiten, der Gefahr von Fakes zu begegnen, erklärt Nicolas Müller vom Fraunhofer Institut für Angewandte und Integrierte Sicherheit. Eine Option ist, echte Videos erkenntlich zu machen und sie so von Deepfakes abzugrenzen. "Das ist eine Idee, dass man Inhalte, die authentisch sind, quasi mit einem Wasserzeichen oder einer Signatur versieht. Dass also die Kamera das Bild signiert."
Dadurch könne man nachvollziehen, dass dieses Bild von dieser Kamera an diesem Ort aufgezeichnet worden ist. "Wenn man eine Mediadatei sieht und die hat dieses Zertifikat, dann kann man dem vertrauen", sagt Müller.
An der Umsetzung dieser Idee wird weltweit gearbeitet. Das Allerwichtigste im Kampf gegen Deepfakes ist jedoch Aufklärung – eine gewisse Skepsis gegenüber Videos und Audios zu schaffen und zwar nicht nur im Internet, sagt Nicolas Müller. Denn auch am Telefon setzen Betrüger immer häufiger KI ein, um sich zum Beispiel als Enkel auszugeben und ältere Leute zum Überweisen von Geld zu überreden.
Dieses Thema im Programm: MDR AKTUELL | Das Nachrichtenradio | 29. November 2023 | 06:13 Uhr
nasowasaberauch am 30.11.2023
Eine Rede von Scholz mit KI fällt sofort auf, wenn etwas konkretes dabei ist. Normal redet er in Allgemeinsätzen am Thema vorbei und kann sich an nichts erinnern. Sollte doch mal ein "das schaffen wir nie wieder ab" rausrutschen, dann ist es verdächtig.
kleinerfrontkaempfer am 29.11.2023
Selbst wenn der BK (und seine Mannschaft) dies vorhaben sollte, es würde Ihnen eh nix nützen.
Und Statements vom BK sind nach der letzten sogenannten Regierungserklärung wie gewohnt nur Plattitüten, Phrasen und Stanzen. Nicht einmal zu einem "Wumms", geschweige zu einer Entschuldigung war der Mann fähig.
Entschuldigung deshalb weil weil das gestoppte "Haushaltsmanöver" ja einst von Herrn Scholz ausbaldowert und durchgezogen wurde.
Vielleicht ist an der Zeit und besser für die Gesellschaft die KI statt eines BK einzusetzen. Es kann nur besser werden.
MAENNLEiN-VON-DiESER-WELT am 29.11.2023
Darf der Mensch alles, was er kann ... ???
Dieses ethische und rechtliche Dilemma möge gesetzgeberisch
behandelt und damit der K.I. enge Grenzen des Machbaren
gesetzt werden ! " Totalverbote " sind ( wie Parteiverbote )
schwer durchsetzbar !
Wer haftet im Schadensfall für durch K.I. verursachte Personenschäden ?
Das Thema kennen wir bereits von den Versuchen des autonomen "Führens"
von Fahrzeugen im öffentlichen Straßenverkehr - wobei ich die autonomen
( ohne einen Menschen, ganz "von selbst" fahrenden ) "Versorgungs-
fahrzeuge" im geschützten Raum des Klinikums in Weimar
heute nicht mehr missen möchte ...
Wo beginnt K.I. und wo hört sie auf ?
Wer von uns Kommentierenden weiss schon wirklich genau,
ob am anderen "Ende der Datenleitung" tatsächlich ein Mensch
seine Kommentare in die Tasten "kloppt" - oder ob es Chat-GBT
war und der eingreifende mdr-Moderator sich hin und wieder mit
Maschinen anlegt und diese auffordert :
" Bitte zum Thema zurück ! "... ??? ;-)
"§$%"§&B:;C_F8