Künstliche Intelligenz liefert in zunehmendem Maße lustige Videos in den sozialen Netzwerken (und auch Sendern wie dem ZDF), in denen nicht nur Eisbären oder Säuglinge über Quantenchromodynamik diskutieren, sondern auch Personen des öffentlichen Lebens auftauchen und irgendwelchen Schmarrn von sich geben. In der Regel ist es leicht zu erkennen, dass sich da ein Hobby-AI-Anwender, der sich eine Nvidia A100 leisten kann (Kostenpunkt rund 12.000 Euro) einen Scherz erlaubt hat (beim ZDF ist das anscheinend auf eine RTX3060 begrenzt gewesen, trotz unerschöpflicher Zwangsgelder), oder eine Beleidigung der gefakten Person, oder eine Verleumdung. Oder alles zusammen. Die KI erlaubt es zwar, das Äußere von Personen zu imitieren oder deren Stimme nachzumachen, aber da sie die darzustellende Szene selbst erfinden muss, baut sie zwangsweise leicht Unstimmigkeiten ein – und zwar umso mehr, auf je weniger Trainingsmaterial sie zurückgreifen kann. Da passen dann mal manche Worte nicht, die Arthritis in den Fingern ist plötzlich verschwunden oder irgendwo ist ein Pickel, den die Person zuvor nie hatte.

Manchmal sind die Sachen recht gut, aber eine genaue Analyse des Materials – und nicht nur oberflächliches Hinschauen – verrät in Details den Fake. Oder die dargestellte Szene passt so überhaupt nicht zur bekannten Vita des Betreffenden oder widerspricht seinen grundsätzlichen und hinlänglich bekannten Positionen. Ebenfalls fliegen Fälschungen auf, wenn man eine andere KI nach Mustern suchen lässt und diese anschließend bekannt gibt, dass das Gesehene “mit 70-prozentiger Wahrscheinlichkeit” ein Fake ist.

Professionelle Akteure: Deep Fakes ganz anderer Dimension

Was aber, wenn wirklich professionelle Akteure dahinter stecken, die ganz andere Fähigkeiten mitbringen? Wie zum Beispiel Rechenzentren, die Zugang zu massiver Rechenleistung (mit vielen High-End-GPUs) über lange Zeiträume bieten? Oder über riesige Datenmengen über die Zielperson als hochwertiges KI-Trainingsmaterial  verfügen und nutzbar machen können – Interviews, O-Töne, Reden, Pressekonferenzen, Fotos und Videos –, in einem Umfang, den oft nur Geheimdienste oder große Konzerne unauffällig beschaffen können? Wenn ganze Expertenteams zum Einsatz kommen, die nicht nur aus KI-Spezialisten, sondern auch Grafikdesignern, Tontechnikern, Regisseuren und Psychologen bestehen, die genau wissen, wie man die größte Wirkung erzielt?

Solche Deep Fakes lassen sich dann ab einem gewissen Punkt so gut wie nicht mehr entlarven. Sie kosten zwar einige Millionen – aber für einen Milliardär oder einen Konzern, für den Milliardenumsätze auf dem Spiel stehen, sind dies überschaubare Nebenkosten; von Geheimdiensten einmal ganz abgesehen. Ein Beispiel: Konzern A möchte etwas durchsetzen, Politiker B spielt nicht mit – und schon erscheint ein Fake-Video, dass ihn zum Rücktritt zwingt oder seine Wahl verhindert. Und die genannten Akteure besitzen nicht nur die Fähigkeiten, Deep Fakes zu erzeugen, sondern sich auch perfekt zu tarnen, so dass ihre Urheberschaft nicht direkt nachgewiesen werden kann.

Präventive Gegenmaßnahmen

Wie lässt sich das verhindern? Die nüchterne Antwort: Man kann es nicht verhindern, ohne zu den gleichen Maßnahmen zu greifen. Wer in der Lage ist, sich ein solches Deep-Fake-Team leisten zu können (vielleicht nicht ganz so perfekt, aber wenn die Fälschung nach einiger Zeit auffällt, ist der Schaden schon angerichtet und meist nicht mehr reparabel, weshalb man auch mit begrenztem Aufwand schon zum Zuge kommt), tut gut daran, sich auch ein Analyseteam zu leisten, das die potentiellen Feinde ausfindig macht: Wer könnte einem ans Bein pinkeln wollen? Gegen den inszeniert man dann womöglich präventiv eigene Deep Fakes.

Wir haben hier einen durchaus mit der Atombombe vergleichbaren spieltheoretischen Fall: Man hat welche, aber verzichtet – zumindest formell – auf einen Präventivschlag. Zugleich besitzt man die Fähigkeit zur massiven Vergeltung, sollte der Gegner als erstes zuschlagen; man muss den oder die Gegner nur davon überzeugen, dass man dazu in der Lage ist (“Zweitschlagfähigkeit”) – ihn diesem Fall also beispielsweise durch harmlose Deep Fakes, die demonstrieren: Schaut her, wir verfügen über die notwendige Technologie! – gegebenenfalls auch nur über vertrauliche Kanäle. Natürlich ist KI allerdings um einiges leichter zu haben als eine echte Atombombe. Letztere können sich nur Staaten leisten; KI-Bomben hingegen auch Konzerne oder Milliardäre. Also wird hier der Kreis der Mitspieler sehr viel größer.

Grenzen der Analogie

Zwar ist die KI-Bombe relativ preiswert, aber sie ist auch hochindividuell: eine KI-Bombe gegen Konzern A ist nicht geeignet, Milliardär B zu schaden. Man benötigt also nicht nur eine Abteilung, die die Fakes baut, sondern auch eine, die ständig analysiert, wer als Gegner in Frage kommt und was man gegen ihn konstruieren kann. Und die Fake-Abteilung muss zusätzlich ständig Updates produzieren, weil der Skandal von 2024 im Jahr 2027 schon Schnee von gestern ist. Da ist man trotz Wohlfeilheit der KI vermutlich schnell bei Summen, die für Unternehmen eine ähnliche anteilige Dimension wie der Verteidigungshaushalten von Staaten – etliche Prozent des Umsatzes – ausmachen können. Siemens hat beispielsweise einen Jahresumsatz von rund 80 Milliarden Euro; in Prozent wären 800 Millionen Euro. Damit ließe sich schon eine Menge “deepfaken”.

Und noch eine Neuerung gibt es dabei: wenn ein Land gegen ein anderes eine Atombombe einsetzt, ist die Herkunft nicht zu leugnen. Konzern A hingegen kann einen KI-Angriff auf Konzern B sehr wohl so aussehen lassen, als käme er von Konzern C – und sich anschließend ruhig zurücklehnen und zuschauen, wie sich beide an die Gurgel gehen. Wir stehen noch ganz am Anfang solcher Machenschaften und Möglichkeiten – oder doch nicht? Hat vielleicht der eine oder andere Konzern oder Milliardär diese KI-Superwaffen schon längst im digitalen Safe? Er muss Politiker A ja nicht gleich plattmachen; es reicht, dass er ihm klar macht, dass er dazu jederzeit in der Lage ist, sollte er nicht spuren. Willkommen in der Welt der realen Science Fiction! Die eine oder andere neue Serie oder auch ein ganzer Film nehmen solche Entwicklungen schon vorweg… oder liefern vielleicht schon einen Blick auf eine längst bestehende verdeckte Realität?