Zum Inhalt springen
The Future Explorervon Benjamin Talin
Enablertechnologisch

Generative Medien

Generative Media

Software, die auf Anfrage Bilder, Stimmen und Videos erzeugt, so überzeugend, dass Menschen sie nicht mehr vom Echten unterscheiden können. In Tests erkannten Menschen computererzeugte Gesichter kaum besser als per Münzwurf, und ein System kopierte die Stimme eines Fremden aus drei Sekunden Aufnahme. In Hongkong tätigte ein Angestellter 15 Überweisungen über 200 Millionen HK$ nach einer Videokonferenz, in der jeder Kollege auf dem Bildschirm gefälscht war. Früher war das Fälschen teuer, heute ist es der Nachweis, dass etwas echt ist.

Reife

4/ 5
gemessen
GrundlageDie Erzeugung ist ausgereift und überall verbreitet; Menschen können ein synthetisches Gesicht nicht mehr von einem echten unterscheiden. Hinterher hinkt die Ebene, mit der eine echte Aufnahme ihre Echtheit beweisen könnte: Signieren bei der Aufnahme und Plattformen, die die Signatur erhalten.QuelleNightingale & Farid, PNAS 119(8) (Feb 2022); Hong Kong Police via Hong Kong Free Press (5 Feb 2024); C2PA Technical Specification 2.3 (5 Jan 2026); Center for Democracy & Technology (12 Dec 2025); Regulation (EU) 2024/1689, Art. 50Stand2022–2026
ReifeFähigkeit 5Einsatz 5Verbreitung 4Gebremst durchNormen und StandardsTrendgleichbleibend

Wo dieser Enabler wirkt

4 Megatrends in einer Kraft

Wo Ihnen das schon begegnet ist

Im Januar 2024 nahm ein Finanzangestellter in Hongkong an einer Videokonferenz mit seinem Finanzchef und mehreren Kollegen teil. Keiner von ihnen war echt. Er tätigte 15 Überweisungen, insgesamt 200 Millionen HK$. Der einzige echte Mensch in der Runde war der, der zahlte.

Wenn er reifer wird

Würde die Erzeugung noch besser, bewegte sich auf der Karte nichts: Die vier Megatrends, die sie speist, stehen bei 2, und ihre Engpässe sind Rechtssicherheit, Vertrauen in Wissensinstitutionen und Generationenwechsel. Würden Herkunftsnachweise bei der Aufnahme signiert und beim Hochladen erhalten, hätte die Regulierung wenigstens etwas, das sie durchsetzen kann.

Worauf Sie achten sollten

Smartphones, die Fotos standardmäßig im Moment der Aufnahme mit Content Credentials signieren. Plattformen, die diese Nachweise beim Hochladen erhalten, statt sie zu entfernen.

Nicht zu verwechseln mit

Große Sprachmodelle. Beide erzeugen Inhalte; Sprachmodelle schreiben Text, generative Medien erzeugen Bilder und Ton, also genau die Art von Belegen, denen Menschen auf den ersten Blick zu trauen gelernt haben.

Worum es geht

Systeme, die auf Abruf Bilder, Audio, Video und Sprache erzeugen, fast kostenlos und in einer Qualität, die sich kaum noch vom Echten unterscheiden lässt.

So funktioniert es

  1. 01Aus Beispielen lernenEin Modell wird mit sehr vielen Bildern, Aufnahmen oder Clips trainiert, meist zusammen mit Beschreibungen ihres Inhalts.
  2. 02Mit Rauschen beginnenEin Diffusionsmodell beginnt mit zufälligem Rauschen und entfernt es Schritt für Schritt, gelenkt vom Prompt, bis ein Bild übrig bleibt.
  3. 03Klein arbeiten, dann vergrößernDie meisten Systeme arbeiten mit einer komprimierten Fassung des Bildes und rechnen sie erst am Ende auf volle Auflösung hoch. Das macht sie schnell und billig.
  4. 04Eine Stimme aus einer Probe kopierenSprachsysteme lernen einen Sprecher aus einer kurzen Aufnahme. Das Forschungssystem VALL-E von Microsoft brauchte drei Sekunden.
  5. 05Kennzeichnen oder nichtDer Anbieter kann einen signierten Herkunftsnachweis oder ein unsichtbares Wasserzeichen anhängen. Nichts sorgt dafür, dass die Datei ihn behält, sobald sie weitergegeben wird.

Aktueller Stand

  • Teilnehmer unterschieden KI-erzeugte von echten Gesichtern mit einer Trefferquote von 48,2 %, also etwa auf Zufallsniveau; Training hob sie nur auf 59,0 % (Nightingale & Farid, PNAS 119(8), Feb. 2022).
  • Microsofts Forschungssystem VALL-E ahmte anhand einer Aufnahme von 3 Sekunden einen unbekannten Sprecher nach (Wang et al., arXiv 2301.02111, 5. Jan. 2023).
  • Ein Angestellter in Hongkong tätigte 15 Überweisungen über insgesamt 200 Millionen HK$, nachdem er an einer Videokonferenz teilgenommen hatte, in der alle anderen Teilnehmer Deepfakes waren. Arup bestätigte später, dass es sich um das eigene Unternehmen handelte (Hong Kong Free Press unter Berufung auf die Polizei Hongkong, 5. Feb. 2024; CNN, 16. Mai 2024).
  • Die Leica M11-P war die erste Kamera, die Fotos mit Content Credentials signierte (Content Authenticity Initiative, 26. Okt. 2023). Nikon setzte den Signierdienst der Z6III aus und widerrief alle ausgestellten Zertifikate, nachdem ein Forscher die Kamera dazu gebracht hatte, ein KI-erzeugtes Bild zu signieren (Digital Camera World, Sep. 2025).
  • Die meisten sozialen Plattformen entfernen beim Hochladen die Metadaten einer Datei und damit auch den Herkunftsnachweis (Center for Democracy & Technology, 12. Dez. 2025).
  • Artikel 50 der KI-Verordnung der EU gilt seit dem 2. August 2026: Anbieter müssen KI-erzeugte Audios, Bilder, Videos und Texte maschinenlesbar kennzeichnen, mit einer Übergangsfrist von vier Monaten für Systeme, die schon auf dem Markt sind (Verordnung (EU) 2024/1689; Morgan Lewis, Aug. 2026).

Warum das wichtig ist

Sie lassen die Kosten für überzeugende Belege einbrechen. Diese technische Veränderung hat eine direkte Folge für Institutionen: Die Überprüfung, die früher in den Kosten einer Fälschung steckte, muss jetzt ausdrücklich aufgebaut werden.

  • Sie speisen vier Megatrends, alle bei 2, und sind bei keinem der Engpass. Die Engpässe sind Rechtssicherheit, Vertrauen in Wissensinstitutionen und Generationenwechsel. Keiner davon ist ein Modell.
  • Sie haben die Kosten beseitigt, die gefälschte Belege früher selten machten. Diese Kosten waren das Prüfsystem, und noch hat nichts sie ersetzt.
  • Der Schaden wirkt in beide Richtungen. Fälschungen werden geglaubt, und echte Berichte werden als Fälschung abgetan. Diese Lügendividende wirkt Experimenten zufolge vor allem gegen Berichte in Textform, nicht gegen Videos.

Was ihn bremst

Herkunftsnachweis bei der Aufnahme

Das Signieren am Sensor gibt es bei einer Handvoll Kameras, und ein Hersteller musste alle Zertifikate widerrufen, nachdem sein Signierverfahren ausgetrickst worden war.

Metadaten gehen beim Hochladen verloren

Plattformen entfernen die Metadaten, wenn ein Bild veröffentlicht wird, und mit ihnen verschwindet der Herkunftsnachweis.

Urheberrecht und Haftung

Klagen um Trainingsdaten halten vorsichtige Institutionen auf Abstand; die New York Times verklagte OpenAI und Microsoft im Dezember 2023.

Erkennung ist ein Wettrüsten

Jeder Detektor liefert ein Trainingssignal für den nächsten Generator. Bei Gesichtern liegen Menschen schon auf Zufallsniveau.

Begriffe

Diffusionsmodell
Ein Modell, das ein Bild erzeugt, indem es zufälliges Rauschen Schritt für Schritt entfernt, gelenkt von einem Prompt.
Deepfake
Synthetisches Video oder Audio, das eine reale Person etwas sagen oder tun lässt, was sie nie gesagt oder getan hat.
Content Credentials (C2PA)
Ein offener Standard, der einer Datei einen signierten Nachweis anhängt, woher sie stammt und wie sie verändert wurde; jede Manipulation daran fällt auf.
Wasserzeichen
Ein im Inhalt selbst verborgenes Signal, das ihn als KI-erzeugt kennzeichnet und erhalten bleiben soll, wenn die Metadaten entfernt werden.
Lügendividende
Der Vorteil, den ein Lügner hat, sobald Fälschungen alltäglich sind: Echte Belege lassen sich als Fälschung abtun. Experimente zeigen, dass das vor allem bei Berichten in Textform wirkt, nicht bei Videos.

Treibt diese Megatrends an

Die Steigung verhält sich wie ein zähes Gummiband: Der schwächste Enabler zieht sie am stärksten zu sich. Nachrangige Verbindungen werden gezeigt, ziehen aber nicht mit.

Eine Stufe höher: was sich ändert

Berechnet aus der Karte in ihrem jetzigen Stand: dieser Wert von 4 auf 5 angehoben, alle anderen Werte unverändert. Eine reine Rechnung, keine Vorhersage.

Hebt man nur ihn um eine Stufe an, löst er bei keinem Megatrend den Engpass; die Steigungen, in die er einfließt, steigen höchstens leicht.

Was wäre, wenn er reifer würde?

Was die Steigung verändern würde

Ein Gedankenspiel, keine Prognose. Keine Zeitpunkte, keine Wahrscheinlichkeiten.

  1. 01Standards für Herkunftsnachweise direkt in Kamera und Mikrofon, nicht erst in der Nachbearbeitung
  2. 02Haftung der Plattformen für nicht gekennzeichnete synthetische Medien
  3. 03Nichts auf der Seite der Erkennung: Dieses Rennen ist strukturell nicht zu gewinnen

Verbreiteter Irrtum

Dass die Gefahr in Täuschung im großen Stil liegt. Zersetzender ist die Lügendividende: Sobald sich alles fälschen lässt, lässt sich auch alles Echte als Fälschung abtun. Das kostet nichts, auch wenn Experimente zeigen, dass es vor allem gegen Berichte in Textform wirkt.

Talin, B. (2026). Generative Medien. The Future Explorer, dataset v0.4.0 (16. November 2026). https://explorer.talin.digital/e/generative-media/