Zum Inhalt springen
The Future Explorervon Benjamin Talin
Der Zerfall der gemeinsamen WirklichkeitIm Buch · Kap. 10Megatrend

Synthetische Medien

Synthetische Medien und das Ende der Überprüfbarkeit

Synthetic Media and the Verification Collapse

„Synthetische Medien“ sind Bilder, Stimmen und Videos, die ein Computer erzeugt, statt dass jemand sie im echten Leben aufgenommen hat. Eine überzeugende Fälschung kostet heute fast nichts. Wer dagegen nachweisen will, was echt ist, muss weiterhin langsam und sorgfältig prüfen. In Tests unterscheiden Menschen Echtes und Falsches etwa so gut wie ein Münzwurf. In einem Fall überwiesen Büroangestellte rund 25 Millionen US-Dollar nach einer Videokonferenz, in der der „Chef“ und die Kollegen allesamt Fälschungen waren.

Überzeugende synthetische Inhalte herzustellen wird nahezu kostenlos.

2,8/ 5

Steigung 2,8 / 5 - vor allem vom schwächsten Enabler nach unten gedrückt.

Im Durchschnitt erreichen diese Enabler 3,0. Die Steigung liegt bei 2,8.

Engpass: Rechtssicherheit.

7 Enabler müssen gemeinsam reifen, bevor der Hochlauf steiler wird.

Zusammenhänge

Links seine Enabler, die unreifsten oben und am größten; rechts die Megatrends, mit denen er in Wechselwirkung steht. Je dicker die Linie, desto größer das Gewicht; der Pfeil zeigt die Richtung.Engpassverstärktdämpft

Verbindungen zu anderen Kräften Die Entkopplung von physischem und digitalem Leben (2 gemeinsame Enabler, 1 Wechselwirkung) · Die kopfstehende Alterspyramide (1 gemeinsamer Enabler) · Die durchoptimierte Welt (3 gemeinsame Enabler) · Der Umbau der materiellen Grundlagen (1 gemeinsamer Enabler) · Die Neuverteilung der Macht (2 gemeinsame Enabler)

Enabler

EnablerFamilieGewichtReifeRolle
Rechtssicherheitstrukturellgroß
2/5
Engpass
KI und maschinelles Lernentechnologischgroß
3/5
-
Digitale Identität und Verifizierungtechnologischgroß
3/5
-
Generative Medientechnologischgroß
4/5
-

Die Steigung verhält sich wie ein zähes Gummiband: Der schwächste Enabler zieht sie am stärksten zu sich. Nachrangige Verbindungen werden gezeigt, ziehen aber nicht mit. Alles über 2 ist Stärke, die der Hochlauf nur zum Teil nutzen kann, solange sich der Engpass nicht bewegt.

Worauf dieser Megatrend wirkt und was auf ihn wirkt

Gebremst durch

Fehlende Standards zur Echtheitsprüfung, ungeklärte Haftung, fehlende Herkunftsnachweise

Nicht die Leistungsfähigkeit der Erzeugung, sondern die Infrastruktur zur Überprüfung, und zwar auf jeder Ebene.

Dynamik. Die Herstellung wird nahezu kostenlos, die Überprüfung bleibt Handarbeit. Genau dieses Ungleichgewicht ist der Trend.

Vier Geschwindigkeiten

Vier Systeme passen sich mit vier verschiedenen Geschwindigkeiten an. Der Abstand zwischen ihnen ist die Anpassungslücke.

Menschen

Monate

Schon angepasst, aber durch weniger Vertrauen in alle Medien, nicht durch die Fähigkeit, Echtes von Falschem zu unterscheiden.

Unternehmen

Jahre

Es gibt Werkzeuge zur Erkennung, aber keines davon bewältigt die schiere Menge.

Regierungen

Jahrzehnte

Regeln zu Haftung und Herkunftsnachweis stehen überall am Anfang und sind nirgends geklärt.

Die Biosphäre

eigener Takt

Nicht gekoppelt.

Auswirkungen nach Bereich

Gesellschaft und Demografie

Das menschliche Auge kann Echtes und Gefälschtes praktisch nicht mehr unterscheiden: In der großen Mehrheit der ausgewerteten Verhaltensstudien zur Erkennung ordneten Menschen echte und synthetische Bilder und Videos kaum besser zu als der Zufall (Cognitive Research: Principles and Implications, 2024).

Umwelt

Im Oktober 2024 verbreitete sich das Bild eines Kindes mit einem Welpen, angeblich im Hochwasser des Hurrikans Helene. Faktenprüfer stellten fest, dass es mit KI erzeugt war (Full Fact, 9. Oktober 2024). Eine Studie zu KI-Bildern, die während der Waldbrände in Südkalifornien im Januar 2025 auf X geteilt wurden, kommt zu dem Ergebnis, dass sie die Wahrnehmung des Ausmaßes der Krise verzerrten (International Journal of Communication 20, April 2026). Keine Datenreihe misst, was solche Bilder die Katastrophenhilfe kosten.

Wirtschaft

Deepfakes sind zum Werkzeug für Diebstahl in Unternehmen geworden: Die Finanzabteilung eines multinationalen Konzerns in Hongkong überwies 200 Millionen HK-Dollar (25,6 Millionen US-Dollar), nachdem sie in einer Videokonferenz mit dem Finanzvorstand und Kollegen gesprochen hatte, die sich als Deepfake-Avatare herausstellten (Hong Kong Police Cyber Security and Technology Crime Bureau, Februar 2024).

Geopolitik

Geklonte Stimmen sind inzwischen eine Waffe im Wahlkampf: Zwei Tage vor der Vorwahl ließ ein Politikberater 24.960 Wähler in New Hampshire automatisch mit einer KI-Stimme von Joe Biden anrufen. Die FCC verhängte dafür eine Strafe von 6 Millionen US-Dollar (Federal Communications Commission, FCC 24-58, Mai 2024).

Was die Aussage widerlegen würde

Wenn sich Standards zur Echtheitsprüfung so weit verbreiteten, dass die Lügnerdividende schrumpft, wenn es also nicht mehr funktionierte, echte Aufnahmen als Fälschung abzustreiten.

Talin, B. (2026). Synthetische Medien und das Ende der Überprüfbarkeit. The Future Explorer, dataset v0.4.0 (16. November 2026). https://explorer.talin.digital/m/synthetic-media-and-the-verification-collapse/