00:00:02: Zwei Tage vor der Wahl taucht eine Aufnahme auf.

00:00:07: Die Stimme eines Spitzenkandidaten, er spricht darüber wie man die Wahl fälscht.

00:00:13: Es klingt echt!

00:00:14: In Stunden verbreitet es sich zu Zehntausenden.

00:00:18: Es ist eine Fälschung von einer KI gebaut.

00:00:21: Bis das jemand bewiesen hat, ist die Wahl vorbei.

00:00:25: Das ist nicht erfunden, das ist die Slowakei.

00:00:28: September zwanzig dreieundzwanzig.

00:00:31: Herzlich willkommen im Denkraum.

00:00:34: Mein Name ist Georg Redlammer.

00:00:37: Heute geht es um Demokratie und das ist die letzte Folge dieser Staffel.

00:00:43: Wir haben mit Werbung angefangen, dann kam der Betrug Dann der Zweifel an allem.

00:00:49: heute läuft alles zusammen auf der größten Bühne.

00:00:54: Die Frage lautet Kann eine Demokratie funktionieren?

00:00:58: wenn die Meinungsbildung im großen Stil maschinell beeinflussbar ist?

00:01:05: Ich persönlich engagiere mich nebenberuflich politisch sitze für den Neosim Linz-Gemeinderat.

00:01:11: ich verteidige die offene Gesellschaft und ich mache es mir nicht leicht, denn ich bin Teil der Maschinerie... ...die sich gefährdet!

00:01:19: Ich habe Marketin gearbeitet, ich nutze KI.

00:01:23: Dieser Podcast nutzt sie auch.

00:01:26: Ich habe keinen Anspruch darauf recht zu haben.

00:01:29: Ich will nur ehrlich fragen.

00:01:32: Es gibt echte Fälle, der gefälschte Anruf im Namen von Joe Biden das Audio in der Slowakei aber es gibt auch eine unbequeme Gegenfrage.

00:01:43: Wirkt das überhaupt?

00:01:45: Verändertes Wahlen?

00:01:47: Die Antwort ist hekler als du denkst!

00:01:51: Die Fälle die Zahlen und Forschung schauen wir uns jetzt an.

00:01:55: Danach komme ich zurück mit der Frage was das für deinen eigenen Willen heißt.

00:02:02: Nun aber die Analyse gemeinsam mit meiner KI-Avatarin.

00:02:10: Stell dir vor, es ist Januar zwanzig vierundzwanzig also zwei Tage bevor du vor einer extrem wichtigen Vorwahl deine Stimme abgeben sollst.

00:02:21: Es klingt das Telefon

00:02:24: Absoluter Albtraum eigentlich.

00:02:25: Du

00:02:25: gehst ran und hörst die unverkennbare Stimme des Präsidenten der Vereinigten Staaten, also die Sprachmelodie diese typischen Pausen sogar das leichte Kratzen in der Kehle – alles wirkt perfekt!

00:02:40: Und diese Stimme sagt dir dann klipp-und klar dass du am Wahltag schön zu Hause bleiben sollst.

00:02:45: Genau deine Stimme würde quasi an einem anderen Tag gebraucht werden.

00:02:50: Tausende von WLN in New Hampshire haben exakt diesen Anruf erhalten.

00:02:56: Wahnsinn!

00:02:56: Das war das perfekte Timing, die perfekste technologische Täuschung – ein Angriff der im Grunde direkt aus einem dystopischen Thriller stammen könnte.

00:03:08: Ja absolut!

00:03:09: Und wir alle gehen nach solchen Storys unweigerlich davon aus dass solche massenhaften KI-generierten Kampagnen unsere Demokratie längst gekapert haben Das Wahlen heute einfach von Algorithmen entschieden werden.

00:03:23: Genau das ist ja die große mediale Erzählung im Moment, ne?

00:03:26: Richtig!

00:03:27: Aber und das ist unsere Mission für den heutigen Deep Dive Wenn wir uns mal die nackten Daten der großen Wahljahre ansehen dann stoßen wir auf eine Realität, die viel viel komplexer ist

00:03:42: Und überraschender.

00:03:43: Ja

00:03:43: Wir haben heute Berichte des Eln Turing Institute auf dem Tisch außerdem Verhaltensstudien aus der Fachzeitschrift PNERS und aktuelle EU-Gesetzestexte.

00:03:56: Und wir werden sehen, diese ganzen perfekt inszenierten digitalen Angriffe verpuffen nämlich oft fast wirkungslos in der Wahl ohne.

00:04:06: Das eigentliche Gift für unsere Gesellschaft ist ein Konzept namens Lügnerdividende.

00:04:13: Lass uns erstmal bei den konkreten Fällen bleiben.

00:04:16: Dieser Robocall in New Hampshire, den du gerade erwähnt hast, der ist nämlich tatsächlich das perfekte Beispiel um die Mechanik zu verstehen.

00:04:23: Okay schiess los!

00:04:24: Also was steckt da dahinter?

00:04:26: Wir haben hier einen konkreten Täter also einen politischen Berater namens Steven Kramer.

00:04:32: Der hat gezielt diese KI-Stimme in Auftrag gegeben um Wähler vom Wellen abzuhalten

00:04:39: Und die Behörden haben jetzt ziemlich schnell reagiert, oder?

00:04:42: Ja, extrem schnell für amerikanische Verhältnisse.

00:04:45: Die Medienbehörde FCC hat im September, ist eine Strafe von sechs Millionen Dollar gegen ihn verhängt.

00:04:54: Nicht schlecht!

00:04:55: Sechs Millionen!

00:04:56: Genau das Signal sollte ganz klar sein.

00:04:58: wer unsere Wahlen mit Deepfags angreift der wird finanziell ruiniert.

00:05:02: Aber genau hier zeigt sich doch schon der erste richtige große Riss in unserem System.

00:05:09: Die Strafe klang hart, aber als die Sache dann im Juni-Zwanzig-Fünfundzwanzig vor Gericht ging also Cramer wurde freigesprochen.

00:05:18: Richtig ja!

00:05:19: Und

00:05:19: das verdeutlicht doch ein fundamentales Problem unser gesamtes Rechtssystem ist einfach für eine analoge Welt gebaut oder?

00:05:29: Es sucht nach klassischen Betrugsmerkmalen

00:05:32: die in der Ära der generativen KI einfach oft gar nicht mehr greifen.

00:05:36: Ja,

00:05:36: die Justiz versucht im Grunde einen Computervirus mit Handschellen zu verhaften – das funktioniert natürlich nicht.

00:05:43: Exakt so ist es!

00:05:45: Die Gesetze hinken der Technologie schlichtweg Jahre hinterher und wenn Täter sehen dass selbst in den USA wo Behörden ja wirklich hart durchgreifen können am Ende ein Freispruch stehen kann dann senkt das natürlich die Hemmschwelle enorm.

00:05:59: Das

00:06:00: kann ich mir vorstellen!

00:06:01: Aber es wird noch viel brisanter, vor allem wenn wir uns ansehen wie Angreifer eben nicht nur rechtliche Grauzonen ausnutzen sondern auch strukturelle blinde Flecken von ganzen Demokratien.

00:06:15: Da spielst du jetzt auf Europa an oder?

00:06:17: Genau ein Paradebeispiel dafür ist die Parlamentswahl in der Slowakei im September zwethausenddreiundzwanzig.

00:06:24: Ja...das

00:06:25: war doch Diese extrem polarisierte Wahl, bei der es buchstäblich um die zukünftige Ausrichtung des ganzen Landes ging.

00:06:34: Richtig!

00:06:35: Und kurz vor der Wahl tauchte da diese Audioaufnahme des liberalen Spitzenkandidaten Michael Schimetscher auf... ...in der

00:06:43: er angeblich völlig ungeniert darüber gesprochen hat wie man Wählerstillungen kaufen könnte was ja eine komplette KI-Fälschung war

00:06:51: Absolut.

00:06:52: Aber was diesen Fall so bemerkenswert macht, ist gar nicht mal die Qualität des Audios an sich – die war okay aber nicht perfekt?

00:07:00: Nein es war das strategische Timing.

00:07:03: Stimmt!

00:07:04: Das war das mit dieser Fris.

00:07:05: Genau, die Fälschung wurde exakt in der sogenannten Schweigephase ins Netz gespült.

00:07:11: In vielen europäischen Ländern.

00:07:13: eben auch in der Slowakei gibt es diese Achtundvierzig Stunden vor der Öffnung der Wahllokale Und da herrscht ein strenges Verbot für politische Werbung und Kampagnen.

00:07:23: Die Medien sollen das Thema ruhen lassen, die Politiker sollen schweigen, damit die Wähler quasi eine Bedenkzeit

00:07:29: haben.".

00:07:30: Das ist ja echt eine archaische Regelung, die in einer Zeit von Printmedien und Plakaten total Sinn gemacht hat!

00:07:38: Aber im digitalen Zeitalter ist es doch als würde man jemandem in einen schaltdichten Raum sperren?

00:07:47: Während

00:07:47: draußen auf dem Marktplatz jemand mit einem Megafon einfach Lügen über ihn verbreitet, Schimenker und Centin waren durch diese Schweigephase rechtlich quasi geknebelt.

00:07:59: Exakt!

00:07:59: Sie konnten nicht sofort eine massive Gegenkampagne auf allen Kanäen starten um das Audio als Deepfake zu entlarven.

00:08:07: Weil

00:08:07: sie dann das Kampagnenverbot gebrochen hätten.

00:08:10: Ganz genau – die Fälschung konnte völlig ungestört zirkulieren.

00:08:14: Wenn man sich diese Präzision ansieht, also das Timing.

00:08:17: Das Ausnutzen der Schweigephase und dazu noch die extrem günstige Produktion dieser Fix dann drängt sich doch sofort eine Gedanke auf, dass muss die Wahl massiv manipuliert haben oder?

00:08:31: Da denkt man im ersten Moment ja... Da

00:08:33: denkt mein erstes Moment!

00:08:34: Da müssten doch Zehntausende unentschlossene Wähler im letzten Moment umgeschwingt sein.

00:08:40: Das ist ja unsere große Angst.

00:08:42: Ja Und genau an diesem Punkt müssen wir unsere Intuition mal mit den harten Daten abgleichen.

00:08:48: Das Allanturing-Institut hat nämlich die großen Wahlen des Jahres, im Jahr ist es im Jahr zwanzig, extrem präzise analysiert.

00:09:00: Ganz genau!

00:09:01: Die Forscher haben die Netzwerke tiefgehend gescannt, Verbreitungswege von Desinformation nachverfolgt und Wählerbewegungen ganz genau gemessen.

00:09:11: Das Resultat stellt wirklich unsere gesamte Angst vor der KI infrage.

00:09:16: Es gibt keinen einzigen belastbaren Beleg dafür, dass KI generierte Desinformationen die Endergebnisse dieser Wahlen in irgendeiner messbaren Form beeinflusst hat.

00:09:26: Moment!

00:09:27: Da muss ich jetzt einhaken... denn das widerspricht allem was wir täglich lesen.

00:09:32: Ja, Ich weiß es klingt kontraintuitiv.

00:09:35: Wir haben eine Technologie deren zugrunde liegende Modelle Milliarden in Entwicklung kosten die aber in der Anwendung so lächerlich billig ist, dass theoretisch jeder Teenager in seinem Kinderzimmer das Netz mit Fakes fluten könnte.

00:09:51: Warum sehen wir dann bitte schön nicht diesen massiven Erdrutsch an den Wahlurnen?

00:09:57: Weil sich die Verbreitung dieser Fakes radikal von dem unterscheidet, was wir alle befürchten.

00:10:02: Lass uns mal auf die britischen Wahlen in den

00:10:05: Jahren ist.

00:10:06: Die Forscher fanden dort landesweit passauf ganze sechzehn Fälle von KI-generierter Desinformationen, die überhaupt eine virale Reichweite erzielt haben Und in der gesamten Europäischen Union und Frankreich zusammen waren es gerade einmal elf virale Fälle.

00:10:22: Wie kann das sein?

00:10:23: Der

00:10:23: Grund dafür liegt in der Architektur unserer sozialen Netzwerke, und dass ist fast noch wichtiger in unsere eigenen menschlichen Psychologie.

00:10:30: Das muss man aber jetzt erklären.

00:10:32: Diese Fälschungen durchbrechen fast nie die Mauern von Echo-Kammern.

00:10:35: Sie

00:10:35: predigen also eigentlich nur zu den Bekehrten.

00:10:39: Genau Wenn ein rechtlich Netzmerk zum Beispiel einen gefälschtes Audio eines linken Politikers verbreitet, dann sehen das vor allem Leute die diesen Politiker ohnehin schon abgrundtief hassen.

00:10:53: Richtig!

00:10:54: Es bestätigt einfach nur ihr bestehendes Weltbild aber es ändert eben nicht das Verhalten eines unentschlossenen Wählers der Mitte.

00:11:07: Überhaupt nicht.

00:11:08: Ein Fake muss extrem gut konstruiert sein, um emotionale Barrieren bei Menschen zu überwinden.

00:11:13: Die nicht schon von vornherein total empfänglich dafür sind.

00:11:16: Es

00:11:17: reicht nicht einfach nur eine Stimme zu klonen.

00:11:21: Nein überhaupt nicht!

00:11:22: Man muss den exakten psychologischen Triggerpunkt dieses Wählers treffen und hier zeigt die Wissenschaft das wir Menschen deutlich widerstandsfähiger sind als wir oft glauben.

00:11:32: Das bringt mich direkt zu dieser extrem spannenden Studie aus der Fachzeitschrift PNAS, die ist ja von zwanzig vierundzwanzig.

00:11:41: Ja ein sehr wichtiges Paper!

00:11:42: Wir haben ja ich glaube seit diesen ganzen Cambridge Analytik-Enthüllungen diese kollektive Paranoia vor politischem Mikrotagetin.

00:11:53: Ohja das schreckgespenst der personalisierten Werbung?

00:11:56: Genau – Die Vorstellung dass ein Algorithmus unsere intimsten Datenpunkte auswertet also Unsere Likes, unsere Kaufgewohnheiten.

00:12:06: Unsere geheimen Ängste und uns dann eine politische Werbung ausspielt die unser Gehirn quasi komplett

00:12:14: unprogrammiert.".

00:12:15: Die magische Kugel sozusagen?

00:12:17: Ja aber diese PNES-Studie die wir hier haben, die zerlegt diesen Mythos doch ziemlich schonungslos oder?

00:12:24: Das tut sie in der Tat ja!

00:12:26: Die Forscher wollten wirklich ganz basal wissen, wirkt eine maßgeschneiderte auf Persönlichkeitsprofilen basierende Nachricht tatsächlich besser als eine Standardbotschaft die einfach an alle geht.

00:12:38: Und das haben sie in riesigen Feldversuchen getestet?

00:12:41: Genau

00:12:42: und des Ergebnis war für die ganzen Datenbroker der Industrie wahrscheinlich extrem ernüchternd.

00:12:47: Mikrotargeting ist nämlich kaum überzeugender als eine ganz normale gut gemachte Plakatwerbung.

00:12:52: Aber warum ist es so Wenn der Algorithmus doch theoretisch genau weiß, dass mich innere Sicherheit viel mehr triggert als sagen wir Umweltschutz.

00:13:04: dann müsste diese maßgeschneidete Botschaft doch unschlagbar sein.

00:13:08: Das denkt man, weil dieser Annahme den Menschen auf eine ganz simple Reizreaktionsmaschine reduziert – aber so funktionieren wir nicht!

00:13:16: Wir sind hochkomplexe soziale Wesen.

00:13:19: Unsere politischen Überzeugungen basieren nicht auf ein paar isolierten Datenpunkten aus irgendeinem Browserverlauf …

00:13:25: Sondern….

00:13:26: Sie basieren auf unserer familiären Sozialisation, auf unser Peer-Group und ganz tief verwurzelten Werten, die wir über Jahrzehnte aufgebaut haben.

00:13:35: Das stimmt natürlich!

00:13:36: Stell dir vor du stammst aus einer Familie, die traditionell gewerkschaftlich organisiert ist – und all deine Freunde leben in einem bestimmten Milieu.

00:13:44: Dann wird ein gezieltes dreißig Sekundenvideo auf Facebook das an deine geheime Angst vor Kriminalität appelliert diese jahrzehntelange Identität einfach nicht überschreiben.

00:13:53: Klar

00:13:54: Da greift dann dieser Bestätigungsfehler, von dem man immer liest.

00:13:59: Exakt!

00:14:01: Unser Drang Information so zu filtern dass sie unser bestehendes Weltbild stützen.

00:14:07: Der wirkt wie ein massiver Schutzschild gegen diese punktuellen Angriffe.

00:14:12: Das

00:14:12: ist eine absolut faszinierende Erkenntnis.

00:14:15: Die direkte Manipulation scheitert also einfach an der Trägheit menschlicher überzeugt.

00:14:21: So kann man das sehr gut zusammenfassen.

00:14:23: Aber wenn diese ganzen gezielten Kampagnen an den harten politischen Identitäten abrallen und an der Wahl ohnehin gar keinen so großen Schaden anrichten, warum sitzen wir denn überhaupt hier?

00:14:37: Das ist die wichtigste Frage überhaupt!

00:14:39: Ja... weil wenn das alles nur in isolierten Filterblasen zirkuliert, ist diese ganze Debatte um KI-Politik dann nicht eigentlich nur totale Hysterie?

00:14:51: Und genau da müssen wir aufpassen.

00:14:54: Die Antwort darauf ist der Grund, warum die Forscher des Turing-Instituts trotz den niedrigen Fallzahlen so unfassbar eindringlich warnen.

00:15:02: Wovor warnen Sie denn wenn die Wahlen an sich sicher sind?

00:15:06: Nur weil die KI am Wahltag einer hunderttausend Stimmen direkt von Partei A zu Partei B verschiebt, heißt das eben nicht dass sie keinen massiven Schaden anrichtet.

00:15:15: Die Gefahr verlagert sich einfach nur.

00:15:17: Wohin verlagern Sie sich?

00:15:18: Sie

00:15:19: wirkt nicht als direktes Geschoss auf den einzelnen Wähler sondern als schleichendes Gift im Fundament der gesamten Gesellschaft.

00:15:27: Wir kommen hier zu diesem Konzept, das in der Forschung als die Lügnerdividende bezeichnet wird.

00:15:32: Ja und die Lügnerdividente – das war ja das was ich am Anfang schon mal kurz angesprochen habe und was wir in einer vorigen Folge schon einmal diskutiert hatten.

00:15:39: Wir sprechen noch einmal darüber denn das ist wahrscheinlich der wichtigste Begriff den wir aus diesen Quellen heute mitnehmen müssen.

00:15:47: wie genau funktioniert also die Mechanik diese Lügnardividende?

00:15:51: Der Gedanke dahinter ist so simpel wie perfide.

00:15:55: Wir alle, also die gesamte Öffentlichkeit haben mittlerweile gelernt und total verinnerlicht, dass künstliche Intelligenz in der Lage ist, perfekte Fälschungen von der Realität zu erzeugen.

00:16:05: Wir alle

00:16:05: haben diese gefälschten Bilder vom Palmsten, der Dauninacker gesehen.

00:16:10: Wir haben meine Politie-Audios von Promoes gehört – das weiß inzwischen jeder!

00:16:14: Richtig….

00:16:14: Das Bewusstsein für die pure Existenz dieser Technologie ist einfach allgegenwärtig Und genau diese Tatsache wird zur ultimativen Waffe für Politiker, die tatsächlich etwas verbrochen haben.

00:16:48: Das ist ein von meinen Gegnern erstelltes KI-Diebweg.

00:16:53: Genau das ist die Lügnerdividende!

00:16:56: Der Ertrag, also die Dividende fließt direkt an den Lügners.

00:17:01: Einfach weil die Technologie in der Welt existiert.

00:17:04: Jere.

00:17:04: Er muss das Video gar nicht wirklich widerlegen er muss keine harten Gegenbeweise erbringen... ...er säht lediglich den Zweifel.

00:17:11: In einer Welt in der alles gefälscht sein könnte wird plötzlich auch alles echte anfächbar.

00:17:17: Das ist unheimlich.

00:17:18: Und das erzeugt in der Bevölkerung eine sogenannte epistemische Erschöpfung.

00:17:23: Epistemische Eschöpfungen,

00:17:26: d.h.,

00:17:27: die Ermüdung bei der Suche nach der Wahrheit.

00:17:30: Exakt!

00:17:31: Das ist ein brillanter Punkt aus unseren Recherchen.

00:17:34: Das ist ja so als würde jemand uns davon überzeugen dass es auf dem ganzen Spielbrett gar keine echten Regeln mehr gibt.

00:17:43: Ja, ein sehr gutes Bild.

00:17:45: Wenn jeder noch so erdrückende Beweis, egal ob Video, Audiumitschnitt oder Dokument mit dem einfachen Verweis auf KI weggelächelt werden kann dann gibt es doch gar keine objektive Realität mehr auf die wir uns als Gesellschaft einigen können.

00:18:04: Richtig!

00:18:05: Wir streiten

00:18:05: dann gar nicht mehr darüber wie wir ein bestimmtes Problem lösen sondern ob das Problem oder eben der Beweis dafür überhaupt existiert.

00:18:16: Und die Folgen davon sind extrem toxisch für jede Demokratie, wenn Menschen das Gefühl haben dass sie ihren eigenen Augen und Ohren nicht mehr trauen können und dass Institutionen Medien- oder Gerichte sowieso unfähig sind Wahrheit von Fälschung zu trennen

00:18:32: was

00:18:32: tun Sie dann?

00:18:33: Sie ziehen sich zurück.

00:18:34: Genau, sie ziehen sich zu rück!

00:18:36: Sie glauben einfach gar nichts mehr.

00:18:38: oder – und das ist noch schlimmer – sie glauben im Zweifel nur noch demjenigen der ohnehin schon auf ihrer Seite steht.

00:18:44: Die

00:18:44: Wahrheitsfindung weicht also einer reinen Loyalitätsentscheidung.

00:18:50: Das ist eigentlich

00:18:51: furchtbar.".

00:18:53: Der Schaden liegt nicht in der einzelnen manipulierten Wählerstimme sondern im totalen Kollaps des gesellschaftlichen Vertrauens.

00:19:00: Das ist eine so erschütternde Verschiebung der Perspektive.

00:19:04: Wir starren echt alle wie gebannt auf diese fiktiven Hacker, die unsere Gehirne hecken wollen und übersehen dabei völlig dass die bloße Atmosphäre des Zweifels unserer Institutionen von innen aushüllt

00:19:20: Ganz genau.

00:19:21: Wenn dieses Vertrauen aber die eigentliche Währung der Demokratie ist Und diese Währungen gerade massiv entwertet wird Was setzt das System denn dem entgegen?

00:19:34: Die Europäische Union schaut dem ja laut unseren Quellen nicht tatenlos zu, nein.

00:19:40: Nein überhaupt nicht!

00:19:41: Wir haben nämlich zwei massive legislative Hebel die genau hier ansetzen sollen.

00:19:47: Ja Europa versucht hier tatsächlich Vorreiter bei der Regulierung zu sein um genau diesen Vertrauensverlust irgendwie aufzuhalten.

00:19:55: Der erste Hebel, den wir uns ansehen müssen ist die EU-Verordnung.

00:20:02: Ein sperriger Name?

00:20:04: Warum geht es da genau?

00:20:05: Es geht dabei primär um Transparenz und das Targeting von politischer Werbung.

00:20:10: Die EU hat sehr wohl erkannt dass die Dunkelnheit dieser Echokammern das größte Problem ist.

00:20:15: Okay

00:20:16: Die Verordnung, deren wichtigste Pflichten übrigens seit Oktober-Zweitausendfünfundzwanzig gelten, die zwingt Plattformen dazu das Targeting radikal offen zu legen.

00:20:26: Also jeder Nutzer muss sofort sehen können wer diese Anzäge bezahlt hat richtig?

00:20:32: Ja wer sie bezahlt hatte wie viel Geld da fließt und vor allem auf Basis welcher meiner ganz persönlichen Daten mir dieses spezifische Botschaft in den Feed gespült wurde.

00:20:42: Das ist der Grund, der versucht diesen Mikrotagetin die Maske vom Gesicht zu reißen.

00:20:47: Wenn ich weiß warum mir jemand etwas zeigt also dass er meine Angst vor Arbeitslosigkeit taget, dann bin ich psychologisch sofort misstrauischer.

00:21:00: Aber das deckt ja nur die bezahlten Kampagnen ab!

00:21:04: Was ist denn mit dem ganzen organischen Chaos?

00:21:06: Also was passiert wenn einfach irgendein anonymer Troll-Account kurz vor der Wahl ein manipuliertes Video hochlädt.

00:21:15: Greif da der zweite Hebel, den wir hier liegen haben?

00:21:19: Ja!

00:21:19: Da kommt dann der EU AI Act ins Spiel – das ist ja das grundlegende Regelwerk für künstliche Intelligenz in Europa.

00:21:26: Und welcher Teil davon?

00:21:29: ist für unser Thema relevant.

00:21:31: Für uns ist Artikel fünfzig von zentraler Bedeutung, dieser schreibt nämlich vor und das gilt ab August zwei tausend sechsundzwanzig dass sämtliche Deepfakes zwingend gekennzeichnet werden müssen.

00:21:42: Das heißt wenn ein Bild oder Audio maßgeblich durch KI verändert wurde

00:21:49: Genau!

00:21:49: Dann muss ein eindeutiger nicht entfernberrer Warnhinweis für den Nutzer sichtbar sein.

00:21:55: Die Idee ist einfach, eine klare technische Trennlinie zwischen menschlicher Realität und maschineller Fälschung zu ziehen.

00:22:03: Und genau hier muss ich jetzt mal den Advokatos Diaboli spielen.

00:22:08: Genau hier habe ich ein gewaltiges Problem mit dem Anstehpolitik.

00:22:12: Okay, schieß los!

00:22:14: Wir kleben also ab.

00:22:15: zwanzig sechsundzwanzig wahren Hinweise auf Deepfakes sowie auf Zigarettenschachteln?

00:22:22: Ja

00:22:22: Aber wenn wir uns diese Mechanik der Lügnerdividende ansehen, über die wir gerade so ausführlich gesprochen haben.

00:22:29: Dann löst dieser wahren Hinweis doch das Kernproblem überhaupt nicht!

00:22:34: Wie meinst du das genau?

00:22:35: Naja... Wenn ein echter Skandal auf Video auftaucht und der Korruptepolitiker behauptet dann einfach es sei in Die Pflege.

00:22:44: Was bringt mir denn das Gesetz?

00:22:46: Ich verstehe

00:22:47: Das Gesetz zwingt zwar die KI-Ersteller, ihre Fake zu markieren.

00:22:53: Aber es gibt den Bürger doch gar kein Werkzeug an die Hand umzubeweisen dass ein unbequemes echtes Video tatsächlich auch echt ist?

00:23:04: Der Zweifel bleibt durch!

00:23:18: der gesamten Gesetzgebung.

00:23:20: Du beschreibst da exakt die Grenze von technologischen und juristischen Lösungen für ein tiefen psychologisches Problem.

00:23:27: Es reicht also nicht!

00:23:28: Ein Wasserzeichen oder eine Kennzeichnungspflicht erhöht zwar die Kosten, und das Risiko für Angreifer ist filtert dieses massenhafte billige Grundrauschen – der Desinformation heraus.

00:23:39: Das ist ja immerhin etwas...

00:23:41: Aber es heilt eben nicht diese epistemische Erschöpfung.

00:23:45: Wenn ein Wähler ohnehin in einer tiefen ideologischen Grabenkampfmentalität feststeckt, dann wird er einen echten Skandal der Gegenseite sofort glauben.

00:23:54: Und einen wahren Hinweis auf einem Video seines eigenen Kandidaten.

00:23:58: Den tut er als feindliche Manipulation der Plattformen ab.

00:24:03: Gesetze können die Wahrheitsfindung vielleicht erleichtern aber sie können uns als Gesellschaft den Willen zur Wahrheit nicht aufzwingen.

00:24:10: Wir müssen die harte Arbeit allen so selbst leisten Medienkompetenz, kritisches Denken die Bereitschaft das eigene Weltbild auch mal herauszufordern.

00:24:23: All das kann man sich nicht einfach per Verordnung in Brüssel bestellen.

00:24:27: Richtig, die EU-Gesetze sind ein superwichtiges notwendiges Gerüst um den Raum der öffentlichen Debatte überhaupt noch verteidigen zu können.

00:24:35: Aber das Fundament dieses Raumes ist also das Vertrauen der Menschen untereinander und in die Fähigkeit Realität als solche anzuerkennen muss von der Gesellschaft selbst immer wieder neu gegossen werden.

00:24:48: Das fasst diese unglaubliche Dynamik des heutigen Deep Dives wirklich perfekt zusammen.

00:24:55: Wenn wir uns anschauen Wo wir heute eingestiegen sind und wo wir jetzt stehen, ist das Bild wirklich ein völlig anderes.

00:25:02: Total oder?

00:25:03: Ja!

00:25:03: Wir haben mit der Angst vor der totalen digitalen Gedankenkontrolle begonnen.

00:25:09: Wir haben gesehen dass spektakuläre Vorfälle wie der geklonte Joe Biden oder das manipulative Audio in der Schweigephase der Slowakei reale Schockmomente

00:25:21: sind.

00:25:21: Definitiv Aber

00:25:22: die Daten aus Großbritannien und der Ubi weisen uns Der direkte Einfluss auf das Wählerverhalten ist minimal.

00:25:31: Microtargeting ist keine dunkle Magie, unsere politischen Identitäten sind weiter aus Robuster gegen schnelle digitale Tricksereien als wir dachten.

00:25:42: Zum Glück!

00:25:43: Die wirkliche Gefahr trönt gar nicht aus den Lautsprechern der Angreifer.

00:25:49: Sie nistet sich ganz leise in unserem Zweifel ein – die lügner Dividende ist das wahre Gift.

00:25:58: Wenn jeder Beweis anfächbar wird, profitiert diejenige, der die Realität

00:26:04: am

00:26:04: stärksten verbickt.

00:26:06: Besser kann man es nicht auf den Punkt bringen!

00:26:08: Und während die EU jetzt versucht mit Transparenz und Wasserzeichen Pflaster auf diese Wunden zu kleben bleibt er eigentlich herausfordernd bei uns.

00:26:18: Wir dürfen schlichtweg nicht verlernen, der Realität zu vertrauen Und das führt mich zu einem letzten Gedanken, der mich seit der Lektüre dieses EU-EI-Ex echt nicht mehr loslässt.

00:26:32: Oh jetzt bin ich gespannt!

00:26:33: Wir bereiten uns ja gerade rechtlich darauf vor in Zukunft alles künstliche akribisch zu markieren.

00:26:40: wir wollen quasi warren Schilder für jede maschinell erzeugte Illusion?

00:26:46: Ja genau.

00:26:47: Aber wenn die lügne Dividende Weiterhin so rasant wächst und der Generalverdacht gegenüber der Realität echt zum Standard wird, müssen wir dann irgendwann den Spieß komplett umdrehen.

00:27:02: Wenn die Fälschung das neue Normal ist reicht es dann noch das Fake zu kennzeichnen oder werden wir bald gezwungen sein die Wahrheit selbst zu zertifiziert?

00:27:14: brauchen wir in ein paar Jahren vielleicht kryptografisch zertifizierte menschliche Wasserzeichen auf den echten Reden, den echen Fotos und den eften Taten von Politikern.

00:27:28: Damit wir ihnen überhaupt noch ein einziges Wort glauben können?

00:27:32: behalte diesen Gedanken im Hinterkopf wenn dir das nächste Mal ein politisches Video in deinen Feed gespült wird.

00:27:41: Das war unser tieferer Einblick in die Mechanik der digitalen Täuschung.

00:27:53: Soweit die Analyse!

00:27:56: So bedrohlich die Fälle klingen, es gibt kaum Belege das KI-Desinformation Wahlen entschieden hat.

00:28:03: Das Ellen Turing Institute hat die Wahlen im Jahr zwanzig vierundzwanzig untersucht und fand keine Belege für einen Einfluss auf die Ergebnisse in Großbritannien – Frankreich oder der EU.

00:28:15: Das meiste erreichte Menschen die ohnehin schon so dachten.

00:28:20: und das Mikrotagetin, dass alle fürchten ist in der Forschung kaum wirksamer als eine gewöhnliche Botschaft.

00:28:30: Heißt das alles halb so wild?

00:28:33: Nein!

00:28:33: Denn die größere Gefahr ist nicht, dass die Maschine deine Stimme kauft.

00:28:38: Die größere Geffahr ist der Zweifel aus der letzten Folge jetzt auf die Demokratie gelegt.

00:28:44: Wenn alles gefälscht sein kann glaubt am Ende niemand mehr irgendetwas und eine Demokratie, in der niemand mehr etwas glaubt ist wehrlos.

00:28:57: Und hier ist die Falle!

00:28:59: Wenn du sagst eh alles gesteuert ich glaube gar nichts mehr dann hat der Manipulator schon gewonnen nicht weil er dich überzeugt hat sondern weil er Dich zum Aufgeben gebracht hat.

00:29:13: Resignation ist kein Schutz sie ist die Niederlage.

00:29:18: Ich verteidige die offene Gesellschaft und ich gehöre zu denen, die das Tempo mit erhöhen, dass ich hier hinterfrage.

00:29:25: Beides ist wahr!

00:29:27: Ich habe keine Lösung, die alles heilt aber ich habe eine Haltung.

00:29:34: Zwei Maximen zum Schluss der Staffel.

00:29:36: Erstens Prüfe die Quelle nicht als Gefühl.

00:29:41: Wer dich in Eile und Wut bringt will etwas von dir.

00:29:46: Zweitens Verwechsel Skepsis nicht mit Zynismus.

00:29:51: Skepses fragt weiter, Zynismus gibt auf!

00:29:56: Diese Staffel hat einen roten Faden.

00:29:59: Werbung und Betrug sind technisch dasselbe nur die Erlaubnis unterscheidet.

00:30:05: Der Zweifel an allem ist die Waffe Und dein Wille ist das Ziel.

00:30:13: Und damit die letzten Fragen die ich dir mitgebe Ist der Wille noch meiner?

00:30:19: wenn er sorgfältig hergestellt wurde?

00:30:23: Und wenn nicht, was tue ich ohne in die Resignation zu fallen das eh alles gesteuert ist.

00:30:32: Das war die letzte Folge zum Thema Manipulation in Zeiten von KE.

00:30:38: Wenn sie dich zum Denken gebracht hat teile sie.

00:30:42: Wenn du anderer Meinung bist schreibe mir Aber lasse in jedem Fall deinen Denkraum offen.

00:30:51: Bis zum nächsten Mal Thank you.