00:00:00: Kurz vor der Vorwahl klingelt bei tausenden Demokraten das Telefon am Apparatist Joe Biden.

00:00:11: Er sagte ihnen, sie sollen im Dienstag zu Hause bleiben und ihre Stimme für den November aufheben.

00:00:19: Es war nicht Joe Biden, es war seine Stimme.

00:00:23: Dahinter stand ein politischer Berater namens Steve Kramer.

00:00:28: Er hat es zugegeben.

00:00:29: Die Telekommunikationsbehörde FCC fängte im September, April, April und April, sechs Millionen Dollar Strafe gegen ihn.

00:00:38: Nyhemscher klagte ihn wegen Wähler Unterdrückung an.

00:00:42: Im Juni, April oder April sprachen ihm die Geschworen freie.

00:00:48: Die Fälschung war unbestritten – der Schuldspruch kam nicht.

00:00:52: Herzlich willkommen in Denkaum!

00:00:55: Mein Name ist Georg Redlammer Teil drei der Reihe über KI in Film, Fernsehen, Radio und Text.

00:01:04: In Teil eins ging es um das Handwerk der Stimme, in Teil zwei um die Frage ob wir dieses Muster schon kennen?

00:01:12: Heute wird es unangenehm!

00:01:15: Und zwar für mich.

00:01:17: Es geht um die Fälschung, um eine Branche, die gerade um ihre Arbeit kämpft und am Ende um eine eigene Praxis ohne Schonung.

00:01:28: Die Frage lautet nicht, ob man eine Computerstimme benutzen darf.

00:01:32: Die Frage lautet wo die Grenze verläuft zwischen einem ehrlichen Werkzeug und einer Täuschung.

00:01:40: Bleiben wir kurz beim Anruf aus New Hampshire.

00:01:44: Das bemerkenswerde daran ist nicht die Technik.

00:01:48: Die Anbieter werben selbst damit das wenige Sekunden Aufnahme genügen um eine Stimme brauchbar zu klonen.

00:01:58: Nur widerspricht ihn niemand.

00:02:00: Das bemerkenswerte ist der Ausgang, Der Mann hat die Tat eingeräumt.

00:02:06: Die Behörde hat ihn zur Kasse gebeten.

00:02:09: Das Strafgericht hat ihn laufen lassen Weil die Gesetze, die dort galten Für so etwas nicht geschrieben waren.

00:02:18: Eine Folge hatte der Anruf trotzdem Und sie kam schneller als jedes Urteil.

00:02:22: Am achten Februar zwanzig vierundzwanzig Keine.

00:02:26: drei Wochen danach Erklärte die amerikanische Telekommunikationsbehörde FCC, künstlicher zeugte Stimmen in automatisierten Anrufen für illegal.

00:02:37: Eine Behörde war schneller als das Gericht und schneller als der Gesetzgeber.

00:02:43: So läuft es meistens erst das Kandal dann die Regel.

00:02:48: Die Regel ist dann eng weil sie den einen Fall im Kopf hat, den alle kennen.

00:02:54: Zweiter Fall derselbe Monats andere Größenordnung Baltimore County in Maryland, Jena.

00:03:04: In den sozialen Netzwerken kursiert eine Tonaufnahme.

00:03:08: zu hören ist angeblich Eric Eiswert der Direktor der Pikesville High School wie er sich rasistisch und antisemitisch über Schüler und Kollegen äußert.

00:03:20: Empörung Drohungen Freistellung.

00:03:23: Der Mann steht am Pranger.

00:03:26: Die Aufnahme war gefälscht.

00:03:29: Erzeugt hatte sie der Sportkoordinator der Schule, Deijan Darian.

00:03:34: Er wurde im April zwanzig vierundzwanzig festgenommen und im April zweizig fünfundzwantig zu vier Monaten Haft verurteilt.

00:03:44: Vier Monate Haft – ein Ruf, der in einer Nacht zerstört war und Monate brauchte um halbwegs zurückzukommen.

00:03:54: Halte kurz inne bei diesem Fall!

00:03:56: Es war kein Staat, kein Geheimdienst.

00:03:59: Kein Konzern... ...es war ein Kollege der sich geärgert hatte!

00:04:05: Die Werkzeuge über die wir hier reden... ...dingen in jeder Schule,... ...in jedem Büro, in jedem Wirtschaftshaus.

00:04:12: Und seit dem zweiten August zwanzig sechsundzwanzig gilt in der Europäischen Union eine Pflicht dazu.

00:04:18: Wer einen Deepfake veröffentlicht muss offenlegen dass er künstlich erzeugt oder manipuliert ist.

00:04:25: Da steht ihn dann Artikel fünfzig der KI-Verordnung.

00:04:29: Ich halte die Regel für richtig und ich halte es aber auch für schwach, denn wer eine Stimme fälscht um zu schaden wird kaum einen Hinweis dazuschreiben.

00:04:39: Die Pflicht trifft die Anständigen Und darin liegt ein Kern!

00:04:44: Die Fälschung ist schnell, die Aufklärung ist langsam.

00:04:48: Was in der Zwischenzeit passiert nimmt niemand zurück.

00:04:52: Jetzt zur Branche, die das zuerst trifft.

00:04:54: In Deutschland und Österreich wird fast alles synchronisiert, wir sind kein Untertitel-Land.

00:05:00: Für viele Zuschauer ist die deutsche Stimme eines Hollywoodstars vertrauter als seine eigene.

00:05:06: Denk an Christian Brückner seit Jahrzehnten Die Deutsche Stimme von Robert De Niro.

00:05:12: Viele in deutschsprachigen Raum kennen De Nero nur so Zwei Männer eine Figur im Kopf des Publikums.

00:05:20: Das ist ein Beruf mit Handwerk und dieses Handwerk ist genau das Austeil eins.

00:05:26: Eine Synchronsprecherin trifft in jeder Zeile eine Entscheidung über Betonung, Tempo und Atem.

00:05:33: In einer fremden Sprache auf fremde Lippen im Takt eines Bildes das sie nicht verändern darf.

00:05:40: Seit Anfang zwanzig sechsundzwanzig läuft in dieser Branche ein Konflikt über den zu wenig gesprochen wird.

00:05:47: Netflix legte deutschen Sprecherinnen und Sprechern Verträge mit einer KI-Klausel vor – sinngemäß?

00:05:55: Die Aufnahmen dürfen einer KI zum Training zugeführt werden.

00:06:00: Eine zusätzliche Vergütung dafür ist nicht vorgesehen!

00:06:03: Der Verband deutscher Sprechrennen, kurz VDS, lehnte ab.

00:06:09: Seine Vorständin Anna-Sophia Lumpe sagte der Tatz im Februar zwanzig sechsundzwanzig rund achtzig Prozent des Sprecherinnen und Sprechar die sonst für Netflix arbeiten seien nicht im Studio.

00:06:22: Ein rechtsgutachtendes Verbandes hält zentrale Klauseln für unwirksam.

00:06:27: Netflix stellt den Aussicht, deutsche Fassungen im Zweifel durch Untertitel zu ersetzen.

00:06:34: Im April, zwanzig sechsundzwanzig berichtete der Branchendienst DWDL von verhärteten Fronten Das ist keine Zukunftsdebatte – das läuft!

00:06:46: Zur Fairness gehört dass die Branche nicht einig ist.

00:06:50: Die Schauspiel-Gewerkschaft BFFS Einigte sich mit Netflix auf eine Regelung, nach der eine Vergütung fällig wird wenn die trainierte KI tatsächlich eingesetzt wird.

00:07:03: Zwei Verhandlungswege zwei Haltungen zum selben Problem.

00:07:09: In den USA ist derselbe Streit schon einmal durchgekämpft worden.

00:07:15: Die Gewerkschaft Saak-Aftra streikte von Juli, Juli, Bisioni, für die Sprecherinnen und Sprechern Videospielen fast ein Jahr lang im Kern den KI.

00:07:30: Das Ergebnis über vierundzwanzig Prozent mehr Gage, Transparenz und ausdrückliche Zustimmung für digitale Kopien an der Person und eine Vergütung wenn diese Kopie eingesetzt wird.

00:07:44: Die entscheidende Frage in beiden Konflikten ist nicht technisch.

00:07:47: Sie lautet, wem gehört eine Stimme?

00:07:52: Wenn du zwanzig Jahre lang gelernt hast wie ein Satz sitzt und jemand nimmt deine Aufnahmen und baut daraus ein System das deine Arbeit ohne dich erledigt dann hat man dir kein Produkt genommen.

00:08:07: Man hat dir das Handwerk abgenommen und weiterverkauft.

00:08:12: Es gibt noch einen Fall der mir keine Ruhe lässt Und er betrifft die Toten.

00:08:17: Die Stimmen verstorbener Schauspielerinnen und Schausspieler liegen in den Archiven, technisch spricht nichts dagegen sie weiter arbeiten zu lassen.

00:08:27: Rechtlich hängt es an Verträgen, die vor dreißig Jahren niemand für diesen Fall geschrieben hat!

00:08:32: Und die Person, die man fragen müsste ist nicht mehr da.

00:08:37: Eine Stimme isst keine Rohstoff – sie ist der Teil eines Menschen, der übrig bleibt wenn er den Raum verlassen hat.

00:08:46: Und jetzt lasse ich die Einwände zu, die gegen mich sprechen.

00:08:50: Eine schwache Kritiker kennst du sofort?

00:08:53: Deshalb mache ich sie stark!

00:08:54: Erstens Vielleicht liegt die Empathie im Ohr.

00:08:59: Wenn dich eine synthetische Stimme berührt Ist die Wirkung da?

00:09:04: Was genau filtern?

00:09:06: Meine Antwort bleibt dieselbe wie in Teil eins und sie ist keine Festung.

00:09:11: Ich vermute dass eine Wirkung ohne Absicht nur die Oberfläche der Empathies.

00:09:17: Beweisen kann ich es nicht.

00:09:19: Zweitens, auch der Mensch spielt.

00:09:22: Wer synchronisiert stellt ein Gefühl her das er nicht hat.

00:09:27: Da hilft mir keine Empörung.

00:09:29: Drittens, synthetische Stimmen dienen Menschen.

00:09:33: In Teil eins war es Roger Ebert Der nach einer Krebserkrankung mit einer aus alten Aufnahmen gebauten Stimme widersprechen konnte.

00:09:42: Dazu kommt die Zugänglichkeit Eine kleine Sprache bekommt eine Fassung, die es sonst nie gäbe.

00:09:48: Ein blinder Mensch bekommt jeden Text vorgelesen.

00:09:52: Viertens der Einwand, der mich trifft.

00:09:55: Ich habe es selbst benutzt.

00:09:58: In Teil eins hab ich drei prüfsteine genannt Gibt sich die Stimme als Mensch aus?

00:10:02: Ersetzt sie jemandem, der den Job sonst hätte?

00:10:05: Behauptet sie ein Gefühl das niemand hat!

00:10:08: Ich bin bei zwei von drei durchgefallen und ich habe es gesagt bevor es jemand anderer sagen konnte.

00:10:15: Was ich Teil eins nicht gezeigt habe, ist der unangenehmste Teil.

00:10:20: Ich habe davon profitiert!

00:10:21: Es hat Zeit gespart, es hat besser geklungen – die Folgen waren dadurch abwechslungsreicher und ich habe mehr Erfolgen geschafft als ich allein geschafft hätte….

00:10:33: …ich habe nicht aufgehört weil ich plötzlich klüger geworden bin... ...ich habe aufgehört weil ich diese Reihe nicht schreiben kann ohne mich an den eigenen Maßstab zu

00:10:43: halten.".

00:10:44: Und die Grenze, die ich ziehe ist nicht bequem.

00:10:48: Sie lautet Offenlegung genügt nicht wenn der Eindruck länger wirkt als der Hinweis.

00:10:55: Nach dieser Regel darf ich manches nicht mehr tun was erlaubt wäre Bevor du mir das aus Rheinwaschung durchgelässt.

00:11:03: ein Einand von mir gegen mich.

00:11:05: Ich verzichte auf etwas dass es mir ohnehin nicht viel gebracht hat.

00:11:10: Ich habe keinen Vertrag verloren keine Gage keinen Auftrag.

00:11:15: Eine Sprecherin, die heute Nein zu einer KI-Klausel sagt, verliert einen Job.

00:11:21: Mein Verzicht kostete mich Zeit.

00:11:24: Ihrer kostet sie Geld.

00:11:27: Das ist der Unterschied zwischen eine Haltung und einem Risiko.

00:11:31: Ich habe eine Haltung.

00:11:32: Sie tragen das Risiko.

00:11:35: Für diese Folge stand ein Satz im Konzept in die Computerstimme sagen sollte.

00:11:40: Es war als der ehrlichste Moment der Reihe gedacht.

00:11:44: erlaubt.

00:11:45: Mir fehlt, was du Empathie nennst.

00:11:48: Ich klinge als ob!

00:11:50: Du entscheidest, ob das genügt?

00:11:54: Ich habe ihn nicht aufnehmen lassen – ich lese ihn dir vor aus meinem Manuskript mit meiner Stimme und genau darin liegt der Unterschied.

00:12:04: Ich meine ihn.

00:12:07: Zwei Fragen für dich.

00:12:08: Dem gehört deine Stimme.

00:12:11: Du hast sie schon abgegeben in Sprachnachrichten Videokonferenzen in jedem Anruf bei einer Hotline, die aufzeichnet.

00:12:21: Hast du jemals zugestimmt dass jemand daraus etwas baut?

00:12:27: Zweitens Wenn die Fälschung schneller ist als die Aufklärung Worauf verlässt Du Dich dann?

00:12:35: Auf die Technik die es prüft oder auf Menschen die dafür gerade stehen?

00:12:41: und eine Bitte dazu wenn dich das nächste mal eine Aufnahme empört Warte einen Tag.

00:12:49: Der Ärger kostet dich nichts, der Irrtum kostet jemand anderem alles.

00:12:56: Beim nächsten Mal geht die selbe Frage aufs Papier.

00:12:59: Ein kanadischer Abgeordneter hielt im Juni'e-Zwanzig-Sechsunzwanzig eine Rede und las dabei versehentlich die Anweisung an die KI mit vor.

00:13:10: Wir haben uns nur gehört weil er den Beweis mitgeliefert hat.

00:13:14: Es geht um Erkennung, um Detektoren die sich irren und um das neue europäische Recht.

00:13:21: der Titel der Text.

00:13:24: Bis zum nächsten Mal in Denkaun!

00:13:28: Wenn dir diese Folge etwas gegeben hat teile sie.

00:13:31: wenn du anderer Meinung bist schreibe mir aber lasse in jedem Fall deinen Denkaum offen.