Digital resources in the Social Sciences and Humanities OpenEdition Our platforms OpenEdition Books OpenEdition Journals Hypotheses Calenda Libraries OpenEdition Freemium Follow us
Kategorien
Allgemein

Vertrauenswürdiger als Menschen? Stimmklone bergen Gefahren – aber auch Chancen

Ein Bild aus dem Internet, dazu ein Youtube-Video oder eine Tonaufnahme, ein paar wenige Klicks auf grösstenteils kostenlos zugänglichen Plattformen wie ElevenLabs oder HeyGen – und plötzlich sind bekannte Menschen in Videos zu sehen oder in Tonaufnahmen zu hören, die täuschend echt wirken – in Wahrheit sind es aber Fakes.

Zum Erstellen derartiger Inhalte braucht es heute keine Profi-Kenntnisse mehr: Jeder User und jede Userin kann im Netz innert kürzester Zeit überzeugend echte Fälschungen von sich selbst oder anderen Personen generieren. Dazu wird kaum mehr als ein Foto, ein kurzes Video oder eine Aufnahme der Stimme der betreffenden Person benötigt. Das kann fatale Folgen haben – etwa, wenn ein geklonter Wolodymyr Selenskij in einem Fake-Video das ukrainische Volk zur Kapitulation vor den russischen Angreifern aufruft, oder wenn Joe Biden angeblich mitten im Wahlkampf seine Wählerinnen und Wähler telefonisch kontaktiert und davon abrät, an die Urne zu gehen.

Ein Deepfake des ukrainischen Präsidenten Wolodymyr Selenskij, der zu den Ukrainerinnen und Ukrainern spricht und zur Kapitulation aufruft.

Die genannten Beispiele zeigen, wie Stimmklone innerhalb von Desinformationskampagnen eingesetzt werden, und dass als Konsequenz davon eine kritische Auseinandersetzung mit den «Fakten», die uns täglich präsentiert werden, immer wichtiger wird. Aber: Haben wir die nötigen Fähigkeiten, künstliche von echten Stimmen, gefakte von Originalbildern oder -videos zu unterscheiden?  Und welche Konsequenzen drohen, wenn wir uns nicht mehr auf unsere Wahrnehmung verlassen können?

Selbst Expert:innen täuschen sich

Um diese Themen drehte sich der Gastvortrag von Prof. Dr. Adrian Leemann (Deutsche Soziolinguistik an der Universität Bern), der im Rahmen der Ringvorlesung «Digitale Sicherheit auf dem Prüfstand – Was Cyberkriminalität tatsächlich anrichtet» stattfand und von der Abteilung Digital Humanities des Walter Benjamin Kollegs an der Universität Bern organisiert wurde.

In seiner Präsentation vom 27. Oktober 2025 mit dem Titel «Stimme geklaut, Vertrauen zerstört: Deepfakes und Stimmklone im Cybercrime» zeigte Leemann die Möglichkeiten der forensischen Linguistik im Umgang mit Stimmklonen und Deepfakes auf. Sein ernüchterndes Fazit: Sogar für Expertinnen und Experten ist es heute kaum noch möglich, KI-generierte Stimmen von jenen echter Menschen zu unterscheiden.

Vor wenigen Jahren präsentierte sich die Lage noch etwas anders. 2022 führten Kirchhübel und Brown ihre Studie «Spoofed speech from the perspective of a forensic phonetician»[1] durch. Im Rahmen des Experiments wurden 300 Sprachproben analysiert, die sowohl aus echten als auch aus KI-Stimmen bestanden. Rund 25 Prozent der künstlichen Stimmen wurden von der Fachperson der forensischen Linguistik, die die Beispiele analysierte, als menschlich und echt wahrgenommen. Der Grossteil der KI-Stimmen wurde von der Fachperson hingegen als künstlich erkannt. Als Gründe dafür, warum sie diese Stimmen als nicht menschlich wahrgenommen hatte, gab die Expertin zu Protokoll, diese hätten während dem Sprechen zum Beispiel auf unnatürliche Art in der Tonhöhe variiert oder «zusammengeschnitten» geklungen.

Bei jenen KI-Stimmen, die die Fachperson nicht als künstlich, sondern als menschlich eingeordnet hatte, gab sie zu Protokoll, dass es Faktoren wie Schmatzgeräusche, Klicks oder hörbares Atmen gewesen seien, die sie von der Natürlichkeit der Stimmen überzeugt hätten. Es war also schon damals der Fachperson nicht vollständig möglich, menschliche und KI-Stimmen auseinanderzuhalten; doch eine Mehrheit der Stimmen erkannte sie korrekt.

In der Zwischenzeit hat sich jedoch viel getan. Im März 2025 veröffentlichten Barrington et al.[2] eine Studie, die untersuchte, ob die Teilnehmenden zwischen einer echten Stimme und deren Klon unterscheiden können. Dazu befragten sie 600 Studienteilnehmende. Diesen wurden Sprechbeispiele von insgesamt 220 echten englischsprachigen Sprecher:innen sowie Beispiele von, mithilfe von ElevenLabs, geklonten Stimmen derselben 220 Sprecher:innen abgespielt. In 83 Prozent der Fälle waren sich die Teilnehmenden sicher, dass die echte und die geklonte Stimme ein und dieselbe seien. Sie liessen sich von den Klonen in hohem Masse täuschen.

Barrington et al. untersuchten zudem, wie zuverlässig die Studienteilnehmenden menschliche Stimmen als solche erkennen konnten und wie gut sie KI-generierte Stimmen als derartige erkannten. Das Resultat: echte menschliche Stimmen wurden in rund 67 Prozent der Fälle als solche erkannt, KI-Stimmen in 61 Prozent der Fälle. Diese erschreckend nahe beieinanderliegenden Zahlen unterstreichen Adrian Leemanns Aussage, dass das menschliche Urteilsvermögen höchst unzuverlässig ist, wenn es darum geht, echte von Fake-Stimmen zu unterscheiden: Es liegt nur noch knapp über der Zufallsrate von 50 Prozent.

Täuschend echt: Stimmklon des früheren US-Präsidenten Joe Biden.

Zu dieser rasanten Entwicklung haben insbesondere grosse technologische Fortschritte in den letzten paar Jahren beigetragen. Sehr geringe Datenmengen reichen aus, um Stimmen authentisch klonen zu können. Das Microsoft-System VALL-E kann die Stimme einer Person anhand einer nur 3 Sekunden langen Audiodatei rekonstruieren.[3] Weiterentwickelt wurden in den letzten Jahren auch diverse Cloud-Infrastrukturen sowie Computer-Hardware, was eine schnellere Verarbeitung von grösseren Datenmengen auf privaten Endgeräten zulässt – dadurch können auch Privatpersonen die Produkte von Anbietern wie ElevenLabs oder OpenAI effizient für sich nutzen.

Wenn Maschinen menschlicher wirken als Menschen

Die Studie von Lavan et al.[4] geht sogar noch einen Schritt weiter. Sie untersucht den sogenannten «hyperrealism effect», die Möglichkeit also, dass Stimmklone gar realistischer wirken können als die echte Stimme, auf der sie basieren. Lavan et al. kommen zu ähnlichen Resultaten wie Barrington et al., nämlich, dass die echte Stimme und der dazugehörige Klon von den Teilnehmenden als gleich echt wahrgenommen wurden, während KI-generierte Stimmen, die nicht als Klon einer menschlichen Stimme erstellt wurden, als weniger natürlich empfunden wurden.

Der Hyperrealitätseffekt lässt sich in den Ergebnissen der Studie nicht festmachen. Sie beschreiben jedoch, dass KI-Stimmen von den Probandinnen und Probanden ihrer Studie als dominanter und vertrauenswürdiger als menschliche Stimmen wahrgenommen wurden.

Was bedeutet dies für unsere Gesellschaft, wenn Maschinen menschlicher wirken als echte Menschen? Wenn wir KI plötzlich als empathischer empfinden als unseren Partner oder unsere Nachbarin? Es dürfte das erste Mal sein, dass Maschinen nicht nur ökonomisch, sondern auch emotional mit dem Menschen konkurrieren. Diese Entwicklung verläuft parallel zu anderen Eingriffen, die durch KI zustande kommen: Viel Arbeit, die früher mit Muskelkraft erledigt wurde, übernehmen heute Maschinen; der Mensch beschränkt sich darauf, diese Maschinen zu steuern – und benötigt weniger Muskelkraft.

Übernimmt künftig eine Maschine die emotionale Arbeit für uns, verkümmert der emotionale «Muskel» möglicherweise ebenso. Soziale Fähigkeiten wie das Zuhören oder das Empfinden von Empathie könnten verloren gehen, Interaktionen mit anderen Menschen abnehmen. Zudem reagiert KI massgeschneidert auf die Bedürfnisse des mit ihr interagierenden Menschen – eine KI wird kaum eine gegenteilige Meinung vertreten, da sie den Nutzer oder die Nutzerin bei der Stange halten will. So wird die KI zum Echoraum für Gedanken und Gefühle des Einzelnen, eine kritische Auseinandersetzung, wie sie mit einem menschlichen Gegenüber möglich ist, findet nicht statt.

Ein im Diskurs über KI oft genanntes Argument war bisher jenes, dass Maschinen keine menschliche Wärme oder Empathie ersetzen können. Diese Grenze ist längst überschritten, wie die oben zitierten Studien zeigen. So wird KI heute etwa auch im Bereich der Therapie für die mentale Gesundheit eingesetzt.[5]

Wenn wir unserem Gehör nicht mehr trauen können

Doch zurück zu den Stimmklonen: Die Gefahren, die diese täuschend echten Fakes mit sich bringen, sind vielfältig und das Risiko des Missbrauchs ist enorm: Wenn wir am Telefon die vermeintliche Stimme einer nahestehenden Person hören, glauben wir ihr – und handeln entsprechend, überweisen etwa Geld, wenn wir darum gebeten werden. Adrian Leemann sagt deutlich: «Menschen können sich nicht auf ihr Gehör verlassen, um KI-Stimmen sicher zu entlarven – besonders nicht in Echtzeit, zum Beispiel am Telefon.» Die auditive Authentizität geht damit verloren: Ein bisher als sicher geltendes Merkmal, auf das wir – neben anderen Aspekten wie dem physischen Erscheinungsbild etwa – für die Identifikation eines Menschen vertraut haben, ist manipulierbar geworden.

Ein klassisches Beispiel dafür ist der Enkeltrick: Eine Person erhält einen Anruf, am Apparat – ganz eindeutig, so scheint es – der Enkel. Die Stimme, der Dialekt, typische Formulierungen: alles passt. Die Stimme ist seit Jahren vertraut, und vielleicht klingt sie am Telefon verzweifelt, denn ein Unfall soll passiert sein, der Enkel braucht rasch Geld, um die Angelegenheit zu regeln. Die Wahrscheinlichkeit ist gross, dass eine Grossmutter, ein Grossvater – oder auch ein Onkel oder eine Mutter – sofort handeln.

Es gibt auch Chancen

Es soll jedoch nicht unerwähnt bleiben, dass das Klonen von Stimmen in einigen Anwendungsbereichen mit den nötigen ethischen und rechtlichen Massnahmen auch positive Aspekte hat. Menschen, die ihre Stimme verloren haben, erhalten die Möglichkeit, eine synthetische Version davon zurückzubekommen. Auch im kulturellen und kreativen Bereich ergeben sich Chancen: Filme können mit den Originalstimmen von Schauspieler:innen synchronisiert, historische Reden realistisch reproduziert werden. In der Psychologie könnte im Bereich der Trauerarbeit mit den Stimmen von Verstorbenen gearbeitet werden – «Death Tech» nennt sich dieser Markt.

Die Technologie ist vorhanden – ob wir sie missbräuchlich oder sinnvoll für uns nutzen, entscheiden letztlich wir als Gesellschaft.

Ein zentrales Problem für Anbieter von Stimmklon-Programmen besteht darin, dass häufig unklar ist, ob Nutzerinnen und Nutzer tatsächlich über die Rechte an den Inhalten verfügen, die sie zum Klonen einer Stimme verwenden. Eine Regulierung oder gar ein Verbot des Klonens fremder Stimmen ist für Anbieter wirtschaftlich wenig attraktiv, da sie einen Verlust von Nutzerinnen und Nutzern befürchten müssen.

Zusammenfassend lässt sich sagen, dass sich die rasante Entwicklung von Stimmklonen kaum aufhalten lässt. Technische Hilfsmittel zur einfacheren Erkennung von KI-Stimmen sind vorhanden, sagt Adrian Leemann, etwa durch unhörbare Wasserzeichen zur Markierung von KI-Stimmen. Doch die Entwicklung ist der Regulierung weit voraus – ganz abgesehen davon, dass viele grosse Anbieter kein Interesse an Massnahmen haben dürften, die ihre Geschäftstätigkeit einschränken.


[1] Kirchhübel, C., & Brown, G. (2022). Spoofed speech from the perspective of a forensic phonetician. In Proc. Interspeech 2022 (pp. 1308-1312).

[2] Barrington, S., Cooper, E.A. & Farid, H. People are poorly equipped to detect AI-powered voice clones. Sci Rep 15, 11004 (2025). https://doi.org/10.1038/s41598-025-94170-3

[3] https://www.techmonitor.ai/digital-economy/ai-and-automation/vall-e-synthetic-voice-ai-microsoft

[4] Lavan N, Irvine M, Rosi V, McGettigan, C (2025) Voice clones sound realistic but not (yet) hyperrealistic. PLoS One 20(9): e0332692. https://doi.org/10.1371/journal.pone.0332692

[5] Mehmood, R., Parvez, M. A., Qureshi, M., & Sagheer, Z. (2025). Investigating the Future Role of AI in Therapeutic Settings and whether AI will Eventually Supplement or Replace Human Counselors. Review of Applied Management and Social Sciences8(1), 143-156. https://doi.org/10.47067/ramss.v8i1.442


OpenEdition schlägt Ihnen vor, diesen Beitrag wie folgt zu zitieren:
janinezuercher (21. Januar 2026). Vertrauenswürdiger als Menschen? Stimmklone bergen Gefahren – aber auch Chancen. Einblicke in die Digital Humanities. Abgerufen am 13. Februar 2026 von https://doi.org/10.58079/15j5z


Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

This site uses Akismet to reduce spam. Learn how your comment data is processed.