EU AI Act 2026 - Kennzeichnung von generiertem Voiceover-Content

Ich hatte gerade ein ziemlich verwirrendes Meeting. Ich arbeite in der Produktion einer Werbeagentur und wir setzen aktuell die Kennzeichnungspflichten des EU AI Act in unserer Agentur um. Grundsätzlich wollen wir alles korrekt kennzeichnen, was gekennzeichnet werden muss. Zu viel wollen wir aus ästhetischen Gründen aber auch nicht labeln.

Es ging um generierte Stimmen / Voiceovers und ich habe klar dafür argumentiert, dass wir alles kennzeichnen müssen, was wir auf der Voice-Plattform ElevenLabs generieren . Einzige Ausnahme: eindeutige Cartoon-/Fantasy-Stimmen, die keinem echten Menschen ähneln oder als solcher wahrgenommen werden könnten (Tier- oder Monsterstimmen z.B.).

Das Team hat jedoch entschieden, ElevenLabs-Voiceovers grundsätzlich NICHT zu kennzeichnen, da es sich eindeutig um eine synthetische Stimme handelt, die keiner einzelnen, identifizierbaren oder berühmten Person ähnelt. Gekennzeichnet wird nur, wenn wir die Stimme einer bekannten Person klonen, die vom Publikum fälschlicherweise als „echtes" Voiceover genau dieser Person wahrgenommen werden könnte.

Ich hatte das komplett anders verstanden, wurde aber überstimmt. Habe ich gerade einen super dummen Moment? Nach meinem Verständnis geht es darum, Stimmen zu kennzeichnen, die auf echten Stimmen trainiert wurden und einer echten Stimme ähneln könnten – und damit die Verbraucher in die Irre führen.

Ich bin "nur" Designer, also habe ich klein bei gegeben und es akzeptiert – aber ich glaube, mein Team liegt da falsch.

https://elevenlabs.io/
https://artificialintelligenceact.eu/article/50/