Пользователи 4chan начали массово использовать систему синтеза голоса ElevenLabs, чтобы копировать голоса знаменитостей для зачитывания текстов оскорбительного характера.

Например, копируют голос актрисы Эммы Уотсон. В одном примере он зачитывает отрывок из “Майн кампф». Журналисты The Verge сгенерировали голос президента Джо Байдена, который объявлял о вторжении в Россию.

В Twitter стартап Eleven Labs уже признал, что его инструментом злоупотребляют. Журналисты опасаются, что это позволит распространять дезинформацию.

Источник: Ferra