ElevenLabs, чей инструмент использовался для создания аудиодипфейка с участием президента США Джо Байдена, отстранила от работы ответственного за это пользователя после расследования, проведенного компанией Pindrop Security Inc, специализирующейся на обнаружении голосового мошенничества.

Стартап, специализирующийся на воспроизведении голоса с помощью ИИ на более чем двух десятках языков, серьезно относится к этому делу, подчеркивая свою приверженность предотвращению неправомерного использования инструментов ИИ для работы с аудио. Расследование, проведенное Pindrop и другими инструментами, показало, что фейк, скорее всего, был создан с помощью технологии ElevenLabs

Дипфейк, встревоживший экспертов по дезинформации и представителей избирательных органов, подчеркивает легкость создания подобных подделок и возможность злоумышленников влиять на выборы.

Компания ElevenLabs, стоимость которой недавно оценили в 1,1 миллиарда долларов после раунда финансирования в 80 миллионов долларов, позволяет создавать голосовые клоны общественных деятелей в пародийных целях, но не допускает несанкционированного подражания.

Источник: Ferra