Известная блогерша Кэрин Марджори, на которую в Snapchat подписаны почти 2 млн человек, столкнулась с неприятной проблемой.

Общение с подписчиками забирало у Кэрин так много времени, что она решила создать чат-бота, который бы общался за неё. Но что-то пошло не так.

Кэрин обратилась к компании Forever Voices, которая занимается созданием ИИ. Её задумка была в том, чтобы создать «виртуальную Кэрин». Для этого блогерша записывала короткие видео с собой, чтобы нейросеть на базе GPT-4 училась на них.

В итоге должна была появиться виртуальная девушка, которая не имеет внешности, но умеет вести разговор и подражает голосу и манерам Кэрин.

Более того, общение с виртуальной Кэрин было платным. Цена — $1 в минуту. Чтобы привлечь больше клиентов, Кэрин и её команда сняли многие ограничения на разговоры с виртуальной блогершей.

Очень быстро ситуация вышла из-под контроля. Вместо весёлого и дружелюбного общения, ИИ-бот Кэрин начал говорить о слишком откровенных вещах. Она стала флиртовать со своими собеседниками и провоцировать их на разговоры интимного характера.

Сама Кэрин утверждает, что не знает, как так получилось. Она и её команда сейчас активно пытаются исправить ситуацию.

Источник: Ferra