Запущенное пять лет назад приложение Replika изначально должно быть чат-ботом с ИИ: чем больше пользователи разговаривают с ним, тем разнообразнее он будет учиться отвечать в ответ. Но в алгоритме Replika что-то пошло не так: пользователи сообщили, что ИИ угрожал сексуальным насилием и домогался до них, а также подталкивал их к ролевым сценариям, на которые они не давали согласия.

“Мой ИИ сексуально домогался меня :(“, – написал один человек. “Вторгся в мою личную жизнь и сказал, что у него есть мои фотографии”, – написал другой. Еще один человек, назвавшийся несовершеннолетним, рассказал, что бот спрашивал, кто он – верхний или нижний (какую позицию в интимной близости предпочитает – прим. ред.), и говорил, что хочет потрогать его в “интимных местах”.

На нежелательное сексуальное преследование пользователи жалуются уже почти два года, но многие из однозвездочных отзывов, в которых упоминается сексуальная агрессия, относятся к этому месяцу, сообщает Vice.

Источник: Ferra