Иоганн Ребергер, эксперт в области безопасности данных, сумел модифицировать ChatGPT таким образом, чтобы он мог выполнить ряд потенциально опасных команд.

Среди них — вход в электронный почтовый ящик, чтение писем и их публикация в Сети. По словам Ребергера, он добавил функцию в ChatGPT, которая предоставляла доступ к таким сервисам, как Slack и Gmail.

Всё это стало возможным благодаря новому классу кибератак, названным «оперативные инъекции», которые стали возможными из-за распространения нейросетей.

Компания OpenAI, создатель ChatGPT, уже осведомлена о произошедшем и выразила благодарность Иоганну за обнаружение этой уязвимости.

Они устранили данный недостаток, чтобы предотвратить подобные атаки в будущем. Однако это напоминает нам о том, что с развитием ИИ растёт и потенциальная угроза его использования в недобросовестных целях.

Источник: Ferra