За последний год генеративный ИИ стал всё более популярным, и многие компании начали активно интегрировать его в свои продукты.

Однако злоумышленники также научились использовать эти системы для создания фишинговых писем, дипфейков и других мошеннических действий. Большинство из ИИ-разработок и вовсе оказались уязвимыми. Их вполне можно взломать, обойдя защитные меры.

Для выявления уязвимостей в генеративном искусственном интеллекте, разработчики обратились к хакерскому сообществу. В августе в Лас-Вегасе прошла ежегодная конференция DEFCON, где было организовано мероприятие Generative Red Team Challenge.

Участники конференции имели возможность протестировать уязвимости в генеративном ИИ и получить за это призы.

Мероприятие привлекло около 2200 участников. На конференции были представлены различные задачи, связанные с взломом ИИ, и участникам предоставлялось 50 минут для их выполнения. В результате четыре лучших участника получили в качестве приза графический процессор NVIDIA RTX A6000.

Источник: Ferra