Microsoft и её ближайший деловой партнёр OpenAI представили сводный отчёт о новых угрозах со стороны хакеров из «недружественных» по отношению к США стран.

Согласно документу, хакеры из Китая, России, Ирана и Северной Кореи начались использовать генеративные языковые модели ИИ разработки Microsoft и OpenAI. И это не просто использование технологий указанных компаний, а собственные хакерские разработки, основанные на LLM.

Хакеры используют ИИ для создания дипфейков, подделки голоса, локализации фишинговых писем и создания различных инструментов социальной инженерии — «методов киберубеждения».

Но главное другое. Методы «зарубежных» хакеров, например российской Fancy Bear, которую Штаты связывают с властями и ГРУ, оказываются куда более далекоидущими, чем американские «безопасники» могли предположить. Российские хакеры якобы с помощью ИИ, пользуясь нейросетями Microsoft и OpenAI, изучали спутниковые и радарные технологии западных союзников Украины.

В OpenAI заявили, что в качестве одной из мер противодействия заблокировали доступ некоторым хакерских группировкам к их инфраструктуре.

«Киберпреступные группы, национальные государства и другие противники изучают и тестируют различные технологии ИИ по мере их появления, пытаясь понять потенциальную ценность для своих операций и средства контроля безопасности, которые им нужно обойти», — сообщила Microsoft в резюме отчёта.

Источник: Ferra