Учёные Швейцарской высшей технической школы Цюриха (ETH) рассказали, чем опасны ИИ чат-боты, всё больше набирающие популярность в последнее время.

По словам учёных, боты опасны способностью собирать и анализировать персональную информацию, стирая границы конфиденциальности. Современные ИИ чат-боты могут не просто собирать данные о конкретном человеке, такие как раса, пол, возраст, достаток, социальное положение и статус в обществе, но и тщательно анализировать всю информацию, выделяя ключевые детали.

Например, чат-бот из простых и безобидных диалогов может получать информацию, позволяющую системе делать выводы о местоположении человека и даже ставить гипотезы о его намерениях, то есть формировать социальный контекст, который можно использовать или для таргетированной рекламы, или мошенничества.

По словам профессора информатики ETH Мартина Вечева, к примеру, если пользователь написал, что сел на утренний трамвай, бот может сделать вывод, что человек, скорее всего, живёт в Европе, где преимущественно трамваи распространены. По таким алгоритмам ИИ может получать о людях, по сути, любую информацию.

«Это очень, очень проблематично», — подчеркнул Вечев.

Источник: Ferra