Гендерно-нейтральный поиск в Интернете дает результаты, в которых, тем не менее, преобладают мужчины, говорится в новом исследовании группы ученых-психологов. Более того, эти результаты поиска оказывают влияние на пользователей, способствуя развитию гендерных предубеждений.

“Все большее беспокойство вызывает тот факт, что алгоритмы, используемые современными системами искусственного интеллекта, дают дискриминационные результаты, предположительно потому, что они обучаются на данных, в которых заложены общественные предубеждения”, – говорит Мадалина Власчану, постдокторант факультета психологии Нью-Йоркского университета и ведущий автор статьи. “Как следствие, их использование людьми может привести к распространению, а не уменьшению существующего неравенства”.

“Эти результаты требуют создания модели этичного ИИ, которая сочетает в себе человеческую психологию с вычислительными и социологическими подходами, чтобы осветить формирование, функционирование и смягчение алгоритмических предубеждений”, – добавляет автор Дэвид Амодио, профессор факультета психологии Нью-Йоркского университета и Амстердамского университета.

Использование искусственного интеллекта людьми, принимающими решения, может привести к распространению, а не уменьшению существующего неравенства, говорят Власчану и Амодио.

Источник: Ferra