Исследователи из Квинслендского технологического университета создали алгоритм для удаления женоненавистнических сообщений из Twitter. При этом программа, как утверждается, может отличить сарказм от настоящего оскорбления.

Сначала исследователи обучали алгоритм на миллионе твитов. Затем они уточнили датасет, поискав сообщения с тремя ключевыми словами: “whore», “slut», “rape». Исследователи также классифицировали твиты на основании того, женоненавистнические они или нет, опираясь на контекст сообщений. В итоге алгоритм научился искать мизогинические публикации.

Исследователи отметили, что своеобразной победой стал момент, когда программа смогла обозначить фразу “возвращайся на кухню» как женоненавистническую. Это значило, что алгоритм научился учитывать контекст.

Авторы разработки утверждают, что система способна определять мизогинические твиты с 75-процентной точностью. Исследователи надеются, что их алгоритм поможет защитить женщин в интернете.

Источник: Ferra