MTS AI совместно со Сколтехом разработал программу, которая распознаёт в сообщениях “токсичные слова и выражения» и удаляет или заменяет их. Это позволяет снизить градус агрессии в общении.

Разработчики пояснили, что споры в комментариях часто перерастают в оскорбления, пользователи нередко грубят. А фильтровать это всё вручную сложно. Новая программа позволяет не просто удалять сообщения или банить пользователей, но и предлагает замену матов и оскорблений на нейтральные слова, не теряя сути сообщения.

Разработчики предложили два подхода. Первый использует языковую модель BERT, основанную на нейросетевой архитектуре Трансформер. Она находит в тексте негативные слова и выражения, заменяет их на нейтральные синонимы или вовсе удаляет. Второй подход создаёт нейтральную версию токсичной фразы.

Вот некоторые примеры работы программы:

_”Да ты обалдел, м…..! Да ты обалдел, автор!», “З….. со своим повышением цен. Надоели со своим повышением цен». _

Протестировать программу можно тут.

Источник: Ferra