Ученые Корнеллского университета создали нейросеть, которая отличает вежливую переписку в сети от скрытого троллинга.
Об этом сообщается на сайте университета. Об этом пишет fcgsen.ru со ссылкой на life.informator.news.
Эта разработка должна помочь модераторам чатов и форумов пресекать действия агрессоров и троллей.
Ученые проанализировали 1270 диалогов, которые начинались вежливо, а заканчивались взаимными нападками пользователей друг на друга. Эти разговоры сравнивали с обычными беседами на ту же тему.
«Миллионы таких диалогов происходят каждый день, и отследить их бывает очень сложно. Наша нейросеть поможет модераторам обращать внимание на реальных агрессоров», — пишут создатели нейросети.
Также ученые выявили, что алгоритм распознавал оскорбления в 65 % случаев, человек — в 72 %.
«Люди интуитивно чувствуют, когда разговор идет не в то русло, но угадать в 100 % случаев не получается. Мы хотим так усовершенствовать систему, чтобы она стала лучше человеческой интуиции», — говорят разработчики.
| Карта сайта