Уровень агрессии в интернете удастся снизить.
Ученые Корнеллского университета создали нейросеть, которая отличает вежливую переписку в сети от скрытого троллинга.
Эта разработка должна помочь модераторам чатов и форумов пресекать действия агрессоров и троллей.
Ученые проанализировали 1270 диалогов, которые начинались вежливо, а заканчивались взаимными нападками пользователей друг на друга. Эти разговоры сравнивали с обычными беседами на ту же тему.
«Миллионы таких диалогов происходят каждый день, и отследить их бывает очень сложно. Наша нейросеть поможет модераторам обращать внимание на реальных агрессоров», — пишут создатели нейросети.
Также ученые выявили, что алгоритм распознавал оскорбления в 65 % случаев, человек — в 72 %.
«Люди интуитивно чувствуют, когда разговор идет не в то русло, но угадать в 100 % случаев не получается. Мы хотим так усовершенствовать систему, чтобы она стала лучше человеческой интуиции», — говорят разработчики.