Новый алгоритм будет удалять женоненавистнические твиты

Появился алгоритм, который с высокой точностью определяет твиты, где оскорбляют женщин. При этом он умеет различать сарказм и "дружелюбное использование агрессивной терминологии".Исследователи из Квинслендского технологического университета (QUT) в Австралии разработали алгоритм, он может автоматически удалять и блокировать публикации в Twitter, которые оскорбляют женщин. Команда разработала систему, обучив ее на миллионе твитов. Затем они доработали массив данных, вручную добавляя туда оскорбительные выражения, которые часто используются на этой платформе.Затем они классифицировали оставшиеся твиты как женоненавистнические, исходя из их контекста. Затем эти твиты подали в обучающий машинный классификатор, который использовал образцы для создания своей модели оценок.В системе используется алгоритм глубокого изучения для корректировки знаний. После того, как ИИ нарастил свой словарный запас, исследователи отслеживали контекст, чтобы помочь алгоритму разделить оскорбления, сарказм и "дружелюбное использование агрессивной терминологии".

Telegram ввел инструменты против цензуры для жителей БеларусиПо словам исследователей, теперь система понимает контекст просто анализируя текст, без помощи ученых. "Мы были очень рады, когда наш алгоритм определил твит "твое место на кухне" как женоненавистнический - это показало, что контекстное обучение работает", - отметили они.Исследователи добавили, что модель идентифицирует оскорбительные твиты с точностью в 75%. В будущем модель можно применить и к тому, чтобы выявлять расизм, гомофобию или другие формы оскорблений. Команда отмечает, что их модель пока не предложили внедрить в социальные сети, но они должны ввести похожие инструменты самостоятельно.

Также по теме: