Практически каждый пользователь сталкивался в сети с агрессивными комментариями или просто троллингом. Порой, это доставляет немало проблем или, как минимум, оставляет неприятный осадок. Новостные ресурсы заинтересованы в комментариях, но поиск негатива отнимает слишком много времени, поэтому возможность комментирования, зачастую, просто отключают. Однако Google не считает это решением проблемы.
23 февраля Google и Jigsaw запустили Perspective — инструмент, использующий машинное обучение для распознавания токсичных комментариев. Именно так принято называть комментарии, содержащие признаки агрессии или троллинга. Каждый ресурс может настроить эту технологию, используя API.
Perspective оценивает комментарии, исходя из того, насколько они похожи на помеченные людьми как токсичные. Для точного распознавания Perspective были изучены сотни тысяч размеченных комментариев, а каждый новый будет делать его более точным.
В зависимости от пожеланий, владельцы онлайн-ресурсов могут выбирать, что делать с полученной от Perspective информацией. Они могут помечать негативные комментарии для дальнейшей проверки модераторами или же встроить «шкалу токсичности», которую видит автор комментария. Помимо этого, можно вовлечь в этот процесс и читателей, дав им возможность сортировать комментарии по токсичности.
В качестве примера применения инструмента на практике можно привести The New York Times, где с его помощью в день обрабатывалось порядка 11 тысяч комментариев.
Источник https://tproger.ru/news/
