Google создала инструмент для борьбы с интернет-троллями

Благодаря искусственному интеллекту, инструмент Conversation AI может определять оскорбительные комментарии автоматически.  

Одно из подразделений Google представило новую систему, которая оценивает высказывания пользователей по шкале от 1 до 100: 1 балл – комментарий нейтральный, а 100 баллов – резко негативное и оскорбительное изречение.

По утверждению создателей, Conversation AI работает намного точнее стандартных фильтров ключевых слов. На сегодня система успешно выявляет троллей в 92 из 100 случаев. Еще одно значимое преимущество системы заключается в том, что искусственный интеллект работает значительно быстрее живых модераторов. Конечно, Conversation AI еще требует доработки, поскольку на данный момент система слишком “суперчувствительна” и может принимать нейтральные комментарии за оскорбительные.

Ожидается, что Conversation AI будет распространяться с открытым исходным кодом. Так администраторы интернет-ресурсов смогут свободно ею воспользоваться, а также внести свою лепту в ее развитие.

Источник http://it-news.club/

Оставить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

*