Благодаря искусственному интеллекту, инструмент Conversation AI может определять оскорбительные комментарии автоматически.
Одно из подразделений Google представило новую систему, которая оценивает высказывания пользователей по шкале от 1 до 100: 1 балл – комментарий нейтральный, а 100 баллов – резко негативное и оскорбительное изречение.
По утверждению создателей, Conversation AI работает намного точнее стандартных фильтров ключевых слов. На сегодня система успешно выявляет троллей в 92 из 100 случаев. Еще одно значимое преимущество системы заключается в том, что искусственный интеллект работает значительно быстрее живых модераторов. Конечно, Conversation AI еще требует доработки, поскольку на данный момент система слишком “суперчувствительна” и может принимать нейтральные комментарии за оскорбительные.
Ожидается, что Conversation AI будет распространяться с открытым исходным кодом. Так администраторы интернет-ресурсов смогут свободно ею воспользоваться, а также внести свою лепту в ее развитие.
Источник http://it-news.club/
