В Google создали алгоритм для борьбы с гневными комментариями в Интернете⁠⁠

Корпорация добра порадовала вебмастеров, уставших заниматься модерацией комментариев на своих сайтах вручную. Поисковый гигант Google выпустил новый API, который использует машинное обучение, чтобы в автоматическом режиме фильтровать обидные комментарии под новостями и статьями.

Новый инструмент, который получил название Perspective (Перспектива), может быть интегрирован с любым информационным сайтом, снабженным блоком с комментариями. Система анализирует публикуемые пользователями комменты, ориентируясь на информацию из собранной ранее базы данных.

Когда на сайте с API Perspective будет опубликован новый комментарий, инструмент воспользуется искусственным интеллектом, чтобы оценивать, насколько сильно он напоминает сотни тысяч оскорбительных комментариев и агрессивными высказываниями в базе данных Google. Если алгоритмом будет установлено, что комментарий является оскорбительным, Perspective уведомит об этом комментатора в режиме реального времени следующим образом:

Система будет уведомлять пользователя о необходимости отредактировать недопустимый комментарий до тех пор, пока не сочтет его (коммент) приемлемым для публикации.

В последнее время активность пользователей, пишущих комментарии к статьям и новостям, стала настолько высокой, что многие издатели решили удалить секцию с комментариями, вместо того чтобы заниматься их модерацией. Благодаря API Perspective от Google блоки с комментариями могут вновь появиться на многих таких сайтах. В частности, благодаря этому API комменты снова появились под статьями The New York Times – это издание помогало поисковому гиганту тестировать новые алгоритмы.

Представители Google отмечают, что инструмент продолжит совершенствоваться в будущем. Система Perspective будет учиться и наращивать свою базу данных оскорбительных комментариев, чтобы становиться еще более эффективной с течением времени.

Следует отметить, что в настоящее время Perspective способна причислять к оскорбительным только комментарии, оставленные на английском языке. Но в течение года может появиться поддержка других языков. Все зависит от того, насколько тепло продукт будет принят сторонними интернет-изданиями.

Источник: http://pr-cy.ru/news/p/6090

З.Ы. Как скоро все модераторы останутся без кусочка хлеба? =)