Дочернее подразделение Alphabet под названием Jigsaw дало пользователям доступ к API сервиса Perspective, который замеряет уровень троллинга в комментариях.

Об этом пишет AIN.UA.

Этот сервис работает на основе машинного обучения, он предназначен для анализа текста комментариев: содержится ли в них оскорбления, троллинг и тому подобное.

Его уже тестировала администрация "Википедии", редакции Guardian, The Economist и The New York Times. На "Википедии" его используют до сих пор, чтобы вычислять редакторов-волонтеров, которые плохо себя ведут.

Демо-версию сервиса может опробовать в онлайне любой пользователь. Достаточно просто ввести в поле текст комментария - несколько слов или предложение, и Perspective замерит уровень его токсичности.

Если этот уровень составит 80% и более, есть немаленький шанс, что ваш комментарий, появившись в онлайне, обидит других пользователей.

Сервис все еще находится в разработке, поэтому не способен с предельной точностью вычислять троллей. Поэтому администрация просит пользователей оставлять фидбек, чтобы сервис мог учиться на своих ошибках.