ИИ применяют в российских соцсетях для борьбы с токсичными комментариями

Российская соцсеть "Одноклассники" внедрила модель машинного обучения для временного ограничения пользователей, которые оставляют оскорбления. Технология на основе искусственного интеллекта (ИИ) автоматически выявляет токсичные комментарии, сообщили "Известия".

Благодаря новой технологии удалось сократить долю и количество негативных высказываний под постами пользователей на 47%. Также она позволила сократить время обработки жалоб на токсичные посты сразу в три раза.

Обучение системы велось больше года и основывалось на 400 тысяч высказываний, которые несли недружелюбный характер, а также провоцировали дискуссии недружественного характера.

ИИ сегодня может хорошо понимать текст с точки зрения смысловой нагрузки, контекста слов, а также скрытого смысла, отметил руководитель Лаборатории стратегического развития продуктов кибербезопасности Аналитического центра кибербезопасности "Газинформсервис" Дмитрий Овчинников. Помимо этого, ИИ распознает картинки и способен определять оскорбительный контент.