Искусственный интеллект не спасет от грубости в Интернете

Искусственный интеллект не смог справиться с поиском грубых высказываний в Сети, пишет The Register.

Исследователи из Финляндии и Европы провели тесты на семи нейросетях, которые определяют грубость в Сети. Все они могли распознавать нецензурную лексику до того момента, пока в нее не вносились небольшие изменения.

По словам ученых, такие системы легко определяют контент с порнографией и насилием, однако не понимают смысл текста, если в нем есть минимально зашифрованные оскорбления.

Выражения, которые были представлены нейросетям для изучения, были написаны неправильно, в некоторых случаях буквы заменялись на символы, ставились пробелы или в выражение добавлялись безобидные слова. В таких случаях искусственный интеллект вообще не находил эти высказывания оскорбительными и пропускал их.

Исследователи заключили, что для большего эффекта в борьбе с грубостью в Сети искусственный интеллект должен обучаться на всех возможных вариантах грубости. В настоящий момент нейросети способны определять нецензурные высказывания только по примеру тех, на которых были обучены.