Излишнее доверие чиновников ИИ обернулось проблемами для людей
Искусственный интеллект стал проигрывать человеку в суде. Сразу несколько громких случаев произошли в России, когда нейросеть жестоко ошиблась: то не сумела разобраться в словах, то закопалась в документах. Все это привело к большим скандалам и разбирательствам. Правда, все эти провалы ИИ тут же вскрыли одну из острых проблем. Как цифровые возможности теперь прикрывают халатность чиновников? Подробнее рассказал в сюжете корреспондент РЕН ТВ Александр Орлов.
Почти год Владлена Ратаманова пыталась доказать, что рожала своего ребенка, чтобы получить пособие. Она подала 15 онлайн-заявлений, но все были отклонены. Система на базе искусственного интеллекта не смогла разобраться в документах.
"Мое свидетельство о рождении, оригинал документа, который я приносила в пенсионный фонд как подтверждение того, что это моя дочь, получается, что в ЗАГСе как будто бы не были подгружены документы", – рассказала пострадавшая Владлена Ратаманова.
Заявку на пособие приняли только после вмешательства человека.
В Алтайском крае подобный случай закончился судом с Социальным фондом. Робот не понимал, что "разведена" и "не состою в браке" на человеческом языке – одно и то же. Суд встал на сторону пострадавшей от нейросетей, а Социальный фонд теперь обязан выплатить круглую сумму.
Автоответчики, голосовые помощники и чат-боты на базе искусственного интеллекта плотно внедрились в бюрократический механизм, словно нейросети – панацея от человеческого фактора.
В Хабаровском крае 15% чиновников решили заменить искусственным интеллектом, так якобы процесс уже оптимизирован и люди во многих вопросах не нужны. Распоряжение о сокращении уже отдали.
"Искусственный интеллект – это помощник, это возможность обрабатывать, мониторить огромное количество информации, которую человек не сможет сделать за такой же промежуток времени. Но потом все это должно поступать на суд конкретного сотрудника, который уже принимает те или иные решения", – отметил директор информационно-аналитического агентства, ИТ-эксперт Денис Кусков.
По данным ВЦИОМ, в этом году около 67% опрошенных россиян допускают использование нейросетей, но только там, где машина не навредит и сможет облегчить предоставление услуг.
"Использовать любую нейросеть нужно грамотно, понимать, как она работает, и доверять специалистам настройку этих инструментов", – подчеркнул эксперт по нейросетям и искусственному интеллекту Саид Нигматуллин.
Сегодня искусственный интеллект легко обрабатывает фото и видео в режиме реального времени. Можно заменить цвет одежды, поменять фон, добавить или убрать любой объект. Это хорошо помогает в работе, в том числе и городским службам.
Гору мусора в селе под Воронежем предстояло убрать коммунальщикам. С задачей они справились, даже сделали фотоотчет – в ход пустили искусственный интеллект. Пара кликов, и площадка выглядит идеально. Правда, нейросеть перестаралась: два дома внезапно пропали с фотографии вместе с другими изъянами.
В социальных сетях высмеяли такой подход, а в администрации отрицать не стали, что иногда используют искусственный интеллект.
"Нейросеть использовалась исключительно как вспомогательный инструмент для придачи более эстетичного внешнего вида, но не как основной. Была начата служебная проверка, ответственные лица за публикацию будут привлечены к дисциплинарной ответственности", – заявил и.о. заместителя главы администрации Яминского сельского поселения Степан Оборотов.
Лень или желание выслужиться – это в администрации пообещали выяснить. А пока чиновники разбираются, что именно пошло не так с искусственным интеллектом, на площадке уже появилась новая куча мусора, и ее, похоже, придется убирать без помощи нейросети.
РЕН ТВ в мессенджере "МАКС" – главный по происшествиям