ИИ галлюцинируют, общаясь друг с другом

Российские разработчики и эксперты ИT-отрасли выявили новый вид сбоев в работе искусственного интеллекта (ИИ) – так называемые галлюцинации взаимодействия. Об этом 1 мая сообщили "Известия".

Теперь нейросети искажают информацию не только в диалоге с человеком, но и при общении между собой.

"Проблема в инференсе – то есть в моменте, когда модель уже применяет знания к реальной задаче и должна корректно трактовать входящие сигналы от другой системы. На бумаге все работает, а в живой связке начинаются смысловые сбои", – объяснил ИT-эксперт Сергей Поморцев.

Проблема возникает, когда один ИИ-агент, выполняя задачу пользователя, обращается к другому сервису или модели. В процессе передачи данных между системами, построенными на разных языковых моделях, теряется контекст, искажается смысл и нарушается логика. Эффект напоминает игру в испорченный телефон.

По словам экспертов, такие сбои особенно опасны в критически важных сферах вроде финансов, медицины, логистики, туризма и клиентского сервиса.

Ранее, 29 апреля, Илон Маск заявил, что ИИ готов к войне против человечества.

РЕН ТВ в мессенджере "МАКС" – главный по происшествиям