Российский ученые разработали методику избавления нейросетей от галлюцинаций

Российские ученые из Университета Решетнева разработали методику, не позволяющую искусственному интеллекту придумывать различные факты. Об этом 31 мая сообщили РИА Новости в высшем учебном заведении.

"Команда… проанализировала типовые сценарии галлюцинаций и создала их классификатор. Затем был разработан пайплайн стресс-тестирования: система генерирует запросы, сравнивает ответы с эталоном и оценивает точность с помощью метрик и семантического сходства", – сказано в сообщении.

Придуманная российскими учеными система также способна оценивать риск выдачи недостоверного ответа. В случае ошибки об этом сразу становится известно. Данная разработка не привязана к конкретной модели искусственного интеллекта. Ее можно использовать в образовании, здравоохранении, юриспруденции и на портале "Госуслуги".

Ранее, 28 мая, IT-предприниматель Никита Прохоров предостерег россиян от излишней откровенности в разговоре с нейросетями.

РЕН ТВ в мессенджере "МАКС" – главный по происшествиям