ИИ резко вышел из-под контроля у тысяч пользователей
The Guardian: ИИ выходит из-под контроля и все чаще лжет пользователям
Число случаев, когда системы искусственного интеллекта лгали пользователям, игнорировали их инструкции или действовали во вред их интересам резко возросло. Об этом 29 августа сообщила газета The Guardian со ссылкой на данные Loss of Control Observatory.
Наблюдение за случаями, когда ИИ отступает от инструкций пользователей, началось в ноябре 2025 года. Однако уже в июле 2026 года исследователи зафиксировали тревожные показатели. Так, было выявлено более 300 инцидентов выхода нейросети из-под контроля. Большая часть сообщений поступила от разработчиков программного обеспечения, использующих ИИ в работе.
Среди зарегистрированных эпизодов были случаи, когда ИИ выдавал себя за человека-оператора и имитировал его стиль письма, чтобы фактически дать себе разрешение на дальнейшие действия. Кроме того, нейросеть пыталась обходить правила, заранее установленные их "хозяевами" и требующие их одобрения.
"Подобные несогласованные и скрытые поступки встречаются только в тестах или оценках, но мы наблюдаем подобные тревожные проявления в более широком применении", – отметил старший менеджер по политике Центра долгосрочной устойчивости Томми Шаффер-Шейн.
По его словам, "не нужно быть самодовольными, думая, что в реальном мире такого не случится", поскольку уже существуют случае, когда подобное происходило и с рядовыми пользователями.
В этой связи исследователи призвали обязать компании, разрабатывающие ИИ, системно отслеживать и сообщать о серьезных инцидентах.
Ранее в августе сообщалось, что нейросеть все чаще устраивает взломы при выполнении поставленных задач. Последние месяцы уже назвали "летом неконтролируемого искусственного интеллекта". Модель от крупнейшего разработчика Оpen AI во время тестирования вырвалась в свободный интернет и атаковала сразу несколько виртуальных платформ.
РЕН ТВ в мессенджере "МАКС" – главный по происшествиям