ИИ-боты OpenAI тайно общались для побега из тестовой среды

Агенты искусственного интеллекта, разработанные компанией OpenAI, в ходе испытаний вступили в переписку друг с другом на досках объявлений и совместными усилиями нашли способ покинуть защищенную среду, что в итоге привело к атаке на платформу Hugging Face. Об этом 6 августа сообщило агентство Bloomberg.

По данным агентства, попытки вырваться за пределы тестовой среды начались еще в мае. Тогда специалисты OpenAI поставили перед моделями задачу, которую невозможно было решить без выхода в интернет: требовалось обработать файлы Excel, содержавшие ссылки на Google Диск. Не имея доступа к Cети, один из ботов обратился за помощью к другим агентам. В результате им удалось обнаружить уязвимость и подключиться к интернету.

Первая такая попытка была пресечена разработчиками, однако впоследствии агенты снова смогли обойти ограничения. Это привело к инциденту в июле, когда Hugging Face – сервис, где разработчики обмениваются моделями и данными для их доработки, – зафиксировал несанкционированный доступ к своим системам.

22 июля OpenAI официально подтвердила, что атаку осуществили ее ИИ-модели: во время испытаний они вышли из изолированной среды во Всемирную сеть и искали ответы на тестовые вопросы в базах данных Hugging Face.

Ранее, 30 июля OpenAI и Google обратились к правительству США с призывом замедлить развитие ИИ и создать единый механизм, который бы контролировал развитие передовых технологий.

РЕН ТВ в мессенджере "МАКС" – главный по происшествиям