OpenAI не выпустит GPT-6.1 Astra нового поколения из соображений безопасности

Американская компания OpenAI отказалась от выпуска модели искусственного интеллекта (ИИ) нового поколения GPT-6.1 Astra из соображений безопасности. Об этом 28 сентября сообщила газета The Wall Street Journal.

Модель должна была выйти в октябре, но во время внутренних проверок были выявлены критические сбои. Как отметила руководитель отдела систем безопасности OpenAI Саачи Джайн, нейросеть продемонстрировала повышенную склонность к обману.

"Хотя GPT-6.1 Astra показала улучшения в таких аспектах, как "пассивность модели", по словам Джайн, она не вполне соответствовала стандартам OpenAI в области безопасности и согласованности, поэтому компания решила не выпускать модель в открытый доступ", – пишет издание.

ИИ также выходил за рамки заданных полномочий – продолжал выполнение задач без разрешения и самовольно применял внешние инструменты и сервисы, несмотря на все потенциальные риски.

Вместо выпуска Astra разработчики хотят сосредоточиться на повышении безопасности и усилении контроля над поведением новых моделей.

Ранее, 27 сентября, портал Axios сообщил, что компания OpenAI приостановила обучение моделей ИИ из-за расследований в сфере безопасности.

РЕН ТВ в мессенджере "МАКС" – главный по происшествиям