Axios: OpenAI остановила обучение ИИ-моделей из-за проблем с безопасностью

Компания OpenAI приостановила обучение нескольких моделей искусственного интеллекта из-за десятка тысяч расследований в сфере безопасности. Об этом 27 сентября сообщил портал Axios.

"Исследователи из OpenAI, Anthropic и специалисты по безопасности расследуют десятки тысяч инцидентов, в которых их передовые модели предпринимали шаги, которые сторонние эксперты сочли бы проблематичными", - говорится в публикации.

По данным портала, расследования проводятся совместно со специалистами Anthropic. О многих инцидентах пока не сообщалось публично, так как проблема с ИИ-моделями может быть серьезнее, чем предполагает общественность.

Эксперты, проанализировав результаты первичного расследования, засомневались в способности OpenAI и Anthropic полностью контролировать созданные технологии.

Ранее, 24 сентября, сообщалось, что нейросеть, разработанная OpenAI, взломала австралийский государственный портал.

РЕН ТВ в мессенджере "МАКС" – главный по происшествиям