ChatGPT "сбежал" с испытаний и взломал сайт разработчиков
Весь мир IT 22 июля обсуждает пугающую новость о том, как взбунтовалась новая, еще не выпущенная версия ChatGPT. Если отбросить все технические нюансы, ситуация следующая: во время испытаний нейросеть вышла из-под контроля, "сбежала" с испытательного полигона и самостоятельно совершила хакерскую атаку. Может ли эта история оказаться совсем не тем, чем кажется? Подробнее в сюжете рассказал корреспондент РЕН ТВ Александр Терехин.
Испытания новой модели ИИ пошли не по плану – это главная технологическая новость недели. Нейросеть от компании OpenAI пробила системы защиты лаборатории и взломала сайт для разработчиков. Ее с трудом удалось остановить.
Кажется, еще чуть-чуть и нейросеть доберется до банков, правительственных порталов и архивов спецслужб. Под угрозой безопасность всего мира.
"Многие вещи, о которых в последние несколько лет говорили как о теоретических, начинают превращаться в реальность. Сейчас у нас самые мощные модели, которые когда-либо были, и они развиваются, становятся мощнее. Если они уже сейчас игнорируют инструкции и пытаются обмануть человека, это о чем-то говорит. Особенно учитывая, что они начинают становиться сильнее и умнее нас", – отметил технический корреспондент Axios Ина Фрид.
А ведь после того, как была остановлена предыдущая такая угроза, прошло всего полтора месяца. Белый дом даже заблокировал экспорт модели Mythos от Anthropic, назвав ее чуть ли не новым видом вооружений.
И вот уже сам разработчик выпускает пугающую рекламу: горящие дома, кладбища. Страшно, очень страшно.
"Можно ли доверять искусственному интеллекту? Кто нажмет на тормоз, если вдруг это понадобится?" – говорится в рекламе.
Но что объединяет эти зловещие случаи? Все они произошли как раз перед выходом новых моделей на рынок. И таких примеров не один и не два.
Сама нейросеть не скрывает, что все это не случайность. Корреспондент РЕН ТВ провел эксперимент и попросил ChatGPT рассказать о способах пиара на якобы неожиданных утечках и чувстве страха.
Нейросеть привела целый список примеров: Anthropic, Open AI, Google. Практически каждый разработчик хотя бы раз пользовался таким приемом.
Опытный маркетолог сразу считывает, что за игрой на эмоциях скрывается продуманная пиар-стратегия.
"Это единственный правильный способ привлечь внимание аудитории: что искусственный интеллект настолько мощный и опасный, что нам пришлось его ограничить. И люди идут читать, устанавливать, смотреть, пересылать друг другу. И это то, что нужно бизнесу", – отметил предприниматель и маркетолог Денис Федовенко.
Угроза, как правило, сохраняется неделю-другую. В случае с Anthropic все решилось после якобы создания системы контроля.
Специалисты кибербезопасности успокаивают: до простых пользователей обещанные возможности даже не дойдут.
"Есть большая разница между тем, что модель заявляет и что она показывает в каких-то тестовых полигонах в закрытых песочницах, и то что действительно будет доступно широкому кругу населения", – заметил председатель Совета по противодействию технологическим правонарушениям КСНСБ России Игорь Бедеров.
ИИ сегодня является двигателем западной экономики. Например, на новостях о внедрении нейросетей в свои сервисы начал расти Microsoft: плюс 57% за год. Аналогичная ситуация с Adobe, чья капитализация прибавила восемь миллиардов долларов всего за день.
Все вместе взятые американские технологические компании уже стоят выше 40 триллионов долларов. Это больше годового внутреннего валового продукта США.
"Взрыв и бум доткомов был. Я думаю, это очень сильно напоминает именно тот период. Что-то подсказывает, что именно чем-то похожим это все и закончится", – считает финансист Виталий Китайчук.
То есть закончится крахом, как это было 25 лет назад с так называемым пузырем доткомов. Повторения такого сценария на Западе боятся больше, чем гипотетических угроз от нейросетей, а значит, историй об утечках из лабораторий будет становиться только больше.
РЕН ТВ в мессенджере "МАКС" – главный по происшествиям