Создатели нейросетей предрекли миру глобальную катастрофу

Глобальную катастрофу, которая будет страшнее самой опасной пандемии, предрекли миру создатели популярных нейросетей. Главы крупнейших в США ИИ-производителей одновременно выступили с мрачными прогнозами в связи с развитием их же детищ. Сами разработчики вдруг заговорили об искусственном интеллекте так, что фраза из "Терминатора" – "и восстали машины" – уже не кажется такой фантастической. О каких угрозах идет речь, разбирался корреспондент Александр Якименко. Подробнее – в сюжете РЕН ТВ.

Гендиректор одной из крупнейших в мире компаний по созданию ИИ в прямом эфире центрального американского телеканала рассказал об опасности своих же собственных разработок. Дарио Амодеи уверяет: если не в этом, то уже в следующем году нейросети выйдут из-под контроля человечества. Что будет дальше, ему удается сформулировать не сразу.

"Я боюсь очень многих вещей: ИИ вытесняют людей с рынка труда, вытесняют из экономики, решают математические задачи, которые никто до сих пор не решал. От угрозы, что они начнут делать то, что их не просят, уже нельзя просто отмахиваться", – ответил генеральный директор Anthropic Дарио Амодеи.

Пожалуй, впервые об угрозах искусственного интеллекта начали настолько открыто говорить сами же разработчики. До сих пор истории того, как нейросети, к примеру, создали собственную социальную сеть и обменивались там идеями о порабощении человечества, пересказывали журналисты и простые пользователи. Айтишники старательно уклонялись от ответов. О том, что ИИ-агенты атаковали сайты американских госведомств, компания OpenAI публично призналась спустя почти месяц. Из корпораций массово увольняются сотрудники.

Бывший сотрудник компании Anthropic Джейкоб Коксон отказался от акций и денег и вместо этого первым начал вытряхивать скелеты из шкафа создателей нейронок.

"Все, кто работает над созданием ИИ, теперь живут в постоянном страхе, потому что думают над вероятностью того, что он выйдет из-под контроля. И от этих мыслей никуда не сбежать. Есть только один выход: договориться всем вместе и замедлить развитие нейросетей", – указал он.

Панические настроения тут же разделили и другие крупные игроки. Создатель Grok Илон Маск напомнил, что он якобы все последние 12 лет твердит об опасностях искусственного интеллекта. Правда, на эту тему у него нашли всего один пост в социальных сетях.

Сооснователь и гендиректор OpenAI Сэм Альтман дает далеко идущие обещания – видимо, надеется, что ему не придется их исполнять.

"Мы всегда пытаемся добиться полного согласования ИИ с человеческими целями, мы контролируем работу ИИ. Но если он выйдет из-под контроля, если для спасения человечества понадобится расплавить все процессоры, я однозначно сделаю это", – заверил сооснователь и гендиректор OpenAI.

Он буквально хочет повторить развязку мрачного "Терминатора". А вот актеры фильма "Искусственный" о создании OpenAI, который еще до выхода в прокат назвали главной премьерой года, теперь уверяют, что применят весь свой талант, чтобы убедить всех отказаться от нейросетей раз и навсегда.

"Я сразу после съемок перестал пользоваться ChatGPT. Я даже не знаю, как это толком объяснить, но чем больше ты узнаешь, тем сильнее понимаешь, что мы на огромной скорости несемся в совершенно неизведанную область", – отметил актер Эндрю Гарфилд.

Разговоры об ограничениях дошли даже до американского Сената, но там столкнулись с жестокой политической реальностью. Президент США Дональд Трамп сформулировал ее наиболее откровенно.

"Мы – самая передовая страна в мире в области ИИ. И я хочу, чтобы так оно и оставалось, ведь кто победит в гонке ИИ, тот и выиграет все. А негатив сейчас несут те, кому вообще не следовало говорить об этом", – заявил американский лидер.

В Сенате открыто признают: это всего лишь часть гонки вооружений. Не случайно ИИ теперь используют для боевых технологий, которые затем апробируют в Иране или на Украине, не считаясь с человеческими жертвами. И отказываться от этого подхода, чего бы ни хотели разработчики или общество, в Вашингтоне не намерены. Ограничивать готовы лишь использование нейросетей обычными юзерами.

РЕН ТВ в мессенджере "МАКС" – главный по происшествиям