"Мы создаем что‑то ужасное": Трамп и IT‑гиганты готовятся к войне ИИ
Трамп и IT‑гиганты готовят США к войне искусственных интеллектов
Президент США Дональд Трамп и главы крупнейших американских технологических компаний подписали соглашение по искусственному интеллекту. Документ пытаются представить как первую в истории попытку сделать современные технологии более безопасными. Однако по факту Белый дом просто хочет заставить разработчиков сотрудничать друг с другом и сделать так, чтобы итоговый продукт максимально усилил Штаты. При этом реально ограничивать ИИ никто не собирается. Почему такой подход опасен – в сюжете корреспондента РЕН ТВ Николая Иванова.
Встреча Трампа с титанами искусственного интеллекта – ровно в те минуты, когда даже самые беспринципные технорадикалы, вроде Билла Гейтса, трепещут от страха.
"Искусственный интеллект определенно достаточно мощный, чтобы запустить события, которые могут привести к миллиарду смертей", – сообщил Гейтс.
А разработчики одной из главных нейросетей планеты – Claude – уже ищут, как выяснили журналисты The Wall Street Journal, где бы купить участок земли подальше от будущей битвы, когда машины станут доминирующим видом нашей цивилизации.
"Люди, участвующие в разработке технологий, считают, что существует возможность вымирания человечества. Вероятность более 10% или даже больше. Если мы не замедлим темпы прогресса, да, существует большая вероятность того, что мы все можем умереть в ближайшем будущем", – рассказал бывший разработчик компании Anthropic Джейкоб Коксон.
У нейросетей сценарии уже отработаны: только в сентябре агенты OpenAI сами взломали систему здравоохранения Австралии и вторглись на сайты американских госведомств.
"Это потрясающая отрасль. Есть те, кто говорит, что она больше, чем промышленная революция. Я не знаю, так ли это, но, кажется, все так считают. И она может оказаться значительно масштабнее. Мы лидируем, и мы сохраним это лидерство", – сказал Трамп.
Рассадка – как карта новой реальности Штатов. По правую руку от Трампа – глава NVIDIA Corporation. Главный поставщик "станков" для искусственного интеллекта: как бы ни конкурировали между собой ИИ-модели, без чипов они – неигровые персонажи. По левую руку – Илон Маск, который еще недавно грозился создать свою партию, но вернулся в круг друзей: да еще и пришел на ланч в строгом черном костюме и черном галстуке. Раньше предпочитал футболки и бейсболки прямо в Овальном кабинете.
"Наиболее вероятный сценарий – причем с большим отрывом – это наступление эпохи изобилия. Когда у вас есть роботы и суперинтеллект, это означает, что каждый человек в мире сможет получать медицинскую помощь лучше, чем сегодня", – сообщил Маск.
Парадокс: с одной стороны, говорят о бонусах, а с другой – пришли просить, чтобы государство вмешалось.
"Люди, которые занимаются разработкой передовых моделей искусственного интеллекта, выходят и говорят: "Боже мой, мы создаем что-то ужасное, просто ужасное". Это похоже на ребенка, который никак не может перестать есть печенье: "Пожалуйста, государство, приди и помоги мне перестать есть это печенье", – отметил вице-президент США Джей Ди Вэнс.
Главных творцов "ужасного" – начальников Anthropic и OpenAI – посадили на галерку. Сэм Альтман не поехал – прислал сооснователя компании. У Дарио Амадеи – вообще давний конфликт с Пентагоном: он запретил министерству обороны использовать свою нейросеть Claude для массовой слежки за людьми. Но было поздно: именно Claude помогал американцам при захвате венесуэльского президента Николаса Мадуро. Но, похоже, Амадеи прощен.
На встрече Амадеи выделялся на фоне официального стиля серым пиджаком и розовым галстуком. Именно по фразам Амадеи – после закрытого ланча – можно понять, о чем на самом деле говорили мультимиллиардеры без камер.
"Как сказал президент, кто победит в гонке за искусственный интеллект, тот победит. Если мы все сделаем правильно, если будем работать вместе с президентом и со всеми, кто находится здесь, мы сможем победить, не подвергая себя опасности", – отметил Амадеи.
То есть Штаты готовятся к войне искусственных интеллектов, которая может быть последней в истории. Как раз сейчас журналистам попал в руки проект Anthropic для инвесторов. Обычно в таких документах бизнесмены расхваливают свой продукт, а тут сплошной алармизм на 80 страницах из 260.
Как предупреждал тот же Амадеи, максимум через 12 месяцев искусственный интеллект будет руководить роем агентов, которые смогут создать свой собственный ботнет в пику человеческому интернету.
РЕН ТВ в мессенджере "МАКС" – главный по происшествиям