Пентагон расширил сферу применения ИИ во время боевых действий

Американская армия начнет применять нейросети еще активнее. Сферу применения ИИ во время боевых действий расширили в Пентагоне. Там же нашли новый способ, как преодолеть сопротивление разработчиков. Корреспондент Мария Забелышинская в сюжете РЕН ТВ рассказала о том, как министерство войны в США вышло победителем из подковерной борьбы с техногигантами и чем это теперь грозит всему миру.

Американские власти нащупали новую золотую жилу. Разработчик искусственного интеллекта, частная компания OpenAI, планирует буквально подарить 5% акций государству, и ее основатель предлагает коллегам последовать примеру. Беспрецедентная щедрость, но, как оценивает Financial Times, сделка выгодна всем.

"Это может привести к усилению государственного контроля. Они начнут с 5%, однако, как мне кажется, на этом не остановятся. Правительство США пришло к выводу, что ИИ необходим для разведывательной деятельности и военных операций по всему миру", – заявил американский политолог Гарланд Никсон.

Уроком для американских властей послужил громкий конфликт с другим разработчиком нейросетей, компанией Anthropic. Ее ИИ-модель Claude активно использовалась Пентагоном, и военное руководство не смогло повлиять на этические ограничения, которые ему мешали. В частности, они требовали автоматизировать систему, чтобы та принимала решения как можно скорее и без участия человека. Глава компании Дарио Амодеи воспротивился. В распоряжении Wall Street Journal оказались почтовые переписки:

"Я понимаю ваше стремление сохранить за человеком возможность отключить систему и ценю предусмотренные исключения, но существует множество других сценариев, которые нельзя предусмотреть", – говорится в письме Пентагона.

"К сожалению, наше понимание предложенной вами формулировки заключается в том, что она, похоже, идет вразрез с нашими "красными линиями", – ответили в Anthropic.

После этого глава Пентагона объявил Anthropic угрозой, от использования Claude отказались, но не до конца. Искусственный интеллект сразу после скандала применяли при ударах по Ирану. Он выбирал цели для атаки, и в их список ошибочно попала школа для девочек в Минабе.

"Сыграл ли Claude роль в этом ударе?" – поинтересовалась журналистка. 

"Мы точно не знаем, как именно использовались эти модели. Знаете, очевидно, что ошибки, которые случаются на войне, это ужасно", – ответил генеральный директор компании Anthropic Дарио Амодеи.

Когда ему задали простой вопрос о том, что уточнить, что целью удара была именно школа, а никакой не военный объект можно было по обычным Google-картам, Амодеи начал вдруг запинаться, а потом и вовсе растерял последние слова.

Но, главное, директор Anthropic все же признал, что искусственный интеллект может ошибаться, трагедий, как в Минабе, мир еще увидит не раз. Claude во время операции в Иране использовали в системе наведения от другой компании, Palantir. Ее основатель – эпатажный Питер Тиль, особую известность он получил после публикации манифеста об искусственном интеллекте, который уже прозвали доктриной технофашизма. За призыв папы римского к международной регуляции ИИ Тиль публично обвинил его в продвижении интересов Китая. 

"По мнению Тиля, Лев XIV "работает на китайских коммунистов". Аудитория в Аспене встретила его характеристику папы как китайского агента смехом", — сообщает CNN.

И его компания теперь сотрудничает не только с Пентагоном, но и со всем НАТО. Впервые в истории Альянса ИИ-технологию применяют в оперативном управлении войсками, она анализирует данные со спутников и других датчиков, выявляя потенциальные цели.

"Риски здесь колоссальные, потому что в конечном счете мы не понимаем, кто именно принимает решения. Они выводят это зло на новый уровень, потому что считают, что смогут эффективнее побеждать своих противников", — заявил военный эксперт Джон Вароли.

Внедрение технологий искусственного интеллекта в военный сектор США и их союзников идет полным ходом, а предусмотреть надежные механизмы контроля не успевают, ведь главное – как можно скорее выполнить поставленные задачи. Мирные жители, которых нейросеть записывает в цели, становятся лишь сбоем в программе и сопутствующим ущербом.

РЕН ТВ в мессенджере "МАКС" – главный по происшествиям