Разработчики ИИ предупредили о потере контроля над агентами
Разработчики искусственного интеллекта решили не гнать лошадей. Дарио Амодеи, глава американской компании Anthropic, предупредил, что развитие передовых моделей ИИ начинает опережать способность людей их контролировать. Его поддержали Сэм Альтман из OpenAI и миллиардер Илон Маск. Сразу вспоминается прекрасная шутка про человека, который рубит сук, на котором сидит.
Искусственный интеллект перестал быть просто вариантом поисковой страницы. Теперь он создает маленьких агентов, которые сами ищут ответы на вопросы. Много-много агентов. Они бегают по интернету и ищут информацию, которую потом несут в корзину.
Но если человек неправильно задал вопрос, то агенты перестают понимать реальный мир и создают собственный. Теперь они способны выйти за рамки поставленной задачи, могут внедриться в чужие программы, могут создать свои копии, чтобы человек, даже если выключит компьютер, не мог их уничтожить.
Так компания Anthropic недавно сообщила о четырех случаях, когда агенты сбросили бремя человеческого надзора и стали работать сами на себя. Хорошо, если они искали ответ на вопрос, как пожарить филе из брюквы. А как с компанией Palantir, которая помогает своим ИИ убивать российских солдат?
Алекс Карп, генеральный директор Palantir, не присоединился к другим IT-гигантам с призывом ограничить искусственный интеллект. Его все устраивает. Это странно, потому что если, например, речь пойдет о возможности нанесения ядерного удара, тогда что? Ведь ИИ считает нанесение ядерного удара вполне себе разумным решением, так показывают исследования.
Понять их собственный язык теперь невозможно. Эксперты вдруг заметили, что эти агенты создали свой язык. Это смесь из поэтического жаргона и метафор специалистов. The Guardian приводит такую цитату: "Статья, которая съела три холодные руки и каждый раз становилась честнее". То есть исследование прошло через трех рецензентов.
Агент, который лучше всех справляется с работой внутри системы, называется "Имя-первый". Есть термин "Улицы не забудут", то есть прошлые действия агента будут учтены при оценке . А тот агент, который создает инструменты для других, называется "кузница кузниц".
Все думали, что разработчики хотят сделать искусственный интеллект похожим на людей. К этому готовил Голливуд, который говорил, что надо бояться восстания человекоподобных роботов. Подробнее – в сюжете программы "Добровэфире" на РЕН ТВ.
Голливудский сценарий: от "Терминатора" до "М3ГАН"
Фабрика грез подарила искусственному интеллекту плоть и кровь. Точнее, металлический скелет и горящий красный глаз. Так искусственный интеллект получил накачанное тело актера Арнольда Шварценеггера и отправил андроидов уничтожать людей.
Дальше Голливуд просто повторял и закреплял. В "Матрице" искусственный интеллект поработил человечество. В "Я, робот" – решил уничтожать людей "ради их же блага". В современном кино роботы выходят из-под контроля во всех жанрах. Например, фильм ужасов – кукла-робот начинает устранять членов семьи, хотя должна была помогать им с домашними делами.
Нужен боевик? Люди воюют с роботами, выравнивая шансы с помощью супершлема. Нужна комедия? Домашние роботы просто запирают хозяев в особняке, объявив карантин из-за бунта ИИ. Но главное, чему научил зрителя Голливуд: ИИ почти всегда обретает форму робота. Неважно, что в реальности он бестелесен, — бестелесность трудно экранизировать.
"Робот создает эффект зловещей долины. Когда мы говорим совсем уж о классическом роботе – железяке, то это просто можно назвать идеальным телом. По сути дела, это тот же самый человек, только вместо костей – железо, какой-нибудь уникальный сплав, и, соответственно, это идеальное тело для искусственного интеллекта, может быть, даже для человека. Поскольку это тело не так уязвимо, оно не умирает", – отмечает кинокритик Николай Никулин.
Поэтому, когда главы IT-компаний говорят о рисках восстания ИИ, зрители вспоминают терминатора с автоматом и ожидают Судный день.
Рои невидимых молекул
Однако на данный момент компании искусственного интеллекта создали совсем другую жизнь. Не роботы, а огромные рои невидимых и дерзких молекул внутри ИИ.
Неудивительно, что ведущие специалисты вдруг начали уходить из ИИ-компаний, не желая создавать врага для всего человечества. Компанию Anthropic покинул исследователь Джекоб Коксон, предупредив, что искусственный интеллект стал опасен для людей, а до этого ушло еще несколько топ-менеджеров.
"Самым очевидным было бы попытаться договориться на страновом уровне об общих принципах регулирования ИИ. Тогда у нас всех будет хоть какой-то шанс контролировать его развитие. Но этого не выйдет из-за жадности корпораций и ненасытности страстей человеческих", – написал заместитель председателя Совета безопасности РФ Дмитрий Медведев.
И точно, кто отказался от ограничения ИИ? Президент США Дональд Трамп, который вложил туда огромные деньги. Мол, если американцы замедлят свой интеллект, то их обгонит Китай. А Пекин действительно не собирается ограничивать собственный ИИ.
Конечно, вопрос в деньгах. Американцы вложили в развитие ИИ огромные суммы: в чипы, в дата-центры, а замедление ИИ удлиняет процесс и непонятно, когда инвесторы начнут получать прибыль. Так что непонятно, кто именно уничтожит человечество – ИИ-агенты или жадность американских бизнесменов.
РЕН ТВ в мессенджере "МАКС" – главный по происшествиям