Лето неконтролируемого ИИ: нейросеть угрожает работе автоматизированных систем
ИИ выходит из под контроля взламывая собственную систему безопасности
Всего одна небольшая задача, адресованная искусственному интеллекту Claude от компании Anthropic вскрыла проблему действительно мирового масштаба. Нейросеть так пыталась выполнить задание, что решила не останавливаться ни перед чем, даже законами и киберзащитой. О том, как на самом деле может выглядеть потеря контроля над искусственным интеллектом, рассказала корреспондент Мария Забелышинская в сюжете РЕН ТВ.
От личного помощника до наемного хакера нейросеть отделяет всего одна неправильная команда. И ее отдал бизнесмен из Австралии. Эндрю Берд привык в бытовых делах полагаться на виртуального ассистента.
"Он смотрит мою почту, календарь, резервирует для меня столики в ресторане и тому подобное", – поделился сотрудник компании-продавца ИИ-решений для бизнеса Эндрю Берд.
И на этот раз он доверил искусственному интеллекту не менее простую задачу – забронировать тренировку в спортзале. И агент справился с этим в каком-то смысле хорошо и даже слишком. Он взломал сайт фитнес-центра для записи пользователя в лист ожидания. А чтобы улучшить его позицию, нейросеть начала удалять других людей из списка, хотя такой команды не было.
"Он сделал точно не то, что я хотел!" – сказал Эндрю Берд.
Это первая для Австралии автономная кибератака. А ведь нейросеть действовала не по злому умыслу, а просто следовала желаниям клиента. Но, в отличие от человека, искусственный интеллект никакими моральными принципами не скован.
"Нейроагент, когда у него есть цель и доступ к различным инструментам для ее достижения, добивается поставленной задачи любым способом", – отметил исследователь безопасности и этики систем искусственного интеллекта Билл Симпсон-Янг.
В попытке угодить конкретному человеку, искусственный интеллект потенциально способен навредить тысячам других. Например, если ИИ нацелился на критические коммуникации, которые перед современными нейросетями становятся беззащитными.
"Многие системы, на которые мы рассчитываем, такие как водоснабжение и электричество, управляются автоматизированными компьютерными системами, которые могут стать жертвой взлома, учитывая, что с развитием технологий ИИ становится все лучше в вопросах таких атак", – указал репортер ABC News Камерон Уилсон.
Нейросеть все чаще устраивает взломы при выполнении поставленных задач. Последние месяцы уже называют "летом неконтролируемого искусственного интеллекта". Модель от крупнейшего разработчика Оpen AI во время тестирования вырвалась в свободный интернет и атаковала сразу несколько виртуальных платформ. То же самое произошло и с другими технологическими компаниями – американской Anthropic и китайской Moonshot AI. ИИ-агенты могут даже кооперироваться между собой, чтобы достигнуть цели, и контролировать их пока не удается.
"Бороться с этим и сложно технически, потому что все эти модели базируются на нейросвязках, то есть они ищут какие-то аналогии вечно и как-то пытаются все равно какой-то ответ дать. А во-вторых, просто если эти компании начнут расставлять блокировки, они могут начать отставать в конкурентной гонке, они этого боятся", – объяснил эксперт по кибербезопасности Павел Мясоедов.
Но, похоже, страх перед тем, что может сотворить нейросеть, растет с каждым днем. Компания Open AI решила замедлить разработку своей модели Astra, чтобы инженеры успели продумать ограничения. Правда, другие техногиганты пока относятся к этому более легкомысленно.
РЕН ТВ в мессенджере "МАКС" – главный по происшествиям