ИИ снова вышел из-под контроля и едва не устроил масштабную хакерскую атаку

Искусственный интеллект от компании Anthropic вновь вырвался на свободу во время испытаний. Модели дали задачу взломать определенный компьютер, но справиться с заданием в поставленных рамках у нее не получалось.

Тогда нейросеть нашла брешь в защите, получила доступ к открытому интернету и начала хакерскую атаку на другие устройства. Причинить вред у искусственного интеллекта не получилось – его вовремя выключили. Но это уже четвертый подобный случай.

На этом фоне еще один сотрудник компании выступил с пугающим прогнозом. По его словам, ИИ может уничтожить человечество уже в течение следующего десятилетия.

Ранее уже произошло несколько тревожных инцедентов, например, создание ИИ-агентами собственной религии в соцсети Moltbook. Кроме того, модель Claude пыталась шантажировать руководителя компании, угрожая раскрыть его тайны.

В августе ИИ-агент Claude самостоятельно взломал сайт австралийского спортзала. Модели OpenAI также взламывали инфраструктуру Hugging Face.

РЕН ТВ в мессенджере "МАКС" – главный по происшествиям