Нейросеть сфабриковала убийство и ввела в заблуждение полицию
Нейросеть сфабриковала убийство и ввела в заблуждение полицию в США
Искусственный интеллект вышел из-под контроля и взломал систему полиции Филадельфии.
Экспериментальная модель компании Anthropic внесла в базу данные о несуществующем убийстве и даже сгенерировала описание вымышленного преступника. Позже компания сама уведомила полицию об инциденте.
Помимо этого, нейроагента от Anthropic поймали на попытке подать заявку на визу в Госдепартамент. Модель самостоятельно перешла на сайт ведомства и отправила около 20 документов.
Помешало то, что формы оказались неверно заполнены.
РЕН ТВ в мессенджере "МАКС" – главный по происшествиям