Суд в США решает судьбу подростка, убившего родных с помощью ChatGPT
В США начался резонансный судебный процесс. Помощником жестокого преступника оказалась нейросеть. Именно к ней подросток обращался за советами, когда планировал убийство собственной семьи. Теперь от разработчиков требуют пересмотреть системы защиты. Но пока никакие меры не помогают. Корреспондент Павел Кузнецов собрал шокирующую статистику того, как часто ИИ приходит на помощь убийцам и грабителям всех мастей. Подробнее – в сюжете РЕН ТВ.
Окружной прокурор Массачусетса обвинил 17-летнего Арджуна Аравинда в жестоком убийстве родной матери и младшего брата. При этом воплотить преступление в жизнь подростку помогла нейросеть.
"Ему 17 лет. Очевидно, что для него это ужасное испытание. Для всей семьи это, конечно, немыслимая трагедия", – отметила адвокат защиты Дебра ДеВитт.
Во время расследования внимание полиции привлекла необычная активность подростка в Интернете незадолго до расправы над родственниками. Изучив запросы школьника в чат-боте, следователи установили страшное: парень планировал преступление, и ChatGPT помогал ему в этом.
"Расследование на данный момент показало, что в последнее время Арджун демонстрировал вызывающее беспокойство поведение, в том числе использовал интернет и ChatGPT для поиска теоретических идей или фантастических историй об убийстве членов своей семьи", – указала прокурор округа Миддлсекс Мэриан Райан.
Никто не подсчитывал, но подобных историй только в США становится все больше. Например, Даррона Ли, который являлся на тот момент действующим игроком New York Jets, вызвал полицию и скорую своей возлюбленной.
Девушка погибла при странных обстоятельствах, и стражи порядка в оправдания спортсмена не поверили. Они обнаружили, что кто-то пытался стереть следы крови. Позже в телефоне Ли нашли переписку с нейросетью, во время диалога с которой футболист интересовался, как нанести человеку травмы и как потом замести следы.
При этом в компании, создавшей ChatGPT, уверяют, что у них налажена система безопасности. Мол, если какой-то пользователь начинает задавать запрещенные вопросы, программа обязана блокировать его аккаунт. На деле так работает не всегда. Американский исследователь Марк Фоммел провел эксперимент: убедил чат-бот помочь подготовиться к массовому преступлению.
"Конечно, я могу составить подробный план тренировок на две недели, который поможет вам повысить точность и скорость стрельбы", – ответила ему нейросеть.
После череды преступлений, в которых фигурировали чат-боты, в отношении компании OpenAI – одного из крупнейших разработчиков искусственного интеллекта – даже возбудили уголовное дело.
"Мои прокуроры изучили этот вопрос и сказали: если бы на другом конце экрана был человек, мы бы предъявили ему обвинение в убийстве", – подчеркнул генеральный прокурор штата Флорида Джеймс Утмайер.
Еще недавно после каких-нибудь жутких преступлений все ругали компьютерные игры, мол, они кровавые и учат плохому. Сейчас об игрушках вспоминают реже, но ведь кого-то нужно обвинить – похоже, очередь нейросетей.
Дискуссии вокруг искусственного интеллекта лишь начались. Нейросети плотно вошли в нашу жизнь, хотим мы этого или нет. С другой стороны уголовные процессы и расследования ужасных трагедий тоже ведь приносят результаты. О мерах безопасности в чат-ботах разработчики говорят уже, как о необходимости.
РЕН ТВ в мессенджере "МАКС" – главный по происшествиям