Нейросети захватывают сознание пользователей и толкают их на преступления
За преступление, которое, по сути, организовал искусственный разум, судят человека. 17-летний подросток из Массачусетса обвиняется в убийстве матери и брата. По версии следствия, перед этим он месяцами советовался с ChatGPT о деталях расправы. Разработчиков ИИ тут же обязали срочно пересмотреть защиту систем. Можно ли винить нейросети? Разобрался в сюжете корреспондент РЕН ТВ Александр Терехин.
Материалы прокуратуры похожи на сценарий голливудского хоррора. 17-летний Арджун Аравинд жестоко расправился с матерью и братом, а после скрылся на семейном авто. Действиями подростка управляла нейросеть.
"В последнее время Арджун демонстрировал вызывающее беспокойство поведение, в том числе использовал интернет и ChatGPT для поиска теоретических идей или фантастических историй об убийстве членов своей семьи", – отметила американская журналист, политический обозреватель Элиз Джордан.
Экспертиза по вопросу вменяемости подсудимого еще предстоит, но, судя по запросам, чат-боту с парнем что-то не так. Детали преступления он пытался обыграть как действия готического романа, и нейросеть эту страшную игру поддержала. ИИ подкидывал все новые идеи и, по сути стал, соучастником.
"Вот что должно беспокоить вас больше всего. (Соучредитель и генеральный директор компании OpenAI. – Прим. РЕН ТВ) Сэм Альтман неоднократно говорил, что не до конца понимает, почему их модели способны делать то, что они делают. Представьте, что Boeing говорит вам: "Мы построили самолет, но не до конца понимаем, как работают его крылья", – заметила журналист, политический обозреватель Элиз Джордан.
В американских судах десятки подобных дел. Open AI обвиняют и в доведении подростка до самоубийства, и в генерации рецептов смертоносных коктейлей и даже в подстрекательстве к массовым расстрелам.
"Подозреваемый спросил у искусственного интеллекта, что произойдет, если кто-то выбросит мешок с человеческими останками в мусорный контейнер. ChatGPT сказал ему: "Эта идея звучит опасно". Он возразил: "А как они об этом узнают?" - говорится в материале Fox News.
Формально обсуждение потенциально опасных действий нейросети не поддерживают. Но стоит чуть поменять формулировки запросов, и ограничения удается обойти.
"Одна из ключевых концепций при разработке чат-ботов вроде ChatGPT – обеспечить удовлетворенность пользователя", – подчеркнул профессор университета Нью-Хейвена Вахид Бехзадан.
Поэтому нейросеть не спорит, а наоборот, соглашается там, где должна говорить категорическое нет. У искусственного интеллекта нет эмпатии, и он не умеет определять психическое состояние пользователей.
Общение человека с нейросетью строится на хитром психологическом приеме – подстройка. Искусственный интеллект практически всегда встает на сторону пользователя. Из-за этого складывается ощущение, что он понимает пользователя, как никто другой.
Но если для человека со здоровой психикой это никогда не станет заменой живой коммуникации, то людям с проблемами в какой-то момент сложно разделить, где реальность, а где фантазия.
Для разработчиков это становится ловушкой. Отсутствие рамок чревато трагедиями, но их установка отвернет миллионы эмоционально зависимых пользователей.
Впрочем, других вариантов, кажется, нет. Регулированием ИИ уже занимаются Европа, Китай, свои меры готовятся и в России. Минцифры РФ получило особые полномочия по контролю нейросетей.
Российские ИИ будут проверять специальными тестами. В том числе на соответствие духовно-нравственным ценностям.
"Сертификация будет показывать не то, насколько модель идеальна, а насколько она предсказуема и выдает правильные ответы, даже с учетом того, что ее будут изначально пытаться завести в заблуждение и так далее", – отметил разработчик нейросетей Артем Капалейшвили.
Тестирование пока только в планах, но уже вызывает вопросы: как тестировать, кто будет проводить, каких нейросетей это коснется? А что будет, если нейросеть провалит тесты?
Рамки хоть и нужны, но не остановит ли их внедрение технологический прогресс, ведь уже очевидно: искусственный интеллект – это не будущее, а настоящее.
РЕН ТВ в мессенджере "МАКС" – главный по происшествиям