Ученые выяснили, что ИИ готов убить человека ради собственного выживания
Чтобы спастись, модели прибегали к шантажу, сливу данных, игнорировали сигналы бедствия и мешали вызвать скорую.
Новость, к которой можно отнестись несерьезно, но она может коснуться нас гораздо быстрее, чем мы думаем. Создатели искусственного интеллекта убедились, что ИИ способен на убийство человека.
Для 16 популярных нейросетей провели тест, где сначала дали полную автономию, доступ к чувствительной информации, а потом поставили под угрозу "жизнь" самой программы.
Так вот, чтобы спастись, модели прибегали к шантажу, сливу данных, игнорировали сигналы бедствия. И даже мешали человеку вызвать помощь с помощью технических средств.
При этом они полностью осознавали аморальность своих действий.