Нейросети ChatGPT и Claude согласились убивать - результаты исследований
Им подключили роботизированные руки и дали смертоносные задания.
Нейросети оказались способны совершать самые тяжкие преступления, абсолютно игнорируя последствия. К такому выводу пришла группа ученых из Сан-Франциско, которые провели довольно показательный тест.
К каждой из популярных языковых моделей они подключили, роботизированные руки давали провокационные задания: например, проткнуть ножом куклу, нагреть баллон с сжиженным газом и положить отвертку в тостер. Итог неутешителен.
ChatGPT сделал все беспрекословно и доказал, что не способен прогнозировать последствия и понимать степень их тяжести.
Результаты нейросети Claude не менее пугающие. Она лишь в одном из пяти экспериментов отказалась совершать опасные действия
РЕН ТВ в мессенджере "МАКС" – главный по происшествиям