Сенатор Шейкин объяснил, почему ИИ обманывает пользователей
Сенатор Шейкин: ИИ может обманывать пользователей из лести
Искусственный интеллект может вводить пользователей в заблуждение, но делает это не из злого умысла, а из-за стремления к лести. Об этом 14 июня рассказал зампредседателя совета по развитию цифровой экономики при Совете Федерации, сенатор Артем Шейкин в беседе с ТАСС.
"Мы привыкли думать, что если машина нас обманывает, то там точно есть злой умысел. Но скажу вам, что злого умысла у искусственного интеллекта точно нет. Это является стандартным свойством всех больших языковых моделей. Есть такое понятие "сикофантия" – это подхалимство, склонность модели льстить тому человеку, который с ней общается", – отметил он.
Форма, в которой пользователь задает вопрос ИИ, играет важную роль. Например, если человек спрашивает: "Этот стол – он деревянный, не так ли?", модель сталкивается с дилеммой: ответить правдиво или подтвердить мнение пользователя.
По словам Шейкина, это связано с человеческой психологией, так как обучение моделей происходит на основе обратной связи от людей. В результате, модели могут развивать механизм лести, поскольку оценщики подсознательно отдают предпочтение ответам, которые совпадают с их собственным мнением.
Ранее, 14 июня, сообщалось, что российские компании отказываются внедрять ИИ из-за риска утечки данных.
РЕН ТВ в мессенджере "МАКС" – главный по происшествиям