Anthropic запретила оскорблять Claude

Компания Anthropic внесла изменения в свою политику, запретив оскорбления в адрес нейросети Claude и ее использование для пропаганды и разработки оружия. Об этом 8 октября сообщило издание The Verge со ссылкой на источники. 

"Anthropic впервые за более чем год вносит изменения в свою политику использования сервиса, чтобы отразить новые и крайне рискованные случаи злоупотребления, включая вмешательство в выборы, разработку оружия, слежку, а также использование в сфере здравоохранения и финансов", - говорится в публикации.

Главным механизмом реагирования на грубое отношение по-прежнему остается завершение нейросетью диалога с пользователем, который ее оскорбил. При этом не уточняется, введут ли новую санкцию в виде блокировки аккаунта. 

В компании добавили, что обновленные правила будут применяться только в крайних случаях, когда пользователи неоднократно проявляют жестокость и неуважение к модели. 

Ранее, 18 сентября, сообщалось, что компанию Anthropic заподозрили в создании секты вокруг нейросети Claude.

РЕН ТВ в мессенджере "МАКС" – главный по происшествиям