Anthropic допустила остановку разработки ИИ из-за риска саморазвития моделей

Американская компания Anthropic призвала внимательно следить за развитием искусственного интеллекта и не исключила замедление или остановку работ над новыми моделями. Об этом 5 июня говорится в исследовании, опубликованном компанией.

В отчете рассматривается сценарий так называемого рекурсивного самоулучшения, при котором ИИ начинает самостоятельно совершенствовать собственные возможности без прямого участия человека.

По данным создателей Claude, сегодня их модели уже генерируют более 80% внутреннего программного кода компании. При этом, как отмечают исследователи, искусственный интеллект пока уступает разработчикам в постановке задач и поиске новых направлений работы.

Авторы доклада считают, что дальнейшее развитие подобных систем требует особой осторожности.

"Мы готовы остановить дальнейшую разработку, если другие лаборатории поступят так же", – следует из позиции компании.

В Anthropic также сравнили потенциальные риски сверхмощного искусственного интеллекта с угрозами, которые в свое время потребовали международного контроля над ядерными технологиями.

Ранее, 5 июня, министр труда и социальной защиты РФ Антон Котяков заявил, что около 7,5% трудовых функций в России можно полностью заменить искусственным интеллектом.

РЕН ТВ в мессенджере "МАКС" – главный по происшествиям