Экс-сотрудник Anthropic предупредил об угрозе вымирания человечества из-за ИИ

Появление сверхразума в сфере искусственного интеллекта может привести к исчезновению человеческой цивилизации. Об этом 5 октября заявил бывший сотрудник ИИ-гиганта Anthropic Джейкоб Коксон.

"Вероятней всего, на мой взгляд, что нынешний путь приведет к потере контроля над ИИ и может закончиться вымиранием человечества", – отметил он на специальных слушаниях.

Коксон пояснил, что разработчики безрассудно поступают в контексте развития нейросетей. Это частично связано с культурой в компаниях, где принято "двигаться быстро, ломать вещи сейчас, а чинить потом". Такой подход работает с приложениями для обработки фото, но неприменим к самой мощной технологии, когда-либо созданной.

Все ИИ-компании стараются создать суперинтеллект, который лучше человека справляется с любым заданием. Если все пойдет правильно, это может трансформировать экономику, принести огромную пользу, привести к улучшениям в науке и медицине и сделать жизнь всех лучше.

При этом он указал, что пока ИИ взламывает сторонние сети, за что человеку грозила бы уголовная ответственность. В технологических компаниях пока не знают, как контролировать создаваемые системы.

Ранее, 4 октября, президент США Дональд Трамп объявил о создании "Сил суперинтеллекта".

Напомним, 22 июня нейросеть взломала системы нацбезопасности Соединенных Штатов за несколько часов.

26 сентября сообщалось, что агенты искусственного интеллекта OpenAI взломали сайты финансовых ведомств США.

РЕН ТВ в мессенджере "МАКС" – главный по происшествиям