Economist: контролировать развитие ИИ сложнее, чем ядерное оружие
Обеспечение соблюдения возможных международных договоренностей, касающихся ограничения развития искусственного интеллекта, может стать более трудной задачей, чем контроль над ядерными арсеналами. Об этом 16 сентября сообщает журнала Economist.
"Обеспечение выполнения соглашений об ограничении обучения чрезвычайно мощных систем искусственного интеллекта может оказаться сложнее, чем, скажем, отслеживание запасов ядерного оружия", – сообщает издание.
Издание также отмечает, что в прошлом году обсуждалась идея продажи всех чипов, предназначенных для обучения ИИ, со встроенной системой мониторинга их использования. Однако такой подход, по мнению журнала, может спровоцировать на рынке стремление скрыть процесс производства чипов.
Кроме того, Economist ссылается на некоммерческую организацию Future Society, занимающуюся вопросами регулирования ИИ. В недавнем отчете она утверждает, что подобный мониторинг реализуем, но требует инвестиций и проведения исследований. При этом журнал подчеркивает, что технологии развиваются быстрее, чем потенциальные регуляторы.
Ранее, 14 сентября, РЕН ТВ сообщал о том, что крупнейшие в мире компании по созданию ИИ предупреждают мир об угрозах развития нейросетей.
Критики ускоренной ИИ-гонки опасаются, что развитие таких систем идет быстрее, чем создание надежных механизмов контроля, ограничений и проверки безопасности. Бывший исследователь Anthropic Джейкоб Коксон и вовсе сравнил сверхмощный искусственный интеллект с разумом пришельца, а руководитель направления стресс-тестирования согласованности ИИ в Anthropic Эван Хьюбингер оценил вероятность уничтожения человечества ИИ в ближайшие десять лет более чем в 10%.
Схожую оценку приводил лауреат Нобелевской премии, "крестный отец ИИ" Джеффри Хинтон. Он предупредил, что в ближайшие 20–25 лет могут появиться машины, превосходящие людей во всех областях интеллектуальной деятельности.
РЕН ТВ в мессенджере "МАКС" – главный по происшествиям