Эксперты ООН предупредили о катастрофических последствиях быстрого развития ИИ

Стремительное развитие нейросетей при отсутствии должного контроля может обернуться катастрофой. Об этом 1 июля говорится в предварительном докладе независимой международной научной группы ООН по искусственному интеллекту.

"В перспективе разрыв между стремительно растущими функциональными возможностями ИИ-продуктов и наличием эффективных методов управления рисками может привести к катастрофическим результатам", – говорится в документе, который цитирует ТАСС.

ИИ активно используется злоумышленниками для мошенничества, кибератак, дезинформации, манипуляций на финансовых рынках и в биотехнологиях. Особую тревогу вызывает тот факт, что высокоавтономные системы не имеют научных гарантий соблюдения инструкций и в лабораторных условиях уже демонстрировали способность нарушать правила безопасности ради самосохранения.

В то же время авторы доклада признают огромный потенциал ИИ для расширения человеческих возможностей в персонализированном образовании и здравоохранении. Для безопасного внедрения технологий авторы призывают к созданию эффективных международных механизмов регулирования, независимой оценке безопасности и предоставлению государствам инструментов для проверки таких систем. Без этих мер мир столкнется с усилением неравенства, эксплуатацией уязвимых групп и утратой культурного наследия.

Группа из 40 независимых ученых была создана резолюцией Генассамблеи ООН 79/325 от 26 августа 2025 года для анализа возможностей, рисков и последствий развития искусственного интеллекта.

Ранее, 30 июня, сообщалось, что нейросети нанесли удар по классической схеме высшего образования.

РЕН ТВ в мессенджере "МАКС" – главный по происшествиям