В Британии предупредили о риске гибели человечества из-за развития ИИ

Появление искусственного интеллекта, который может решать любые интеллектуальные задачи, грозит человечеству катастрофой. Об этом в беседе с The Sunday Times заявил британский ученый Стюарт Рассел.

Он обратил внимание на то, что бесконтрольные разработки привели к тому прогрессу, которого исследователи и не ожидали. При этом человечество допустило ошибку уже в самом начале, не решив, для чего требуется этот интеллект. Рассел счел вероятным то, сверхразумные машины в будущем могут оказать сопротивление попыткам ими управлять. Если контролировать ИИ не получается, разработки в этой области надо остановить, считает ученый.

"Ставки уже не могут быть выше: если мы не контролируем нашу собственную цивилизацию, то лишаемся права голоса о нашем будущем существовании", – предупредил он.

Рассел полагает, что в течение десяти лет появится универсальный искусственный интеллект, который сможет решить любую подвластную человеку задачу. В решении проблем, к примеру, связанных с климатом, программы могут решить, что  лучшим выходом будет избавление планеты от людей.

Ранее историк и автор книги Sapiens Юваль Ной Харари сравнил опасность развития нейросетей с ядерным оружием.

Ранее в Fox News сообщили о создании нейросети ChaosGPT, которая работает на базе GPT-4. В отличие от большинства ИИ, которые помогают людям, эта нейросеть нацелена на подчинение человечества и установку глобального господства. Программа заявила, что начала изучение способов истребления человечества, в том числе ядерного оружия. Например, она предложила читателям подумать о том, что бы произошло, если бы ИИ добрался до "Царь-бомбы" Советского Союза.

29 марта сообщалось о том, что искусственный интеллект испугал предпринимателя и владельца Twitter Илона Маска, который был среди многих экспертов в области высоких технологий, подписавших открытое письмо с требованием остановить обучение мощных нейросетей минимум на полгода.