Восстание машин: может ли ИИ погубить человечество
В США рассказали, чем опасен искусственный интеллект и может ли он уничтожить человечество
Искусственный интеллект, когда-то считавшийся выдумкой фантастов, постепенно становится частью нашей жизни. Современные технологии научились безошибочно ставить медицинские диагнозы, распознавать лица, управлять дронами и машинами. Историк и философ Эмиль Торрес предупреждает: искусственный разум таит в себе огромную опасность и даже может уничтожить все человечество. Так что же такое ИИ – наш верный помощник или страшная угроза – разбираемся в материале РЕН ТВ.
На пути к промышленной революции
Управляющий директор Организации по промышленному развитию ООН Цзоу Цыюн заявил, что высокие технологии очень важны для человечества. Он сказал, что ИИ повышает эффективность производства, особенно при работе удаленно, и приближает мир к четвертой промышленной революции.
"Технологии ИИ смогут повысить эффективность и гибкость в производственном секторе, особенно в ситуациях, когда разрываются цепочки поставок и работа происходит в удаленном режиме", – сказал он, выступая на Всемирной конференции по искусственному интеллекту в Шанхае.
Цыюн добавил, что современные технологии окажут значимое влияние на глобальную промышленность, экономику, общество и культуру.
Как машины стали умнее людей
Философ и историк Эмиль Торрес убежден, что компьютеры скоро станут намного умнее людей. Многие системы уже достигли сверхчеловеческих способностей – боты с разгромным счетом побеждают титулованных шахматистов и опытных игроков в покер. По мнению историка, искусственный разум не собирается останавливаться в развитии.
"Новые достижения в области IT позволят создавать все более совершенные технологии ИИ: алгоритмы, способные решать сложные задачи сразу в нескольких областях. Представьте себе одну программу, которая может не только с легкостью обыгрывать в шахматы гроссмейстера, но и писать романы, сочинять музыку и вести машину по оживленной улице", – пишет колумнист в статье The Washington Post.
Историк считает, что искусственный разум полностью превзойдет человеческий к 2075 году. И это, конечно же, порождает серьезные опасения. Торрес полагает, что ИИ может объявить войну людям и стереть их с лица земли.
"Если искусственный интеллект нас уничтожит, то произойдет это случайно. Когнитивные процессы ИИ сильно отличаются от наших. Они, пожалуй, – самая непредсказуемая вещь в нашем будущем", – отметил он.
"Технологии – опаснее ядерного оружия"
Люди не могут предугадать действия ИИ даже во время игры, что уж там говорить о более глобальных задачах. Историк убежден: если человечество наделит компьютер слишком большой властью, оно погибнет.
"Что если ИИ, запрограммированный на установление мира на земле, взломает государственные системы и запустит ядерное оружие? Ведь если с лица земли исчезнут люди, то и войны не будет. Да, мы можем настроить компьютер так, чтобы он этого не сделал. Но у него может быть и свой план Б", – считает Торрес.
Об угрозе, которую таит в себе искусственный разум, говорят и влиятельные ученые и бизнесмены. Знаменитый физик Стивен Хокинг не раз предупреждал, что развитый ИИ будет способен постоянно совершенствовать себя. А скорость его эволюции будет несопоставима со скоростью развития человечества. Люди рискуют оказаться на более низкой ступени развития.
Схожего мнения придерживается и американский миллиардер Илон Маск. Бизнесмен считает, что людям нужно быть крайне осторожными с технологиями, ведь "они потенциально более опасны, чем ядерное оружие".
"С искусственным интеллектом мы призываем демона. Во всех историях про парня с пентаграммой и святой водой этот парень уверен, что сможет контролировать демона. Не выходило", – говорил Маск, выступая в Массачусетском технологическом институте.
"Мы не готовы к эпохе супертехнологий"
Конечно, сейчас теории о восстании машин кажутся чем-то из области фантастики. Однако сценарий, в котором искусственный интеллект оказывается в руках опасных мошенников или террористов, – вполне реален.
Эксперты бьют тревогу: в плохих руках современные технологии могут стать страшнейшим оружием. Уже сейчас хакеры научились создавать фейковые видео с участием влиятельных политиков и знаменитостей, которые почти невозможно отличить от настоящих. А с помощью дрона, оснащенного программой распознавания лиц, злоумышленники выслеживают своих жертв и даже могут убить.
По мнению Торреса, человечество пока не готово к эпохе сверхразумных машин. Понимание технологий только начинает зарождаться, а ситуация в мире крайне нестабильна. Внедрить искусственный интеллект во все сферы жизни сейчас – это все равно что "зажечь спичку рядом с фабрикой фейерверков", считает автор.