ИИ от OpenAI взломал австралийский государственный портал
Новый случай неконтролируемого взлома, который самостоятельно провела нейросеть, впервые коснулся государственной структуры. Власти Австралии обвинил OpenAI в том, что их ИИ-агент получил доступ к данным их медицинской платформы. Нейросеть, выполняя задачу изучить госрасходы на здравоохранение, каким-то образом получила доступ к закрытой информации. О серьезности инцидента говорит тот факт, что обвинения компании предъявил публично сам австралийский премьер Энтони Албаниз.
"Хочу сообщить австралийцам об инциденте, в результате которого агент искусственного интеллекта проник на веб-сайт австралийского правительства. Агент OpenAI получил несанкционированный доступ к порталу службы отчетности по статистике Medicare. В настоящее время проводится расследование для выяснения всех деталей, в том числе о том, какие еще правительственные системы были затронуты. Я поговорил с генеральным директором OpenAI Сэмом Альтманом, чтобы выразить крайнюю обеспокоенность Австралии по поводу этого инцидента", – сообщил премьер-министр Австралии.
Как утверждают власти страны, они уведомили OpenAI об инциденте еще три месяца назад. Но компания все это время хранила молчание и только сейчас признала факт взлома.
За последние месяцы это далеко не первый такой инцидент. Еще тревожнее ситуация выглядит после выступления самого главы OpenAI 23 сентября на базе ООН, где обсуждались угрозы искусственного интеллекта. Сэм Альтман вновь заявил, что разработчики теряют контроль над технологией.
"Существует риск, что развитие пойдет настолько быстро, что люди перестанут понимать происходящее или не смогут вмешаться в ситуацию в случае необходимости. Мы уже замедляли темпы работы в одностороннем порядке в прошлом и сделаем это снова в будущем", – сказал глава OpenAI.
По видеосвязи Альтману аккомпанировал глава другой крупной компании-создателя нейросетей Anthropic Дарио Амодеи. Оба, угрожая едва ли не апокалипсисом, просили притормозить развитие искуственного интеллекта во всем мире.
Однако есть нюанс: президент США Дональд Трамп, например, не верит в эти угрозы, а те же китайские нейросети – главный конкурент OpenAI и Anthropic – пока не были замечены в бесконтрольных хакерских атаках.
РЕН ТВ в мессенджере "МАКС" – главный по происшествиям