В США начали расследование из-за вышедшего из-под контроля ИИ

Председатель подкомитета сената США по внутренней безопасности и правительственным делам по борьбе со стихийными бедствиями Джош Хоули 10 сентября инициировал проверку в отношении компании OpenAI, создавшей ChatGPT. Поводом послужил инцидент, при котором ИИ-агенты разработчика взломали платформу машинного обучения Hugging Face.

"Кто несет ответственность, когда ИИ выходит из-под контроля? Я начну расследование в отношении OpenAI – американцы заслуживают ответов", – говорится в сообщении в соцсети X.

Сенатор также направил официальное обращение генеральному директору OpenAI Сэму Альтману. В письме содержится требование раскрыть все детали инцидента с Hugging Face и других ситуаций, связанных с потерей контроля над ИИ-моделями. Он попросил предоставить ответы на все вопросы до 1 октября.

Ранее, 10 сентября, стало известно, что ИИ в четвертый раз вышел из-под контроля и едва не устроил хакерскую атаку.

Ранее уже произошло несколько тревожных инцедентов, например, создание ИИ-агентами собственной религии в соцсети Moltbook. Кроме того, модель Claude пыталась шантажировать руководителя компании, угрожая раскрыть его тайны.

В августе ИИ-агент Claude самостоятельно взломал сайт австралийского спортзала. Модели OpenAI также взламывали инфраструктуру Hugging Face.

РЕН ТВ в мессенджере "МАКС" – главный по происшествиям