Самодельные системы на ИИ для авто могли привести к серии аварий в США

Национальное управление безопасности дорожного движения США (NHTSA) начало масштабную проверку в отношении компании Comma AI и ее программного обеспечения Openpilot. Поводом послужили пять ДТП, в которых пострадали пользователи систем помощи водителю. В двух инцидентах погибли три человека. Об этом 24 сентября сообщило издание Electrek.

Предметом расследования стали около 30 тысяч неофициальных устройств автопилота моделей Comma Three, Comma 3X и Comma Four. Эти гаджеты владельцы автомобилей устанавливают самостоятельно. Все они работают на базе открытого кода Openpilot, который позволяет сторонним программистам создавать собственные, модифицированные версии.

Также в центре внимания оказались рекламные заявления Comma AI. Компания обещает, что монтаж оборудования занимает всего 15 минут, после чего системой можно пользоваться часами, не прикасаясь к рулю. При этом в примечаниях к устройствам указано, что водитель обязан сохранять максимальную бдительность и быть готовым в любую секунду перехватить управление.

Ситуацию осложняет открытый характер программного обеспечения. Пользователи могут устанавливать не только официальную версию Openpilot, но и ее многочисленные модификации от сторонних разработчиков. Хотя они базируются на общей программной основе, измененный код может непредсказуемо влиять на поведение автомобиля на дороге.

Напомним, 22 июня нейросеть взломала системы нацбезопасности Соединенных Штатов за несколько часов.

26 сентября сообщалось, что агенты искусственного интеллекта OpenAI взломали сайты финансовых ведомств США.

30 сентября президент США Дональд Трамп заявил, что в Вашингтоне IT‑гиганты готовятся к войне с искусственным интеллектом.

РЕН ТВ в мессенджере "МАКС" – главный по происшествиям