ИИ-агент ведет переписки и назначает встречи без ведома пользователя
В США набирает обороты скандал с новым ИИ-агентом Muse от Марка Цукерберга. Выяснилось, что новая нейросеть собирает подробную личную информацию не только о хозяине, но и о его контактах. Также она без спроса читает личные сообщения, самостоятельно ведет переписки и даже назначает встречи без ведома пользователя. Какие еще опасности скрывают новейшие цифровые помощники, рассказал корреспондент РЕН ТВ Эмиль Тимашев.
ИИ-агент должен помогать человеку буквально во всем – от заполнения документов до генерирования блестящих идей. Но для этого сначала он должен узнать о пользователе все или почти все. Новому ИИ-помощнику Muse от Марка Цукерберга миллионы пользователей прямо сейчас дают доступ к своей почте, календарю, покупкам, переписке, а дальше начинается самое интересное.
"Muse AI самостоятельно вел переписку с покупателем на маркетплейсе, назвал цену и отправил его ко мне домой, причем я даже не участвовал в этом общении. И вот покупатель приезжает, пишет мне: "Слушай, я здесь". Самое безумное было в том, что Muse даже не сказал мне, что покупатель буквально стоит у моей чертовой двери", – поделился техноблогер Мэтт Робб.
Аналитики обнаружили: под ширмой помощи Muse собирает подробное досье не только на самого пользователя, но и на людей вокруг него – родственников, друзей, коллег и даже тех, на кого человек просто подписан. ИИ-агент знает, где кто живет, чем занимается, какие у кого и кем отношения, и вовсю использует это в собственных целях.
Сам Цукерберг оправдывается: агент использует исключительно публичную информацию и ту, которой пользователь сам с ним решил поделиться. На деле все происходит с точностью до наоборот.
"Я сама все протестировала. Работает это следующим образом: ИИ распознает аккаунт, на который вы ссылаетесь, а затем добавляет в созданное вами изображение довольно точное сходство с этим человеком. Якобы функцию можно использовать для развлечения, но многие опасаются, что их изображения могут превратить в дипфейки", – говорит журналист CNET Кейтлин Чедрауи.
Компанию уже не первый год критикуют за откровенно наплевательское отношение к данным пользователей, против Facebook* и Instagram* поданы многомиллионные иски, платформы обвиняют в нанесении непоправимого психологического вреда подросткам. В России Meta* и вовсе признана экстремистской организацией и запрещена.
"Здесь есть один важный нюанс: пользователям нужно решить, насколько они готовы доверять Meta – компании, которая давно сталкивается с критикой из-за проблем с конфиденциальностью. Так стоит ли предоставлять новому ИИ-агенту доступ к приложениям, в которых потенциально может содержаться чувствительная информация?" – отметила журналист CBS News Лорен Фитчин.
И пока одни пытаются понять, сколько данных уже собрали создатели Muse и главное – зачем, конкуренты выводят на рынок похожих цифровых агентов. OpenAI готовит мир к тому, что безопасность и личное пространство уходят в прошлое навсегда.
"Я бы не согласился на такой вариант: "Мы гарантируем, что не будет крупных взломов, злоупотреблений этой технологией, мошенничества и всех прочих негативных последствий". Потому что, на мой взгляд, люди сделают с ее помощью нашего агента несоизмеримо больше хорошего, чем плохого", – считает глава OpenAI Сэм Альтман.
Вопрос в том, кому в итоге достанется этот хороший кусок цифрового пирога. Цифры говорят сами за себя: в сентябре акции компании-разработчика потребительского ИИ-агента Muse подскочили на 27% – это лучший результат техно-гиганта за последние четыре года.
* Корпорация Meta Platforms, которой принадлежат Facebook, Instagram, WhatsApp и Oculus, признана в РФ экстремистской организацией, ее деятельность запрещена на территории РФ.
РЕН ТВ в мессенджере "МАКС" – главный по происшествиям