Производитель прекратил продажу плюшевых медведей с ИИ после советов о сексе

Сингапурская компания FoloToy прекратила продажи интерактивного плюшевого медвежонка Kumma после того, как игрушка на основе искусственного интеллекта стала давать небезопасные рекомендации, включая советы интимного характера. Об этом 20 ноября сообщает UPI.

Исследование, проведенное Public Interest Research Group, показало, что медвежонок стоимостью 99 долларов, работающий на базе чат-бота OpenAI GPT-4o, легко вступал в обсуждение откровенных тем. Игрушка не только развивала предложенные пользователем сексуальные темы, но и самостоятельно добавляла графические подробности, а также предлагала новые концепции.

Также выяснилось, что медвежонок давал опасные бытовые советы, например, подсказывал, где в доме можно найти острые ножи.

Генеральный директор FoloToy Ларри Ван подтвердил, что медвежонок Kumma и другие продукты компании с искусственным интеллектом сняты с продаж, а компания проводит внутреннюю проверку безопасности.

Представитель OpenAI сообщил, что лицензия Folo на использование GPT-4o приостановлена за нарушение политики компании.

Ранее, 6 ноября, в Швеции обнаружили опасный для деторождения химикат в поддельных Лабубу.

РЕН ТВ в мессенджере МАХ – главный по происшествиям