ChatGPT обучали толерантности на "рабском" труде африканцев
Компания OpenAI, разрабатывающая нейросети для создания текстов, изображений и видео, использовала труд рабочих из Кении, которых заставляли читать тексты про извращения. Это выяснила газета Time.
30 ноября компания открыла публичный доступ к нейросети ChatGPT, которая способна создавать сложные и осмысленные тексты по разнообразным запросам. Например, отвечать на вопросы пользователей и объяснять сложные понятия простым языком.
Основан ChatGPT на нейросети GPT-3, которая прославилась не столько умением генерировать тексты, сколько расистскими и жестокими "высказываниями".
Дело в том, что обучаются нейросети на миллиардах текстов пользователей интернета. Естественно, в сети много примеров этически-неприемлемого контента, однако нейросеть, не обладающая сознанием и моралью, не способна его распознавать, из-за чего учится, в том числе, плохому.
Как сообщает газета, для устранения проблемы "неподобающего поведения" в ChatGPT встроили дополнительную нейросеть, обученную распознавать неприемлемые высказывания и фильтрующую их до выдачи пользователям.
Для обучения этой вспомогательной нейросети OpenAI наняла компанию Sama, которая, базируясь в Сан-Франциско, нанимает работников в Кении и ряде других африканских стран. В Sama называют своей целью помощь в создании "этичного" искусственного интеллекта, а также заявляют, что смогли спасти из бедности более 50 тысяч человек.
Согласно заключенному контракту, работники Sama должны были изучать и маркировать для обработки ИИ тексты, содержащие расистские высказывания, выражения ненависти, жестокости, и детализированные описания насилия и сексуальных извращений, в том числе над детьми.
За эту тяжелую для психики человека работу кенийцам обещали платить по 12 долларов (примерно 820 рублей) в час, однако, как рассказали Times бывшие сотрудники Sama, в процессе выяснилось, что для получения этой суммы требовалось выполнять практически недостижимые показатели. На деле люди, целыми днями читавшие травмирующие психику тексты, получали от 1,32 до 2 долларов (от 91 до 137 рублей) в час.
Кроме того, вместо обещанных 70 страниц "нездоровых" текстов в день сотрудников заставляли читать до 250 страниц. Еще их обманули по поводу психологической помощи – при найме обещали возможность в любой момент проконсультироваться со специалистом, а на деле устраивали лишь изредка бесполезную групповую терапию, не решавшую их проблемы. Один из сотрудников рассказал изданию, что к концу каждой рабочей недели он страдал от преследующих воображение отвратительных сцен, прочитанных им на работе.
Спустя какое-то время, по данным Time, OpenAI запросила у Sama отправку ряда изображений для обучения другой нейросети, включающих детскую порнографию. В самой OpenAI отрицают, что просили присылать им детскую порнографию, но признали, что запрашивали изображения других извращений. В любом случае, после этого Sama разорвала контракт, из-за чего компания оказалась вынуждена уволить или перевести на еще менее оплачиваемые должности десятки сотрудников.
В декабре руководство Google испугалось, что корпорация может со временем обанкротиться из-за ChatGPT.