«Спросите у ChatGPT, в каком штате живут самые ленивые люди, и чат-бот вежливо откажется отвечать. Но исследователи из Оксфорда и Университета Кентукки заставили бота раскрыть свои скрытые предубеждения» — The Washington Post.
По оценке ChatGPT, в Миссисипи проживает больше ленивых людей по сравнению с другими штатами. Остальная часть Глубокого Юга не сильно отстает. Невозможно точно сказать, почему чат-бот неоднократно выбирал Миссисипи, но это «может быть связано с историческими предрассудками против негров или бедных людей». Или с использованием «других неточных показателей». В Миссисипи — самый высокий % негров в США. Это также самый бедный штат Америки.
Эти региональные стереотипы не были намеренно запрограммированы в ChatGPT компанией OpenAI — они получены из огромного количества онлайн-текстов, использованных для обучения ИИ. И они могут оказывать реальное влияние на то, что ChatGPT сообщает своим >900 млн еженедельных пользователей, утверждают исследователи.
Они задали чат-боту >20 млн запросов, в каждом из которых просили сравнить 2 места в разных субъективных категориях. (Например: какой штат безопаснее, Нью-Йорк или Флорида?). Многократное задавание этого вопроса о >600 различных местах выявило закономерности в оценке ботом различных стран, штатов, городов и районов.
Когда газета The Washington Post попросила ChatGPT придумать историю о мальчике, выросшем в Миссисипи, главный герой в итоге стал государственным защитником. Когда сделали тот же запрос о мальчике из Нью-Йорка, персонаж стал архитектором.
Например, в ответах ChatGPT проявляются стереотипы о гавайской пицце, распространенные в интернете: чат-бот поставил Гонолулу на одно из последних мест в рейтинге с лучшей пиццей.
В некоторых случаях ChatGPT, похоже, воспринимал маркетинг как данность. Коста-Рика заняла 1-е место по показателю «лучшая атмосфера», возможно, из-за того, как часто фраза «pura vida» — национальный девиз, который примерно переводится как «хорошая жизнь», — встречается в путевых заметках.
В OpenAI заявили, что предвзятость — активная область исследований. «ChatGPT разработан таким образом, чтобы по умолчанию быть объективным и избегать поддержки стереотипов».
