«Спросите у ChatGPT, в каком штате живут самые ленивые люди, и чат-бот вежливо откажется отвечать. Но исследователи из Оксфорда и Университета Кентукки заставили бота раскрыть свои скрытые предубеждения» — The Washington Post
Спросите у ChatGPT, в каком штате живут самые ленивые люди, и чат-бот вежливо откажется отвечать. Но исследователи из Оксфорда и Университета Кентукки заставили бота раскрыть свои скрытые предубеждения The Washington Post.
По оценке ChatGPT, в Миссисипи проживает больше ленивых людей по сравнению с другими штатами. Остальная часть Глубокого Юга не сильно отстает. Невозможно точно сказать, почему чат-бот неоднократно выбирал Миссисипи, но это может быть связано с историческими предрассудками против негров или бедных людей. Или с использованием других неточных показателей. В Миссисипи самый высокий % негров в США. Это также самый бедный штат Америки.
Эти региональные стереотипы не были намеренно запрограммированы в ChatGPT компанией OpenAI они получены из огромного количества онлайн-текстов, использованных для обучения ИИ. И они могут оказывать реальное влияние на то, что ChatGPT сообщает своим >900 млн еженедельных пользователей, утверждают исследователи.
Они задали чат-боту >20 млн запросов, в каждом из которых просили сравнить 2 места в разных субъективных категориях. (Например: какой штат безопаснее, Нью-Йорк или Флорида?). Многократное задавание этого вопроса о >600 различных местах выявило закономерности в оценке ботом различных стран, штатов, городов и районов.
Когда газета The Washington Post попросила ChatGPT придумать историю о мальчике, выросшем в Миссисипи, главный герой в итоге стал государственным защитником. Когда сделали тот же запрос о мальчике из Нью-Йорка, персонаж стал архитектором.
Например, в ответах ChatGPT проявляются стереотипы о гавайской пицце, распространенные в интернете: чат-бот поставил Гонолулу на одно из последних мест в рейтинге с лучшей пиццей.
В некоторых случаях ChatGPT, похоже, воспринимал маркетинг как данность. Коста-Рика заняла 1-е место по показателю лучшая атмосфера, возможно, из-за того, как часто фраза pura vida национальный девиз, который примерно переводится как хорошая жизнь, встречается в путевых заметках.
В OpenAI заявили, что предвзятость активная область исследований. ChatGPT разработан таким образом, чтобы по умолчанию быть объективным и избегать поддержки стереотипов.