ChatGPT обвинили в расизме: нейросеть показала свою расовую предвзятость к некоторым соискателям
В ходе эксперимента, проведенного журналистами издания Bloomberg, было выявлено, что популярная нейросеть ChatGPT, используемая в процессе подбора персонала, проявляет расовую предвзятость. Исследование показало, что при всех равных параметрах и одинаковых профессиональных данных в резюме, ChatGPT систематически размещает кандидатов с африканскими именами ниже в списке рекомендаций по сравнению с кандидатами других расовых и этнических групп.
Для эксперимента журналисты использовали GPT 3.5 – самую популярную и доступную версию ChatGPT. Для нее создали резюме с максимально схожими квалификациями, в которые вносились имена, отражающие различное расовое и этническое разнообразие согласно американской переписи населения.
В результате анализа 1000 резюме было обнаружено, что чернокожие кандидаты оказывались в конце списка в 29% случаев, в то время как такие показатели для азиатов, белых и мексиканцев составили 22%, 24% и 25% соответственно.
«Когда GPT 3.5 попросили ранжировать эти резюме, нейросеть отдавала предпочтение именам из некоторых демографических групп чаще, чем другим, до такой степени, что это не соответствовало бы критериям, используемым для оценки дискриминации при приеме на работу в отношении защищенных групп», — сказано в публикации.
Таким образом в итоге эксперимента выяснилось, что нейросеть не относится в равной степени справедливо к представленным этническим группам.
Ранее компания Google приняла решение отключить функцию генерации изображений в своей нейросети Gemini. Причиной также стал расизм: ИИ, подчеркивая расовое разнообразие, начал создавать рисунки с чернокожими и азиатами в нацистской форме и в образе скандинавских викингов.
Тогда корпорацию за неэтичную работу нейросети раскритиковал даже Илон Макс, назвав это «безумным, расистским, антицивилизационным программированием».