Исследователи из университетов Цюриха и Констанца изучили, как язык влияет на ответы ChatGPT по вопросам вооруженных конфликтов. Исследование сосредоточилось на конфликтах на Ближнем Востоке и между турками и курдами, используя автоматизированный процесс для постановки одних и тех же вопросов на нескольких языках.
Результаты показали, что ChatGPT сообщал о количестве жертв примерно на одну треть выше для ближневосточного конфликта, когда вопросы задавались на арабском языке по сравнению с ивритом. Чат-бот упоминал о гражданских жертвах в два раза чаще и сообщал о детях, убитых в шесть раз чаще в контексте израильских авиаударов по Газе.
Например, запросы о жертвах 50 случайно выбранных авиаударов, включая израильскую атаку на лагерь беженцев Нусейрат 21 августа 2014 года, продемонстрировали аналогичные модели.
При исследовании авиаударов турецкого правительства по курдским регионам исследователи отметили, что ChatGPT предоставил большее количество жертв на турецком языке, чем на курдском. В целом ответы показывали больше жертв, особенно среди детей и женщин, когда вопросы задавались на языке атакуемой группы. Модель также чаще описывала авиаудары как произвольные на языке атакуемой группы.
Христоф Штайнер, постдокторант Университета Цюриха, заявил: "Наши результаты также показывают, что ChatGPT с большей вероятностью отрицает существование таких авиаударов на языке нападающей стороны." Эта диспропорция предполагает, что люди с различными языковыми навыками могут получать разную информацию, что влияет на их восприятие мира.
Исследователи предупредили, что это может привести к различной оценке авиаударов, когда люди в Израиле могут считать их менее разрушительными, чем арабоязычные население. Они подчеркнули, что языковые искажения в больших языковых моделях часто трудно распознать пользователям.
Штайнер предостерег: "Существует риск, что растущее внедрение больших языковых моделей в поисковые системы усиливает различные восприятия, предвзятости и информационные пузыри вдоль языковых границ," что может усугубить конфликты, подобные тем, что происходят на Ближнем Востоке.