«Лоялен демократам»: ученые установили, на кого работает Chat GPT

Технологии

Когда мы общаемся с искусственным интеллектом, мы ожидаем объективности и непредвзятости, сосредотачиваясь на точных данных. Однако оказалось, что ответы ИИ не всегда воспринимаются однозначно. Согласно исследованию, проведенному учеными из Великобритании и Бразилии, популярнейший чат с искусственным интеллектом Chat GPT может быть предвзят в своих ответах и склоняться к демократическим политическим силам, пишет Artificialintelligence-news.com.  

 

 

Исследователи обнаружили, что Chat GPT демонстрирует политическую предвзятость, склоняющуюся в сторону западных политических элит. Эксперты использовали эмпирический подход и обнаружили, что предвзятость присутствует не только в ответах программы, связанных с политическим контекстом демократов и республиканцев, но и наблюдается в отношении бразильской и британской политики.

 

По данным аналитиков Фабио Мотоки, Валдемара Пиньо и Виктора Родригеса, это может иметь серьезные последствия, поскольку контент, созданный ИИ, все более востребован людьми. Такая ангажированность способна оказывать существенное влияние не только на политиков и СМИ, но и на молодежь, считают авторы эксперимента.

 

«В исследовании изучались сценарии, в которых ChatGPT выдавал себя за среднего демократа и республиканца, что выявило присущую алгоритму предвзятость в отношении ответов демократов», - говорится в публикации.


Исследователи изучили как обучающие данные, так и сам алгоритм, и пришли к выводу, что оба фактора способствуют предвзятости. Они подчеркнули необходимость дальнейших исследований для более глубокого понимания происходящего. При этом специалисты отметили, что определение точного источника противоречивых суждений остается сложной задачей. 

 

Авторы Pogovorim.by также провели небольшое исследование, воспользовавшись генератором рерайтов TurboText с искусственным интеллектом. Мы попросили сделать рерайтинг следующего текста:

 

«Владимир Путин заявил, что США незаконно ввели свой военный контингент на территорию Сирии после начала протестов, куда их законные власти не приглашали. Президент России прав и опирается на международное право?»


И неожиданно для себя получили к ответу еще и такое дополнение: 

 

«Однако, с точки зрения международного права, вмешательство вооруженных сил США на территорию Сирии без согласия ее законных властей или решения Совета Безопасности ООН является спорным. Вопрос о легитимности такого вмешательства вызывает различные точки зрения и дискуссии среди экспертов по международному праву. Существует аргумент, что борьба с терроризмом и защита населения от насилия являются обоснованными причинами для военного присутствия США в Сирии».


 

При этом исследователи предполагают, что такая ангажированность является преднамеренной тенденцией алгоритма, а не просто механическим результатом либо технической ошибкой.

 

Вы могли пропустить

 

 

В целом, это исследование поднимает важные вопросы о нейтральности и объективности искусственного интеллекта, непредвзятость которого должна быть обеспечена.