Connect with us

Hi, what are you looking for?

Наука и технологии

Используются вопросы экологической справедливости, чтобы выявить географические предубеждения в ChatGPT

Используются вопросы экологической справедливости, чтобы выявить географические предубеждения в ChatGPT
Используются вопросы экологической справедливости, чтобы выявить географические предубеждения в ChatGPT

Исследователи Технологического института штата Вирджиния обнаружили ограничения возможностей ChatGPT по предоставлению информации по вопросам экологической справедливости с учетом конкретного местоположения. Их результаты, опубликованные в журнале Телематика и информатика, предполагают возможность географических предубеждений, существующих в современных моделях генеративного искусственного интеллекта (ИИ).

ChatGPT — это модель большого языка, разработанная OpenAI Inc., исследовательской организацией в области искусственного интеллекта. ChatGPT предназначен для понимания вопросов и генерации текстовых ответов на основе запросов пользователей. Эта технология имеет широкий спектр применений: от создания контента и сбора информации до анализа данных и языкового перевода.

Обзор по округам

«Для географа и специалиста по геопространственным данным генеративный ИИ — это инструмент с мощным потенциалом», — сказал он. сказал доцент Юнхван Ким из Колледжа природных ресурсов и окружающей среды. «В то же время нам необходимо изучить ограничения технологии, чтобы будущие разработчики осознавали возможность предвзятости. Это было движущей силой данного исследования».

Используя список 3108 округов в сопредельных Соединенных Штатах, исследовательская группа попросила интерфейс ChatGPT ответить на вопрос о экологической справедливости проблемы в каждом округе. Исследователи выбрали экологическую справедливость в качестве темы, чтобы расширить круг вопросов, обычно используемых для проверки эффективности инструментов генеративного искусственного интеллекта. Задание вопросов по округам позволило исследователям сопоставить ответы ChatGPT с социально-демографическими факторами, такими как плотность населения и средний доход домохозяйства.

Ключевые результаты указывают на ограничения

Обследуя округа с таким разным населением, как округ Лос-Анджелес, штат Калифорния, с населением 10 019 635 человек, и округ Ловинг, штат Техас, с населением 83 человека, инструмент генеративного искусственного интеллекта продемонстрировал способность выявлять проблемы экологической справедливости, специфичные для конкретного региона, в крупных и масштабных масштабах. -плотность заселения территорий. Однако этот инструмент был ограничен в своей способности выявлять и предоставлять контекстуальную информацию по местным вопросам экологической справедливости.

  • ChatGPT смог предоставить информацию по вопросам экологической справедливости с привязкой к конкретному местоположению только для 515 из 3018 округов, включенных в список, или 17 процентов.
  • В сельских штатах, таких как Айдахо и Нью-Гэмпшир, более 90 процентов населения проживало в округах, которые не могли получать информацию, специфичную для местного населения.
  • В штатах с большим городским населением, таких как Делавэр или Калифорния, менее 1 процента населения проживало в округах, которые не могут получить конкретную информацию.

Влияние на разработчиков и пользователей ИИ

Поскольку генеративный ИИ становится новым инструментом для получения информации, тестирование потенциальных ошибок в результатах моделирования становится важной частью улучшения таких программ, как ChatGPT.

«Хотя необходимы дополнительные исследования, наши результаты показывают, что в настоящее время в модели ChatGPT существуют географические предубеждения», — сказал он. сказал Ким, который преподает на факультете географии. «Это отправная точка для исследования того, как программисты и разработчики ИИ смогут предвидеть и смягчать несоответствие информации между большими и маленькими городами, между городской и сельской средой».

Ким ранее публиковал статью о том, как ChatGPT понимает проблемы и решения транспортных проблем в США и Канаде. Его исследовательская группа Умные города во благо изучает использование методов и технологий науки о геопространственных данных для решения городских социальных и экологических проблем.

Расширение будущих возможностей инструментов

Доцент Исмини Лоренцу из Инженерного колледжа, соавтор статьи, назвал три области дальнейших исследований для моделей большого языка, таких как ChatGPT:

  • Уточнить локализованные и контекстуально обоснованные знания, чтобы уменьшить географические предвзятости.
  • Защитите модели на большом языке, такие как ChatGPT, от сложных сценариев, таких как двусмысленные инструкции пользователя или отзывы.
  • Повысить осведомленность пользователей и политику, чтобы люди были лучше информированы о сильных и слабых сторонах, особенно по деликатным темам.

«Существует множество проблем с надежностью и отказоустойчивостью моделей большого языка», — говорит он. — сказал Лоренцу, который преподает на факультете компьютерных наук и является филиалом Центра искусственного интеллекта и анализа данных Сангани. «Я надеюсь, что наше исследование поможет дальнейшим исследованиям по расширению возможностей ChatGPT и других моделей».

Теги: ИИ

В тренде