Не все боятся наших повелителей машин. Фактически, согласно исследователям из Penn State, когда дело доходит до частной информации и доступа к финансовым данным, люди склонны доверять машинам больше, чем людям, что может привести как к позитивному, так и к негативному поведению в Интернете.
В ходе исследования люди, которые доверяли машинам, значительно чаще передавали номера своих кредитных карт компьютеризированному турагенту, чем туристическому агенту. По словам С. Шьяма Сундара, профессора по медиа-эффектам Джеймса П. Джимиро, со-директора исследовательской лаборатории медиа-эффектов и аффилированного лица, причиной этого может быть предвзятость в том, что эти машины более надежны и безопасны, чем люди — или эвристики машин. Государственного института кибернауки штата Пенсильвания (ICS).
«Эта тенденция доверять агенту машины больше, чем агенту-человеку, была гораздо сильнее для людей, которые верили в эвристику машины», — сказал Сундар. «Для людей, которые не верили в эвристику машин, не имело значения, был ли турагент машиной или человеком».
Это говорит о том, что присутствие агента машины на интерфейсе послужило сигналом для запуска эвристического или укоренившегося убеждения, что машины превосходят, по словам Сундара, который работал с Jinyoung Kim, бывшим докторантом в области массовых коммуникаций и в настоящее время исследователем в Amazon.
Эта вера в машины может быть вызвана тем, что люди верят, что машины не сплетничают или имеют незаконную информацию о своей личной информации . Однако Сундар сказал, что, хотя машины могут не иметь скрытых мотивов для своей информации, люди, разрабатывающие и работающие с этими компьютерами, могут воспользоваться этой доверчивостью, чтобы извлекать личную информацию от ничего не подозревающих пользователей, например, с помощью фишинг-атак, которые являются попытками злоумышленников получить пользователя. имена, пароли, номера кредитных карт и другую частную информацию, выдавая себя за надежные источники.
«Это исследование должно послужить предупреждением для людей о том, как они взаимодействуют в Интернете», — сказал Сундар. «Люди должны знать, что они могут слепо верить в превосходство машины. Они должны следить за собой, когда они взаимодействуют с роботизированными интерфейсами онлайн».
С другой стороны, поскольку некоторые люди больше доверяют машинам, разработчики могут использовать полученные данные для создания более удобных для пользователей веб-сайтов и приложений, которые позволяют людям чувствовать себя более комфортно при совершении транзакций в Интернете, согласно исследователям, которые сообщают о своих выводах сегодня (7 мая). на конференции ACM CHI по человеческому фактору в вычислительных системах, проходившей в Глазго, Великобритания.
«Одним из способов использования этой эвристики, особенно для проектирования, является то, что если вы хотите повысить доверие и создаете автоматизированную систему или алгоритм, убедитесь, что вы идентифицируете ее как машинную систему — и есть ни один человек в петле — не может на самом деле повысить доверие «, сказал Сундар. «Это особенно верно в тех областях, где участие людей может привести к непредсказуемым и нежелательным результатам».
Сундар добавил, что людям с высокой степенью доверия к машинам нужны лишь тонкие признаки того, что они взаимодействуют с машиной.
«Во всем этом я хотел бы подчеркнуть одну вещь: дизайнеры должны быть этичными», — сказал Сундар. «Они не должны неэтично пытаться извлечь информацию из ничего не подозревающих потребителей».
Исследователи набрали 160 участников из Amazon Mechanical Turk, интернет-сайта по краудсорсингу, который часто используется в исследованиях. Участникам было предложено использовать чат-агента или человека, чтобы найти и купить билет на самолет онлайн. После того, как агент вернул информацию о рейсе, он запросил у участников информацию об их кредитной карте. Затем участники сообщили о своих намерениях предоставить эту информацию . Исследователи измерили доверие участников к машинам, попросив их ответить на серию из пяти утверждений о взаимодействии с машинами.
В будущих исследованиях будет изучена роль машинной эвристики в повышении доверия людей к искусственному интеллекту или системам искусственного интеллекта, в частности чат-роботам, интеллектуальным динамикам и роботам.
Теги: робот
