January 5, 2022

Почему человек склонен доверять компьютеру и к чему это может привести

💻 Вам, конечно, могут рассказывать, что скептически относятся к компьютерам. Но поверьте, на самом деле мы, наоборот, уж слишком доверяем им. Почему — рассказали журналисты BBC, а PRO_Одесса пересказывает 👇 Уж очень интересно.

Трагедия рейса 447

1 июня 2009 года рейс 447 Air France полетел брюхом в Атлантический океан со скоростью 300 км/час. Из-за оледенения на корпусе автопилот внезапно отключился. Пилот Пьер-Седрик Бонен взял управление на себя, без ручного вмешательства обойтись было невозможно. Другие пилоты стабилизировать ситуацию не могли — их сбивали с толку сообщения и сигналы тревоги от бортового компьютера.

В тот день все 216 пассажиров и 12 членов экипажа погибли. Аналитики частично обвиняют в трагедии чрезмерное доверие к технологиям.

Всё потому, что лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. Это как раз один из тех случаев, когда чрезмерное доверие к технологиям привело к гибели людей.

aviav.ru

Предвзятость автоматизации и эксперимент с шимпанзе

Это отлично изученное явление. Когда всем управляет компьютер, часто возникает потеря бдительности. На то, что люди в таких случаях меньше способны замечать неисправности, повлияла эволюция.

Поведение шимпанзе — одного из наших ближайших родственников — показывает, почему мы так плохо оцениваем надёжность техники. Возможно, причина в том, что вместо этого мы оцениваем других представителей своего вида.

Недавно провели исследование в заповеднике в Кении. Там перед шимпанзе-участниками стоял выбор: чтобы получить банан довериться машине, либо другому шимпанзе. При этом техника работала с перебоями.

Результат эксперимента показал — приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Короче говоря, технике они доверяли больше.

Исследование отлично показало, что социальный риск играет большую роль в том, как шимпанзе и люди ориентируются в мире. По словам Лу Хо из Института развития человека Макса Планка, которая работала над экспериментом, это называется «отвращение к предательству». И тут всё очевидно — куда неприятней быть обманутым человеком, чем машиной. Не так ли?

Психолог из Технологического института Флориды Дарби Проктор и её коллеги тоже проводили аналогичные тесты. Результаты были такими же.

«В этом есть смысл, если подумать о том, насколько важно для приматов согласовывать свое социальное окружение. Что касается техники, нет никаких последствий в будущем и потенциальных социальных затрат. Дело не в уверенности, что машина непременно даст хорошую награду. Возможно, мы просто не воспринимаем её как эмоционально значимый объект, поэтому более охотно идем на риск», — считает психолог.

Так что можно предположить, что мы просто более спокойно реагируем на плохую сделку, когда в ней не участвует социальный партнер.

На протяжении миллионов лет мы изучаем людей, поэтому в этой теме разбираемся лучше, чем в умении оценивать машины. Но сегодня, когда технологии оказывают огромное влияние на жизнь людей, эта необходимость возникла.

Помимо эволюции, на нашу готовность доверять технологиям также влияют личные знания о технике и культурные ожидания

Исследование 2019 года показало, что люди на 29% чаще сообщают данные своей кредитки, если думают, что общаются с компьютером, а не с другим человеком.

Кадр из фильма «Двухсотлетний человек»

С другой стороны, некоторые люди не доверяют технологиям. Например, опросы показывают, что многим не нравится идея беспилотных автомобилей. Мы боимся потерять часть своей идентичности, если всё будет автоматизировано.

Что именно влияет на готовность человека доверять той или иной технологической системе

Социальный психолог из Билефельдского университета в Германии Филипп Кульмс вместе с коллегами провели прикольный эксперимент. Они придумали головоломку в стиле тетриса. В ней участники сотрудничали с компьютером 👇

Frontiers

Если компьютер хорошо играл в игру, демонстрируя компетентность, и давал человеку доступ к ценным предметам, приносящим дополнительные очки (демонстрируя тёплое отношение), участники чаще доверяли ему, а также обменивались деталями пазла. То есть выражали эту уверенность в игре.

Люди более азартны при игре на тех автоматах, которые отображают человеческие свойства. Этот эксперимент показал, что мы лояльнее относимся к механическими объектами, когда они начинают вести себя немного как социальный партнёр, который проявляет заботу о наших интересах.

Человек, который научился доверять определённым системам — например, автопилотам самолётов — с трудом понимает, как они могут ошибаться, даже когда это происходит.

Злая шутка здесь в том, друзья, что за любой технологией, которая кажется надёжной, может скрываться человек со злыми намерениями.