Эффективность принятия решений определяется не только качеством данных, но и тем, как человек их понимает. На этом этапе нередко проявляются когнитивные искажения — системные ошибки мышления, ведущие к неверным суждениям.
Одним из узких мест интеллектуального анализа данных является интерпретация его результатов. Даже будучи полностью корректными и точными, они окажутся бесполезными с точки зрения повышения качества принимаемых на их основе управленческих решений, если не будут правильно поняты и осмыслены.
Причиной некорректной интерпретации результатов чаще всего становится человеческий фактор. Возможны два сценария:
Под когнитивным искажением понимают систематическую модель отклонения от нормы и рациональности в суждениях, которые могут привести к нелогичным, неточным и даже иррациональным выводам, существенно влияющим на процессы принятия решений.
Второй сценарий является самым неприятным, поскольку от когнитивных искажений не гарантированы специалисты любого, даже самого высокого уровня. Более того, наиболее опытные аналитики могут чаще оказываться их жертвами, поскольку имеют сложившиеся стереотипы и шаблоны восприятия, которые в условиях высокой изменчивости бизнес-среды не всегда «срабатывают».
Когнитивные искажения являются естественными механизмами, которые мозг человека использует для ускорения обработки информации, часто подсознательны и могут быть обусловлены различными факторами, включая личный опыт, культурный уровень, эмоции и способ подачи информации.
Само понятие когнитивного искажения (cognitive biases) было введено в начале 1970-х годов психологами Амосом Тверски и Даниэлем Канеманом как «предвзятость... которая возникает, когда люди обрабатывают и интерпретируют информацию». Изначально проблематика когнитивных искажений исследовалась в психологии. Однако появление и развитие систем искусственного интеллекта привело к необходимости изучения их влияния на процессы интерпретации результатов интеллектуальной обработки информации и принятия на их основе управленческих решений.
В 2021 году Международный институт по стандартам опубликовал технический отчет ISO/IEC TR 24027:2021 Information technology — Artificial intelligence (AI) — Bias in AI systems and AI aided decision making (Информационные технологии — Искусственный интеллект — Предвзятость в системах ИИ и принятие решений с помощью ИИ), в котором описываются методы измерения и оценки предвзятости с целью устранения уязвимостей, связанных с принятием решений.
За 60 лет исследований было определено и экспериментально подтверждено порядка 188 видов когнитивных искажений, разбитых на группы, и был составлен кодекс когнитивных искажений. Однако далеко не все они имеют отношение к анализу данных и бизнес-аналитике. Поэтому ниже мы рассмотрим только те из них, с которыми в реальности могут столкнуться специалисты именно этих областей.
Этот вид когнитивных искажений известен также как «склонность к подтверждению своей точки зрения» и заключается в том, что аналитики склонны отдавать предпочтение тем данным и результатам их обработки, которые соответствуют собственному опыту, убеждениям и гипотезам, а альтернативные предпочитают игнорировать, а также стремятся интерпретировать неоднозначные доказательства как подтверждение своих существующих взглядов.
В итоге вместо того, чтобы объективно анализировать всю доступную информацию, аналитик избирательно отдает предпочтение той, которая подкрепляет ранее сформированные у него убеждения. Причины, которые способствуют проявлению предвзятости подтверждения, хорошо исследованы психологами. Основная из них заключается в том, что человек испытывает дискомфорт, когда встречается с информацией или мнением, противоречащими его убеждениям.
В бизнесе предвзятость подтверждения может привести к самым печальным последствиям. Например, трейдер, много раз делающий успешные инвестиции в один и тот же продукт и убежденный в его надежности, при просмотре финансовой аналитики будет обращать внимание только на новости, которые подтверждают его выбор, а «тревожные звоночки» проигнорирует.
Предвзятость подтверждения заставляет потребителей концентрироваться на отзывах о товарах, которые соответствуют их мнению. Покупатель, которому продукт уже нравится, будет игнорировать плохие отзывы и смотреть только на хорошие. Как следствие, возможен выбор товара, не соответствующего ожиданиям.
Предвзятость подтверждения влияет на принятие решений отдельными лицами на всех организационных уровнях. Ее преодоление имеет решающее значение для улучшения личных и профессиональных суждений и предполагает следующие подходы:
Иногда также называется «якорным смещением» от слова anchor — якорь. Его смысл в том, что аналитики склонны переоценивать важность тех данных или суждений (их и называют «якорь»), которые стали доступны им первыми, даже если те на самом деле не релевантны и не точны. При этом данные, ставшие доступными позднее, недооцениваются или вообще игнорируются.
Первые точки данных, выступая в качестве якорей, определяют характер интерпретации всех более поздних наблюдений. Очевидно, что если они будут не точны или аномальны, то это может привести к искаженному восприятию всех данных и результатов анализа.
Кроме этого, в качестве якоря могут выступать результаты аналитической обработки данных, полученные ранее, особенно те, которые наиболее часто цитируются и упоминаются. Это затрудняет принятие во внимание новых гипотез и отказ от устаревших.
Также якорем могут служить выводы и интерпретации аналитиков, предоставивших их первыми. В результате те, кто сделает это позже, будут склонны строить похожие заключения, отказываясь от собственных.
Наиболее известными примерами «якорного эффекта» в аналитике являются:
Чтобы снизить вероятность возникновения «якорного эффекта», можно применить следующие подходы:
Этот тип когнитивных искажений предполагает, что аналитики склонны считать самыми ценными и достоверными данные, являющиеся наиболее доступными, т.е. поиск и доступ, к которым наименее трудоемок и затратен. Жизненным аналогом может служить ситуация, что люди зачастую предпочитают использовать инструменты, которые расположены «под рукой», чем те, которые более эффективны, но требуют затрат и усилий, чтобы получить их.
В бизнес-аналитике эвристика доступности может привести к следующим эффектам:
Примерами эвристики доступности в аналитике могут служить:
Для снижения вероятности возникновения эвристики доступности можно использовать следующие рекомендации:
Также упоминается как эффект сверхуверенности. Данный вид когнитивного искажения заключается в том, что уверенность человека в своих решениях оказывается значительно выше их объективной обоснованности. Основан на тенденции переоценивать свои знания и способности в определенной области.
Наиболее типичны проявления этого эффекта в трейдинге, когда трейдер излишне уверен в доходности своего актива и не желает диверсифицировать его. Также примером может служить отказ от проведения маркетинговых исследований перед запуском нового продукта, основанный на уверенности предпринимателя в том, что он и так отлично знает рынок и не нуждается в каких-либо дополнительных знаниях. Последствием этого часто является провал продаж.
Существует три различных типа предвзятости самоуверенности, каждый из которых имеет разное психологическое происхождение, проявляется при разных условиях и имеет различные последствия:
Однако самоуверенность не всегда приводит к принятию неудачных решений: считается, что излишне самоуверенные менеджеры склонны чаще продвигать инновации и лучше убеждают инвесторов вкладывать средства в более рискованные проекты, что может способствовать дальнейшему росту.
Поскольку предвзятость, связанная с излишней самоуверенностью, действует на подсознательном уровне, полностью избавиться от нее сложно. Однако есть шаги, которые можно предпринять, чтобы держать ее под контролем:
Разновидность когнитивного искажения, при котором решения меняются в зависимости от того, как сформулированы связанные с ними альтернативы, даже если они логически идентичны. Иными словами, способ подачи информации влияет на ее восприятие человеком. Например, одно и то же утверждение, в зависимости от формулировки и смысловых акцентов, может быть представлено как в негативном, так и в позитивном свете, в качестве выгоды или потери.
Иными словами, оказывается, что люди реагируют не столько на саму информацию, сколько на ее контекст.
Исследования показывают, что когда варианты поданы как выгода, люди выбирают безопасный результат. Если же варианты показаны как потеря, они склонны рисковать, чтобы избежать убытка. Хотя оба варианта равны, решения зависят от того, как их подают.
Выигрыш и проигрыш определяются в сценарии как результаты, например, ушедшие и сохранившие лояльность клиенты, вернувшие и не вернувшие кредит заемщики, финансовые прибыли или убытки. При этом потеря более значима, чем эквивалентная выгода, гарантированная выгода предпочтительнее вероятной.
Кроме этого, выделяют широкий и узкий фрейминг. Первый включает весь контекст, связанный с решением, а второй — только его часть. Например, инвесторы могут быть слишком сосредоточены на коэффициенте цена/прибыль (финансовый показатель, равный отношению рыночной стоимости акции к годовой прибыли, полученной на акцию) и игнорировать остальные данные, важные для оценки акций. Узкий фрейминг — явление, приводящее к чрезмерному упрощению, когда люди стремятся свести сложную процедуру к результатам оценки одного-единственного показателя, что в конечном итоге приводит к проблемам.
Чтобы преодолеть предвзятость фрейминга, можно воспользоваться следующими рекомендациями:
Также известно как эффект новизны или ошибка недавнего прошлого. Заключается в стремлении придавать недавним событиям больший вес при принятии решений о будущих действиях, поскольку они занимают более важное место в сознании при попытке делать предположения о будущем и заставляют верить, что недавние события с большей вероятностью повторятся, чем это есть на самом деле.
Например, если за предыдущие пять лет средняя доходность инвестиций была очень высокой, а за последние 12 месяцев оказалась слабо отрицательной, то инвесторы склонны принимать во внимание только последний фактор и скорее всего, откажутся от инвестиций.
Следствием этого когнитивного сдвига является то, что вместо того, чтобы аналитически обдумывать решение, человек просто предполагает, что «в этот раз будет так же, как и в прошлый».
Типичным примером искажения новизны является то, что при оценке сотрудников для продвижения, руководители часто опираются только на итоги деятельности за последние несколько месяцев, а не за более длительный период. В то же время, последние месяцы могут характеризоваться спадом или ростом экономики, что влияет на результаты работника, но не позволяет объективно оценить его качества.
В итоге плохой специалист, которому повезло, что на период его оценки пришелся экономический подъем, имеет все шансы быть продвинутым вместо хорошего, которому не повезло попасть на спад. В то же время, если бы руководитель при принятии решений рассмотрел более длительный интервал (скажем, годовые показатели вместо последнего квартала), когда оба претендента «показали себя» в разных условиях, оценка оказалась бы более объективной.
Результатами смещения новизны в бизнесе могут быть следующие негативные эффекты:
Для смягчения эффекта искажения новизны можно использовать следующие подходы:
Это искажение иногда называется «заблуждение о невозвратных затратах» и означает склонность продолжать какую-либо деятельность просто потому, что на нее уже потрачено много времени и усилий, даже если продолжать нет смысла. На практике это означает, что люди продолжают инвестировать в проект или решение, основываясь на прошлых расходах несмотря на то, что дальнейшие вложения не оправдают себя.
В экономике и повседневной жизни эта ошибка может привести к нецелесообразным действиям, поскольку люди зачастую игнорируют текущие обстоятельства и ориентируются на то, на что уже было потрачено. Это явление наблюдается в разных сферах, от бизнеса до личных решений, и оказывает большое влияние на эффективность их принятия.
Исследования показали, что чем больше убыток, тем сильнее смещение невозвратных затрат. Другими словами, чем больше инвестиции в провальный проект, тем меньше вероятность отказа от него.
Главной причиной данного типа искажения является эмоциональная составляющая: негативные эмоции от потерь оказываются гораздо сильнее, чем позитивные от приобретений. Поэтому одним из путей борьбы с ним является исключение эмоций при принятии решений.
Переоценка вероятности позитивных результатов и недооценка возможности негативных. Например, ресторатор принимает решение открыть ресторан в здании, где до него это пытались уже сделать несколько раз и каждый раз терпели провал. При этом он игнорирует факторы неудачного расположения и высокой конкуренции, которые и привели к закрытию предшественников, предполагая, что его опыт и знания в бизнесе уж точно позволят ему избежать проблем. Однако его бизнес закончил так же, как и предыдущие.
Одним из следствий склонности к оптимизму является то, что затраты и сроки реализации запланированных решений, как правило, недооцениваются, а выгоды переоцениваются. Именно поэтому она является одной из причин перерасхода средств при реализации больших проектов.
Исследования показали, что устранить оптимистическую предвзятость очень сложно, а экспериментальные данные свидетельствуют о том, что попытки ее уменьшить часто усиливают эффект.
Склонность к оптимизму не всегда оказывается негативным явлением и в некоторых ситуациях позитивный настрой может стимулировать к достижению целей и преодолению трудностей. Однако важно осознавать эту предвзятость и уметь сбалансировать оптимизм с реалистичной оценкой ситуации.
Склонность видеть зависимости в данных даже в том случае, если их распределение совершенно случайно и не подчиняется никаким закономерностям. Типичный пример — эксперимент с подбрасыванием монеты. Известно, что выпадения орла или решки являются случайным и независимым событием. Однако, если в ходе эксперимента три раза подряд выпадет орел, наблюдатель может сделать ошибочный вывод о наличии тенденции и предположить, что и при следующем броске выпадет орел, что, конечно же, неверно.
Как правило, данная разновидность когнитивного искажения связана с недостаточной репрезентативностью выборки или ее объема. Если выборка небольшая, то человек склонен недооценивать изменчивость данных и переоценивать их сходство. Если человек «увидел» несуществующую закономерность в данных, то и принимать решение он будет с ее учетом, что не лучшим образом скажется на его качестве.
Например, инвестор хочет принять решение о целесообразности покупки акций некоторой компании. Для этого он собирает выборку из десяти наблюдений за изменением их цены и обнаруживает, что в восьми случаях цена росла и только в двух падала (представлены на рисунке — круглыми метками). Из этого он сделал ошибочный вывод, что цена на эти акции постоянно растет и их покупка может сулить прибыль.
Таким образом, чтобы избежать влияния иллюзии кластеризации, нужно использовать критическое мышление и контролировать репрезентативность анализируемых данных.
Заключается в склонности человека выбирать стратегию принятия решений, при которой полностью исключается один риск, а не минимизируются несколько, даже если общий риск окажется ниже. Полное исключение одного из рисков, как правило, оказывается дороже частичного, что ведет к неэффективному распределению средств.
Причиной возникновения данного когнитивного искажения является предположение, что полное исключение риска позволяет в дальнейшем не обращать на него внимание. Например, владелец нескольких зданий может застраховать одно полностью, вместо того чтобы частично застраховать все. Иными словами, человек предпочтет снизить вероятность риска с 5% до 0, чем с 50% до 25%. Хотя второе представляет собой более значительное сокращение риска.
Предвзятость в отношении нулевого риска особенно сильна в условиях, когда риск значителен, что часто приводит к перерасходу средств и покупке ненужных услуг и товаров. Например, автолюбитель выбирает вариант страховки автомобиля: от угона, от ДТП и от стихийного бедствия. При этом имеющаяся в его распоряжении сумма позволит покрыть либо несколько рисков частично, либо один полностью. В результате он предпочтет страховку, полностью покрывающую ущерб от угона, поскольку в этом случае ущерб максимален. В то время как от аварии или природных явлений автомобиль может пострадать частично. Хотя вероятность угона намного ниже, чем попасть в ДТП или под крупный град.
Типичными примерами искажения нулевого риска является то, что покупатель часто выбирает товар с гарантией возврата денег вместо более дешевого аналогичного продукта, многие люди вкладывают средства в низкорисковые инвестиции, сводя к нулю риск потерь, но при этом снижают и выгоду.
Самому аналитику, ставшему жертвой когнитивного искажения, обнаружить это достаточно сложно, поскольку он, по сути, и является его источником и создает свою собственную «субъективную реальность» и комфортно в ней себя ощущает. Поэтому, чтобы избежать проблем, связанных с когнитивными искажениями в анализе данных, существуют три общих подхода:
Заблаговременное выявление и устранение когнитивных искажений является важнейшей практикой в бизнес-аналитике и анализе данных, позволяющей получать более точные и полезные знания для поддержки принятия решений.
Другие материалы по теме:
Репрезентативность выборочных данных
Теория ограничений: как расширить «узкие места» в анализе данных
