Иллюзия знания и её подробности

Иллюзия знания и её подробности

by Евгений Волков -
Number of replies: 0

Иллюзия знания. Почему мы никогда не думаем в одиночестве

https://sceptic.club/ru/library-ru/книги/illiuzija-znanija-ru

 

Человеческий разум одновременно и гениален, и жалок, он и блестящий, и идиотский. Непосредственно в наших головах хранится сравнительно мало подробной информации об окружающем мире. В этом смысле люди похожи на пчёл, а общество — на улей: носителем интеллекта являются не столько мозги индивидуумов, сколько коллективный разум. Полагаться приходится не только на знания, хранящиеся в наших черепных коробках, но и на сведения, хранящиеся в других местах: на то, что «знает» наше тело, на информацию, которую можно почерпнуть в окружающей среде, а главное — на знания других людей. 


 

Ни один человек не способен охватить своим разумом даже простую вещь во всех её аспектах. Для изготовления и использования даже самых простых объектов обычно требуется сложный комплекс знаний. Мы даже не будем упопинать о по-настоящему сложных вещах, существующих в природе, таких как бактерии, деревья, ураганы, любовь и... процесс воспроизводства. Как всё это работает? Большинство людей не сможет объяснить вам, как работает кофеварка, почему клей удерживает листы бумаги или как устроен механизм фокусировки фотоаппарата. 

При этом мы не считаем, что люди невежественныю Просто они знают меньше, чем себе представляют. Все мы в той или иной степени подвержены иллюзии понимания: думаем, что понимаемЮ как обстоят дела, в то время как на самом деле уровень понимания ситуации или предмета у нас весьма низкий.

В истории много событий, которые кажутся известными и лёгкими для понимания, и мы думаем, что хорошо понимаем их, но их истинный исторический контекст совсем иной, нежели мы себе представляем. Неочевидные детали со временем утрачиваются, и параллельно с этим возникают мифы, которые упрощают ситуацию и делают её описания «легкоусвояемыми», иногда просто в интересах той или иной группы.

Мы не можем понимать всё, и здравомыслящему человеку не следует даже пытаться это делать. Мы полагаемся на абстрактные, смутные и непроанализированные знания. Многие из нас являются специалистами в тех или иных областях, и в них мы много чего знаем, иногда до мельчайших подробностей. Но по большинству дисциплин мы располагаем лишь отрывочной информацией, и наше понимание едва выходит за рамки осознания того, что полная информация нам недоступна. На самом деле большинство наших знаний — это практически просто совокупность ассоциаций, связей высокого уровня между объектами и людьми, без какой-либо детализации.
Так почему мы не осознаём глубину своего невежества?

Для чего нужно думать

Одна из функций мышления — отображать окружающий мир и строить в наших головах модели, которые соответствовали бы истинному мироустройству в критически важных пунктах. Вторая функция — это обеспечение возможности вербальных коммуникаций, позволяющей нам легко общаться с другими людьми. Третья — это решение проблем и принятие решений.

Природа мышления такова, что оно с лёгкостью использует любые знания, которые может найти, независимо от того, находятся они внутри нашей головы или вне её. Мы живём в иллюзии знания во многом потому, что не можем провести чёткую грань между тем, что находится внутри и вне наших голов (хотя бы потому, что никакой чёткой линии разграничения между ними нет). Поэтому мы часто не знаем, чего именно мы не знаем.

Чтобы иметь по-настоящему своё мнение, мало прочитать пару газетных статей. Социальные проблемы вызываются сложными причинами, а соответствующие решения чреваты непредсказуемыми последствиями. Для правильной оценки последствий реализации той или иной политики необходимо обладать обширными экспертными знаниями, но даже их не всегда хватает. 

В итоге вместо того, чтобы попытаться адекватно оценить сложность проблемы, люди склонны принимать на вооружение подходящую к случаю социальную догму. Поскольку наши знания перемешиваются со знаниями других людей, наши убеждения и взгляды формируются обществом. Зачастую отвергнуть мнение, разделяемое нашими коллегами, настолько трудно, что мы даже не пытаемся оценивать истинность утверждений, основанных лишь на их заслугах. Иными словами, 

мы фактически позволяем своей группе думать вместо нас.

 

Иллюзия знания влечёт за собой и другие вредные последствия. Поскольку думаем мы сообща, мы, как правило, и работаем в группах. Это означает, что наши индивидуальные вклады в большей мере зависят от нашей способности взаимодействовать с другими, нежели от индивидуальных умственных способностей. Роль индивидуального интеллекта переоценивается.

В пространстве между нашими ушами действительно совершается нечто невероятное, но «оно» непосредственно зависит от того, что происходит в окружающей среде.

Что мы знаем

Слишком часто наша уверенность в том, что мы знаем, что происходит в той или иной ситуации, в начале бывает гораздо больше, чем в конце.

Действительно ли наши знания гораздо менее глубоки, чем мы думаем? Ответ на этот вопрос пытался найти учёный-когнитивист Фрэнк Кейл. Кейл занимался изучением существующих теорий мироустройства. Вскоре он осознал, насколько поверхностны и неполны эти теории, но столкнулся с непреодолимыми трудностями. Он не мог найти подходящий способ с достаточным научным обоснованием показать разницу между тем, сколько люди знают на самом деле, и тем, сколько они знают по их собственному мнению. Но в конце концов Кейла осенило, и он всё-таки придумал способ, позволяющий продемонстрировать то, что он называл иллюзией глубины объяснения.

Так родился метод изучения невежества, или, если угодно, неведения. Людей просто просят объяснить проблему, как они её понимают, и показывают, как представленные объяснения изменяют их оценку собственного понимания проблемы. К примеру, это могло звучать так:

     1. Насколько вы хорошо понимаете, как работает застёжка-молния (оцените в баллах от 1 до 7)?

     2. Как работает застёжка-молния? Опишите как можно подробнее все этапы её работы.

Если вы похожи на большинство испытуемых Кейла (и не работаете на фабрике застёжек-молний), ваш ответ на второй вопрос будет коротким и невразумительным. Вы просто не можете знать, как работает застёжка-молния. Из этого вытекает третий вопрос: 

     3. Теперь ещё раз, и опять по шкале от 1 до 7 баллов, оцените свои знания о том, как работает застёжка-молния.

После попытки объяснить, как работает застёжка-молния, респонденты в большинстве своём понимают, что в действительности они мало что знают о ней.

Такой эксперимент наглядно показывает, что люди живут в плену иллюзий. Оценивая свои знания дважды, люди во второй раз ставят себе более низкую оценку и тем самым фактически признают: «Я знаю меньше, чем думал(а)». Просто удивительно, насколько легко люди освобождаются от своих иллюзий; достаточно просто попросить их подробно объяснить суть дела.

Мы также обноружили, что в силу той же иллюзии люди переоценивают свои знания не только в отношении предметов повседневного обихода, но и почти всего остального: уровень своего понимания политических проблем, остро обсуждаемых научных проблем и даже собственных финансовых проблем.

Такова суть иллюзии глубины объяснения. До того как человек попытается что-то объяснить, ему кажется, что он в достаточной мере понимает предмет, но после объяснения — уже нет.

 

Поразительно, насколько отрывочны и поверхностны наши представления о знакомых предметах, даже тех, с которыми мы сталкиваемся постоянно и которые действуют с помощью не столь уж сложных механизмов.

Сколько мы знаем на самом деле?

Итак, мы переоцениваем объём наших знаний. Но можно ли как-то оценить их реальный объём? Ответом на этот вопрос занялся один из основателей когнитивистики Томас Ландауэр. В 1980-х он решил оценить объём человеческой памяти в тех же единицах, которые используются для измерения объёма памяти компьютера. Для этого Томас использовал несколько изящных приёмов. Например, он оценил средний словарный запас взрослого человека и подсчитал, сколько байт памяти потребуется для хранения такого объёма информации. Затем он использовал полученный результат для того, чтобы оценить средний размер всей базы знаний взрослого человека. В целом у негополучилось около половины гигабайта.

Далее Ландауэр подсчитал, какой объём информации находится в распоряжении человека (то есть каков объём его базы знаний), предположив, что он обучается с одинаковой скоростью на протяжении семидесяти лет жизни. Но все методы, которые он использовал, давали одинаковый результат: не более 1 гигабайта. Он не утверждал, что это правильное и точное значение. Но даже если он ошибся на порядок, всё равно этот объём оказывается неправдоподобно маленьким. Это малая доля от объёма, которая может храниться на любом ноутбуке. Оказывается, люди не являются хранилищами знаний.

Но шоком это будет лишь для тех, кто считает, что человеческий мозг работает так же, как компьютер. Представление о мозге как о машине оказывается несостоятельным при сопоставлении его со сложностью мира, с которым нам приходится взаимодействовать.

Познание состоит в основном из интуитивного мышления, то есть из процессов, протекающих ниже уровня сознания. Сюда, в частности, входит параллельная обработка огромных массивов информации при такой «элементарной» операции как поиск нужного слова.

Чтобы понять, насколько сложен этот мир, мы рассмотрим его под разными углами зрения. Например, в современных автомобилях около 30 000 частей. Но их настоящая сложность кроется не в количестве деталей, а в числе вариантов, которыми эти детали могут проектироваться и соединяться между собой. Даже профессиональные автомеханики, бывает, жалуются, что они теперь не чинят машины, а просто заменяют модули по подсказкам компьютера.

То же самое можно сказать обо всех изделиях, в которых используются современные технологии, от самолётов до радиочасов. Современные лайнеры настолько сложны, что ни один специалист не понимает их устройства во всех деталях.

Однако сложность всего, что изобрёл человек, меркнет в сравнении с многогранностью окружающего нас природного мира.

Многоклеточные организмы чрезвычайно сложны. Рассмотрим экстремальный пример — нервную систему. Даже у морского слизня 18 000 нейронов. С учётом стандартов эволюции мухи-дрозофилы и лангусты достаточно умны; у тех и других для обработки информации имеется более 100 000 нейронов. Медоносная пчела использует почти миллион нейронов. У млекопитающих сложность нервной системы на насколько порядков больше: у крысы около 200 миллионов нейронов, у кошек — почти миллиард, а у человека — около 86 миллиардов.

Несмотря на окромное число клеток в нашем мозгу, их всё равно недостаточно чтобы хранить всю информацию, которую мы получаем на каждом уровне детализации. Всё вокруг нас устоено слишком сложно.

Некоторые явления, которые мы пытаемся понять, на самом деле невероятно сложны; возможно, они в принципе не поддаются пониманию. Министр обороны США Дональд Рамсфелд известен своей классификацией уровней неизвестности:

«Существует «известное известное»: это предметы и явления, про которые мы знаем, что мы их знаем.
Существует «известное неизвестное»: это предметы и явления, про которые мы знаем, что их не знаем. 
Но существует также «неизвестное неизвестное»: это предметы и явления, про которые мы деже не знаем, что мы их не знаем.

Многие вещи, о которых люди вроде бы знают, остаются невероятно сложными независимо от того, сколь пристально вы за ними наблюдаете. В математике объекты, обладающие таким свойством называются фракталами. Лес состоит из множества деревьев, на каждом дереве огромное число веток, на ветках множество листьев, а листья пронизаны сложными узорами разветвлённых капилляров, которые напоминают человеческие вены. Если вы посмотрите на капилляр через мощный микроскоп, вы увидите не менее сложную структуру уже на клеточном уровне. Фракталы сохраняют сложность на всех уровнях. И многое в окружающей нас природе построено из фракталов.

Даже простые предметы повседневного обихода имеют некоторые аспекты, каждый из которых может обладать сложностью на уровне фракталов. К примеру шпилька: из каких материалов она сделана, откуда поступает каждый из этих материалов, как он используется при изготовлении шпильки, где они продаются и кто их покупает. Чтобы в полной мере оценить правильность ответа на каждый из этих вопросов, необходимо будет найти ответы на ряд новых вопросов.

Ещё один математический инструмент, показывающий, что окружающий мир слишком сложен для того, чтобы с этой сложностью можно было как-то управиться, — это теория хаоса. В хаотичной системе крошечные отклонения, имеющие место в начале процесса, со временем могут развиваться в гигантские изменения. Эффект бабочки — именно об этом.

Происходящие события выглядят неизбежными лишь в ретроспективе, задним числом, и это подчёркивает глубину нашего невежества. Мы просто не понимаем причинно-следственных связей, вызывающих то или иное событие.

 

Как мы можем что-то вещать, считая себя знающими людьми, и воспринимать себя всерьёз, если понимаем лишь малую часть того, что следовало бы понимаить? 

Ответ заключается в том, что мы постоянно живём в рамках ошибочных установок. Мы просто игнорируем эту сложность и переоцениваем собственные знания об устройстве мира, то есть живём в убеждении, что знаем, как он устроен, хотя чаще всего это не так. Мы миримся со сложностью, будучи на в состоянии понять её. Это и есть иллюзия понимания.

Почему мы думаем

Практически все животные имеют мозг. Исключение — морская губка. И вряд ли стоит считать случайным совпадением то, что это единственное животное, неспособное к действиям.

С появлением у животных нейронов и нервной системы их действия стали развиваться и усложняться с поразительной скоростью. Это происходило потому, что нейрон — это строительный блок гибкой системы приспособления, которую эволюция может использовать для программирования всё более сложных алгоритмов обработки информации.

Наш разум старается выбирать варианты действий, опираясь на самые полезные данные и оставляя всё прочее без внимания. Хранение в памяти всей когда-либо полученной информации мешало бы нам сосредоточиться на том сокровенном и основном, что позволяет заметить сходство новой ситуации с прошлым и определить, какие действия на текущий момент будут эффективными.

По мере усложнения строения мозга он всё лучше реагирует на глубинные и абстрактные характеристики (информационные воздействия) окружающей среды, что позволяет ему всё эффективнее приспосабливаться к новым ситуациям. Это весьма существенно для понимания иллюзорности знания:

хранение в памяти массы подробностей не является необходимым для обеспечения эффективности действий. Как правило, нам нужна лишь общая картина.

 

Если бы наша эволюция проходила в мире, где вознаграждались бы победители в азартных играх, мы, вероятно, безошибочно рассуждали бы о плотности распределения вероятностей и об уравнениях статистики. Если бы мы эволюционировали в мире, в котором поощрялось бы дедуктивное мышление, мы все, подобно Споку, были бы виртуозами по части логических заключений. Вместо этого мы развивались в мире, где правит логика действий, и именно поэтому такой вид мышления составляет основу того, что делает нас людьми.

Как мы думаем

Логическое мышление человека строится на причинно-следственных связях.

Способность к логическому мышлению не означает, что мы можем предсказать исход войны, результаты реализации новой программы здравохранения или даже качество работы туалета. Возможно, в анализе причинно-следственных связей мы преуспели больше, чем в каких-либо других направлениях, но явная иллюзорность глубины нашего объяснения ситуаций показывает, что даже в этом отношении наши индивидуальные достижения не столь уж и велики.

С помощью логического мышления мы пытаемся использовать свои представления о причинно-следственных механизмах для понимания происходящих изменений. Оно помогает нам предугадывать, что произойдёт в будущем, отслеживая механизмы трансформации причин в следствия.

Многие логические схемы выглядят вовсе не такими простыми, и некоторые вроде бы логичные аргументы на самом деле таковыми не являются. Для примера: если моё нижнее бельё голубого цвета, то носки у меня обязательно зелёные.

Мои носки действительно зелёные. Следовательно, на мне бельё голубого цвета.

Является ли это заключение обоснованным? Большинство людей полагает, что да, но с точки зрения учебника логики ответ будет отрицательным. Эта логическая ошибка называется утверждением консеквента (доказательство истинности основания методом обращения следствия).

Но люди не есть логические машины в том смысле, в каком ими являются компьютеры. Мы постоянно делаем умозаключения, но они основываются не на положениях из учебников логики, а на логике причинно-следственных связей.

Логика и способность к моделированию и выявлению причинно-следственных связей делают нас большими любителями историй. Психологи предположили, что истории формируют нашу личность, и не только нашу индивидуальную сущность, но и особенности тех сообществ, к которым мы принадлежим.

 

Истории могут формировать коллективную идентичность, но для их изложения нужны личности, когнитивная система которых соответствует необходимому для этого уровню.

Итак, людям как индивидуумам нужна когнитивная система, которая в состоянии осознавать причинно-следственные связи, содержащиеся в той или иной истории. Нам необходима когнитивная система, которая сможет разобраться в мотивах действий главных действующих лиц и их противников, понять, какие препятствия мешают достижению целей и как эти препятствия следует преодолевать.

Почему мы заблуждаемся

Вы не одиноки, если так и не смогли понять, как установить время на часах в кухонной плите, и решили так и жить при мигающем «12:00». Нормальное человеческое мышление просто не рассчитано на понимание некоторых вещей.

Сама жизнь и социальные системы устроены сложно, и единого «правильного» способа их понимания не существует. В процессе размышления активно используются догадки и приблизительные представления.

Было бы ошибкой упрекать себя за то, что мы оперируем причинно-следственными категориями далеко не идеально. Представьте себе, какой объём умственной работы необходимо было бы проделывать, чтобы в каждой конкретной ситуации мы могли делать точные каузальные выводы. Вы должны были бы знать всё об устройстве Вселенной и дополнять эти знания фактами о происходящих в ней изменениях.

Но вряд ли вы особенно разбираетесь в расположении, направлениях и скоростях движения молекул. Это не тот уровень детализации, на котором протекает наша жизнь. Наша система восприятия информации и двигательная система предназначены для функционирования на более высоком уровне — уровне, на котором мы взаимодействуем с материальным миром, флорой, фауной, а также с предметами, созданными человеком.

Того, казалось бы, критически малого объёма личных знаний каждого оказывается достаточно для нормальной обычной жизни.

 

По причине ограниченности наших знаний есть предел и у наших представлений о происходящих изменениях. Большинство людей — и даже химики и физики, когда они снимают свои рабочие халаты и становятся обычными людьми, — интересуются только теми причинно-следственными связями, которые действуют на предметы, видимые невооружённым глазом, на температуры в узком диапазоне от зимних до летних, сказываются на взаимодействиях между людьми, или, если говорить обобщённо, теми механизмами, которые действуют в нашей повседневной жизни. В том небольшом по меркам Природы диапазоне условий, в которых мы живём, наши поверхностные причинно-следственные рассуждения в подавляющем большинстве случаев способны обеспечить нам нормальную жизнь.

Весьма полезно было бы подумать о том, какую роль играет наше сознание в интуиции и какую — в размышлениях. Если мысль является нам интуитивно, она появляется в нашем мозгу как бы сама собой. Не трепуется никаких усилий для решения следующей анаграммы:

ИНТИУЦИЯ — переставим две буквы и получим «интуиция».

Но когда вы что-то обдумываете, вы осознаёте не только принятое решение, но и путь, которым вы к нему пришли. Вот вам на этот случай более сложная анаграмма:

АЕБДЫМОВИНУ

Если вам удастся её разгадать, то вам станет известен не только конечный результат, но и ход мыслительного процесса, приведшего к этому результату.
Если бы одних только логических аргументов было достаточно, чтобы сделать людей хорошими, они по справедливости заслуживали бы самых высоких наград. Но сами по себе они лишь немногих могут побудить к великодушию и добродетели.

Что же касается причинно-следственных рассуждений, то те выводы, к которым мы приходим быстро и по наитию, не всегда идентичны тем, к которым мы пришли бы путём тщательного обдумывания.

Профессор-маркетолог Йельского университета Шейн Фредерик предложил простой тест, позволяющий определить, к чему в большей мере склонен данный человек: к интуитивности или обдумыванию. Он назвал это тестом для проверки когнитивных способностей, или когнитивной рефлексии. Он состоит из трёх несложных задач. Одну из них Шейн нашёл в сборнике загадок:
«Теннисная ракетка и мяч вместе стоят 1,1 доллара. Ракетка на один доллар дороже мяча. Сколько стоит мяч?» 

Вы полагаете 10 центов? Большинство людей полагает (в том числе и студентов университетов Лиги плюща), что именно это и есть правильный ответ. На самом деле вопрос заключается в том, следует ли поверить подсказке интуиции или лучше проверить её. Если проверите — увидите, что если мяч стоит 10 центов, а ракетка на 1 доллар дороже, то вместе они должны стоить 1,2 доллара. Правильный ответ: мяч стоит 5 центов.

Вторая задача:
«В пруду растут кувшинки. Каждый день площадь, покрытая кувшинками, удваивается. Если пруд полностью покрывается кувшинками за 48 дней, то за сколько дней кувшинки покроют половину пруда?»

Вам кажется, что за 24? Да, это кажется логичным большинству отвечавших на вопрос. Правильный ответ: пруд будет покрыт кувшинками наполовину за день до того, как будет покрыт ими полностью, то есть на 47-й день.

И последняя задача:
«Если 5 машин за 5 минут изготавливают 5 приборов, сколько времени потребуется, чтобы 100 машин изготовили 100 приборов?»

И опять «логика» тянет в сторону неверного ответа: 100 минут. Правильный ответ: 5 минут.

Общее у этих трёх задач то, что во всех трёх случаях на ум приходит неправильный ответ. Для получения правильного ответа нужно просто блокировать интуитивный ответ и произвести несложные вычисления. Правильные ответы на все три задачи дают менее 20% американцев. Математики и инженеры справляются с ними лучше, чем поэты и художники, но ненамного.

Интуиция обеспечивает нам упрощённый, весьма приблизительный, хотя обычно довольно сносный анализ, и это порождает у нас иллюзорное ощущение достаточности нашего знания. Но, если мы даём себе труд немного поразмыслить, нам становится очевидно, насколько сложнее устроен мир и как мало мы в действительности знаем.

Мышление с участием тела и окружающего мира

В одном эксперименте участникам предложили прочитать текст на экране компьютера. При этом на каждого участника было надето устройство, отслеживающее движение глаз, кооторое сообщало компьютеру, куда человек смотрит. Кроме того, исследователи использовали весьма остроумный приём: основную площадь экрана компьютера занимал бессмысленный текст, случайный набор букв, а осмысленный текст показывался только в маленьком окошке, помещавшемся именно в том месте, куда смотрит участник эксперимента. То есть окошко перемещалось вместе со взглядрм испытуемого, и он видел только осмысленный текст, при этом окружающий окошко текст представлял собой просто произвольно набранные буквы.

Учёные установили, что пока окошко оставалось достаточно большим, участники эксперимента и не догадывались, что основная площадь экрана за пределами взгляда заполнена бессмыслицей. Они считали, что на всём экране показывается нормальный текст. Обычно такое окошко имело ширину как минимум 18-18 букв: примерно 2-3 буквы влево от точки фиксации и 15 вправо (поскольку читали слева направо). В окошке помещалось всего несколько слов. Человек, стоящий позади читающего и тоже смотревший на экран, увидел бы на нём в основном бессмысленный набор букв, однако читающий ничего про это не знал.

Эта парадигма перемещающегося окошка наводит на мысль, что ощущение понимания — кажущееся, а ваше ощущение наличия у вас пространственной модели мира — иллюзорное. 

На самом деле всё, что вы способны увидеть, — это лишь небольшая зона, на которой сфокусирован взгляд.

 

Почему же возникает это ощущение, что вы видите ВСЁ пространство? Да потому, что вы видите это пространство независимо от того, куда смотрите. Это даёт ощущение, что вы знаете всё окружающее пространство, но это тоже иллюзия.

Чтобы убедиться в этом, попробуйте закрыть глаза и воссоздать окружающую вас обстановку. Будьте конкретны! Что находится выше вашей обычной линии взгляда? Если вы не отличаетесь от большинства других людей, вы удивитесь, насколько плохим окажется ваш ответ на этот простой вопрос. Нам кажется, что в голове у нас есть модель окружающего мира с подробным описанием всего, что там имеется. Но на самом деле это не так.

Превращение высшей человекообразной обезьяны в человека в масштабах эволюции произошло очень быстро. 2-3 миллиона лет назад в африканской саванне появился вид Homo, а примерно 200 000 лет назад появился современный человек. Гигантский скачок, который совершило человечество за этот период, объясняется в первую очередь прогрессом в познании.

Русский психолог Лев Выготский утверждал, что человек отличается от других живых существ не интеллектуальными возможностями индивидуального мозга, а способностью учиться удругих людей, воспринимать информацию, накопленную в данной культуре, способностью к сотрудничеству, к активному взаимодействию с другими людьми в ходе коллективных действий.

Так же как люди не в состоянии определить, где заканчивается их деятельность и начинается деятельность других, они не могут чётко отделить свои знания от знаний других людей. Осознание того, что в сообществе имеется доступная информация по той или иной теме, само по себе приводит к тому, что люди ощущают себя достаточно компетентными.

В сообществе носителей знаний возможность доступа к знаниям важнее обладания знаниями. Развитие научных медицинских исследований породило такой поток информации, что лечащий врач-терапевт уже не может знать всё обо всех многочисленных болезнях и симптомах. Но их спасают электронные базы данных.

Мои познания должны заключаться не столько в фактах, сколько в ссылках и указаниях на места размещения.

 

Возникновение иллюзии знания объясняется тем, что мы живём в сообществе носителей информации и не способны отделить данные, хранящиеся в нашей памяти, от фактов за её пределами.

Оборотной стороной иллюзии знания является то, что экономисты называют проклятием знания. Обычно, если человек что-то знает, ему трудно представить себе, что кто-то этого не знает. Если я выстукиваю мелодию известной песни, меня иногда чрезвычайно удивляет то, что другие не могут правильно определить, что это за песня. Хотя это кажется настолько очевидным...

Но существуют и более опасные последствия. Поскольку мы путаем имеющиеся у нас знания с теми, к которым всего лишь имеем доступ, можно сказать, что мы просто не отдаём себе отчёта в том, насколько мало мы знаем.

Размышления о науке

Отношение к науке связано не с рациональной оценкой фактических данных, поэтому предоставление информации не может повлиять на соответствующие настроения в обществе. Это отношение формируется под воздействием множества контекстуальных и культурологических факторов и по большому счёту вообще не подвержено переменам.

Наши установки не являются результатом рациональной бесстрастной оценки фактических данных. Это объясняется тем, что наши убеждения не являются изолированными блоками данных, которые мы при желании можем взять и выбросить. На самом деле наши установки тесно переплетены с другими убеждениями, общими культурными ценностями и встроены в наше самосознание. Отказ от одной установки часто подразумевает отказ от целого комплекса других: разрыв со своей общиной, выступление против тех, кого мы любим и кому доверяем, — короче говоря, угрожает нарушить всю нашу самоидентификацию.

Наши верования и установки не являются только нашими. Они принадлежат всей нашей общине. Поэтому изменить их действительно очень трудно.

Обычно ни у кого из нас нет достаточно обоснованной и детализированной точки зрения в отношении новых технологий и научных достижений. У нас просто нет другого выхода, кроме как принимать точку зрения людей, которым мы доверяем.

Определённость высказываемых мнений обычно не соответствует их обоснованности.

 

Кроме того, у людей нет чёткого представления о том, сколько они знают, а потому их представления об обоснованности собственных установок в огромной степени зависят от данного сообщества носителей знаний. В результате в обществе формируются группы с поляризованными и эмоционально заряженными взглядами, изменить которые очень трудно.

Размышления о политике

Клинт Иствуд как-то сказал: 

«Быть экстремистом просто. У вас просто есть своя позиция, вот и всё. Для этого не нужно много думать.»

 

В экстремальных случаях неспособность оценить недостаточную глубину своего понимания проблемы в сочетании с поддержкой сообществ может инициировать крайне опасные социальные процессы. Не обязательно быть историком, чтобы припомнить случаи, когда общество, пытаясь установить единую господствующую идеологию, выдавливало, а то и выжигало самостоятельное мышление и политическую аппозицию с помощью пропоганды и террора.

Такое сообщество «носителей знаний» может стать опасным: мы влияем на людей, с которыми говорим, но и они влияют на нас. Если члены группы не обладают соответствующими познаниями, но разделяют позицию друг друга, они могут взаимно усиливать ощущение понимания проблемы; они укрепляются во мнении, что их позиция вполне обоснована и их миссия ясна, даже не имея знаний, подкрепляющих это мнение.

Социальный психолог Ирвинг Джанис назвал это феноменом группового мышления. Один общий вывод состоит в том, что, когда сходно мыслящие люди обсуждают некую проблему совместно, их общее мнение становится более поляризованным. То есть после такого обсуждения они ещё больше укрепляются во мнении, которое имели до обсуждения.

Иллюзия глубины объяснения позволяет людям занимать гораздо более сильные позиции, нежели они могут обосновать.

 

Пытаясь объяснить проблему (как описано в главе 1), люди убеждаются, что не понимают её настолько хорошо, как ои думали. Мы решили, что, поскольку люди переоценивают степень своего понимания проблемы туалетов и консервных ножей, они также переоценивают и степень своего понимания политических процессов. Приводили ли эти неудачные попытки объяснений к тому, что они становились более «смиренными», а их уверенность в правильнсти своих позиций уменьшалась? Да. Улюдей, пытавшихся объяснить механизм и структуру политических процессов, снижалось не только ощущение понимания проблемы, но и степень радикальности позиций. 

Обычно, когда люди задумываются о своей позиции по тому или иному вопросу, они вспоминают, почему так уверены в том, что делают, и находят аргументы в пользу позиции, которую они уже заняли, не углубляясь в объяснение причин того, как и почему данная стратегия должна привести к хорошим или, наоборот, плохим результатам.
Когда люди думают и говорят о стратегиях, они обычно не вдаются в объяснения причинно-следственных связей. При обсуждении стратегий разговор идёт в основном о том, почему мы верим в то, что делаем: почтому что некто согласен с нами, потому что считаем, что данная стратегия соответствует нашим ценностям, потому что слышали об этом в утренних новостях. Может быть, самое важное преимущество объяснения на уровне причинно-следственных связей состоит в том, что при этом объясняющему поневоле приходится выходить за пределы собственной системы установок. Нельзя рассматривать последствия какой-либо политики, опираясь лишь на свои ощущения. Вам поневоле придётся думать о стратегии «на её условиях»: как и кем она будет осуществляться в реальности и что будет происходить в мире дальше.

Объяснения на основе причинно-следственных связей, возможно, являются единственной формой мышления, которая позволяет разрушить иллюзию глубокой обоснованности объяснений и в какой-то мере изменить отношение людей к проблеме.

 

Формулировка причин вместо приведения объяснений на уровне причинно-следственных связей побуждает людей вести себя совершенно по-другому: респонденты не продемонстрировали ни ощущения недостаточного понимания проблемы, ни смягчения своих позиций. Только когда вас просят предоставить объяснения на уровне причинно-следственных связей, вам приходится преодолевать пробелы в своих знаниях. Подбор же аргументов в пользу своей позиции не даёт ничего, кроме укрепления уже имеющихся установок.

Осознав пределы своего понимания проблемы, мы с меньшей вероятностью стремимся принимать практические меры для продвижения своей позиции.

Люди часто занимают жёсткие позиции по тем или иным вопросам, хотя их точка зрения, как правило, слабо аргументирована и, конечно, совершенно недостаточно обоснована для того, чтобы её можно было озвучить.

Джонатан Хайдт утверждает, что: 

моральные решения редко основываются на логических умозаключениях, гораздо чаще — на интуиции и чувствах.

 

Жёсткие моральные реакции, по-видимому, вообще не требуют рациональных объяснений. Как и твёрдые политические убеждения, они обычно совершенно не зависят от того, понимаем или не понимаем мф последствия реализации данной политики, которую мы рьяно защищаем, или, наоборот, резко усуждаем.

Так что наше утверждение, что объяснения на уровне причинно-следственных связей — это простой и эффективный способ смягчения остроты мнений, относится не ко всем проблемам, а только к тем, мнения людей по которым формируются на основе оценки результатов, а не на основе ценностей.

Почему политики и заинтересованные группы так часто апеллируют к сакральным ценностям, а не продумывают причинно-обусловленные последствия поддерживаемых или отвергаемых ими стратегий? Самый очевидный ответ — умышленное запутывание вопроса: политические предпочтения, которые позволяют привлечь голоса и/или деньги, отнюдь не идентичны результатам, вытекающим из логического анализа, поэтому заинтересованные лица изобретают его. Другой ответ заключается в том, что спрогнозировать последствия той или иной политики очень трудно. Гораздо легче просто скрыть своё невежество под покровом банальных высказываний о сакральных ценностях. Это давно известный политический приём. Секрет тут в том, что люди, профессионально освоившие искусство убеждения, за прошедшие тысячелетия усвоили: 

если мнение людей формируется на основе сакральных ценностей, то причинно-следственные связи не имеют никакого значения.

 

Есть много поводов для критики избирательных процедур, предусматривающих прямое голосование граждан. Наша главная проблема заключается в том, что такие процедуры не учитывают фактор иллюзии знания. Обычные граждане редко обладают знаниями, достаточными для того, чтобы принять обоснованное решение в отношении неоднозначной социальной политики.

Мы надеялись, что разрушая у людей иллюзию понимания проблемы, мы побудим их проявить любопытство и интерес к новой для них и легкодоступной информации по данной теме. На самом деле всё оказалось иначе. Люди, узнавшие, что они ошибались, не очень-то склонны искать новую информацию по данной проблеме, а то и вообще перестают ею интересоваться. Этому способствует объяснение на уровне причинно-следственных связей, но люди не любят, когда их иллюзии разрушаются.

Новое определение разумности

Восхваление отдельных физических лиц в сочетании с нашим неумением оценивать роль сообществ, которые они представляют, — это не просто приём, позволяющий упростить сложный исторический контекст. Сохраняемые нами образы этих людей формируют представления о событиях, в которых они принимали участие. Каждый лидер становится символом соответствующего движения, а затем — в представлении народа — превращается как бы уже и в само движение.

Наша склонность подсознательно заменять сложные процессы именами людей проявляется, в частности, в том, как мы говорим об общественных институтах. Американцы говорят об администрации Эйзенхауэра или Кеннеди так, как если бы президент Соединённых Штатов лично осуществлял все функции исполнительной власти.

Таким образом мы возносим не только политиков. Поклонение герою широко распространено и в индустрии развлечений. Люди склонны идеализировать значимых лиц и воздавать им честь и хвалу, но также и обвинять их, когда дела идут плохо.

Подобную необъективность легко заметить и в наших представлениях о науке, например о философии. Мы склонны ассоциировать целые области исследований с именами выдающихся мужей. Такой человек представляется нам поднявшимся над уровнем мышления и духа своей эпохи. Он представляет себе ментальные границы своего сообщества и самостоятельно формирует новую парадигму, которая должна инициировать в обществе революционные перемены.

Некоторые великие учёные признавали, что многие другие до них пахали и удобряли почву для научных исследований, в которую они смогли посеять семена своих теорий. Взять, например, Эйнштейна. Он говорил, что не смог бы создать теорию относительности, не опираясь на труды своих великих предшественников.

Прорывы в науке совершаются, видимо, не только потому, что приходят гении, но и благодаря созданию условий для конкретных открытий.

 

То есть: сформулированы нужные теоретические положения, накоплены нужные данные. Что самое важное, назревшие проблемы уже обсуждаются. Сообщество учёных объединяет свою коллективную мудрость и нацеливает её на актуальные проблемы, «созревшие» для получения ответов.

Возможности человеческой памяти и человеческого разума ограничены. Вследствие этого возникает тенденция к упрощению, причём один из способов — это формирование культов, когда значимые личности начинают олицетворять сообщества, которые они представляют. Вместо того, чтобы постигать ситуацию во всей её сложности, когда многие люди преследуют несколько целей, и пытаясь запомнить все эти факты (что является практически невыполнимой задачей), мы «свёртываем» события в маленький шарик и привязываем их к конкретному человеку. Это позволяет нам игнорировать не только массу иногда пикантных, иногда кровавых деталей, но и строить повествование, в котором сложная сеть событий и межличностных отношений в сообществе фактически заменяется историей жизни выдающегося человека.

Как сделать людей разумными

Когда дело доходит до навыков, от которых зависит благосостояние человека, оказывается, что практический опыт лучше формального образования. Человек вообще предназначен в первую очередь для действий, а не для того, чтобы слушать лекции, оперировать символами и запоминать факты.

Иллюзия понимания возникает потому, что люди путают понимание с общей осведомлённостью или с опознанием знакомого текста. Даже если вы просто пробежались глазами по словам, когда вы увидите его в следующий раз, он покажется вам знакомым. Этот эффект сохраняется в течение весьма длительного времени. Проблема заключается в том, что учащиеся (а на самом деле — мы все) склонны путать чувство узнавания с действительным пониманием материала.

Мы страдаем от иллюзии знания ещё и потому, что путаем то, что знают специалисты, с тем, что знаем мы сами. Тот факт, что мы можем получить доступ к чужим знаниям, создаёт у нас ощущение, что мы уже знаем, о чём говорим.

 

Не мы первые оценили важность осознания имеющихся пробелов в знаниях. Эта идея уже получила некоторое признание в научно-просветительской среде. 

Вся наука строится на подтверждениях: признаются только те выводы, которые могут быть подтверждены. Подтверждения представляются в разных формах: непосредственное наблюдение в микроскоп, или же логический вывод. Однако большинство выводов в науке основаны не на наблюдениях, и не на логических выводах. Чаще всего они опираются на чей-то научный авторитет, на то, что написано в учебнике или в журнальной статье, или на то, что говорит вам ваш друг-эксперт. Роль сообщества носителей знаний состоит, в частности, в том, чтобы обеспечивать «готовые» факты, если пряиое подтверждение выводов заняло бы слишком много времени или было бы слишком дорогостоящим и сложным.

Поскольку большая часть знаний не хранится непосредственно в головах учёных, им — как и всем нам — приходится просто доверять другим людям. Многое из того, что учёные считают истиной, — это вопрос веры, причём не в некое высшее существо, а в то, что другие говорят правду. То есть в основе всего — доверие (прим. sceptic).

Если некто выдвигает научное утверждение, должны ли мы верить этому человеку? Это очень важный вопрос для всех — как для учёных, так и для неучей, — потому что зачастую оказывается, что положиться на мнение экспертов — решение более ответственное , чем просто поверить самому себе.

Но как определить, что вы получаете действительно советы эксперта? Если вы понимаете, в какой мере этот совет научно обоснован, вам просто нет цены, потому что вы можете непосредственно оценить качество полученного совета. Но обычно человеку для этого не хватает знаний. Тогда вы можете спросить, основано высказанное утверждение на воспроизводимых доказательтсвах или на житейском опыте, передаваемом от человека к человеку. Была ли данная рекомендация опубликована в рецензируемом научом журнале, в газете New York Times или в одной из «жёлтых» газетёнок? 

Усвоение знаний о природе науки — о научном процессе, о случаях научного мошенничества, об оценках научных достижений коллегами, о научных изменениях и неопределённости — это критически важная составляющая навыков оценки научных утверждений.

 

Ещё одна важная цель образования — научить людей определять, насколько правдоподобно то или иное утверждение, кто может это распознать и какова вероятность того, что данный человек говорит правду. Ни на один из этих вопросов нет простого ответа, но образованный человек должен отделять зёрна от плевел лучше, чем необразованный.

Зависимость от других в плане знаний и информации делает нас уязвимыми для тех, кто хотел бы использовать эту зависимость для распространения лжи. Превращение студентов в людей, обладающих достаточно высокой научной грамотностью и умеющих отличать достоверную информацию от информационного мусора и шумового фона, не только позволит им освоить лучшие стратегии написания статей, но и принесёт другие полезные плоды.

Как принимать более разумные решения

Мир устрашающе сложен, и выбор возможных решений настолько велик, что никто не способен учесть все детали. Если каждый раз, когда нап мотребуется упаковка лейкопластыря, мы начнём изучать метаболические процессы у бактерий, то многие так и будут ходить с гнойными ранами. В большинстве случаев мы просто выбираем товар, который КАЖЕТСЯ нам более привлекательным и, как правило, это неплохо срабатывает.

Информационные материалы пишут эксперты. При этом они уверены, что понять написанное ими способен любой человек, поскольку им самим текст понятен — это проклятие знания.

Членство в сообществе носителей знаний приводит к неспособности разграничить то, что хранится в голове одного человека, и то, что содержится в умах других людей.

 

Наличие же опыта означает, что у вас есть не только определённые навыки, но и понимание того, какими навыками нужно обладать, чтобы считаться опытным. При этом отсутствие знаний означает, что у вас нет ни навыков, ни их понимания.

Это сопоставление объясняет так называемый эффект Даннинга-Крюгера, который состоит в том, что тот, кто показывает худшие результаты, переоценивает свои навыки больше других. Не обременённые квалификацией люди просто не понимают, сколь многого они не знают.
По мнению Даннинга:

«Наше незнание, как правило, определяет ход жизни неведомыми нам способами. Проще говоря, люди склонны делать то, о чём они имеют представление, и предпочитают не делать того, о чём не имеют понятия. Таким образом, наше невежество в огромной мере определяет путь, по которому мы следуем в жизни...».

 

Это факт, и его нужно принять как данность. Не имея знаний о возможных вариантах, мы не можем сделать правильный выбор. В большинстве случаев это не является проблемой. Однако за незнание приходится и платить. Если мы не знаем, в какие опасные игры втянуты наши дети, может случиться трагедия. 

И всё же иллюзия — это удовольствие. Многие из нас проводят значительную часть своей жизни в иллюзиях по собственной воле. Мы развлекаем себя общаясь с вымышленными мирами, которые совсем не претендуют на то, чтобы стать реальностью. Мы фантазируем — и для удовольствия, и для творчества.

Те, кто живёт в иллюзии знания, переоценивают уровень своей информированности, и в этом есть некоторые преимущества. С одной стороны, такой подход позволяет уверенно делать смелые заявления и принимать решительные меры. Иллюзия знания сообщает людям уверенность, необходимую в экстраординарных ситуациях. С другой стороны, это чревато и серьёзными катастрофами. В основе многих великих достижений лежит ошибочная уверенность в собственной осведомлённости. Придётся сделать вывод, что подобные иллюзии, возможно, были просто необходимы для развития человеческой цивилизации.

6262 words