Эссе специалиста по AI и автора проекта Less Wrong, опубликованное в его блоге в 2006 году, описывает двенадцать идей или качеств, присущих рациональному мышлению. Рациональность Юдковски описывает не только как любовь к истине, но и как готовность соответствовать ей даже в собственных личных качествах и верованиях. Эссе написано в манере даосских и буддистских  мыслителей, что сразу заметно по его оригинальной стилистике.

Публикуем перевод этого эссе на русский язык (отредактировано по переводу Данилы Сентябова).

ПЕРВАЯ ДОБРОДЕТЕЛЬ — ЛЮБОПЫТСТВО

Жгучий зуд любопытства влечёт человека к истине вернее торжественных клятв и волевых решений. Любопытство возникает там, где незнание сходится с желанием знать. Если в своём сердце ты уверен, что уже достиг правды, или же не хочешь её достичь, тогда твой поиск будет бессмыслен, а все умения бесполезны.

Любопытство стремится уничтожить самое себя: нет любопытства, что не жаждет удовлетворения. Величие загадки в том, чтобы быть разгаданной и утратить свою загадочность. Остерегайся тех, кто признаёт собственное незнание со смирением: есть время признавать невежество и время избавляться от него.

ВТОРАЯ ДОБРОДЕТЕЛЬ — ОТРЕЧЕНИЕ

Как пишет Патрисия Ходжелл, «что может быть разрушено истиной, не заслуживает спасения». Не избегай встречи с тем, что может уничтожить твои верования. Мысль, которую ты гонишь из сознания, связывает тебя сильнее мысли, о которой ты можешь говорить открыто. Без страха бросай свои верования в огонь испытаний.

Очищай своё сердце от эмоций, растущих из ложных верований и пестуй в нём те, что основаны на истине. Если к лицу твоему подносят холодное железо, а ты веришь, что оно раскалено, Путь не приемлет твоего страха. Если к лицу твоему подносят раскалённое железо, а ты веришь, что оно холодно, Путь не приемлет твоего спокойствия.

Твои эмоции должны происходить из правильных верований. Повторяй снова и снова: «Если железо раскалено, я желаю верить, что оно раскалено. Если железо холодно, я желаю верить, что оно холодно». Легко привязаться к верованиям, рождающим эмоции. Остерегайся таких привязанностей: они могут увести тебя от истины.

ТРЕТЬЯ ДОБРОДЕТЕЛЬ — ЛЁГКОСТЬ

Позволь ветру фактических подтверждений нести тебя как осенний лист, не выбирая направления. Опасайся идти против этого ветра. В безнадёжной борьбе ты всё равно будешь отступать пядь за пядью, на каждом шагу ощущая горечь поражения. Сдавайся истине так быстро, как только сможешь.

Заметив за собой малейшую попытку сопротивления, сдавайся. Сдавайся в тот самый миг, когда уловишь, с какой стороны ветер фактов дует против тебя. Предавай свои верования при первой же встрече с более сильным противником. Верность неверным верованиям — порок, а не добродетель.

Но итогом станет не свобода, а рабство на цепи у произвольных верований. Нельзя составить карту города, если ты сидишь на кровати с закрытыми глазами и чертишь на бумаге произвольные линии. Надо обойти город с широко раскрытыми глазами и честно нанести на бумагу то, что видишь. Если ты, видя город нечётко, трактуешь неопределённость по собственной прихоти, смещая линии левее, правее, выше или ниже, ты поддаёшься той же самой ошибке.

ЧЕТВЁРТАЯ ДОБРОДЕТЕЛЬ — БЕСПРИСТРАСТНОСТЬ

Тот, кто желает верить, спрашивает себя: «Позволяют ли фактические подтверждения верить?». Тот, кто не желает, спрашивает: «Принуждают ли фактические подтверждения верить?». Остерегайся предпочтений, которые усыпляют твой скептицизм по отношению к приятным для тебя утверждениям и держат его настороже только при столкновении с неприятными.

Если ты уделяешь внимание только фактам, говорящим в пользу твоих взглядов, то чем больше фактов ты соберёшь, тем меньше узнаешь нового. Если ты с инквизиторским рвением расчленяешь в поисках ошибок одни рассуждения, а к другим проявляешь снисхождение, то каждая ошибка, которую ты разоблачишь, лишь сделает тебя глупее.

Если некто начал рассуждение с того, что написал внизу страницы: «Таким образом, небо — зелёное!», уже неважно, что он напишет выше: конечный вывод записан и он либо истинен, либо ложен. Ловкость в аргументации — не рациональность, а рационализация.

Рассматривая гипотезу за гипотезой, выслушай, что каждая из них может сказать в свою защиту. Но помни: ты не гипотеза, а судья. Не позволяй себе выступать в защиту какой‑либо стороны: тот, кто уже выбрал сторону, не нуждается в рассуждении. Если ты знаешь пункт назначения, ты уже на месте.

ПЯТАЯ ДОБРОДЕТЕЛЬ — СПОР

Желающий ошибиться отказывается от чужой помощи, которая могла бы помочь ему. Тот, кто скажет с мудрой улыбкой «я не буду спорить», отвергает помощь и устраняется от общего стремления к правде. В споре стремись к абсолютной честности — не только ради других, но и ради самого себя. То, что искажает твои слова и заставляет тебя лукавить, искажает и твои мысли.

Не думай, что делаешь одолжение собеседнику, соглашаясь с ним. Если его аргументы сильнее твоих, это он сделал тебе одолжение, поделившись ими. Не путай справедливость ко всем сторонам с поиском компромисса. Истина не раздаётся поровну между сторонами перед началом спора. Нельзя приблизиться к истине и с помощью кулаков и оскорблений. Стремись провести эксперимент, чтобы сама реальность рассудила, кто прав.

ШЕСТАЯ ДОБРОДЕТЕЛЬ — ЭМПИРИЗМ

Корни знания — в наблюдениях, а плоды его — точные предсказания. Где то дерево, что растёт без корней? Где то дерево, что питает нас без плодов?

Если дерево падает в безлюдном лесу, слышен ли звук его падения? Один скажет: «Да, слышен, ведь падение создаёт звуковые колебания в воздухе». Другой возразит: «Нет, не слышен, ведь нет мозга, в аудиторной области которого возбудились бы нейроны». Хотя один говорит «да», а другой «нет», их спор лишён содержания, ведь ожидаемый ими опыт взаимодействия с лесом совпадает.

Всегда думай не об верованиях, а об экспериментальных результатах, которые ты ожидаешь увидеть. Никогда не теряй из виду реальный предмет спора — различия в ожидаемых наблюдениях. Не позволяй увести себя в сторону и перескочить на обсуждение личности спорщиков или бравирование своей рациональностью.

Как сказал Джерри Кливер о спортивных матчах, «губят не ошибки в выполнении замысловатых техник. Губит элементарное: потеря мяча из виду». Не позволяй словам ослепить себя. Очисти свои мысли от слов и останутся лишь ожидаемые результаты наблюдения.

СЕДЬМАЯ ДОБРОДЕТЕЛЬ — ПРОСТОТА

Антуан де Сент‑Экзюпери писал: «Совершенство достигается не тогда, когда нечего добавить, а тогда, когда нечего отнять». Ищи простоты в верованиях, проектах, планах и доказательствах.

Чем сложнее высказанное тобой верование, чем больше в нём деталей, тем больше вероятность ошибки, которая поставит под сомнение всю конструкцию. Каждое отдельное утверждение утяжеляет твою ношу, и если эту ношу можно облегчить — сделай это. Нет такой соломины, которая не могла бы сломать тебе спину.

Самая надёжная шестерня в машине — та, которой там нет. Чем меньше паутина — тем она прочнее. Цепь из тысячи шагов приведёт тебя к верному выводу лишь тогда, когда каждый шаг безошибочен. Даже одна оплошность может завести в никуда. Математикам известно, что целые горы праведных деяний не искупят единственного греха. Следовательно, не ослабляй внимания ни на секунду.

ВОСЬМАЯ ДОБРОДЕТЕЛЬ — СКРОМНОСТЬ

Быть скромным — значит заранее принимать меры в ожидании своих ошибок. Признавать свою способность ошибаться и не пытаться её компенсировать — значит не быть скромным, а бравировать мнимой добродетелью.

Кто воистину скромен? Тот, кто неустанно готовит себя к самым катастрофическим ошибкам в собственных верованиях и расчётах. Мышление миллионов людей настолько слабо, что даже начинающий рационалист легко побеждает их в споре, преисполняясь гордыней и переоценивая собственные умения. Но нет славы в том, чтобы быть выше других. Лучший физик Древней Греции не смог бы рассчитать траекторию падающего яблока.

Не успокаивай себя тем, что другие справляются ещё хуже. Сравнивая себя с другими, ты не увидишь искажений, общих для всех людей. Быть человеком — значит совершить десять тысяч ошибок. Нет в мире того, кто был бы достаточно хорош. Совершенство недостижимо.

ДЕВЯТАЯ ДОБРОДЕТЕЛЬ — ПЕРФЕКЦИОНИЗМ

Чем больше ошибок ты исправишь, тем больше заметишь новых. Чем тише станет твой ум, тем лучше ты будешь различать шумы и помехи. Когда ты замечаешь собственную ошибку — это признак того, что ты готов к переходу на следующий уровень. Примиряясь со своими ошибками, вместо того, чтобы корректировать их, ты не сможешь выйти на новый уровень и не увидишь другие, менее явные ошибки.

В любом искусстве и ремесле тот, кто не ищет совершенства, остановится, не сделав и первых шагов. Недостижимость совершенства не оправдывает отказ от стремления к нему. Поставь для себя самую высокую планку, которую только можешь вообразить, и думай о том, как поднять её ещё выше. Не довольствуйся тем, что почти верно. Всегда ищи абсолютно верное.

ДЕСЯТАЯ ДОБРОДЕТЕЛЬ — ТОЧНОСТЬ

Пусть кто-то скажет: искомое число лежит в пределах от 1 до 100. Другой скажет: число лежит между 40 и 50. Если искомое — 42, оба будут правы. Но второе предсказание полезнее и способно выдержать более строгую проверку.

Что верно для одного яблока, может быть неверно для другого. О конкретном яблоке можно сказать больше, чем обо всех яблоках мира. Подобно кромке лезвия, узкое утверждение режет глубже. Составляя карту, стремись не к широте, а к узости. Помни, что Путь — точное искусство.

ЧИТАЙТЕ ТАКЖЕ:

Критическое мышление: базовые принципы и приёмы

Каждое движение этого танца должно быть выверено до миллиметра. Каждый новый факт должен изменить твои верования на строго определённую величину. Какова эта величина? Чтобы определить её, изучи теорию вероятностей. Даже если ты не можешь сделать точный расчёт, понимание лежащей в основе математики даст уверенность в том, что движения твоего танца точны и в них нет места для личных прихотей и капризов.

ОДИННАДЦАТАЯ ДОБРОДЕТЕЛЬ — ЭРУДИЦИЯ

Изучай науки и впитывай в себя их силу. Каждая область знаний, что ты усвоишь, делает тебя сильнее. Если ты познаешь достаточно наук, зазоры между ними сократятся и твои знания обретут цельность. Взращивая в себе жажду знать, ты станешь величественнее гор.

Важнее всего усвоить математику и науки, связанные с рациональностью: эволюционную психологию, психологию эвристик и когнитивных искажений, социальную психологию, теорию вероятностей, теорию принятия решений. Это необходимо, но недостаточно. Искусство должно иметь внешнюю цель, иначе оно вырождается в бесконечную рекурсию.

* * *

ПРЕВЫШЕ ЭТИХ ОДИННАДЦАТИ ДОБРОДЕТЕЛЕЙ ТА, ЧТО НЕ ИМЕЕТ ИМЕНИ

Миямото Мусаси в «Книге пяти колец» пишет: «Подняв меч, думай о том, как поразить им противника, чего бы это ни стоило. Атакуя и парируя, нанося удары и делая выпады, рази противника тем же движением. Не отклоняйся от цели. Думая о том, как атаковать и парировать, как наносить удары и делать выпады, ты не поразишь противника. Прежде всего думай о том, как каждым своим движением пройти через защиту противника и рассечь его плоть».

Каждым движением своего ума стремись рассечь ошибочные суждения и достигнуть истины. Прежде всего думай о том, чтобы сделать свою карту точным отражением территории. Если истинный ответ не получен, что толку в том, что твои действия были правильными?

Как улучшить своё понимание рациональности? Постоянно повторяя «надо быть рациональнее», можно лишь укрепить ошибочное понимание. Кто‑то считает, что рационально верить словам Великого Учителя. Допустим, Великий Учитель сказал: «Небо — зелёное!», однако, подняв глаза, ты видишь его синим. Если ты думаешь «пусть небо и выглядит синим, но Путь рационалиста в том, чтобы верить словам Учителя», ты лишаешься возможности обнаружить свою ошибку.

Не спрашивай себя, что такое «Путь» и пристало ли Идущему делать то или другое. Спрашивай, какого цвета небо — зелёного или синего.

Можно попытаться дать имена высшим принципам: «карта, отражающая территорию», «опыт успехов и неудач» или «байесианская теория принятия решений». Но всякое описание может быть некорректным. Как осознать свою ошибку? Нужно сравнить своё описание не с ним самим, а с тем, чему нет имени и описания.

Годами практикуя техники рациональности, подчиняя свой ум строжайшей дисциплине и самоограничениям, можно надеяться, что однажды ты заметишь проблеск истины. К тебе придёт понимание, что все техники суть одна техника. Ты будешь двигаться свободно и верно, не чувствуя ограничений. Мусаси пишет: «Познав силу природы, ты движешься в едином ритме со Вселенной. Твои выпады естественны и точны. Ты поражаешь противника, как дышишь. В этом Путь Пустоты».

Вот двенадцать добродетелей рациональности:

Любопытство, отречение, лёгкость, беспристрастность, спор, эмпиризм, простота, скромность, перфекционизм, точность, эрудиция и безымянная пустота.