What's wrong with LessWrong

https://lesswrong-ru.hackpad.com/Whats-wrong-with-LessWrong-S5yfmi40hD6

Некоторое время назад я наткнулся на живое сообщество рационалистов с чатиком в слаке, и был очень обрадован. Оно показалось мне замечательным местом с умными людьми, где можно узнать много нового и качественно подискутировать. Но чем больше я там находился, тем больше росло моё недоумение: рационалисты вели себя очень странно и были совсем не похожи на рационалистов. Мне понадобилось несколько дней, чтобы разобраться в проблеме. 

Оказалось, что в сообществе незаметно для админства произошла подмена понятий и целей с реальной практики на симулякр. Понятие "постижение рациональности" стало означать изучение трудов Элизера Юдковского и освоение особого жаргона, необходимого для общения с другими рационалами. Прочитавший больше всего трудов (в том числе и ещё не переведённых) и лучше владеющий жаргоном считается более рациональным, чем тот кто прочитал мало трудов и жаргон не освоил. Чтобы продемонстрировать другим свою рациональность, участники постят перегруженные терминами и сложные для понимания конструкции, перемежая их ссылками на труды Юдковского (в том числе и не переведённые). На просьбы говорить проще и вместо ссылок на труды объяснять своими словами, участники реагируют неадекватно и агрессивно, как будто это лишит их достоинства и места в иерархии. То есть, это явно статусное поведение.  

Слово "рациональность" также приобрело в сообществе иной, отличный от общепринятого смысл. Там оно означает применение методов теории вероятностей, в особенности теоремы Байеса, к житейским проблемам. Смысл теоремы Байеса, мало кто понимает. Как её можно применить к житейским проблемам — тоже. Но сообщество верит, что если освоить это искусство, волшебная сила математики даст возможность давать безошибочные прогнозы и действовать оптимально эффективно, гарантируя успех.  

Участники сообщества очень тяжелы в общении. Несмотря на то, что у Юдковского ясность мыслей являются несомненной добродетелью рационалиста, его последователи старательно избегают ясности. Дискуссии там ведутся так, что никто не понимает и не пытается понять их предмета: о чём, собственно, спор, какие позиции у оппонентов, и в чём суть их разногласия. Получить ясный ответ на вопрос также невероятно тяжело, приходится переспрашивать по нескольку раз. Я пока не разобрался: то ли они действительно не понимают, что можно просто ответить на вопрос и сэкономить всем кучу времени, то ли боятся простым ответом уронить свой статус. Всю ответственность за коммуникацию они перекладывают на собеседника: если во время разговора они чего-то не поняли, это значит собеседник плохо объяснил, а если чего-то не понял собеседник, значит он плохо читал. На нежелание гуглить термины и читать непереведённые статьи реагируют агрессивно, обзывая лентяем. Существует явное деление на "старичков", прочитавших труды и освоивших жаргон, и "новичков", находящихся в процессе. Старички легко позволяют себе в отношении новичков замаскированное жаргоном (а иногда и не замаскированное) хамство, поскольку верят, что рациональность автоматически делает их более правыми по любому вопросу.  

Поскольку в основе общих убеждений участников сообщества лежат неподверженные сомнениям догмы, сформированные из мутировавших тезисов Юдковского, сообщество очень уязвимо к их критике. Реакция на угрозу догмам у сообщества крайне бурная и агрессивная  оно стремится немедленно огородиться и замкнуться. Думаю, если понаблюдать за сообществом подольше, то можно будет заметить, как оно постепенно приобретает всё больше черт псевдорелигии и всё более замыкается. Там уже появляются забавные параллели из традиционных культов. Например, "эпистемологическая гигиена" в своём особом смысле этого слова - как необходимость избегать общения с иррациональными людьми, от которых можно "заразиться" иррациональностью. Или "неадекваты" — люди, которых погрязли в грехе иррациональности настолько, что их уже не спасти. 

Стоит отметить ещё одну проблему, которую можно обозначить как "аутоиммунное заболевание". Когда сообщество сталкивается с ситуацией, которую расценивает как угрозу, оно начинает бороться, но методы борьбы таковы, что вредят сообществу ещё больше, чем то, с чем они призваны совладать. Затем, весь ущерб, вызванный этой борьбой, ассоциируется с исходным триггером, и он начинает казаться ещё более угрожающим, вызывая ещё более сильную реакцию, более упорную борьбу и заставляя сообщество приносить себе более серьёзный ущерб. И так снова и снова, усиливаясь положительной обратной связью. К примеру, таким аллергеном может быть "неадекват" или "тонкий тролль" - обычный участник, возможно даже полезный сообществу, на которого навесили такой ярлык. Ему нет нужды провоцировать других участников. Они сами ищут в его словах оскорбления, и как ни странно, находят. После чего распаляются и разводят эпичный срач, доходящий до мата. И, что важно, в памяти участников после произошедшего остаются ощущения, что именно тролль каким-то образом заставил их вести себя так. Это не лечится удалением триггера, потому что в следующий раз цепную реакцию может нечаянно запустить другой человек. Надо менять саму реакцию участников: бороться с повышением градуса накала и наоборот, поощрять "охлаждение". И конечно, работать на осознанность и ответственность.  

И в заключение, отмечу проблему которая мне кажется корнем всех бед. Участники группы банально забыли, что значит "Less Wrong". Идея, заложенная в самом названии и идущая красной нитью через все труды Юдковского, восходит ещё к знаменитому изречению Сократа: "Я знаю только то, что ничего не знаю, но другие не знают и этого". Дело в том, что ни один из элементов, образующих мышление человека, не работает корректно. Органы чувств обманывают. Восприятие постоянно фильтрует видимое и слышимое в реальном режиме времени, стирая одно и дорисовывая другое: вы видим не реальность, а только сон о ней. Интуиция врёт. Память несовершенна и легко подделывается. Эмоции — тут вообще полный пиздец. Даже на логические выводы и то влияет куча посторонних факторов. Есть карта территории, про которую достоверно известно только то, что она не верна. Причём не чуть-чуть, а целиком. Все её совпадения с реальностью случайны. Ни про одно убеждение человека относительно реальности нельзя утверждать, что оно абсолютно истинно. Даже естественные науки, и то дают нам всего лишь упрощённые и приближённые модели. У нас нет ничего, про что можно было сказать "знаю наверняка", кроме самого факта тотального незнания. Соответственно, когнитивные искажения — это не редкий постыдный конфуз, который иногда случается с неосторожными глупцами, забывшими об эпистемологическая гигиене, а имманентное, постоянное и неотъемлемое свойство человеческого мышления. Мы всегда не правы, а когда думаем, что правы — не правы в особенности. Только серьёзной работой над собой, безжалостной рефлексией и болезненным принесением в жертву рациональности своих самых сладких и любимых заблуждений можно, нет, не стать рациональным, а всего лишь начать заблуждаться немного меньше. Именно этого, самого важного понимания, нет в LW-сообществе. Там все всё время правы, и никто не говорит "я ошибаюсь". Увы. 

Упорствующий в ереси, fpaint.