Интересная черта фанатизма: отправлять куда-то что-то читать. Призывы в духе "откройте глаза! 37 сентября окончится 500-летний сон Фенрира" постоянно заканчивают усталым "почитайте психологию!" "почитайте святые тексты!" "почитайте учёных!" "я вам статью пришлю 1000 рецептов заварного крема, прочтите!"
— При чём тут рецепты заварного крема?
— Прочтите! Это всё одно и то же!
Встретил интересную ошибку мышления, разговор шёл примерно так:
– Какие причины считать, что они врут-то?
– А очень сложно их поймать на конкретной лжи. Вся информация приходит от них же.
Да, очень сложно, но за это и награда.
Когда вы ловите обманщика за руку, это почему всем интересно? Потому, что мало кому удаётся! Вы были внимательны, проницательны, ждали в засаде, обманщик допустил ошибку и – попался.
Если вы её не решили, так в чём ваш результат? Любой может кого-то обвинить и набросать того, что несложно. В общем-то, все так и делают.
"Ты ключи под фонарём потерял?" "Нет, вон там в темноте" "А зачем под фонарём ищешь?" "Так там не видно ничего, как там искать!"
Не доказал, но сделал всё возможное и этого достаточно – это какой-то образ мыслей Марии-Антуанетты. "Но я сделала всё, что могла, и мне уже хочется торта! Должна же я как-то получить торт! Нельзя же требовать, чтобы я неделю ради торта работала! Это слишком сложно".
Бывает, что никаких способов проверить или даже обоснованно усомниться — нет. Тогда вы не можете получить торта. Нет у вселенной правила, что вам полагается торт.
Одно из интересных, хотя нечасто выпадающих чувств, это когда читаешь какие-то сведения, которые всем очевидны и звучат складно, и вдруг ловишь себя на сомнении. Да, складно… но так ли это?
И стоит хотя бы заметить это, как понимаешь, что естественно, это не так, и каким вообще надо быть слепым, чтобы не замечать этого, и главное, что ты всегда чувствовал проблему, но не отдавал себе отчёт.
Например, реддит обсуждает фото, где Эверест виден издалека и скрыт за другими горами. Он выглядит ниже. Реддит смеётся: где же вы, сторонники плоской Земли? Видно, на вашей плоской Земле Эверест действительно ниже этих гор?
Тридцать комментариев, сотни плюсов, погодите. А это точно имеет отношение к кривизне Земли? Сейчас, надо подумать. Ну конечно же не имеет. Встань за 10 километров от Останкинской башни, 5-этажка перед тобой будет выглядеть выше. При чём тут кривизна? Как можно было вообще читать эти слова и не понять мгновенно, какая это чепуха?
Ещё реддит любит вспоминать, что "люди оптимизированы для бега, поскольку загонять до смерти был уникальный способ охоты нашего вида". Типа, животные бегут быстро 10 минут и всё, а люди медленно, но часами.
Некоторое время я встречал это мнение и относился к нему: "ну окай". Ну инфа какая-то. Всё это время подсознание говорило мне, что это ерунда. Но я не выводил это на поверхность.
И вдруг я заметил, что не верю в него. Что за чепуха? Серьёзно что ли человек может загнать так антилопу? Гепарда? Медведя, который бегает 60кмч? Да даже если они 10 минут так пробегут, мы их потом не найдём. И что это вообще за способ охоты такой, слышал я о нём откуда-либо ещё? Вроде всегда считалось, что люди это собиратели и opportunistic hunters, а позже стадная охота и ловушки. Наскальная живопись рисует именно это, а не марафоны.
И естественно это полная чепуха, какое-то единственное племя в наше время так охотится, только чтобы быть особыми снежинками не такими как все. Не охотились так люди повсюду, нет признаков. Это какая-то вымученная фантазия, которую реддит, как всегда, подхватил, не раздумывая.
Вот ещё пример, теперь уже исторический. Однажды кто-то спросил, почему из России столько видео с камер наблюдения. И ему ответили, что у нас эпидемия insurance scam, это когда люди прыгают под колёса и требуют денег. А камеры от этого защищают.
У нас. Эпидемия. Insurance scam.
И понеслась. Много лет приходят новички, что-нибудь говорят про Россию и про дашкамы, и тут же прибегает уже инициированный, и рад похвастать своими знаниями, сообщает "А между прочим, это потому, что у них в России эпидемия insurance scam".
Казалось бы, вы смотрели сотни роликов из России. Сколько из них было insurance scam? Ну два, да? Ну три? А в основном аварии и падающие метеориты. О чём это говорит? Хмммммм. Казалось бы, а нужно ли вообще такое дополнительное объяснение как insurance scam? Разве недостаточно мысли, что дашкамы просто удобны? Не только для таких ситуаций, для любых.
Даже то, что GPT2/3 делает с текстами уже магия. Он сочиняет новости, пишет стихи, ему можно сунуть любой текст, попросить “TLDR:” и он перескажет своими словами.
Кто-то накормил этот генератор всеми текстами Юдковского и заставил его генерировать новые посты, и он сочиняет почти осмысленные тексты! Даже кажется, ТЫ САМ их не понимаешь как следует, а смысл есть.
То есть, GPT не подбирает наугад, у него есть представление о предмете речи. Но самое удивительное: он заранее не знает, что скажет! Каждый раз он выбирает одно новое слово; чтобы получилось предложение, его нужно спрашивать снова и снова. Связность речи хранится не в скрытых переменных, а в самой речи и в памяти GPT вообще.
Мне и самому часто кажется, что пока я мысль не выразил в словах, никакой мысли и нет, а есть только интуитивное ощущение, вроде того, что бессловесно руководит животными. Из него как-то рождаются слова, одно за другим, и рождение это бессловесно. Если остановиться и спросить себя: какие слова я заготовил дальше? Обычно этих слов нет. Знаешь только направление мысли.
А теперь кто-то запряг её рисовать картинки! И она их рисует! Это магия какая-то, так не бывает!
Последние 50 лет все, кто понимает в компах, объясняли, что невозможно “сделать искуственный интеллект вообще”, нет никакого “секрета разума”, можно только решать сотни сложных задач типа распознавания объектов, речи, и результат в одной не переходит магически в другую.
И вот пожалуйста, программа для генерации текста рисует картинку, причём по строкам без разделения строк, просто ниточку точек. Мистика.
Есть разница между желанием знать правду (даже если правда что миром правят рептилоиды) и желанием знать “правду, что миром правят рептилоиды”.
Когда желаешь знать правду, то смотришь на каждый аргумент с детским интересом, не зная заранее, в какую сторону он укажет. Исследуешь его. Что же он говорит? Как окажется, так или эдак? Внимательно смотришь, куда на самом деле дуют ветра.
А когда желаешь знать “правду, что правят рептилоиды”, то желаешь знать не правду, а что правят рептилоиды, и чтобы это было правдой. Тот же факт изучаешь без наивного любопытства. Тебе неинтересно, что он скажет, ты уже знаешь ответ. Надо просто убедиться в нём.
Доходит до того, что людям буквально неинтересно что человек говорит, когда они чего-то хотят услышать! Правда уже известна до того, как он открыл свой рот. Если он сознался, что ведьма, то он ведьма. Если отрицает, что ведьма, то все ведьмы так делают. И речь не о том, что слова не имеют значения; нет, любыми словами он подтверждает своё положение ведьмы, даёт дополнительные причины считать его ведьмой!
Вы не слушайте его объяснения. Неважно, что он сказал и имел в виду. Мы знаем, что он хотел сказать!
Вот этот момент – “мне интересно, как на самом деле” – можно себя на нём ловить. “У меня нет никакого мнения. Мне интересно, как на самом деле”.
“Если небо синее, я хочу верить, что небо синее.
Если небо чёрное, я хочу верить, что небо чёрное.
Я не хочу случайно привязаться ко мнению, которое не полностью верно в жизни.
Мне интересно, как на самом деле.”
wiki.lesswrong.com/wiki/Litany_of_Tarski
Человек с амнезией рассказывает, что у него бывают ложные, но правдоподобные воспоминания. Вот вам теория!
Память это реконструкция правдоподобного объяснения. Правдоподобность это узнавание, а оно строится на двух вещах: на пережитом и на том, как устроен мир в принципе.
Пусть голову что-то испортило. Человек надышался Роскомнадзора и четыре дня валялся в машине. Нейроны погибли, связи разрушились, узнавание стало плохим.
Уцелевшие нейроны по прежнему голосуют ЗА, когда им показываешь правду. Но в парламенте его головы больше нет кворума. Ходит он каждый день на работу? В путешествия? За грибами? Все варианты встречают вялое одобрение.
Потерянную память не восстановить. Но потерянные сведения о мире восстанавливаются. Стоит ещё раз столкнуться с чем-то в жизни, и поломанная память подхватит знакомое и перепишет набело. Иногда достаточно просто использовать уцелевшее, и связи, которые выпали из общей гармонии, снова пробьют себе русло.
Чем больше сведений о мире вернулось, тем яснее правдивые варианты среди абсурда. Но у здорового человека результат в равной мере ограничен тем что, могло быть и тем, что реально было. Когда вы путаетесь, неправильные воспоминания обычно неправдоподобны. Отклик личного опыта и отклик правдоподобия в целом не зависят друг от друга. Если так сложилось, что ложное воспоминание получило суммарный хороший отклик, это чаще означает ошибку в чём-то одном: “правдоподобно, но 100% не было”, или “втемяшилось, что было, хотя и не могло быть”.
А у потерявшего память личного опыта почти не осталось. Поэтому все варианты, которые набрали высокий балл, получили его за правдоподобие. Они все выглядят прямо как будто в жизни так было! И ни один не вызывает сильного личного отклика.
И между прочим, потому же люди приезжают в былые места и их захлёстывают воспоминания. Эти воспоминания были недоступны, они затёрлись, слишком мало от них осталось. Но вы вернули ту их часть, которая осталась неизменной за эти тридцать лет, ту часть, что сделана из асфальта и деревьев и камня, и крохи прошлого, которые ещё сохранились в вас, снова стали звучать однозначно.
Память хранится не только в нас, но и в мире вокруг нас. Поэтому в голове её умещается так много. И когда мир меняется, теряется память.
Кому-то покажется очевидно, а кому-то ненаучно. Представляю, что память хранит в основном контрольные суммы (хеши):
– Узнаёшь легко, а вспомнить/написать не можешь
– В небольшой голове умещается слишком много знаний.
Ликбез: Хеш это штука, которая длинное описание превращает в проверочный код:
CRC(Текст “Войны и мира”) = 9378
Запомнить 9378 проще, чем “Войну и мир”. Но из 9378 текст книги не вернёшь! Можно только посчитать книгу ещё раз и понять, её ты читал или нет. Например:
CRC(“Цапля чахла, цапля сохла, цапля переродилась в свою истинную форму и захохотала мрачным смехом”) = 57840. Этого мы ещё не читали.
По хешу нельзя вспомнить
, можно только понять “я это знаю”. Голова перебирает варианты и смотрит, какой “уже знает”. Обычно это мгновенный, подсознательный поиск.
Как проверить миллионы вариантов быстро? Мозг подбирает ответ по кусочкам. В голове есть объектная модель — представление о том, как вещи устроены и связаны. Подсознание раскручивает подробности со всех сторон, и каждую проверяет, “знает или нет” и “логично или нет”. Например, оно спрашивает:
– был ли я утром в этой комнате?
– был ли я днём в этой комнате?
– был ли я вечером в этой комнате?
Иногда в комнате вы были только раз, и голова нашла ещё одну подробность, от которой можно оттолкнуться. А иногда годятся все варианты. Тогда она смотрит, какие лучше сочетаются с другими.
Весь этот поиск иногда происходит сознательно и его легко заметить. Например, знающий математику легко подберёт забытую теорему. Вспомните, как это происходит. Чем больше знаешь, тем проще угадать пробелы.
Сколько всего это объясняет!Сколько всего это объясняет:
– со временем забываешь детали – хеши стираются и некоторые версии становятся равноверятными
– а иногда путаешь их, но совершенно не замечаешь – другой правдоподобный вариант вылез вперёд по вероятности
– когда перепутал подробность и так рассказал, теперь запомнишь по-новому! – это известный баг, потому, что “касание” этой версии при постройке её закрепляет
– чувства и желания переписывают прошлое – создают эмоциональный фон, который помогает выбирать одни варианты против других (так же, как он в реальном времени помогает выбирать поступки на будущее)
– прошлое часто мешается с прочитанным или один случай с другим
– случайные факты можно годами не помнить, а потом узнать: “о! я это где-то слышал”.
Можно придумать и проверки. В чьём-то прошлом выбрать необычную историю. Взять в ней незначительную деталь и заменить на другую, которая более правдоподобна. И напомнить человеку об истории, упомянув фальшивую подробность или намекнув на неё. “Вспомнит” ли человек историю правильно?
В английском есть поговорка "плохие перемены всегда на слуху, хорошие случаются тихо и едва заметно".
Я пришёл к вам сегодня с чашкой пессимизма. Плохие перемены, о которых вы слышите, всегда на слуху. Поэтому вы о них слышите. Мало кто специально роется, выискивая те плохие новости, которые не приходят к нему сами.
За их шумом прячутся и другие плохие перемены, тихие и едва заметные.
Когда вы разбираетесь в чём-то, ваша задача не найти подходящее название, а понять, что происходит. Названия при этом даже вредны.
Названия это ярлычки, которые люди приклеивают к наборам подробностей. Заяц ушастый, живой и быстро бегает, от него не нужно ждать угрозы, но догнать его тяжело. Видите, в кустах заяц? Вы уже знаете, что он не опасен и легко убежит.
Когда вы изучаете что-то непонятное, какую-то новую тему, вы ещё ничего не знаете про местных зверей. Вы не знаете, кто убежит, кто нападёт, кто ползает, а кто летает. Вам это нужно понять, а не выяснить или придумать, как что называется. От того, что в кустах кто-то сидит, и вы назовёте это существо zaec, зубы и когти его меньше не станут. Названия это ярлычки, а вы пока не понимаете, ярлычки для чего.
Одна известная тётка-психолог придумала свой способ говорить об отношениях людей. Ситуации, которые ей попадаются часто, как-то обозначила: плюсы, минусы, дефолты, скалки. Разные стороны личной жизни называет ресурсами: работы, любви, ещё чего-то.
И вот ей в ЖЖ пишут люди и рассказывают свои истории:
"У меня был прокачан ресурс работы и спорта, так что кое-какие опоры оставались"
"В этих отношениях я была большим минусом, а он плюсовал"
Вы понимаете, что они хотят сказать? Они сами-то понимают?
Первая хочет сказать, что на работе её ценят. Может быть, что повышают иногда, что не скучно ей. И что в спортзал ходит. А может быть, в походы или на плавание. Вторая – что привязалась к парню и надоела ему. Зачем нужно было использовать хитрые слова, чтобы сказать меньше и запутаннее, чем можно было сказать прямо?
Термины нужны для того, чтобы упорядочить сходное. Тётка-психолог придумала свои названия потому, что она видит одно и то же тысячи раз. Она заметила сходства и назвала их словами. Люди, которые повторяют за ней эти слова, никакого сходства не видят, они в своей-то единственной ситуации как следует не разбираются и пришли к ней за помощью.
Ей эти слова помогают, упорядочивают годы наблюдений. Остальные рядятся в них как ребёнок в одежды доктора, и думают, что если приложат стетоскоп и скажут "у вас атипичная склеродерма", то покажут своё понимание медицины.
Это не просто смешно, а ещё и вредно. Дёргая за ярлычки, к которым у вас ничего не привязано, вы незаметно для себя рассуждаете, не приходя в сознание. Вооружаетесь пистолетом без патронов и фонарём без батарей. Вы не очень понимаете, кто такой zaec, нужно ли от него бежать или ловить его, но вы придали ему название и опознали, что "в кустах zaec", и внезапно уже кажется, будто ситуация ясна. Хотя вы по прежнему не знаете, чего ждать от кустов!
(Если ваш zaec больше собаки ростом, я бы на вашем месте свалил. Даже несмотря на то, что это zaec)
Вместо того, чтобы опираться на опыт, на свои знания, которые скажут "ты видел таких зверей, вели себя они так", люди вынуждены гадать по звучанию слова, по фразам, которые услышали от других. И целые предложения, абзацы, истории строятся из слов, которые для них как слепые пятна, и поэтому ничего для себя они ими не проясняют, никаких уроков выучить не могут.
Мало того, пользуясь неверной системой названий, вообще очень легко запутать человека и заморочить голову так, что он вовек не разберётся в смысле происходящего, но будет уверен, что хорошо всё понимает.
Понятия, которые возникают естественным образом, формируются из наблюдений. Человек понимает суть, замечает общее и придаёт этому название, чтобы легче было ссылаться на него в мыслях и разговорах. Поэтому названия, возникшие из наблюдений, всегда отражают какие-то конкретные вещи, которые действительно существовали именно в таком виде.
А вот понятия, возникшие из названий, формируются в обратном порядке. Человек встречает название, вносит ярлычок в свою картотеку и начинает собирать свойства, которые с этим ярлыком связаны. Он плохо понимает, что ищет, поэтому кладёт в эту папочку-помойку всё подряд. Подсовывая нужные примеры, легко связать у него в голове разные вещи, объединить в одно понятие зайцев и медведей и поддерживать в голове туман, чтобы он не заметил более удобного деления.
Понятия в голове устойчивы. Мозг верит сам себе, он знает, что если наблюдал 100 зайцев и увидел общее, то это правда и нечего сомневаться. Когда вы вгоняете в мозг название, которого не понимаете, а потом собираете на него мусор или вообще обман, мозг верит вам. Он принимает ваше несформированное понятие без проверки и начинает им пользоваться. И весь треш, который вы в него гоните в попытках его понять, обходит карантин и проникает вглубь вашей головы.
Вы этим подрываете основы вашего понимания мира. Ваша понятийная система, результат ваших наблюдений за миром, должна быть защищена. Ваша мысль должна стоять на крепких основаниях. Когда у вас в понятийной системе каша, когда вы не понимаете, что имеете в виду под словами, и когда в одном и том же слове смешаны подозрения на десятки разных вещей, что можно проанализировать?
Говорите и думайте теми словами, которые вам предельно ясны. Теми словами, которые вы действительно поняли. Чем более конкретен предмет, тем сложнее в нём запутаться: в физике, математике, химии у названий есть чёткие определения, поэтому там можно выучить название и разобраться в нём на лету (и то не лучший подход). В истории, социологии, психологии, тем более в философии, и в общем в жизни.
Эйнштейн говорил, что если человек разбирается в вопросе, он сможет объяснить его десятилетнему ребёнку. В этом возрасте дети не знают ни квантовой механики, ни психологии. Единственный способ объяснить эти предметы ребёнку – говорить человеческим языком. Использовать такие понятия, которые мы все хорошо понимаем. Такой разговор срывает любые покровы наукообразия, обнажает ваше непонимание, которое вы скрывали от себя за умными словами.
Юдковский описывал игру "Табу мыслителя": объяснить название, не пользуясь им самим и родственными словами. Например, вместо "заяц" сказать "небольшое четвероногое животное с серой или белой шерстью, сильными задними лапами и длинными ушами"
Я часто вижу, как люди пристращаются к системам взглядов и начинают вести себя по-фанбойски, то есть, прилаживать эту систему взглядов повсюду, хвалить её как универсальный инструмент, а если не хвалить, то молча любить в глубине души. При этом система взглядов на самом деле не отличается особой сутью.
Если взять все возможные системы взглядов, то среди них можно выделить популярные взгляды. Системы, которые мало отличаются от этих взглядов, обычно связывают с ними же, например, либерализм, цинизм. Просто делается поправка: я циник, но уважаю то-то и то-то. Понятно, что никому не придёт в голову носиться с системой взглядов циника как с новаторским ключом к любому вопросу, потому, что все давно знают про взгляды циников и они не новы.
Но часто можно видеть, как люди берут какую-то систему взглядов, которая по сути несколько перетасованный набор общеизвестных вещей, но главное, с новыми для всего названиями, и в них происходит такая реакция, как будто они познакомились с чем-то принципиально новым.
При этом система взглядов оценивается не по достоинству, потому, что для оценки по достоинству нужно видеть её место в ряду похожих взглядов, её преимущества и недостатки перед соседями. То есть, сделать тонкий выбор среди общего класса нравящихся взглядов.
А оценивается она как единственная такая – с именно такими названиями. Стоящая совершенно особняком.
Человек не изучает похожие теории, не объединяет свои знания, не выбирает лучшее из всего широкого поля идей. Ему нравится не класс идей, а эти названия.
Чем-то это похоже на религию. Верующему нравится не класс идей "существует разумное существо, близкое нам по духу, которое благоволит нам и чего-то от нас хочет". Ему нравится конкретный бог. Если каким-то образом конкретного бога выбить из головы, вряд ли верующий переключится на следующего по вероятности бога. Его приверженность конкретной религии – это не результат спокойного поиска, постепенного сужения области ответов, а что-то вроде "о! я нашёл свой домик!", или, как очень красиво написал Сент-Экзюпери (про другое, и я перефразирую), "эта роза лучшая потому, что эта роза моя".