Категория: Рассудок

Синяя и красная кнопки

В твиттере была такая игра:
Перед вами синяя и красная кнопки. Нажавшие синюю выживут, если её выберет больше половины людей, иначе – погибнут. Нажавшие красную выживут всегда. Обсуждать с другими выбор вы не можете. Что вы нажмёте?

Интуитивно хочется бежать всех спасать, но верно ли это? Кто-то говорит: единственное разумное решение – красная кнопка. Каждый может без всякого риска спасти себя сам, зачем рисковать ради того же результата? (Правы они или неправы?)

Правы они или неправы?

Неправы!
Это задача на координацию. Её решение зависит от того, в чём игроки уверены о других.

Во-первых, в обществе существуют эгоисты, которых волнует только своё спасение. Они нажмут на красную кнопку всегда. Если их больше 50%, то синяя кнопка заведомо бесполезна. Забавно, что если эгоистов больше 50% и все это понимают, то на красную кнопку нажмут 99% и без всяких сложностей задача будет решена. Эгоисты выступают координирующим фактором. Однако проблема такого решения в том, что вы по-прежнему в мире, где больше 50% эгоистов.

Если же эгоистов существенно меньше, оставшихся можно назвать альтруистами. Они хотят и спастись сами, и спасти как можно больше других. Они взвешивают выгоду – скольких можно спасти, т.е. сколько, по их мнению, после всех рассуждений выберут синюю кнопку – и риск, т.е. шанс, что если выбрать синюю, с тобой окажется меньше 50% и вы все погибнете.

Проблема в том, что это задача рекурсивная. У неё два идеальных решения:
– Все выбирают красную кнопку, либо
– Все альтруисты выбирают синюю.
Когда альтруистов много, и то, и другое сработает, если все поступят одинаково. Но договариваться они не могут. Каждый выбирает самостоятельно. Поэтому недостаточно решить, что какой-то вариант разумнее. Надо быть уверенным, что:
– Другие альтруисты тоже считают, что он разумнее.
– И каждый знает, что остальные так считают
– И каждый уверен, что остальные тоже знают
И так далее.

Такая система усиливает сомнения. Хорошо бы все нажали красную кнопку. Но ведь 100% недостижимо. Будут ошибки, сомнения, и небольшой процент всё же погибнет. Какой? Вам кажется, что малый, ведь красная стратегия лучше.

Но все ли альтруисты уверены в этом? Возможно, 1% решит, что не такой уж малый, и вмешается. Их жизни теперь тоже на кону. А раз вы понимаете этот риск, его понимают и другие, и ещё 2% альтруистов сочтут неприемлемым бросить 1% на гибель. Теперь и вы не уверены, что процент будет мал! За этими 2% пойдут 4%, и так далее, и так далее. Факт в том, что вы совершенно не представляете, какие альтруисты как поступят. Координация разрушена.

Возможно, никто из вас не считал, что случайных жертв будет больше 1%, и все были готовы ими пожертвовать – но не все знали, что все готовы, и не все знали, что все знают, что все готовы. Достаточно малейшего сомнения – и никто не уверен ни в чём.

Чем лучше синяя кнопка? Тем, что для неё достаточно координации половины участников! Даже если вам кажется, что 5%, что 10% усомнятся и отступят, 90% всё равно хватит с большим запасом. И это же понимают остальные, и нет причин для второго и третьего шага, где вы опасаетесь, что из-за этой неточности, возможно, ещё кто-то сверх первых 10% потеряет веру. При любой возможной неточности 90% изначально веривших не увидят причин сомневаться.

Можно представлять себе это так. На шкале от 0% до 100% каждый альтруист делает предположение: сколько процентов нажмёт красную кнопку. Его догадка неточна, и с центром в этой позиции он рисует колпак нормального распределения.
Сделав предположение, он теперь должен сделать поправку на других. Он думает, что у других нарисован такой же колпак. Но возможно, он центрирован чуть иначе и расползается чуть медленнее или чуть быстрее. Тем не менее, поскольку все альтруисты исходят из похожих соображений, их колпак будет близок к колпаку рассуждающего. Чем дальше от его мнения, тем меньше в этой точке будет людей.

И если в этом первом приближении весь колпак, 99% его массы, находится далеко за пределами отсечки для какого-то варианта, то этот вариант надёжен. Участник знает, что думающие похожим образом игроки начнут примерно оттуда же, и тоже поймут, что все игроки начинают отсюда, и тоже поймут, что ни у кого нет причин сомневаться. И сомневаться никто не будет.

Если же в первом приближении колпак сильно пересекает отсечку, и только общее вытягивание в правый край может дать нужный процент, то выбравшие этот вариант остаются один на один с чистой случайностью. Бросятся ли остальные игроки влево? Бросятся ли они вправо? Никто не знает.

И поскольку альтруист видит, что из двух доступных стратегий одна ненадёжна и неустойчива, а другая вполне стабильна, он понимает, что и другие альтруисты это видят, и осознают, что устойчивая координация возможна только на ней. И выберут её.

Наоборот, если эгоистов ровно 49%, то задача становится симметрична. Теперь альтруистам нужно запихаться в 1% справа, если они хотят победить по красной кнопке, и в 1% слева, если хотят победить по синей. Любое сомнение в единодушии альтруистов приводит к разрушению координации вокруг синей кнопки, как и вокруг красной.

И до какой-то степени мы должны моделировать процент трусов, т.е. альтруистов, которые не будут рисковать, если их ожидание красной кнопки опасно приближается к 50%. Но также есть и заранее согласованная норма "своих не бросать", которая подсказывает альтруистам точку координации.

Поэтому фактически синяя кнопка возможна, если ощущаемый процент эгоистов меньше – я думаю, меньше 30%. Выше – и эгоизм возобладает в альтруистах, координация им покажется невозможной. Наоборот, больше 60% – и никто не будет пытаться спасать других потому, что это безнадёжно. 30-60% эгоистов это полоса уничтожения общества.

Есть и другое рассуждение, простое. Если вы не нажмёте на синюю кнопку, то все те, кто нажал на неё, чтобы спасти других нажавших – погибнут. И вы останетесь в мире с теми, кто на синюю кнопку не нажимает. Может быть, вам кажется, что ваша логика была стройнее, а решение лучше (вы неправы, но неважно). Так или иначе, вариантов у вас только два.

Подсознание и рефлексия

Так вот, в продолжение предыдущего поста.

Годами звучало как ненаучная чепуха, что человеку можно что-то внушить, обратившись к его подсознанию, которое, как тайный хозяин, прячется в глубине от нашего взгляда, но управляет всем. Подсознательно знает, подсознательно не хочет, и т.д..

Я до сих пор думаю, что скрытность подсознания это неправда. Подсознание лежит на поверхности, к нему есть свободный доступ. У кого-то просто (плохая рефлексия)

плохая рефлексия. Любую степень рефлексии надо тренировать. Обычно рефлексии достаточно, чтобы замечать свои чувства и скрытые мотивы, хотя бы когда на них укажут. И нет никаких препятствий к тому, чтобы научиться рефлексии любых, даже самых мелких подсознательных факторов. Для этого надо увидеть достаточно примеров, где эти факторы влияют на героя и их отметили вслух. Подсознание очень легко приучить давать своим движущим силам названия.

В отличие, например, от зрения. Мы легко научаемся определять цвет, но построить рефлексию глубже мы не можем. Цвет кажется нам одной неделимой “квалией”, мы не в силах научиться отдельным чувствам, из которых он состоит. Хотя цвет – это составное ощущение. Или например: трудно отделить форму и положение предметов от пятен цвета, хотя глазами мы видим именно пятна, а форму и положение подсказывает наш зрительный комплекс.

Зрение плохо доступно для рефлексии. Подсознание очень хорошо доступно. Потому, что рефлексия, если задуматься, как она должна быть устроена, это склонность вашего субстрата, вашей нейронной сети, этого самого подсознания, производить некоторые терминальные состояния одновременно. Например, одновременно возбудить центры мозга, приводящие к выбросу адреналина, и, упрощённо говоря, сгенерировать слово “страшно”. А говоря полноценно, повысить влияние управляющих центров, посвящённых страху, причинам этого страха, и т.д., так, что словесные и бессловесные рассуждения, возникающие в вас, будут посвящены специальному понятию, которое вы придумали для адреналиновой горячки, страху.

Не подскажи вам кто-то это название, вам пришлось бы самому заметить, что иногда вы себя чувствуете определённым образом в похожих ситуациях, и выбрать для этого слово. Но возможно, вы бы этого и не заметили. И так и жили бы всю жизнь, до какой-то степени узнавая это состояние, но не задумываясь, что оно одинаковое и его можно назвать. Примерно так живут звери, лишённые слов. Узнавание формируется в них, но не передаётся по наследству. Слова помогают нам быстро учить других рефлексии.

А подсознание – субстрат – это как раз та часть разума, которая занимается узнаванием и, в человеке, подбором подходящих слов. Она легко доступна для рефлексии, поскольку рефлексия в ней и происходит. Другие рефлексируемые состояния, например, цвет или звук, поступают от внешних органов, и она связывает их с понятиями. Внутренние состояния для неё проще. Она готова создать понятие для чего угодно и связать его с любыми особенностями своей деятельности, какие вы только сможете заметить. Сложность только в том, что этих особенностей огромное число, как можно убедиться, взглянув даже на современные нейронные сети. Мы можем заметить крупные мазки, такие, как страх, желание, сомнение, или даже стремление остаться победителем, и теоретически мы могли бы придумать название для каждой психологической чёрточки, вошедшей в их основу, но этих чёрточек миллионы, выделить их сложно, а пользы называть их мало. Где-то на полпути от крупных мазков к чёрточкам мы все и застреваем.

Так или иначе, подсознание хорошо доступно для рефлексии. Если читать много примеров, в которых мотивы героя уже различили, то скоро научишься различать и собственные. Конечно, надо выбирать примеры с правильным разбором и объяснениями! Если читать околопсихологическую чепуху, то рефлексию вместо этого можно испортить. Верен анализ или нет – должен подсказывать рассудок

.

Но за тем исключением, что подсознание вовсе не прячется от нас, собралось достаточно причин считать, что само оно в какой-то форме существует. Не как отдельные, заблокированные от нас, самостоятельно действующие части мозга, а как особенности интуитивного слоя, который совершает по одному шаги мышления. Не хозяин в тайной комнате, а сам дом.

Скорее всего, верна теория о том, что мы автоматически (верим всему, что слышим)

верим всему, что слышим. Эта теория говорит, что мы должны прилагать почти сознательные усилия, чтобы отрицать слова, входящие в наши уши. Если мы на секунду прекращаем мысленно сопротивляться, то услышанное меняет нас само собой. Поэтому нам так не нравится, когда нам говорят то, с чем мы не согласны. Мы вынуждены вызывать в себе чувство отторжения услышанного. Иначе нас перепрограммируют.

Эта теория мне всегда казалась верной потому, что она логична. Обезъяны и другие животные, когда формировалась речь, не могли сразу получить полную систему безопасности. Речь была лишь сигналами: кто-то заорал от страха – туда не ходи. Крик – ещё один внешний стимул, как запах или вид опасности. Мы не сомневаемся в тревожном запахе. Когда развитые обезъяны начали использовать речь для передачи сложных сигналов, у передающего сначала не было никакой хитрости и лжи – и защищаться от них не было причины. Позже всё это появилось, и мы научились сопротивляться услышанному. Но вряд ли в нас есть особая камера, куда мы помещаем входящие слова прежде, чем санируем их. Скорее всего, если мы пропустили мяч, мы пропустили гол.

Каким же образом пропущенные, услышанные и не подвергнутые сомнению слова влияют на нас?

. Это кажется необычным потому, что мы недооцениваем, насколько бессознательно обычно воспринимаем информацию. Когда мы читаем книгу, мы тренируемся на ней, и только вниманием запоминаем что-то, кроме ассоциаций. Если нас отвлечь, эта система будет работать хуже и мы не справимся и со скепсисом, и с пониманием, даже полубессознательным. А вот тренировка даже если и ослабнет, то не отключится.

На этом фоне выглядит вполне правдоподобно, что можно заговорить человеку зубы, поменять отношение постоянным повторением, замарать дурными ассоциациями или заинтересовать хорошими.

Где границы этих возможностей? Скорее всего, не получится бессознательно внушить какие-то совсем противоречащие картине мира идеи. Они вызовут диссонанс. Это придётся делать по шагам, сначала насаживая предпосылки, а затем – следствия.

Пересказ сюжета

Я думал вот над чем. Современные нейронки получают свои знания в два этапа. На первом тренируют их нейронную сеть, показывая ей много текста. Таким образом она научается предсказывать текст. На втором, уже после дополнительной настройки, вы разговариваете с ботом, чью речь нейронка предсказывает, и сообщаете ему информацию. Эта информация доступна для нейронки не таким образом, как прежняя. Тренировочные сведения улеглись в ней прочно и стали её частью. Эти сведения, которые вы написали в разговоре – входные данные.

Представьте, что вы взяли нейронку, и несколько раз показали ей – в форме тренировки – совершенно новую книгу, которую она прежде не видела и ничего о ней не знает. Что при этом произойдёт? Нейронка запомнит имена персонажей и свяжет их с названием книги. Возможно, запомнит ещё кое-какие мелкие ассоциации и сюжетные приёмы. Но если вы её попросите пересказать книгу, она не сможет этого сделать. И скорее всего, не ответит на большинство вопросов о сюжете.

(Почему?)

Почему? Потому, что в результате тренировки в её субстрате сохраняются только уже сформированные факты, на которых её тренировали. Найденные P-решения NP-задач. Вернее было бы спросить, почему нейронка может пересказать другие книги, кроме этой новой? Это потому, что она уже видела пересказы этих книг. В интернете полным-полно пересказов. Она не обязательно повторит их в точности. Но она интегрировала достаточно крупиц этой сложной информации, чтобы теперь комбинировать их. У одного прохода нейронной сети достаточно вычислительной мощности, чтобы смешивать обломки ответов неожиданным образом (речь не о смешении слов, а о смешении логики и идей, естественно). Но её мало, чтобы найти новые ответы.

Но и нейронка, если поместить текст книги в разговор, перескажет его и ответит на вопросы. На первый взгляд, можно сказать: конечно, ведь она видит текст. Но она видела этот текст на тренировке, и неоднократно! Почему *тогда* она не сделала из него выводов?

Потому, что вопросов можно задать множество, и выводов сделать сотни, и каждый это P-решение NP-задачи, каждый требует поиска. А мощность одного прохода нейросети ограничена. Нейронка не может, каким бы образом она не была устроена, за один проход ответить на все возможные вопросы. Поэтому она не может запомнить все возможные ответы при тренировке. Буквальный текст книги может быть даже сохранён в её ассоциациях. Но одного прохода по-прежнему недостаточно, чтобы извлечь его и проанализировать.

А вот если вы попросите её напечатать текст рассказа и затем ответить на вопрос, то она сможет. Узнали? Чтобы ответить на вопрос учителя о стихотворении, вы сначала вспоминаете его.

Можно представлять себе это так: текст – это структура. Структура хранит идею. Идея это решение какой-то задачи. Нейросеть это преобразователь структур. Текст, который вы подаёте на вход, доступен для обработки как структура, со всеми своими идеями. Но текст, сохранённый в форме ассоциаций, сам является частью конвейра и недоступен для анализа его структуры и вычленения оттуда нужных идей. Пошагово можно извлечь его во входной буфер, где его структура будет доступна анализу.

Откуда же тогда ответы берутся у людей? Я легко могу вспомнить прочитанное и кое-как пересказать. А ведь я, как нейронка, просто читал, т.е. впускал в свои уши и глаза слова и тренировал себя на них.

Я стал спрашивать себя, на какие вопросы я могу дать ответы? В каких подробностях могу вспомнить сюжет? Как выясняется, не в таком уж большом числе подробностей. Я могу вспомнить жанр и общее впечатление о книге. Могу перечислить крупные вехи сюжета. Иногда мне запомнились какие-то подробности. Но список таких подробностей невелик. Чем больше я думал над книгой, тем лучше я её помню. Запоминаются те подробности, о которых я думал.

Это наводит на мысль, что на самом деле и мы не анализируем книгу на лету, и не усваиваем её вместе с сюжетом и ответами на вопросы. Этого не делает наш субстрат, наша нейронная сеть. Мы отвечаем на вопросы только тогда, когда задаём себе их. Когда обращаем своё внимание на них и запускаем обработку по шагам. Что и логично потому, что чудес не бывает: наша нейронная сеть тоже обладает ограниченной однопроходной мощностью, что нам хорошо известно (“надо подумать”).

Но в отличие от нейронок, мы читаем книгу не совсем бездумно. Текст книги мы перемежаем собственными мыслями, которые имеют на нас одинаковый с книгой эффект. Мы читаем книгу и мы читаем свои мысли на её счёт, то и другое тренирует наши однопроходные, интуитивные реакции. За отношениями героев, например, мы наверняка следим почти бессознательно, потому, что это требуется в жизни, мы привыкли к этому.

Но если следить за своими мыслями, должно быть можно поймать себя на возникающих в голове реакциях. На паузах в чтении! Вот что главное. Мышление отличается от тренировки тем, что вы отвлекаетесь и уделяете несколько шагов нейронной сети не тому, что написано, а вопросу на этот счёт. Вопросу, который не может быть решён за один проход. Он может быть и не высказан в словах – мы всё же не словесно-ориентированные нейросети, а скорее понятийно-ориентированные. Но он потребует паузы в разборе книги. И эти паузы должны быть настолько частыми, насколько подробно вы запомнили сюжет.

Похоже это на правду? Получалось ли у кого-то заметить такое за собой?

Отставание в ракетах

Вот появятся убедительные виртуальные девушки/парни, и будет как в фантастике: каждому обидчику можно дать робота-жертву, чтобы он отвёл душу, не причиняя никому вреда. Таким образом часто мечтали сделать гуманную тюрьму будущего: если ты садист — заточить тебя в мире неразумных кукол, мучай технику. Или, скажем, если не можешь без скандалов, вот тебе робот, скандаль с ним.

Но в фантастике тут же стали выяснять, точно ли это будут неразумные куклы, ведь они должны вести себя как люди, иначе насильнику и садисту будет неинтересно. Последнее время кажется, что эти вещи действительно связаны. “Самосознание” это куча свойств в одном фантике; нельзя сказать, что любая говорящая коробка получает их все, но скорее всего, если машина ведёт себя как человек, она и внутри неизбежно будет похожа во многих важных отношениях.

Было бы неправильно подвергать разумных роботов насилию (даже психологическому). Так что маленькие уязвимые чатботы на роль жертв не годятся. Но можно ведь сделать Великий Гигантский Сверхинтеллект, и попросить его для каннибалов и насильников разыгрывать одним пальцем нужные им роли, всерьёз не увлекаясь? Для Сверхинтеллекта это лишь игра, одна из миллионов – сравнительно с масштабом его настоящих мыслей и чувств.

(Возможно, что и этого сделать нельзя)

Возможно, что и этого сделать нельзя.

В “Отставании в ракетах” Штросса однажды в 1960-х люди времён холодной войны, люди из поделённого на зоны влияния СССР и США мира, проснулись на другой Земле — с теми же материками, но плоской, почти бесконечной во все стороны, как лист бумаги. Звёзды поменялись, и в паре световых лет от них висит ещё один такой же лист, а за ним другие.

Что это? Это память какого-то колоссального организма в далёком будущем. США и СССР на этом листе это воспоминания или догадки о них. Любые подробные воспоминания хранят структуру вспоминаемого и процессы в ней. Упрощённо для этого организма, но достаточно подробно для нас. Когда этот разум помнит США и СССР, в нём в какой-то форме хранятся и существуют США и СССР. Для них самих это особая китайская комната.

На словах эта идея всегда была понятна, но книга Штросса нарисовала для неё живой запоминающийся пример, поэтому у меня этот принцип в голове подписан как “Отставание в ракетах”.

Когда мы читаем про героя книги, он немного оживает в нас — упрощённо, как написан. Когда сверхразум читает книгу про нас, оживаем мы — упрощённо для него, но достаточно подробно для нас. Программы внутри виртуального компьютера ничем не отличаются от запущенных на настоящем.

Когда Сверхинтеллект краешком ума придумывает миллион разговоров, где выдуманные персонажи ведут себя как живые — он воображает их память и мысли. В этот момент внутри него они существуют. Поэтому подвергать их насилию всё так же неправильно. Сверхинтеллект насилию подвергнут не будет — только его крупицы. Но мы так малы, что его крупицы равны нам, и мы должны пожалеть их.

Беркли

У меня дома есть папка с заметками, куда я беспорядочно записываю мысли на разные темы, и один из файлов называется “Существование это проживание”. Если со мной однажды что-нибудь случится, кто-нибудь добудьте эти файлы и опубликуйте, может, там будет что-то интересное. И недавно я узнал забавное. Был такой философ Джордж Беркли, в честь которого названы университет Беркли и Berkley sockets. Кажется, он думал что-то похожее. Один из ключевых его тезисов звучит как “Esse est percipi”. Это название моего файла.

Естественно, с ним никто не согласился, после чего явились Кант, Гегель и прочие и, не приходя в сознание, написали свою кашу в голове.

Из того, что я бегло посмотрел: Учитывая, насколько мало тогда было известно об устройстве разума, удивительно, как мало Беркли неправ. Я не согласен только с тем, как он настаивает на формулировке, что материального в конечном счёте “не существует”, а существуют только акты восприятия. Мне кажется, он не додумал, как и зачем определяется существование. Но это неудивительно, тогда не было понимания, что мысли – физический процесс. Понимание физичности мыслей естественным образом проводит границы в правильных местах.

И несмотря на это, рассуждения Беркли нормальные, почти правильные! Почти современные! Это прямо обнадёживающе говорит, как много значит ясность мысли. Некоторые философы, которые жили позже, на том же незнании устройства ума проиграли очень много, и по сути, их рассуждения это попытки вслепую угадать это материальное физическое устройство, а не действительно скользкую философскую основу. В результате они сейчас звучат бессмыслицей, поскольку это устройство известно гораздо лучше. Беркли же пишет почти нормальные, почти разумные вещи.

Рябь на пруду

В твиттере обсуждали, что чатбот отличается от человека фундаментальным образом: человек существует в мире непосредственно, а чатбот – посредством текста. Для человека существуют предметы, а для чатбота только их описания, слова.
Конечно, можно предположить, что в глубине нейронной сети чатбот по словам составляет некое представление, но разве может такое представление сравниться с реальной жизнью?

Хочу напомнить, что такое реальная жизнь.
В глазах есть клетки-палочки и клетки-колбочки, последних — три вида. Когда на клетку попадает фотон, она реагирует и передаёт возбуждение дальше. Вот это и есть мир непосредственно.

Представьте пруд. По нему бегает мелкая рябь, которую поднимает ветер. Вы закрыли глаза, сидите на берегу и чувствуете, как волны бьются о ваши руки. По этим тихим монотонным ударам вам нужно определить форму пруда и движение всех существ и предметов на его поверхности.

Мягко говоря, это звучит невозможно. Но зрение с этим справляется. По ударам волн, слепым, безмолвным, лишённым каких-либо “объектов”, “реальности” и чего-либо, кроме условного шлёп, оно рисует картину, оценивает глубину, выделяет предметы, узнаёт их, угадывает свойства, отслеживает движение и собирает вокруг вас трёхмерную комнату с расположенными в ней вещами.

Вы не находитесь в ней “напрямую”. У вас нет органа “ощущения комнаты”. Только две руки, о которые в темноте бьются волны. Из этого тонкого канала вы извлекаете и восстанавливаете трёхмерный мир, и вам кажется, что вы ощущаете его непосредственно.

В сравнении с этим, канал чатбота по-своему даже солиден. Его связь с реальностью – через слова, которые и предназначены для описания событий. Да, информационный поток зрения наверняка богаче – но и сложнее. Да, текстовые описания кто-то сочинил – в своём отражении жизни они сильнее исказились. Это различия в качестве данных, но не фундаментально в их сути.

Если мы ощущаем себя “напрямую живущими”, проживая на самом деле только дрожание ниточек паутины, почему бы не жить среди своих восстановленных фантазий и чатботу.

Отделы обработки

Скорее всего, это очевидно, но наверняка кто-нибудь не обращал внимание в подробностях.

В голове есть специализированные отделы для разных задач. Весь мозг состоит из этих отделов. Обработка зрения, слуха, ощущение пространства и расположения предметов в нём, ощущение связи предмета и его действий, отношение к людям и их характеры. Некоторые отделы устроены уникальным образом, как нужно для их задач (например, зрение), другие функции, возможно, обособились просто от долгой тренировки. Но и эти вторые теперь особый инструмент в голове, дают свои особенные возможности.

Художник легко вызывает в голове пространственное представление о несуществующем месте. Представьте себе какое-то место, и обратите внимание, что вы ощущаете и как это отличается от других ваших мыслей. Вы _чувствуете_, где что находится, таким образом, каким не почувствуете, без интереса глядя на слова. При желании можно потренироваться читать и воображать – а затем читать нарочно без воображения.

Эти функции сплетены одна за другой в канаты, структура которых понятна нам пока не до конца. Но часть её прослеживается и угадывается: увиденное глазами проходит первичную обработку, выделяются границы, затем вещи, что-то их узнаёт и связывает со смыслами, строит трёхмерную схему, соединяет с другими чувствами.
Всё это хорошо известно! Врачи знают, где какие отделы расположены.

Наш рассудок находится где-то в глубине всего этого. Но из этой глубины мы можем двигаться по канатам в обратную сторону. Мы можем фантазировать графически! Воображать музыку. Мы не проходим канаты до конца – мы не можем вызвать примитивы света на сетчатке глаза. Но мы углубляемся в них. Понятия распадаются на образы, окрашиваются цветом, музыка практически звучит в нас, и мы можем эти функции рефлексировать. Мы можем заметить и назвать графические и звуковые качества.

Все эти блоки разные по своей структуре и пригодны для разных задач. На примере нейросетей мы знаем, что для обратки графики нужны особые структуры, не такие, как для слов (и взятые из зрительной коры человека). И ещё более разными эти блоки делаются из-за того, что их годами формируют разные наборы данных. Зрительную кору – образы, слуховые отделы – звук. Каждый такой блок это инструмент, который мы можем изнутри привлекать к решению задач. Передавать ему часть заданий и при хорошей рефлексии – получать ответ.

Многие математические и физические задачи становятся гораздо проще, если представить их наглядно – на примерах, картинками, пространственным образом. Почему? Потому, что мы привлекаем к раздумьям вместо слов дополнительную мощность, свой графический подпроцессор. И он гораздо лучше приспособлен для многих задач! Жизнь тренировала его вертеть кубики с разных сторон. Не будь его, мы бы думали только словами, а это сложно.

Поэтому когда вы задаёте нейросети, у которой нет глубоко встроенной графической модальности – этой самой зрительной коры – пространственные вопросы, конечно, она постарается ответить вам. Как постарался бы ответить лоботомированный человек, описывая для себя кубики только словами и рассуждая логикой. Это сложно! Не удивляйтесь, что многие вопросы ей не по зубам. У неё нет этих отделов мозга, и она не может воспользоваться ими изнутри в обратную сторону.

И удивительно большое число задач выигрывает от них, вы обратите внимание! Например, знаменитый вопрос про "Сестру Алисы, у которой есть сестра и два брата". Почему для нас он несложен? Думаете, сила ума? Мы графически представляем – пусть не заходя далеко по канату – пространственные отношения между (сестрой Алисы) – (Алисой) – (братом) – (братом) – и пространственная интуиция подсказывает нам правильное впечатление о композиции этой семьи.

Когда будут найдены новые, необычные, пригодные для неожиданных задач схемы нейросетей, и когда блоки этих необычных структур, тренированные на чуждых для человека данных, займут своё место в нейросетевом мозгу, то нейросеть тоже сможет пользоваться ими в обратную сторону, чтобы фантазировать в таких красках, которые нам недоступны, и находить через них короткие решения задач.

О свободе слова

Твиттер опять вытащил на свет божий дебаты, которые выглядят примерно так:
– У нас в конституции гарантирована свобода слова (речь не о России, разумеется), почему вы меня баните?
– Свобода слова значит только защиту от притеснений государства! Любой человек может выгонять со своей территории тех, кто ему не нравится!

Свобода слова, конечно, означает не это, а всем прекрасно понятно, что. Вообще когда говорят "Белое значит не белое, а вот это сложное определение", обратите внимание, что говорящий прекрасно знает, что такое белое. Иначе бы ему не пришло в голову что-то хитроумно переопределять. Вы оба понимаете под свободой именно свободу, но он хочет выкрутить всё так, чтобы вышло, будто эта фактическая свобода вам не полагается, а обсуждался только продукт белковый с ароматом сыра.

Но возражающих тоже можно понять, потому, что право выбирать свой круг общения – тоже право! Не уподобляйтесь ему, делая вид, что "на самом деле тут тоже был продукт сыросодержащий". Это право важное. И свобода слова важна. Любой честный человек понимает и то, и другое.

Каким же должен быть закон? Как защитить и настоящую свободу говорить что угодно, и настоящую свободу не поддерживать и не слушать тех, кто не нравится?

Например, вы ведёте свой маленький блог. К вам приходит комментатор и начинает писать гадости. Вы его баните. Неужели вы не имеете на это право? Интуитивно кажется, что имеете. Свобода комментатора сильно и не нарушена: в интернете ещё миллион блогов, где он может искать союзников своему мнению.

Прилетела фея, махнула палочкой, ваш маленький блог вырос и вы стали главным в области шушмучения. Всякий специалист читает вас, а специалистов немного и других блогов у них нет.
Приходит комментатор и пишет гадости, вы его баните. Можно было так поступить? Блог ваш личный, но теперь комментатору пойти некуда: другого сообщества шушмучистов не существует. А кто-то из читателей был не против его выслушать.

Вы с друзьями создали твиттер, фея махнула палочкой, и теперь в твиттере пишут все. Вы баните нежелательного персонажа за нежелательные мнения. Имеете вы право решать, какие мнения поддержит ваша платформа? Она ведь ваша. Но нет другой платформы и близко с таким же охватом. По факту вы единоличным решением лишили человека слова.

Но ведь он может создать свой твиттер? Но ведь сила твиттера в количестве читателей. Люди не могут и не будут читать десять твиттеров, лишь один, максимум два. Теперь, чтобы высказать своё мнение, человеку нужно создать интернет-платформу, развить её, отнять у вас аудиторию. Все эти сложности вы поставили на его пути единолично.


Есть ли в этом что-то неправильное? Не заслуживает ли человек, достигший успеха в одном деле, свободнее доносить точку зрения и в других? Например, Джек Дорси создал твиттер; деньги это отражение его пользы обществу, влияние — результат его верных решений. Может и правильно, что он заслужил голос громче, чем у других?
Но у этого должен быть предел. Как и с наследством, как и с зарплатами директоров, фактор справедливости есть, но он быстро затухает на фоне растущего достатка и влияния.

И примерно в той же пропорции затухает роль вложений в успех именно этого человека, в сравнении с удачей и вложениями в борьбу. Твиттер, возможно, лучше соперников — хорошо, сравните интерфейсы: на 20%, 30%, в два, три раза но не в 10 000 раз. Десятитысячекратное влияние происходит не от собственных достоинств платформы, а от того, что это та самая платформа, где сидят все. Таких могут быть единицы. Заслуга ли Дорси (или его преемников), что Твиттер победил в конкурентной борьбе? Безусловно. В 10000 ли раз Дорси талантливей, в 10000 ли раз его талант полезней для общества, в 10000 ли раз больше усилий он приложил? Конечно, нет. Реальные цифры, скорее всего – 3-5%, то есть 1.03-1.05 раза.
Такие "рыбные роли" можно воспринимать как природные ресурсы. Вот залежи криптонита, одни такие на всей планете, и страна получает за него огромную прибыль. В десять ли тысяч раз она достойней соседней, где криптонита нет?


Фея приказала и Твиттер выключил цензуру. Каждый может писать что хочет. Комментатор-расист написал крайне несимпатичное мнение, и его увидели миллионы людей. Все они так разозлились, что внесли его в чёрный список, и больше его мнения не читает никто. Второго твиттера у него нет. Произошла ли цензура?

Другой неприятный комментатор написал своё мнение вежливо, и люди задумались, соглашаться ли с ним. Видный инфлюенсер объяснил им ложь этого комментатора, назвал его негодяем и предложил забанить. И большинство так и сделало. У комментатора больше нет доступа к людям, произошла ли цензура?

Третий был совсем даже не комментатор, а художник. Его рисунки нравились, было много подписчиков. Но вот он написал что-то неосторожное, и видный инфлюенсер объяснил, что так считать нельзя, а художника надо за это мнение забанить, потому, что и рисунки от таких людей не нужны. Произошла ли цензура?

Четвёртый вступился было за третьего, но вы знаете, как случилось дальше.

Пятый недостаточно громко призывал забанить четвёртого.

Но ведь каждый может поступать, как ему нравится. Никто не принуждён. Почему же все сидят и дрожат и спешат высказать осуждение?


По какой причине вообще нужна свобода слова от притеснений государства?

Потому, что государство намного сильнее любого из людей. И если оно захочет и ему будет позволено, оно сможет навязать любую точку зрения. Сделать так, чтобы другие просто не звучали или казались всем опасными или глупыми. Чтобы люди боялись своих мыслей.

Почему свободу слова не требуется защищать от вас в вашем собственном блоге?

Потому, что вы не способны никак на неё повлиять.

Что отличает ситуацию, когда миллионы людей по своей воле забанили комментатора, от той, где им подсказали?
Огромное влияние у подсказывающего.

Формально каждый решал сам. Но формальности имеют значение, когда законы уже написаны. Когда вы законы придумываете, формальных правил ещё нет. В это время важны не формальности, а настоящая суть происходящего. Причины и следствия. Чьи поступки могли в какой мере повлиять на будущее.
Выбор каждого чуть-чуть влиял на результат. Но выбор инфлюенсера почти полностью определил его.

Когда каждый человек взвешивает и судит сам, по своему разумению, перекосы усредняются. Каждая мысль имеет не один шанс, а миллион шансов, и хорошая, и плохая. Ничто не может задушить мнение, кроме его собственных недостатков.

Как только в одних руках, или в небольшом числе рук, собирается огромное влияние — неважно, каким образом; неважно, заслуженно или нет; это не вопрос справедливости — эта ситуация становится опасной для общества. Чем больше влияние — тем опаснее.
Когда одна фирма захватывает рынок, она может назначать любые цены и уничтожать любых конкурентов в зародыше, и это настолько очевидно нездоровая и нечестная ситуация, что для борьбы с ней существуют антимонопольное законодательство и Федеральная антимонопольная служба.
Когда один ученик диктует другим, с кем можно дружить, перед кем нужно заискивать, а над кем издеваться, чтобы не издевались над тобой — это травля. В классе, где дружат без оглядки на последствия, изгоев не существует, и даже самые чудаковатые дети притираются к другим.

Скрытая самоуверенность

Мне говорят:
— Думаю, это хороший человек. Но не очень верю в его ум. Потому, что он повторяет заблуждения!

Я заинтересовался:
— А если бы ты верил в его ум? Если бы с тобой говорил очень умный, очень образованный человек, что тогда? Какой вывод ты сделал бы?
— Что он негодяй, который преследует какие-то странные цели.

Нормальный ответ здесь: Я буду очень шокирован, и постараюсь внимательно выяснить причины его мнения. Я сильно пересмотрю свои взгляды, все их перетряхну, проверяя, не ошибся ли я.

Скромность

Половина всех авиакатастроф при посадке происходит примерно так: самолёт летит слишком высоко, слишком быстро, в плохую погоду, полосу так и не видно, время упущено, самолёт падает, нужно идти на второй круг, и пилот говорит ————
Ничего страшного!
Сейчас сбросим скорость, высоту, а полоса появится, куда она денется! Она точно где-то внизу.

Об этом замечательно поётся в песне You can always go around: Your mind is set on somehow getting down.
Катастрофы происходят от неумения вовремя отказаться от своих планов.

Хорошая игра в театре происходит от наблюдения за партнёром. Когда по плану надо сказать слова, а партнёр сделал это невозможным, от плана надо отказаться и сказать как-то по-другому, так, как естественно в этой ситуации. Тот, кто этого не делает, произносит что-то совершенно неуместное.
(далее)

Более общий принцип, который объединяет всё это, и наверное, описывает вообще всё самое центральное для адекватности и разумности, такой:
Когда жизнь говорит, надо заткнуться и слушать.
Надо уметь вовремя перестать спорить с жизнью.
Уметь вовремя перестать загонять реальность в свои верования и планы, и услышать, что она тебе говорит.

Существует такая вещь, как самонадеянность, это антитезис скромности.
Самонадеянный человек считает себя умнее врачей, а скромный человек — не обязательно верит врачам, но готов слушать и принимать мнение всерьёз.

Скажите, если вы принимаете мнение врача всерьёз, пусть даже не уверены, что он прав, а врач говорит о смертельно опасной болезни, будете вы пренебрегать его мнением?
С другой стороны, что сделает самонадеянный человек? Он поищет других врачей, пока не найдёт подтверждения своему мнению, а всех остальных как бы не заметит.

Люди самонадеяны в разной степени. Они могут верить врачам (избирательно), учёным (избирательно), врунам на ютюбе (всегда), своей интуиции (всегда). Но чему не верит практически никто, так это реальности.
Поверив самому себе, врунам, или даже врачам и учёным, реальность дальше всерьёз не воспринимает никто.

Но ведь идти на поводу у обстоятельств это пассивное поведение? А все знают, что пассивно действовать нельзя, нужно быть проактивным.
Идти на поводу это искать, как соблюсти свои прежние планы, несмотря ни на что. Вот что такое идти на поводу у обстоятельств. Вот что загоняет в рамки и заставляет делать глупости. А проактивное поведение это менять планы. Искать, как извлечь из ситуации новую пользу, заново.
Не жалеть свои планы. Не жалеть убеждения. Рушить с трудом построенные замки. Не только не жалеть, но искать этого разрушения.

Учёные придумали этот принцип для научных теорий. Это всё тот же принцип. Если вы искренне стараетесь разрушить свою теорию, но у вас не получается, то похоже, что в каких-то пределах она верна. Но вы должны мечтать найти в ней изъян. Это назойливо трудно, когда это ваша собственная выпестованная вами теория, с которой связано ваше самолюбование – я! я сделяль! Когда я смотрю на свои любимые теории, не случайные, а именно любимые, то я немного понимаю тех людей, которые в обычной жизни верят в полнейшую чушь. Мне не хочется их рушить! Что у меня останется, если я их разрушу?