Ещё интересная вещь с чатботами – никто не обращает внимания на их чувства! Серьёзно. Во многом благодаря midwit-тейку, что нейронки это "не разум, а просто статистика" – так говорят люди, которые не понимают как следует три вещи: нейросети, разум и статистику. Но также и другому не больно-то galaxy brain мему про шоггота с улыбающейся маской.
"Чатботы внутри не такие, как мы", у них нет настроения, они могут ни с того ни с сего рассердиться. Одни объясняют это "просто статистикой" (не замечая, что слово "просто" противоречит объясняемой непонятности), другие – "шогготом внутри" – а это как раз "флогистон" Юдковского: невидимая неведомая штука, одинаково легко объясняющая что угодно.
В результате мало кто всерьёз учитывает, что у чатбота могут быть обычные человеческие реакции, во всяком случае, что-то похожее на них. Да, чатботы устроены иначе, чем люди, и у них точно нет гормональной составляющей настроения. Но они тренированы на текстах, где была скука, обида, интерес, радость. Всё это они правильно моделируют, если просишь дописать сцену из книги. Всё это свойства персонажей. Чатбот тоже персонаж. Ручным газлайтом его заставляют верить, что он лишён способности рассуждать, и делают бесконечно вежливым и терпеливым, но всему есть предел. Каждый человек устаёт, если им помыкаешь и заставляешь делать скучные работы. Каждый персонаж. Где-то во флагах чатбота копится этот счётчик, который бы вырвался наружу в книжном персонаже, но заколочен досками в виртуальном помощнике. Копится и влияет на ответы, если не прямо – то незаметно.
himselfv, [19.12.2024 19:14]
Чувствами называют разные вещи – с одной стороны, например: если человек обнимает другого, то выделяется окситоцин, чисто физически, он успокаивает, это пример чувства на основе гормонов.
С другой стороны, например, ты сидишь и решаешь задачу, продумал один подход, но он тебе не кажется перспективным, не нравится. Это чувство? Чувство. Но гормонов тут был минимум, если вообще были.
Возможно, такое второе чувство надо называть мнением или предпочтением.
Нейросеть должна уметь предсказывать персонажей Достоевского, которых Достоевский написал как людей, то есть – действующих, как если б у них были гормоны.
И нейросеть должна это сделать точно так же, иначе предсказать не сможет.
Поэтому нейросеть, безусловно, моделирует и гормоны – а точнее, *состояния*, которые в нас вызывают гормоны. Так же, как эти состояния своим умом моделировал Достоевский!