За пределами биологической целесообразности

Александр Яковлевич Каплан возглавляет лабораторию нейрофизиологии и нейрокомпьютерных интерфейсов биологического факультета МГУ, сотрудники которой не только занимаются изучением фундаментальных механизмов мозга человека, но и на основе этих знаний разрабатывают технологии прямой коммуникации мозга с компьютером. Наш разговор посвящен существующим разработкам в области нейроинтерфейсов, главным препятствиям на пути их развития, а также тому, какое знание о человеческом мозге дало появление нейроинтерфейсов, смогут ли машины читать человеческие мысли и сможет ли мозг жить вечно. 

— Одна из важных программ, которой занимается ваша лаборатория, — создание разнообразных интерфейсов мозг — компьютер». Для чего, с вашей точки зрения, подобные технологии могут пригодиться в современном мире, в сегодняшней нашей жизни? Если, разумеется, не говорить о предположениях футуристов и научных фантастов?

— Прежде всего, надо понимать, что нейроинтерфейсы — это не игрушки и не гаджеты. Речь идет о целой технологии, которая позволяет зарегистрировать электрическую активность мозга, расшифровать в ней намерения человека и электронным образом транслировать эти намерения прямо к исполнительным устройствам. Собственно, в естественной природе мозга так и происходит: мозг формирует намерение, и далее эти намерения передаются исполнительным устройствам — только в организме этими устройствами являются мышцы, которые и приводят в действие исполнительные устройства.

Но к настоящему времени человечество создало микроэлектронику, и появилась возможность транслировать намерения человека от мозга непосредственно к техническим системам без посредства мышц. Впервые такой проект открылся по заданию военного ведомства в США в 1970 году. Его руководитель Жак Видаль взялся разработать нейроинтерфейс для управления летательными аппаратами прямыми командами от мозга. Ничего не вышло: электроника была не та, вычислительные средства слабоваты, да и знаний было недостаточно для создания такой технологии. Новая волна разработок в области нейроинтерфейсных технологий началась со второй половины 1980-х. Тут уже у американцев и европейцев начало что-то получаться .

— Занимались ли подобными разработками в Советском Союзе, в России?

— Так получилось, что волна нейроинтерфейсных разработок двигалась от США в Европу и далее на восток очень медленно. Когда я в своей лаборатории в МГУ задумал начать работы в области нейроинтерфейсов, на дворе стоял 2003 год. В это время ни в Японии, ни в Южной Корее, ни в Китае не было ни одной научной статьи по нейроинтерфейсам.

— Ваш пример показывает, что в итоге за эти работы взялись и у нас. И, вероятно, с использованием каких-то заделов из области нейронауки.

— У нас это произошло, когда на столах исследователей уже появились мощные персоналки. В моей лаборатории в МГУ мы стартовали не на пустом месте. К этому времени мы уже много лет успешно занимались анализом электроэнцефалограмм человека, записанных при разных его состояниях: при нервно-психических нагрузках, при действии лекарственных средств, при психических патологиях, например при шизофрении, при когнитивных нагрузках. Все это делалось с применением современных вычислительных средств и новейших математических методов. Какие-то методы мы разработали сами, например сегментный анализ ЭЭГ. Собственно, тогда и появилась мысль: раз мы так хорошо, как нам кажется, научились по ЭЭГ распознавать разные функциональные состояния мозга, от когнитивных актов до медитативных погружений, анализируем сигналы мозга, то не попробовать ли сделать следующий шаг — расшифровывать по ЭЭГ сами намерения человека к каким-то действиям, например сжать кисть правой или левой руки, двинуть курсор в нужном направлении или набрать на экране компьютера какой-то символ. 

— Какую задачу вы хотели решить при помощи интерфейса?

— Первым делом я хотел создать нейроинтерфейсную технологию, которая позволила бы в энцефалограмме человека расшифровать его намерение набрать ту или иную букву, символ и так далее. Эти расшифровки тут же можно использовать, чтобы через электронные цепи действительно напечатать нужную человеку букву на экране. Так, буква за буквой, человек мог бы набрать целый текст, не прикасаясь к клавиатуре, только силой своих намерений. Для здорового человека это не более чем игра, но для пациента после инсульта или травмы головы, который не может ни говорить, ни двигаться, такая коммуникация открывает мир общения заново.

— Насколько уникальной для своего времени была такая технология? 

— Сама методика расшифровки намерений набрать ту или иную букву была изобретена американцами еще в конце 1980-х. Но все это были лабораторные модели. Мы поставили задачу как можно быстрее довести их до возможности практического использования в клиниках. Это требовало решения многих задач: во-первых, необходимо было максимально повысить скорость и точность срабатывания алгоритма анализа ЭЭГ при намерении человека набрать конкретную букву. Во-вторых, само устройство для регистрации и анализа ЭЭГ нужно было сделать максимально простым и удобным для использования в больницах и в бытовых условиях, на дому у пациентов.

— На какие средства вы проводили исследования?

— Первоначально, в 2003 году, мне не удалось получить в России финансирование на проведение комплекса исследований в области нейроинтерфейсных технологий. Мне дружески советовали не заниматься чудачествами, а продолжить свои исследования в области фундаментальной физиологии мозга. Пришлось работать на зарубежных грантах, в том числе в зарубежных лабораториях. При этом я оставался на своей должности в МГУ, в полной мере выполняя обязанности по руководству сотрудниками и аспирантами. За два года такой поддержки удалось создать первые отечественные нейроинтерфейсные технологии и опубликовать первую от России статью в этой области в рейтинговом зарубежном журнале.

Позже нас стали поддерживать в России. В частности, мы получили очень весомый грант от фонда «Сколково». На эти средства выполнили большой комплекс фундаментальных и технологических работ, опубликовали знаковые статьи. Но в этих наших делах не хватало важного этапа — внедрения разработанных технологий в реальную жизнь, например для помощи пациентам. Макет, собранный для исследований из лабораторного оборудования, нужно было заменить на беспроводную компактную гарнитуру, которую можно было бы достать из коробки, надеть на пользователя, далее загрузить приложение в ноутбук и готово: пациент может набирать тексты, не прикасаясь к клавиатуре.

Конечно, такое устройство медицинского назначения должно было быть сделано на профильном заводе, со всей необходимой технической документацией. Вот на этой стадии нам удалось получить достаточно большой грант в рамках Национальной технологической инициативы, а также найти соинвестора, которым стала компания «Нейротренд». Все получилось, и в 2018 году на рынок вышел продукт «НейроЧат», созданный нами совместно с компанией «Нейротренд».

Взаимодействие с «Нейротрендом» позволило значительно улучшить пользовательские качества технологии и самого прибора. Теперь пользователь может не только выбирать при помощи нейроинтерфейса буквы для печатанья слов, но и пользоваться пиктограммами для объяснения своих желаний — например, изображение чашки означает, что пациент хочет пить. Не прикасаясь к клавиатуре и без голоса, одними мысленными усилиями, пациент может также сохранить набранный текст в памяти компьютера, потом вызвать на экран и продолжить набор; может отправить текст по электронной почте, сделать звонок другу, наконец, включить/выключить пять-шесть домашних устройств, заранее подключенных к нейроинтерфейсу. В общем, получилось рабочее место пациента, позволяющее ему вернуться, насколько, возможно к посильному труду. Комплекс «НейроЧат» уже выпущен в количестве 500 экземпляров и уже находится в больницах и в домашних условиях у пациентов.

— В каких еще ситуациях, на ваш взгляд, могут быть полезны нейроинтерфейсы?

— Одно из направлений, в работе над которым мы также принимали участие, — это создание интерфейсов для так называемой идеомоторной тренировки, то есть восстановления функций движения у постинсультных больных. Инсульт, как известно, может «выбивать» часть клеток, которые используются мозгом, допустим для координации управления рукой. Даже если «выбито» всего десять процентов таких клеток, механизм не складывается, и рука отказывает. Значит, нужно собрать новую рабочую комбинацию из остающихся клеток. Мозг это может, он очень пластичен. Но ему нужны критерии: вот он создал новую сборку нейронов, нужно проверить — работает рука или нет. Если с рукой ничего не происходит, он пробует заново, потом еще раз. Однако если раз за разом ничего не получается, мозг решает, что задача безнадежна, и просто бросает этим заниматься. И уже навсегда. Так вот, что можно сделать. Пусть нет движения, но само намерение к движению не пропадает. Значит, надо подхватить это намерение, передать его к исполнительному устройству, которое чисто механически приведет руку в движение. Получается, что намерение претворяется в действие, пусть и посредством нейроинтерфейсной технологии, но мозг не сдастся, будет продолжать перестраивать нейронные сети, пока рука не начнет действовать сама по себе.

Идея интерфейса для подобных тренировок достаточно очевидна, поэтому работают над ним много научных коллективов в разных странах. И трудности в этой работе тоже очевидны. Ну, скажем, для восстановления движения интерфейс должен распознавать, какой рукой, левой или правой, намерен двигать пациент. Если интерфейс будет отгадывать задуманную руку с вероятностью 50 на 50, это просто тыканье пальцем в небо, мозг «не поверит» , что его желания исполняются. В нашей лаборатории нейроинтерфейсы отгадывают намерение человека сжать кисть в кулак с вероятность близкой к 0,9! Такие тренажеры уже можно использовать для реабилитации после инсульта. Наши коллеги из Института нейрофизиологии и высшей нервной деятельности уже внедрили подобные тренажеры в практику медицинской реабилитации.

Коммуникационная система НейроЧат создаёт возможность сетевого общения людей, не имеющих сегодня возможности говорить и двигаться, людей с такими диагнозами, как: ДЦП, БАС, инсульт, рассеянный склероз и различными нейротравмами (ЧМТ, спинальные травмы и другие) с родными, медицинским персоналом, друзьями и всем миром

navigator.sk.ru

Нужна ли шапочка, чтобы включить лампу

— Все, что вы описывали, подразумевает, что нейроинтерфейсы пока могут помочь только людям с тяжелыми нарушениями мозга в распознавании и выполнении простейших намерений. Но, как бы ни была важна такая помощь тем, кто в ней нуждается, такие пациенты все-таки специфическая и, слава богу, не слишком большая группа населения Земли. Будет ли технология полезна и здоровым людям?

— Что ж, давайте попробуем пофантазировать, как нейроинтерфейсы могут помочь здоровым людям. Скажем, я веду машину, руки заняты. И мне надо позвонить по телефону. Интерфейс считывает мой сигнал, подносит мне телефон к уху и набирает нужный номер. Или вы заходите к себе домой, тут же по вашему мысленному желанию зажигается свет, нажимается кнопка на автоответчике, включается телевизор и так далее. Неплохо, но не будем забывать, что для работы нейроинтерфейса на голове должны быть электроды. Так и будем ходить с электроэнцефалографической шапочкой? Но дело даже не в этом неудобстве. До сих пор исследователи не научились считывать с этих электродов даже самые элементарные намерения человека, за исключением намерений к движению.

— С чем, на ваш взгляд, это связано?

— Для того чтобы в электрической активности мозга расшифровать задуманный человеком образ, надо, чтобы при каждом своем появлении этот образ был строго одним и тем же. Тогда какую-нибудь искусственную нейросетку можно было бы научить распознавать его в электроэнцефалограмме. Но мы же знаем по себе: три раза подумаешь про медведя, и каждый раз медведи будут разные. Как в таких условиях настроить нейроинтерфейс? А что говорить тогда про более сложные намерения и мысли? Психические образы слишком подвижны, чтобы как-то более или менее одинаково проявляться в ЭЭГ при повторном воспроизведении. Уже много лет в лабораториях мира пытаются настроить интерфейсы на распознавание даже самых простых мысленных образов — не получается или получается, но с вероятностью близкой к 50 на 50.

— Иными словами, такие работы кажутся вам безнадежными?

— Теоретически более или менее надежные распознавалки простых мысленных усилий на основе анализа ЭЭГ, наверное, можно будет сделать. Но здоровому человеку вряд ли они понадобятся в каком-то виде, кроме игрушек.

Что вживляют в мозг

— Некоторые специалисты полагают, что считывать различные намерения мозга и выделять из общего шума сигналов именно тот, который интересен в данный момент, будет проще, если использовать какую-то инвазивную технологию, с вживлением электродов непосредственно в мозг, чем расшифровывать электрическую активность с сенсоров, закрепляемых на кожной поверхности головы. Есть ли перспективы у таких технологий — как с точки зрения эффективности, так и возможных моральных вопросов.?

— Прежде всего, надо понимать, что вживление электродов в мозг — это сложная нейрохирургическая операция. Действительно, внутримозговые электроды могут регистрировать активность отдельных нервных клеток, то есть гораздо более чистый сигнал, чем ЭЭГ, собираемая сразу с сотен тысяч нервных клеток. И потому сигналы отдельных нервных клеток гораздо легче поддаются расшифровке. Именно на регистрации таких сигналов построены нейроинтерфейсы, продемонстрировавшие успешные попытки парализованных пациентов мысленными усилиями управлять манипулятором. Эти исследования выполнены в нескольких лабораториях, главным образом в США на деньги военного ведомства.

— Участие в таких экспериментах военного ведомства заставляет задаться вопросом: почему технологии по вживлению в мозг электродов заинтересовали именно Пентагон?

— Никакой конспирологии тут нет. Просто, как только США начинают вести войны, появляются покалеченные солдаты. И Пентагон готов выделять финансирование для разработки лечения самых тяжелых травм и широко объявлять об этом — это ведь не последняя информация для тех, кому предстоит воевать. Конечно, можно подумать, что кроме задекларированных целей они ведут какие-то секретные разработки. Но в это сложно поверить. Нейроученых в мире не так много, и всех их мы более или менее знаем. Пентагону их просто неоткуда было бы взять для проведения серьезных секретных исследований. Эти ученые переходят с одного большого проекта на другой. Сейчас, например, часть известных нам исследователей в области нейроинтерфейсов работают у Илона Маска в его нейроисследованиях. Однако фантазии Илона Маска о тотальном подключении мозга человека к компьютеру постепенно испаряются, по мере того как ученые переходят от деклараций к конкретным разработкам.

— Насколько я понимаю, Neuralink Илона Маска обещала создать особенно эффективные сенсоры для вживления в головной мозг для лечения тяжелых пациентов (с их же помощью в отдаленном будущем Маск считал возможным «совершенствовать людей»). Вы считаете, что этот проект не может увенчаться успехом?

— Маск исходил из того, что уже существующие электроды, вживляемые в мозг, работают неэффективно, поскольку могут обеспечить максимум 300‒400 контактов с нервными клетками, и решил сделать технологию, которая позволяет увеличить число таких контактов до десятков и даже сотен тысяч. Что ж, это у него действительно получилось. Сейчас, насколько я знаю (общие знакомые есть), Neuralink сделал своего рода «швейную машинку», которая позволяет ввести в мозг более ста тысяч контактов. Предполагалось, что желаемый плотный контакт мозга с компьютером будет налажен еще в прошлом году, но этого нет и близко.

Однако не в числе контактов главная проблема в создании полноценной коммуникации между мозгом и компьютером, а в умении расшифровать потоки информации от сотни тысяч сенсоров. В настоящее время к этой проблеме нет даже теоретических подступов. Кроме того, даже сто тысяч контактов с нервными клетками выглядит как-то уж очень скромно, если учесть, что в мозгу человека содержится 86 миллиардов нервных клеток. А ведь каждое намерение, каждое мысленное усилие — это работа всего мозга. Как тут расшифровать намерение, если информация о нем собирается с ничтожной доли нервных клеток?

Электроэнцефалограмма — это самый простой способ зарегистрировать активность мозга

Simptomyinfo

Вслушиваясь в шум паровоза

— Обсуждая нейроинтерфейсы, мы постоянно говорим об электроэнцефалограмме. Но разве это единственный метод выявления происходящих в мозге процессов? Ведь в исследованиях мозга используется и МРТ, и инфракрасная спектроскопия.

— Электроэнцефалограмма — это самый простой способ зарегистрировать активность мозга. Берете копеечную монету, припаиваете к ней проводок — вот вам и электрод, который отводит электрические потенциалы. Дальше их надо усилить примерно в миллион раз и подать уже в цифровом виде на компьютер. Дальше надо считать нужные показатели. И не только в практичности дело, это безынерционный метод. Ведь нервные клетки общаются между собой электрохимическими сигналами, электромагнитные поля которых мгновенно достигают поверхностных электродов. То есть мы немедленно получаем информацию о происходящих в мозгу процессах.

Проблема, однако, в том, что в одном кубическом миллиметре содержится до 40 тысяч нервных клеток, а на поверхностных электродах суммируется активность сотен тысяч нервных клеток, как голоса отдельных людей на большом стадионе превращаются в шум, если их записывать одним микрофоном. Как расшифровывать такой шум?

Еще много лет назад, когда я на своей кафедре стартовал с анализом энцефалограмм, старые профессора мне говорили: «Послушайте, ну чем вы занимаетесь? Энцефалограмма — это же просто шум от паровоза». Конечно, вскоре я научился им отвечать: «Да, это так , но ведь хороший механик может понять состояние паровоза по шуму двигателя». Вот почему, несмотря на большие сложности в дешифровке кодов мозга, по ЭЭГ мы «подслушиваем» внутреннюю механику мозга.

С другими технологиями сложнее. Скажем, магниторезонансный томограф, МРТ, дает картину распределения кровотока по всему объему мозга. По усилению кровотока в какой-то области мозга можно судить о повышении активности в этой области. Так же работает и инфракрасная спектрометрия, когда череп просвечивают лазерным лучом и в зависимости от концентрации насыщенного кислородом гемоглобина получают больший или меньший обратный сигнал. Все это полезно для исследований, потому что если нейроны какого-то участка мозга увеличивают свою активность, то им требуется больше кислорода, то есть больше крови, и это становится заметным на картах МРТ. Но проблема в том, что такие метаболические отклики появляются через несколько секунд после самого ментального события. А мысль, условно говоря, может промелькнуть, даже не успев вызвать увеличение кровотока. Так что с точки зрения нейроинтерфейсов, где надо в реальном времени считывать поступающие сигналы, эти технологии все-таки проблематичные.

— Вы постоянно указываете на ограниченные возможности нейроинтерфейсов, те границы, которые они объективно не могут переступить в расшифровке сигналов из мозга. Насколько прочны эти границы?

— Это достаточно объективная ситуация. Последние лет десять ученые всего мира, занимающиеся нейроинтерфейсными технологиями, фактически топчутся на месте. Видно, мозг действительно держит границы внутренних ментальных процессов «на замке» даже от самых современных аппаратов визуализации мозговых процессов.

— Это связано с нынешними возможностями вычислительной техники?

— Нет, это связано с отсутствием подходов для дешифровки кодов мозга. Уж слишком они многомерны, распределены по всем нейронам, динамичны и еще постоянно перестраиваются в зависимости от поступающей новой информации.

— Какие могут быть возможные выходы за пределы этих ограничений?

— Здесь надо экспериментировать, искать новые подходы. Мы, к примеру, сейчас обдумываем новый подход к тому, как наладить надежное общение между мозгом и компьютером. Надо не самим придумывать все новые алгоритмы для распознавания в ЭЭГ мысленных образов, а отдать это дело на откуп искусственным нейронным сетям. Наша идея состоит в том, чтобы эти сети участвовали в процессе не пассивно, а активно предлагали свои гипотезы относительно отгадываемых по ЭЭГ мысленных образов. В начале процесса это могут быть случайные догадки — скажем, думающему об апельсине человеку она покажет на экране тот самый паровоз. Мозг, естественно, отреагирует, что это еще «холодно» — гипотеза далека от правильного ответа. Распознав этот простой ответ, искусственная нейросеть пойдет каким-нибудь другим путем, придет к новой гипотезе и так через какое-то число итераций покажет на экране очередную гипотезу — футбольный мяч. Это уже будет по отношению к апельсину «очень горячо».

Конечно, для этой задачи следует использовать определенным образом обученную нейросеть. У нее должны быть предварительные знания о каком-то наборе объектов. Так или иначе, после получения сигнала о том, что футбольный мяч — это ближе к ответу, чем паровоз, нейросеть начнет рыскать вокруг футбольного мяча и в конце концов, не важно, на какой итерации, получит апельсин. И запомнив эту траекторию движения «компьютерной мысли», нейросеть получит первый навык поиска правильного ответа. Появятся зачатки общения мозг — машина, которые могут привести к мозг-машинному языку без необходимости расшифровки кодов мозга.

— В чем принципиально эффективнее использовать для этого нейросеть? Ведь таким же анализом может самостоятельно заниматься и ученый-исследователь? 

— Главное преимущество здесь — быстродействие. Нейросеть принципиально быстрее будет делать такой перебор. Причем алгоритмы она формирует самостоятельно и, возможно, использует в них такие принципы, которые даже не придут нам в голову. Едва ли мы даже сможем понять, как именно нейросеть догадалась про апельсин. Но важно, что она сформирует канал. И так постепенно сформируется мозг-машинный язык. 

Доктор биологических наук, психофизиолог, профессор кафедры физиологии человека и животных, заведующий лабораторией нейрофизиологии и нейрокомпьютерных интерфейсов биологического факультета МГУ им. Ломоносова. Лауреат Государственной премии Правительства РФ Александр Каплан разработал первые в России нейрокоммуникаторы

Wikipedia

Хозяин тела

— Это заставляет, задаться вопросом, который восхищает или пугает: приближается ли технология к возможности понимать человеческие мысли — самостоятельно или с помощью нейросетей? 

— Едва ли. Ведь каждая мысль — это не отдельный акт. За каждой стоит сонм причин и условий, по которым она возникла. Даже самая простая мысль, допустим «хочу пить», возникает по разным причинам: у меня может пересохнуть во рту, когда я говорю, или я испытываю жажду в летнюю жару, мало ли причин. И все это еще сопровождается какими-то эмоциями и намерениями. Ну и как тут выделить главную мысль из ЭЭГ пусть от сотни сенсоров? И это я говорю о самых примитивных желаниях. А самое главное — мысль же крутится не вокруг одного нейрона. В одной мысли их может быть задействовано сотни миллионов! В формировании мысли задействуются нейроны из самых разных участков мозга. То есть мы должны каким-то особым образом расставить электроды — и это речь о тех электродах, которые придется вживлять в мозг для более четкого сигнала. Мы нашпигуем мозг электродами, натренируем считывающие алгоритмы, чтобы поймать какую-то мысль. А там мысль, как вы понимаете, не одна.

Мозг — это слишком сложный объект, вот в чем проблема. Но в случае применения нейросетей, как я уже говорил, кое-что может получиться, но и здесь нужна будет длительная кооперация индивидуального мозга и нейросети, то есть заинтересованность носителя мозга в том, чтобы рождаемые им образы распознали. И еще нужна будет кооперация ученых многих дисциплин: от философии и психологии, нейрофизиологии и медицины до математики, физики и электронной инженерии.

— И все же интересно, удалось ли при практическом решении вопроса создания интерфейса углубить знания о человеческом мозге, узнать о нем нечто такое, над чем прежде не приходилось задумываться? 

— Да, создание нейроинтерфейса — это, безусловно, новая парадигма в исследовании мозга. Хотя бы потому, что мозг по своей природе на выходе работает только с мышцами, которые по его команде выполняют нужные действия. А мы создаем искусственное устройство, которое перехватывает команду еще на пути к мышцам. И первый вопрос был, сможет ли мозг принципиально перестроиться на такие системы или он сконструирован работать только с мышцами. Этот ответ получен. Мозг может использовать подобные устройства. То есть пластичность человеческого мозга столь высока, что выходит за пределы биологической природы человека. 

— Это довольно опасная постановка вопроса. В этом случае получается, что мозгу в принципе не нужно человеческое тело. 

— Мозг человека действительно преодолел барьер биологической целесообразности. У него появились собственные соображения относительно смысла жизни. Как только мозг оказался осознающим собственное «я», тело человека стало фактически придатком мозга, обеспечивающим не только его потребности в пище и кислороде, но и в добыче новых знаний. Именно этим объясняются человеческие действия. В современном мире поведение людей во многом оправдывается далеко не поиском пищи или денег. Если утрировать, то мозг человека чрезвычайно эгоистичен, он фактически эксплуатирует тело. Во многом в ущерб телу мозг «гонит» его покорять горные вершины, открывать неизведанные территории, получать новые знания. 

— Но при этом, насколько я понимаю, мозг не может жить вечно.

— Увы, мозг — это биологический орган, органическая материя. Ни тому ни другому не суждено жить не только вечно, но и даже пару сотен лет. Утешает только то, что мозг «научился» оставлять навечно добытые им знания в виде книг, технологий, механизмов, железобетонных конструкций и, наконец, в наше время в виде электронной памяти.

Чего на самом деле хочет мозг, мы вряд ли поймем. Это в нем заложено в глубинах сознания, голос которого здесь, снаружи, не слышен. Может, в этих самых глубинах он и живет вечно. Но в нашей земной реальности нам остается только верить, что накопленная каждой личностью мудрость не исчезает бесследно. Она каким-то образом накапливается в человечестве и с каждым веком делает жизнь человека все более счастливой.