Жизнь как многоуровневое обучение

В феврале 2022 года в PNAS вышли две концептуальные статьи о теории эволюции «К теории эволюции как многоуровнему обучению» (Toward a theory of evolution as multilevel learning) и «Термодинамика эволюции и происхождение жизни» (Thermodynamics of evolution and the origin of life) [1, 2]. Их авторы — физики Виталий Ванчурин и Михаил Кацнельсон, а также биологи Юрий Вольф и Евгений Кунин. В ближайших номерах мы планируем опубликовать рассказ о том, как шли поиски общего языка между физиками и биологами, какие сложности были в междисциплинарных исследованиях и какие возможности предоставляет изучение эволюции COVID-19 для проверки гипотез. В этом номере читайте беседу Наталии Деминой с вед. науч. сотр. Института здравоохранения США, членом Национальной академии наук США, членом Американской академии искусств и наук, иностранным членом РАН Евгением Куниным.

— Евгений, расскажите, пожалуйста, о ваших двух последних статьях, посвященных теории эволюции.

— Это своеобразная мини-серия из двух статей. Две основные идеи этих работ: первая (старая, но важная) — мы говорим о глубокой связи термодинамики и процессов эволюции популяций. В общей форме эта идея восходит чуть ли не к Больцману (Ludwig Boltzmann), а в более конкретной — к Роналду Фишеру (Ronald Fisher) и его исследованиям 1930-х годов. В нашей статье это взаимодействие изучается подробнее, устанавливаются соответствия между основными понятиями термодинамики и эволюционных процессов, в частности, между температурой и эффективным размером популяции, a также между свободной энергией в термодинамике и приспособленностью в эволюционной биологии.

Вторая идея более новая, мы говорим о не менее глубоком единстве теории обучения и биологической эволюции. Мы с соавторами попытались объединить первую и вторую идеи и разработать некую общую теорию эволюции. Заметьте, я говорю не только о биологической эволюции, но и о эволюции в целом — эволюции каких угодно относительно сложных систем.

В этом, видимо, и заключается новизна исследования: мы объединили основы классической теории эволюции и теории обучения (в свою очередь, связанной с неравновесной термодинамикой) с эволюцией биологических популяций. В этом и заключается то, что мы в этих статьях пытаемся разрабатывать.

Первая и более общая из двух статей называется «Эволюция как многоуровневое обучение», и, соответственно, тут добавляется совершенно принципиальная идея, заключающаяся в том, что для возникновения сложных систем эволюция должна протекать более, чем на одном уровне. Есть так называемые обучаемые переменные (trainable variables — те, которые меняются в ответ на изменения свободных, характеризующих окружающую среду переменных), присутствующие в любой обучающейся системе.

Для того, чтобы происходило эффективное обучение и формирование этих сложных систем, необходимо, чтобы было более одного уровня обучения (в реальности — более двух), и они бы взаимодействовали друг с другом, при этом соответствующие переменные менялись бы с разной скоростью. Более того, мы показываем, что эти уровни обучения и эволюции должны быть дискретными — между ними должны быть большие промежутки для того, чтобы система оставалась стабильной во времени, могла эволюционировать в течение длительных периодов и сохраняла бы долговременную память.

Всё это тесно связано с фундаментальным понятием в физике, которое называется перенормировкой (renormalization). Суть его состоит в том, что процессы, протекающие на разных уровнях организаций, описываются одной и той же математикой. Это принципиальный момент, относящийся ко всем обучающимся и эволюционирующим системам.

Во второй работе мы рассматриваем всё это с точки зрения термодинамики и, в частности, описываем процесс основных переходов в эволюции (The Major Transitions in Evolution) — возникновение жизни, многоклеточных организмов и др. — как фазовые переходы в строгом смысле этого слова. И такие переходы, естественно, описываются в рамках термодинамической теории.

Кроме этого, стоило бы сказать, что в рамках теории многоуровневого обучения мы выводим то, что называется центральной догмой молекулярной биологии. В явном виде она была сформулирована 50 лет назад Фрэнсисом Криком (Francis Crick, 1970): информация передается от генома к фенотипу, от нуклеиновых кислот к белкам, а обратное движение происходит другими путями (за счет случайной изменчивости и селекции) и не является обращением процесса передачи информации от генома к фенотипу. Мы же выводим центральную догму как общий принцип обучающихся эволюционирующих систем.

— Расскажите, пожалуйста, как шла работа над проектом? Встретила новое для себя имя Виталия Ванчурина — кто он по профессии, кем работает?

— Это самое главное имя! Виталий — достаточно молодой физик-теоретик, который занимается инфляционной космологией и работал с такими известными и замечательными физиками-космологами российского происхождения, как Андрей Линде, Александр Виленкин и Вячеслав Муханов — самый цвет современной космологии. В какой-то момент Ванчурин стал интересоваться физико-математической теорией обучения, которая в некотором смысле позволяет создать Новую Физику, физику эволюционирующих систем, к которым относится и вся наша Вселенная. Эта теория обучения позволяет по-новому взглянуть на все протекающие во Вселенной процессы эволюции, из которых жизнь является ярчайшим, но частным случаем, и компактно всё это описать.

Кроме того, над статьями работали Юрий Вольф из моей лаборатории и наш с вами общий друг Михаил Кацнельсон из Нидерландов. Вот такие четыре всадника Апокалипсиса, которые делали всю работу. А в более эмпирических исследованиях, связанных, в частности, с коронавирусом, нам помогает еще одна моя сотрудница Соня Гарушянц. Пока всё. Теория не делается большими группами, тут и четыре человека — много, хотя, как по мне, наша четверка вышла хорошей, спаянной.

— В одной из статей вы говорите, что жизнь — это многоуровневое обучение, а в другой, что жизнь — редкая вещь, но она в принципе не уникальна…

— То, что жизнь возможна, в доказательстве не нуждается, а вот то, что она возникает в какой-то степени закономерно… Да, здесь мы делаем такое предположение, и нужно сказать с совершенной откровенностью, что для меня это, простите, дурно пахнущее выражение, смена мировоззрения. Я всегда считал жизнь невероятной вещью, возникнувшей случайно на бесконечных просторах пространства и времени. Эти наши теоретические построения заставляют нас думать, что жизнь — это все-таки закономерный процесс, непростой и хрупкий, возникающий в ходе эволюции сложных систем.

— Вы даже говорите, что Вселенная самонастроена (self-tuned) на возникновение жизни…

— В некотором смысле… Конечно, с такими афоризмами нужно быть осторожными, и они требуют правильного понимания. Это высказывание совсем не подразумевает, что Вселенная обладает свободной волей или как-то сама себя настраивает, но в то же время оно осмысленно и, как мне представляется, в каком-то смысле верно. Вселенная эволюционирует с образованием разных уровней обучения и эволюции с самого начала, с момента Большого взрыва. Существующие во Вселенной структуры самоорганизуются с возрастающей локальной сложностью. Разумеется, в целом энтропия Вселенной возрастает — согласно второму закону термодинамики иначе быть не может, — но в огромном числе локальных окружений происходит существенное снижение энтропии в процессе обучения (learning).

В принципе, это не противоречит тому, что Илья Пригожин в рамках своей версии неравновесной термодинамики называл диссипативными структурами, но, как мне представляется, та форма теорий, которую мы пытаемся развить, идет гораздо дальше и более последовательно, представляя эволюцию путем обучения как общую основу существования Вселенной. В этом смысле процесс самоорганизации может рассматриваться как некоторая, если хотите, настройка, ведущая к происхождению столь сложных феноменов, как наша жизнь.

— А как вы сейчас рассматриваете появление живого из неживого, используя метафоры термодинамики и самообучения? Имеете ли вы хотя бы интуитивное представление о том, что это может быть?

— Это представление не столь уж интуитивное. Но сначала хотелось бы напасть на слово метафоры…

— Извините, я как социолог по образованию привычно его использую… Для вас же это не метафора, а явное использование инструментария двух теорий…

— Дело даже не в инструментарии, а в единстве физических процессов, которые лежат в основе эволюции живого и неживого, а также обучения. Что касается происхождения жизни, то у нас есть внятные представления, которые, разумеется, берутся не только из этих построений, но и из знания биологии.

В фундаментальном смысле определить, что такое жизнь, сложно: черту можно проводить в разных местах. С другой стороны, вопрос об определении жизни можно ставить конкретно: может, удастся организовать экспедицию на спутники Юпитера или даже за пределы Солнечной системы… Как мы будем узнавать, что такое живое и неживое, если представить возможность того, что экспедиции обнаружат нечто независимое от нашей жизни (зависимое — это другой вопрос)? Это практическая проблема.

Важная вещь, вытекающая из этих теоретических построений: эффективное обучение непременно ведет к возникновению класса медленных переменных, функция которых состоит в том, чтобы помнить, что происходило с системой раньше и предоставлять эту информацию более быстро меняющимся переменным. Иными словами, достаточно глубокая система обучения должна иметь нечто вроде генома. Необходимость такого кодирования и хранения информации не ограничена биологией, то же самое относится, например, к архитектуре компьютеров фон Неймана. Для того, чтобы какая бы то ни было система работала эффективно, нужна выделенная память — это важный постулат.

Таким образом, разумнее всего представляется проводить эту черту на уровне возникновения клеток, которые имеют геномы, кодирующие информацию о компонентах этих клеток. Я нарочно подчеркиваю, что речь идет именно о возникновении клеток, обладающих такими фундаментальными свойствами.

До этой стадии существовала некая предклеточная жизнь, когда клетки не имели геномов, а просто представляли собой некоторые везикулы, в которых уже присутствовали сети автокаталитических реакций. Такие протоклетки могли делиться не путем сложных механизмов деления, которые мы сейчас наблюдаем в любых клетках, а просто под действием сил поверхностного натяжения. Такая система обеспечивает возможность селекции, более эффективного обучения и, как следствие, более успешного «размножения».

Где-то на этом пути возникает ключевое расслоение на фенотип и генотип. Возможно, здесь я немного фантазирую, но первые нуклеиновые кислоты возникли как паразиты предклеточных систем. Те из них, которые выжили в ходе эволюции, превратились в симбионты, а затем и в мутуалисты, т. е. в нечто, совершенно необходимое для размножения всей системы и кодирующeе информацию о ее компонентах. Данное представление довольно общее, но я считаю его важным.

— А как вы видите вашу работу в дальнейшем? Планируете ли другие статьи? Как будет развиваться ваш проект?

— Статьи пока не запланированы, а работа идет. Идет, как и обычно, вверх и вниз — как в сторону большей конкретики, конкретной проверки положений этих теорий, так и в сторону еще более глубокого обобщения. В каком-то смысле проверка важнее, и мы занимаемся ей, пытаясь наблюдать фазовые переходы при эволюции различных организмов, биологических объектов, о которых у нас уже есть достаточно информации.

Например (не смейтесь), мы изучаем коронавирус SARS-CoV-2. Сейчас мы пытаемся конкретно исследовать процесс эволюции этого вируса с точки зрения таких теорий — не было бы счастья, да несчастье помогло. Быстрая эволюция этого вируса очень показательна для таких исследований. Об этом у нас есть неплохие представления благодаря массовому секвенированию современными методами.

Это пространство последовательностей мы пытаемся изучать, наблюдая, как в нем происходят фазовые переходы и образуются новые варианты, новые пики распределения последовательностей по этому пространству. Цыплят, вероятно, будем в буквальном смысле считать по осени, но представляется, что всё это можно описать математически в рамках этих теорий.

Разумеется, коронавирусом ограничиваться не следует, просто сейчас он представляется весьма удобным и в то же время уникальным объектом изучения из-за большого количества геномов. Но есть и данные другого типа, которые мы также намереваемся исследовать.

— Коронавирус ведь тоже «учится», притом очень быстро, поэтому-то он и интересен? У него тоже есть эти переменные: быстрые, средние, медленные?

— Абсолютно. Имеются быстрые, реагирующие на окружающую обстановку переменные; имеются те, которые изменяются медленнее, и те, которые вовсе не изменяются на этих масштабах времени.

— В своих исследовании вы сочетаете подходы биологии, физики и информатики. А планируете ли сделать шаг в сторону нейронауки, или это пока еще не очень нужно?

— Как вам сказать… Переклички есть, ведь теория обучения имеет прямое отношение к нейробиологии. Тем не менее, та теория, которую мы используем, разработана не нейробиологами, а специалистами-физиками, работающими в области машинного обучения. Ее нам пока что хватает. Хотя, конечно, в этих статьях мы говорим о нейронных сетях — а о них и надо говорить, потому что эти переменные, меняющиеся с разной скоростью, естественно представляются в форме нейронов и нейронных сетей. А сама эта идея идет из ранней нейробиологии. В этом смысле наши дисциплины связаны совершенно тесно. Но современной нейробиологией, ушедшей от этого весьма далеко, мы по крайней мере пока что не пользуемся.

Кроме того, у нас есть желание построить существенно более общую теорию, привлекая аппарат квантовой физики и стараясь свести общие, уже выведенные нами принципы к еще более фундаментальным и простым.

— По образованию вы биолог. Как вы восполняете нехватку знаний по физике?

— Я тоже представляю собой самообучающуюся систему, может быть, не слишком эффективную, но пока функционирующую. Как говорил Евклид, нет царского пути в геометрии, всё приходится как-то осваивать. Но друзья-физики исключительно сильно помогают и, главное, не дают провраться…

— А можно ли сказать на основе ваших статей, что «учится — значит, живет» или «живет — значит, учится»? Одно ли это и то же?

— С моей точки зрения и с точки зрения наших работ, это не совсем симметрично. «Живет — значит, учится» — это, безусловно, так, иначе и быть не может. А вот «учится — значит, живет» — нет, не обязательно, потому что в любой эволюционирующей сложной системе — в планетных системах, в галактиках, в атомах, в чем угодно — протекает некоторая форма обучения и, соответственно, селекции, пусть и более простой, чем в биологических системах.

У Виталия Ванчурина есть замечательная работа, опубликованная пару лет назад под провокационным названием «Мир как нейронная сеть» [3], где впервые выдвигается мысль о том, что вся Вселенная может рассматриваться как обучающаяся система. При первом взгляде это кажется шуткой, провокацией или бредом. Но на самом деле, если рассмотреть этот вопрос достаточно подробно, представление обо всем мире и о Вселенной как об эволюционирующей, обучающейся, самонастраивающейся системе становится простым и совершенно естественным.

Более того, как мы утверждаем в своих статьях, для того, чтобы мир был наблюдаемым, чтобы были наблюдатели, которые могут что-то сказать о мире, такое многоуровневое обучение является совершенно необходимым и достаточным условием. Думаю, опровергнуть такой вывод очень сложно. Если бы мир был устроен не так, то в нем не было бы ни наблюдателей, которые могли бы его описать; ни эвристической структуры; ни перенормировки, придающей смысл каким-либо описаниям. То, о чем мы здесь говорим, как мне кажется, существенно более корректная формулировка слабого антропного принципа.

— Меня заинтриговала идея одной из статей, что запрограммированная смерть — это встроенное (intrinsiс) неотъемлемое свойство жизни…

— Об этом действительно стоит поговорить подробнее. Надо сказать, что эта теория и некоторые из последних биологических открытий, в ряде которых мне довелось поучаствовать, удивительным образом смыкаются. Раньше биологи думали, что программируемая клеточная смерть — свойство лишь многоклеточных организмов, которые «намеренно» убивают клетки программируемым способом, и это может быть как формой защиты от болезней и инфекций, так и ключевыми точками развития.

И в последние десятилетия стало ясно, что программируемая клеточная смерть — это общее свойство живого. Как говорится в детских анекдотах, «так же делают амебы, так же делают бактерии и т. д.». В этих теоретических построениях мы стараемся продемонстрировать, что запрограммированная смерть нейрона необходима, если речь идет о хоть сколько-нибудь сложных обучающихся нейронных сетях. Когда нейрон становится бесполезным, его уничтожают, и за счет этого в систему путем дупликации может добавиться новый нейрон, имеющий полезные связи и помогающий дальнейшему обучению. Этот процесс совершенно необходим, так как сеть не может расти бесконечно.

Надо сказать, эта идея в некотором смысле нова для самой теории обучения. И она важна, получается, в том смысле, что не только теория обучения формирует представление о биологической эволюции, но и наши построения в области биологической эволюции могут помочь дальнейшему развитию теории обучения, от которой не столь далеко и до практики.

— Если есть смерть, и она запрограммирована, то должно быть и общество для того, чтобы полученная информация из-за гибели отдельных индивидов не терялась. Есть, над чем подумать социологам…

— Туда я предпочитаю не ходить, но с этой мыслью соглашусь.

— Давайте поговорим о коронавирусе. «Омикрон» наступает, в России и во всем мире болеет много народу… Есть ли понимание, что с пандемией будет дальше?

— Идеи есть, понимания нет. В общих чертах мы понимаем, как идет обучение и эволюция вируса, а что произойдет конкретно — нет. Это процесс, в котором большую роль играет стохастика, что вполне отмечается и в наших статьях. Так что с точностью предсказать ничего невозможно. В принципе, «омикрон» вполне может оказаться последним широко распространенным доминирующим вариантом. Это предсказывалось с самого начала, но реализовалось с некоторой задержкой — вариант, который «обучался» распространяться быстро и эффективно и при этом потерял часть вирулентности.

Эти представления идут немножко по кругу: вначале это казалось естественной идеей, а потом этого не наблюдалось. Начали появляться математические модели эволюции эпидемии, немного более сложные, чем раньше, согласно которым подобная модель развития «омикрона» необязательна. Более того, она зависит от параметров инфекционного процесса: от эволюции эпидемии, от скорости распространения, от длительности и эффективности иммунитета, от контактов в популяции… Отмечалось, что снижение вирулентности возможно, но вовсе не обязательно. Однако как раз оно и произошло.

Заметим, что «омикрон» возник в необычной эволюционной нише: хотя и неясно, в какой нише точно, но есть популярная гипотеза, что это происходило в некоторой популяции людей с иммунодефицитом. В ней в течение долгого времени наблюдалась инкубация вируса, которая привела к возникновению такого штамма. Мы не можем гарантировать, что не возникнет еще один вариант, который вытеснит «омикрон».

Какие-то новые варианты сейчас описываются, никакой из них вроде бы к доминированию не идет, но может в какой-то момент и прийти. Тут, конечно, есть чисто физический предел — в конце концов, вирус распространяется воздушно-капельным путем, так что предел скорости распространения определяется скоростью диффузии. Какой-то путь для еще более высокой скорости распространения есть, но он уже не очень реален. Представим себе, что возникнет вариант, который побивает «омикрон» по скорости распространения и при этом является более вирулентным — такой исход возможен, но крайне маловероятен, ведь это предъявляет большие требования к структуре спайк-белка.

Если такого не произойдет, то, в общем, можно представить себе нынешний пик пандемии последним. Я надеюсь на это. Разумеется, будут наблюдаться локальные явления, вспышки, дополнительные пики — всё это будет наблюдаться, в этом сомнений нет.

— Можно ли рассматривать пандемию как войну двух обучающихся систем: вируса и человечества? И в ее результате вирус придет к какому-то тупику?

— Конечно, эпидемии идут к какому-то завершению; вакцины, ученых, карантин — всё это можно из процесса исключить, всё равно вирус не убьет всю популяцию. Если говорить об обучающихся системах, то их тут больше двух. Помимо вируса, есть и другие уровни обучения, например уровень иммунной системы в каждом организме, который тоже является обучающейся системой. С такой же точки зрения можно рассматривать и всю популяцию хозяина, так что вся эта система пришла бы к некому равновесию и без помощи науки, но с тем отличием, что погибших было бы существенно больше.

— Получили ли вы уже отклики на вышедшие статьи?

— Да, уже поступали приглашения где-то выступить на эти темы. Есть и попытки что-то дополнить в исследовании.

— Известно, что через 3–5 млрд лет наше Солнце взорвется и спалит Землю, и если человечество не найдет способа укрыться, то огромная самообучающаяся система «схлопнется»…

— Еще раз: любую сложную систему можно рассматривать как обучающуюся. Конечно, все они имеют свое время жизни, и коллапс неизбежен, но дело в том, что те масштабы времени, на которых взорвется Солнце и перестанет существовать Солнечная система — гигантский временной размах в несколько миллиардов лет, — нас совершенно не должны интересовать, потому что у нас есть прекрасные возможности себя уничтожить на масштабах на порядки меньших. Надеюсь, что человечество само себя научит этого не делать.

1. Vanchurin V., Wolf Y. I., Katsnelson M. I., Koonin E. V. Toward a theory of evolution as multilevel learning. Proceedings of the National Academy of Sciences Feb 2022, 119 (6) e2120037119; DOI: 10.1073/pnas.2120037119.

2. Vanchurin V., Wolf Y. I., Koonin E. V., Katsnelson M. I. Thermodynamics of evolution and the origin of life. Proc Natl Acad Sci U S A. 2022 Feb 8;119(6): e2120042119. DOI: 10.1073/pnas.2120042119. PMID: 35131858.

3. Vanchurin V. The World as a Neural Network. Entropy (Basel). 2020 Oct 26;22(11):1210. DOI: 10.3390/e22111210. PMID: 33286978; PMCID: PMC7712105.