Когнитивная обезьяна и научный полилог

В апреле 2021 года в Москве прошла Неделя нейротехнологий и когнитивных наук. Ученые, представители разных дисциплин, отмечали, как важен обмен научными результатами и как порой трудно его наладить: все заняты своей тематикой и говорят на разных научных языках. Нет общей задачи, которая бы подталкивала к сотрудничеству. Или всё же есть? Над этим размышляет научный журналист Денис Тулинов.

Психолог Дэниел Саймонс (Daniel Simons) однажды наглядно показал, как мы упускаем из виду то, что находится прямо перед нашим взором. Его эксперимент известен как «невидимая горилла»: шесть человек — трое одеты в темное и трое в светлое — передают друг другу мячи; зрители должны следить за игроками и потом назвать точное число передач, которые сделали «светлые». В целом задача не самая трудная — люди справляются. Но если их спросить, видели ли они гориллу, то многие удивятся. Нет, они ее не видели. Перед ними прокручивают запись [1], и теперь они узнают то, что трудно не заметить: прямо среди игроков прохаживается человек, одетый в костюм гориллы.

Этот эффект, давно известный психологам, называется слепотой невнимания (Inattentional Blindness) [2]. Человек сосредоточен на задаче, и сознание фильтрует зрительные образы, приходящие на сетчатку, фокусируясь только на том, что помогает решить задачу. Когда психологи, нейробиологи, лингвисты обсуждают развитие когнитивных наук, они говорят о том, как мозг организует память, восприятие, познание, как он обучается и как — деградирует. Но не может ли быть так, что они заодно игнорируют «гориллу», которая уже «вошла» в их поле зрения? Она пока не взрослая, но скоро вырастет и начнет прохаживаться прямо перед ними.

Первые шаги: показать то, что скрыто

Ровно два года назад, в мае 2019 года, нейробиологи Массачусетского технологического института (MIT) открыли, по сути, новую технологию. Они научили искусственную нейросеть создавать изображения, которые обладают поразительным свойством [3]. Если показать такую картинку макакам, то нейроны зрительной зоны их мозга возбуждаются намного выше максимального уровня, ранее измеренного у тех же обезьян. Главный фокус в том, что сеть может синтезировать картинку, которая гипервозбудит один заранее выбранный нейрон из популяции, не затрагивая остальных.

Иными словами, эта нейросеть независимо контролирует активность разных клеток мозга — прицельно и неинвазивно. Ей достаточно лишь синтезировать картинку. Заметим, что в таких изображениях [4] нет ничего напоминающего реальность. Никаких бананов или чего-либо еще из мира обезьян¹. При этом клетки буквально взрываются импульсами. Так ученые с помощью генеративной нейросети создали сверхстимул для зрительной коры макак.

Николас Тинберген (Nikolaas Tinbergen), орнитолог и лауреат Нобелевской премии по физиологии и медицине 1973 года, создавал сверхстимулы для птенцов серебристых чаек, рисуя полоски на палочке. На палку птенцы реагировали гораздо живее, чем на голову, деревянную модель головы или клюв птицы, — простая палочка или спица, раскрашенные определенным образом, запускали активацию нейронов сильнее, чем естественные стимулы, на которые птиц миллионы лет «натаскивала» эволюция. Но Тинберген подбирал стимулы на­удачу — ему повезло. Нейросеть сделает то же самое быстрее, точнее и эффективнее. И доведет до максимума.

Подчеркнем — это важно, — что нейросеть не берет картинки из базы, а на основе обратной связи создает свои, для конкретного мозга и даже для конкретных нейронов. Тем самым она выуживает из мозга информацию, которую трудно добыть иначе. Или, по-другому: с помощью нейросети мозг сообщает нам сведения, которые не смог бы сообщить иным путем, — например, о том, какой паттерн входящих фотонов избирательно стимулирует конкретную клетку. Эксперимент проводили для тестирования модели зрительной системы [7], но сам метод годится не только для проверки гипотез. Даже простая сеть оказалась способна регулировать режим работы живого мозга.

Взросление: черный ящик с психикой

Нейросети глубокого обучения, или, если угодно, искусственный интеллект (ИИ), входят в науку и технологию, предлагая новые, оригинальные возможности. Сегодня ученые нередко видят в ИИ еще один инструмент исследования и моделирования, и эксперты, изучающие «естественное» и «искусственное», готовы к диалогу лишь в той мере, в какой он поможет им найти полезную идею для своей области. Так, обучение с подкреплением и многослойные нейросети пришли в компьютерную науку из биологии. Но замыкаться в «своем», изредка обмениваясь идеями, уже опрометчиво и недальновидно.

Так можно жить, пока ИИ-системы относительно просты. Это продлится недолго — ИИ будет становиться всё более сложным и всё менее познаваемым на программном уровне. Уже сейчас нейросеть для ее создателей во многом «черный ящик». Чтобы понимать, что и почему делает сложный ИИ-агент или робот, придется перейти на более высокие уровни описания. Два года назад консорциум ученых призвал изучать поведение машин так, как этологи изучают поведение животных [8]. Нет сомнений, что далее нужно будет вкладываться в психологию и даже психиатрию ИИ-систем [9].

Такой искусственный интеллект — «невидимая горилла» для многих специалистов в сфере когнитивных наук, хотя это огромное поле исследований, которое уже открывается перед ними. Чтобы использовать ИИ с пользой, сотрудничать с ним, потребуется разбираться в его «психическом», уметь выявлять его когнитивные искажения, диссонансы, диагностировать патологические состояния, например депрессию, изучать и настраивать его мотивацию. Словом, применять уже имеющиеся знания и инструменты и разрабатывать новые, поскольку, при всех неизбежных аналогиях, это будет иной тип «мышления».

Нейросеть из MIT проста, и она управляла активностью мозга макак примитивно. У более сложных сетей пространство состояний и учитываемых параметров будет на порядки богаче. Они смогут создавать не только картинки — они обретут речь, а их арсенал сигналов (визуальных, поведенческих, смысловых), которые можно использовать при общении с людьми, будет широк. Вопрос уже не в том, чтобы активировать нейрон в мозге человека, а в том, чтобы активировать те или иные психические и ментальные структуры. Развитому ИИ, который будет учиться в общении, такая задача окажется вполне по силам.

И это сулит золотое время для когнитивных наук.

Логично ждать, что возникнет мощный запрос на гладкое сопряжение ИИ и ЕИ (естественного интеллекта). Цифровая нейросеть далеко не живой мозг: то, что тривиально для человека, сложно для компьютера, и наоборот. Наверняка будет разница и в том, как принимают решения человек и машина, как они познают и оценивают реальность. Каким образом они могут сотрудничать, несмотря на различия? Поиск ответа на этот вопрос мог бы стать исследовательской программой для тех, кто занят когнитивными исследованиями.

Зрелость: тесные взаимодействия

На Неделе нейротехнологий и когнитивных наук много говорили о нейрофизиологии мозга, психике человека и технологиях. К сожалению, это явное сужение темы, ведь предмет когнитивных наук шире. Он должен охватывать весь ландшафт сложных систем, умеющих познавать, обучаться, запоминать, формировать представления, направлять внимание и так далее, — словом, все те системы, что поддерживают когнитивные процессы, независимо от их субстрата и происхождения. В такой логике мозг человека важен, но он лишь частный случай таких систем.

Может показаться, что пока и единственный, что нейросети не претендуют на когнитивное. Но это близорукая позиция. Если искать ниши, где отечественные ученые могли бы работать не в режиме догоняющего развития, а быть на фронтире и даже играть на опережение, то человеко-машинные взаимодействия — одна из перспективных тем, значение которой будет только расти. Миру понадобятся знания о том, как сочетать психику человека с «психикой» устройств и программ, как извлекать из нейросетей пользу и, что особенно важно, не наносить при этом вред.

Практика таких сочетаний еще очень скудна, но один яркий пример уже заставляет задуматься. Шахматисты давно готовятся к по­единкам и разбирают партии в тесной связке с шахматными движками. Гарри Каспаров в подкасте Ильи Колмановского «Голый землекоп» говорит, что молодые таланты с детства учатся шахматам, используя программы, играя против них [10]. И при анализе партии они полагаются на подсказки программы больше, нежели на свою интуицию. Каспаров видит в этом проб­лему: «Сегодня очень многие молодые шахматисты явно теряют в понимании игры. Ровно потому, что они стараются играть как компьютеры. Парадокс в том, что отцы-основатели компьютерной науки считали, что машины должны играть как люди, но происходит обратный процесс».

Мы не избежим всё более тесного общения с машинами. Они слишком хороши в том, что нам дается с трудом, и в сотрудничестве с ними есть очевидный резон. Задача в том, чтобы эффективно использовать сильные стороны ИИ, не жертвуя своими. Такая удачная состыковка станет отдельным полем конкуренции, и это то поле, где сходятся знания из разных областей: психологи и нейробиологи, математики и программисты, этологи и лингвисты обречены работать на нем вместе. Не просто при случае обмениваться идеями, а буквально работать в одной команде над общим проектом.

Делайте ваши ставки

На Неделе… спикеры призывали к междисциплинарности, к более тесному общению экспертов из разных наук. Тема сопряжения ЕИ и ИИ — богатая почва для этого, ибо способна загрузить работой всех, включая разработчиков интерфейсов. В докладе Лондонского королевского общества (The Royal Society) утверждается, что интерфейсы, связывающие мозг и компьютер, относятся к важнейшим прорывным технологиям наших дней и Великобритания должна стать мировым центром инноваций в этой области [11]. Намек на эту мысль содержится уже в названии доклада — «iHuman», а подзаголовок выражает ее прямо: «Размывая границы между разумом и машиной».

В США агентство DARPA запустило программу создания нового поколения неинвазивных интерфейсов для здоровых (!) людей [12], а Пентагон представил дорожную карту развития беспилотных систем вплоть до 2042 года, главным приоритетом которой стало сотрудничество человека и машины: «…Объединение умений человека и машины позволит создать принципиально новый вид взаимодействий, в которых машины будут восприниматься как важные партнеры по команде» [13].

И совсем не случайно лаборатория MIT, где нейросеть «зажигала» нейроны обезьян картинками, называется Center for Brains, Minds, and Machines. Это — заявление: мозг, машина и психическое образуют единое исследовательское пространство. А саму работу лаборатории финансирует Агентство передовых исследований в сфере разведки (IARPA) и MIT-IBM Watson AI Lab, подразделение IBM по искусственному интеллекту.

Каков здесь может быть вклад России? Наша страна по-прежнему сильна программистами, но у них не было драйва заходить на поле когнитивных наук, учить их язык и ставить перед ними вопросы. Неврология, психология, социология слишком далеки от задач, с которыми имели дело создатели нейросетей. Рост сложности ИИ меняет ситуацию: разработчикам потребуется понимать и прогнозировать поведение умных машин. В когнитивной психологии и теории высшей нервной деятельности у нас прочная база со времен Льва Выготского, Александра Лурии и Петра Анохина. Нейробиологи и инженеры работают с интерфейсами. Карты для игры есть. Осталось договориться о сотрудничестве экспертов в разных областях науки.

1. youtube.com/watch?v=vJG698U2Mvo
2. en.wikipedia.org/wiki/Inattentional_blindness
3. science.sciencemag.org/content/364/6439/eaav9436
4. science.sciencemag.org/content/sci/364/6439/eaav9436/F1.large.jpg
5. doi.org/10.1016/j.cell.2019.04.005
6. marlin-prod.literatumonline.com/cms/attachment/c52b3d00-f020–4f96-a0d4–6205fa612fd1/gr3_lrg.jpg
7. youtube.com/watch?v=lUazMZ9jSV8
8. nature.com/articles/s41586–019–1138-y
9. sciencedirect.com/science/article/pii/S258900422030969X
10. podcasts.google.com/feed/aHR0cHM6Ly96ZW1sZWtvcC5saWJzeW4uY29tL3Jzcw/episode/MjdmZDZkMzgtNWZiYy00MjcwLTk5NjctMjg1Njg3MDFkN2Yy
11. royalsociety.org/topics-policy/projects/ihuman-perspective/
12. darpa.mil/program/next-generation-nonsurgical-neurotechnology
13. assets.documentcloud.org/documents/4801652/UAS-2018-Roadmap-1.pdf

¹ В аналогичном исследовании другой группы ученых [5] изображения всё же чем-то напоминали обезьяну, но эти картинки походили на абстрактное искусство [6].