Вести из зловещей долины

В 1978 году японский робототехник Масахиро Мори изучал эмоциональную реакцию людей на внешний вид роботов. Проведенный им опрос выявил необычный эффект: поначалу по мере возрастания человекоподобия роботов люди выказывали к ним симпатию, однако в какой-то момент симпатия сменилась дискомфортом и даже страхом. Резкий спад на графике эмоциональной реакции Мори назвал «зловещей долиной» (англ. uncanny valley).

Разумеется, эффект пытались объяснить. Одна из предложенных гипотез гласит, что мы на бессознательном уровне отмечаем малейшие отклонения в облике окружающих от средней нормы, поэтому безотчетную тревогу вызывают именно те роботы, которые выглядят почти как человек, но отличаются от него мелкими деталями, словно перед нами оживший труп. При виде человекоподобного робота (или андроида, как его принято называть в научной фантастике) мы теряем уверенность в том, что поведенческие реакции этого существа будут соответствовать нашим ожиданиям, сформированным привычным общением, в результате чего возникает острый приступ ксенофобии.

Эффект «зловещей долины» давно используется в кинематографе: лучшие фильмы ужасов, в которых показаны человекоподобные чудовища, киборги или зомби, воздействуют именно на эту часть нашего бессознательного. Однако то, что раньше выглядело проявлением неуемной фантазии деятелей Голливуда, сегодня всё больше становится повседневностью. Конечно, нам не следует бояться ходячих мертвецов, но о близящемся нашествии роботов говорят практически из любого утюга.

В этой связи весьма актуальным представляется появление трех переводных книг, недавно выпущенных издательством «Альпина нон-фикшн» при поддержке Политехнического музея и посвященных проблемам взаимодействия человека с быстро «умнеющей» техносферой.

Книгу «Восстание машин отменяется! Мифы о роботизации» написал Дэвид Минделл — профессор Массачусетского технологического института, занимающийся среди прочего вопросами оптимизации управления сложными системами: от глубоководных аппаратов до космических кораблей. На основе собственной практики и опыта коллег Минделл заявляет: будущее, описанное в научно-фантастических романах XX века, уже наступило, однако, как это часто случается, оно заметно отличается от утопических (или антиутопических) конструкций, порожденных воображением дилетантов. При этом, обсуждая реалии, мы всё равно используем штампы и стереотипы устаревшей футурологии, ошибочно приписывая новой технике качества, которыми в действительности она не обладает. Например, многие воспринимают летающих дронов как нечто автономное и по природе враждебное, однако на самом деле все дроны управляются людьми-операторами, а в случаях обрыва радиосвязи следуют довольно простым инструкциям, никак не связанным с принятием решений.

Минделл формулирует три главных мифа о роботизации. Первый миф связан с идеей линейности прогресса, согласно которой роботизация движется по прямой: от простых телеуправляемых систем к автономным комплексам, обладающим развитым интеллектом и зачатками самосознания. Второй миф имеет еще более глубокие корни, уходящие в футурологию XIX века и основанные на убеждении, что по мере совершенствования машины будут всё больше вытеснять человека из любых сфер деятельности, пока он окончательно станет не нужен. Третий миф вырастает опять же из фантастической литературы и гласит, что когда-нибудь появятся полностью самодостаточные роботы, способные принимать решения при возникновении нештатных ситуаций, т. е. возникнет «искусственный разум», перспективы развития которого вгоняют многих в состояние «зловещей долины». Минделл опровергает все три мифа, показывая, что автоматизация вовсе не исключает человека, а наоборот, требует от него всё большей компетентности. К примеру, в истории современной авиации были трагические случаи, когда технически исправный самолет погибал, потому что экипаж слишком доверял бортовому компьютеру, а однажды, наоборот, критическая ситуация завершилась благополучной посадкой, когда командир экипажа отказался принимать противоречивую информацию от компьютера и взял управление на себя, положившись на выработанные годами рефлексы. Соответственно, напрашивается вывод: пилот будущего должен быть еще более компетентным специалистом, поскольку должен не только уметь управлять самолетом на уровне «старых мастеров», но и разбираться в логике работы бортового компьютера для того, чтобы понять, когда тот «сойдет с ума». Поэтому, кстати, Минделл скептически смотрит на внедрение «беспилотных» автомобилей: если их количество на дорогах станет значимым, то непропорционально возрастет и число непредсказуемых ситуаций, многие из которых могут завершиться тяжелыми авариями. Вывод, сделанный им в книге, звучит утешительно: «умные» машины делают нашу жизнь комфортнее, однако они всегда, даже при высочайшей степени автономности, будут нуждаться в квалифицированном «присмотре», что неизбежно потребует повышения интеллектуального уровня человечества.

Книга научного журналиста Джона Маркоффа «Homo Roboticus? Люди и машины в поисках взаимопонимания» посвящена более глубокой, философской, стороне вопроса. Проинтервьюировав конструкторов и программистов, трудящихся в Кремниевой долине над созданием всё более сложных автоматизированных систем, автор выделил два главных подхода к роботизации: копирование функций человека в машине и расширение человеческих возможностей за счет машины. На границе взаимодействия этих подходов возникает парадокс: технологии, которые призваны расширить возможности человека, в итоге способны заменить его. Скажем, доктор медицины Эрик Хорвиц, исследователь из компании Microsoft, много лет работает над системами для расширения возможностей офисного секретаря, и в результате он создал роботов, которые выполняют все функции секретарей, кроме, может быть, одаривания посетителей белозубой улыбкой, но и это поправимо.

В ходе интервью Маркофф заметил, что многие гуру роботизации, оставаясь ее ярыми приверженцами, тем не менее избегают обсуждать возможные последствия внедрения их проектов в жизнь, предпочитая отшучиваться. Однако вопросы, действительно, поднимаются серьезные. Если роботы вытеснят человека из сфер производства и услуг, то чем он будет заниматься? Стоит ли добиваться повышения уровня жизни и избавления от тяжелой работы, если это также означает отказ от свободы и неприкосновенности частной жизни? Существуют ли правильный и неправильный подходы к разработке автоматизированных систем? Кто кого будет контролировать в будущем — мы эти системы или они нас? И т. д. Маркофф подчеркивает, что подобные вопросы нужно ставить и обсуждать, потому что эволюция робототехники не слепа, как в случае природы, она зависит от решений конкретных людей. Ответы же дадут нам возможность понять «ценности» тех, кто создает «умные» машины, и примерно представить, что нас ждет после того, как схлынет волна новой научно-технической революции.

Хотя реальные достижения в области создания «искусственного интеллекта» выглядят пока разочаровывающими, большинство специалистов, которых опросил Маркофф, сходятся в том, что искусственный интеллект возникнет в результате глубокой интеграции человека в информационную среду — вплоть до появления цифровых личностей. При этом возможны варианты: либо машинный разум будет послушен и дружелюбен, как «домашнее животное», либо он возьмет под полный контроль общественную жизнь, воспринимая нас как своих «домашних животных». Однако прямо сейчас нам предстоит определиться, насколько далеко мы готовы зайти в своем желании переложить на роботов право выбора; прежде всего это касается военных действий: давать ли боевому дрону возможность «нажать на спусковой крючок» или все-таки оставить решение за оператором? Не менее остро звучит и другая морально-этическая дилемма: почему мы собираемся наделить условный «искусственный интеллект» правами, в которых отказываем многим людям, — не разумнее ли совершенствовать человеческое общество вместо того, чтобы «выращивать живых роботов за счет нашей собственной жизни»? Несмотря на тревожность, звучащую в обсуждении, Маркофф, как и предыдущий автор, остается оптимистом. По его словам, практика показывает, что роботизация не сокращает количество рабочих мест, а напротив, увеличивает. Более того, в некоторых областях промышленности и услуг она только вредит производительности и будет минимизирована под давлением конкуренции. В то же время Маркофф присоединяется к тем специалистам, которые скептически смотрят на теорию «технологической сингулярности», предсказывающей мгновенный качественный переход в цивилизационном укладе при появлении «искусственного интеллекта», поскольку биологические корни постижения смысла, присущего человеческому разуму, до сих пор остаются загадкой — а как мы можем научить машину тому, чего сами еще не понимаем?

Книга «Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте» представляет собой сборник небольших эссе, составленный Джоном Брокманом — издателем, основателем организации Edge Foundation, задачей которой является объединение усилий ученых для популяризации передовых направлений прогресса. Его тематические сборники привлекают внимание прежде всего разнообразием представленных мнений. Новый сборник полностью соответствует своему названию и дает достаточно четкий срез суммы взглядов на перспективы возникновения «искусственного интеллекта». При этом Брокман затронул более широкий круг вопросов, чем принято, предоставляя возможность ученым пофантазировать. Благодаря такому подходу возникают неожиданные поводы для дальнейших размышлений, которые, хотя и выглядят чем-то запредельно абстрактным, способны обозначить ориентиры в бессчетном количестве вариантов возможного будущего.

Например, профессор Мюррей Шанахан напоминает, что человеческая личность объединяет в себе интеллектуальную работу, целеустремленность, жажду новых знаний и ощущений, волю при выборе, эмпатию. Но существует ли необходимость наделять этим сочетанием «искусственный интеллект» или рациональнее использовать комбинации, которые окажутся более функциональны? Можно ли будет в таком случае назвать их разумными? Или этот «разум» окажется настолько нам чуждым, что мы просто не сумеем постигнуть смысл его деятельности? Профессор Стивен Пинкер со своей стороны указывает, что если «искусственный интеллект» действительно будет разумным, то вряд ли его потянет на разрушительные действия, скорее он будет решать проблемы через сотрудничество, причем само его существование изменит наше отношение к субъективности и природе самосознания. Профессор Фрэнк Типлер убежден, что главным полем деятельности «искусственного интеллекта» станет внеземная экспансия, и благодаря ему человечество сможет наконец выйти на межзвездные просторы и обрести бессмертие. С ним согласны и многие другие ученые, мнения которых представлены в сборнике.

Подводя итог, можно сказать, что в научном мире царит сдержанный оптимизм в отношении роботизации и проблемы «искусственного интеллекта». Специалисты не позволяют затащить себя в «зловещую долину» ужаса перед человекоподобными технологиями. Вероятно, потому что уверены: человек всё равно останется важнейшим звеном в выборе путей разума.

Антон Первушин