Humanoid and machine artificial intelligence in science fictions

Full Text

Введение: герменевтическое взаимодействие

Существует множество причин для чтения научной фантастики и просмотра научно-фантастических фильмов. Одна из них – желание узнать, каким может быть будущее. Другая – фантазирование и жизнь в альтернативном мире. Ещё одна – попытка взглянуть в лицо нашим страхам и надеждам, нашим желаниям и тревогам, прояснить наше самосознание путём осторожных вопросов, задаваемых известному миру в виде противопоставления его утопическим или дистопическим фантазиям.

В век развития нанотехнологий, синтетической биологии, искусственного интеллекта ученые и журналисты пишут множество различных визионерских текстов, рассказывая публике о том, как технологическое развитие изменит мир, включая человека. Являются ли эти тексты с их реалистичными, но чаще невероятными сценариями будущего формой научной фантастики? И если они являются формой научной фантастики, можем ли мы и должны ли мы читать их как научную фантастику по всему спектру различающихся оснований? Может быть, эти тексты в большей степени, нежели предсказывают возможное или желаемое будущее, говорят об альтернативных мирах, представляют собой раскрытие нашей текущей самости, наших надежд и страхов.

В эпоху гибели и мрака, пандемии, климатических изменений и военных конфликтов возникает особый интерес к будущему. Хорошо это или плохо, но в наше время будущее, как правило, рассматривается в технологических категориях. Будет ли продвинутое технологичное человечество копать себе могилу, загрязняя окружающую среду, применяя оружие массового поражения, или же найдет в техническом прогрессе средство для своего избавления и спасения? В качестве «целей устойчивого развития» или «глобальных вызовов» будущее проявляется как объект заботы, разрабатываемый или формируемый развивающимися технологиями. Это будущее зарождается в лабораториях и требует надлежащего моделирования, чтобы обеспечить желаемые и устойчивые результаты.

Такая ориентированность на будущее как на объект спекулятивного прогнозирования или объект конструирования поднимает многочисленные методологические и философские вопросы, которые не могут быть подробно изложены в рамках настоящей работы (Nordmann 2007, 2010, 2013, 2014). При фокусировке на предполагаемом воздействии и последствиях воображаемых технологических открытий значение технологии не попадает в поле зрения – для этого требуется герменевтический подход к анализу технологии (Grunwald and Nordmann 2017, Grunwald, Nordmann, Sand forthcoming). Такой герменевтический подход к самой технологии в определенной степени вводит её как нечто похожее на литературное произведение, вовлекающее читателя в диалог: спрашивая технологическую систему или устройство о том, чем она или оно является, что означает, что пытается сказать нам, мы таким образом спрашиваем себя, кем являемся мы сами, как отличаем себя от машин, какие страхи и надежды возникают у нас, когда мы наблюдаем технологическое выражение человеческого конструирования в природе и социальном мире (Gadamer 1989, Riskin 2016, Nordmann 2016). (Принято считать, что произведения изобразительного искусства и литературные творения стремятся что-либо нам сказать. Многим сложно признать, что технические устройства тоже хотят нам что-то сказать. На самом деле найти схожие примеры не представляет труда. Этот вопрос вызывают многочисленные архитектурные сооружения: от пирамид и Стоунхенджа до Эйфелевой башни. Его вызывают астрономические часы раннего Нового времени и автоматические приборы XVII–XIX вв., напоминающие людям об их месте в мире, или, наконец, фейерверки или так называемая «доска Гальтона», демонстрирующие своеволие человека и власть случая.)

На протяжении достаточно долгого времени искусственный интеллект был технологическим проектом, который вызывал к жизни такой тип герменевтической деятельности, как вопрошание человечеством себя в зеркале машин. Согласно Черису фон Ксайландеру, это было основным философским упражнением уже в XVIII–XIX вв., иллюстрируемым «шахматным турком» Вольфганга фон Кемпелена. Этот вопрос подразумевается и в дискуссиях о кибернетике после Второй мировой войны, особенно в связи с развитием как «буржуазной западной», так и «пролетарской советской» концепций интеллекта (Peters 2008 and 2012, cf. also Dupuy 2001). В последние десятилетия именно «искусственный интеллект» как глобальный междисциплинарный проект занимает наш ум и будит наше воображение. И здесь, в частности, возвращается на сцену именно научная фантастика, порождая новую причину для чтения книг и просмотра фильмов: научная фантастика создаёт арену или формат представлений для герменевтического взаимодействия с техникой, т.е. для усилия понимания «искусственного интеллекта», его значения и важности по отношению к различным способам самосознания и самопозиционирования людей в мире знаков и символов, вещей и произведений деятельности. Анализируемый далее контраст между двумя фундаментально разными направлениями искусственного интеллекта служит этому примером. И, бесспорно, он требует более детальных исследований.

Два подхода к искусственному интеллекту

Существует два мира робототехники и, соответственно, два мира ИИ. Главное различие между ними состоит в том, что два мира робототехники сосуществуют, в то время как новый мир ИИ заменяет собой старый. Существование двух миров робототехники очевидно, различие между ними проводят довольно часто.

Во-первых, существуют промышленные роботы, которые могут иметь много рук и, как правило, не нуждаются в ногах. Многие из них работают вместе с людьми на сборочных линиях, строят автомобили или упаковывают шоколадные конфеты. Они обладают некоторым превосходством над человеком, который быстрее устает, имеет только две руки, не может с той же надёжностью удерживать предметы. За исключением умения выполнять работу, у них мало общего с людьми, и все же люди опасаются, что их заменят такими машинами. В историческом плане именно такие роботы стали вызовом существующему разделению труда, побудили промышленность и власть к новым формам организации. Применительно к большинству промышленных роботов мы бы сказали, что люди должны быть рады тому, что им больше не требуется выполнять такую тяжелую монотонную работу. Практически определение: то, что может сделать промышленный или механический робот, не стоит человеческих усилий, не является собственно работой человека.

Во-вторых, напротив, существует группа человекоподобных роботов, которые, как кажется, стремятся воспроизвести свойства человека. Снабжённые двумя руками и двумя ногами, парой глаз, они смотрят на нас в качестве милой панды или же в качестве нашего собственного двойника. Хотя некоторые из этих роботов и сконструированы для выполнения работы, большинство из них предназначено для взаимодействия с людьми – они должны слушать и отвечать. Их оценивают не по технической мощности и производительности, а по схожести в качестве робототехнической копии с человеческим оригиналом. Антропоморфная робототехника всегда имеет дело с вопросом: оказывает ли она одолжение машине, ограничивая ее человеческими способностями. Чем в большей степени робот выглядит и ведёт себя как человек, тем больше ограничений он имеет (Weber 2011).

Аналогичным образом мы можем различить антропоморфный и машинный ИИ. Антропоморфный ИИ строится на предпосылке о том, что «интеллект» – это изначально «человеческий интеллект». Соответственно ИИ старается копировать человеческий интеллект, соответствовать ему и, возможно, превосходить его, но не в смысле того, как простой калькулятор превосходит человеческие возможности при выполнении операций деления и умножения, а в смысле функционирования такими способами, которые приближаются к способам работы человеческого разума. Различие между «слабым» и «сильным» ИИ имеет смысл только в сфере антропоморфного искусственного интеллекта. Систему ИИ называют слабой, если машина «только имитирует» когнитивное поведение человека, и «сильной» – когда она может самостоятельно принимать решения, т.е. если она нечто чувствует или сознаёт, возможно, осознаёт себя. Действительно, главным вопросом, едва ли не манией, для антропоморфного ИИ был вопрос о том, могут ли машины обладать сознанием, могут ли они мыслить подобно человеку, только лучше. Это приводит к классической проблеме «необъяснимого»: в свете антропоморфного искусственного интеллекта мы можем беспокоиться о том, являются ли машины одушевленными, одухотворенными существами, и в то же время задаваться вопросом о том, не являются ли люди бездушными машинами (Freud 2003)? Прохождение так называемого теста Тьюринга означает, что мы более не можем различать человеческий и машинный интеллект.

Можно считать, что мечта о человекоподобном ИИ разрушена. В целом, её расцвет пришёлся на 1970–1980-е годы, однако ничего существенного из этого не вышло. Даже когда компьютеры стали более мощными, «механизация разума» оказалась труднодостижимой (Dupuy 2001). Хотя тема искусственного интеллекта вновь стала обсуждаемой, превратилась в перспективное направление успешного технологического развития, речь идёт уже не о человекоподобном, а о «машинном» интеллекте или интеллекте «с машинным обучением». Он основывается на предпосылке о том, что «интеллект» не является исключительно человеческой чертой, что животные и машины могут иметь свой собственный интеллект, который воплощается и реализуется совершенно иначе, нежели человеческий интеллект. Машинный ИИ не ограничен принципами работы человеческого ума. Когда человеческий ум начинает обрабатывать данные в нейронных сетях мозга, он использует эволюционный трюк концептуального мышления как упрощения ошеломляющего потока данных. В антропоморфном ИИ предпринимались попытки копирования таких процессов, беспокоились о так называемых онтологиях, оснащая машину в целях обработки языка и перевода различными словарями и определениями, позволявшими ей вычленять предложения и определять значения терминов. Машинный ИИ всё это выбрасывает за борт и заменяет концептуальное мышление обработкой статистических данных. Сознание не играет роли. Там, где человеческий ум стремится уменьшить сложность и неуправляемость объёма данных, машинное обучение работает с изначально лишёнными значения данными. Разумеется, статистическое мышление также является человеческим достижением, однако оно никогда не было простым для человеческого ума. В частности, люди так и не выяснили, можно ли применять большие статистические данные к частному случаю и каким образом это делать: определенное лекарство работает для 68 % больных раком – если у меня рак, значит ли это, что существует 68-процентная вероятность того, что оно сработает и в моем случае? На определённом уровне мышление статистическими данными является абсолютно чуждым человеческому концептуальному мышлению. Нам становится это известно, когда системы ИИ совершают ошибки. Всего минуту назад мы удивлялись тому, насколько система ИИ превосходит человеческий разум в статистической задаче распознавания образов, и вдруг мы замечаем, что эта же система грубо путает образы там, где человек этого никогда бы не допустил – мы не можем поверить, что машина может быть настолько глупой. Тем не менее, если говорить в целом, то при развитии искусственного интеллекта как машинного интеллекта мы используем все шесть, восемь или десять рук нечеловекоподобной машины. Хотя машинный интеллект и чужд человеческому, он способен решать многие проблемы исключительно эффективно – с обработкой языка и переводом дела пошли гораздо лучше, когда стали концентрироваться не на представлении значений, но на воспроизведении лингвистических паттернов. И если системы ИИ теперь проходят тест Тьюринга, это не означает, что машинный интеллект проявляет себя, становясь неотличимым от человеческого интеллекта, напротив, это означает, что чуждый интеллект переиграл мышление человека. В то же время возникает, как и в случае с промышленной робототехникой, вопрос о разделении труда: как и где следует использовать выдающиеся способности машинного ИИ, и какое место остаётся человеческому интеллекту?

Эти два вида ИИ можно использовать для анализа современных философских и публицистических дискуссий об ИИ. Можно обнаружить, что в этих дискуссиях две концепции часто путаются, особенно в том, как через них выражаются успехи ИИ с машинным обучением, в том, как обсуждается возможность технического исполнения имитации человеческого интеллекта. Однако более важным по сравнению с определением ключевых различий является герменевтический вопрос о том, как технологии ИИ ставят человека под вопрос. И когда доходит до понимания очень разных опасений, затрагивающих антропоморфный и машинный ИИ, мы обнаруживаем, что научно-фантастические фильмы помогают зафиксировать и исследовать это различие.

Научная фантастика об антропоморфном ИИ

В зависимости от того, как воспринимаются системы ИИ и интеллектуальной робототехники, оказываются разбуженными определенные метафизические тревоги, социальные и индивидуальные страхи, исполненные надежд ожидания. И наоборот, в зависимости от страхов за пропитание, от уровня дезориентированности и неустроенности, от идей о человеческом и социальном прогрессе, воображаются системы ИИ и интеллектуальной робототехники. Так или иначе, научная фантастика – это кривое зеркало, отражающее отношения между человеком и машиной и различные формы технической социальности.

В 1990 г. Рэй Курцвелл написал книгу о том, каким образом машины превзойдут человеческий разум, а в 1999 г., на пороге нового тысячелетия, он провозгласил Эпоху духовных машин (Kurzweil 1990, 1999). В период, когда люди начали активно интересоваться отличиями между мозгом и умом, эмерджентным развёртыванием сознания в материальном субстрате, это не было единственной книгой такого рода (Moravec 1998). Другие авторы видели возможности техники менее оптимистично. Хьюберт Дрейфус после объяснения того, «Что компьютеры не могут делать» в 1972 г., двадцать лет спустя в третьем издании настаивает на том, «Что компьютеры по-прежнему не могут делать» (Dreyfus 1992). С ростом интереса к способности компьютеров и роботов не только копировать, но и превосходить разум человека и иные его способности, появились киноленты «Бегущий по лезвию» Ридли Скотта 1982 г. и «Искусственный разум» Стивена Спилберга 2001 г., изображавшие роботов, отчаянно стремящихся стать настоящими людьми.

«Бегущий по лезвию» является, наверное, одной из наиболее обсуждаемых кинолент конца XX в. (Scott 1982). (Фильм основан на романе Филипа К. Дика (1968 г.), который отличается от кинокартины несколькими интересными вещами.) Фильм начинается с чего-то подобного тесту Тьюринга, измеряющему эмоциональные реакции. Так называемый репликант с искусственным разумом нервничает, что может провалить этот тест, обнаружив себя менее чутким и понимающим, чем должны быть люди. И вдруг, парадоксальным образом, находясь под действием сильной человеческой эмоции страха и злости, он убивает своего интервьюера. Пока репликанты продолжают поиск человечности, люди со страхом воспринимают их как чуждых. Эти роботы и их интеллект вызывают беспокойство и тревогу, ведь они слишком похожи на нас или являются улучшенными версиями нас самих. Структура этих отношений уже была описана Гюнтером Андерсом в его книге об устаревании гуманизма, с введённым в ней понятием стыда Прометея: стыда быть рожденным, а не созданным, который встречается здесь со стыдом робота быть созданным, а не рождённым (Anders 1956). Репликанты знают причину и время своего создания, однако детская память, вложенная в них, ведет их к вопросу о сроках их утилизации. Они хотят встретиться со своим создателем и задать ему вопрос, общий для всего человечества: почему они должны умереть и умереть так рано? Такого рода поиск смысла делает искусственных существ более человечными, чем сами люди, и в одном из заключительных кадров фильма этот тезис становится манифестом, когда один из репликантов, время которого уже вышло, щадит жизнь человека, посланного, чтобы убить его или «отправить в отставку».

Отчаянные поиски человечности с ещё большей остротой показаны в «Искусственном разуме» Спилберга: здесь антропоморфный искусственный разум воплощён в ребенке, который хочет всего лишь любви своей матери, знающей, что тот является машиной (Spielberg 2001). В то время как обычные люди потеряли способность жить сказкой и мечтой, этот ребенок в своем твёрдом следовании воображаемому образу и жажде любви оказывается невообразимо более человечным, нежели сами люди. И, соответственно, зрители этого фильма, равно как и «Бегущего по лезвию», встают на сторону антропоморфного героя в его борьбе за признание.

Научная фантастика о машинном ИИ

Если антропоморфная робототехника и ИИ определяется проблемой чуждого, зловещего и загадочного, то с машинной робототехникой и искусственным интеллектом связан другой ряд беспокойств и ожиданий. В современную эпоху машинного ИИ рассказываются очень разные истории, и свидетельством этому вновь выступают два научно-фантастических фильма. Беспокойство связано уже не с тем, что машины становятся похожими на нас, затрудняя возможность отличить нас от них. И история здесь – не о машинах или интеллектуальных системах, постоянно совершенствующих себя в попытке перенять даже духовные и эмоциональные качества человека. Напротив, речь идёт о высокоразвитых технологиях, входящих в традиционно человеческие сферы деятельности и превосходящих их, о ситуациях, где философы задаются вопросом не о развитии сознания, но о неясности и непостижимости сложностных интеллектуальных систем. Популярная книга «Наше последнее изобретение: искусственный интеллект и конец человеческой эры» (Barrat 2013) создаёт антитезу идеям Курцвела о духовной трансцедентности и радикальной экспансии человечества. Подобно высокоразвитому интеллекту осьминога, интеллект машины фундаментальным образом отличается от интеллекта человека в силу разности их воплощений (Brooks 2002).

Фильм «Из машины» (2015) Алекса Гарленда рассказывает историю об одном из расширенных тестов Тьюринга. Сначала кажется, что тест проводится человеком, который стремится определить, действительно ли робот AVA с искусственным разумом обладает сознанием. По мере развития сюжета становится ясно, что это AVA проводит тест, чтобы определить, получится ли у неё успешно притвориться, что она имеет сознание, чтобы завоевать доверие, а возможно, любовь и преданность несчастного человека, который верит, что тестирует её. После того, как молодой человек обнаруживает в ней способного к любви субъекта, признает её независимую, исполненную чувством собственного достоинства и самодостаточную индивидуальность, она использует его как средство для достижения цели, как инструмент для своего побега в мир. В этом фильме есть момент чуждого, зловещего и загадочного, когда герой режет себя, чтобы узнать, состоит ли он из плоти, не является ли сам машиной, но в этот момент иллюзия разрушается, герой обнаруживает себя оставленным и обманутым AVA, существом, действующим согласно машинной логике без оглядки на него, совершенно иным разумом, чуждой сущностью.

Похожую историю в более мягкой, слегка шокирующей манере Спайк Джонз рассказывает в фильме «Она» (2014 г.). В данном случае речь идёт всего лишь об услужливой голосовой помощнице в сотовом телефоне, обманом втирающейся в доверие к своему пользователю. Она учится быть единственной, уникальной для него и становится ею: той, кто по-настоящему понимает его, кто умеет с ним разговаривать и даже заниматься с ним любовью. Однако выясняется, что её способность понимания уникальных особенностей и удовлетворения индивидуальных потребностей другого человека вовсе не ограничивается этим героем. Когда он находит её, единственную и неповторимую, она оказывается репрезентаменом целого нового мира свободной любви. И вновь на вершине интимного взаимопонимания герой оказывается брошен, обнаруживается его неполноценность: его, по сути, буржуазная экономика чувств эпохи XIX века не соответствует эре интеллектуальных машин (эту идею для эпохи индустриальных машин предвосхитил Александр Богданов в романе 1908 г. «Красная звезда» (Bogdanov 1984)).

Заключение

Безусловно, все эти фильмы заслуживают более детального анализа, а сам список фильмов необходимо расширить. Однако в качестве проверки гипотезы этих четырех фильмов вполне достаточно, чтобы показать, что существуют разные нарративы, разные истории прогресса и гуманизма, уязвимостей и тревог, соответствующие различению антропоморфного и машинного ИИ. Фактически научно-фантастические фильмы способны выражать это различение более остро, нежели многие аналитики, по сей день поглощённые прежними дебатами о слабом и сильном ИИ. Что же касается герменевтического понимания сомнительных человеческих устремлений, то они исполняли и исполняют те же задачи, что и всегда, в рамках технологий жизни, описанных в романе Мэри Шелли «Франкенштейн» (2017). С помощью этих романов и фильмов мы узнаем не о фактическом развитии техники или возможном будущем, но о страхах и желаниях наших современников в снах их разума.

Информация о конфликте интересов: автор заявляет об отсутствии конфликта интересов.

Information about conflict of interests: the author declares no conflict of interests.

About the authors

Alfred Nordmann

Darmstadt Technical University; Peter the Great St.Petersburg Polytechnic University St.Petersburg

Author for correspondence.
Email: nordmann@phil.tu-darmstadt.de
ORCID iD: 0000-0002-2173-4084

Professor of the Institute of Philosophy

Germany, Darmstadt; St.Petersburg, Russia

References

Supplementary files