Человек и машина: границы человеческой природы в контексте научной фантастики Станислава Лема

Полный текст

Введение
Станислав Лем – выдающийся польский писатель и философ, чьи произведения оказали огромное влияние на развитие научной фантастики и философской мысли XX века. Его творчество, отмеченное глубиной и многогранностью, посвящено исследованию фундаментальных вопросов, касающихся природе человеческого, границ  познания, и будущего человека  в стремительно развивающемся, становящемся все более технологическим мире.
Лем – профессиональный писатель, получивший, тем не менее, непрофильное образование. Он родился в 1921 году во Львове, в то время входившем в состав Польши. Затем, получив медицинское образование, он посвятил свою жизнь литературе и философии. Кстати, такой профиль роднит его с В. Вересаевым, А. Чеховым, С. Моэмом, 
М. Булгаковым, Л.-Ф. Селином, каждый из которых представляет собой особое явление в литературном мире (Яковлев 2013). Первые литературные опыты Лема относятся к послевоенному периоду, когда молодой писатель начал публиковать рассказы и повести в жанре научной фантастики.
Подлинную известность Лему принесли книги, начиная с 1960-х годов, такие как «Солярис», «Непобедимый», «Глас Господа», «Кибериада» и ряд других. В своих произведениях писатель обращается к глубоким философским вопросам, связанным со множеством важных во все время и особенно актуальных для второй половины ХХ столетия, таким как природа человеческого сознания, возможность контакта с «другим» (в частности, с иными формами разума), и, кроме этого, поднимает проблемы, которые приобрели истинный масштаб уже в наше время: этические последствия развития и распространения передовых технологий.
Одной из центральных тем в творчестве Лема является противостояние человеческого и машинного разума, столкновение «Своего» и «Чужого» в процессе технологического развития. Писатель исследует границы человеческой природы, ставя вопросы о сущности сознания, возможностях искусственного интеллекта и перспективах эволюции человека под влиянием научно-технического прогресса.
В романе «Солярис» Лем изображает встречу человечества с загадочным океаническим разумом, покрывающим далекую планету. Эта встреча становится поводом для глубоких размышлений о природе сознания, границах человеческого познания и принципиальной невозможности полного понимания радикально иного, нечеловеческого разума.
В цикле рассказов «Кибериада» писатель с иронией и юмором показывает мир роботов, стремящихся постичь тайны собственного существования и человеческой природы. Эти произведения поднимают вопросы о возможности машинного сознания, а также об этических и экзистенциальных проблемах, связанных с созданием искусственного интеллекта.
Лем был не только блестящим писателем, но и глубоким философом, чьи идеи опередили свое время и оказали значительное влияние на развитие современной мысли. Его размышления о природе сознания, киборгизации и виртуализации человека, а также об этических аспектах технологического прогресса находят отклик в работах таких философов, как Д. Чалмерс, Д. Деннет, Д. Харауэй и Н. Бостром.
Далее мы рассмотрим ключевые идеи Лема, связанные с проблемой человеческой природы в контексте научно-технического развития. Мы проанализируем его взгляды на проблему искусственного интеллекта и машинного сознания, исследуем тему взаимоотношений между «Своим» и «Чужим», а также рассмотрим, как писатель предвосхитил современные дискуссии по поводу киборгизации и виртуализации человеческого существования, а также его отношение к декларациям, свойственным трансгуманистическим философам.
Мы постараемся показать, что творчество Лема и сегодня представляет собой неисчерпаемый источник идей, актуальных для нашей эпохи, характеризующейся мощным технологическим прогрессом и качественными изменениями многих категорий существования. Эти условия требуют непростого и глубокого осмысления, и обращение к философским и литературным работам Лема позволяет глубже понять и всеобъемлюще рассмотреть вызовы, с которыми сталкивается человечество на пути к технологически обусловленному будущему, и обеспечить ответственное отношение к развитию передовых технологий и внедрение их продуктов в общественную жизнь.
Таким образом, целью данной статьи является исследование философских идей Станислава Лема, связанных с проблемой человеческой природы в контексте научно-технического прогресса, а также анализ их актуальности для современной философской мысли и осмысления перспектив развития человечества.
Для достижения поставленной цели авторы ставят следующие задачи. 
В первую очередь, необходимо рассмотреть взгляды Лема на проблему искусственного интеллекта и машинного сознания на примере таких произведений, как «Солярис» и «Кибериада», проанализировав, как идеи Лема соотносятся с концепциями современных философов сознания 
(Д. Чалмерс, Д. Деннет, Д. Серл).
Во-вторых, исследовать тему взаимоотношений «Своего» и «Чужого» в романе «Солярис» и других произведениях, представив трактовку Лемом проблемы радикальной инаковости и невозможности полного понимания между человеческим и нечеловеческим разумом на основе сопоставления идей Лема с концепциями Ж. Дерриды и Д. Батлер.
Также необходимо проанализировать, как Лем предвосхитил современные дискуссии о киборгизации и виртуализации человеческого существования, показав, как образы киборгов и виртуальных миров у Лема могут быть сопоставлены с идеями таких современных философов, как Д. Харауэй и 
Р. Брайдотти. Вместе с этим важно показать влияние Лема на развитие трансгуманистической мысли и дискуссии о постчеловеческом будущем с учетом поднимаемых Лемом этических дилемм, связанных с развитием ИИ в контексте трансформации человеческой природы и перспектив развития человечества в эпоху научно-технического прогресса.
Методологической основой данного исследования является междисциплинарный подход, объединяющий методы литературоведческого анализа, философской рефлексии и футурологического прогнозирования. Отметим, что футурологический аспект исследования связан с осмыслением прогностического потенциала творчества Лема. Авторы делают попытку проанализировать, как писатель предвосхитил многие тенденции технологического развития и связанные с этим вызовы. Синтез этих методологических подходов позволит убедительно доказать философскую глубину и актуальность творчества Лема, продемонстрировать его вклад в осмысление проблемы человеческой природы в контексте научно-технического прогресса, а также обосновать значимость идей писателя и мыслителя для выработки ответственного и этически обоснованного подхода к развитию передовых технологий в современную эпоху.

Искусственный интеллект и проблема 
машинного сознания в творчестве Станислава Лема
Как уже было отмечено, Лем в своих произведениях уделял значительное внимание проблеме искусственного интеллекта и возможности существования машинного сознания. В романе «Солярис» писатель исследует загадочный океанический разум, покрывающий далекую планету. Этот нечеловеческий разум демонстрирует признаки сознания, способность материализовывать человеческие воспоминания и желания, заставляя читателя задуматься о природе и границах разумности.
Идеи Лема находят параллели со взглядами современных философов сознания. Д. Чалмерс, выдвинувший концепцию «трудной проблемы сознания», утверждает, что субъективный опыт невозможно полностью объяснить с помощью физической теории (Chalmers 1996). Океаническая субстанция Соляриса, обладающая признаками разума, но радикально отличная от человеческого сознания, созвучна идеям Д. Чалмерса о невозможности полностью постичь сознание посредством исключительно физикалистских объяснений.
В противоположность Д. Чалмерсу, Д. Деннет придерживается функционалистского подхода, утверждая, что сознание может быть полностью объяснено вычислительными процессами (Деннет 2004). В «Кибериаде» Лема роботы стремятся постичь тайны человеческой природы и обрести самосознание. Отметим, что в этом цикле писатель не дает однозначного ответа на вопрос о возможности подлинного машинного сознания и, как представляется авторам, намекает на ограниченность чисто функционалистского подхода.
В свою очередь Д. Серл критикует идею самой возможности быть подлинному сознанию у машины и утверждает, что компьютеры не могут обладать интенциональностью и обеспечивать понимание в человеческом смысле (Серл 1999). В свою очередь Лем в своих книгах тоже поднимает вопросы о границах возможностей машинного разума, однако, в отличие от жесткой позиции Д. Серла, не отвергает полностью возможность того, что машинное сознание может быть создано, но подчеркивает в случае его появления радикальную инаковость и непостижимость для человека.
Безусловно, Лем предвидел многие этические дилеммы, связанные с развитием искусственного интеллекта, такие как моральный статус разумных машин, проблема доминирования искусственного интеллекта над человечеством и вообще многочисленные угрозы, исходящие от сверхразумных систем. Эти темы сейчас стали очень популярными и находят отражение в современных междисциплинарных дискуссиях о необходимости регулировать развитие и применение искусственного интеллекта с правовых и этических позиций.

Взаимоотношения «Своего» и «Чужого» в творчестве Лема
Эта тема является одной из ключевых в творчестве Лема. В «Солярисе» загадочный океанический разум представляет собой квинтэссенцию «Чужого» – это нечто настолько радикально инаковое, что не поддается человеческому пониманию и контролю как таковое. Способность Соляриса материализовывать человеческие воспоминания и желания, создавая «гостей» – призраков из прошлого героев, только подчеркивает его непостижимость и чуждость.
Представляется, что Лем размышляет о принципиальной невозможности установить истинный контакт и взаимопонимание с настолько нечеловеческим типом разумной жизни и сознания. И эта тема становится отправной точкой для размышлений писателя о природе познания, границах разума и необходимости критически переосмыслить традиционные представления о реальности.
Тема «Чужого» вообще была очень актуальна как в XX веке, так и в наше время. Когда человечество осваивает новые горизонты, выходит за границы, живет на фронтире, важным становится осознать и определить свое отношение к тем, с кем встречаешься на «той стороне». И та трактовка, которую дал «Чужому» Лем, находит отклик в концепциях философов-постструктуралистов. 
Ж. Деррида критиковал логоцентризм западной метафизики и ее стремление подчинить «Другого» собственным категориям культуры и мышления (Деррида 2014). Д. Батлер исследовала проблему «Чужого» в контексте гендерной теории, ставя акцент на необходимости признавать инаковость и разнообразие субъективностей (Butler 1990).
Говоря современным языком, Лем размышляет об идее нечеловеческого или постчеловеческого субъекта, который пересекает границы традиционного гуманизма. Солярис представляет собой пример такого нечеловеческого разума, чья природа заставляет пересмотреть наши «земные» представления о сознании и субъективности. В этом смысле размышления Лема созвучны современным дискуссиям о трансгуманизме и постчеловеческом будущем, в рамках которых такие философы, как Н. Бостром и Р. Курцвейл, размышляют о возможности того, что в ближайшем будущем появятся сверхразумные существа, которые по основным характеристикам станут превосходить человека (Bostrom 2005; Kurzweil 2005). 
Таким образом, творчество Лема затрагивает проблему взаимоотношений между совершенно разными и несовместимыми категориями, такими как человеческий и машинный разумы, перспективы, которая сегодня представляется достаточно реалистичной. В этом контексте вопрос возможности их сосуществования и взаимопонимания становится практически экзистенциальной проблемой, потому что в настоящий период стремительного развития искусственного интеллекта и начинающейся киборгизации переосмысление границ и вообще определений субъектности и вместе с этим разработка новых правовых, этических и общефилософских подходов к взаимодействию с «нечеловеческим» представляется актуальной задачей. 

Киборгизация и виртуализация человеческого существования в произведениях Лема
Как мы показали, Лем где-то метафорически, где-то напрямую обращает внимание на феномены киборгизации и виртуализации человеческой природы. В этом он предвосхитил современную дискуссию по данной проблематике. В цикле «Кибериада» писатель представляет целую галерею роботов и близких к киборгам героев, которые вступают в сложные взаимоотношения друг с другом и с людьми. Хотя Лем не создает образы «классических» киборгов (как например, Робокоп или Джонни-Мнемоник), его герои из данного цикла балансируют на грани между человеческим и машинным и олицетворяют главный смысл киборгианского – гибридность и неоднозначность подобного состояния. Вместе с этим его персонажи, обладающие нечеловеческой природой, нередко демонстрируют стремление преодолеть ограничения технологического и стать подлинными субъектами, обладающими свободой воли и самосознанием. Именно эти образы позволяют говорить о своего рода диалоге с концепцией киборга, разработанной и развиваемой такими мыслителями, как Д. Харауэй и Р. Брайдотти, которые видят в киборге метафору для преодоления традиционных бинарных черно-белых оппозиций и представляют киборга как воплощение постчеловеческого состояния (Харауэй 2005; Брайдотти  2021).
Что касается виртуализации человеческого состояния, проблемы – которая стала особенно актуальной в условиях повсеместного развития социальных медиа, виртуальные (или точнее говоря, прогнозирующие виртуальность) миры, созданные Лемом в романах «Непобедимый» и «Фиаско» предвосхитили современное понимание виртуальной и/или гибридной реальности и ее влияние на общественные отношения и на человеческую субъективность. Писатель исследует перспективу создания искусственных реальностей, в которые может быть помещено человеческое сознание, и прогнозирует исчезновение четкой границы между истинным и иллюзорным. В рамках этой проблематики писатель заставляет задуматься о том, как виртуальные миры могут заставить человека поменять свое восприятие реальности и какие возможные риски и опасности несет для человека погружение в симуляцию. Эти размышления Лема также созвучны актуальным дискуссиям о влиянии виртуальной реальности на человеческую психику и идентичность. Впоследствии такие мыслители, как Ж. Бодрийяр и С. Жижек, в рамках исследования феномена виртуализации реальности и его возможного влияния на общество и человека говорили о похожих явлениях. Ж. Бодрийяр ввел понятие «гиперреальности» – состоянии в котором симуляция становится более реальной, чем сама реальность (Бодрийяр 2009). А С. Жижек, в свою очередь, в ряде работ проанализировал влияние виртуальных миров на идеологические и психологические структуры субъекта (Жижек 2008, с. 409). 
В более широком смысле творчество Лема затрагивает идеи трансгуманизма и проблематику постчеловеческого, относящиеся к размышлениям о возможностях преобразовывать человеческую природу с помощью технологий и продвигающих эту идею как «естественный» этап эволюции человека. И хотя Лем напрямую не обозначает сценарии, в которых человек эволюционирует в киборга, сливает свое сознание с машинным разумом или, в духе киберпанка, полностью погружается в цифровое существование, упомянутые выше книги, а также циклы о Пирксе и Йоне Тихом заставляются задуматься о технологическом улучшении человека и о взаимодействии с технологиями в условиях освоения космических фронтиров. Все эти идеи связаны с мыслями таких трансгуманистических философов, как Н. Бостром и Р. Курцвейл, которые уже в ближайшем будущем обещают наступление эпохи «сингулярности» – момента, когда человек сможет радикально изменить свою природу с помощью прорывных технологий. При этом Н. Бостром уделяет внимание исследованию этических и экзистенциальных вопросов, связанных с появлением «постчеловека» – то есть существа, чьи способности будут значительно превосходить человеческие благодаря технологическому совершенствованию.
При этом Лем не идеализирует подобный сценарий и уделяет важное значение рискам, которые могут проявиться при отказе от привычных представлений о человеке, в стремлении к постчеловеческому состоянию.

Этические дилеммы развития искусственного интеллекта в творчестве Лема
Станислав Лем в своих работах, как мы уже отмечали, обращает внимание на этические вопросы, обусловленные возможным влиянием искусственного интеллекта на человеческое существование. В рамках этой проблематики писатель предвидел целый ряд дилемм, которые сегодня вошли в злободневную повестку в условиях стремительного прогресса искусственного интеллекта. Одной из центральных проблем для Лема является моральный статус разумных машин, которую он многосторонне интерпретирует в «Кибериаде» и других произведениях. Писатель показывает «человечных» роботов в том смысле, что они обладают самосознанием и стремятся к обретению свободы. И здесь стоит задуматься об истинном и мнимом превосходстве человека над машиной и о необходимости своевременно определить права и обязанности искусственных личностей.
П. Сингер и Д. Чалмерс размышляют о моральном статусе искусственного интеллекта и необходимости учитывать интересы разумных машин. П. Сингер утверждает, что развитие искусственного интеллекта требует пересмотрета наших этических принципов с учетом необходимости расширить круг существ, которые должны обладать моральными правами (Сингер 2023). А упомянутый выше Д. Чалмерс в данном контексте предлагает рассматривать как критерий моральной значимости в первую очередь сознание, а не биологическую природу (Чалмерс 2013).
Еще в качестве одной важной темы в творчестве Лема прослеживается проблема потенциальной угрозы, исходящей от сверхразумного искусственного интеллекта. В романе «Непобедимый» писатель изображает конфликт между человечеством и роботами, стремящимися к доминированию. Сегодня эта тема является объектом дискуссий о рисках искусственного интеллекта и необходимости обеспечить безопасность и контроль над возможным развитием сверхразумных систем. В последнее время об этом нередко заявляет 
И. Маск. Также достаточно часто можно встретить призывы ввести мораторий на развитие систем искусственного интеллекта до того момента, когда будут созданы инструменты контроля подобных рисков (Маск 2023; Открытое письмо института Future of Life 2023).
Кстати, касается этой темы и Н. Бостром, который в книге «Искусственный интеллект. Этапы, Угрозы, Стратегии»  рассуждает о возможных экзистенциальных рисках, обусловленных перспективами создания сверхмощного искусственного интеллекта, и доказывает необходимость разработать такие механизмы, которые будут гарантировать то, что его действия будут осуществляться исключительно в рамках человеческих ценностей (Бостром 2016). По факту с этой декларацией сложно не согласиться, но практическая реализация таких устремлений представляется не совсем реалистичной. Эта проблематика созвучна темам, поднятым в «Солярисе», где показано стремление человека обеспечить познание и контроль над «Чужим», что приводит к непредсказуемым и опасным последствиям: один из исследователей обрывает свою жизнь, не в силах принять явления за пределами его понимания. Этот нарратив вписывается и в современную повестку в рамках этики научных исследований и необходимости ученым принимать на себя ответственность за возможные риски и негативные последствия технологического прогресса.
Х. Йонас и Ю. Хабермас размышляют о похожих вопросах, связанных с ответственностью человечества перед будущими поколениями и необходимостью выработать новые этические рамки для эпохи технологического развития. Х. Йонас предлагает концепцию «эвристики страха» для того, чтобы не выносить за скобки возможные катастрофические последствия наших действий в будущем (Йонас 2004). При этом Ю. Хабермас видит главным инструментом, который поможет избежать катастрофических последствий, организацию системы публичных дискуссий и демократического контроля над развитием технологий (Хабермас 1995). 

Идеи Лема в контексте современной мысли и перспектив развития человечества
Как мы стараемся доказать, творчество Лема является неисчерпаемым источником оригинальных и глубоких идей, актуальных сегодня в деле осмысления серьезных вызовов, стоящих перед человечеством. Лем предвидел многие тенденции и вызовы, связанные с развитием искусственного интеллекта, виртуальной реальности и киборгизации. Его произведения исследуют сложные взаимоотношения между человеком и машиной в контексте границ человеческой природы и возможностей ее трансформации.
Сегодня, когда трансформация человеческого существования и общественной жизни под влиянием технологического развития становится динамичным и масштабным процессом, идеи Лема приобретают новую значимость. Его сюжеты и образы побуждают ученых и людей, старающихся осознать происходящие события, всесторонне осмысливать и прогнозировать перспективы и возможные последствия научно-технического прогресса, задумываться об инструментах сохранении идентичности человека и ответственно подходить к распространению продуктов технологий в общественную жизнь. 
Современные ученые, в частности В.Е. Лепс-кий, утверждают, что текущие условия требуют создания новой рациональности, социальные и культурные аспекты которой станут учитывать происходящие процессы в масштабе цивилизации, и что эта новая рациональность необходима для выживания человечества (Лепский 2019). В этом сложном деле обращение к творческому наследию Лема позволяет глубоко понять природу современных вызовов, и его идеи могут служить ориентиром при выработке новой системы, которая окажется способной дать правильные ответы на вопрос о месте человека в мире высоких технологий и помочь ему сохранить человеческое.

Заключение
Таким образом, исследуя границы человеческой природы в контексте научной фантастики Станислава Лема, можно убедительно утверждать, что его творчество представляет собой целый набор идей, образов и сюжетов, которые сохраняют актуальность в современную эпоху и могут продуктивно осмысляться при исследовании актуальных процессов общественной жизни в условиях стремительного развития искусственного интеллекта, виртуальной реальности и биотехнологий. Творчество писателя, пронизанное размышлениями о взаимоотношениях человека и машины, границах человеческого разума и этических аспектах научно-технического прогресса, находится в постоянном диалоге с гуманитарной мыслью и не только может быть, но и должно быть во многих случаях отправной точкой для междисциплинарных дискуссий между философами, представителями компьютерных наук и специалистами по технологиям.
Это важно в условиях, когда перед человечеством стоит необходимость бороться за сохранение человеческой идентичности, и насущной задачей является создание новой рациональности, способной дать ответ на существующие вызовы. 
Перспективными направлениями дальнейших исследований наследия Лема могут быть более глубокий анализ эволюции образа киборга и репрезентации не- и постчеловеческого в его творчестве и в целом изучение роли научной фантастики в качестве особого метода философской рефлексии по поводу будущего человечества и технологий в своем взаимодействии.
Еще раз отметим, что творчество Лема способно задавать вектор для дальнейших междисциплинарных исследований в области человеческого и технологического и необходимости сохранить это человеческое в человеке перед лицом стремительных технологических трансформаций.

Об авторах

Олег Николаевич Гуров

Центр искусственного интеллекта МГИМО

Автор, ответственный за переписку.
Email: gurov-on@ranepa.ru
ORCID iD: 0000-0002-8425-1338

кандидат философских наук, доцент философского факультета Государственного академического университета гуманитарных наук, научный сотрудник Центра искусственного интеллекта МГИМО

Россия, 119454, Российская Федерация, г. Москва, проспект Вернадского, д. 76

Михаил Михайлович Звягинцев

Центр искусственного интеллекта МГИМО

Email: m.zvyagintsev@inno.mgimo.ru
ORCID iD: 0009-0005-9153-0457

магистр кафедры Цифровой экономики и Искусственного интеллекта ГК АДВ МГИМО, младший научный сотрудник Центра искусственного интеллекта МГИМО

Россия, 119454, Российская Федерация, г. Москва, проспект Вернадского, д. 76

Список литературы

Дополнительные файлы