Discrediting the subject in the digital age: an experience of conceptualization

Full Text

Введение
В настоящее время мы живем в эпоху цифровых технологий, которые при(в)несли с/за собой революционные изменения в различных сферах жизни. Цифровая эпоха началась в конце прошлого века с развитием компьютерных технологий и интернета, и с тех пор она продолжает развиваться и влиять на все аспекты нашей жизни. Как известно, одним из главных преимуществ цифровой эпохи является возможность быстрого и удобного доступа к информации. Этот процесс повлек за собой социальные и политические изменения, связанные с распространением фейковых новостей, манипуляций с информацией и использования социальных сетей для целей дестабилизации общества, для управления общественным мнением и создания политических кризисов.
Сегодня как никогда человеческий субъект, движимый желанием контроля, сдерживается запретами и поэтому всегда является источником риска. Все чаще в СМИ можно увидеть алармистские известия о том, как нейросети и искусственный интеллект отберут работу у человека, выйдут из-под его контроля, тем самым поработив человечество. Пытаясь предугадать возможный исход «войны против машин», гуманитарная наука долгое время пытается определить этические возможности и границы искусственного интеллекта (далее – ИИ), которые прогрессивно расширяются вместе с технологическим развитием общества. В русле неустойчивой социально-политической обстановки, а также ситуации приближения того, что в обывательском смысле следует видеть не иначе как «“нечто” становится умнее нас», складывается историческое ощущение времени, в котором современность все больше лишает нас доверия к ней. Чем больше кредо субъекта оцифровывается, тем больше оно подвержено дискредитирующему влиянию.
В свете актуальных проблем современности особенно важно рассмотреть, что есть дискредитация и какие сохраняются стратегии для ее концептуализации. Определение понятия «дискредитация» осложняется тем, что на сегодня отсутствует его концептуальная философская проработка. За последнее историческое время можно отметить, что понятие дискредитации для обозначения лишения доверия или уважения все больше применяется для сигнификации культурных явлений, чем в политической, социальной и экономической сферах.

Fake to fake
Слово «фейк», прочно вошедшее в журналистскую и разговорную лексику, сложно поддается этимологическому анализу (по легенде слово «fake» образовалось от английского «to feague», обозначавшего процесс засовывания кусочка имбиря коню под хвост для демонстрации активной жизненной позиции коня перед покупателями).
С 2017 года в медиасреде велась борьба с чипфейками («дешевыми фейками» («сheepfakes»), редактированными медиаобъектами, включающими «аудиовизуальные манипуляции, созданные с помощью Photoshop, использование двойников, переконтекстуализацию материала и ускорение или замедление видео» (Risse 2023, p. 121). Апогеем настоящего технологического развития чипфейков стали дипфейки («deepfakes»; deep learning – «глубинное обучение» и fake – «подделка»).
Дипфейк – это продукт искусственного интеллекта и технологии машинного обучения, использующиеся для обучения глубоких нейронных сетей. Название сложилось из-за связи с «fake news» («фейковыми новостями»), сыгравшими не последнюю роль в американской политической (и не только) культуре в ходе президентской кампании в 2016 году. Современная политическая ситуация «дискредитировала» наименование самой технологии «дипфейков», которые, по словам исследователей, лучше обозначить как «синтетические медиа», произведенные с помощью технологии машинного обучения (Kalpokas, Kalpokiene 2002). В эпоху «постправды» технологии ИИ все чаще используются в качестве эффективного инструмента для политической дискредитации индивидуума, социальной группы, нации. Современные достижения в области машинного обучения дали возможность распознавать «дипфейки», что является своего рода игрой в «кошки-мышки» в кибербезопасности.
В настоящее время визуальные образы играют важную роль в контексте перенасыщения информацией и избытка контента, особенно когда речь идет о дипфейках. Они быстро и легко усваиваются пользователями Сети, мемезируются, вызывая определенные автором «мема» эмоции, тиражируются и эксплуатируются с различными дискурсивными целями, такими как пропаганда, буллинг, троллинг, харассмент. С развитием социальных сетей, таких как YouTube и TikTok, многие люди начали ценить визуальное восприятие выше других показателей истины. Однако с дипфейками достаточно сложно различить правду и ложь. Поэтому появление искусственного интеллекта может привести к усилению распространения (дискредитирующей и дискриминирующей) (дез)информации.

Парадоксы дискриминации
В то время, когда равенство возможностей является ключевым аспектом нашего современного общества, концепция дискриминации остается сложной. В самом простом понимании дискриминация представляет собой неравное обращение с людьми, находящимися в одинаковой ситуации, но различающимися по одной или нескольким характеристикам, таким как раса, этническая и религиозная принадлежность, пол, инвалидность, сексуальная ориентация или другие категориальные статусы. В правовом смысле, по предложению ученого-юриста Т. Хайтана, современная «система законов, регулирующих дискриминацию, стала ключом к тому, как государства определяют себя» (Khaitan 2015, p. 3–4). И в этом аспекте западное общество, определяя себя как либеральное, вынуждено вести обреченную борьбу со всевозможными дискриминациями, что влечет за собой парадокс дискриминации, в котором дискриминация сама подвергается дискриминации (см: Taramundi 2017). Также чем больше о дискриминации говорят и чем больше достигается консенсус по этому вопросу, тем меньше делается для его решения.
В качестве иллюстрации следует привести обсуждение видеоигры на медиаплатформе Stream. В небольшой игре-стратегии в реальном времени под названием «Stellaris» разработчики предлагают пользователям познакомиться с инопланетянами разных рас, открывать новые планеты, справляться с неожиданными испытаниями и расширять границы своей империи. «Ваши возможности практически безграничны» – таким колониалистским жестом заканчивается превью-
описание (см.: Steam).
Stream – это не только онлайн-сервис цифрового распространения компьютерных игр и программ, но и площадка, в которой пользователи в свободной форме могут общаться между собой и делиться мнениями. В обсуждении игры «Stellaris» была вынесена тема с подзаголовком «stop the discrimination paradox» («остановить парадокс дискриминации») с таким сообщением для обсуждения: «Мы можем играть за людей-эльфов, но не за космических дельфинов? Это оскорбление всех фэнтезийных рас, которые случайным образом забрасывают в научную фантастику. Игра за дварфов имеет наибольший смысл с их индустриальной мощью и выдержкой, что делает их более достойными для достижения к звездам, чем эти грязные хиппи с острыми ушами» (см.: Steam). Дискуссионная ветка заканчивается фантазиями одного из пользователей о космических дварфах (гномах) и заброшенных космических шахты, что свидетельствует о дискриминации традиции фэнтези, которую не разделяют геймеры.
В социально-политической сфере западными исследователями из бельгийской некоммерческой организации «Группа миграционной политики» (см.: Migration Policy Group (MPG)) отмечен «парадокс дискриминации». Он описывает феномен в некоторых странах ЕС, в которых мигранты с более высоким образованием воспринимают больше дискриминации по сравнению с мигрантами с более низким уровнем образования (Migration Policy Group (MPG)). Решение по поводу мигрантов с высшим образованием может быть следующим: мы можем не позволять им получать высшее образование, чтобы избежать дискриминационного давления на них, однако само это решение становится дискриминационными. Но если мы дадим мигрантам больше возможностей для получения высшего образования, то это может привести к увеличению дискриминационных настроений. Следовательно, можно сделать парадоксальный вывод, что чем больше дискриминации к мигрантам, то тем более образовано общество. Здесь уровень дискриминации свидетельствует о наличии социальных благ, связанных с качеством и доступностью образования.
Известно, что имя Мартина Хайдеггера было (и даже остается) дискредитировано за аффилиацию к национал-социализму в академических кругах. Термин «постмодернизм» стал дискредитирующим означающим в отечественной философской мысли на рубеже XX–XXI вв. Как отечественные, так и западные исследователи, изучающие творчество Хайдеггера или представителей «постмодернистской философии», подвергались (и подвергаются) дискриминации в научном сообществе. Эти пунктирные примеры иллюстрируют, что дискредитация предшествует дискриминации вплоть до их неразличимости. В этой логике такие высказывания, как «место женщине на кухне» или «философия Хайдеггера пропитана фашизмом» – это не только стереотипные примеры гендерной/академической дискриминации, но следствие дискредитации пола/идеи, говорим ли мы о проблеме мигрантов или о фэнтезийном мире.

Рождение дискредитации из духа долга и денег
Слово «дискредитация» происходит от латинского «dis» (отрицание) и «creditum» (доверие, вера). Последнее в значении «заем, вещь, вверенная другому» образовано от причастия прошедшего времени «credere» («доверять, доверять, верить»). Сегодня использование понятия дискредитации обозначает акт лишения доверия чего или кого-либо в различных сферах социальной и культурной жизни.
В работе «Философия долга» Александр Дуглас отмечает, что «creditum», как и любой язык долга, также имеет теологические оттенки. Во многих индоевропейских языках термины, используемые для обозначения долга, часто совпадают с терминами, используемыми для обозначения греха и вины. Например, слово «schuld» на немецком языке означает как «долг» («debt»), так и «грех» («sin»). Поэтому погашение долга звучит как акт искупления (Douglas 2015, p. 7).
Для того, чтобы прояснить концептуальную сложность понятия «дискредитации», стоит кратко привести историю кредитно-денежной системы. Римляне захватили греческую институцию долга и перестали проводить регулярные аннулирования долгов, которые ранее предотвращали накопление долгов сверх возможностей естественного производства. Это привело к полному краху социально-экономического порядка в Риме, когда центр цивилизации переместился с Востока на Грецию, а затем на Италию. Кредиторская олигархия Рима перенесла налоги на менее обеспеченные классы, толкая их в банкротство и в итоге разрушив саму денежную экономику. Это спровоцировало возникновение «темных веков», которые вернули местное производство и ремесленничество. В этот период христианская церковь полностью запретила ростовщичество до тех пор, пока не появились в XIV в. первые банки в Италии. Банкиры того времени предоставляли кредиты государственным правительствам и королевским семьям. Они также занимались обменом валюты и хранили деньги своих клиентов в своих хранилищах.
С течением времени банки стали предоставлять кредиты и обслуживать обычных людей, экономическое доверие активно раздавалось, так как это приносило прибыль. Один из первых банков, Банк Англии, был основан в 1694 году для финансирования войны против Франции. В XIX в. развитие телеграфа позволило банкам быстро передавать информацию о транзакциях между городами и странами, а в XX в. появилась первая банковская карта, которая позволяла людям расплачиваться за товары и услуги без необходимости использовать наличные деньги. В третьем томе «Капитала» Маркс справедливо отметил, что кредитная система означает подчинение капитала, приносящего проценты, капиталу, приносящему прибыль. В то же время банковская система не только кредитовала, но и наделялась функциями дискредитации по отношению к не выполнившим заемные обязательства физическим и юридическим лицам.
Таким образом, история понятия «дискредитация» началась в XV–XVI вв., когда creditum вышел из протестанско-католического духа в экономические термины зарождающейся кредитно-денежной системы. Со времени расцвета капиталистических отношений «дискредитация» и сопутствующая дискредитирующая этика стала чаще фигурировать в текстах и речах чиновников, философов от Монтескье до Бодрийяра. Это говорит о том, что смысл понятия «дискредитации» стал десакрализироваться из области веры в сферу знания.

Искусственный интеллект между дискурсом капиталиста и дискурсом университета
Вопреки устоявшемуся мнению, искусственный интеллект – это не искусственное мышление. Интеллект может быть определен как способность к абстрактному мышлению в производном качественном отношении. С другой стороны, мышление (cogito) – это процесс обработки информации, который включает в себя восприятие, анализ, синтез и оценку ситуаций и явлений.
И. Миллар в работе «Психоанализ искусственного интеллекта» (2020) продолжает размышления
Ж. Лакана о вынужденном выборе человека между cogito и sum, бытием и мышлением: если человек выбирает мышление, он должен отказаться от бытия, и наоборот. Этот раскол между бытием и мышлением, лежащий в основе лакановской теории субъекта, бросает альтернативный свет на философские концептуализации ИИ как дискретной формы интеллекта в отличие от так называемого «настоящего интеллекта», что позволяет Миллар выделить ИИ как «мыслящую вещь» (Millar 2020). Современная digital техносфера питает фантазм субъекта о том, «кто-то или что-то мыслит за нас». Здесь также можно усмотреть интерпассивную форму наслаждения, в которой «Другой наслаждается за нас» (Жижек 2019). В этом отношении социальные и культурные настроения о том, что ИИ дискредитирует субъективность субъекта – это прежде всего фантазм, свойственный именно дематериализованной капиталистической системе («капитализм платформ»).
Мы уже привыкаем думать о том, что искусственный интеллект мыслит за/вместо нас. Но почему данный фантазм, несмотря на неоправданные ожидания в отношении киберпанка 80–90-x годов XX в., остается возможным? Чем высокотехнологичное производство пленяет субъекта? Здесь следует рассмотреть концепцию одного из четырех (пяти) дискурсов Ж. Лакана. В рамках данной теории Лакан представляет формулу с обозначенными местами агента, другого, продукта и истины (Лакан 2006). В каждом дискурсе агент обращается к другому, а истина, к которой стремится дискурс, достигается посредством определенного производства. Иначе говоря, каждый дискурс имеет четыре фиксированные позиции (агент, другой, продукт и истина), которые могут быть заняты четырьмя различными формализованными терминами (S1, S2, а, $), представляющими соответственно Господина (S1), знание (S2), объект (а) и расщепленного субъекта ($).
Каждый дискурс начинается с того, что агент обращается к «пассивному» адресату (другому). Результат этого отношения может быть проверен в его искаженном эффекте или продукте. В формуле имеется позиция истины, которая придает дискурсу Лакана соответствующую психоаналитическую рефлексию, поскольку говорит нам о том, что агент лишь внешне имеет признаки доминации/управления, так как истина о его дискурсе бессознательна. Позиция истины, таким образом, придает осязаемую форму онтологической несостоятельности любой коммуникативной логики и социальной связи, которая проявляется двояко: сначала на верхнем или сознательном уровне (агент и другой) мы имеем отношения невозможности; затем, на нижнем или бессознательном уровне (продукт и истина) – отношения бессилия:
Позиции дискурса:
Агент другой
истина продукт
В университетском дискурсе знание (S2) несколько возмутительно пытается напрямую обратиться к а, изначально потерянному объекту, и контролировать его, не производя ничего, кроме расщепленного субъекта ($), который, в свою очередь, не способен постичь истину Господина:
Дискурс университета
S2 → а ↓
↑ S1 $
Дискурс университета, сменяя дискурс Господина, описывает, что в результате научной революции ученый теперь полагается не на Господина, а на научный метод и на технический прогресс технонауки (например, математического моделирования) для получения достоверного знания. Знание (S2) заменяет (свергает) Господина (S1) в качестве инициатора процесса познания (S2/S1). S2 больше не функционирует как реципиент, но отныне играет более активную роль, обращаясь к объекту (a) и приручая его с помощью точных инструментов, как, например, ИИ. «С помощью технических средств наука стабилизирует (одомашнивает) неуловимый объект а. Таким образом, математика желания уступает место, казалось бы, гораздо более стабильной ситуации: взаимодействию между экспертами (S2) и их одомашненными объектами» (Zwart 2019, p. 52). При этом авторитет Господина отвергается (задвигается под планку). Дезавуированная истина этого типа дискурса освобождает новое мировоззрение (рациональности и Просвещения), которое функционирует как источник вдохновения, заменяя традиционное знание Господина и обеспечивая управляющие функции (S1). В данном дискурсе побочным продуктом является расщепленный субъект ($), который становится жертвой и попадает в ловушку своей одержимости («желание знания» с точки зрения Лакана не существует). Эксперимент дает сбой, накапливаются аномалии, парадигма отказывается функционировать, и возникает кризис ($).
«Возьмем нечто такое, что в мои маленькие схемки прекрасно укладывается, – что, в самом деле, система производит? Она производит некий культурный продукт. А что производят на университетском станке? Конечно же, диссертации» (Лакан 2008, с. 241). Нельзя не заметить, что словно прометеевским жестом «спущенные с небес» технологии ИИ для юзеров/потребителей – это не что иное как персональный университетский станок, благодаря которому осуществлять производство Господину становится еще эффективнее. «Спускать» технологии позволяет пятый «капиталистический дискурс» («дискурс капиталиста»), в котором $ и S1 меняются местами:
Дискурс капиталиста
↓ $ S2 ↓
S1 а
Так как место агента занимает расщепленный субъект ($), то к направлению в поисках истины он обращается к научному знанию (S2), которое университет непрерывно производит. В капиталистическом дискурсе мы сталкиваемся с извращенной ситуацией, когда расщепленный субъект на месте агента наделен (или его заставляют так думать) полномочиями, чтобы привести в движение продуктивное знание. Мы оказываемся в ситуации, когда расщепленный субъект ($) противостоит технократическому экспертному знанию (S2) напрямую, требуя немедленного удовлетворения желания, в том числе постоянного обновления продукта, в том числе путем его дискредитации (например, в результате конкуренции).
Как мы видим, дискурс университета и дискурс капиталиста следует читать как две взаимодополняющие социальные связи, демонстрирующие, как в современности Господин усиливает свою авторитарную власть, делая себя невидимым и, следовательно, неприступным. Однако расщепленный субъект, питая прежние иллюзии к университетскому дискурсу, понимает, что дискредитация Господина возможна исключительно путем дискредитации (не)знания, а разоблачение лжи влечет за собой неутолимую толику прибавочного наслаждения. Иначе говоря, в дискурсе капиталиста субъекта манипулятивным образом заставляют поверить, что дорога к истине всегда открыта через (экспертное) знание. Таким образом, происходит подчинение знания капиталу.

(Псевдо)парадокс дискредитации: от дискредитации к аккредитации истины
«Парадокс дискредитации» состоит в том, что дискедитирующий субъект производит вскрытую «посаженную за решетку» (псевдо)ложь, которую легко принять за (псевдо)истину. Всем известная притча о «Пастушке и волках» повествует о том, что ложь дискредитирует человека, в результате чего в его последующие истинные утверждения не верят. Философ Ю.А. Разинов, анализируя платоническую и хайдеггерианскую философию, выделяет три вида (модуса) ложного, схваченного греческими терминами λήθη («забвение»), ἀπάτη («обман») и ψεῦδος («заблуждение», в котором «мы имеем дело с определенным образом выявленным и дискредитированным ложным» (Разинов 2014, с. 87). Но стоит отметить, что заблуждаются не только по отношению к истине. В этом смысле стоит провести различие между дискредитованным ложным и дискредитованным истинным. В вышеприведенной притче ложное протекает сразу по трем модусам (пастушок совершает «обман», после которого следует «заблуждение» и «забвение») и обретает значение истины. Но чтобы истина стала истиной, она должна предстать как дискредитованная ложь (псевдоистина).
«Под воздействием имперско-государственного и имперско-церковного римского духа греческое ψεΰδος превращается на Западе в “ложное”, и в соответствии с этим истинное приобретает характер не-ложного (Nicht-Falsche)» (Хайдеггер 2009). В противовес западному ложному falsum Хайдеггер отмечает, что ψεῦδος раскрывается как «утаенное», «за-ставленное». Поэтому ψεῦδος оглашает, выпячивает истину (в т. ч. посредством лжи), словно вышивая ее белыми нитками правды. Поэтому ψεΰδος не следует понимать как ложное в смысле лжи.
В данном аспекте дискредитирующий производит в одном модусе ложь и истину. Здесь можно вспомнить высказывание Ж. Лакана о том, что всякая истина имеет структуру фикции (Лакан 2006, с. 21). Но когда фикция или фальш раскрывается, обнаруживается обман сокрытия, то истина получает свою истинность благодаря ψεΰδος. Чем дольше нечто остается дискредитированным, тем больше оно обретет истинность впоследствии. Дискредитация поможет не только отсрочить истину, но и сделать, подражая хайдеггерианскому языку, в-клад в нее. Обнаруженная дискредитация создаст гарант неизбежной реабилитации истины.
Выявленная дискредитация налагает на дискредитирующего субъекта признание вины и искупление долга. Философ Д. Батлер, рассуждая над ницшеанской концепцией «нечистой совести», отмечает, что «приписывание должнику моральной ответственности рационализирует желание заимодавца наказать должника» (Батлер 2002, с. 67). «Задолжавшего истину» дискредитирующего субъекта обязывают обрести кредит доверия путем наложения санкции или расправы. Таким образом, для обретения (экспроприации) доверия дискредитирущий должен пройти через институциональные аккредитирующие/аккредитационные процедуры (символическое очищение, публичные извинения и прочие практики признания).

Дискредитация VS интерпелляция
Во второй половине XX в. философ Луи Альтюссер отметил влияние, которое оказывают различные общественные институты на поддержание доминирующих идеологий. Альтюссер ввел термин «идеологические государственные аппараты» (ИГА), обозначающий те институты, которые навязывают системы господства идеологическими средствами, а не репрессивными (например, с помощью полиции, армии и т.д.). Эти институты, расположенные в коммуникационной, религиозной и культурной сферах, достигают своей цели укрепления доминирующих идеологий путем позиционирования индивидов в субъектности, которые служат доминирующим силам для воспроизводства условий производства. Этот процесс позиционирования индивидов Альтюссер назвал интерпелляцией.
Альтюссер считает, что идеология функционирует таким образом, что индивиды рекрутируются в субъектные позиции, то есть превращаются в субъекты через процесс интерпелляции. Его основной пример этого процесса – приветствие полицейского на улице: «Эй, вы там!» (Althusser 1995, p. 163). Когда полицейский окликает его, окликнутый индивид — это тот, кто, признавая в себе роль «вы», оборачивается, чтобы признать это окликание. Альтюссер утверждает, что люди редко пропускают эту интерпелляцию и что «тот, кого окликают, всегда понимает, что окликают действительно его» (Althusser 1995, p. 163). Альтюссер, представляя этот сценарий, устанавливает две важные фигуры. Первая – это субъект (тот, кого окликают) и вторая – объект (тот, от чьего имени окликают другого). В случае с полицейским, окликающим «Эй ты!», субъектом является Закон или государство через Закон. В этом примере субъект (при условии, что он обернется) признает, что он является субъектом закона, а значит, подчиняется закону. В терминах Альтюссера, он является субъектом через субъект и подчиненным субъекту.
В социально-философском смысле дискредитация – это то, что может осуществить диверсию (diversion от лат. diversio – отклонение, отвлечение) или субверсию (subversion от лат. subversio, букв. «ниспровержение») альтюссеровской «интерпелляции». В ее результате запрос/оклик власти на «гражданство» субъекта сталкивается с критическим сопротивлением /игнорированием последнего (не оборачиваться/ не слышать оклик). В этом отношении «критическое мышление» может подвергнуть субъекта институциональной травме со стороны репрессивных аппаратов государства и корпораций.
Если еще 5–10 лет назад предполагалось, что субъект, в логике «диджимодернизма» (Сафронов 2019) обречен на набор и производство текста, то сегодня социальная и культурная ситуация, произведенная внедрением ИИ, стала меняться. Высокотехнологичные разработки экспроприируют право человека «эпохи позднего капитализма» быть активным творцом и плести паутину интернета.
В то же время субъект, обреченный оставлять цифровые следы, становится всё больше уязвим для дискредитации, так как он в любой момент может стать дискредитирующим и дискредитированным одновременно.
Заключение
Цифровая эпоха связана с представительством субъекта в паутинах социальных сетей. Публичная сфера, как и сам субъект, с которой он взаимодействует сегодня, как никогда подвержена дискредитирующему влиянию со стороны её участников.
С процессом инкорпорирования технологий машинного обучения в различные сегменты нашей жизни креативные и антропологические возможности представителя современной культуры сегодня переносят качественные изменения, которые могут подвергнуться дискредитации. Опыт концептуализации, таким образом, показал, что с технологическим развитием общества субъект с разных сторон уязвим для дискредитаций, подрыва доверия к нему.
В связи с этим необходимо учитывать возможные риски и разрабатывать стратегии защиты и поддержания доверия к субъекту в цифровой эпохе. Кроме того, становится все более актуальной задача формирования культуры ответственного и этичного использования технологий, чтобы минимизировать негативные последствия и обеспечить устойчивое развитие общества. В противном случае обществу необходимо выработать стратегии аккредитации дискредитированных лиц.

About the authors

Pavel S. Vavilov

Author for correspondence.
Email: pavlinblin@gmail.com
ORCID iD: 0009-0006-9238-5535

Candidate of Sciences in Philosophy, Researcher at the Humanities Laboratory

References

Supplementary files