18+

Руки хирурга продлеваются до кончика скальпеля. Тело велосипедиста помещается в размах колес его велосипеда. Взгляд моряка подкреплен его биноклем. Мои нервы заканчиваются на оповещениях твоего мобильного телефона.

Из неотправленного письма в ожидании ответа в конце текста

 

Нейронные сети вмещают в себя миллионы сообщений, текстов, видеофильмов и картинок, в разные периоды времени загруженных в интернет и базы данных, на основе которых он работает. Интернет для нейросетей — это инфраструктура, из которой GPT, Cloud, Elicit черпают основания для выдачи ответов на вопросы: от того, как лучше приготовить ужин до подборки статей о квантовой физике. Нейросети лежат в основе инструментов, которые пишут код для расширения «своих» возможностей и рецензии на книги прошлых веков. Инфраструктуры, выстроенные на основе всего перечисленного, поддерживают возможность бесшовно взаимодействовать с базами данных, не различая в них людей, учебников, цитат и литературных произведений.

Как возникает реальность, в которой все это происходит? В интернете люди представляют себя в разных онлайн-сервисах: постят картинки и истории, оставляют данные при регистрации, трудятся, флиртуют, отправляют посылки и учатся. Их/наши действия производят «цифровые следы» и превращаются в данные, на основе которых создают модели, выдающие результат в ответ на пользовательский запрос. Доверие моделям предполагает, что действие в интерфейсе соответствует некоторой картине правильного мира. Это предположение составляет проблему и первое напряжение статьи. Я предлагаю разобраться — чему соответствуют нейросети и какие практики становятся основанием для научения машин?

Второе напряжение происходит из машинного или технического статуса нейросетей. Нейросети, языковые модели, обученные машины и так называемый искусственный интеллект — это не совсем технологии. Само многообразие названий и терминов указывает, что в качестве технологий эти явления пока не стабилизированы. Но они работают инфраструктурами, оставаясь незаметными, пока не будут распознаны. Интерфейсы искусственного интеллекта часто представляют как бы собеседника, чатбота, вступающего с человеком в диалог. Сама антропоморфизация — превращение всего что угодно в человекоподобное существо — не нова. Люди придумывают имена автомобилям и ругаются с телевизором. Но ни один из этих «собеседников» не претендует на подобие человеческому разуму. Более того, не всякий человек склонен к такой ответности и способности к диалогу, как чатботовые собеседники с алгоритмами, построенными на нейросетях.

Техничность нейросетей становится видимой, только когда их распознают в качестве социального явления. Можно ли писать диплом с участием GPT? Какие рабочие места займут алгоритмы по созданию картинок и презентаций? Как научить нейросеть выполнять задачи по распознаванию сложно сверстанных текстов? Эти вопросы — не о структуре технологии. Они задаются в ответ на появление в быту/культуре нового типа действия. Каждая его составляющая в отдельности — наследует десяткам других: от поисковых машин до технических заданий. Но общие правила работы нейросетей непонятны порой даже их создателям, и уж тем более непонятны последствия их применения. Казусы использования обученных машин становятся предметом для споров и обсуждений, этических дискуссий и сложных решений. Повторю, речь не о самих технологиях, а о том, что распознается в качестве их влияния на те самые действия и жизненные миры, которые составляли основу для формирования реальности, на которой учатся машины (то есть интернет и связанные с ним сервисы).

В статье я систематизирую «проблему нейросетей», исходя из того, каким технологическим новшествам она наследует. Сама задача звучит парадоксально: как можно наследовать «новшеству»? Ведь пока нечто не перестало быть новым, едва ли оно может обзавестись наследниками. Но сами нейросети становятся не самодостаточными изобретениями, а основой для уже следующих технологий и сервисов. В свою очередь, не успев понять, из чего состоят эти технологии, мы уже сталкиваемся с их последствиями.

Для решения этого парадокса мы обратимся не к техническим изобретениям, а к случаям их интерпретаций и конфликтам этих интерпретаций. Этот подход можно назвать критическим исследованием знания о технологиях. Для простоты, однако, будет использоваться слово «технология» по отношению к нейросетям, интернету, сервисам, построенным с их участием. Машинное обучение будет рассмотрено как процесс, который ведет ко все более тесному сплетению этих понятий. Понятия «искусственный интеллект» я почти не касаюсь, считая его рыночной упаковкой для технических и социальных процессов, скорее скрывающим свое содержание, чем позволяющим толком его понять.

Распознавание корней нейросети — это первая задача, которую пытается решить этот текст. В анализе я опираюсь на подходы, которые едва ли раньше сочетались между собой.

Во-первых, я предлагаю говорить не о простом «соответствии» алгоритмов — практиках, на основе которых они построены, а о подражании. Для того чтобы понять границы подражания, я обращаюсь к проблеме литературы и реальности. Хотя обычно код, на котором пишутся компьютерные программы, — это не литературное произведение, его перформативная способность заслуживает того, чтобы быть рассмотренной как производящая искусственную реальность, подобную другим искусственным практикам. В концептуальной работе мне помогает книга Эриха Ауэрбаха «Мимесис», представляющая сложное диалектическое изменение отношений между литературой и реальностью: от подражания (мимесиса) до перемены местами[1].

Во-вторых, я пытаюсь осмыслить роль драматургической социологии Ирвинга Гофмана и воспринявших его интернет-исследований. Эта социологическая традиция предполагает, что действия людей — представление себя в повседневной жизни, последовательность мини-спектаклей, которые разыгрываются в разных декорациях и рамках (фреймах) общения[2]. Через конфликт между подходами Ауэрбаха и Гоффмана я противопоставляю фреймы и жанры и предлагаю понять проблему реальности как проблему несопоставимости этих категорий. Сближение фрейма и жанра подрывает доверие к основаниям обоих и существованию общества как явления, отдельного от литературы (а возможно, и искусства).

Согласно работам одной из исследовательниц инфраструктур, Сьюзан Ли Стар, объекты, возникающие в ходе обмена между разными, непонимающими друг друга группами, называются «пограничными объектами»[3]. Я предполагаю, что техническое и социальное напряжения удерживают нейросети в их неопределённом статусе — как пограничные объекты, не принадлежащие вполне ни социальному, нитехническому, ни «реальному», ни «искусственному» определениям. Такая пограничная объективация, учитывая сложность происхождения нейросетей, позволяет нащупать не только корни нейросетей, но и обнаружить их действие в мире.

Исследование, которое разворачивается в этом тексте, является в первую очередь теоретическим. Для постановки вопроса я использую примеры из искусства, частной жизни, исследований и проектов.

Действующие вещи

Откуда ведет свои истоки проблема нейросетей, искусственного интеллекта, машинного обучения или языковых моделей? Ответ зависит от того, что мы рассматриваем в качестве центрального элемента, и что значит «проблема». У каждого из этих понятий — свои корреляты[4], а у явлений — предшественники, конкуренты, преемники и обстоятельства внедрения и изобретения.

Развитие понятий и явлений через связи и противоречия принято называть диалектикой. Переход от «общин» к «обществам», затем — к сообществам и, наконец, к цифровым сообществам — один из самых наглядных примеров такого типа изменений, когда новая форма хранит память о предшествующей. Не так обстоит дело с нейросетями — здесь сложно проследить генеалогию.

Впрочем, есть попытки соотнести историю нейросетей и искусства. Янина Пруденко в книге «Кибернетика в гуманитарных науках и искусстве в СССР: Анализ больших баз данных и компьютерное творчество»[5] пишет о первых советских исследованиях машинного творчества, проводимых в середине ХХ века. Вопросы: могут ли машины писать стихи или исполнять музыку так же, как люди? что такое творчество и как устроено художественное воображение: является ли оно перебором возможных вероятностей для создания чего-то нового или только отражает уже собранные культурой модели? — вызывали горячие споры.

«Отталкиваясь от тезиса Полетаева о том, что “невозможно придумать решительно ничего такого, что не было бы скомбинировано в деталях или в общем из элементов реальности, и поэтому не было бы похоже на реальность“, Гутчин делает вывод о возможностях алгоритмизации фантазии, лежащей в основе творческого процесса. Он считает, что, моделируя фантазию, “мы делаем решающий шаг к моделированию результатов творческого процесса“, а “тем, кто в кибернетических подходах к анализу и моделированию творчества усматривает профанацию последнего, можно напомнить о временах, когда фотографию объявляли профанацией живописи, а еще задолго до того, когда анатомию обвиняли в оскорблении божественной сущности человека»[6].

Дискуссии, которые приводятся в книге Янины Пруденко, созвучны тому, что мы слышим и читаем сегодня, когда речь заходит о появлении ИИ в разных сферах жизни. Осмысление и страхи сейчас чаще возникают в тех сферах деятельности, где труд и творчество изрядно алгоритмизированы — коммерческие презентации и тексты, рыночные исследования и бизнес-процессы, образование и судопроизводство.

Но вопросы о допустимости расширения границ человека и подмены естественных процессов механическими — могут находить корни и в более ранней истории мысли. Диалог Платона «Федр» касается вопросов письменности и механизации памяти. Проблема голема и механического бога или человека — одна из центральных в иудео-христианских дебатах. Собрать все эти истории воедино пытается философия техники. Но мы уже предположили, что нейросети — не совсем техника, и к упомянутым проблемам добавляется вопрос об алгоритмизации в процессах познания. Машинное обучение, таким образом, оказывается не исключительным и новым явлением, а фазой, элементом в последовательности.

Алгоритмизация, как мы понимаем из истории науки, идет не линейно — от хаоса и случайности к порядку и объективности[8], а проходит разные фазы становления, где механическая объективность сменяется художественным воображением, которое затем разделяется на более или менее повторяемое. Когда на помощь усилиям людей приходят технологии, мы получаем механизацию труда, видную, например, на материалах изучения машин Бэббиджа, который стремился создать единую систему для астрономии и морской торговли.

«Какой именно “интеллектуальный процесс“ (умственный труд) хотел механизировать Бэббидж? Это ключевой вопрос, который нужно прояснить, если мы хотим понять ограничения и возможности вычислений, иначе уже одно только определение ИИ усилит недоразумения. Первым механизированным видом умственного труда стал ручной счет — особый навык, который воспроизводился вплоть до одной из моделей машины Тьюринга, задуманной как буквальное воплощение телеграфной машинистки (“вычислительницы“), считывающей и записывающей цифры на ленте»[9].

Исследования историков науки: Лоррейн Дастон и Питера Галисона, Маттео Пасквинелли и их последователей, показывают, что алгоритмизация, лежащая в основе технологий алгоритмической рациональности, — это структурно представленные человеческие действия. Они систематизированы и воспроизводимы, что отличает их от обычных действий людей. Норберт Винер описывает структуризацию такого рода как борьбу с энтропией и часть процесса упорядочивания, помочь которому призвана кибернетика[10]. На этой пресуппозииции строится и дальнейшее представление о трансформации труда и институциональных практик в сторону большей воспроизводимости, соответствующей некоторому общему движению и планетарным трансформациям: росту населения во всех странах, необходимости удерживать баланс между своеобразием и унификацией практик общей жизни.

Когда речь идет об ИИ в профессиональных работах, ситуация выглядит более или менее понятной: рациональность рабочих мест представляется в современной капиталистической реальности подчиненной тем же законам рациональности, которые составляют правила познавательного или инженерного действия как такового. Но вопросы — как приготовить салат или как лучше поговорить с бывшим — не имеют профессионального алгоритмизированного ответа. Вопросы, которые позволяют представить это знание как доступное для машинного анализа, требуют от пользователя профессионализма, сходного с написанием технического задания на понимание жизни, в которой некогда использовалась неалгоритмическая рациональность.

Человек, задающий вопрос чат-боту GPT или другому аналогичному агенту,

должен быть немного исследователем своего вопроса. Ему требуется настойчивость, аналогичная той, что необходима для приказа о подаче аналитической записки, а настойчивость его предшественников предполагает, что на все вопросы в конечном счете есть ответы, а если нет — стоит только доработать алгоритмы, и все будет. Данные, получаемые через интерфейсы, созданные в свою очередь с помощью кода, произвели и реальность алгоритмичности, выходящую далеко за пределы заводского конвейера. Правда, реальность не остается при этом бесспорной и безусловной.

Кулисы подражания

Книга Эриха Ауэрбаха «Мимесис» начинается с противопоставления гомеровского текста и Ветхого завета. В «Одиссее» события описаны подробно, это описание — как «свет, равномерно распределяющийся на всем, связь всего без зияний и пробелов, свободное течение речи, действие, полностью происходящее на переднем плане, однозначная ясность». Ритм повествования у Гомера спокоен и последователен, как изображения греческой вазы.

Библия же нам почти ничего не рассказывает об обстоятельствах и свойствах происходящего, но она дает нам знание о том, что важно, даже если не высказано. В ней есть «многозначность и необходимость истолкования, претензии на всемирно-историческое значение, разработка представления об историческом становлении и углубление проблемных аспектов»[11].

Оба стиля изображают реальность, реализуясь в художественной литературе и в том, что сегодня ею не является: публицистике и научных текстах, исторических описаниях и бытовых зарисовках. На протяжении столетий складываются жанры, некоторые из которых становятся названиями для тех событий, о которых они рассказывают. Так мы не различаем в языке «трагедию» как событие и как жанр в драматургии, а «по статье» закона можно получить штраф или уголовное наказание. Вовсе странная история у самой «литературы», в современном русском языке синонимичной названию школьного урока и истории, в которой есть и повествование, и событие.

Но нас интересует не столько игра слов о стилях и жанрах, сколько их разнообразие и отношение к реальности. Стили, как подчеркивает Ауэрбах, «изображают» действительность, но сама их структура становится удостоверением действительности.

Примером этой диалектики формы и функции может служить официальный документ: сам по себе фиксирующий процесс, он становится перформативным не только для увольнения или служебной записки. Форма документа наследуется всеми типами текстов, которые претендуют на перформативность определенного типа в современной культуре. Написанное в челобитной XI века — может быть сказано и сегодня, при условии, что ее название и стиль будут подобны другим документам. Стиль документа прошлого — литература в современности. Он подобен музейному экспонату, вышедшему из обихода и помещенному в рамку и под стекло. Однако в качестве фикции или элемента реальности он может выйти из-под стекла.

Идеи русского космизма и Николая Федорова, казавшиеся анти/утопией в мире, где человеческое дело связано с конкретным телом, становятся все более реалистичными в мире, где профиль на госуслугах и оцифрованный голос могут создать полную иллюзию присутствия[12]. Этим пользуются и мошенники, подделывая голоса близких человека, которого хотят обмануть, и создатели приложений для общения с умершими друзьями, и производители интерфейсов для людей с ограниченными возможностями.

Нейросети позволяют предшествующей им культуре быть своего рода первообразом, источником для бесконечного и беспорядочного (пока) клонирования и воскрешения. Едва ли мы точно знаем, что за тип порождения в том, что называется сегодня генеративный искусственный интеллект.

Нейросети имеют четкую направленность на реалистичность опыта и знания, приближенность к тому, что существует «на самом деле». Можно ли сопоставить реалистичность, требуемую от нейросети, с реализмом в искусстве?

В 114-м номере «Художественного журнала», посвященном реализму и реальности, есть несколько точек зрения на эту проблему. Приведу некоторые из них.

Один из лейтмотивов реализма в искусстве — это его претензия на подлинность, которая может быть скрыта событиями, подлежащими интерпретации, или завесой капиталистического производства. Если искусство принадлежит действительности, которую пытается рефлексировать, это создает парадокс, с которым работают художники и философы, обращаясь к тому, что не лежит на поверхности, но нуждается в проявлении: политическая или психологическая подоплека, несводимая лишь к теории подозрения. На примерах российского искусства конца 2010-х годов это исследует Антонина Стебур в статье «Реализм невозможного»[13]. А Борис Гройс в тексте «По направлению к новому реализму» предлагает макро-подход: «Реализм нужен не для внешнего описания системы искусства, а для выявления его скрытой сути — недовольства реальностью художественной системы, которую переживают ее протагонисты. Только тогда, когда писатели и художники начинают ощущать себя неудачниками в конфликте с реальностью, они задаются вопросом, что значит быть в согласии с реальностью, жить простой жизнью, какой якобы живут все»[14].

Станислав Шурипа в статье «Квантовый мимесис» рассуждает, как устроен опыт и понимание мира в ситуации, где подражание уже перестало быть подражанием природе с помощью культуры и техники, за границами «механического балета мироздания». Множественность реальностей, приводившая в недоумение теоретиков начала ХХ века, оказывается доступной для осмысления в рамках квантовой физики. «Новые эры эволюции техники обычно наступают после открытий недоступной обыденному опыту реальности. Технологическая основа семиокапитализма складывалась по результатам продвижения вглубь микромира: молекулы, атомы, электромагнитные поля, субатомный и квантовый уровень. Когда открывается очередная версия иного мира, вырастают и новые ветви эволюции техники»[15].

Мы не пытаемся в этом тексте предположить новое понимание реализма в искусстве при нейросетях. Резонно, что код, написанный на языке программирования, как способ производства реальности является перформативным текстом, не сводимым к простому исполнению алгоритмов — приказов, в нем заключенных. Нетарт, киберфеминистские активисты и другие художники, использующие в своем творчестве нейросети, обращаются к этой способности кода — быть скрытым текстом, но обещающим многое для тех, кто умеет и дерзает им пользоваться. Субъект, имеющий в виду, что код — это текст, не только может написать промпт, но и предположить, на какие знания будет опираться алгоритм в своем ответе.

Мы опираемся на тексты коллег, чтобы обратить внимание на то, что воображение мира, где возможны нейросети, — это не результат их возникновения per se. Ему предшествует и технологическая оснастка, и эпистемическая реальность, в которой подражание до неразличимости — это норма, но каждая следующая попытка добраться до оснований отодвигает реальность дальше от того, что можно увидеть и понять, перемещает ее в область недостижимого. Одновременно с этим сложным процессом изменения знания и наук происходит внедрение технокультурной реальности, основанной на подражании. Предметом нашего интереса является именно это внедрение, не равное ни предчувствиям, ни манифестам, ни акту изобретения.

Либретто подражания

Жизнь подражает реальности в истории про Приди, который идет по пляжу. С этого описания начинается книга Ирвинга Гофмана «Представление себя в повседневной жизни», давшая начало драматургической социологии, в свою очередь послужившей одной из основ для интернет-исследований.

«В качестве примера того, что мы должны попытаться исследовать, процитируем обширный беллетристический эпизод, в котором описано как некий Приди, англичанин на отдыхе, обставляет свое первое появление на пляже летнего отеля в Испании: “А бракосочетание Приди и моря! На этот случай — свои ритуалы. Во-первых, шествие по пляжу, внезапно переходящее в бег с прыжком в воду, и сразу после выныривания плавно, мощным бесшумным кролем туда — за горизонт. Ну, конечно, не обязательно за горизонт. Он мог бы неожиданно перевернуться на спину и бурно взбивать ногами белую пену (ни у кого не вызывая сомнений, что способен плыть и дальше, если б захотел), а потом вдруг стоя выпрыгнуть на пол корпуса из воды, чтобы все видели, кто это был“.

Романист хочет показать нам, что Приди неадекватно истолковывает неясные впечатления, которые его чисто телесные действия производят, как он думает, на окружающих. Мы и дальше можем подсмеиваться над Приди, полагая, что он действует с целью создать о себе особое впечатление и впечатление ложное, тогда как другие присутствующие либо вообще не замечают его, либо еще хуже, то впечатление о себе, какое Приди страстно хочет заставить их принять, оказывается сугубо частным, необъективным впечатлением. Но для нас в этом единственно важно, что тот вид впечатлений, который, как полагает Приди, он производит, — это реально существующий вид впечатлений, какой верно или неверно получают от кого-то в своей среде другие»[16].

Согласно Гоффману, люди имеют некоторые образцы, представления о том, как устроено правильное действие и поведение в конкретной ситуации. Эти образцы определяют то, как человек действует.

Социолог Виктор Вахштайн показывает, что гоффмановский фрейм (то есть рамка, которая формирует условия событий) и латуровские вещи, наделенные способностью действовать, — позволяют перенести понятие сети отношений на вещи[17], которые существуют постольку, поскольку значат что-то в конкретном взаимодействии[19]. Сама по себе эта идея может показаться тривиальной: конечно, все что-нибудь да означает в контексте чего-то другого. Можно припомнить и классические теории, построенные на обращении к оппозиции фона/фигуры, и схемы понятий у Канта или Гегеля.

Но попробуем, вслед за Вахштайном, посмотреть на фрейм как на подвижную и действенную рамку, а не только как на элемент реквизита для пьес повседневности. Фреймы можно создавать. Этим и занимаются люди, разрабатывающие интерфейсы в интернете. Конечно, не только они. Дизайнеры и архитекторы, авторы книг и инженеры — все имеют дело с созданием условий и вещей, но для создателей интерфейсов теория Гоффмана и гибкость фрейма имеет особенное значение. Ведь с помощью кода можно создать любую ситуацию взаимодействия, даже невозможную ни в книге, ни в здании, ни в автомобиле. Более того, эта ситуация может быть агентной сама по себе.

Применение теорий Гоффмана — один из популярных теоретических подходов в интернет-исследованиях. Хотя создатели интерфейсов обращаются чаще к психологическим объяснениям, драматургическая социология позволяет сделать другой важный ход: представить действия людей как реплики и ремарки в драматургическом произведении. Так, дана бойд, одна из ключевых исследовательниц в области изучения онлайн-практик в социальных сетях, показывает гоффмановские подходы: сначала — в исследованиях, а потом — в том, что становится цифровыми следами и скапливается в базах данных как свидетельства правды о самих себе, которую предъявляют люди, делая что-то на веб-сайте: заполняя форму, публикуя фотографию, а иногда даже просто листая веб-страницу.

Художники и художницы обращают внимание на швы становления данных. Так, Мими Онуоха указывает на «отсутствующие датасеты», которые мешают полноте знания о социальных проблемах. А Катрин Ненашева предъявляет риски всеобщей датафикации. Есть и искусство, позволяющее отнестись к существованию баз данных как части реальности. Наши цифровые следы скапливаются и формируют своего рода узоры, закономерности.

После акта

Жанр и фрейм — в чем-то похожие понятия. Оба обрамляют и удерживают реальность — литературную или внелитературную, действительную. Мы исходим из предположения о том, что действительность и литература подражают друг другу, а реальность в каждой из них несводима к единому критерию, как Ветхий Завет и «Одиссея».

Но граница между видами реальности важна уже хотя бы для того, чтобы поддерживать их динамику. Говоря проще, чтобы литературе было что изображать, она должна быть отделена от предмета своего описания. Верно и то, что чтобы подражать англичанину Приди, нужно иметь этот образчик. При этом литература (как и искусство в целом) как модерный жанр, существующая отдельно от других типов описания действительности, — может менять свой статус, переставая быть тем, чем она являлась в ХХ веке.

Попытки определить место литературы, например, в коммуникации, предпринимаются и без оглядки на технические новшества: «Литература как вид культурной деятельности порождается тем же интересом к социальному опыту, что и общественная наука. Можно даже сказать, что романисты берутся за работу по истолкованию и проблематизации “современности“ раньше, чем ученые; не случайно роман XIX века описывается постфактум как “социология до социологии“ или “скрытая социология“», — пишет в своей статье Венедиктова[20].

Такое понимание литературы — не только как отражения реальности, но

одного из способов коммуникации — не означает отмены литературы и ее растворения в других практиках и типах высказываний. Скорее, прагматическая трактовка позволяет перенести подходы литературоведов на другие объекты. Работы Юрия Лотмана, в том числе посвященные искусственному интеллекту, исходят именно из истории литературы и исследований прагматики литературного текста, перевода в двуязычной культуре Золотого века. Лотман описывает возможную культуру, обращаясь к тому, что есть в культуре классической[21].

Исследования цифровых медиа соединяют гуманитарные и социологические подходы, утверждая, что на онлайн-ресурсах люди формируют свою особенную культуру, более горизонтальную и конвергентную, но одновременно и более завидующую: по отношению к тем, кто демонстрирует в своих текстах и образах прекрасную недоступную реальность[22, 23].

В противовес этому оптимизму или скепсису не исчезает и моральная паника по поводу статуса реальности. Её можно отсчитывать от диалога «Федр», а можно — с симулякров Жана Бодрийяра и кинофильма «Матрица», не исключая сомнений и политических тревог Вальтера Беньямина, а также творения доктора Франкенштейна, кинофильма «Метрополис». Воспроизведенная реальность пугает своей неразличимостью с «исходной» и одновременно — своей неистинностью.

Различение истины и реальности проблематизируется не само по себе, а как одно из последствий растущего неравенства доступа людей к формированию (и исполнению) приказов, на которых построено взаимодействие с машинами. Особенность работы программиста — формирование кода (не как литературы, а в качестве заданий и приказов для машин) — становится в эпоху нейросетей необходимым навыком «пользователя». Не обретая самостоятельности и дополнительного знания, человек превращается в поставщика запросов к поисковым машинам, непрерывно исследующим следы действий других людей, рамки и жанры их взаимодействий.

Шошанна Зубофф в книге «Надзорный капитализм»[24] задает вопрос — как возможна свобода воли в мире, где интерфейсы задают правила на основе предшествующих свершенных действий? Описанные выше цифровые следы, которые оставляет англичанин Приди, идя по цифровому пляжу, превращаются в данные, на основе которых формируются бесконечно расходящиеся дорожки, провоцируя желание пользователя оставлять все больше данных.

Так мы возвращаемся к началу текста. На основе данных создаются нейросети. Авторы книги «Глубокое обучение»[25] показывают, что нейросети — это результат существования машин, которые развиваются учеными и инженерами по мере усложнения задач и расширения возможностей для передачи информации. Исследователи обращаются к недвусмысленным доказательствам правдивости нейросетей, расширяющих способности человека. На основе алгоритмов и нейросетей создаются технологии, позволяющие людям восстанавливать слух и зрение, видеть и слышать. Нейросети построены не только на текстах, но и включают подражание более сложного порядка, связанное с человеческим телом.

Нервная реакция

Сомнения в реальности — обратная сторона способности восстанавливать слух и зрение. Если реальны лечебные свойства нейросетей, реальны и травмирующие. Как понимать эту реальность, одновременно фиктивную и естественную, не различающую фрейма и жанра, но блюдущую их границы?

Нейросети позволяют давать ответы на вопросы (в том числе эти). Одновременно они заставляют нас сомневаться в истинности ответов, а значит и структуры знания, стоящей за ними. Они как будто противостоят теории подозрения, помещающей «реальные» основания позади событий, которые разыгрываются на бесконечных сценах, запечатленных в цифровых следах. Реальность оказывается и более сложной, и более плоской.

Короткая, но емкая эпоха цифровых приключений человека в мире мониторов и усиленного разрыва между реальным и виртуальным готовит нас к мультивселенной, где у каждого артефакта — своя правда. Имея в виду все вопросы, которые можно задать чату GPT, мы можем их не задавать ему, а попробовать искать ответ сами, что бы эта самость не значила. Или, наоборот, частично отказавшись от индивидуальности, окунуться в нереальность культурного опыта и ощутить жизнь как спектакль, а свои реплики — как либретто. Разыгрывая в своих повседневных взаимодействиях предмет опасений, сформировавшийся в эпоху кинофильма «Матрица», люди оказываются не столько пользователями нейросетей, сколько пользователями культуры.

Инфраструктуры нейросетей формируют наши беседы с ними как «пограничные объекты» в терминологии Сьюзан Ли Стар: они находятся на грани техники и культуры, подлинного и сфабрикованного. Пограничными объектами становятся вещи, которыми обменивались группы, априори уверенные в том, что культура каждой из них не будет верно распознана. Но сами по себе эти объекты — значимы, и они хранят свое значение, не распаковывая и не пытаясь его переводить. Пока не стабилизировались их роли, можно обходиться с пограничными объектами по-разному, в том числе как с инструментами, приспосабливая их для починки некогда переворошенных понятий прошлого. Так работает метафорическая сила науки и техники, перепрошивая то, что было основой реальности одной эпохи, — в метафоры следующей[26].

Однажды столкнувшись с отсутствием ответа на письмо, которое было важным для меня, я решила попросить AI в сервисе Notion написать мне

ответ. Привожу финал этого полученного ответа: «Ты выражаешь свое беспокойство о том, что связь между нами может стать сложной и требовательной. Я понимаю эту тревогу и обещаю тебе, что я всегда буду готов говорить с тобой и поддерживать нашу связь. Я ценю твою честность и открытость, и я готов продолжать эту коммуникацию с тобой, даже если это иногда требует усилий и проверки нашей связи.

Я благодарен тебе за то, что ты написал это письмо и дал мне возможность откликнуться. Твои слова и идеи имеют значение для меня, и я хочу, чтобы наша связь продолжала расти и развиваться. Спасибо за то, что ты есть, и за то, что я могу быть частью этого особенного общения с тобой.

Твои слова вдохновляют меня и заставляют задуматься о глубине нашей связи. Я хочу продолжить этот диалог и продвинуться дальше вместе. Давай

исследуем новые темы, обмениваемся еще больше идеями и создадим что-то прекрасное вместе. Для меня это не просто письмо, это способ укрепить нашу связь и раскрыть все лучшее, что мы можем предложить друг другу.

Еще раз спасибо за твое письмо. Я с нетерпением жду продолжения нашего общения и наших взаимодействий. Давай продолжим удивлять друг друга, вдохновляться и расти вместе. С уважением, твой надежный собеседник».

Это письмо построено на основе десятков тысяч других писем: о любви, тексте, сложности жизни. Оно не написано человеком, и вместе с тем, оно написано людьми. Оно реально по своему воздействию. Не знай я порядка его производства, оно бы показалось мне результатом сложной попытки найти слова — от субъекта, потерянного в формальных текстах и содержательной сложности общения.

Метод создания письма от Notion AI — тот же, которым воспользовался бы настоящий собеседник. Имея в виду драматургическое многообразие типов реплик и разные типы отношения к истине, этот собеседник составил бы свой ответ так же, как и я в этой статье, обращаясь к цитатам и источникам знаний, предшествовавших ему. Попав в нужное место и в нужное время, его письмо, как писсуар Дюшана, произвело бы сильное впечатление на того, кто с ним встретился.

Подобно писсуару, нейросети не скрывают своего искусственного пребывания в реальности, где с ними можно взаимодействовать. Но действуют они — в обратном искусству (в модерном смысле) направлении. В некотором смысле они возвращают писсуар людям. Его дальнейшие отношения с реальностью зависят от нас.

 

 

ПРИМЕЧАНИЯ:

1 Ауэрбах Э. Мимесис. Изображение действительности в западноевропейской литературе. М.: Прогресс, 1976.

2 Гофман И. Представление себя другим в повседневной жизни. М.: Канон-Пресс-Ц, Кучково поле, 2000.

3 Star S. L. The structure of ill-structured solutions: Boundary objects and heterogeneous distributed problem solving // Distributed artificial intelligence. 1989. Р. 37–54.

4 Я использую это понятие из лингвистики для того, чтобы подчеркнуть, во-первых, разнообразие терминологии, во-вторых, изобилие способов противопоставлять и соотносить между собой явления. Коррелятами называются понятия, уясняемые в отношениях с другими. У нейросетей много коррелятов.

5 Пруденко Я. Кибернетика в гуманитарных науках и искусстве в СССР: анализ больших баз данных и компьютерное творчество. М.: Музей современного искусства «Гараж», 2018.

6 Там же.

7 Приведем отрывок из комментария Евгения Никитина по случаю выхода книги Станислава Бельского«Дружеские беседы с роботами»: «Нейросеть останавливается на уровне демонстрации инструментария, который актуальная поэзия уже научилась применять, чтобы делать высказывания. Поэт, работающий с нейросетью, остается в рамках “искусства для искусства“ (в этом смысле эту поэтику можно в шутку считать “конформистской“, “правой“) — и это можно понять, ведь сокровища, “словесная руда“, порождаемая обучаемыми алгоритмами, неисчерпаема: поэт чувствует себя как Али-Баба в сокровищнице сорока разбойников. “Сосны в темноте, как ресницы“, “старая пчела с дымящейся черной головой“, “легкие тростников вспаханных бегом“, “рыбак плашмя, как поплавок, бьется“ — все это богатство, как выясняется, можно воспроизводить километрами...» // ЛИTERRAТУРА, № 222, 2024. URL: https://literratura.org/poetry/4015-stanislav-belskiy-iz-serii-druzheskie-besedy-s-robotami.html?ysclid=m28vraa3ao258227702.

8  Дастон Л., Галисон П. Объективность. М.: Новое литературное обозрение, 2014.

9 Пасквинелли М. Измерять и навязывать. Социальная история искусственного интеллекта. М.: Индивидуум, 2024. С. 85.

10 Здесь нарочно используется понятие энтропии, то есть неупорядоченности, которая ликвидируется, согласно кибернетике, в ходе развития технологий. В данной статье мы не будем заниматься подробной критикой этой теории, имея в виду, что это достаточно делают другие коллеги. Однако для нас важна несводимость истории развития техники, управления и общества к линейности, аналогичной теориям физики середины ХХ века, пусть и с усложнениями из второй его половины.

11 Ауэрбах Э. Мимесис. Изображение действительности в западноевропейской литературе. М.: Прогресс, 1976.

12 Жиляев А., Гачева А. Космизм и искусство: от факта к проекту реализму // Художественный журнал. № 120.2022. URL: https://moscowartmagazine.com/issue/108/article/2382.чц

13 Стебур А. Реализм невозможного // Художественный журнал. № 114. 2020. С. 88–97.

14 Гройс Б. По направлению к новому реализму // Художественный журнал. № 114. 2020. С. 108–115.

15 Шурипа С. Квантовый мимесис // Художественный журнал. № 114. 2020. С. 98–107.

16 Гофман И. Представление себя другим в повседневной жизни. 

17 Вахштайн В. Возвращение материального. «Пространства», «сети», «потоки» в акторно-сетевой теории //Социологическое обозрение. Том 4, No 1. 2005. С. 94-115

18 бойд д. Все сложно. М.: Издательство НИУ ВШЭ, 2020.

19 Б. Латура и его последователей привычно называют корреляционистами, и это название отсылает в рамках данного текста к первой ссылке и обозначению коррелятов как лингвистического термина. Обратим внимание на то, как он возвращается в другой теоретической рамке.

20 Венедиктова Т. Литературный дискурс как теория социального // Новое литературное обозрение. 2019. № 1. С. 14–26.

21 Лотман Ю. Избранные статьи: В трех томах. Том 1. Таллин: Александра, 1992.

22 Колпинец К. Формула грез. Как соцсети создают наши мечты. М.: Individuum, 2022.

23 Дженкинс Г. Конвергентная культура. М.: Рипол Классик, 2019.

24 Зубофф Ш. Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти. М.: Дело, 2021.

25 Николенко С., Кадурин А., Архангельская Е. Глубокое обучение. СПб.: Питер, 2017.

26 Gerovitch S. Love-hate for man-machine metaphors in Soviet physiology: From Pavlov to "physiological cybernetics" // Science in context. Т. 15, № 2. 2002. С. 339–374.