18+

Формально в «искусственном интеллекте» (ИИ) нет проблемы как в технической системе, которая обрабатывает большие объемы разноплановых данных и выдает оценку или экспертное заключение по тому или иному запросу. Чем дальше развиваются технологии, тем больше данных возможно охватывать и тем быстрее они обрабатываются; процесс оптимизируется также благодаря тому, что приблизительно с середины 2010-х применяется так называемое «машинное обучение». Проблемы, как представляется, начинаются тогда, когда с ИИ смешивается «человеческое» — прежде всего, желание передать машине (или системе, или техническому устройству) на откуп то, что она по техническим параметрам не в состоянии выполнить (например, если в данный момент для этого не построена вычислительная модель), и снять с себя ответственность в случае сбоя, а порой и отказаться от всякого хоть сколько-нибудь «нерасчетливого» (мы могли бы написать «рандомного», или «девиантного», или даже «свободного») действия уже загодя. Например, можно использовать платформы для аналитики рынка, которые объединяют статистические вычисления с большими данными и обработкой естественного языка, когда системы машинного обучения используют данные различных источников в интернете, в том числе в социальных сетях, и оценивают корреляции между мировыми событиями и их влиянием на цены финансовых активов. Но не следует забывать, что множество параметров изначально не учитываются этими платформами, поэтому их предсказания носят ограниченный характер. Соответственно, если выйти за рамки языка описания, связанного с вычислениями, и использовать слова типа «производство знания», «интеллект», «предсказание» и даже «информация», проблемы множатся в геометрической прогрессии. А если распространять обсуждение и на биологические процессы — споры приобретают неразрешимый характер. Споры эти идут с 1950-х годов, когда К. Шеннон и Н. Винер высказали идею о безразличии «материала» для информационных технологий — поведение биологической системы, как они полагали, можно вычислить так же, как и поведение математической модели. 

При более внимательном рассмотрении выясняется, что не все так однозначно. С одной стороны, сторонники так называемого «компьютационизма» утверждают, что «все меньше остается областей когнитивной и интеллектуальной деятельности, которые невозможно было бы представить в виде компьютерной модели». То есть не будет большим преувеличением утверждение: «Чего не могут машины (в когнитивном или интеллектуальном поле), того не может и человек, но не наоборот»[1]. Они отмечают также, что статья М. Рескорлы «Вычислительная теория сознания» в Стэнфордской энциклопедии не редактировалась с 2017 года, что является свидетельством уже мало кем оспариваемого развития ИИ. С другой стороны, сторонники компьютационализма подчеркивают, что вычисление как таковое — это, безусловно, ограничение, и вычислительное объяснение представляет собой особый род механистического объяснения, которое применимо к системам, манипулирующим символами состояний, при соблюдении соответствующих правил[2]. Соответственно, все ограничения вычислительных подходов в основании имеют уровни сложности объектов (на которые они направлены), которые всегда будут сложнее, чем их вычислительные модели, так как их сложность увеличивается при применении к ним вычислительных моделей. Неустранимость этих ограничений и отчетливое стремление избавиться от возможной «зачарованности» «соотношением математики и природы», которую они диагностируют, скажем, у Я. Хакинга[3], приводят их к заключению, что наработки последних лет по проблеме компьютационализма в качестве объекта исследования полагают не столько «объекты» или «процессы» — рациональные свойства ума (mind), феноменальное сознание (consciousness) или когнитивные процессы, — сколько системы непротиворечивых описаний перечисленных объектов в рамках тех или иных методологических правил. Поэтому, несмотря на очевидную необходимость построения онтологической модели, которая как раз и говорила бы о соотношении математики и природы, в настоящий момент им представляется более точным или простым говорить о «словоупотреблении», чем о «месте перехода» количества данных и параметров в качество получаемых ответов.

Если вспомнить немного истории и сравнить сегодняшние страхи по поводу ИИ с энтузиазмом 1950-х годов, когда информационная теория раскручивалась и набирала обороты, можно обнаружить некоторые параллели, особенно в проблематизации переноса моделей, сформулированных в одной дисциплине, на материалы других наук. Маккарти в 1956 году писал: «Проблема состоит в том, что пока мы не можем в целом определить, какие вычислительные процедуры мы хотим называть интеллектуальными. Мы понимаем некоторые механизмы интеллекта и не понимаем остальные. Поэтому под интеллектом в пределах этой науки подразумевается только вычислительная составляющая способности достигать целей в мире». Д. Брэй в 2015 году подробно описывает ограничения вычислительных методов в биологических исследованиях (причем не для высших мозговых функций, а в отношении простейшей реакции на внешнюю информацию кишечной палочки): «Существует определенный уровень молекулярной неопределенности, в частности отвечающий за тонкую настройку и адаптацию к множеству внешних условий, который мы в настоящее время не можем разрешить или воспроизвести на компьютере. Даже для этого относительно простого процесса мы не можем выявить все гены, влияющие на его работу. Мы также не можем сказать, как регулируются эти гены для каждого мыслимого условия окружающей среды. У нас мало надежды просчитать все комбинации модификаций белков, присутствующих в клетке в любой момент времени»[4].

Биологические системы — это своего рода воплощенная «зона перехода» «между математикой и природой», которая очевидным образом демонстрирует уклонение или даже сопротивление математической предсказуемости и просчитываемости. К настоящему моменту существует уже достаточно обширная литература о происходящих, начиная с 1950-х годов, под влиянием кибернетики, теории информации и компьютинга, процессах в биологии. Авторы исследований прослеживают, как понятия, принадлежавшие набиравшему обороты «дискурсу информации», вытесняли понятия, циркулировавшие в довоенной биологии, притом, что первые описывали ситуацию скорее метафорически, чем строго научно. Не секрет, что компьютерная «нейросеть» — это не то же самое, что нейронная сеть биологического организма; «память компьютера» — это даже не «третичная память» Б. Стиглера[5], которая еще имела связь с областью человеческого, пусть и только негативную; искусственный интеллект — не то же самое, что интеллект биологического организма, который способен к построению инференциальных связей на основе опыта при минимальном наборе данных, что для систем ИИ — пока недостижимый уровень[6].

Со всей остротой эти вопросы встают в связи с еще одной метафорой, а именно — «генетическим кодом». Над проблемой расшифровки и «взламывания» этого кода бились так долго и так много представителей физики, математики, теории информации, криптоанализа, лингвистики и компьютерных наук потому, что, строго говоря, технически это не код. Скорее, это таблица соответствий, далекая от систематичности и предсказательного потенциала периодической таблицы Д. И. Менделеева, учитывая случайный характер, дегенерацию и ряд двусмысленностей в структуре так называемого генетического кода. А если принимать во внимание зависимость ДНК от генетической, клеточной, средовой и других сложностей, то биологическим значением молекулярного синтаксиса, дополнительным информационному, практически невозможно пренебречь. Если проблематизируется «контекст» (то есть то, что является внешним и внутренним для системы) и эпигенетические сети включаются в анализ, динамические процессы связи генотипа и фенотипа становятся чрезвычайно сложными, и генетические «сообщения» следует читать не как инструкцию, а во всей их избыточной полисемии и двусмысленностях, учитывая все биологические нюансы.

Специалисты по теории информации, криптологи, лингвисты и биологи критиковали перенос понятий из теории информации в область молекулярной биологии, утверждая, что основные параметры (сигнал, шум, сообщение, канал) не определены в отношении генома; ДНК — не язык, поскольку здесь отсутствуют фонемы, семантика, знаки препинания, ограничения в отношении символов, а потому «буквенный» анализ аминокислот обнаруживает только рандомное распределение. Однако, несмотря на то, что представление генома через понятия теории информации не выдерживало критики, оно продолжало распространяться. Метафорическое употребление этой терминологии, казалось, позволяет раскрыть такое богатство синхронических и диахронических связей — что явно вписывалось в то, что Д. Боно назвал «культурной поэтикой науки»[7]. Убедительные в качестве аналогий, «информация», «язык», «текст», «код» оказывались онтологически нагруженными. То есть налицо те же проблемы «словоупотребления» и соотношения моделей и природы, о которых речь шла выше.

Так, один из влиятельных сторонников информационного подхода в биологии К. Везе (C. Woese) описывал в книге «Генетический код» (1967) два типа «информационных молекул», ДНК и РНК, которые следуют правилам процессинга информации; представлялось, что в клетке работает программа, аналогичная компьютерной, направленная на достижение цели и саморегулирующаяся. Сравнивая генетический код с компьютерной программой, Ф. Жако предлагала считать, что «механизм наследования функционирует как память компьютера: органы, клетки и молекулы объединяются сетью коммуникации»[8]. 

Основанная прежде всего на изучении бактерий и вирусов, эта схема рассматривалась тем не менее как универсальный код, который предполагалось применять практически ко всему на планете. Через расшифровку и перевод он связывал механизмы генетической мутации и регуляции с синтезом белка и нуклеиновых кислот, наводя мосты между молекулярной генетикой и биохимией, а «генетическая информация» способствовала дискурсивному сближению этих ранее далеких областей исследования. Описываемый не только в специальной литературе, но и на страницах журнала «Time», генетический код давал  надежду на возможность зарождения генной инженерии еще до появления технологии рекомбинантных ДНК в 1970-е. 

Чем объяснить это распространение очевидно непригодных моделей описания? И даже возникновения из «словоупотребления» целого дискурса, по мнению некоторых исследователей, настолько разошедшегося, что теперь гены связываются только с переносом информации и более ни с чем? Такие исследователи науки, как Л. Кэй, полагают, что и сложение этого дискурса, превзошедшего уровень метафор и давно воспринимаемого как собрание непреложных фактов, и огромные бюджеты, которые выделялись на «расшифровку» генетического кода, говорят об очередном проявлении биовласти — на этот раз власти над генетической информацией, материальном контроле над формами существования посредством контроля над их «логосом» — словами-последовательностями ДНК. 

В пользу этого объяснения говорит «незаметность» этих «переросших» метафор, вплетенность связываемых с ними технологий в рутину повседневного существования. Вскрывая механизмы осуществления власти, М. Фуко, на работы которого в этой перспективе невозможно не сослаться, показывал, как управление делалось все более изощренным и все менее видимым, от бросающихся в глаза знаков концентрированной королевской власти переходя к расставленным буквально на каждом метре камерам слежения. Сегодня множество приложений искусственного интеллекта также не воспринимаются как искусственный интеллект: «Многие передовые разработки искусственного интеллекта проникли в общие приложения, часто не называясь искусственным интеллектом, потому что как только что-то становится достаточно полезным и достаточно распространенным, это больше не называют искусственным интеллектом»[9].

Однако Фуко, как известно, выстраивал свою теорию дискурса в исторической перспективе — на материале тех высказываний, которые были зафиксированы некоторое время назад. И мы вынуждены задать вопрос: как трансформируется объяснение, если его историчность смешивается? Она не уходит совсем, но больше не является линейной, более того — даже собственную множественность переводит на какой-то другой уровень, между прочим, благодаря технологическому развитию, которое все-таки не было предметом изучения Фуко. Монтажи, которые с блеском осуществлял медиатеоретик Ф. Киттлер, возможность почти буквально «связывать все со всем» через сети, поисковые системы и множество платформ — это широта, плохо обозримая для строгого исследователя, на место которого готов, видимо, заступить эксперт, выдающий мнение на основании результата компьютерного анализа больших данных, проделанного ИИ, за объективно рассчитанный факт. Да и складываются ли эти мириады данных в архив? Или то, что мы наблюдаем, есть лишь рассеивание?

Кроме того, есть подозрение, что и дискурс биовласти меняется в том отношении, что меняется основание его привязки, если угодно, его биологическая или постбиологическая часть. Вбросив термин «биовласть»,

Фуко не успел предложить его детальной проработки. Можно догадываться, что ему казалось очевидным, как власть в своем распространении все более интериоризируется, все менее выступая фактором внешнего воздействия, внедряясь уже непосредственно на уровне телесной биологии. С одной стороны, формально-логически зона расшифровки генетического «кода» подходит для раскрытия понятийного содержания термина «биовласть»: предпринимаемая расшифровка не делается в рамках «чистой науки» или ради знания как такового, но с практическими целями перекодировки и всей той работы, которая может вестись уже и на этом микроуровне. С другой стороны, здесь же может скрываться очаг возможного сопротивления, некоего некотнтролируемого «бактериального перформанса»[10]. Десятки работ из области неоднозначного science art — среди прочего об этом.

Однако мы бы хотели привести здесь пример из области искусства, обращающегося к ИИ, но не работающего с «биологическим материалом» прямо, а, скорее, использующего наши представления о нем — и о себе. Речь о знаменитой серии «Content Aware Studies» Егора Крафта. Выставленные в классическом пространстве «черного куба», белые мраморные головы производят завораживающий эффект. Техническое описание достаточно сухо: оцифрованные изображения классических скульптур из коллекций ведущих мировых музеев, включая музей им. А. С. Пушкина, в количестве около десяти тысяч были загружены в компьютер и обработаны специальным алгоритмом, а затем отпечатаны на 3D-принтере. Художник не первый раз совершает этот жест, соединяя эфемерность превращений цифрового кода, визуализируемых генеративным искусством, и эталонность мрамора, делающего все выполненное в нем непреложным фактом. Однако здесь сочетание новейших технологий цифрового монтажа, обработки big data и 3D-печати с образцами античного искусства вызывает неожиданный эффект, головокружительный настолько, что смещается практически все — от представлений об истории, наследии и памяти до физиологических ощущений. Симулируя реставрацию произведения искусства, созданного тысячи лет назад, художник предлагает зрителям увидеть не просто его полную версию —  оно могло быть в момент завершения работы скульптором и каким его видели его современники, до того как время нанесло ему ущерб, отколов фрагменты, но версию слишком полную, в прямом смысле «дополненную» ИИ, версию, невозможную для человеческого восприятия — и, тем не менее, вот она, перед глазами, да еще из мрамора. Похожая на что-то известное, и одновременно не похожая ни на что.

Чтобы подобраться к объяснению этого эффекта, еще раз вернемся к концу 1950-х, полных энтузиазмав связи с распространением информационного подхода, приведшего в том числе к исследованиям в области ИИ, и сравним это настроение с нынешним, тоже поворотным этапом в развитии технологий обработки данных и возможностей прогнозирования. Опасения, страхи и тревоги — вот чем, пожалуй, характеризуется нынешнее состояние. Было бы слишком просто заявить, что тогдашний энтузиазм носил более общий характер, не только технологический, и объяснялся завершением мировой войны, а нынешнее состояние — распространением глубокого кризиса, последствия которого не берется предсказать ни один эксперт. Сложнее, как представляется, описать связь человеческого и технического, своеобразную для каждой эпохи. Раньше можно было говорить о «психологии», относя на ее счет страхи, тревоги, шок (например, от столкновения с новым типом «медиа», о котором еще в 1960-е писал М. Маклюэн) — но и энтузиазм, который, если следовать античной этимологии, является видом одержимости. Сегодня, кажется, более очевидно, что техника затрагивает что-то глубинное в нас, что-то неассимилируемое, что-то, что остается, когда проходит шок.

Соответственно, подбирая из разных арсеналов слова, которые могли бы описать состояние зрителя «Content Aware Studies», мы бы остановились на «жутком», unheimlich, но с указанными оговорками, то есть не отбрасывали бы себя назад, в бездну по-фрейдовски пугающего бесформенного, но осознавая планетарный масштаб происходящего, где места, в котором было бы heimlich, «уютно», еще почти ни у кого нет.

 

 

ПРИМЕЧАНИЯ

1 Барышников П. «Языковой барьер» в теориях сознания и ограничения вычислительного подхода // Философский журнал. Т. 17, № 2. 2024. С. 126. 

2 Piccinini G. Physical computation: a mechanistic account. Oxford, 2015. P. 275.

3 Хакинг Я. Почему вообще существует философия математики? М.: Канон+, 2020.

4 Bray D. Limits of computational biology // Silico Biology. Vol. 12, № 1 (2). 2015. P. 1–7. Ср.: Барышников П.Языковой барьер. С. 128.

5 Б. Стиглер в своем трехтомнике «Техника и время» ввел понятие «третичной памяти» как памяти, вынесенной вовне, лишающей человека базовых для него операций сознания, понятых прежде всего феноменологически.

6 Ср.: Барышников П. Языковой барьер. С. 125.

7 Bono J. Science, Discourse, and Literature: The Role/Rule of Metaphor in Science // Literature and Science: Theory and Practice. Boston: Norcheastern University Press, 1990. Р. 59–90. 

8 Jacob F. The Logic of Life: A History of Heredity. New York: Pantheon Books, 1974. Р. 1, 254. 

9 Kaplan А., Haenlein М. Siri, Siri, in my hand: Who’s the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence // Business Horizons. № 62. 2018. Р. 15–25.

10 Различные аспекты обсуждаются в специальном номере журнала «Performance Research» обисследованиях перформанса в многообразных его проявлениях. См.: Hauser J., Strecker L. On microperformativity // Performance Research. 2019. URL:https://www.tandfonline.com/doi/pdf/10.1080/13528165.2020.1807739.