18+

Цель настоящего текста двояка. Во-первых, в нем задан конкретный вопрос: как понимать глаголы «подражать» («имитировать») или «моделировать», когда нам говорят, что последние разработки и достижения кибернетики и искусственного интеллекта позволяют технологиям «имитировать» или «моделировать» биологический мозг, а точнее, его эпигенетические возможности? С другой стороны, в тексте этот вопрос рассматривается в более общем контексте, а именно в контексте моей собственной философской траектории, или, по крайней мере, той ее части, которая началась с моей первой книги о мозге «Что нам делать с нашим мозгом?» (2004)[1] и недавно продолжилась в книге «Трансформируя интеллект: от измерения IQ до искусственного мозга » (2019)[2]. Я перечисляю основные этапы этой траектории не в качестве реакции на некие нарциссические тенденции, а чтобы указать на постоянные попытки найти точное значение термина «подражание» («имитация»), когда речь идет о взаимоотношениях между естественным и искусственным. Чтобы как-то охарактеризовать такие отношения, следует сказать, что старое, платоническое понятие «мимесис» больше нерелевантно, поскольку сводит подражание (имитацию) или моделирование к простому акту копирования. Искуственный интеллект не «копирует» мозг, что при этом не означает, что мозг не имитируем. Выход из этой апории, если он вообще возможен, уже стоил мне и продолжает требовать от меня больших усилий. 

Позвольте мне сначала подробнее остановиться на эпигенетике и на том, что современные нейробиологи называют эпигенетическим поворотом в истории неврологии. Затем я расскажу о нескольких последних технологических достижениях, которые поддерживают идею эпигенетического поворота в истории кибернетики и ИИ. И в завершение я предложу несколько философских размышлений о концепции подражания.

Американский научный журнал «Nature» 15 февраля 2001 года опубликовал практически полную последовательность трех миллиардов оснований генома человека[3]. Результат оказался неожиданным: геном человека состоит из 30 тысяч генов, то есть всего на 13 тысяч больше, чем у дрозофилы (она же плодовая мушка). Более того, выяснилось, что гены составляют всего 5% генома. Собранные в пучки и кластеры, они разделены огромными пространствами так называемых «генных пустынь», состоящих из ДНК, помеченной как «мусорная» или «повторяющаяся», то есть некодирующая. По данным исследований, на эту «некодирующую» ДНК приходится четверть или треть всего генома. Это означает, что в хромосомах есть длинные последовательности ДНК, которые, согласно современным представлениям, не соответствуют генам и не могут выполнять какую-то определенную функцию[4]. Таким образом секвенирование генома привело к неожиданным открытиям — оно свидетельствовало об ослаблении генетического детерминизма. Эти открытия ознаменовали собой переход от генетической к эпигенетической парадигме.

Эпигенетика — наука, в наши дни кардинально меняющая все прежние (по сути, генетические) представления о наследственности. Эта отрасль молекулярной биологии изучает отношения между генами и индивидуальными признаками, которые они порождают, иными словами, отношения между генотипом и фенотипом. Производный от «эпигенеза» термин «эпигенетика» — неологизм, который в 1940 году придумал британский биолог Конрад Уоддингтон. Он писал: «Несколько лет назад, а именно в 1947 году, я ввел в употребление термин “эпигенетика”, образованный от ранее практически вышедшего из употребления аристотелевского слова “эпигенез”, как подходящее название для отрасли биологии, изучающей причинные взаимодействия между генами и их продуктами, образующими фенотип»[5].

Эпигенетические механизмы влияют на экспрессию, транскрипцию или трансляцию генетического кода в фенотип — биологическую уникальную конституцию и физический облик человека. Эти механизмы действуют, по сути, через активацию или глушение определенных генов, то есть через ряд модификаций. Такие изменения в экспрессии генов не связаны с изменением основной последовательности ДНК. Эпигенетические изменения происходят на химическом внутреннем уровне (метилирование ДНК, модификация гистонов и некодирующихРНК), но могут быть подвержены и влиянию ряда (других) факторов — возраста, окружающей среды или образа жизни.

Если ДНК подобна книге или музыкальной партитуре, то ее «прочтения» — это эпигенетические переводы или интерпретации. Во второй половине XX века в генетике доминировала концепция «программы». Именно идея программы ставится под сомнение сегодня, когда признается важность эпигенетических механизмов.

Теперь о мозге. Эпигенетический поворот в нейробиологии, конечно, связан с этой научной революцией, которая также показала, что мозг состоит не из фиксированных и жестких локализаций, а непрерывновидоизменяется и «перепрошивается». Сила нейропластичности спровоцировала очень важную мутацию в определении интеллекта и при этом бросила вызов всем попыткам считать его врожденным и генетически предопределенным. Теперь мы знаем, что развитие мозга по большей части носит эпигенетический характер, продолжается долгое время после рождения и в значительной степени зависит от факторов окружающей среды и культуры. В книге «Сознание и мозг: Нейропластичность и могущество силы мысли» Джеффри М. Шварц и Шарон Бэгли пишут: «Разумно предположить, что гены определяют связи в мозге подобно тому, как электрическая схема определяет связи на кремниевом компьютерном чипе, но это математически невозможно. В начале нового тысячелетия, когда проект “Геном человека” подошел к концу, стало ясно, что у человека имеется около 35 тысяч различных генов. Примерно половина из них, по-видимому, активна в мозге, где они отвечают за такие задачи, как синтез нейротрансмиттера или рецептора. Мозг, напомним, состоит из миллиардов нервных клеток, которые образуют в общей сложности триллионы связей. <…> Назовем это генетическим дефицитом: слишком много синапсов, слишком мало генов. Наша ДНК просто слишком мала, чтобы можно было составить электрическую схему человеческого мозга»[6]. Это означает, что мозг живет своей жизнью и развивается, и его жизнь и развитие не зависят только от генетической информации. Нейробиологи согласны, что «мозг — это не просто отражение наших генов»[7].

Развитие синапсов не есть лишь простое выполнение программы или кода. Наоборот, оно «сопряжено со спонтанной активностью в нервной системе в дополнение к активности, спровоцированной взаимодействием с окружающей средой»[8]. И снова эпигенетический взгляд на формирование нейронных связей позволяет отказаться от строгого детерминизма.

Долгое время я была убеждена, что эпигенетическая природа развития мозга окончательно доказывает его несводимость к системам искусственного интеллекта, любым кибернетическим или робототехническим процессам. Не является ли эпигенетическая пластичность мозга идеальным переплетением биологического и символического, что и характеризует его отличие от технологического функционирования? Говоря о переплетении биологического и символического, я имею в виду неразличимость между биологическим развитием и личной историей, материальностью и чувством, химическими механизмами и подверженностью мозга изменениям в ходе воспитания и жизненных приключений. Все эти направления развития, как мне казалось, можно было бы свести к одному вопросу: что нам делать с нашим мозгом? Если мы и можем что-то сделать с нашим мозгом, то только потому, что мозг — не машина, и мы отчасти ответственны за его пластичность.

Однако последние разработки в области искусственного интеллекта заставили меня иначе посмотреть на эту тему. Осознание, что я была неправа, что мою книгу «Что нам делать с нашим мозгом?» придется редактировать, а может и полностью переписать, стало шоком. Подозрение возникло, как гром среди ясного неба, когда я прочитала статью о новейших вычислительных архитектурах, и в частности о недавней разработке компанией IBM совершенно нового типа чипа — нейросинаптического. Название статьи красноречиво: «Нейросинаптический чип от IBM имитирует человеческий мозг»(9). Ясно, что IBM выпустила чип для нейросинаптических вычислений, способный имитировать нейроны и синапсы мозга. До сих пор в большинстве компьютерных чипов использовалась архитектура фон Неймана — математическая система, лежащая в основе почти всех компьютеров, созданных после 1948 года, которая выполняет инструкции последовательно. Для сравнения, синаптический чип состоит из различных нейросинаптических ядер или «ядрышек» (corelets), которые функционируют автономно, несинхронно, и те из них, что не задействованы, остаются неактивны, что приводит к снижению потребления энергии. Если говорят, что чип имитирует мозг, то это потому, что он обеспечивает возможность взаимодействия между нейронами (элементами исчисления), синапсами (памятью) и аксонами (связями с другими частями чипа). Вторая причина заключается в том, что электронные синаптические компоненты способны изменять силу связи между двумя нейронами по аналогии с тем, что наблюдается в биологических системах. В определенном смысле система вырабатывает то, что можно назвать ее собственным «опытом».

В 2011 году основатель группы когнитивных вычислений при IBM Research Дхармендра С. Модха со своей командой разработали первый когнитивный чип: так стартовал проект SyNAPSE. Аббревиатура SyNAPSE расшифровывается как «Systems of Neuromorphic Adaptive Plastic Scalable Electronics» («Системы нейроморфной адаптивной пластичной масштабируемой электроники»). С самого начала задачей проекта была разработка электронных нейроморфных компьютеров с низким энергопотреблением, которые можно было бы масштабировать до биологического уровня. Совсем недавно появился еще более совершенный чип под названием TrueNorth, который состоит из 4 096 нейросинаптических ядер и способен моделировать около миллиона нейронов. Дхармендра Модха объясняет: «Если мы думаем о современных компьютерах фон Неймана как о “левополушарных” — быстрых, символьных, обрабатывающих числовые данные калькуляторах, то TrueNorth можно назвать “правополушарными” машинами — медленными, сенсорными, распознающими паттерны»[10]. Ядра (corelets) TrueNorth предназначены для сенсорных вариантов применения, например, для искусственных носов, ушей и глаз. Они способны адаптироваться и «перепрошивать» синапсы в зависимости от поступающих сигналов. С тех пор разработки этих чипов и процессоров переживают экспоненциальный рост.

В одном из недавно опубликованных докладов о глобальном рынке нейроморфных чипов его авторы объясняют: «Нейроморфные чипы “идут в комплекте” с искусственными нейронами и искусственными синапсами, которые имитируют всплески активности, происходящие в человеческом мозге. Благодаря синаптической пластичности чип способен постоянно обучаться. Это позволяет создавать более умные и намного более энергоэффективные вычислительные системы. Самообучающиеся нейроморфные чипы выполняют обработку данных на кристалле асинхронно. Для решения сложных вычислительных задач они используют событийно-зависимые модели обработки. Кроме того, благодаря сочетанию улучшенных характеристик обучения на плате (on board learning), уменьшения задержек сигнала и повышения энергоэффективности самообучающиеся нейроморфные чипы могут поднять распознавание изображений и обработку речи на новый уровень скорости и точности»[11].

Тогда мы можем считать, что в кибернетике и ИИ произошла своя эпигенетическая революция, а концепция программы уже не вполне адекватна и в этой области. Новые системы вроде упомянутой IBM способны менять или адаптировать свои программы. Мы также можем вспомнить о рекуррентных нейронных сетях или глубоком обучении, которое также больше похоже на эпигенетическое, чем на генетическое развитие. Примечательно, что в своей книге «Сингулярность уже близка» Рэймонд Курцвейл постоянно настаивает на экспоненциальном росте вычислительных мощностей и скорости. Он говорит о количественной «смене парадигмы»: «скорость смены парадигмы (технических инноваций) увеличивается: теперь она удваивается каждое десятилетие»[12]. Тем не менее, сдвиг происходит и в качественном отношении. Сингулярность также будет заключаться в пластичности машин. Так что да, речь идет именно о пластичности, и не только как о метафоре или способе выражения. «Человеческий интеллект, — пишет Курцвейл, — обладает определенной пластичностью», то есть «способностью изменять свою структуру, причем в большей степени, чем предполагалось ранее»[13]. Будущие машины тоже будут становиться все более и более пластичными и смогут меняться сами: «Когда машины достигнут способности проектировать и создавать технологии так, как это делают люди, только на гораздо более высоких скоростях и мощностях, они получат доступ к собственным проектам (исходному коду) и возможность манипулировать ими, так же как мы манипулируем генетикой»[14]. И далее: «Машины смогут заново формулировать собственные разработки»[15]. Таким образом, мы видим, что количество и качество тесно связаны между собой.

Давайте теперь поговорим о подражании. В упомянутой статье о синаптических чипах авторы пишут: «Нейроморфные чипы “идут в комплекте” с искусственными нейронами и искусственными синапсами, которые имитируют всплески активности, происходящие в человеческом мозге. Чип обладает способностью постоянно обучаться благодаря своей синаптической пластичности». Как нам здесь понимать слово «имитируют»? Следует ли связывать его с греческим мимесисом, от которого оно этимологически происходит? Всем нам хорошо известны часто возникающие при этом вопросы: «заменят ли нас ИИ-системы?» или «может ли у компьютера появиться интеллект? Может ли он смоделировать мозг, работать лучше нас, работать лучше без нас?» Конечно, я разделяю некоторые опасения Хокинга, которые он высказал в интервью BBC несколько лет назад: «Развитие полноценного искусственного интеллекта может означать конец рода человеческого». В то же время я считаю подобные прогнозы необоснованными. И чтобы их отвратить от себя, многие люди пытаются утешаться утверждением, что «машины» (если использовать этот общий термин) суть лишь плохие, дефектные копии возможностей человеческого мозга. Говорят, что машины не чувствуют, и что на них невозможно повлиять. Иными словами, у машин, ИИ-устройств, роботов, синаптических компьютеров нет «я» (я вернусь к этому понятию «я» (self) позже). Эти дискурсивные убеждения являются общепринятыми, и в то же время мы постоянно слышим о новых исследованиях в области моделирования мозга, искусственного воображения, искусственного творчества, искусственной способности к импровизации и даже искусственной сексуальности[16].

Так не являемся ли мы свидетелями появления новых форм копий, новых форм имитации, аналогий, новой эпохи мимикрии? Или мы должны провозгласить новую концепцию моделирования? И способна ли философия помочь нам ответить на эти вопросы? Очевидно, что сейчас философы не отвечают на этот вызов и не предлагают концепцию моделирования, которая могла бы выгодно заменить собой традиционные концепции, целиком вращающиеся вокруг акта копирования. Нам не хватает обновленного понятия мимесиса, которое бы адекватно характеризовало имитирующую способность искусственных эпигенетических систем. Если мы рассмотрим последние достижения в робототехнике, например, те, что были сделаны в Японии Хирочи Ичигуро, мы не сможем сказать, что эти роботы — просто «копии». Даже если понятие мимесиса эволюционировало с течением времени, оно, тем не менее, осталось привязанным к своему древнему определению, которое подразумевает детерминированные отношения между природой и искусством. В истории или, скорее, генеалогии мимесиса есть по крайней мере два решающих момента — платоновский и кантовский.

Платоновское понятие мимесиса — копия, репродукция. Это полностью касается статуса искусства как особой ветви tekhnè. Внутри tekhnè мы должны различать ремесло и искусство. Ремесленник, который, например, делает кровать, не совсем имитирует или копирует образец, потому что идея, служащая образцом для изготовления кровати, непосредственно запечатлена в сознании ремесленника и не дает возможности интерпретировать ее, играть с ней или обойти ее. Художник же, напротив, намеренно использует обманные средства в своем производстве и делает это для того, чтобы размыть границы между реальной действительностью и ее изображением, превращая идею — eidos — в ее коварную копию. Eidos таким образом становится eidolon — симулякром.

Я думаю, что многие критики ИИ сегодня бессознательно сохраняют что-то от этой платоновской концепции. Они рассматривают технологическую имитацию как нечто добровольное, как иллюзорное производство копий, и утверждают, что оригинал, естественное, обязательно превосходит их в силу своей аутентичности по отношению к технологическим подражаниям. Они считают, что, например, эпигенетическое развитие головного мозга остается абсолютно несравнимым с синаптическими чипами, нейронными сетями или интеллектуальными роботами и несводимым к ним.

Кантовская концепция подражания, конечно, сложнее, но все равно недостаточна для решения нашей проблемы. В первой части «Критики способности суждения» Кант утверждает, что изобразительное искусство должно находить свои темы в природе, но не должно «копировать ее»[17]. Искусство, несомненно, черпает вдохновение в природе, но оно интерпретирует ее, так сказать, заново изобретает. Именно поэтому Кант определяет искусство как творение «гения»[18]. В отличие от механического, чисто технологического процесса, искусство понимается как производство свободы. То есть произведение искусства — это не сервильная копия, не плагиат и не подделка, а «свободное подражание», как он говорит в §47. Далее следует озадачивающее заявление: природа должна служить «образцом не для подделывания (nachmachen), а для подражания (nachahmen)». Необходимо четко различать Nachmachung и Nachahmung(19), где Nachahmung означает подделывание, неотличимое отобычной копии. Однако, как мы знаем, гений для Канта есть дар природы: «Гений — это талант (дар природы), который дает искусству правила»[20]. Благодаря художественной фантазии природа в действительности интерпретирует саму себя. Из этого мы можем сделать вывод, что искусство для Канта выражает отношение природы к самой себе (relation to itself). Здесь важно слово «self». Искусство помогает создавать «я» (self) природы. В той мере, в какой художественный мимесис является даром природы, он демонстрирует идентичность природы. Искусство — субъект природы, природный артефакт, искусственная природность. И опять же, это понятие имитации, подражания ни в коем случае не сводится к копии или симулякру.

Теперь мы можем задаться вопросом, можно ли распространить то, что Кант говорит об искусстве, на современные технологии и существует ли такая вещь, как технологический Nachahmung? У Канта, к сожалению, мы ответа не найдем. Кант подходит к вопросу техники во второй части «Критики способности суждения», но он именно что противопоставляет технику изобразительному искусству и жизни. Благодаря гармонии и пластичности своей структуры и организации, живое существо само по себе кажется произведением искусства, «как если бы» природа была художником. Механизм же не бывает пластичным. Он не имеет эпигенетического развития. В §65 Кант противопоставляет функционирование часов функционированию естественного организма. Как бы хорошо они не были собраны, различные части часов не обладают способностью к самовосстановлению, в отличие от организма. Технические объекты — это всего лишь Nachmachungen, копии жизни. Поэтому Кант рассматривал бы синаптические чипы и пластичные вычислительные процессы как подобие часов, как механические Nachmachungen биологической мозговой структуры. Проблема в том, что если внутренняя регуляция различных частей часов не является работой самих часов, то внутренняя регуляция современных кибернетических процессов как раз являетсясамоиндуцируемой и поддерживаемой, как это видно на примере рекуррентных нейронных сетей. Тогда мы можем задаться вопросом, не доказывают ли эти новые процессы существование отношения техники или технологии к самой себе, возникновение не только технического «я», но и «я» техники? Тогда можно будет сказать, что ИИ демонстрирует отношение техники к себе через Nachahmung природы. Из такого отношения может возникнуть искусственное «я», технологическое аутентично-миметическое «я».

Поэтому, если верно, что системы искусственного интеллекта, процессы глубокого обучения и интеллектуальные роботы явно «подражают» человеку, а точнее, естественным биологическим функциям, таким как эпигенез, например, мы не можем вернуться к платоновской концепции мимикрии, чтобы понять смысл этого подражания. Мы также не можем считать, что эти артефакты являются новыми версиями художественного гения или отношения природы к самой себе. Мы должны пойти дальше и задаться вопросом, существует ли новая форма эпигенеза — эпигенеза самопривязанности техники к самой себе. Как природа подражает себе через искусство — по Канту, — так и техника сегодня подражает себе через природу, создавая новые зеркала для нашего мозга.

 

ПРИМЕЧАНИЯ:

1 Малабу К. Что нам делать с нашим мозгом? М.: V-A-C Press, 2019. 

2 Malabou C. Morphing Intelligence: From IQ Measurements to Artificial Brains. New York: Columbia University Press, 2019.

3 International Human Genome Sequencing Consortium (2001), Initial Sequencing and Analysis of the Human Genome // Nature, 409 (860–921), 2001. URL: https://www.nature.com/articles/35057062.

4 См.: Le génome humain cache de “vastes déserts”’ // Le Monde, 13 February, 2001. URL:https://scholar.lib.vt.edu/InterNews/LeMonde/ issues/2001/monde.20010213.pdf.

5 Waddington C. H. The Basic Ideas of Biology // Towards a Theoretical Biology: Prolegomena, vol. 1. Edinburgh: Edinburgh University Press, 1968. Р. 9–10.

6 Schwarz J. M. and Begley Sh. The Mind and the Brain: Neuroplasticity and the Power of Mental Force. New York: Harper Collins, 2002. Р. 111–112.

7 Ibid.

8 Ibid. Р. 7.

9 Murray W. IBM’s Neuro-Synaptic Chips Mimics Human Brain // EE Times, 18 September, 2013. URL:https://www.eetimes.com/ibms-neuro-synaptic-chip-mimics-human-brain.

10 Modha Dh. S. Introducing a Brain-inspired Computer // Radio Locman, 29 November, 2016. URL: https://www.radiolocman.com/ review/article.html?di=162687.

11 Global Neuromorphic Chip Market // Advanced Market Analytics (2021). URL:https://www.advancemarketanalytics.com/reports/3762-global- neuromorphic-chip-market.

12 Kurzweil R. The Singularity is Near: When Humans Transcend Biology. New York: Penguin, 2005. Р. 25.

13 Ibid. Р. 27.

14 Ibid.

15 Ibid.

16 «The Human Brain Project» (Проект «Человеческий мозг») — большой десятилетний научно-исследовательский проект, инициированный в 2013 году и координируемый Генри Маркрамом (из Политехнической школы Лозанны) и в значительной степени финансируемый Европейским Союзом. Это европейская версия американской программы BRAIN Initiative («Brain Research through Advancing Innovative Neurotechnologies», также известной как «Brain Activity Map Project»), анонсированной президентом Обамой в 2013 году с целью составления карты активности каждого нейрона человеческого мозга с использованием больших данных. Программа предусматривает разработку информационно-коммуникационных технологических платформ в шести основных областях — нейроинформатике, моделировании мозга, высокопроизводительных вычислениях, медицинской информатике, нейроморфных вычислениях и нейроробототехнике. Конечной целью программы является создание полной и подробной карты человеческого мозга. URL: http://en.wikipedia.org/wiki/Information_and_communications_technology. В рамках проекта «Человеческий мозг» будут отчасти развиваться результаты другого проекта — «The Blue Brain Project», также инициированного Генри Маркрамом в Лозанне в 2005 году. Моделирование осуществляется на суперкомпьютере Blue Gene, построенном компанией IBM, отсюда и название «BlueBrain». URL: ehttp://en.wikipedia.org/wiki/IBM. Оба проекта должны быть перебазированы в одно место — женевский Campus Biotech.

17 Кант И. Критика способности суждения. М.: Искусство, 1994. С. 188. URL: https://imwerden.de/pdf/kant_kritika_sposobnosti_suzhdeniya_1994__ocr.pdf.

18 Там же.

19 Там же.

20 Там же. С. 180.

 

Перевод с английского МАКСИМА ШЕРА