Текст Кейт Кроуфорд и Владана Йолера «Анатомия системы ИИ» был создан как составная часть одноименной инсталляции, представлявшей собой масштабную план-схему или условную карту, воссоздававшую политэкономическую подоплеку интернета. Летом 2018 года настоящая работа была показана в Москве в рамках Молодежной биеннале современного искусства, а осенью того же года — в Музее декоративно-прикладного искусства им. Виктории и Альберта в Лондоне, а через год ее представили на Киевской биеннале. Текст был издан в виде графически броской брошюры, на оборотной стороне которой — план-схема, чертеж, складывающийся словно настольная игра. В апреле 2020 года «Анатомия системы ИИ» вместе с входящим в ее состав текстом была приобретена в собрание нью-йоркского Музея современного искусства (МоМА).

I

В комнате цилиндр. Он бесстрастен, гладок, прост и мал. Высотой в 14,8 сантиметров, с зелено-голубой круговой подсветкой, обрамляющей его верхний край. Он беззвучно внимает. В комнату заходит женщина со спящим ребёнком на руках, обращается к цилиндру:

«Алекса, включи свет в гостиной».

Цилиндр оживает. «Хорошо». В комнате зажигается свет. Женщина слегка кивает и несёт ребёнка наверх.

Так выглядит взаимодействие с устройством Amazon Эхо^[1]. Маленький запрос — короткий вопрос и ответ — является наиболее частой формой контакта с этим включаемым голосом клиента аппаратом с искусственным интеллектом. Но за это короткое время задействуется обширная матрица мощностей: цепочек добычи ресурсов, человеческого труда и алгоритмической обработки, переплетающихся сквозь сети добычи полезных ископаемых, логистики, распределения, обработки, прогнозирования и оптимизации. Масштаб этой системы почти за пределами человеческого воображения. Как нам начать ее видеть, понять ее безграничность и сложность как связанной формы? Сначала мы дадим абрис: покомпонентное отображение планетарной системы, проходящей три стадии — рождения, жизни и смерти, и дополним его текстом из 21-й части. Вместе они составят анатомический атлас единой системы искусственного интеллекта.

II

Сцену с женщиной, разговаривающей с Алексой, мы позаимствовали из видео 2017 года, рекламирующего последнюю версию Amazon Эхо. Оно начинается словами: «Приветствуйте совершенно новое Эхо», — и объясняет, что Эхо подключается к Алексе (агенту искусственного интеллекта), чтобы «проигрывать музыку, звонить друзьям и семье, управлять устройствами умного дома и не только». Устройство оснащено семью направленными микрофонами, чтобы оно могло всегда слышать пользователя, даже когда играет музыка. Оно выпускается в нескольких стилях, например, серая бронза или классический бежевый, рассчитанных либо «растворяться в обстановке, либо выделяться». Но даже варианты с блестящим дизайном сохраняют нечто типовое: ничто не поставит в известность владельца об огромных сетях, стягивающих и движущих интерактивными возможностями устройств. Рекламное видео просто говорит, что диапазон того, о чем можно просить Алексу, постоянно расширяется. «Так как Алекса в облаке, она становится все умнее и пополняется новыми функциями».

Как это происходит? Алекса — бестелесный голос, являющийся интерфейсом человек–ИИ, представляющим невероятно сложную совокупность слоев обработки информации. Эти слои подпитываются приливами и отливами: потоки человеческого голоса переводятся в текстовые вопросы, которые направляются в качестве запросов потенциаль ных ответов в базы данных, а отливами приходят ответы Алексы. Эффективность каждого ответа Алексы рассчитывается по тому, что происходит дальше:

Был ли произнесен вопрос повторно? (Полагает ли пользователь, что его услышали?)

Был ли вопрос перефразирован? (Убежден ли пользователь, что его вопрос поняли?)

Последовало ли за вопросом действие? (Привело ли взаимодействие к отслеживаемому ответу: включенному свету, покупке товара, проигрыванию звуковой дорожки?)

С каждым взаимодействием Алекса учится лучше слышать, точнее интерпретировать, запускать действия, которые четче соответствуют желаниям пользователя. Это является формальным идеалом. Что требуется, чтобы подобное взаимодействие работало? Если говорить просто, то каждое небольшое удобство — ответ на вопрос, включение света, проигрывание песни — требует огромной планетарной сети, подпитываемой добычей невозобновляемых материалов, труда и данных. Масштаб необходимых ресурсов в несметное число раз превышает энергию и труд, затрачиваемые человеком на то, чтобы управлять бытовым прибором или нажимать на выключатель. Почти невозможно полностью подсчитать эти затраты, но все важнее понимать их масштаб и уровень.

III

Самая протяженная в мире плоская поверхность Салар де Уюни находится на юго-западе Боливии на высоте 3656 метров над уровнем моря. Это плоскогорье, покрытое коркой соли в несколько метров, непревзойденно богатой литием, содержит от 50 до 70% его мировых запасов^[2]. Салар де Уюни вместе с соседними областями чилийской и аргентинской Атакамы является крупным местом добычи лития. Этот мягкий, серебристый металл теперь используют в качестве основного материала для производства литий-ионных батарей для питания мобильных устройств связи. Он известен под названием «серое золото». В батареях смартфонов, например, обычно содержится меньше восьми граммов этого материала^[3]. На аккумулятор одной автомашины Тесла нужно примерно семь килограммов лития^[4]. Срок службы всех этих батарей ограничен, и после потребления их выбрасывают как отходы. Amazon напоминает пользователям, что они не должны вскрывать и чинить свои колонки Эхо, так как это аннулирует гарантию. Amazon Эхо питается от розетки, но имеет и мобильную батарейную основу. У нее тоже ограниченный срок службы, по истечении которого она также выбрасывается в мусор.

Cогласно легенде народа аймара о создании Боливии, вулканические горы Андского нагорья были творениями трагедии^[5]. Давным-давно, когда вулканы были живыми и свободно бродили по равнинам, Тунупа — единственная женщина-вулкан —  родила ребенка. Охваченные завистью мужчины-вулканы украли его и изгнали в удаленные земли. Боги наказали вулканы, пригвоздив их к Земле. Тунупа горько рыдала, горюя о ребенке, которого больше не могла обнять. Ее слезы и молоко из грудей слились в огромное соляное озеро — Салар де Уюни. Как замечают Лиам Янг и Кейт Дэвис: «Ваш мобильный работает на слезах и грудном молоке вулкана. Этот пейзаж соединен с каждым другим местом на планете посредством телефонов в наших карманах; связан с каждым из нас невидимыми нитями торговли, науки, политики и власти»^[6].

IV

Наша схема с покомпонентным отображением соединяет и изображает три центральные процесса добычи, требуемые для того, чтобы поддерживать крупномасштабную систему искусственного интеллекта: материальные ресурсы, человеческий труд и данные. Мы рассматриваем эти три элемента сквозь время — представленное как изобразительное описание рождения, жизни и смерти одного устройства Amazon Эхо. Необходимо выйти за пределы простого анализа отношений между отдельным человеком, его данными и технологической компанией, чтобы совладать с истинно  планетарным масштабом добычи. Винсент Моско доказал, что эфирная метафора «облака», обозначающая удаленное управление и обработку данных, находится в полном противоречии с реалиями физического извлечения полезных ископаемых из земной коры и переселения народов, поддерживающих ее существование^[7]. Сандро Меццадра и Бретт Нильсон для определения взаимосвязи между различными формами извлекающих операций в современном капитализме, которую мы видим повторенной в контексте ИИ промышленности, используют термин «экстрактивизм»^[8]. Между буквальным опустошением земли и биосферы от ее богатств, и захватом ИИ данных и монетизацией практик человеческого общения и общительности существует глубокая взаимосвязь. Меццадра и Нильсон замечают, что труд является центральным в этом добывающем отношении, повторяющемся на протяжении истории: от использования европейским империализмом рабского труда до  подневольных трудовых бригад на плантациях каучука в Малайе, коренных народов Боливии, которых заставляли добывать серебро, служившее первой международной валютой. Мыслить о добыче — значит мыслить о труде, ресурсах и данных вместе. Это идет в противовес критическому и народному пониманию искусственного интеллекта: каждый из этих процессов трудно «увидеть» по отдельности, не говоря уже про  их совокупность. Отсюда потребность в отображении, которое может нанести эти соединенные, но глобально разбросанные процессы на одну карту.

V

Если вы прочтете нашу карту слева направо, история начинается и заканчивается Землей и геологическими процессами глубокого времени. А прочитанная сверху вниз, история начинается и заканчивается человеком. Сверху человеческий деятель, делающий запрос колонке Эхо и поставляющий Amazon’у ценные обучающие данные вербальных запросов и ответов, которые можно  использовать для совершенствования голосовой системы искусственного интеллекта. Внизу карты иной род человеческого ресурса: история человеческого познания и его хранение, также используемые для обучения и оптимизации систем искусственного интеллекта. В этом ключевое отличие систем искусственного интеллекта от других форм потребительских технологий: они полагаются на всасывание, анализ и оптимизацию огромных объемов изображений, текстов и видео, генерируемых людьми.

VI

Когда люди взаимодействуют с Эхом или другим активируемым голосом устройством с искусственным интеллектом, они играют гораздо большую роль, чем конечные потребители товара. Пользователей системы искусственного интеллекта сложно отнести к какой-то одной категории — скорее, их надо рассматривать как гибридный случай. Подобно греческой химере, мифологическому животному, бывшему отчасти львом, отчасти козой, змеей и чудищем, пользователь Эха одновременно потребитель, ресурс, рабочий и продукт. Такую множественную идентичность человеческие пользователи приобретают во многих технологических системах. В конкретном случае Amazon Эхо пользователь покупает потребительское устройство, с которым получает набор удобств. Но он также и ресурс, так как его голосовые команды собираются, анализируются и хранятся с целью создания возрастающей базы человеческих голосов и команд. Но еще он трудится, постоянно предоставляя ценную услугу обратной связи о точности, полезности и общего качества ответов Алексы. По сути, он помогает обучать нейронные сети в Amazon’овской инфраструктурной стопке.

VII

Все, что за пределами ограниченного физического и цифрового интерфейса устройства, находится вне контроля пользователя. Оно предъявляет гладкую поверхность, его нельзя вскрыть, починить или поменять принцип его  работы. Сам по себе этот объект — простая пластиковая штамповка, являющаяся набором датчиков, — его реальная сила и сложность находятся где-то еще, далеко вне обозрения. Колонка Эхо — это не что иное, как «ухо» в доме: бестелесный слушающий агент, который никогда не выдает свои глубинные связи с удаленными сис­темами.

В 1673 году эрудит и иезуит Афанасий Кирхер изобрел statua citofonica — «говорящую статую». Кирхер был выдающимся междисциплинарным ученым и изобретателем. За свою жизнь он опубликовал сорок крупных трудов в таких разных областях, как медицина, геология, сравнительное религиоведение и музыка. Он изобрел первые магнитные часы, многие ранние автоматы и мегафон. Его говорящая статуя была ранним подслушивающим устройством: по сути, микрофоном, изготовленным из огромной спиральной трубы, которая могла переносить разговоры с общественной площади вверх, сужаясь в рот статуи, хранившейся в аристократических частных покоях.

Кирхер писал:

«Эта статуя должна располагаться в определенном месте, так, чтобы конец спиральной трубы точно соответствовал ротовому отверстию. Таким образом, она будет совершенной и сможет ясно издавать любые типы звуков: на самом деле, статуя сможет говорить непрерывно, голосом человека или животного: будет смеяться и глумиться, вопить и стонать почти по-настоящему, иногда с большим удивлением сильно дуть. Если раструб спиральной трубы будет находиться соответственно в общественном месте, все произнесенные человеческие слова, направленные в трубу, будут произноситься ртом статуи»^[9].

Звуковая система могла подслушивать повседневные разговоры на пьяцце и доносить их итальянским элитам XVII века. Говорящая статуя Кирхера была ранней формой извлечения информации для элит — народ, разговаривавший на улице, понятия не имел, что его разговоры передавались тем, кто инструментализировал полученные знания в пользу собственных власти, развлечения и богатства. Люди в домах аристократов понятия не имели, как волшебная статуя говорила и передавала всевозможные сведения. Цель была в сокрытии того, как работала система: изящная статуя — это все, что они могли видеть. Даже на этом раннем этапе системы прослушки работали на власть, класс и тайну. Но инфраструктура для системы Кирхера была непомерно дорогой — доступной только очень немногим. Так что остается открытым вопрос, каков полный масштаб последствий строительства таких систем с точки зрения ресурсов? Он приводит нас к материальности лежащей под ними инфраструктуры.

VII

Юсси Парикка в книге «Геология медиа» предлагает смотреть на медиа не с точки зрения Маршалла Маклюэна^[10] — согласно которой, они являются расширением человеческих органов чувств, — а как на расширение Земли^[11]. Парикка рассматривает медиа как геологический процесс, от создания и преобразования к движению природных элементов, из которых они построены. Размышление о медиа и технологии как о геологических процессах позволяет нам принять во внимание глубокое истощение невозобновляемых ресурсов, требуемых для приведения в движение современных технологий в настоящий момент. Каждый объект расширенной сети систем искусственного интеллекта от сетевых маршрутизаторов до батарей и микрофонов использует вещества, на создание которых ушли миллиарды лет. Если смотреть с точки зрения глубокого времени, мы добываем историю Земли, чтобы обслужить долю секунды технологического времени, произвести устройства, которые часто разрабатываются со сроком службы всего в несколько лет. Например, Ассоциация потребительской технологии отмечает, что средний срок службы смартфона составляет 4,7 года^[12]. Такой цикл устаревания стимулирует покупку большего количества устройств, повышает прибыль и мотивацию к использованию разрушительных практик добычи. После медленного процесса зарождения и вещественного становления эти материалы и вещества проходят невероятно быстрый период извлечения из земли, плавки, обработки, смешивания и логистической перевозки — пересекая тысячи километров в процессе своего преобразования. Геологические процессы помечают как начало, так и конец этого обращения: от извлечения руды до отложения материала на свалке электроники. По этой причине наша карта начинается и заканчивается земной корой. Несмотря на это, те преображения и движения, которые мы изображаем, являются лишь простейшим анатомическим наброском: под этими связями лежит множество других слоев фрактальных цепочек поставок и форм эксплуатации человеческих и природных ресурсов, концентрации корпоративной и геополитической власти и беспрестанный расход энергии.

IX

Выявление связей между ресурсами, трудом и данными неизбежно приводит нас к традиционным концепциям эксплуатации. Как порождается стоимость посредством этих систем? В трудах Кристиана Фукса и других авторов, работающих над определением цифрового труда, можно найти полезный понятийный инструмент. Цифровой труд, понятие, изначально связанное с различными формами нематериального труда, предваряет жизнь устройств и различных сложных систем, таких, как искусственный интеллект. Фукс поясняет, что «цифровой труд» отнюдь не эфемерен и не виртуален, но глубоко воплощен в различной деятельности^[13]. Ее охват поражает воображение: от подневольного труда на шахтах по добыче полезных ископаемых, формирующих физический базис информационных технологий, до работы внутри жестко контролируемых и иногда опасных процессов производства и сборки оборудования на китайских фабриках, до эксплуатируемых подрядных рабочих умственного труда из развивающихся стран, проставляющих метки на ИИ-обучающих массивах данных, до неформально нанятых чернорабочих, очищающих токсичные свалки. Эти процессы создают накопления богатства и власти, концентрирующиеся в очень узкой общественной прослойке.

X

Этот треугольник извлечения стоимости и производства представляет один из базовых элементов нашей карты: от зарождения в геологическом процессе через жизнь в качестве потребительского продукта с искусственным интеллектом и, наконец, к смерти на электронном мусорном полигоне. Как и в трудах Фукса, наши треугольники не изолированы, но соединены между собой в производственном процессе. Они образуют циклический поток, в котором продукт труда превращается в ресурс, который превращается в продукт, который превращается в ресурс и так далее. Каждый треугольник представляет одну фазу в производственном процессе. Несмотря на то, что на карте это представлено как линейное преобразование, сложность нынешнего экстрактивизма лучше отражает другая образная метафора: фрактальное построение, известное как Треугольник Серпинского.

Линейное отображение не позволяет нам показать, что каждый новый шаг производства и эксплуатации содержит предыдущие фазы. Если мы посмотрим на систему производства и эксплуатации через фрактальное образное построение, то и самый маленький треугольник будет представлять природные ресурсы и средства труда, то есть шахтера как труд, а руду как продукт. Следующий больший треугольник обнимает металлообработку, а последующий будет представлять процесс изготовления компонентов и так далее. Последний треугольник на нашей карте, производство самого устройства Amazon Эхо, включает все эти уровни эксплуатации, снизу и до самого верха корпорации Amazon, которую олицетворяет ее генеральный директор Джефф Безос. Подобно фараону Древнего Египта, он стоит на вершине самой высокой пирамиды извлечения стоимости искусственным интеллектом.

XI

Вернемся к основополагающему элементу этого отображения — вариации треугольника производства Маркса — каждый треугольник создает прибавочную стоимость для производства прибыли. Если посмотрим на средний уровень дохода от каждого вида деятельности внутри процесса производства одного устройства, показанный с левой стороны нашей карты, мы увидим огромную  разницу в заработке. Согласно исследованию «Международной амнистии», рабочим, добывающим кобальт, который также используют для литиевых батарей 16 многонациональных фирм, платят эквивалент одного доллара США за день работы в условиях, вредных для здоровья и жизни, и они часто подвергаются насилию, вымогательству и запугиваниям^[14]. «Международная амнистия» засвидетельствовала случаи работы в шахтах детей всего семи лет от роду. В противоположность им, глава Amazon Джефф Безос, находящийся на вершине нашей фрактальной пирамиды, зарабатывал в среднем 275 миллионов долларов США в день с января по май 2018 года согласно указателю миллиардеров информационного агентства Блумберга^[15]. Ребенку, занятому на шахте в Конго, потребуется более 700 000 лет непрерывной работы, чтобы получить столько же, сколько Безос получает за один день.

За многими треугольниками, показанными на этой карте, скрываются различные истории трудовой эксплуатации и нечеловеческих условий труда. Экологические издержки преобразования веществ и разница в доходах являются лишь одними из возможных способов представления глубокого системного неравенства. Мы оба изучали различные формы «черных ящиков», понимаемых как алгоритмические процессы^[16], но эта карта указывает на иную форму непрозрачности: сам процесс создания, обучения и работы с устройством наподобие Amazon Эхо является чем-то вроде черного ящика. Его очень сложно исследовать и отслеживать в целом, учитывая большое количество уровней подрядчиков, распространителей и партнеров в последующей логистике по всему миру. Как пишет Марк Грэм: «Современный капитализм скрывает от потребителей историю и географию большинства товаров. Потребители обычно могут увидеть товар  здесь и сейчас времени и пространства, и у них редко бывает возможность оглянуться назад через цепочки производства, чтобы получить знания о местах производства, преобразования и распространения»^[17].

Одним из примеров сложности расследования и отслеживания современных производственных цепочек служит тот факт, что у компании Intel ушло более четырех лет на то, чтобы в достаточной степени вникнуть в свою цепочку поставок и убедиться, что в товарах с ее микропроцессорами нет тантала из Конго. Будучи производителем полупроводниковых транзисторов, Intel поставляет процессоры Apple. Для этого у Intel есть собственная многоуровневая система поставок с более чем 19 000 контрагентов в более чем ста странах, предоставляющих материалы напрямую для ее производства, инструменты и оборудование для ее фабрик, услуги логистики и упаковки^[18]. Тот факт, что у ведущей технологической компании ушло более четырех лет, чтобы понять собственную цепочку поставок, показывает, насколько тяжело осознать этот процесс даже изнутри, не говоря уже о внешних исследователях, журналистах и ученых. Базирующаяся в Голландии технологическая компания Phillips также заявляла, что работала над тем, чтобы сделать свои поставки «бесконфликтными». У Phillips, например, десятки тысяч различных поставщиков, каждый из которых предоставляет различные компоненты для производственного процесса^[19]. Эти компании также связаны ниже по цепочке с десятками тысяч производителей комплектующих, которые приобретают материалы тысяч заводов, которые покупают металлы у различных плавилен, а их снабжает неизвестное количество спекулянтов, прямо вовлеченных как в законную, так и в незаконную добычу полезных ископаемых. В книге «Элементы силы» Дэвид Абрахам описывает невидимые сети торговцев редкими металлами в цепочках поставщиков глобального рынка электроники: «Прежде чем попасть из шахты в ваш ноутбук, редкие металлы проходят сквозь темную сеть из торговцев, обрабатывающих предприятий и производителей комплектующих. Трейдеры — это посредники, которые не просто покупают и продают редкие металлы: они регулируют информацию и являются невидимым связующим звеном, средством сообщения между металлургическими заводами <...> и компонентами наших ноутбуков»^[20]. Сложность цепочки поставок металлов представляет почти неразрешимые проблемы, сообщает производитель компьютеров Dell^[21]. Добыча этих минералов происходит задолго до того, как собирается конечный продукт, из-за этого крайне тяжело отследить происхождение этих веществ. Кроме того, многие эти металлы выплавляются вместе со вторсырьем, и к этому моменту становится почти невозможно отследить источник этих полезных ископаемых. Таким образом, мы видим, что попытка полностью охватить цепочку поставок является гаргантюанской задачей, обнажающей всю сложность мирового производства технологических продуктов в XXI веке.

XII

Часто цепочки поставок наслаиваются друг на друга, образуя разветвленную сеть. Apple раскрывает в своей закупочной программе, что их устройства состоят из десятков тысяч отдельных компонентов, поставляемых в свою очередь сотнями различных компаний. Для того чтобы эти детали добрались до конвейера конечной сборки, где их смонтируют рабочие завода Foxconn, их нужно физически переместить с более чем 750 локаций поставщиков, находящихся в 30 странах^[22]. Этот процесс становится сложной структурой из цепочек поставок внутри цепочек поставок, увеличивающимся фракталом десятков тысяч поставщиков, миллионов километров отгруженных материалов и сотен тысяч рабочих, включенных в процесс еще до того, как продукт начнет собираться на конвейере.

Изображая этот процесс как одну глобальную, панконтинентальную сеть, по которой перетекают материалы, детали и продукты, мы видим аналогию с глобальной информационной сетью. Пока к Amazon Эхо отправляется один пакет данных, здесь мы можем представить один грузовой контейнер^[23]. Без изобретения этого простого, стандартизированного металлического предмета было бы невозможно головокружительное зрелище глобальной логистики и производства. Стандартизированный грузовой контейнер сделал возможным бум современного судоходства, что позволило смоделировать планету как одну гигантскую фабрику. Емкость контейнеровозов в морской торговле достигла в 2017 году почти 250 миллионов тонн полной грузоподъемности. Преобладают огромные судоходные компании, такие, как датская Maersk, швейцарская Mediterranean Shipping Company, французская группа CMA CGM, каждая из которых владеет сотней контейнеровозов^[24]. Для этих коммерческих предприятий грузовые перевозки являются относительно дешевым способом пересечь кровеносную систему глобальной фабрики, тем не менее, он скрывает гораздо большие внешние издержки.

В последние годы грузовые суда производят 3,1% мировых годовых выбросов углекислого газа, больше, чем вся Германия^[25]. Чтобы минимизировать внутренние издержки, большинство компаний, транспортирующих контейнеры, используют в огромных количествах топливо очень плохого качества, что приводит к повышению уровня серы и других токсичных веществ в атмосфере. Подсчитано, что один контейнеровоз может производить столько же выхлопов, сколько 50 миллионов автомашин, а проблемы, связанные с загрязнением, производимым судоходной промышленностью, становятся косвенной причиной смерти 60 тысяч людей ежегодно^[26]. Даже лояльные к этой промышленности источники, такие, как Всемирный совет судоходства, признают, что каждый год тысячи контейнеров теряются, оседая на дне океана или уходя в свободный дрейф^[27]. Некоторые из них содержат токсические вещества, просачивающиеся в океан. Моряки обычно проводят в пути 9–10 месяцев, часто работая длинными сменами без связи с остальным миром^[28]. Рабочие из Филиппин представляют более трети мировой рабочей силы, задействованной в судоходстве. Атмосфера, экосистема океана и все ее содержимое, и наиболее низкооплачиваемые рабочие несут самые большие издержки мировой логистики.

XIII

Усложнение и миниатюризация наших технологий зависит от процессов, которые странным образом перекликаются с надеждами алхимии раннего Средневековья. Тогда как средневековые алхимики хотели превратить простые металлы в благородные, современные исследователи используют редкоземельные металлы, чтобы повысить производительность других минералов. Всего существует 17 редкоземельных элементов, которые, будучи внедрены в ноутбуки и смартфоны, делают их меньше и легче. Они имеют значение для цветных экранов, динамиков, линз фотокамер, систем GPS навигации, аккумуляторов, жестких дисков и многих других комплектующих. Они являются ключевыми элементами систем коммуникации от оптоволоконных кабелей и усилителей сигнала в вышках сотовой связи до спутников и технологий GPS навигации. Но точно установить конфигурацию и способ использования этих минералов сложно. Точно так же, как средневековые алхимики скрывали свои изыскания за шифрами и тайной символикой, современные процессы использования минералов в устройствах защищаются договорами о неразглашении и торговой тайной.

Уникальным электронным, оптическим и магнетическим свойствам редкоземельных элементов нет равных среди других металлов и синтетических заменителей, известных на сегодняшний день. Хоть они и называются «редкоземельными металлами», некоторые из них содержатся в коре Земли в относительном изобилии, но их добыча обходится дорого и сильно загрязняет окружающую среду. Промышленность, связанная с редкоземельными металлами, крайне загрязняюща. Дэвид Абрахам описывает добычу диспрозия и тербия, используемых в некоторых высокотехнологичных устройствах, в китайском районе Цзяньси: «Только 0,2% добытой глины содержит редкоземельные элементы. Это означает, что 99,8% приходится на отработанные отходы, называемые “хвостами”, которые попадают обратно в холмы и ручьи», — создавая новые загрязнения, например, аммонием^[29]. Чтобы произвести тонну редкоземельных веществ, «по данным Китайского общества редкоземов, в результате обрабатывающего процесса на 1 тонну редкоземельных элементов приходится 75 000 литров кислых сточных вод и 1 тонна радиоактивных отходов»^[30]. Кроме того, добыча и производство требуют огромного количества воды и создают большие объемы выбросов углекислого газа. В 2009 году Китай произвел 95% от мирового предложения этих элементов, а единственная шахта, известная под названием Баян-Обо, по некоторым подсчетам содержит до 70% мировых запасов^[31].

XIV

Спутниковый снимок маленького индонезийского острова Банка лучше всяких слов расскажет об издержках производства полупроводников для человека и окружающей среды. На этом маленьком острове на самодельных понтонах работают промысловики, в основном без договоров, используя бамбуковые шесты, чтобы скоблить морское дно, а потом ныряют, чтобы втянуть олово с поверхности через огромные пылесосообразные трубы. Согласно исследованию газеты Guardian, «добыча олова — прибыльный, но разрушительный бизнес, нанесший ущерб ландшафту острова, сравнявший с землей фермы и леса, уничтоживший его рыбные запасы и коралловые рифы и подорвавший туризм на его усеянных пальмами пляжах. Лучше всего плачевные последствия видны с воздуха — небольшие очаги пышной растительности, окруженные огромными просеками опустошенной оранжевой земли. Места, где нет шахт, испещрены могилами, во многих из которых лежат тела рабочих, веками умиравших, добывая олово»^[32]. Два маленьких острова, Банка и Белитунг, производят 90% олова Индонезии, а Индонезия является вторым в мире экспортером этого металла. Индонезийская госкорпорация по олову, PT Timah, осуществляет как прямые поставки таким компаниям, как Samsung, так и продажи производителям оловянного припоя Chernan и Shenmao, в свою очередь поставляющих компаниям Sony, LG и Foxconn^[33].

XV

В распределительных центрах Amazon огромное количество товара выкладывается на миллионы полок в вычисляемом порядке. Положение каждого наименования в этом пространстве точно определяется сложными математическими функциями, которые обрабатывают информацию о заказах и задают отношения между товарами. Это делается с целью оптимизации движения роботов и людей, работающих вместе на этих складах. Электронный браслет ведет человеческого рабочего по складам размером с авиационный ангар, наполненным объектами, расставленными в непрозрачном алгоритмическом порядке^[34].

Патент США номер 9280157, запрятанный среди тысяч других общедоступных патентов, принадлежащих Amazon, представляет исключительную иллюстрацию отчуждения рабочих, суровый момент взаимодействия людей и машин^[35]. На нем изображена металлическая клеть для рабочего, оборудованная различными кибернетическими вставками, которую можно передвигать по складу посредством той же моторизованной системы, которая перемещает полки, наполненные товаром. Рабочий, удерживаемый в вертикальном положении в клети, которая задает и ограничивает его движения, становится частью машинного балета.

Производя исследование для карты, мы раз за разом видели, что антиутопии будущего построены на неравномерно распределенных антиутопических режимах прошлого и настоящего, разбросанных по всему потоку производственной цепи современных технических устройств. Ничтожно малое число людей на вершине фрактальной пирамиды живут в необыкновенном богатстве и комфорте. Но большая часть пирамид состоит из темных тоннелей шахт, озер радиоактивных отходов, выброшенных грузовых контейнеров и фабричных общежитий.

XVI

В конце XIX века специфичное для Юго-Восточной Азии дерево под названием palaquium gutta стало центром технологического бума. Эти деревья, в основном произрастающие в Малайзии, производят молочно-белый природный латекс, называемый гуттаперчей. После того, как английский ученый Майкл Фарадей в 1848 году опубликовал в The Philosophical Magazine статью об использовании этого материала для изоляции электропроводников, гуттаперча стала любимицей инженерного мира. В ней видели решение проблемы изоляции телеграфных кабелей, чтобы они могли выдерживать условия дна океана. Спрос на стволы гуттаперчевого дерева рос по мере развития мирового подводного бизнеса. Историк Джон Талли пишет, как мало платили местным рабочим: малайцам, китайцам и даякам, — которые подвергали себя опасности, валя деревья и медленно собирая латекс^[36]. Латекс обрабатывали и затем продавали через торговые рынки Сингапура на британский рынок, где он превращался, помимо прочего, в бесконечно длинные оболочки подводных кабелей.

Взрослое гуттаперчевое дерево может принести около 300 граммов латекса. Но в 1857 году первый трансатлантический кабель был длиной в 3000 километров и весил 2000 тонн, что требовало около 250 тонн гуттаперчи. Чтобы произвести только одну тонну этого материала, было нужно около 900 000 стволов деревьев. Джунгли Малайзии и Сингапура обезлесели, и к началу 1880-х гуттаперчевые деревья были уничтожены. В 1883 году  в последней попытке спасти свою цепочку поставок британцы издали временный запрет на сбор латекса, но дерево к тому времени уже исчезло^[37]. Экологическая катастрофа викторианской эпохи с гуттаперчей, произошедшая при зарождении мирового информационного общества, показала, как переплетаются отношения между технологией и ее материальностью, окружающей средой и различными формами эксплуатации. Как люди викторианской эпохи произвели экологическую катастрофу своими кабелями, так и добыча редкоземельных металлов и глобальные цепочки поставок продолжают подвергать опасности хрупкое экологическое равновесие нашей эпохи. От материалов, используемых, чтобы построить технологии, обеспечивающие современное сетевое общество, до энергии, необходимой, чтобы передавать, анализировать и хранить данные, текущие по массивной инфраструктуре — все эти глубинные связи и издержки более значительны и имеют гораздо большую историю, чем обычно представляется корпоративным воображаемым искусственного интеллекта^[38].

XVII

Крупномасштабные системы ИИ потребляют невообразимое количество энергии. Но материальные детали этих издержек остаются смутными в общественном воображении. Получить точные данные об объеме энергии, потребляемом облачными компьютерными сервисами, все еще сложно. Согласно отчету Greenpeace: «Платформа Amazon Web Servives (AWS) является одним из препятствий для прозрачности сектора. Крупнейшая облачная компьютерная компания мира остается почти полностью непрозрачной в вопросах энергетического следа ее масштабной деятельности. Среди мировых облачных поставщиков только Amazon Web Services до сих пор отказывается публиковать основные данные по энергоиспользованию и влиянию ее деятельности на окружающую среду»^[39].

Будучи человеческими деятелями, мы видимы практически при каждом взаимодействии с технологическими платформами. Нас все время отслеживают, подсчитывают, анализируют и товаризуют. В отличие от пользовательской видимости, точная информация о сетевых устройствах с их фазами рождения, жизни и смерти остается в тени. С приходом устройств вроде Эха, основанных на централизованной, удаленной от обозрения инфраструктуре ИИ, еще большие объемы информации пропадают из виду.

Пока потребители привыкают к маленьким устройствам у себя в гостиных, к приложениям в телефоне или полуавтономным автомобилям, реальная работа выполняется в системах машинного обучения, которые, как правило, находятся далеко от пользователей и совершенно невидимы для них. Во многих случаях прозрачность не особенно поможет: прозрачность без реальных возможностей выбора и корпоративной ответственности не сместит вес в нынешней властной асимметрии^[40].

Выводы систем машинного обучения часто неподотчетны и неуправляемы, а  вводные данные загадочны. С точки зрения обычного наблюдателя, построить искусственный интеллект или систему машинного обучения никогда еще не было так легко, как сегодня. Доступность инструментов с открытым кодом и вычислительные мощности, сдающиеся в аренду облачными сверхсервисами Amazon (Amazon Web Services), Microsoft (Azure), Google (Google Cloud), — порождают ложное представление о «демократизации» ИИ. В то время как находящиеся в свободной продаже инструменты машинного обучения, такие, как TensorFlow, становятся все доступнее с точки зрения настройки самодельных систем, лежащая под этими системами логика и наборы данных для их обучения доступны и контролируются лишь небольшим количеством организаций. В динамике сбора массивов данных такими платформами, как Facebook, пользователи питают и тренируют нейрон­ные сети поведенческими данными, голосом, картинками с метками, видео или данными о здоровье. В эпоху экстрактивизма реальная стоимость этих данных контролируется и эксплуатируется очень малым числом избранных на вершине пирамиды.

XVIII

Когда для обучения искусственного интеллекта используются большие массивы данных, на включенных в них отдельных изображениях и видео обычно проставлены метки и ярлыки^[41]. Можно долго рассказывать о том, как этот процесс маркировки упраздняет или кристаллизует смысл, и еще дольше о том, что этот процесс производят кликальщики, которым платят за эту сдельную работу доли цента.

В 1770 году венгерский изобретатель Вольфганг фон Кемпелен соорудил автомат, играющий в шахматы, известный под названием «Механический Турок». Его целью в частности было удивить австрийскую императрицу Марию Терезию. Это устройство могло играть в шахматы против человеческого оппонента и имело потрясаюший успех на протяжении почти девяноста лет, выиграв в большинстве игр, сыгранных во время показов в турне по Европе, Северной и Южной Америке. Но Механический Турок был лишь иллюзией — внутри автомата прятался человек, мастерски игравший в шахматы, и управлял им. 160 лет спустя Amazon.com назвала тем же именем свою краудсорсную платформу, основанную на микроплатежах. По словам Айхана Айтеса, Amazon озаботилась созданием Механического Турка, когда программам искусственного интеллекта не удалось научиться находить дубликаты страниц товаров на его торговом сайте^[42]. После серии безуспешных и дорогих попыток инженеры проекта обратились к людям, чтобы те работали за компьютеры на стандартизированной сетевой системе^[43]. Цифровой цех Amazon Mechanical Turk имитирует системы искусственного интеллекта, проверяя, оценивая и исправляя процессы машинного обучения с помощью человеческого мозга. С Механическим Турком Amazon’а пользователям может казаться, что приложение использует продвинутый искусственный интеллект, чтобы выполнять задачи. Но он ближе к форме «искусственного искусственного интеллекта», приводимой в движение удаленным, разбросанным по миру и плохо оплачиваемым трудовым резервом кликальщиков, который помогает клиентам достигать их целей в бизнесе. По наблюдению Айтеса, «в обоих случаях [как Механического Турка 1770 года, так и в современном сервисе Amazon] усилие рабочих, которые оживляют махинацию, скрывается зрелищем машины»^[44].

Этот невидимый, отданный на подряд или краудсорс труд, скрытый за интерфейсами и скамуфлированный алгоритмическими процессами, стал повсеместным, в особенности в процессе проставления меток и ярлыков на тысячи часов цифровых архивов, чтобы скормить их нейронной сети. Иногда этот труд совершенно не оплачивается, как, например, в случае с Google’овским reCAPTCHA. Многие из нас сталкивались с парадоксом, что для того, чтобы доказать, что ты не искусственный агент, тебя заставляют бесплатно тренировать ИИ систему распознавания изображений Google, выбрать множества ячеек, содержащих номера домов, машины или здания.

Как мы снова и снова видим в разных местах системы, современные формы искусственного интеллекта в  итоге не такие уж искусственные. Мы можем говорить о тяжелом физическом труде шахтеров, монотонном труде на конвейерах фабрик, о кибернетическом труде в распределительных центрах и в когнитивных потогонках, забитых программистами на аутсорсе со всего света, о низкооплачиваемом краудсорсном труде рабочих Механического Турка, неоплачиваемой нематериальной работе пользователей. Каждый уровень современной технологии глубоко укоренен в эксплуатации человеческих тел и работает именно так.

XIX

В коротком рассказе длиной в один абзац «О строгой науке» Хорхе Луис Борхес представляет нам воображаемую империю, в которой картографическая наука стала настолько развитой и точной, что потребовалась карта того же масштаба, что сама империя^[45].

Текущие подходы к машинному обучению характеризуются амбицией картировать мир, полностью подсчитать видимый, слышимый и распознаваемый режим реальности. От космологических макетов Вселенной до мира человеческих эмоций, интерпретируемых через мельчайшие движения мышц на человеческом лице, — все становится объектом подсчета. Жан-Франсуа Лиотар ввел словосочетание «склонность к бесконечности», чтобы описать, как современное искусство, технонаука и капитализм разделяют единое желание сдвинуть границы к потенциально бесконечному горизонту^[46]. Во второй половине XIX века — время неравномерного перехода к промышленному обществу и сосредоточенности на инфраструктуре  — огромное богатство оказалось в руках небольшого числа промышленных магнатов, которые монополизировали использование природных ресурсов и производственные процессы.

Извлечение данных, машинное обучение и реорганизация информации посредством систем искусственного интеллекта, соединяющих человеческую и машинную обработку, —  это  новый бесконечный горизонт. Несколько глобальных мегакомпаний, создающих новые инфраструктуры и механизмы для накопления капитала и эксплуатации человеческих и планетарных ресурсов, владеют этими территориями.

Эта необузданная жажда новых ресурсов и областей когнитивной эксплуатации приводит к поиску все более глубинных слоев данных, которые могут использоваться, чтобы подсчитать психику человека, сознательную и бессознательную, частную и публичную, отличительную и всеобщую. Таким образом, возникли множества когнитивных экономик из экономики внимания^[47], экономики репутации, экономики надзора^[48] и экономики эмоций, а также подсчет и товаризация доверия и свидетельства посредством криптовалют.

Процесс подсчета все глубже проникает в аффективный, умственный и физический человеческие миры. Существуют обучающие наборы для определения эмоций, похожести членов семьи, отслеживания старения людей, таких человеческих действий, как: сесть, помахать рукой, поднять стакан, заплакать. Каждый вид биоданных — включая криминологические, биометрические, социометрические и психометрические — захватывается и вписывается в базы данных для тренировки ИИ. Основания этих подсчетов часто очень ограничены: например, наборы данных вроде атомарных зримых действий Google (AVA) в первую очередь показывают категорию действий «играть с детьми» для женщин и «бить людей» для мужчин. Тренировочные базы данных для ИИ систем якобы знают тонкую правду повседневной жизни, но на самом деле они повторяют самые стереотипные  и ограниченные общественные шаблоны, заново записывая нормативное видение людей прошлого и проецируя его на будущее.

XX

«“Огораживание” биоразнообразия и зна­ния стало последней вехой огораживаний, начавшихся с подъемом колониализма. Земли и леса стали первыми ресурсами, которые “огородили” и превратили из общинных в товарные. Впоследствии водные ресурсы “оградили” дамбами, выкачиванием из-под земли и приватизацией. Сейчас пришел черед биоразнообразия и знания, их “огораживают” законом об интеллектуальной собственности», — поясняет Вандана Шива^[49]. По словам Шивы, «основным фактором промышленной революции было разрушение общин, чтобы обеспечить поставки природных ресурсов в качестве сырья для промышленности. Систему жизнеподдержания можно разделять, ею нельзя владеть как частной собственностью или эксплуатировать для частной прибыли. Следовательно, общинную собственность необходимо было приватизировать, а основы жизнеобеспечения людей в общинах нужно было присвоить, чтобы питать промышленный прогресс и накопление капитала»^[50].

Если Шива описывает процессы огораживания природы с помощью законов об интеллектуальной собственности, то аналогичный процесс происходит и в машинном обучении — подсчитывание природы интенсифицируется. В контексте искусственного интеллекта новая золотая лихорадка заключается в огораживании различных областей человеческого знания, чувств и действий с целью их захвата и приватизации. Когда в ноябре 2015 года фирма Deepmind Technologies Ltd получила доступ к поименованным медицинским карточкам 1,6 миллионов пациентов Королевской бесплатной больницы, мы стали свидетелями особой формы приватизации: извлечение познавательной стоимости^[51]. База данных может продолжать находиться в общественном владении, но метастоимость данных, созданная на ее основе модель, попадает в частное владение. Несмотря на то, что есть множество причин для улучшения общественного здравоохранения, в случае, если это произойдет за счет стремительной приватизации государственных медицинских услуг, мы столкнемся с серьезным риском, что в будущем, когда профессиональный местный человеческий труд в государственной системе будет расширен и иногда замещен централизованными частными корпоративными системами ИИ, общественная информация будет использоваться для создания огромного богатства для немногих.

XXI

В настоящий момент XXI века мы видим новую быстро развивающуюся форму экстрактивизма, достигающую самых дальних уголков биосферы и глубочайших слоев человеческого сознания и аффективного бытия. Многие предположения о человеческой жизни, сделанные системами машинного обучения, узки, нормативны и полны ошибок. Несмотря на это, они предписывают и встраивают эти предположения в новый мир и будут играть все большую роль в том, как распределяются возможности, богатство и знание. Мы предлагаем эти покомпонентное отображение и эссе как способ начать видеть более широкий спектр системы добычи. Подлинный масштаб, необходимый для создания систем искусственного интеллекта, слишком сложен, скрыт законами об интеллектуальной собственности и погружен в логистические запутанности, чтобы быть полностью понятным. И все же он начинается с простой голосовой команды маленькому цилиндру в гостиной: «Алекса, который час?»

И цикл продолжается.

Перевод с английского МАРИИ КОРОЛЕВОЙ