Мифология машины. История механизмов, которые нас пугают и очаровывают - Даниэль Штрассберг

продолжительность жизни которых запрограммирована на четыре года, незаконно возвращаются на Землю, чтобы создатели перепрограммировали их на более долгую жизнь. В конце фильма один из роботов (которого играет Рутгер Хауэр) произносит трогательный монолог о конечности жизни. В этот момент он кажется более человечным, чем биологический человек, который превратился в машину для убийства и охотился за ним.

Первоисточником этого нарратива чаще всего считается баллада Гёте «Ученик чародея». Но доминирующая в настоящее время модель понимания техники сложнее. В «Ученике чародея» машины выходят из-под контроля вследствие некомпетентного обращения человека. Напротив, сегодня распространены истории об освобождении машин, которые избавляются от рабского ига по собственному намерению и тем самым становятся похожими на людей.

Истории освобождения машин имеют гендерные разновидности. Исторически сложилось так, что большинство литературных автоматов – это женщины, подвергающиеся насилию со стороны мужчин-конструкторов из-за своего непослушания. Автоматы-женщины, такие как Олимпия в «Песочном человеке», полностью посвящают себя освобождению мужчин, в то время как автоматы-мужчины, например Голем, освобождают сами себя. Начиная с «Метрополиса» (1927) Фрица Ланга, автоматы-женщины все чаще восстают; в современных фильмах на эту тему борьбу за освобождение ведут почти исключительно женщины. В британском фильме «Из машины» (2014) представлен особенно изощренный вариант этой модели. Основатель компании Нейтан привлекает программиста Калеба к эксперименту, основанному на тесте Тьюринга, с участием робота-женщины (гиноида) по имени Ава. На самом деле Нейтан хочет выяснить, способен ли искусственный интеллект соблазнить Калеба и использовать его в своих целях – для освобождения. Аве это удается: она обманом выбирается из лаборатории и убивает Нейтана. В конечном счете Ава оказывается самой человечной из всех троих: в то время как люди действуют с холодным расчетом, она движима чувствами, ненавистью и стремлением к независимости.

Антропологическое различие

Долгое время человек определялся почти исключительно через сравнение с животным. Говорили, что, хотя человек тоже животное, он обладает характеристиками, отличающими его от собратьев по виду: человек – животное разумное, играющее, обладающее речью, прямоходящее и так далее. Чаще всего его уникальной чертой считался разум. Это успокаивало, поскольку закрепляло особое положение человека на все времена.

С определенного времени вместо животного предпочтительным средством самопонимания человека стала машина. Каждый день авторы всевозможных статей сравнивают людей с компьютерами и роботами или предупреждают, что скоро искусственный интеллект превзойдет нас или что из-за роботов мы станем ненужными. Сопоставление с машиной тяжелее и тревожнее, чем с животным: если над последним человек возвышается благодаря уникальному преимуществу разума, то в сравнении с машиной он часто оказывается побежденным. Машина сильнее, быстрее, точнее, неутомимее, беспристрастнее и умнее человека. Вот почему мы отчаянно ищем то различие, которое никогда не сможет преодолеть машина, ту единственную и важную черту, которая навсегда отличит нас от машины. Не для того, чтобы, как в случае с животным, возвыситься над машиной, но для того, чтобы по крайней мере не быть уничтоженными ею. Этот поиск труден, ведь машина – движущаяся цель (moving target). Человек постоянно создает новые машины, которые могут делать больше, чем предшествующие, что вынуждает его перенастраивать самого себя. Это приводит к своеобразной гонке. С каждым новым техническим достижением вновь возникает вопрос: чем еще обладает человек, чего нет, не может быть и никогда не будет у машины? Сознание? Эмоции? Эмпатия? Ответственность? Трансцендентность? Ирония? Гуманист, настаивающий на уникальности человека, тем самым фиксирует качество, кардинально отличающее человека от машины. Если в случае с животными самой распространенной уникальной чертой был разум, то для машин таковым долгое время оставалось сознание. Сегодня это, похоже, эмоции или способность к эмпатии.

Постгуманисты (в противовес гуманистам) утверждают, что все можно запрограммировать. Сознание? Можно проверить с помощью теста Тьюринга. Обучение? Наш ответ – машинное обучение. Эмоции? эмпатия? любовь? творчество? – все это можно симулировать. И поскольку, по крайней мере со времен Витгенштейна, мы не знаем, не симулируют ли и люди, то существенной разницы больше нет. Не успел гуманист остановиться на чувствах как уникальной особенности человека, а инженеры уже принялись за работу, чтобы встроить их в машину. Инженеры-программисты из компании Hanson Robotics оснастили своего робота Софию мимикой, позволяющей выражать самые разные настроения. Это всего лишь мимикрия, возмутились гуманисты, чистая симуляция! У Софии нет внутреннего мира! Тогда японская команда из университета Осаки под руководством пионера робототехники Хироши Исигуро создала робота Альтера, который способен адаптироваться к окружающей среде. Разве это не то же самое, что внутренний мир?

Страдания машины

Машины становятся все более человечными, свободными, восприимчивыми и ранимыми существами. Действительно, в наше время за дебатами о правах животных следуют дебаты о правах машин. Машины уже давно являются юридическими лицами: страхование ответственности беспилотных автомобилей, например, должно распространяться на саму машину, а не на компанию-производителя и не на водителя. С какого момента машины должны получить права физических лиц? Немецкий нейроэтик Томас Метцингер требует, чтобы все существа, способные испытывать страдания, были наделены гражданскими правами, в том числе и роботы – когда будет установлено, что искусственный интеллект развился до такой степени, что машины могут чувствовать боль[201].

Права человека всегда основывались на человеческом достоинстве, а оно – на разуме и свободе воли. Поэтому изначально правами человека могли пользоваться только белые мужчины, ведь, казалось, только они отвечают необходимым требованиям. Постепенно границы отодвигались, и в правовое сообщество в той или иной степени включались женщины, не-белые люди, дети и животные. Правда, для этого потребовалось найти новое обоснование прав человека.

Тот факт, что животные могут обладать правами, теперь уже почти никем всерьез не оспаривается, – но не потому, что они разумны или обладают свободной волей, а потому, что они могут страдать. Таким образом, был найден новый критерий для универсальных прав – способность испытывать страдания и уязвимость. То, что животные имеют право на защиту от ненужных страданий, уже стало почти само собой разумеющимся, но не следует ли предоставить права и машинам, когда они достигнут ступени, на которой смогут ощущать боль?

В настоящее время, особенно в феминистской теории, в качестве обоснования прав используется уязвимость. Эта позиция приобрела столь большое влияние, что при Университете Эмори в Атланте был создан центр по изучению уязвимости под руководством Марты Альбертсон Файнман, одной из ключевых фигур феминистского движения[202].

Основная идея – в том, что уязвимость возлагает на общество ответственность за защиту людей от жестокости, чтобы они могли жить свободно. Стало быть, свобода – это прежде всего не свобода воли, а возможность и право жить в условиях, в которых не применяется жестокость, чтобы была возможной свобода воли. В