Что мы думаем о машинах, которые думают. Ведущие мировые учёные об искусственном интеллекте - Джон Брокман

Нам все еще нужно превозмочь страх и даже отвращение, внушаемые нам роботами, которые выглядят почти как люди и демонстрируют почти человеческие качества — но только «почти». Эта проблема известна как эффект «зловещей долины»[86]. Тот же принцип работает с компьютерной анимацией, зомби и даже протезами рук. Но мы, возможно, подходим к этой долине с обеих сторон. Если вы хоть раз меняли свой голос, чтобы вас поняла система распознавания речи на телефоне, то вам будет легче поверить, что мы, люди, и сами приближаемся к «зловещей долине».

Есть много теорий о том, почему мы испытываем это отвращение, но я думаю, оно как-то связано с тем, что люди считают себя особенными, — такое своеобразное экзистенциальное эго. Корни явления, возможно, уходят в наш монотеизм. Примерно в то время, когда рабочие фабрик на Западе крушили роботов кувалдой, японцы на таких же фабриках надевали на роботов шапочки и давали им имена. В день 7 апреля 2003 года Астробой, мальчик-робот, персонаж японского мультфильма, стал почетным гражданином города Ниидза в префектуре Сайтама. Возможно, анимистическим религиям проще смириться с мыслью, что на самом деле не мы тут главные. Если природа — это сложная система, в которой все — люди, деревья, камни, реки, дома — в какой-то мере одушевлены, то кажется вполне разумным, что бог не похож на нас, что он не думает как мы и не считает нас особенными.

Так что, возможно, один из наиболее значимых аспектов жизни в эпоху, когда мы начинаем задавать такие вопросы, — то, что они подводят нас к более общему вопросу о роли человеческого сознания. Люди — часть чрезвычайно сложной системы, настолько сложной, что она выходит за пределы нашего понимания. Подобно одушевленным деревьям, камням, рекам и домам, выполняемые на компьютерах алгоритмы могут быть просто еще одной частью сложной экосистемы.

Мы, люди, развили у себя эго и представление о собственном «я», но это по большей части уловка, позволяющая каждому индивиду действовать эффективнее в критериях эволюционного развития. Не исключено, что возникшая на основе этого мораль — еще одна уловка, поскольку все мы понимаем, что ее нормы условны. Отсюда не следует, что нам не нужны этика и хороший вкус; мы можем использовать свое чувство ответственности как часть сложной, единой системы, не пытаясь опираться на аргумент о том, что «я особенный». По мере того как машины становятся все более важной частью этой системы, наши человеческие аргументы о собственной уникальности будут становиться все слабее, что, может, и хорошо.

Не исключено, что не так уж важно, как мы воспринимаем мыслящие машины, — они будут думать, а система будет адаптироваться. Как и с большинством сложных систем, результат здесь в основном непредсказуем. Таково положение сейчас, таким оно и останется. Большая часть наших мыслей о будущем безнадежно ошибочна; как мы знаем из ситуации вокруг изменения климата, понимать, что что-то происходит, и что-нибудь предпринимать по этому поводу — не одно и то же.

Мои слова могут звучать пораженчески, но на самом деле я вполне оптимистичен. Я полагаю, что системы адаптивны и устойчивы и — что бы ни произошло — красота, счастье и радость не исчезнут. Мы надеемся, что у людей будет определенная роль. Я полагаю, что действительно будет.

Судя по всему, из нас получаются не очень хорошие роботы, но мы прекрасно справляемся с нестандартными и творческими задачами, которые было бы невероятно сложно — и, наверное, неоправданно дорого — прописать в виде программы для машины. В идеале наша образовательная система должна эволюционировать так, чтобы как можно полнее задействовать сильные стороны людей, вместо того чтобы делать из нас второсортных роботов. Люди, хотя и не обязательно с нынешней формой сознания и с линейной философией вокруг него, хорошо умеют трансформировать беспорядок и сложность в искусство, культуру и смысл. Если мы сосредоточимся на том, что у каждого из нас лучше всего получается, люди и машины выработают замечательные отношения в духе «инь-ян», где мы будем пользоваться эффективностью наших электронных собратьев, а они — нашими беспорядочными, небрежными, эмоциональными и креативными телами и мозгами.

Мы скатываемся не в хаос, как считают многие, а в усложнение. В то время как интернет связывает все, что находится вне нас, в огромную систему, которая кажется неуправляемой, мы обнаруживаем почти бесконечную сложность в глубинах собственной биологии. Мы уверены, что именно наш мозг всем заправляет, хотя наши стимулы, желания и поведение формирует наш микробиом, чтобы обеспечить собственное размножение и эволюцию; так что мы, вполне вероятно, никогда не разберемся, кто главный — мы или машины. Но, может быть, для нас вреднее считать людей особенными, чем принимать как должное отношения с разными существами, предметами и машинами вокруг нас.

Дуглас Рашкофф

Медиавед; писатель-документалист, автор книги «Шок настоящего» (Present Shock)

Осмысление мыслящих машин можно считать классическим примером инверсии фигуры и фона, канала и сообщения. Это заставляет нас думать о следующем этапе развития интеллекта как о чем-то, происходящем в расположенном где-то компьютере — сознании, которое родится и затем будет храниться на громадных серверах, построенных для своих целей корпорациями Информационной эры. «Вот она, — провозгласим мы, — мыслящая машина».

Мы существа Электронной эры, мигрирующие в разворачивающуюся Цифровую эру, и наша ошибка состоит в том, что мы рассматриваем цифровые технологии в качестве материи, а не пространства. Это то же самое, что путать телевизор и медиасреду, создаваемую телевизором, или маленький смартфон, что лежит у вас в кармане, с огромным влиянием, которое оказывают на наше общество портативные средства коммуникации и компьютерные технологии.

Это происходит каждый раз, когда мы переживаем медийный переход. Так что мы невольно видим в цифровых технологиях фигуру, тогда как на самом деле смотрим на фон. Это не источник возникновения иного разума, а среда, в которой наш разум иначе себя проявляет. Так что, хотя технарям может казаться, что они возводят храм искусственного интеллекта, на самом деле они становятся жертвой чрезмерно упрощенного подхода к цифровому сознанию, свойственного Индустриальной эпохе.

Не к мыслящим машинам мы движемся, я полагаю, а к сетевой среде, где мышление уже не будет ни индивидуальным, ни ограниченным временем и пространством. Это означает, что мы можем думать вместе — одновременно или асинхронно — посредством цифровой репрезентации прошлых и будущих человеческих мыслей. Даже самый продвинутый алгоритм сводится к итерации фразы «что, если», некогда сформулированной человеком. И все равно мышление машины не существует отдельно от коллективного человеческого мышления, поскольку не локализуется в одном объекте, как это происходит в мозге.