Что мы думаем о машинах, которые думают. Ведущие мировые учёные об искусственном интеллекте - Джон Брокман

Почему нет?

Чтобы выполнить нашу задачу, мы должны опросить экспертов, а затем проиндексировать смысл рассказанных ими историй согласно идеям, которые они высказывают и опровергают, целям, о достижении которых говорят, и проблемам, которые они испытывали при достижении этих целей. Такое способны проделать только люди. Машина может сопоставить один индекс с другими, например с теми, которые можно найти в какой-то еще истории, имеющейся в компьютере, с индексами пользовательских запросов или с данными анализа ситуации, в которой, как известно машине, находится пользователь в данный момент. Компьютер может вспомнить очень хорошую историю в самый подходящий момент. Но он, конечно, не знает, о чем говорит. Он просто способен найти лучшую историю для конкретной ситуации.

Это искусственный интеллект? Я думаю, что да. Повторяет ли он то, как люди индексируют истории в своей памяти? Мы долго изучали, как они это делают, и думаем, что наш компьютер умеет так же. Надо ли нам опасаться такой «разумной» машины?

Вот тут я перестаю понимать тех, кто боится искусственного интеллекта. В том, что мы можем сделать, нет ничего угрожающего. Если бы мы на самом деле сумели построить мобильную разумную машину и научили бы ее ходить, говорить и жевать резинку, то использовалось бы наше творение, скорее всего, отнюдь не для завоевания мирового господства и не формирования нового общества роботов. Гораздо больше пользы от нее было бы в работе по дому. Все хотят иметь персонального лакея. Роботов-слуг часто изображают в фильмах (хотя обычно довольно глупо), потому что они смешные, и обладать чем-то таким было бы круто.

Почему у нас их нет? Потому что хороший слуга — это некто, понимающий вас, когда вы что-то говорите, учащийся на своих ошибках, способный передвигаться по дому, не ломая вещи, не раздражая окружающих и т. д. (любой пункт из этого списка находится за пределами возможностей машин, которые мы на данный момент умеем строить). Не стоит волноваться по поводу того, что он поболтает с другими роботами-слугами и решит учредить профсоюз. Нет причин встраивать такую способность в слугу. Настоящие слуги иногда бывают надоедливы, потому что они люди и обладают человеческими потребностями. У компьютеров таких потребностей нет.

Нам еще очень далеко до создания подобных машин. Чтобы это сделать, нам понадобится глубокое понимание взаимодействий между людьми. Электронному лакею пришлось бы понимать фразы: «Робот, ты опять пережарил это блюдо» и: «Робот, детям очень не понравилась твоя песня». Так что нам всем надо перестать волноваться и начать пользоваться теми классными штуками, которые нам действительно способен дать искусственный интеллект.

Хуан Энрикес

Директор Excel Venture Management; автор, совместно со Стивом Галлэнсом, книги «Самоэволюция: Как неестественный отбор и неслучайные мутации изменяют жизнь на Земле» (Evolving Ourselves: How Unnatural Selection and Nonrandom Mutation Are Changing Life on Earth)

В пантеоне ужасных медицинских экспериментов мало что сравнится с пересадкой головы. Опыты на животных делались двумя разными способами: путем замены одной головы на другую или пересадки второй головы на животное. До сих пор процедура была не очень успешна. Но мы уже намного лучше разбираемся в сосудистой хирургии: делаем шунтирование, сшиваем и пересаживаем как крупные, так и микроскопические сосуды. Сравнимые достижения были получены области восстановления мышц и поврежденных позвонков. Все лучше удаются операции по реплантации разъединенного спинного мозга на мышах и приматах.

До частичной трансплантации мозга, вероятно, нам еще очень далеко. И дело усложняет не только ряд процедур со стволовыми клетками, но и то, что пересадка фрагментов одного мозга в другой — очень сложная задача из-за высокой плотности мозгового вещества, содержащего триллионы связей. Но по мере того как экстренные операции — реплантация пальцев, конечностей, даже лиц — становятся обычным делом, вопрос о том, возможно ли и надо ли пересаживать человеческую голову целиком, становится все актуальнее.

Частичная реплантация человеческой головы — уже реальность. В 2002 году пьяный водитель сбил в Аризоне подростка, Маркоса Парра; удар был настолько сильным, что голова Парра оказалась почти полностью отделенной от туловища, только спинной мозг и несколько кровеносных сосудов не давали ей оторваться от тела. К счастью, Кертис Дикмен, хирург из Неврологического института Бэрроу в Финиксе, как раз готовился к проведению именно такой экстренной операции. Позвоночник прикрепили к основанию черепа винтами, часть тазовой кости использовали для того, чтобы соединить шею и череп, и через шесть месяцев Парра играл в баскетбол.

Возможно, не за горами успешная полная пересадка головы, которую проведут на животных. А если такие процедуры будут заканчиваться успехом и подопытные станут приходить в сознание, мы начнем получать ответы на вполне себе фундаментальные вопросы, в том числе: «Передаются ли таким способом также воспоминания и сознание донора?»

Подобные вопросы об эмоциях, привязанностях и характере донора задавали во время первых операций по пересадке сердца, хотя оно всего лишь мышца. А как насчет мозга? Если мыши с новыми головами станут опознавать лабиринты, по которым раньше бегали мыши-доноры, или сохранят их условные реакции на определенные продукты, запахи и стимулы, то мы будем вынуждены допустить, что память и сознание действительно передаются. Но если ни один из экспериментов не продемонстрирует сохранения прежних знаний или эмоций, то нам придется сделать вывод, что мозг — это тоже что-то вроде электрохимической мышцы.

Если нам удастся обнаружить вероятность переноса знаний и эмоций из одного тела в другое, это будет иметь большое значение для ответа на вопрос: «Сможем ли мы когда-нибудь загружать часть мозга не только в другое тело, но и в микросхему, в машину?» Если удастся сделать это, то путь к созданию крупномасштабного искусственного интеллекта окажется намного легче. Нам надо будет просто скопировать, объединить и дополнить уже существующие данные — данные, о которых нам точно известно, что их можно передавать, накапливать и изменять. Тогда останется следующий вопрос: «Какой интерфейс между биологическим объектом и машиной наиболее эффективен?»

Однако если окажется, что все данные стираются во время пересадки, а знание присуще только отдельному организму, — другими словами, что сознание/знание/разум — это нечто врожденное и индивидуальное, — тогда простое копирование удивительно сложного коннектома[44] мозга в машины, вероятно, не приведет к появлению работоспособного интеллекта.

Если данные мозга нельзя ни передать, ни воспроизвести, то разработка ИИ потребует строительства параллельной машино-мыслительной системы, чего-то совершенно отличного от интеллекта животных и людей. Построить сознание с нуля — значит пройти по новому и совершенно иному эволюционному пути, чем тот, который проделал человеческий интеллект. Эта новая система, несомненно, будет работать по иным правилам и с иными ограничениями, а следовательно, хоть она и будет намного лучше справляться с определенными задачами, она не сможет воспроизвести некоторые формы нашего интеллекта. Если ИИ возникнет на базе такой системы, он будет представлять собой новое, особое сознание, идущее по параллельной эволюционной траектории. В этом случае мысли, чувства и поведение машин будут иметь мало общего с аналогичными качествами людей и животных, существовавшими на протяжении миллионов лет. Машины также не станут строить свое общество и социальные нормы на тех же принципах, которыми руководствуемся мы в своем сосуществовании.