Что мы думаем о машинах, которые думают. Ведущие мировые учёные об искусственном интеллекте - Джон Брокман

Ваша стиральная машина мыслит? А ваш смартфон? Мы более склонны приписывать мышление последнему — и его более продвинутым собратьям — не только потому, что он сложнее, но еще и потому, что он, видимо, больше похож на нас. Наш собственный опыт мышления не механистичен и не ограничивается одной задачей. Мы — взрослые люди — и есть тот стандарт, по которому мы оцениваем, что считается, а что не считается мышлением.

Психологи уже заставляли нас расширять, отстаивать и пересматривать то, что мы думаем о мышлении. Специалисты по психологии культуры усомнились в идее, что человеческое мышление следует изучать именно на примере взрослых представителей западного общества. Специалисты по психологии развития подняли вопрос о том, как мыслят дети, еще не овладевшие речью, и мыслят ли они вообще. Специалисты по компаративной психологии долгое время пытались выяснить, мыслят ли животные и как они мыслят. И философы, конечно, тоже задавались этими вопросами. Во всех дисциплинах прогресс в понимании мышления произошел в результате того, что мы осознали одну идею, а затем отказались от нее; это идея о том, что «думай как я» — единственный или самый ценный способ думать. Нам пошло на пользу исследование имплицитных допущений, обсуждение которых часто скатывается в дискуссии о мышлении. Сыграл свою роль и отказ от определенных форм мыслительного шовинизма.

В случае с умными машинами мы стоим перед теми же проблемами. Идея принять два набора базовых допущений выглядит довольно заманчивой, но следует подходить к ним критически. Первый набор — это представление о том, что лучший, если не единственный тип мышления — мышление взрослого человека. Например, «разумные» компьютерные системы иногда критикуют за то, что они не мыслят, а излишне полагаются на «грубый подход», на свои «лошадиные силы». Является ли это альтернативой мышлению? Или нам нужно расширить границы понятия?

Второе представление, достойное изучения, — полная противоположность первого: что лучший, если не единственный тип мышления — это тот, которым пользуются машины. Например, есть подтверждения тому, что эмоции влияют на мышление человека, и иногда — в лучшую сторону. А еще есть свидетельства, что мы иногда перекладываем собственные мыслительные задачи на свое социальное и физическое окружение, полагаясь на экспертов и на гаджеты, которые поддерживают нашу эффективную связь с миром. Может быть довольно привлекательной идея о том, чтобы отказаться от этой грубой реальности в пользу бесстрастной, самодостаточной сущности, выступающей базовым элементом мышления, — чего-то вроде персонального компьютера, который не чувствует сострадания и может спокойно функционировать в полном одиночестве.

Лучший способ понимания мышления, вероятно, находится где-то между человеческим мыслительным шовинизмом и подходом к построению ноутбуков в 1990-х — это способ, который допускает определенное разнообразие целей и средств, его составляющих. Последние достижения в области искусственного интеллекта уже вынуждают переосмысливать некоторые из наших допущений — не просто заставляют нас думать по-другому и с помощью других инструментов, но иначе думать о самом мышлении.

Вирджиния Хеффернан

Культурный и медийный критик

То, что машинам на откуп отдаются специфические способности смертных — совершать интересные ошибки, размышлять об истине, просить милости у богов с помощью резьбы по дереву и составлять букеты, — та еще трагедия. Но позволить машинам мыслить за нас? Звучит чудесно! Мышление опционально. Мышление — это боль. Почти всегда — необходимость вести себя внимательно, чрезмерно бдительно, негодовать по поводу прошлого и страшиться будущего, и все это в форме раздражающе избыточного внутреннего монолога. Если машины могут избавить нас от столь тягостной бессмыслицы, которая для многих из нас становится непосильной, то я за. Пусть машины беспрестанно дают ответы на нудные, основанные на оценочных суждениях вопросы о том, какая школа «подходит» для моих детей — частная или государственная, о том «уместно» ли вторжение в Сирию, о том, что «хуже» для моего тела — микробы или одиночество. И вот уже мы, свободные люди, вольны играть, отдыхать, сочинять и заниматься резьбой по дереву, то есть посвящать время увлекательным вещам, которые вводят нас в состояние потока, порождая действия, которые обогащают, воодушевляют и исцеляют мир.

Барбара Страук

Бывший научный редактор New York Times; автор книги «Тайны мозга взрослого человека» (The Secret Life of the Grown-up Brain)[83]

Когда я рулю не пойми куда, бездумно выполняя все указания навигатора, установленного на моем смартфоне, и добираюсь до нужного места, я в полном восторге от машин, которые мыслят. Слава богу! Правда-правда!

Но бывают и моменты, когда я еду не пойми куда, а телефон говорит мне с заметной настойчивостью: «Выполните разворот, выполните разворот!» — причем в таком месте на Гранд-Сентрал-Паркуэй, где подобный маневр был бы самоубийством. Тогда я начинаю думать, что мой мозг лучше, чем алгоритм навигатора, поскольку способен предсказать, что такой разворот будет иметь катастрофические последствия. И я смеюсь над этой машиной, часто жизненно необходимой, и чувствую сугубо человеческое самодовольство.

Кроме того, я пребываю в некоторой растерянности. Меня беспокоит, что, полагаясь на навигатор, я позволяю своему мозгу захиреть. Сможет ли он справляться с чтением карт? Важно ли это?

Как научный редактор и дочь инженера-проектировщика, который доверял машинам больше, чем людям, я, наверное, должна была без сомнений занять сторону машин. Но, хотя этот инженер очень хорошо разбирался, как сделать так, чтобы «Апполон» добрался до Луны, у нас дома было полно машин, которые «типа работали»: самодельный проигрыватель, настолько капризный, что приходилось надевать перчатки, прежде чем включить его, чтобы не него не попала вся эта ужасная пыль, и пр. Вокруг нас сейчас полно машин, которые «типа работают». Машин, которые работают, пока не перестают работать.

Мне понятна идея беспилотного автомобиля. Но я освещала крушение «Челленджера». И я все время думаю про эти неразумные развороты. Я не знаю.

С одной стороны, я надеюсь, что революция продолжится. Нам нужны умные машины, чтобы загружать тарелки в посудомойку, чистить холодильник, упаковывать подарки, кормить собаку. «Валяй», — говорю я.

Но можем ли мы в самом деле рассчитывать на то, что машина справится — как мне пришлось только что — с пятью непростыми разговорами с разными коллегами-людьми? С людьми, которые на самом деле хорошие, но у них, понятно, собственные взгляды на то, как все должно быть?

Появится ли у нас когда-нибудь машина, которая убедит двадцать с лишним человек сделать что-то, что, по вашему мнению, им нужно сделать, а по их мнению, делать не надо? Появится ли у нас машина, которая сумеет по-настоящему утешить в предельно неприятной ситуации?