Что мы думаем о машинах, которые думают. Ведущие мировые учёные об искусственном интеллекте - Джон Брокман

В таком свете довольно неоднозначным выглядит вопрос о том, приведет ли появление неспециализированного искусственного интеллекта к быстрому возникновению сверхразумного интеллекта. Все больше специалистов согласны с тем, что создание первого, в сущности, подразумевает скорое появление второго. Хотя я в целом тоже согласен с этим, добавлю одну оговорку: искусственный интеллект в своем развитии может на какое-то время застопориться на почти человеческом уровне, устойчивые формы появятся не сразу, а неспециализированный ИИ даже при некоторой нестабильности должен работать на достаточно высоком уровне, чтобы начать самостоятельно совершенствоваться.

Ни один из вариантов не выглядит слишком уж оптимистичным. Сверхразум, который появится в определенный момент, все же может обладать различными недостатками, даже если будет эффективно справляться с поставленными задачами. Эта догадка, наверное, не сильно отличается от различных сценариев, где сверхразум идет вразнос (прихватывая с собой и нас) из-за отсутствия у него того, что часто называют здравым смыслом. Но здравый смысл — в некотором роде синоним устойчивости, выработавшейся у нас в ходе развития эволюционной и социальной экосистемы.

Так что даже если до возникновения неспециализированного ИИ еще очень далеко, я настроен достаточно пессимистично относительно тех вещей, которые якобы должны случиться сами собой, стоит им у нас появиться. Надеюсь, что я ошибаюсь, но время покажет. (Я не думаю, что мы можем — или что нам в принципе сто́ит — остановить развитие искусственного интеллекта. Он будет способен сделать множество великолепных дел.)

При этом я надеюсь, что по пути к неспециализированному ИИ ученые хорошенько подумают, как значительно снизить вероятность того, что все пойдет не по плану. Я очень расстраиваюсь, когда слышу в контексте, где ставки чрезвычайно высоки, что-то вроде: «Думаю, что произойдет X, так что меня не особо волнует Y». Можно так рассуждать, только если ваша уверенность в X достаточно высока, а Y не суперважен. Но когда вы говорите о том, что может коренным образом повлиять на будущее человечества (или на сам факт его существования), 75 %-ной уверенности недостаточно. Равно как недостаточно 90 %-ной или 99 %-ной! Мы бы никогда не построили Большой адронный коллайдер, если бы существовал 1 % вероятности (не говоря уже о 10 процентах) того, что он действительно породит черные дыры, которые поглотят мир, — наоборот, у нас были совершенно убедительные аргументы против этого. Давайте посмотрим, есть ли такие же аргументы в пользу того, чтобы не беспокоиться по поводу неспециализированного ИИ, и если их не будет, то создадим его.

Эрик Тополь

Профессор геномики; директор Скриппсовского института междисциплинарных исследований; автор книги «Пациент теперь видит вас» (The Patient Will See You Now)

В 1932 году Уолтер Кеннон опубликовал свою выдающуюся работу по физиологии человека — «Мудрость тела» (The Wisdom of the Body). Он описал тесную взаимосвязь множества параметров нашего тела, таких как гидратация, уровень глюкозы и натрия в крови, температура. Гомеостаз, или ауторегуляция, — это замечательное средство, с помощью которого мы сохраняем здоровье. В самом деле, в наших телах есть что-то от машин, когда они так точно регулируют эти важные функции.

Прошло почти столетие, и мы теперь готовы к следующей версии — «Кеннон 2.0». Хотя некоторые выражают заметное беспокойство по поводу развития искусственного интеллекта, он необычайно сильно повлияет на наш контроль над здоровьем. Мы быстрыми темпами идем к тому, чтобы стать киборгами, хирургическим путем связанными со своими смартфонами. Хотя их и называют протезами мозга, «умные» телефоны сегодня — это лишь далекие предвестники того, что нас ждет в будущем. Очень скоро важные медицинские показатели станут измеряться носимыми сенсорами, выполненными в виде пластырей или кулонов. Это будет не просто разовый анализ, но постоянная потоковая обработка в реальном времени, сбор данных, которыми мы никогда раньше не располагали.

Помимо основных жизненных показателей (артериального давления, сердечного ритма, уровня кислорода в крови, температуры, частоты дыхания), будет даваться цифровая оценка настроения и уровня стресса посредством измерения интонации и оттенка голоса, кожно-гальванического рефлекса и вариабельности сердечного ритма, распознавания выражения лица и отслеживания движений и коммуникаций. Добавим сюда анализ веществ, содержащихся в выдыхаемом воздухе, поте, слезах и кале. Еще один уровень данных будет включать такие сведения о внешней среде, как качество воздуха и содержание пестицидов в пище.

Никто из нас — или наших тел — не умен настолько, чтобы отслеживать и обрабатывать всю информацию такого рода. Это работа для глубинного обучения с алгоритмами обратной связи, подключенными к нашим мобильным устройствам. Того, о чем я говорю, пока не существует. Ничего подобного еще не разработано, но это дело времени. И у нас появится нечто ранее недостижимое: многоуровневая информация о нас самих и — впервые в истории — реальная возможность предупредить болезнь.

Практически любую патологию, у которой есть острая фаза, к примеру астму, эпилепсию, аутоиммунные заболевания или сердечный приступ, можно будет спрогнозировать и предотвратить с помощью искусственного интеллекта и медицинского интернета вещей. Уже разрабатываются браслеты, способные обнаруживать признаки неизбежного эпилептического припадка, — это можно рассматривать как первый зачаточный этап. В не столь отдаленном будущем вы будете получать СМС или голосовое сообщение с точным списком того, что и как вам следует сделать, чтобы предотвратить развитие серьезной патологии. Придет время, и те, кто боится искусственного интеллекта, могут вдруг полюбить его. Когда мы объединим большие данные об одном человеке с необходимыми контекстуальными вычислениями и анализом, то получим рецепт опосредованной машиной медицинской мудрости.

Роджер Хайфилд

Директор отдела по внешним связям Science Museum Group; автор, совместно с Мартином Новаком, книги «Суперкооператоры» (Supercooperators)

Десятки лет футурологи беспокоились по поводу возможного наступления того рокового момента, когда электронные мозги и роботы станут настолько же умными, как мы. Такое разделение на «мы» и «они», когда машины и люди представляются отдельно друг от друга, довольно распространено. Но, поскольку мы без конца рассуждаем о том, что́ подразумеваем под человеческим сознанием, а также о возможностях и рисках полностью искусственного разума, существует еще одна возможность, которая заслуживает того, чтобы уделить ей больше внимания.

Миллионы примитивных киборгов уже ходят среди нас. Последние десять лет люди постепенно сливаются с такими устройствами, как кардиостимуляторы, контактные линзы, инсулиновые помпы, кохлеарные и ретинальные импланты. Вживляемые в мозг нейростимуляторы помогают смягчить симптомы заболевания десяткам тысяч пациентов с болезнью Паркинсона.

Этим вряд ли кого-то можно удивить. С тех пор как первые люди взялись за палки и кремни и начали использовать инструменты, мы постоянно дополняем себя. Пройдитесь по собраниям Science Museum Group, состоящим из миллионов вещей — от различных двигателей до смартфонов, и вы увидите, что люди всегда использовали технические достижения. Так что появление еще более умных машин не означает, что в мире должен будет остаться кто-то один, мы или они, — их появление означает развитие человеческих возможностей.