Совместимость. Как контролировать искусственный интеллект - Стюарт Рассел

На машины также распространяются определенные ограничения, налагаемые реальностью на темпы освоения миром новых знаний; это одно из ценных наблюдений Кевина Келли в его статье о сверхупрощенных прогнозах в отношении сверхчеловеческого ИИ[135]. Например, чтобы узнать, лечит ли у подопытного животного данное лекарство определенный вид рака, ученый, будь то человек или машина, выбирает из двух вариантов: ввести животному лекарство и подождать несколько недель или выполнить научно точное моделирование. Моделирование, однако, требует обширных знаний в области биологии, в том числе в настоящее время недоступных, следовательно, сначала пришлось бы поставить эксперименты для построения модели. Без сомнения, это требует времени и должно делаться в реальном мире.

С другой стороны, машина могла бы провести множество экспериментов, необходимых для построения модели, параллельно интегрировать их результаты в согласованную (хотя и очень сложную) модель и сравнить ее предсказания с комплексом экспериментальных данных, доступных биологическим экспериментам. Более того, для этого необязательно квантово-механическое моделирование всего организма вплоть до уровня реакций отдельных молекул — что, отмечает Келли, потребовало бы больше времени, чем эксперименты в реальном мире. Как я могу с определенной уверенностью спрогнозировать, где буду находиться по вторникам в апреле, так и свойства биологических систем можно точно предсказывать на абстрактных моделях, в том числе потому что биология оперирует надежными системами управления на основе комплексных схем обратной связи, и мелкие колебания исходных условий обычно не приводят к крупным отклонениям результатов. Таким образом, хотя маловероятно, чтобы машины сделали научные открытия прямо сейчас, можно ожидать, что с помощью машин наука станет развиваться намного быстрее. Собственно, это уже происходит.

Последнее ограничение машин — они не люди. Это приводит к их объективной слабости при моделировании и предсказании поведения одного специфического класса объектов — людей. Наши мозги очень похожи, соответственно, мы можем ими одинаково пользоваться для того, чтобы моделировать — или, если угодно, переживать — умственную и эмоциональную жизнь других людей. Нам это ничего не стоит. (Если задуматься, машины в отношениях друг с другом имеют еще большее преимущество: они могут буквально выполнять коды друг друга!) Например, мне не нужно быть специалистом по нервным сенсорным системам, чтобы знать, что вы чувствуете, попав молотком по своему пальцу. Машины же должны практически[136] с нуля учиться понимать людей. Они имеют доступ лишь к нашему внешнему поведению, ко всей литературе по нейронауке и психологии и на этой основе должны выработать понимание того, как мы функционируем. По идее, им это по силам, но разумно предположить, что это займет у них больше времени, чем освоение всех остальных возможностей.

Благодаря интеллекту мы имеем цивилизацию. Получив доступ к более сильному интеллекту, мы могли бы построить более великую — и, возможно, лучшую — цивилизацию. Можно размышлять о решении крупнейших проблем, стоящих перед человечеством, например бесконечном удлинении жизни или открытии способа путешествия со сверхсветовой скоростью, но эти символы научной фантастики пока не являются движущей силой прогресса в разработке ИИ. (Благодаря сверхинтеллектуальному ИИ мы, вероятно, смогли бы изобрести всевозможные почти волшебные технологии, но сейчас их трудно конкретизировать.) Лучше рассмотрим намного более прозаическую цель: повышение уровня жизни каждого землянина устойчивым образом до такого уровня, который считался бы весьма достойным в развитой стране. В силу выбора (отчасти произвольного) характеристики «достойный» для обозначения 88 % самых благополучных жителей Соединенных Штатов указанная цель предполагает почти десятикратный рост глобального валового национального продукта (ВНП), с $76 трлн до $750 трлн в год[137].

Чтобы подсчитать ценность подобного достижения, экономисты используют чистую приведенную стоимость дохода, учитывающую дисконт будущего дохода относительно настоящего. Дополнительный доход в $674 трлн в год имеет чистую приведенную стоимость около $ 13 500 трлн[138] при предполагаемой величине дисконта в 5 %. Итак, в самом грубом приближении это ориентировочный показатель того, что стоил бы ИИ человеческого уровня, если бы смог обеспечить достойный уровень жизни каждому. При подобных цифрах неудивительно, что компании и страны вкладывают десятки миллиардов долларов в год в исследование и разработку ИИ[139]. Тем не менее инвестиции ничтожны в сравнении с выгодой.

Конечно, все это лишь умозрительные цифры, пока у кого-нибудь не появится идея, как ИИ человеческого уровня мог бы достичь цели повышения уровня жизни. Он сможет это сделать, только увеличив среднедушевое производство товаров и услуг. Иначе говоря, не приходится ожидать, что средний человек мог бы потребить больше, чем производится средним человеком. Пример автономных такси, приведенный ранее в этой главе, иллюстрирует мультипликативный эффект внедрения ИИ: при наличии автоматической службы десять (скажем) человек могли бы управлять армадой из тысячи транспортных средств, так что один человек производил бы в сто раз больше услуг по транспортировке, чем прежде. То же самое можно сказать о производстве автомобилей и добыче материалов, из которых эти автомобили изготавливаются. Кстати, добыча железной руды в некоторых шахтах северной Австралии, где температура регулярно превышает 45 °C, уже сейчас почти полностью автоматизирована[140].