Технологии против человека - Герд Леонгард

Нам необходимо срочно задать себе вопрос, действительно ли мы хотим заменить наши врожденные человеческие чувства и возможности обещанием совершенных функциональных возможностей машины и постепенно потерять сам смысл человеческого бытия? Мы можем в конечном итоге сделать окружающие нас вещи чрезвычайно эффективными, но лишим себя всех целей.

Что делать, если только самые богатые 2 % людей получат доступ к новым генетическим методам лечения, которые обещают резкое продление жизни и долголетие, в то время как у остальных не будет такой возможности? Возникнет ли еще больше гражданских беспорядков и терроризма из-за еще более глубокого неравенства, обусловленного экспоненциальными технологическими достижениями? Только представьте, что произойдет, если появится такое «ДНК-исправление» старения, но только миллионеры смогут позволить себе оздоровительные процедуры, чтобы дожить до 150 лет, в то время как все остальные будут жить более или менее столько, сколько обычно. Кажется очевидным, что наши нынешние этические парадигмы не могут ответить на эти дилеммы под давлением привычного капитализма и ожиданий фондового рынка.

Жизнь вне алгоритма

Итак, что мы можем сделать с технологиями, взявшими на себя руководство там, где не должны? Как мы можем защитить себя от того, чтобы просто стать объектами подпитываемой ботами гиперэффективности, вскармливая гигантский ИИ, который, в свою очередь, диктует нам, как жить, и говорит, что мы больше не можем делать?

Нам необходимо как можно чаще задавать себе вопрос, делаем ли мы что-то, потому что оно неэффективно для машин или потому что оно позитивно для пользователей. Мы должны задавать себе этот вопрос, когда голосуем за новые законы, когда начинаем бизнес и когда отдаем наши деньги технологическим компаниям. Голосование своим кошельком – это мощный инструмент, который потребители используют недостаточно, когда речь идет о цифровой этике. По иронии судьбы, с технологиями это право будет все легче реализовать.

Этический вопрос, вопрос о цели и значении, нужно задавать перед вопросом о целесообразности и стоимости. В будущем главный вопрос в сфере технологий будет не о том, можно ли что-то сделать, а о том, почему, когда, где и кем это должно быть сделано.

Как вариант, можно просто говорить «нет», чаще отказываться от участия, отвергать технологии и процессы, приложения и программное обеспечение, которые явно не подходят для использования человеком, а просто усиливают мощность алгоритмов. Может быть, нам нужно создать наклейку для предупреждения о вреде здоровью или штамп, как на сигаретных пачках сегодня, которые будут сообщать нам, что программа, приложение или устройство «точно не способствует дальнейшему человеческому счастью».

Хотя эффективность и увеличение прибыли иногда являются достойной целью и в конечном счете одним из краеугольных камней капитализма, мы не должны использовать технологии для распространения примитивных убеждений, которые предполагают, что эффективность существует только для того, чтобы быть самой важной и достойной человеческой целью. Это машинное мышление, которое не будет служить нам в долгосрочной перспективе.

В то время, когда нужно радоваться большей части колоссальных перемен, появившихся на горизонте, – например, работать ради удовольствия, а не ради денег, – ряд основных привилегий, которые мы принимали как должное – например, свобода выбора в потреблении и свобода воли при выборе образа жизни, – могут стать рудиментарными отголосками или заповедниками для чрезвычайно богатых людей.

Рай это или ад?

Как я писал в 2016 году, мы уже на том этапе, когда многое из того, что раньше считалось научной фантастикой, становится научным фактом.

Мы уже сталкиваемся в жизни с научной фантастикой, а иногда и с негативными последствиями выбора предыдущих поколений: автоматизированный перевод, практически беспилотные автомобили, нанороботы в кровеносной системе, искусственный интеллект, который может вести кибервойны в наших интересах, и холодильники, которые разговаривают со смартфонами, которые, в свою очередь, отправляют данные нашим врачам.

Давайте перенесемся в 2030 год, представим возможные перспективы для мира, который изменят экспоненциальные технологии, и подумаем, какими могут быть варианты развития событий адского рая. Ниже приводится хронология возможных вариантов развития событий на период до 2030 года.

2020: гиперсвязанность и гиперманипуляция

Поскольку сейчас все является гиперсвязанным, все десять основных глобальных мозгов – ранее известных как интернет-платформы и медиакомпании – используют алгоритмы для измерения и определения того, что я должен увидеть, когда и как.

Еще в 2016 году всеми любимая небольшая компания под названием Facebook использовала алгоритмы для подбора новостей, идеально соответствующих моему профилю, чтобы обеспечить мое как можно более длительное взаимодействие с платформой, ограждая меня от враждебных мнений и негативных сообщений.

Сегодня, когда шесть миллиардов людей «всегда на связи» по всей планете, мы все постоянно видим различную информацию и контент. Мы взаимодействуем с этими платформами с помощью дополненной и виртуальной реальности и голографических экранов или с помощью интеллектуальных цифровых помощников и ботов, старомодных приложений и того, что раньше называлось веб-сайтами. В 2020 году традиционные веб-сайты исчезнут так же быстро, как автомобили с бензиновым двигателем, потому что ИИ в облаке теперь делает работу за нас, а ему не нужны привлекательные графические интерфейсы или толковый дизайн.

Редакторы-люди тоже попрощаются с нами, потому что массивы больших данных, умные облака и искусственный интеллект оказались гораздо более эффективными, популярными и почти бесплатными. Кроме того, они ни на что не возражают – и рекламодатели, бренды и политические партии могут более эффективно использовать эти системы и расходовать свои маркетинговые бюджеты.

Алгоритмы прогнозирования помогают предотвратить преступления. Используя общедоступные каналы данных полиции, дорожного движения, общественных работ, социального обеспечения и отделов планирования, города могут определить проблемные места. В дальнейшем они могут перекрестно ссылаться на эту информацию с данными, взятыми из каналов социальных сетей, писем, беспроводной передачи информации и многого другого. ИИ анализирует данные, обнаруживает новые взаимосвязи и предлагает меры, которые могут предотвратить совершение преступлений: увеличение числа полицейских патрулей, изоляция рецидивистов или оповещение потенциальных преступников о том, что за ними ведется слежка.

В 2020 году мир станет гиперсвязанным, автоматизированным, гиперумным – и все будут в выигрыше.

2022: мой лучший друг – в облаке

Множество индивидуальных цифровых помощников и программных ботов живут в облаке, заботясь о выполнении множества повседневных задач.

• Больше не нужно искать лучшие рестораны или отели – наши туристические боты уже сделали это для нас.